ديسكورد تعترف: خلل في الذكاء الاصطناعي تسبب في حظر مستخدمين دون وجه حق

أقرت منصة ديسكورد (Discord)، الرائدة في مجال التواصل الاجتماعي، بوقوع خلل تقني في نظام الإشراف الخاص بها والمُدار عبر الذكاء الاصطناعي، مما أدى إلى حظر عدد كبير من المستخدمين بشكل خاطئ. نشأت المشكلة نتيجة لفرط حساسية خوارزميات الذكاء الاصطناعي المصممة لرصد المحتوى المحظور، حيث قامت تلك الأنظمة بتصنيف صور عادية وبريئة على أنها انتهاكات لسياسات أمان المنصة. وقد عبر العديد من المستخدمين المتضررين عن استيائهم عبر منصات التواصل الاجتماعي، بعد أن فوجئوا بتعليق حساباتهم دون توضيح كافٍ من قبل إدارة المنصة. وفي بيان رسمي صدر عقب تزايد الشكاوى، أكد الفريق الهندسي في ديسكورد أن أداة الإشراف الآلي فشلت في التمييز بدقة بين الصور الشخصية العادية والمحتوى غير المتوافق مع معايير المجتمع. وقد قامت الشركة فوراً بإلغاء التحديث المسؤول عن هذا الخطأ، مشيرة إلى أنها تعمل حالياً على إعادة تفعيل الحسابات التي تأثرت بهذا الخلل التقني. تُسلط هذه الحادثة الضوء على التحديات المتزايدة التي تواجهها شركات التكنولوجيا الكبرى عند الاعتماد بشكل مكثف على الإشراف الآلي عبر الذكاء الاصطناعي. ورغم أن هذه التقنيات ضرورية لإدارة أحجام البيانات الضخمة، إلا أن غياب الرقابة البشرية الكافية قد يؤدي إلى أضرار غير مقصودة لمستخدمي المنصة. وتعهدت ديسكورد بإجراء مراجعة شاملة لبروتوكولات الإشراف الخاصة بها لضمان عدم تكرار مثل هذه الأخطاء مستقبلاً، مؤكدة أن تجربة المستخدم تظل على رأس أولوياتها. ويرى خبراء الأمن السيبراني أن هذه الواقعة تُعد تذكيراً صارخاً بالمخاطر المرتبطة بتفويض قرارات الإشراف المعقدة بالكامل لنماذج التعلم الآلي.