فيسبوك يحارب الدعاية الإرهابية بالمحتوى المتطرف

شكوى ضد فيسبوك لأنها تستخدم عن غير قصد الدعاية من قبل الجماعات المسلحة لإنشاء مقاطع فيديو وصفحات.
الجمعة 2019/05/10
الذكاء الاصطناعي لفيسبوك

تسعى شركة فيسبوك إلى إعطاء انطباع بأنها تسبق المتطرفين والمتشددين بخطوة من خلال حذف منشوراتهم ومشاركاتهم حتى قبل أن يراها المستخدمون، في حين أن هذا المحتوى الذي تستعرضه للتباهي يتسلل عبر شبكة الخوارزمية بحيث يسهل العثور عليه على صفحات شبكتها.

واشنطن - يبدأ مقطع فيديو على موقع فيسبوك بظهور صورة للأعلام السوداء الخاصة بالجهاديين. ثم تظهر منشورات عام كامل؛ مثل لوحات من آيات معادية للسامية، وأحاديث عن الانتقام، وصورة لرجلين يحملان أعلاما جهادية كثيرة بينما يحرقان صور النجوم والشعارات.

لم يُنشر هذا المقطع من قبل المتطرفين، لكن موقع فيسبوك نشره كطريقة للترويج الذكي. حيث تأخذ الشركة محتوى مستخدم لمدة عام كامل وتقوم تلقائيا بإنشاء فيديو احتفالي. ثم يختتم الفيديو بجملة “شكرا لكونك هنا” ثم تظهر فقاعة كرتونية تسبق شعار الشركة الأشهر “علامة الإعجاب”.

وتهدف شركة فيسبوك إلى إعطاء انطباع بأنها تسبق المتطرفين بخطوة من خلال حذف منشوراتهم ومشاركاتهم، حتى قبل أن يراها المستخدمون.

لكن شكوى سرية وصلت إلى لجنة الأوراق المالية والبورصة تزعم أن شركة التواصل الاجتماعي قد بالغت في تقدير نجاحها. والأسوأ من ذلك، أن الشركة تستخدم عن غير قصد دعايات الجماعات المسلحة لإنشاء مقاطع الفيديو وصفحات يمكن أن تستخدم للتواصل من قبل المتطرفين.

ووفقا للشكوى، راقب الباحثون صفحات المستخدمين الذين ينتمون إلى مجموعات صنفتها وزارة الخارجية الأميركية بأنها منظمات إرهابية خلال فترة خمسة أشهر من العام الماضي. وفي تلك الفترة، تم حذف 38 بالمئة من المنشورات التي تحمل رموزا بارزة للجماعات المتطرفة.

وفي مراجعة خاصة لوكالة أسوشييتد برس وجدت أنه اعتبارا من الشهر الحالي، فإن جزءا كبيرا من المحتوى المحظور الذي ورد ذكره في الدراسة -مقاطع فيديو لعمليات إعدام، صور لرؤوس مقطوعة، دعاية لتكريم مجاهدين استشهدوا- تسلل عبر شبكة الخوارزمية بحيث يسهل العثور عليه على صفحات موقع التواصل الاجتماعي.

وتأتي هذه الشكوى بينما تحاول شركة فيسبوك أن تتجنب مجموعة متزايدة من الانتقادات بشأن ممارسات الخصوصية المتعلقة بها وقدرتها على إبقاء خطاب الكراهية وعمليات القتل التي تبث على الهواء مباشرة والانتحار خارج خدمتها. وتحدث مارك زوكيربرغ الرئيس التنفيذي لشركة فيسبوك عن اعتزازه بقدرة الشركة على حذف منشورات عنيفة تلقائيا باستخدام تكنولوجيا الذكاء الاصطناعي.

وقال زوكيربرغ في مكالمة الشهر الماضي “في مجالات مثل الإرهاب، بالنسبة للمحتوى المرتبط بتنظيمي القاعدة وداعش، تقوم أنظمتنا بحذف حوالي 99 بالمئة من المحتوى بشكل استباقي قبل أن يراه أي شخص آخر”.

ولم يقدم زوكيربرغ تقديرا لمقدار المحتوى الذي تم حظره. ولكن تشير الأبحاث التي استندت إلى شكوى هيئة الأوراق المالية والبورصات إلى أنها ليست بالقدر الذي أشارت إليه فيسبوك.

وتهدف الشكوى إلى تسليط الضوء على القصور الذي يحدث في هذا الشأن. وفي العام الماضي، بدأ الباحثون في مراقبة المستخدمين الذين عرّفوا أنفسهم صراحة كأعضاء في الجماعات المتطرفة. هذا لم يكن من الصعب توثيقه. حتى أن بعض هؤلاء الأشخاص يدرجون الجماعات المتطرفة كأرباب عمل لهم.

وتعترف شركة فيسبوك بأن أنظمتها ليست مثالية، لكنها تقول إنها تقوم بعمل بعض التحسينات. وقالت في بيان “بعد القيام بعمل استثمارات ضخمة نكتشف ونزيل محتوى الإرهاب بمعدل نجاح أعلى بكثير مما كان عليه الحال قبل عامين. نحن لا ندّعي أننا نستطيع العثور على كل شيء ونظل متيقظين خلال جهودنا ضد الجماعات الإرهابية في جميع أنحاء العالم”.

وتفيد فيسبوك بأنها وظفت الآن 30 ألف شخص يعملون على خاصيات الأمان والسلامة، ويقومون بمراجعة المواد والمنشورات التي قد تكون ضارة وأي شيء آخر قد لا ينتمي إلى الموقع.

ومع ذلك، فإن الشركة تضع الكثير من ثقتها بالذكاء الاصطناعي وقدرة أنظمتها على التخلص من الأشياء السيئة في النهاية دون مساعدة البشر. ولكن يشير البحث الجديد إلى أن هذا الهدف ما زال بعيد المنال.

ويقول هاني فريد، خبير التحاليل الرقمية الجنائية في جامعة كاليفورنيا، بيركلي، الذي يقدم المشورة لـ مشروع مكافحة التطرف، وهي مجموعة مقرها نيويورك ولندن تركز على مكافحة الرسائل المتطرفة، إن نظام الذكاء الاصطناعي الخاص بشركة فيسبوك قد فشل في إنجاز تلك المهمة على أكمل وجه. ويضيف أيضا إن الشركة ليست لديها دوافع لمعالجة المشكلة لأنها ستكون مكلفة. وأضاف “البنية التحتية بأكملها بها عيوب أساسية”.

وتعتمد إدارة فيسبوك ممارسة أخرى، إذ تستقطب معلومات التوظيف الخاصة بالمستخدمين لإنشاء صفحات أعمال من خلالها. من المفترض أن تقوم هذه الوظيفة بإنتاج صفحات مخصصة لمساعدة الشركات على التواصل، ولكن في الكثير من الحالات، تعمل كوسائل تربط بين المجموعات المتطرفة. وقد أتاحت هذه الممارسة لمستخدمي فيسبوك الإعجاب بالصفحات التي تم إنشاؤها من أجل تنظيمي القاعدة وداعش وحركة الشباب الصومالية وغيرها، مما يوفر فعليا قائمة عريضة من المتعاطفين مع هؤلاء المجندين.

وتواجه فيسبوك أيضا تحديا مع مجموعات الكراهية الأميركية. حيث حدد الباحثون في شكوى هيئة الأوراق المالية والبورصة أكثر من 30 صفحة تم إنشاؤها تلقائيا لمجموعات التطرف من ذوي البشرة البيضاء، والتي تحظر فيسبوك محتوياتها، وتشمل “الحزب النازي الأميركي” و”الإمبراطورية الآرية الجديدة”، وصفحة ”مقر الإخوان الآريين” تضع علامة على الخارطة تحدد موقع المكتب.

18