شرطة المحتوى وظيفة تكنولوجية لا يهددها الذكاء الاصطناعي

أثارت تقنيات الذكاء الاصطناعي ضجة كبيرة مؤخرا حول اكتساحها جميع المجالات، إلا أنه وعلى غير المتوقع لم تستطع القيام بمهمة مراقبة المحتوى غير الملائم في قلب شركات التكنولوجية المروّجة لها، ما جعل هذه الشركات تستعين بجيوش بشرية للقيام بوظيفة “شرطي المحتوى”.
السبت 2018/01/20
خطاب الكراهية وجد بيئة خصبة في مواقع التواصل

لندن - تناوبت شركات الإنترنت الكبرى مؤخرا على الإعلان عن توظيف مراقبي محتوى بعد الضغوط المتزايدة عليها من قبل حكومات سئمت وقوف هذه الشركات عاجزة أو غير عابئة بوقف مدّ المحتوى المتطرف وخطاب الكراهية والفيديوهات الإباحية للأطفال على منصاتها.

ورغم تصاعد الحديث عن هيمنة الروبوتات والذكاء الاصطناعي على الوظائف وتهديدها لعشرات الآلاف من العمال بفقدان وظائفهم، إلى أن “شرطة المحتوى” تبدو بمنأى عن هذا التهديد، حتى الآن على الأقل.

وأعلنت شركتا غوغل وفيسبوك، هذا الأسبوع عن نيتهما إنشاء وظيفة جديدة، وتعيين مسؤول سيحمل مسمى وظيفي “شرطي محتوى”. وتستهدف فيسبوك وغوغل من تلك الوظيفة التعامل مع أكثر القوانين المرهقة، التي تجبر فيسبوك وتويتر ويوتيوب على ضرورة الامتثال إلى قوانينها.

وسيكون من مسؤوليات “شرطي المحتوى” مراقبة كافة المحتوى المنشور على النسخ الألمانية من منصات التواصل، وتحديد “المحتوى غير القانوني” وتنبيه الإدارة الرئيسية لحظره. ومن المتوقع أن تعيّن فيسبوك، وحدها أكثر من 1200 “شرطي محتوى” لمراقبة المحتوى “غير القانوني” على النسخة الألمانية من موقعها.

وهي الخطوة الثانية لفيسبوك بعد أن أعلنت عن خطة لتعيين أكثر من ألف موظف، لمراقبة المحتوى على الشبكة، في إطار جهود لردع روسيا وغيرها من الدول، عن استخدام شبكة التواصل الاجتماعي للتدخل في انتخابات الدول الأخرى. حيث قالت إنها تعتقد أن عناصر في روسيا اشترت نحو 3 آلاف إعلان مثير للانقسام على شبكتها بالولايات المتحدة، في الشهور السابقة لانتخابات الرئاسة الأميركية في نوفمبر، وما بعدها.

ومنذ الكشف عن ذلك، واجهت فيسبوك تساؤلات ودعوات لوضع الجهات المعنية في الولايات المتحدة قواعد منظمة. وحدد الرئيس التنفيذي للشركة، مارك زوكربيرغ، الخطوات التي تعتزم اتخاذها لردع الحكومات عن إساءة استخدام أكبر موقع للتواصل الاجتماعي في العالم.

يوتيوب طور برنامجا آليا يرصد مقاطع الفيديو المتصلة بالتطرف ويسعى الآن لعمل الأمر نفسه مع المقاطع التي تجسّد خطاب كراهية أو لا تلائم الأطفال

وتواجه شركات التقنية الكبرى غرامات كبرى، منذ بداية يناير وصلت إلى أكثر من 60 مليون دولار أميركي، لأنها أخفقت من حذف محتوى “غير قانوني” عبر منصاتها، بدءًا من القذف والتشهير، إلى الدعاية لـ”النازيين الجدد”، وحتى الدعوة إلى العنف والإرهاب.

ويحمّل القانون الألماني منصات التواصل الاجتماعي، مسؤولية تنظيف مواقعها من أي محتوى “غير قانوني” أكثر من الصحف ووسائل الإعلام، التي نشرت ذلك المحتوى، بعكس القانون الأميركي، الذي لا يحمل مواقع التواصل تلك المسؤولية.

ولا يمكن لهذه الشركات الآن التعويل على تقنيات الذكاء الاصطناعي لمراقبة المحتوى، إذ سبق لخبراء اتصال أن أعربوا عن استيائهم من حذف المحتوى عبر هذه التقنيات، إذ لا تستطيع تحديد طبيعة المحتوى بدقة وقد طال الحذف محتوى مفيدا،

حيث قام موقع يوتيوب، على سبيل المثال، بحذف الآلاف lk الفيديوهات التي كان بالإمكان استخدامها لتوثيق الفظائع التي ارتُكبت في سوريا.

وذكرت صحيفة نيويورك تايمز الأميركية أن من شأن حذف تلك الفيديوهات أن يعيق محاكمة مرتكبي الفظائع بجرائم حرب في المستقبل. وذلك بعد أن أدخلت الشركة تقنية للتعرف على المحتوى والتبليغ عنه وإزالته آليا إذا كان ينطوي على انتهاك للإرشادات. وقد أُعيدت بعض مقاطع الفيديو بعد أن أبلغ منتجوها الموقع.

وكانت شركة يوتيوب تعتمد في السابق على مستخدمي موقعها وشبكة من المراقبين الموثوق بهم للإبلاغ عن أي مادة غير لائقة، ثم تُرتب بطريقة حسابية خوارزمية حسب الأولوية قبل إخضاعها لمراجعة بشرية، وتطبق هذه التقنية الجديدة نظام “التعلم الآلي” الذي يحدد مقاطع الفيديو التي تحتوي على “مواد متطرفة” ويتولى ترتيبها حسب الأولوية لمراجعتها.

ورغم أن معظم المقاطع تخضع للمراجعة البشرية قبل إزالتها، فإن متحدثة باسم يوتيوب قالت إن التقنية قد تحذف فيديوهات بطريقة آلية وترسل تحذيرات لمنتجي المحتوى.

وبعد انتقادات عديدة، اتخذت شركة يوتيوب قرارا بزيادة عدد الموظفين لمراقبة المحتوى غير الملائم.

وقالت سوزان وجسيكي الرئيسة التنفيذية ليوتيوب في منشور على مدوّنة، إن الهدف هو رفع عدد العاملين في غوغل لفحص المحتوى الذي قد ينتهك سياساتها إلى “جيش” يتألف من أكثر من 10 آلاف شخص في 2018.

التهديدات التي تواجه برنامجنا ستتطور وتتغير، لذلك فإن أساليب الإنفاذ لدينا يجب أن تتطور وستستجيب للرد عليها

وأضافت وجسيكي “نحتاج أسلوبا أفضل لتحديد القنوات ومقاطع الفيديو المؤهلة للإعلان. استمعنا بوضوح لصانعي المحتوى وينبغي أن نكون أكثر دقة عندما يتعلق الأمر بمراجعته بحيث لا نلغي مقاطع فيديو بطريق الخطأ”.

وأشارت إلى أن الشركة ستتخذ “إجراءً حاسما بشأن التعليقات وستطلق أدوات جديدة لتعديل التعليقات وفي بعض الحالات ستغلق التعليقات تماما”. وأضافت “بما أن التهديدات التي تواجه برنامجنا ستتطور وتتغير، فإن أساليب الإنفاذ لدينا يجب أن تتطور وستستجيب للرد عليها”.

وطوّر يوتيوب برنامجا آليا يرصد مقاطع الفيديو المتصلة بالتطرف ويسعى الآن لعمل الأمر نفسه مع المقاطع التي تجسّد خطاب كراهية أو لا تلائم الأطفال. وقد يُحرم أصحاب المقاطع التي يصنّفها البرنامج غير ملائمة من إيرادات الإعلانات.

وإلى جانب المزيد إلى الآلاف من مراجعي المحتوى سيكون لدى يوتيوب المزيد من البيانات لإمداد وربما تحسين برنامجه.

وتأتي سياسة يوتيوب الجديدة بعد أشهر من الاتهامات المستمرة بأن الأطفال يشاهدون بشكل غير منتظم ومحتوى لم يكن مناسبا تماما لفئتهم العمرية.

ومن الأمثلة الأخيرة على أشرطة الفيديو هذه شخصيات ديزني يطلقون رشاشات نارية على شخصيات شعبية، وفيديوهات التعذيب والفيديوهات العنيفة والإباحية.

وقالت وجسيكي “لا يزال المراجعون البشريون ضروريين في إزالة المحتوى وتدريب أنظمة التعلم الآلي لأن الحكم البشري أمر بالغ الأهمية لاتخاذ قرارات حول المحتوى”.

وكان القائمون على الشؤون الإنسانية في موقع يوتيوب، مسؤولين عن مراجعة ما يقرب من مليوني مقطع فيديو لمحتوى متطرف عنيف في الأشهر الستة الماضية وحدها. وقالت وجسيكي أن 180 ألف شخص كان عليهم أن يعملوا 40 أسبوعا لتقييم نفس الكمية من المحتوى.

وتابعت “في يوم من الأيام، ربما تكون الآلات قادرة على تصفية جميع المحتويات غير اللائقة، ولكن حتى ذلك الحين، فإن جيش يوتيوب الجديد من المشرفين نأمل أن يكون قادرا على المراقبة والإدارة المشددة”.

18