الاثنين 11 ديسمبر/كانون الاول 2017، العدد: 10839

الاثنين 11 ديسمبر/كانون الاول 2017، العدد: 10839

الذكاء الاصطناعي عنصري ومتحيز

باحثون يؤكدون أن البرامج التي تنهل من لغة الإنسان تكتسب 'تمثيلا دقيقا للغاية عن العالم والثقافة'.

العرب  [نُشر في 2017/04/20، العدد: 10608، ص(19)]

تحيّز بشري

واشنطن – أثبتت دراسة نشرت بتاريخ 12 أبريل الجاري، في مجلة “ساينس” العلمية أن الذكاء الاصطناعي “عنصري ومتحيز”. وقالت إنه من الممكن أن يتبنّى أي برنامج ذي ذكاء اصطناعي، أثناء تعلّمه للغة البشر، المواقف المنحازة ذاتها التي يتخذها الإنسان.

وفي هذا الصدد، صرحت الباحثة في علوم الكمبيوتر في جامعة برينستون، أيلين كالسكان، لموقع “لايف ساينس” أنه “كان من المدهش أن نرى جميع النتائج التي تم تضمينها داخل هذه النماذج، ومن المثير للاهتمام أنه حتّى أجهزة الذكاء الاصطناعي التي تم تدريبها على نصوص كان من المفترض أنها محايدة، على غرار تلك التي تظهر في موقع ويكيبيديا أو المقالات الإخبارية، جاءت لتعكس التحيّز البشري المشترك”.

وأجرى الباحثون تجارب على نظام التعلم الآلي الذي يُستخدم على نطاق واسع والذي يُطلق عليه اسم “غلوف” الذي يستخدم كأداة لاستنباط تداعي المعاني في النصوص التي يتم تجميعها من الشبكة العنكبوتية العالمية.

فضلا عن ذلك، تعمل أداة تعرف “باختبار الارتباط الضمني” على توظيف خاصية رد الفعل المرتبط بمدة زمنية معينة لتبرهن على الصلة بين مختلف الكلمات. فعلى سبيل المثال، تتم ملاءمة الأزهار بالمفاهيم الإيجابية، فيما ترتبط الأسلحة بسرعة كبيرة بمفاهيم سلبية.

وفي هذا الصدد، أظهرت عدّة اختبارات متوفرة على موقع “بروجيكت أمبليست” أن الأشخاص غالبا ما يميلون إلى ربط الأسلحة تلقائيا بالأميركيين السود مقابل ربط الأشياء غير المؤذية بالأميركيين البيض. وقد أفاد الباحثون أن نتائج هذه الاختبارات قد فتحت باب النقاش على مصراعيه.

وأثارت النتائج قلق الباحثين حين أظهرت الأداة أسماء الأميركيين من أصل أوروبي على أنها أكثر جاذبية من أسماء الأميركيين من أصل إفريقي.

وفي هذا الصدد، أوضحت كالسكان، أن البرامج التي تنهل من لغة الإنسان تكتسب “تمثيلا دقيقا للغاية عن العالم والثقافة”.

فضلا عن ذلك، يعجز الذكاء الاصطناعي على استيعاب السياق الذي لا يجد البشر عادة صعوبة في فهمه. فعلى سبيل المثال، من المرجح أن يرتبط مقال عن “مارتن لوثر كينغ”، الذي سجن على خلفية مشاركته في الاحتجاجات المطالبة بالحقوق المدنية في برمنغهام بولاية ألاباما سنة 1963، بالكثير من الكلمات السلبية عن الأميركيين من أصل أفريقي. وفي الوقت الذي سيفسر فيه الإنسان هذه القصة بشكل معقول، باعتبارها واحدة من المسيرات الاحتجاجية الاستثنائية التي قادها بطل أميركي، سيربط الكمبيوتر “السجن” بفئة الرجال السود وسيضيف هذا التصنيف إلى رصيده.

:: اقرأ أيضاً

:: اختيارات المحرر