من سيعلم الذكاء الصناعي الأخلاق

يكاد الذكاء الصناعي يغزو كل أبعاد حياتنا اليومية، لكن رغم أنه ذكي صناعيا فإنه مازال يعاني من “غباء أخلاقي” يحتاج إلى تعليمه من البداية قيما إنسانية بحتة. وقد تجمعت شركات تكنولوجية كبرى لتنفيذ هذا الهدف، لكن هل ستنجح في النهاية؟
الثلاثاء 2016/10/11
من سيعلم السيارة عدم التضحية بالأطفال في المواقف الحرجة

أعلن قبل أسبوع عن تشكيل منظمة جديدة تعنى بأمور الذكاء الصناعي من قبل خمس شركات تعتبر من عمالقة وادي السيليكون، وهي غوغل وفيسبوك وأمازون واي بي أم ومايكروسوفت. وتعتبر هذه الشركات الخمس شركات متنافسة في مجال تطوير الذكاء الصناعي، وترى كل واحدة منها الأخرى خصما تكنولوجيا وغريم سوق، وعادة ما تقوم كل شركة بتطوير خططها المستقبلية وأبحاثها بسرية مطلقة وبعيدا عن أعين الشركات الأخرى، لكنها وجدت من الضروري أن تشترك معا في تشكيل المنظمة الجديدة التي تسمى “شراكة الذكاء الصناعي” (Partnership on AI).

وستكون مهمة المنظمة الجديدة الرئيسية إجراء البحوث ووضع ضوابط وأسس ومبادئ ومُثل عليا في كل ما يتعلق بمستقبل الذكاء الصناعي. ستجتمع هذه الشركات بشكل منتظم، تاركة المنافسة جانبا، لمناقشة آخر تطورات الذكاء الصناعي. شعار المنظمة الجديدة هو “شراكة من أجل خدمة الناس والمجتمع”، وكما تعلن على صفحتها الرئيسية على موقعها على الإنترنت “تأسست لدراسة وتحديد ضوابط بخصوص أفضل الممارسات للذكاء الصناعي، وتعزيز فهم الجمهور، ولتكون بمثابة منصة مفتوحة للنقاش والمشاركة في كل ما يتعلق بالذكاء الصناعي وتأثيره على الناس والمجتمع”.

غالبية الناس عرفت الذكاء الصناعي من خلال أفلام الخيال العلمي في هوليوود، حتى باتت تتخيل أن لقاءها مع الذكاء الصناعي سيكون على شاكلة الرجل الآلي الخارق

هذه الشراكة التي اعتبرها خبراء الذكاء الصناعي “الفرصة التاريخية”، لأنها قد تؤدي إلى إنتاج أنظمة ذكاء صناعي قادرة على العمل بشكل “آمن وعادل” حسب مجلة وايرد Wired المتخصصة، ستمكن سيارات ذاتية القيادة من أن تكون قادرة على اختيارات أخلاقية، وأيضا تحديد كيفية استخدام الذكاء الصناعي في معالجة الأمراض، وتحديد ماهية الأسس والضوابط الأخلاقية التي تحكم ذلك.

ويقول مصطفى سليمان، أحد مؤسسي شركة الذكاء الصناعي “العقل العميق” DeepMind والمملوكة لغوغل، “التأثير الإيجابي للذكاء الصناعي على حياة البشر لن يعتمد فقط على نوعية وجودة الخوارزميات المستعملة بل على درجة المشاركة من الجميع ومناقشة الأخلاقيات المتعلقة بدرجة عالية من الشفافية”.

ذكاء الخيال العلمي

عرفت غالبية الناس الذكاء الصناعي من خلال أفلام الخيال العلمي في هوليوود، حتى باتت تتخيل أن لقاءها مع الذكاء الصناعي سيكون على شاكلة الرجل الآلي الخارق من فيلم “تيرمنيتر” أو على شاكلة الشبكة التي تستعبد البشرية مثل “سايبرنيت” في فيلم “الماتريكس”. هذه الأفلام صورت الذكاء الصناعي كقوة ظلامية هائلة تظهر فجأه وغالبا دون مقدمات لتهدد وجود البشر على كوكب الأرض أو في كواكب أخرى متخيلة. عادة في السيناريو الهوليوودي، تكون هناك مجموعة من البشر تقرر الدفاع عن الإنسانية فتحارب حتى الموت وتنتصر على الذكاء الصناعي، وغالبا ما تكون الميزة التي مكنتهم من الانتصار هي قصة حب بين البطل والبطلة لم يستطع الذكاء الصناعي اكتشاف وجودها أو فهمها أو التنبؤ بها لكونها أمرا إنسانيا خالصا ولا علاقة للآلة به.

حتى الآن تبقى السيناريوهات الهوليوودية مستبعدة، أو لنقل خطرها ليس محدقا بعد، ولكن الذكاء الصناعي فعلا موجود بيننا الآن، وسيزداد انتشارا في السنوات القادمة. قريبا سنشاهده يقود السيارات في شوارع مدننا، فمن سيحدد له كيف يتصرف وكيف يتخذ القرارات؟ فمثلا إن كانت هناك طفلة أمام السيارة، ولم يكن هناك إلا خياران: إما قتل الطفلة بأن تصدمها سيارة الذكاء الصناعي وإما ان تتفاداها وتصطدم بحائط وبالتالي قتل الراكب؟ من سيعلم الذكاء الصناعي اتخاذ مثل هذا القرار الأخلاقي؟ هل تكون الأولوية للراكب، صاحب السيارة، والمالك للذكاء الصناعي؟ أم للطفلة في الشارع؟ وماذا لو كان بدلا من الطفلة رجلل مسن في آخر العمر أو متسول متسكع؟

مصطفى سليمان: التأثير الإيجابي للذكاء الصناعي على حياة البشر يرتبط بدرجة المشاركة من الجميع ومناقشة الأخلاقيات

المسأله الأخلاقية السابقة ليست المسألة الوحيدة بل هناك العديد من المسائل التي بدأت تظهر الآن وتحتاج لإجابات، فحاليا ينتشر من خلال فيسبوك ماسينجر وغيره من برامج المحادثات العديد من برامج الشاتبوت Chat Bots، وهي عبارة عن برامج ذكاء صناعي بسيطة في ظاهرها تمكن المستخدم من التواصل مع الشركة التي تمثلها من خلال الدردشة. الشاتبوتات مصممة للقيام بخدمات محددة مثلا عن منتجات الشركة وتقوم بالتواصل مع الجمهور ومساعدته في عمليات الشراء أو الحصول على معلومات إضافية، ماذا مثلا لو قام أحد الزبائن أثناء الدردشة بالتعبير عن نية الانتحار أو قتل طرف ما أو القيام بجريمة معينة؟ هل تقوم الشاتبوت أو الشركة المشغلة بإبلاغ الشرطة؟ وهل هذا واجب أو اختياري؟ وهل يعتبر تعديا على الخصوصية؟

روبوت عنصري

هذا العام شهد أول مسابقة للجمال Beauty.ai يتولى الذكاء الصناعي مهمة التحكيم وتحديد من هم الأكثر جمالا من بين الـ600 ألف متسابق الذين شاركوا من أكثر من مئة دولة حول العالم، قام المتسابقون بإرسال صورهم لكي يقوم الذكاء الصناعي، بمساعدة خوارزميات معقدة، بتحديد إن كانت وجوههم تتطابق مع المعايير البشرية للجمال. كانت نتائج المسابقة صادمة للجمهور وللقائمين على المشروع حين تم الإعلان عنها، فلم يكن من بين الـ44 فائزا سوى شخص واحد من أصحاب البشرة السمراء، وكان هناك عدد قليل من الفائزين من أصحاب البشرة الصفراء والباقي من البيض. ماذا حدث؟ هل الذكاء الصناعي عنصري ويكره السود؟

ولم يحدد القائمون على المسابقة للذكاء الصناعي لون البشرة كمعيار للجمال، والتي اقتصرت على ثلاثة معايير: تناسق الوجه، نسبة التجاعيد في الوجه، وإن كان مظهر الوجه يبدو فتيا أو هرما مقارنة بعمر الفرد الحقيقي لكن الخوارزميات التي تتمتع بخاصية التعلم الذاتي استنتجت من البيانات التي أعطيت لها مسبقا أثناء عملية التعلم والتدريب، أن الجمال مقترن بلون البشرة الفاتح وقامت باستثناء اصحاب البشرة السوداء.

قد يبدو المثال السابق بسيطا، ولكنه في غاية الأهمية، لأن نفس الخوارزميات التي استخدمت في مسابقة الجمال غالبا ما تكون الأساس لبرامج التعرف على الوجوه في المطارات والشوارع والأماكن العامة في عمليات الحفاظ على الأمن ومكافحة الإرهاب. إحدى خوارزميات غوغل المتخصصة بمسح الصور والتعرف على محتواها قامت بالخطأ بتسمية الأفارقة السود “حيوانات غوريلا”، وبرنامج ذكاء صناعي آخر مهمته التنبؤ بالجرائم، ظهر وكأنه يقوم بالتمييز العنصري ضد الأقليات.البعض من هذه المشكلات تحدث بسبب قواعد البيانات الأساسية التي استعملت في تدريب برامج الذكاء الصناعي.

جيوش أخلاقية

ويقول كونستانتين كيسليف أحد الخبراء العاملين على مشروع مسابقة الجمال “كانت هناك مشكلة في قاعدة البيانات الخاصة ببرنامج قياس التجاعيد في الوجه، فكانت قاعدة البيانات الأصلية تحتوي على عدد هائل من وجوه البيض وعدد قليل جدا من الهنود والأفارقة، وهذا غالبا ما تسبب في التمييز العنصري الذي أظهره الذكاء الصناعي”. لم يعد الذكاء الصناعي محصورا داخل المختبرات العلمية في الجامعات والشركات المتخصصة، وأصبح تدريجيا يدخل في مجالات عديدة في حياتنا اليومية، ويوما بعد يوم ستظهر العديد من المشكلات التي لن يكون حلها سهلا دون تعاون عالمي واسع.

يقول أودري بولز أحد خبراء الخصوصية والذكاء الصناعي “الجوانب الأخلاقية لن تؤخذ في الحسبان إلا إذا كانت هناك فائدة مالية وتجارية تعود على الشركات التي غالبا ما تكون مهتمة بتحقيق أكبر قدر من الفائدة والأرباح لذاتها وليست بالضرورة مهتمة بالصالح العام”، لذلك يدعو أودري مع الكثير من الخبراء الآخرين إلى مشاركة وتدخل المنظمات العالمية القائمة مثل الاتحاد الأوروبي والأمم المتحدة ومنظمات أخرى.

منظمة “شراكة الذكاء الصناعي”، التي شكلتها الشركات الخمس، خطوة مهمة في الاتجاه الصحيح مع أن أسماء كبيرة مثل شركة أبل وتويتر لم تشارك في التأسيس. ومن المتوقع أن تتوسع المنظمة لتضم هذه الشركات وغيرها في المستقبل، بالإضافة إلى شراكات مع جامعات ومنظمات حقوقية عالمية تعمل في الدفاع عن حقوق الفرد وحقوق الأقليات.

وأعلنت المنظمة أنها ستعمل على تحقيق العديد من الأهداف، منها: التأكد من أن الفوائد التي يحققها الذكاء الصناعي ستصل إلى أكبر عدد ممكن من الناس، وأن تعمل على تثقيف الجمهور بخصوص الذكاء الصناعي والإجابة على المخاوف والتساؤلات المستقبلية، كما ستشجع الجميع على الالتزام بحوار دائم ومفتوح في كل ما يتعلق بالعواقب والعوامل الأخلاقية والاجتماعية والاقتصادية والقانونية الناتجة عن الذكاء الصناعي. وستسعى المنظمة لبناء أجواء من الثقة والتعاون والشفافية بين العلماء والمهندسين العاملين على تطوير الذكاء الصناعي من أجل مصلحة الجميع.

كاتب متخصص في شؤون التكنولوجيا
13