غوغل تجبر على الحياد مؤقتا في تجارة الحرب

غوغل تخضع لرغبة الآلاف من موظفيها، وتعلن إنهاء صفقة "مشروع ميفن" لتي عقدتها مع البنتاغون. ورئيس غوغل التنفيذي سوندار بيتشاي يحدد سبعة مبادئ تسترشد بها الشركة في تطبيق الذكاء الاصطناعي أو الحوسبة المتقدمة التي تحاكي السلوك البشري الذكي.
السبت 2018/06/09
ماذا تخبىء غوغل مستقبلا

سان فرانسيسكو (الولايات المتحدة) - أكدت شركة غوغل أنها لن تستخدم الذكاء الاصطناعي من أجل تطوير الأسلحة أو “التسبب أو تسهيل التسبب بصورة مباشرة بإيذاء الناس” مع نشر جملة من المبادئ المتصلة بهذه التكنولوجيا.

وقال رئيس غوغل التنفيذي سوندار بيتشاي في مدونة فصَّل فيها الخميس سياسة الشركة في مجال الذكاء الاصطناعي إنه حتى وإن كانت غوغل لن تستخدم الذكاء الاصطناعي لصنع أسلحة، “فإننا سنواصل العمل مع الحكومات والجيش في مجالات عديدة أخرى”، بما فيها الأمن المعلوماتي والتدريب والبحث والإنقاذ.

وواجهت غوغل ضغوطا من موظفيها ومن جهات خارجية بشأن عقد مع الجيش الأميركي قالت الشركة ومقرها كاليفورنيا أنه لن يُجدد.

ومع أن الصحف قدرت قيمة العقد بعشرة ملايين دولار إلا أنه أثار استنكارا شديدا في الأسابيع الماضية بين صفوف الآلاف من الموظفين الذين اعتبروا أن التعاون مع العسكريين يتعارض مع قيم المؤسسة.

وفي أواسط مايو الماضي، حصدت عريضة أطلقت في فبراير لمطالبة غوغل بالبقاء خارج “تجارة الحرب” أكثر من أربعة آلاف توقيع بين الموظفين، كما أن نحو 12 موظفا لوحوا بالاستقالة بحسب الصحف لكن دون أن يُعرف ما إذا نفذوا تهديدهم بالفعل.

وجاء في العريضة “نطالب بإلغاء مشروع ميفن وبأن تعدّ غوغل وتنشر وتطبق سياسة واضحة تنص على ألا تعمل غوغل أو المتعاقدين معها أبدا على إعداد تكنولوجيا حربية”.

ويقول خبراء إن غضب واحتجاجات هذا العدد الكبير من العاملين في الشركة لا ينبع من مجرد كراهيتهم للحرب أو رفضهم التعاون مع الجيش، ولكن السبب الحقيقي يكمن في أن مشروع ميفن يشكل المرة الأولى التي يحاول فيها العسكريون استخدام الذكاء الاصطناعي في العمليات القتالية، وحذر خبراء غوغل من أن هدف الجيش، في نهاية الأمر هو الحد من المراجعة البشرية للصورة الملتقطة أو الاستغناء عنها تماما، مما يعني أن برنامجا معلوماتيا سيقوم بعمليات التصوير والاستكشاف، ثم يقوم البرنامج بتحليل الصور، واتخاذ القرار بتوجيه الضربات وقصف هذا الهدف أو ذاك، أي أن الآلة هي التي تتولى شن العمليات الحربية من الألف إلى الياء.

ورفض البنتاغون التصريح عما إذا كانت هناك شركات أخرى تعمل لتحقيق هذا الهدف… الآلة التي تأخذ قرارات القتال والحرب.

ويشمل مشروع “ميفن” خصوصا الطائرات دون طيار واستخدام الذكاء الاصطناعي لمساعدة هذه الطائرات على التمييز بين البشر والأشياء.

وتقول منظمات على غرار مؤسسة الحدود الإلكترونية واللجنة الدولية لمراقبة الأسلحة الروبوتية إن المشروع يفسح المجال أمام الاستغناء عن أي دور بشري في مهمات الطائرات دون طيار.

سوندار بيتشاي: غوغل ستتفادى استخدام أي  تكنولوجيا تتسبب أو يمكن أن تسبب ضررا عاما
سوندار بيتشاي: غوغل ستتفادى استخدام أي  تكنولوجيا تتسبب أو يمكن أن تسبب ضررا عاما

ويلجأ الجيش الأميركي على غرار دول أخرى إلى الطائرات دون طيار (التي يتم التحكم بها عن بعد) للقيام بمهمات استطلاعية واستخباراتية أو شن غارات في أفغانستان مثلا.

ويتنافس عمالقة المعلوماتية بينها غوغل ومايكروسوفت وأمازون على توقيع عقد مع البنتاغون التي تريد استخدام “السحاب” المعلوماتي، يعرف باسم “جوينت إنتربرايز ديفنس انفراستراكتشر” (المؤسسة المشتركة لبنى الدفاع التحتية).

وحدد بيتشاو سبعة مبادئ تسترشد بها غوغل في تطبيق الذكاء الاصطناعي أو الحوسبة المتقدمة التي تحاكي السلوك البشري الذكي.

وقال إن غوغل تستخدم الذكاء الاصطناعي من أجل “مساعدة الناس على حل مشكلات عاجلة” مثل التنبؤ بحدوث حرائق ومساعدة المزارعين وتشخيص الأمراض أو تفادي الإصابة بالعمى. وأضاف في مدونته “نحن نقر بأن هذه التكنولوجيا القوية تطرح أسئلة قوية بالمثل بشأن استخداماتها. إن طريقة تطوير الذكاء الاصطناعي واستخدامه سيكون لها تأثير كبير على المجتمع لعدة سنوات
قادمة. وكقادة في مجال الذكاء الاصطناعي، نشعر بأن لدينا مسؤولية كبيرة في أن نفعل الأمر بصورة صحيحة”.

وقال بيتشاو إن برامج الذكاء الاصطناعي لدى غوغل ستصمم من أجل تطبيقات “مفيدة اجتماعيا” و”تفادي إحداث أو تعزيز التحيز غير المنصف”. وأضاف أن المبادئ تركز على أن يتم “تصميم واختبار” تطبيقات الذكاء الاصطناعي بحيث تضمن “السلامة” و”تتحمل المسؤولية إزاء الناس” و”تتضمن مبادئ حماية الخصوصية”.

وكتب أن غوغل ستتفادى استخدام أي تكنولوجيا “تتسبب أو يمكن أن تسبب بضررا عاما”.

وهذا يعني عدم تطوير “أسلحة أو تكنولوجيات أخرى الغاية الرئيسية منها أو من تطبيقها التسبب أو تسهيل التسبب بصورة مباشرة بإيذاء الناس” وأنظمة “تجمع أو تستخدم المعلومات من أجل المراقبة وتنتهك الأعراف المتفق عليها دولياً”.

وعبّر خبراء عن مخاوفهم من إساءة استخدام الأنظمة الروبوتية أو الآلية أو خروجها عن السيطرة والتسبب بفوضى عارمة.

ووافقت عدة شركات تعنى بالتكنولوجيا على المبادئ العامة لاستخدام الذكاء الاصطناعي من أجل الصالح العالم لكن يبدو أن غوغل تعتمد معايير أدق.

يذكر أن غوغل عضو في شراكة الذكاء الاصطناعي التي تضم العشرات من الشركات الملتزمة مبادئ الذكاء الاصطناعي التي واجهت انتقادات لتوقيعها عقداً مع وزارة الدفاع الأميركية بشأن مشروع “ميفن” الذي يستخدم التعلم الآلي وتكوين المواهب للتمييز بين الناس والأشياء في أشرطة فيديو تلتقطها الطائرات المُسيَّرة.

19