التكنولوجيا الذكية.. عين عليك وأخرى على وظيفتك

خرج المارد من القمقم فهل يمكن كبح هذه التكنولوجيا وتنظيمها؟
الجمعة 2021/07/30
هل تحترم الروبوتات مبادئ القانون الإنساني

الترحاب الذي تحظى به التكنولوجيا لا يخلو من مخاوف، ليس فقط بين الناس العاديين بل أيضا بين المشرّعين وخبراء التكنولوجيا أمثال ستيفن هوكينغ وإيلون ماسك وبيل غيتس وجون فيفر الذين أجمعوا على أن التكنولوجيا التي سهلت حياتنا، قد تعرّضنا أيضا لمخاطر ليس آخرها فقدان وظائفنا.

لندن – منذ خمسين عاما تساءل الناس كيف استطاع آباؤهم العيش دون الهاتف والسيارة والغسالة الكهربائية والبراد؟

وبعد ثلاثين عاما تساءلنا كيف استطعنا الحياة دون الإنترنت، والهاتف الجوال. ودون قائمة من المخترعات من بينها المكيّف الهوائي؟

اليوم من يسافر على الطرق السريعة في أوروبا وفي الولايات المتحدة سيندهش من قدرة تكنولوجيا نظام التموضع العالمي على الهواتف الذكية. ويستأنس بصوت مريح يخبره عن الاتجاه الصحيح، ويشير إلى أفضل طريق لتجنب الازدحام وحوادث الطرقات. الصوت الذي حل محل الملاحين وخرائط الطريق وتحديثات حركة المرور على المذياع.

بعد عشر سنوات من اليوم سيتساءل الشباب كيف استطعنا نحن آباؤهم البقاء على قيد الحياة قبل أن يصل الذكاء الاصطناعي إلى حياتنا؟

إسحاق عظيموف: يجب أن نحرص على أن لا تؤذي الروبوتات البشر
إسحاق عظيموف: يجب أن نحرص على أن لا تؤذي الروبوتات البشر

ولكن، هل وصلتنا هذه التقنيات بجانبها الإيجابي فقط، ألم تأتي محمّلة بالسلبيات معها؟

في روايته الجديدة “سونغلاندز” تحدث جون فيفر عن مجموعة رهيبة من الخيارات تواجه الإنسانية عام 2052، أي بعد ثلاثين عاما فقط.

السيارة التي تنقلك إلى عطلة على الشاطئ تساهم انبعاثات الكربون الصادرة عنها في ارتفاع مياه البحر. والكمبيوتر المحمول الذي يوصلك إلى عالم الإنترنت يتيح للمتسللين فرصة لسرقة هويتك ومحتويات حسابك المصرفي.

ويذكرنا فيفر بما حصل في القرن الماضي، عندما سخّر البشر قوة الذرة لتوليد الطاقة النووية، ولكن نفس التكنولوجيا حملت معها القدرة على تدمير كوكب الأرض. والآن، بفضل الذكاء الاصطناعي، قد تدفعنا التكنولوجيا نحو منعطف جديد.

فيفر لم يكن الوحيد الذي عبّر عن قلقه من الجانب المظلم للتكنولوجيا، لطالما شعر كتّاب الخيال العلمي بالقلق بشأن المستقبل الذي تسيطر فيه الروبوتات على الكوكب. وجادل علماء بارزون مثل ستيفن هوكينغ وبيل غيتس بأن مثل هذا التفرد يمثل “نهاية الجنس البشري”.

لن يكون هذا حدثا بعيدا مثل انفجار الشمس بعد عدة مليارات من السنين من الآن. فوفقا لأحد الاستطلاعات، هناك فرصة بنسبة 50 في المئة على الأقل لحدوث التفرّد بحلول عام 2050. وإذا كان المتشائمون مثل هوكينغ على حق، فمن المرجح أن الروبوتات ستنهي البشرية قبل أن تنهيها أزمة المناخ.

يؤكد فيفر أن مثل هذه الروبوتات تسيطر اليوم على العالم من نواحٍ عديدة. حيث تتسبب الأتمتة في التخلي عن الملايين من العمال. وأصبحت الآلات “الذكية” مثل الطائرات دون طيار جزءا لا غنى عنه في شنّ الحرب. وتنتشر أنظمة الذكاء الاصطناعي بشكل متزايد لمراقبة كل تحركاتنا على الإنترنت، من خلال هواتفنا. وتحل الخوارزميات محل مساعدي التدريس في الفصل وتؤثر على الأحكام في قاعات المحكمة. ولجأ بعض الأشخاص الذين يشعرون بالوحدة إلى الروبوتات تؤنس وحدتهم.

نعم، لقد خرج المارد من القمقم. والسؤال الذي لا مفر منه: إلى أي مدى يمكن كبح هذه التقنيات وتنظيمها؟

يقول فيفر “طالما استمر البشر في التصرف بشكل سيء على نطاق عالمي (الحروب والإبادة الجماعية وانبعاثات الكربون التي تهدد الكوكب) فمن الصعب أن نتخيل تصرف أي شيء نبتكره، مهما كان ذكيا، بشكل مختلف”.

ترويض الذكاء

إلى أي مدى يمكن كبح هذه التقنيات
إلى أي مدى يمكن كبح هذه التقنيات

في أوائل أربعينات القرن الماضي، صاغ كاتب الخيال العلمي إسحاق عظيموف قوانينه الثلاثة الشهيرة للروبوتات: يجب أن لا تؤذي الروبوتات البشر بشكل مباشر أو غير مباشر، ويجب عليها إطاعة أوامرنا (إلا إذا كان ذلك يخالف القانون الأول)، ويجب عليها حماية وجودها (ما لم يتعارض الحفاظ على الذات مع القانونين الأولين).

وحاول عدد من الكتاب تحديث القوانين. وآخرهم الباحث القانوني فرانك باسكال، الذي ابتكر أربعة قوانين لتحل محل القوانين الثلاثة. ونظرا إلى أنه محامٍ وليس مستقبليا، فإن باسكال يهتم بالتحكم في الروبوتات اليوم أكثر من الاهتمام بآلات الغد. ويجادل بأن الروبوتات والذكاء الاصطناعي يجب أن تساعد العاملين، لا أن تحل محلهم، وألا تصنع بشرا مُزيّفين، أو أن تكون جزءا من أي نوع من سباق التسلح، وأن يلتزم منشئوها ووحدات التحكم فيها ومالكوها الشفافية دائما.

تتعارض “قوانين” باسكال مع اتجاهات الذكاء الاصطناعي في عصرنا. وتعكس روح الذكاء الاصطناعي السائدة ما يمكن اعتباره توجّه وادي السيليكون الرئيسي: التحرك بسرعة. تتطلب فلسفة القطيعة، قبل كل شيء، أن تعمل التكنولوجيا باستمرار على خفض تكاليف العمالة.

في الاقتصاد العالمي، يساعد الذكاء الاصطناعي بالفعل بعض رجال الأعمال مثل مارك زوكربيرغ من فيسبوك وجيف بيزوس من أمازون، والذين تصادف أنهم من بين أغنى الناس على هذا الكوكب. ولكنه يحل أيضا محل الملايين منا.

يقول فيفر إن باسكال أراد أن يضغط على الفرامل في قطار انطلق ولم يعد تحت سيطرة السائق. ولا يصعب أن نتخيل أين يمكن أن تنتهي مثل هذه الظاهرة الجامحة.

ويستشهد فيفر بكتاب “الذكاء الخارق” للكاتب نيك بوستروم الذي تحدث فيه عن عاصفة رملية من الروبوتات النانوية التي تخنق كل كائن حي على هذا الكوكب والذكاء الاصطناعي الذي يستولي على السلطة.

“نظرا لأنهم مهتمون فقط بالحفاظ على الذات والانتشار، وليس حماية البشرية أو اتباع أوامرها، فمن الواضح أن مثل هذه الآلات الواعية ستمزق قواعد عظيموف”.

وتنبّأ راي كورزويل، في كتابه الصادر في 2005 بعنوان “التفرد يقترب” من أن الروبوت سيحقق الشعور بالذات بحلول سنة 2045. ووصف إيلون ماسك الذكاء الاصطناعي بأنه “أكبر تهديد وجودي للبشرية” وأيد فرض حظر على الروبوتات القاتلة في المستقبل.

ولمنع أسوأ السيناريوهات، اقترح الاتحاد الأوروبي التحكم في الذكاء الاصطناعي وفقا لدرجة المخاطر. حيث يجب أن تحصل بعض المنتجات التي تندرج في فئة “المخاطر العالية” في الاتحاد الأوروبي على ختم الموافقة للمطابقة الأوروبية. ومن ناحية أخرى، فإن أنظمة الذكاء الاصطناعي التي “تعتبر تهديدا واضحا لسلامة الناس وسبل عيشهم وحقوقهم” قد تُمنع تماما.

ومن جانبهم انتقد المتفائلون بالتكنولوجيا ما اعتبروه مبالغة من أوروبا. مثل هذه الضوابط على الذكاء الاصطناعي ستحد من البحث والتطوير، وإذا حذت الولايات المتحدة حذوها، فإنها ستسمح للصين بتحقيق سبق تكنولوجي لا يُقهر.

أتمتة العمل

ليست كل الشعوب مؤيدة لفكرة تسليم قيادها للآلات التي يخشى من إمكانية اختراقها أو أن تتصرف بطرق لا تلائم البشر
ليست كل الشعوب مؤيدة لفكرة تسليم قيادها للآلات التي يخشى من إمكانية اختراقها أو أن تتصرف بطرق لا تلائم البشر

أكبر المخاوف التي أثارها الذكاء الاصطناعي وتطبيقاته في الروبوتات والأتمتة هو فقدان الوظائف. ومهما قيل في هذا الجانب يتفق الجميع على أنها مسألة وقت فقط قبل أن يفقد العاملون وظائفهم، ولن يكون أحد في مأمن من هذا التهديد.

ويعتقد فيفر أن جائحة كوفيد – 19 المستمرة كشفت عن هشاشة سلاسل التوريد العالمية. وكاد الاقتصاد العالمي أن يتوقف في 2020 لسبب رئيسي واحد: “صحة العاملين في المجال البشري”. فقد أبعد انتشار العدوى وخطرها والجهود المبذولة لاحتواء الوباء جميع العمال بشكل مؤقت أو دائم. وأغلقت المصانع واتسعت الفجوات في شبكات النقل وخسرت المتاجر أعمالها لصالح البائعين عبر الإنترنت.

ودفعت الرغبة في خفض تكاليف العمالة، وهي مساهم رئيس في سعر المنتج، الشركات إلى البحث عن عمال أرخص في الخارج.

وبحلول 2030، ستحل الروبوتات محل ما يصل إلى 45 مليون عامل أميركي. ويقدر البنك الدولي أنهم سيحلون في نهاية المطاف محل “85 في المئة من الوظائف في إثيوبيا، و77 في المئة في الصين، و72 في المئة في تايلاند”.

وتوقع الباحثون أن يتفوق الذكاء الاصطناعي على البشر في العديد من الأنشطة في المنظور القريب، مثل ترجمة اللغات بحلول عام 2024، وكتابة البحوث أو المقالات بحلول عام 2026، وقيادة الشاحنات بحلول عام 2027، والعمل في تجارة التجزئة بحلول عام 2031. وبحلول عام 2049 ستكون أنظمة الذكاء الاصطناعي قادرة على تأليف الكتب الأكثر مبيعا، كما يتوقع لها القيام بعمل الجراحين بحلول عام 2053.

عموما، يرجّح الخبراء أن يتفوق الذكاء الاصطناعي على البشر في جميع المهام خلال 45 عاما.

ولم يعمل الوباء على تسريع هذا الاتجاه فحسب، بل زاد من عدم المساواة الاقتصادية أيضا لأن الروبوتات، على الأقل في الوقت الحالي، تميل إلى استبدال العمال الأقل مهارة.

ويقول فيفر “في عالم مثالي، ستتولى الروبوتات والذكاء الاصطناعي بشكل متزايد جميع الوظائف القذرة والخطيرة والمهينة على مستوى العالم، مما يتيح للبشر القيام بأعمال أكثر إثارة للاهتمام. وفي نفس الوقت، بدأت الروبوتات في التعدي على ما يُعتقد عادة أنه أكثر أنواع العمل إثارة للاهتمام التي يقوم بها المهندسون المعماريون ومصممو المنتجات على سبيل المثال”.

وفي بعض الحالات، حل الذكاء الاصطناعي محل المدراء. ولا يستبعد الخبراء أن يحل قريبا محل البرلمانيين. وفي استفتاء أجراه  مركز حوكمة التغيير التابع لمعهد إمبريزا الإسباني سأل باحثون أشخاصا من 11 دولة حول العالم عن آرائهم حيال تقليل عدد البرلمانيين في بلادهم ومنح هذه المقاعد إلى ذكاء اصطناعي.

وكانت المفاجأة أن 51 في المئة من الأوروبيين أبدوا تأييدهم لمثل هذه الخطوة.

بالتأكيد ليست كل الشعوب مؤيدة لفكرة تسليم قيادها للآلات، والتي يخشى من إمكانية اختراقها أو أن تتصرف بطرق لا تلائم البشر.

في المملكة المتحدة، عارض 69 في المئة من الأشخاص الذين شملهم الاستطلاع الفكرة، بينما عارضها 56 في المئة في هولندا و54 في المئة في ألمانيا.

وبعيدا عن أوروبا أيد 75 في المئة من الأشخاص الذين شملهم الاستطلاع في الصين فكرة استبدال البرلمانيين بالذكاء الاصطناعي، بينما عارضها 60 في المئة من الأميركيين.

وتختلف الآراء أيضا بشكل كبير حسب الأجيال، حيث وجد أن الشباب أكثر انفتاحا على الفكرة. ويرى المشرفون على الدراسة أن نسبة من يؤيدون إحلال الذكاء الاصطناعي مكان رجال الحكومة خلال عقد أو عقدين سترتفع لتشكل تحديا حقيقيا للعاملين في المناصب الحكومية.

ومن المحتمل، كما يقول فيفر، ألا تحتاج الروبوتات الواعية إلى ابتكار حيل بارعة للسيطرة على العالم. فقد يثبت البشر استعدادهم التام لمنح الآلات شبه الذكية السلطة.

روبوتات قاتلة

إيلون ماسك: الذكاء الاصطناعي يشكل أكبر تهديد وجودي للبشرية
إيلون ماسك: الذكاء الاصطناعي يشكل أكبر تهديد وجودي للبشرية

زحف الأتمتة لا يقتصر على التطبيقات المدنية فقط، فقد أثبتت التجارب أن الأتمتة زحفت على الجيوش. ويرى البعض في تطوير أسلحة جديدة على شكل روبوتات مستقلة قاتلة أنه أمر إيجابي، حيث ستعمل على “الحد من عدد القتلى في المعارك” و”إنجاز مهام قتالية أكثر بعدد أقل من الجنود” والقدرة “على توسيع ساحة القتال واختراق حدود العدوّ بسهولة، مما يوفّر الموارد المالية والبشرية”.

الآن، سيشعر كل جيش بأنه مجبر على دمج ذكاء اصطناعي في قدراته الهجومية الجديدة.

وللبقاء في صدارة هذا المجال، يقول فيفر إن على الولايات المتحدة أن تضخ الأموال في أحدث التقنيات. وتتضمن ميزانية البنتاغون الجديدة “أكبر طلب على الإطلاق” للاستمرار في البحث والتطوير، كما كتب مايكل كلار من توم ديسباتش، فإن البنتاغون قد استفاد من تجارب رجال الأعمال، وبدأ في وضع خطة لاستبدال مدراء الحرب (الجنرالات) بشبكة ضخمة ومترابطة من الأنظمة الآلية.

وفي المقابل، يرى المعارضون لتطوير الروبوتات المستقلة القاتلة بأن هذه الآلات، إذا ما قورنت بالبشر، تفتقر للقُـدرة على التقييم والحس السليم والنظر إلى الأمور من زاوية أوسع، وهي مزايا يجب الاحتكام إليها عندما يتعلّق الأمر بقرارات لها علاقة بالحياة أو الموت.

ويطرح منتقدو استخدام الروبوتات القاتلة المستقلة، تساؤلا عن مدى إمكانية احترام هذه الروبوتات لمبادئ القانون الإنساني الدولي والتفريق بين المدني والمقاتل، والتمييز في استخدام القوة، أو لجوء بعض الدول إلى استخدامها في قمع الاحتجاجات الداخلية، خاصة في ظل عدم وجود نظام محاسبة قانوني.

في عالم الحروب، يمكن للذكاء الاصطناعي في النهاية أن يقضي على البشر تماما، سواء بفضل التصميم البشري أو خطأ الكمبيوتر.

وهذا ما كاد أن يحدث خلال الحرب الباردة، كما يذكر فيفر، حيث أدّت تدخلات في اللحظة الأخيرة من أفراد من كلا الجانبين لتلافي “هجمات صاروخية” كادت أجهزة الكمبيوتر السوفييتية والأميركية أن تتسبب فيها.

الملاذ الأخير

جون فيفر الروبوتات لن تنقذنا، هذا جزء من عمل لا تمكن الاستعانة فيه بمصادر خارجية، إنها وظيفة نقوم بها بأنفسنا
جون فيفر: الروبوتات لن تنقذنا، هذا جزء من عمل لا تمكن الاستعانة فيه بمصادر خارجية، إنها وظيفة نقوم بها بأنفسنا

مع ذلك، يقول فيفر، لا تزال لدينا خيارات. يمكننا فرض لوائح معقولة على الذكاء الاصطناعي. ويمكننا مناقشة تفاصيل مثل هذه البرامج في المجتمعات الديمقراطية أو يمكننا أن نستسلم لخلافاتنا السياسية التي لا يمكن تجاوزها.

أنطونيو غوتيريش الأمين العام للأمم المتحدة ورغم إطرائه التقنيات الحديثة ودورها في السلام والازدهار قال إن “الوقت قد حان بالنسبة إلينا جميعا – سواء كحكومات أو مجتمع مدني أو قطاعات صناعية – لتقييم الكيفية التي سيؤثر بها الذكاء الاصطناعي على مُستقبلنا. هناك تحديات وقضايا أخلاقية على المحك”.

ويأمل المتفائلون في أن تحررنا الأتمتة وتنقذ الكوكب. ولا يزال عشاق سياسة عدم التدخل يعتقدون أن يد السوق الخفية ستوجه رأس المال بشكل غامض نحو ابتكارات إنقاذ الكوكب بدلا من السيارات رباعية الدفع.

يؤكد فيفر أن هذه مجرد أوهام “في النهاية، لن تنقذنا الروبوتات. هذا جزء من عمل لا يمكن الاستعانة بمصادر خارجية لإتمامه أو أتمتته. إنها وظيفة لا يمكننا القيام بها إلا بأنفسنا”.

12