هل ستسيطر الإنساليات Robots؟ الحاسوب HAL 9000

هل ستسيطر الإنساليات؟

في قصص الخيال العلمي جميعها تقريبا تصبح الإنساليات خطرة بسبب رغبتها في السيطرة. كلمة « robot - إنسالي» في الحقيقة تأتي من الكلمة التشيكية «عامل»، والتي شوهدت لأول مرة في مسرحية «إنساليات روسوم العالمية» R.U.R العام  1920 لكاريل كابيك، حيث يخلق العلماء فيها صنفا جديدا من الكائنات الميكانيكية التي تبدو مطابقة تماما للبشر. وسرعان ما توجد الآلاف من هذه الإنساليات التي تؤدي وظائف يدوية وخطرة. لكن البشر يعاملونها بقسوة، وفي أحد الأيام تتمرد على الجنس البشري وتحطمه. وعلى الرغم من أن هذه الإنساليات سيطرت على الأرض، فإنها كانت تعاني عيبا واحدا: إنها لا تستطيع التكاثر. لكن في نهاية المسرحية يقع إنساليان في الحب. لذا ربما يظهر فرع جديد من «البشرية» مرة أخرى.

يأتي سيناريو أكثر واقعية من فيلم «القاتل» The Terminator،  حيث صنع الجيش شبكة حاسوبية فائقة دعيت «سكاينيت» تتحكم في المخزون النووي الأمريكي كله. وفي أحد الأيام تستيقظ وتصبح عاقلة. يحاول الجيش إغلاقها، لكنه يدرك بعد ذلك أن هناك خطأ في برمجتها: لقد صممت لتدافع عن نفسها، والطريقة الوحيدة لفعل ذلك هي التخلص من المشكلة – البشرية. تبدأ الشبكة حربا نووية تودي بالبشرية إلى أن يصبحوا مجموعة من المعاقين والمتمردين الذين يقاتلون هيمنة الآلات.

من الممكن بالتأكيد أن تصبح الإنساليات خطرا. يمكن للطائرات المقاتلة من دون طيار  drones اليوم أن تستهدف ضحاياها بدقة فتاكة، لكنها تدار من قبل شخصُ  ما بواسطة عصا لعب من بعد آلاف الأميال. وفق صحيفة النيويورك تايمز، تأتي الأوامر بإطلاق النار مباشرة من رئيس الولايات المتحدة. لكن في المستقبل، ربما يكون للطائرات المقاتلة تقنية التعرف على الوجه، والإذن بإطلاق النار إذا كانت متأكدة بنسبة  99 في المائة من هوية هدفها. ومن دون التدخل البشري يمكنها استخدام هذه التقنية آليا لإطلاق النار على أي شخص يطابق النموذج المطلوب.

افترض الآن أن مثل هذا «الدرون» قد تعطل، بحيث إن برمجية التعرف على الوجه لا تعمل جيدا. عندها سيصبح إنساليا شريرا، لديه إذن لقتل أي شخص يراه. الأسوأ من ذلك، تخيل أسطولا من مثل هذه الإنساليات يجري التحكم فيها من قيادة مركزية. لو انفجر ترانزيستور واحد من الحاسوب المركزي وتعطل، فإن الأسطول بكامله سيستمر في القتل بلا قيود.

مشكلة أكثر تعقيدا عندما تؤدي الإنساليات مهامها بشكل تام، ومن دون أي أعطال، ويكون هناك عيب قاتل في برمجياتها وأهدافها. بالنسبة إلى الإنسالي، فإن الحفاظ على البقاء هدف مهم. لكن كذلك مساعدة البشر. المشكلة الحقيقية تبرز عندما يتعارض هذان الهدفان أحدهما مع الآخر.

في فيلم «أنا، إنسالي»  I, Robot يقرر نظام الحاسوب أن البشر يخربون أنفسهم، بحروبهم التي لا تنتهي ومذابحهم، وأن الطريقة الوحيدة لحمايتهم هي في السيطرة عليهم وخلق ديكتاتورية خ ّيرة من الآلات. التناقض هنا ليس بين هدفين، لكن ضمن هدف واحد غير واقعي. هذه الإنساليات القاتلة لا تتعطل – إنها تستنتج بمنطقية أن الوسيلة الوحيدة للحفاظ على البشرية هي في التحكم في المجتمع.

أحد الحلول لهذه المشكلة يكمن في خلق تراتب للأهداف. على سبيل المثال، يجب أن تتفوق الرغبة في مساعدة البشر على الحفاظ على الذات. استكشف هذا الموضوع في فيلم « 2001 ». كان نظام الحاسوب  HAL 9000 عاقلا وقادرا على التحدث بسهولة مع البشر. لكن الأوامر التي أعطيت له كانت متناقضة ذاتيا، ولم يكن من الممكن تنفيذها منطقيا. بمحاولته تنفيذ هدف مستحيل، يقع في الهاوية، ويصاب بالجنون، ويكون الحل الوحيد لإطاعة أوامر متناقضة من البشر غير الكاملين هو التخلص منهم.

ربما كان الحل الأفضل هو خلق قانون جديد للإنساليات، والذي ينص على أنه لا يمكن للإنساليات أن تسبب الضرر للجنس البشري، حتى لو كانت هناك تناقضات ضمن أوامرها السابقة. يجب أن تبرمج بحيث تتجاهل تناقضات من المستوى الأدنى ضمن أوامرها، وأن تحافظ دوما على القانون الأعلى. لكن يمكن أن يبقى هذا نظاما ناقصا في أفضل الأحوال. (على سبيل المثال، لو كان الهدف المركزي للإنساليات هو حماية البشرية، مع استبعاد الأهداف الأخرى كلها، فإن هذا كله يعتمد على كيفية تعريف الإنساليات لكلمة «حماية». ربما يختلف تعريفها الميكانيكي لهذه الكلمة عن تعريفنا).

بدلا من التفاعل بخوف، لا يخشى بعض العلماء مثل الدكتور دوغلاس هوفشتاتر، وهو عالم الإدراك في جامعة إنديانا، هذه الإمكانية. عندما قابلته أخبرني بأن الإنساليات هي أطفالنا، لذا لماذا لا نحبهم مثل أطفالنا؟ وجهة نظره - كما أخبرنيّ  - هي أننا نحب أطفالنا، مع علمنا أنهم سيحلون محلنا.

عندما قابلت الدكتور هانز مورافيك ، المدير السابق لمختبر الذكاء الصنعي في جامعة كارنيغي ميلون، وافق مع الدكتور هوفشتاتر. في كتابه «روبوت»  Robot يكتب: «بانطلاقهم من السرعة البطيئة إلى التطور البيولوجي، فإن أطفال عقولنا سيكونون أحرارا في النمو لمواجهة تحديات كبيرة وأساسية في الكون الأكبر... وسنستفيد نحن البشر من وقت إلى آخر من مجهوداتهم، لكن... مثل الأطفال العاديين، فإنهم سيبحثون عن مستقبلهم بينما نتلاشى نحن الآباء الأكبر سنا».

آخرون، على العكس من ذلك، يعتقدون أن هذا حل فظيع. ربما يمكن حل المشكلة إذا أجرينا تغييرات في أهدافنا وأولوياتنا الآن قبل فوات الأوان. بما أن هذهّ  الإنساليات هي أطفالنا، علينا أن «نعلمهم» كيف يكونون خ ّيرين.

مصطلحات هامة

إنسالي  robot

القاتل  The Terminator

إنساليات روسوم العالمية  R.U.R

طائرة من دون طيار  drones

أنا، إنسالي   I, Robot




نحن قمنا بانشاء سلسلة من مقاطع ريلز القصيرة العلمية على قناتنا في يوتيوب، واتمنى الحصول على دعمكم ومساندتكم حتى نستمر في نشر هذا المحتوى النافع، رابط القناة من هنا تابعونا.