إنساليات Robots أخلاقية تقرر في الموت والحياة

إنساليات أخلاقية

بداية، تبدو فكرة الإنساليات الأخلاقية مضيعة للوقت والجهد. لكن هذا السؤال يصبح ملحا عندما ندرك أن الإنساليات ستتخذ قرارات تتعلق بالموت والحياة. بما أنها ستكون قوية، ولها القدرة على إنقاذ الحياة، فعليها أن تأخذ خيارات أخلاقية ضمن أجزاء من الثانية حول من ستنقذه أولا.

دعنا نقل إن هناك زلزالا مدمرا، وأن هناك أطفالا محصورين في بناء يتداعى بسرعة. كيف يجب على الإنسالي أن يخصص طاقته؟ هل عليه أن يحاول إنقاذ العدد الأكبر من الأطفال؟ أو من الأصغر سنا؟ أو الأشد عرضة للموت؟ لو كان الحطام ثقيلا جدا ربما يعطل الإنسالي إلكترونياته. لذا على الإنسالي أن يجيب عن سؤال أخلاقي آخر: كيف يمكنه مقارنة عدد الأطفال الذين ينقذهم، مقابل الضرر الذي سيتسبب فيه لإلكترونياته؟

من دون برمجة صحيحة ربما يتوقف الإنسالي ببساطة، منتظرا أن يتخذ الإنسان القرار النهائي، مضيعا بذلك وقتا ثمينا. لذا يجب أن يبرمجه شخص ما مسبقا بحيث يأخذ الإنسالي آليا القرار «الصحيح».

يجب أن تبرمج هذه القرارات الأخلاقية مسبقا في الحاسوب من البداية، لأنه لا يوجد قانون في الرياضيات يمكنه تقييم عملية إنقاذ مجموعة من الأطفال. وضمن برمجته، يجب أن تكون هناك قائمة طويلة من الأشياء، مصنفة بحسب أهميتها. وهذه عملية معقدة. في الحقيقة، ربما يستغرق الأمر أحيانا من شخص ما عمرا بأكمله ليتعلم هذه الدروس الأخلاقية، لكن على الإنسالي أن يتعلمها بسرعة، قبل أن يغادر المصنع، إذا كان سيدخل المجتمع بأمان.

يمكن للناس فقط أن يقوموا بهذا، وعندها أيضا يمكن للمسائل الأخلاقية أن تثير حيرتنا. لكن هذا يطرح السؤال: من سيتخذ القرارات؟ من يقرر أولويات الإنسالي بإنقاذ حياة البشر؟

ربما يحل السؤال بشأن كيف ستتخذ القرارات في النهاية عبر مزيج من القانون وقوى السوق. يجب إصدار قوانين بحيث يكون هناك، كحد أدنى، تصنيف لأهمية من سينقذ أولا في حالة طارئة. لكن وراء ذلك هناك آلاف الأسئلة الأخلاقية الأدق. هذه القرارات الأعقد قد تقرر من قبل قوى السوق والحس السليم.

لو كنت تعمل لمؤسسة أمنية تحرس أناسا مهمين، فعليك أن تخبر الإنسالي كيف ينقذ الناس بترتيب معين في ظروف مختلفة، على أساس اعتبارات مثل تنفيذ الواجب الأول، لكن تنفيذه أيضا ضمن الموازنة.

ما الذي سيحدث لو اشترى مجرم إنساليا وأراد أن يرتكب هذا الإنسالي جريمة؟ُ  يثير هذا سؤالا: هل يسمح للإنسالي أن يتحدى مالكه لو طلب منه أن يخالف القانون؟ رأينا من المثال السابق أنه تجب برمجة الإنساليات لتفهم القانون، وتتخذ قرارات أخلاقية أيضا. لذا لو طلب منه أن يخالف القانون، فيجب أن يسمح له بمخالفة هذا الأمر.

هناك أيضا مشكلة أخلاقية يطرحها الإنسالي تعكس معتقدات مالكيه، الذين ربما نكون لهم أخلاقا وأعرافا اجتماعية متباعدة. «حرب الثقافات» التي نراها في المجتمع اليوم ستتضخم فقط عندما نمتلك إنساليات تعكس آراء مالكيها ومعتقداتهم. بمعنى ما فإن هذا النزاع حتمي. فالإنساليات عبارة عن امتدادات ميكانيكية لأحلام خالقيها ورغباتهم، وعندما تصبح الإنساليات ذكية بما يكفي لاتخاذ قرارات أخلاقية فإنها ستقوم بذلك.

ربما تظهر خطوط صدع المجتمع عندما تبدأ الإنساليات بعرض تصرفات تتحدى قيمنا وأهدافنا. ربما تتعارك إنساليات مملوكة من مراهقين يغادرون حفلة موسيقة صاخبة، مع إنساليات مملوكة من كبار السن القاطنين في ضاحية هادئة. ربما برمجت المجموعة الأولى من الإنساليات لتضخم أصوات أحدث الفرق الموسيقية، بينما برمجت المجموعة الثانية لإبقاء مستويات الضجيج عند حدها الأدنى. ربما تدخل إنساليات مملوكة من أصوليين مخلصين يذهبون إلى الكنيسة في مجادلات مع إنساليات مملوكة من ملحدين. تصمم الإنساليات من أمم وثقافات مختلفة لتعكس أخلاق مجتمعاتها، والتي من الممكن أن تتصادم (حتى بالنسبة إلى البشر، فضلا عن الإنساليات.

لذا كيف يمكن للمرء أن يبرمج الإنساليات بحيث يتخلص من هذه النزاعات؟

لا يمكنك ذلك. فالإنساليات سوف تعكس ببساطة تحيز صانعيها وتعصبهم. في النهاية يجب حل الخلافات الثقافية والأخلاقية بين هذه الإنساليات في المحاكم. ليس هناك قانون في الفيزياء أو العلم يقرر هذه المسائل الأخلاقية، لذا يجب في النهاية كتابة قوانين لمعالجة هذه النزاعات الاجتماعية. ولا تستطيع الإنساليات حل المشاكل الأخلاقية التي يخلقها البشر. في الحقيقة، ربما تضخم الإنساليات هذه المشاكل.

لكن إذا كان باستطاعة الإنساليات أن تتخذ قرارات أخلاقية وقانونية، هل يمكنها أيضا الإحساس بالمشاعر وفهمها؟ لو أنها نجحت في إنقاذ شخص ما، فهل يمكنها اختبار الشعور بالسرور نتيجة لذلك؟ أو هل يمكنها حتى الإحساس بأشياء مثل اللون الأحمر؟ إن تحليل أخلاقيات الإنقاذ ببرود شيء، لكن الفهم والشعور شيء آخر. فهل باستطاعة الإنساليات الشعور؟



نحن قمنا بانشاء سلسلة من مقاطع ريلز القصيرة العلمية على قناتنا في يوتيوب، واتمنى الحصول على دعمكم ومساندتكم حتى نستمر في نشر هذا المحتوى النافع، رابط القناة من هنا تابعونا.