أخلاقيات الروبوت

تُعنى أخلاقيات الروبوتات ، أو ما يُعرف أحيانًا بـ" أخلاقيات الروبوتات "، بالمشكلات الأخلاقية التي تنشأ مع الروبوتات، مثل ما إذا كانت تُشكّل تهديدًا للبشر على المدى القريب أو البعيد، وما إذا كانت بعض استخداماتها إشكالية (مثل استخدامها في الرعاية الصحية أو كـ" روبوتات قاتلة " في الحروب)، وكيفية تصميمها بحيث تتصرف "بشكل أخلاقي" (يُطلق على هذا الجانب الأخير أيضًا اسم أخلاقيات الآلة ). وبعبارة أخرى، تُشير أخلاقيات الروبوتات تحديدًا إلى أخلاقيات السلوك البشري تجاه الروبوتات، مع ازدياد تطورها. ^{[ 1 ]}

أخلاقيات الروبوتات هي فرع من فروع أخلاقيات التكنولوجيا ، وترتبط ارتباطًا وثيقًا بالاعتبارات القانونية والاجتماعية والاقتصادية. بدأت المناقشات الأكاديمية الجادة حول أخلاقيات الروبوتات حوالي عام 2000، وتشمل العديد من التخصصات، أبرزها الروبوتات ، وعلوم الحاسوب ، والذكاء الاصطناعي ، والفلسفة ، والأخلاق ، واللاهوت ، وعلم الأحياء ، وعلم وظائف الأعضاء ، والعلوم المعرفية ، وعلم الأعصاب ، والقانون ، وعلم الاجتماع ، وعلم النفس ، والتصميم الصناعي . ^{[ 2 ]}

كانت قصة " Runaround "، وهي قصة خيال علمي قصيرة كتبها إسحاق أسيموف عام 1942، من أوائل المنشورات التي تناولت بشكل مباشر أخلاقيات الروبوتات ووضعت أسسها، وقد تضمنت قوانينه الثلاثة الشهيرة في علم الروبوتات . وقد عدّل أسيموف هذه القوانين الثلاثة باستمرار، وأضاف في النهاية قانونًا رابعًا - أو "صفرًا" - ليسبق القوانين الثلاثة الأولى، وذلك في سياق أعماله الخيالية العلمية. ويُرجّح أن يكون جيانماركو فيروجيو هو من صاغ مصطلح "أخلاقيات الروبوتات" المختصر. ^{[ 3 ]}

برزت أخلاقيات الروبوتات أيضًا في عام 2004 مع انعقاد الندوة الدولية الأولى حول هذا الموضوع. ^{[ 4 ]} وفي مناقشات مع الطلاب وغير المتخصصين، رأى جيانماركو فيروجيو وفيوريلا أوبيرتو أن النقاش الجيد قد يدفع الناس إلى المشاركة الفعّالة في توعية الرأي العام، وفهم الاستخدامات الإيجابية للتكنولوجيا الجديدة، ومنع إساءة استخدامها. وحددت عالمة الأنثروبولوجيا دانييلا سيركي ثلاثة مواقف أخلاقية رئيسية انبثقت من يومي النقاش: أولئك الذين يرون الروبوتات تقنية بحتة ويتنصلون من المسؤولية الأخلاقية، وأولئك المهتمون بالمسائل الأخلاقية قصيرة الأجل (مثل الامتثال للاتفاقيات القائمة)، وأولئك المهتمون بالمسائل الأخلاقية طويلة الأجل (بما في ذلك الفجوة الرقمية ). ^{[ 5 ]}

ومن بين الأحداث المهمة الأخرى ما يلي:

• 2004: إعلان فوكوكا العالمي للروبوتات. ^{[ 7 ]}
• في عام ٢٠١٧، وخلال قمة مستقبل الاستثمار في الرياض ، مُنحت روبوتة تُدعى صوفيا (ويُشار إليها بضمائر المؤنث) الجنسية السعودية ، لتصبح بذلك أول روبوت في التاريخ يحصل على جنسية. ^{[ ٨ ] [ ٦ ]} أثار هذا الأمر جدلاً واسعاً بسبب الغموض القانوني، لا سيما فيما يتعلق بحق صوفيا في التصويت أو الزواج، أو ما إذا كان تعطيل نظامها عمداً يُعد جريمة قتل. إضافةً إلى ذلك، قارنت وسائل الإعلام هذا الأمر بالحقوق المحدودة التي تتمتع بها المرأة السعودية. ^{[ ٩ ] [ ١٠ ]}
• 2017: أصدر البرلمان الأوروبي قراراً موجهاً إلى المفوضية الأوروبية بشأن قواعد القانون المدني المتعلقة بالروبوتات. ^{[ 11 ]}

أشارت عالمة الحاسوب فرجينيا ديغنوم في عدد مارس 2018 من مجلة " الأخلاقيات وتكنولوجيا المعلومات" إلى أن الموقف المجتمعي العام تجاه الذكاء الاصطناعي قد تحوّل في العصر الحديث من اعتباره مجرد أداة إلى اعتباره "شريكًا" ذكيًا. وفي المقال نفسه، خلصت إلى أن المفكرين الأخلاقيين لديهم ثلاثة أهداف فيما يتعلق بالذكاء الاصطناعي، ترى أن كلًا منها قابل للتحقيق في العصر الحديث من خلال التفكير والتنفيذ الدقيقين. ^{[ 12 ] [ 13 ] [ 14 ] [ 15 ] [ 16 ]} وهذه الأهداف الأخلاقية الثلاثة هي كالتالي:

• الأخلاق من خلال التصميم (التكامل التقني/الخوارزمي لقدرات التفكير الأخلاقي كجزء من سلوك النظام الاصطناعي المستقل، انظر أخلاقيات الآلة )؛
• الأخلاقيات في التصميم (الأساليب التنظيمية والهندسية التي تدعم تحليل وتقييم الآثار الأخلاقية لأنظمة الذكاء الاصطناعي عند دمجها أو استبدالها للهياكل الاجتماعية التقليدية)؛ و
• أخلاقيات التصميم (قواعد السلوك والمعايير وعمليات الاعتماد التي تضمن نزاهة المطورين والمستخدمين أثناء قيامهم بالبحث والتصميم والبناء والاستخدام والإدارة لأنظمة الذكاء الاصطناعي، انظر القسم  القانوني أدناه). ^{[ 17 ]}

لطالما شكّلت أخلاقيات الروبوتات، كموضوع علمي أو فلسفي، محورًا رئيسيًا في أدب وأفلام الخيال العلمي. ومن الأفلام التي يمكن اعتبارها راسخة في الثقافة الشعبية، والتي تصوّر مستقبلًا بائسًا لاستخدام الذكاء الاصطناعي الروبوتي، فيلم " ذا ماتريكس" ( The Matrix )، الذي يصوّر مستقبلًا يتصارع فيه البشر والذكاء الاصطناعي الواعي للسيطرة على كوكب الأرض، مما يؤدي إلى فناء معظم الجنس البشري. وقد ركّز فيلم الرسوم المتحركة " أنيماتريكس" ( Animatrix ) ، المستوحى من "ذا ماتريكس "، بشكل كبير على القضايا الأخلاقية المحتملة وانعدام الأمن بين البشر والروبوتات. يتألف الفيلم من قصص قصيرة، تحمل كل منها اسم إحدى قصص إسحاق أسيموف الخيالية.

يتناول جانب آخر من أخلاقيات الروبوتات معاملة البشر للروبوتات، وقد تم استكشافه في العديد من الأفلام والمسلسلات التلفزيونية. ومن الأمثلة على ذلك مسلسل "ستار تريك: الجيل التالي" ، الذي يضم روبوتًا بشريًا يُدعى " داتا" كأحد شخصياته الرئيسية. يُعهد إليه في أغلب الأحيان بمهام بالغة الأهمية، لكن قدرته على الاندماج مع الكائنات الحية الأخرى غالبًا ما تكون موضع تساؤل. ^{[ 18 ]} ومؤخرًا، تناول فيلم "إكس ماكينا" ومسلسل "ويست وورلد" هذه التساؤلات الأخلاقية بشكل مباشر من خلال تصوير روبوتات فائقة الواقعية يعاملها البشر كسلع لا قيمة لها. ^{[ 19 ] [ 20 ]} كما شكلت التساؤلات المحيطة بمعاملة الكائنات المصنعة عنصرًا أساسيًا في فيلم " بليد رانر" لأكثر من 50 عامًا. ^{[ 21 ]} بل إن أفلامًا مثل "هير" قد تعمقت أكثر في العلاقة الإنسانية مع الروبوتات من خلال إزالة الجانب المادي والتركيز على المشاعر.

على الرغم من أن السلوك الأخلاقي للروبوتات ليس جزءًا من أخلاقيات الروبوتات بحد ذاتها ، إلا أنه كان موضوعًا محوريًا في أخلاقيات الروبوتات في الثقافة الشعبية. تركز سلسلة أفلام "المُدمر" على روبوتات تُدار بواسطة برنامج ذكاء اصطناعي واعٍ لا يتردد في القضاء على أعدائه. تتشابه هذه السلسلة مع سلسلة "الماتريكس" ، حيث تسيطر الروبوتات على زمام الأمور. ومن الأمثلة الشهيرة الأخرى في الثقافة الشعبية على الذكاء الاصطناعي ذي الأخلاق المعيبة، شخصية "هال 9000" في سلسلة "أوديسة الفضاء" ، حيث يقوم "هال" (وهو حاسوب ذو قدرات ذكاء اصطناعي متقدمة يراقب ويساعد البشر على متن مركبة فضائية) بقتل البشر على متنها لضمان نجاح المهمة الموكلة إليه بعد أن أصبحت حياته مهددة. ^{[ 22 ]}

تُعرف أنظمة الأسلحة الفتاكة ذاتية التشغيل (LAWS)، والتي تُسمى غالبًا "الروبوتات القاتلة"، بقدرتها النظرية على تحديد الأهداف وإطلاق النار دون إشراف أو تدخل بشري. في عام 2014، عقدت اتفاقية الأسلحة التقليدية (CCW) اجتماعين. كان الأول اجتماع خبراء أنظمة الأسلحة الفتاكة ذاتية التشغيل، والذي تناول الولاية الخاصة بهذه الأنظمة، وأثار نقاشًا حادًا. ^{[ 23 ]} وقد أعربت الوفود الوطنية والعديد من المنظمات غير الحكومية عن آرائها في هذا الشأن.

تدعو العديد من المنظمات غير الحكومية وبعض الدول، مثل باكستان وكوبا ، إلى حظر وقائي للأسلحة ذاتية التشغيل. وقد طرحوا آراءً تستند إلى منطق الواجبات ومنطق النتائج . فمن منظور الواجبات، يرى بعض الفلاسفة، مثل بيتر أسارو وروبرت سبارو، ومعظم المنظمات غير الحكومية، والفاتيكان، أن منح الآلات صلاحيات واسعة للغاية يُعد انتهاكًا لكرامة الإنسان، وأن للناس "الحق في عدم التعرض للقتل بواسطة آلة". ولدعم موقفهم، يستشهدون مرارًا وتكرارًا ببند مارتنز .

في نهاية الاجتماع، كان أهم اعتراض من جانب أصحاب النظرة النفعية هو أن أنظمة الأسلحة المحلية لن تكون قادرة على احترام القانون الإنساني الدولي، كما تعتقد المنظمات غير الحكومية والعديد من الباحثين والعديد من الدول ( باكستان ، النمسا ، مصر ، المكسيك ).

بحسب اللجنة الدولية للصليب الأحمر ، "لا شك أن تطوير واستخدام أنظمة الأسلحة ذاتية التشغيل في النزاعات المسلحة يخضع للقانون الدولي الإنساني". ^{[ 24 ]} وتُقرّ الدول بذلك: فقد أقرّت الدول المشاركة في الاجتماع الأول لخبراء الأمم المتحدة في مايو/أيار 2014 باحترام القانون الدولي الإنساني كشرط أساسي لتنفيذ أنظمة الأسلحة ذاتية التشغيل. وتتباين التوقعات، فبعض الدول تعتقد أن هذه الأنظمة لن تفي بهذا المعيار، بينما تُشدّد دول أخرى على صعوبة البتّ في هذه المرحلة دون معرفة القدرات المستقبلية لهذه الأسلحة ( اليابان ، أستراليا ). وقد أصرّت جميعها على ضرورة التحقق المسبق من توافق هذه الأنظمة مع القانون الدولي الإنساني قبل استخدامها، وذلك بموجب المادة الأولى من البروتوكول الإضافي الأول لاتفاقيات جنيف .

في عام 2015، أُطلقت حملة مناهضة الروبوتات الجنسية (CASR) لتسليط الضوء على العلاقة الجنسية بين الإنسان والآلة. وتزعم الحملة أن الروبوتات الجنسية قد تكون ضارة وستساهم في تفاقم عدم المساواة في المجتمع، وأن اتباع نهج منظم واستجابة أخلاقية ضد تطويرها أمر ضروري. ^{[ 26 ]}

في مقال " هل ينبغي لنا شن حملة ضد الروبوتات الجنسية؟" ، الصادر عن مطبعة معهد ماساتشوستس للتكنولوجيا ، أشار الباحثون إلى بعض الثغرات في هذه الحملة، ولم يؤيدوا حظر الروبوتات الجنسية بشكل كامل. أولًا، جادلوا بأن الادعاءات التي طرحها مركز دراسات الروبوتات الجنسية (CASR) كانت "غير مقنعة"، ويعود ذلك جزئيًا إلى عدم وضوح أهداف الحملة، وجزئيًا إلى وجود عيوب جوهرية في الاعتراضات الأخلاقية الرئيسية التي طرحها مؤسسو الحملة. ثانيًا، جادلوا بأنه سيكون من الصعب جدًا تأييد حملة عامة ضد الروبوتات الجنسية ما لم يتبنى المرء موقفًا محافظًا للغاية تجاه أخلاقيات الجنس. وبالاستناد إلى مثال حملة وقف الروبوتات القاتلة، رأوا أنه لا توجد خصائص سيئة متأصلة في الروبوتات الجنسية تُثير مستويات مماثلة من القلق، وأن الضرر الناجم عنها يبقى تخمينيًا وغير مباشر. ومع ذلك، يُقر المقال بوجود مخاوف مشروعة يمكن إثارتها بشأن تطوير الروبوتات الجنسية. ^{[ 27 ]}

مع ظهور قضايا تكنولوجية معاصرة في ظل تطور المجتمع، يبرز موضوع أخلاقيات الروبوتات في سياق القانون كأحد المواضيع التي تتطلب دراسة متأنية. وقد ناقش الأكاديميون آلية قيام الحكومات بسنّ تشريعات تُعنى بأخلاقيات الروبوتات وقوانينها.

من بين الباحثين الذين طرحوا هذه التساؤلات، نيل إم. ريتشاردز، أستاذ القانون في كلية الحقوق بجامعة واشنطن ، وويليام دي. سمارت، الأستاذ المشارك في علوم الحاسوب في كلية ماكيلفي للهندسة . في ورقتهم البحثية بعنوان "كيف ينبغي للقانون أن ينظر إلى الروبوتات؟"، يطرحان أربعة ادعاءات رئيسية تتعلق بأخلاقيات الروبوتات وقانونها. ^{[ 28 ]} يرتكز أساس حجتهما على تعريف الروبوت بأنه "كائنات مستقلة غير بيولوجية، نعتقد أنها تجسد جوهر التحديات التنظيمية والتكنولوجية التي تطرحها الروبوتات، والتي يمكن أن تشكل أساسًا مفيدًا للتنظيم". ثانيًا، يستكشف الباحثان القدرات المتقدمة المستقبلية للروبوتات خلال عقد من الزمن تقريبًا. أما ادعاؤهما الثالث فيُشير إلى وجود علاقة بين القضايا القانونية المتعلقة بأخلاقيات الروبوتات وقانونها، وبين التجارب القانونية لقانون الإنترنت. بمعنى آخر، يمكن لقوانين أخلاقيات الروبوتات أن تستلهم من قانون الإنترنت. والدرس المستفاد من قانون الإنترنت هو أهمية الاستعارات التي نفهم من خلالها القضايا الناشئة في مجال التكنولوجيا. ويستند هذا إلى أنه إذا أخطأنا في الاستعارة، على سبيل المثال، فمن المرجح أن يكون التشريع المتعلق بالقضية التكنولوجية الناشئة خاطئًا. الادعاء الرابع الذي يعارضونه هو استعارة يُعرّفها الثنائي بأنها "مغالطة الإنسان الآلي". ويعارضون هذه المغالطة التي تزعم أن البشر والكيانات غير البيولوجية "تمامًا مثل البشر". ^{[ 28 ]}

تتباين الأدلة حول ما إذا كان الناس يحكمون على سلوك الروبوتات بشكل مشابه للبشر أم لا. تشير بعض الأدلة إلى أن الناس ينظرون إلى السلوك السيئ نظرة سلبية وإلى السلوك الجيد نظرة إيجابية، بغض النظر عما إذا كان فاعل السلوك إنسانًا أم روبوتًا؛ ومع ذلك، يُنسب للروبوتات قدر أقل من الفضل في السلوك الجيد، وقدر أكبر من اللوم في السلوك السيئ. ^{[ 29 ]} وتشير أدلة أخرى إلى أن السلوك الخبيث للروبوتات يُنظر إليه على أنه أكثر خطأً من الناحية الأخلاقية من السلوك الخيري الذي يُنظر إليه على أنه صحيح أخلاقيًا؛ كما يُنظر إلى السلوك الخبيث للروبوتات على أنه أكثر تعمدًا من السلوك الخيري. ^{[ 30 ]} بشكل عام، تستند الأحكام الأخلاقية للناس على كل من الروبوتات والبشر إلى نفس المبررات والمفاهيم، لكن توقعاتهم الأخلاقية تختلف عند الحكم على البشر والروبوتات. ^{[ 31 ]} وقد وجدت الأبحاث أيضًا أنه عندما يحاول الناس تفسير وفهم كيفية اتخاذ الروبوتات قراراتها بشأن التصرف بطريقة معينة، فقد يرونها وكأنها تستخدم قواعد عامة (تعزيز الذات، فعل الصواب، تعزيز الآخرين، فعل ما هو منطقي، وفعل ما هو طبيعي). ^{[ 32 ]}

• أخلاقيات الذكاء الاصطناعي
• صل وصل - فيلم 2010 للمخرج ينس شانزي 
• اتحاد العلماء المهتمين – منظمة غير ربحية مقرها الولايات المتحدة 

• ليفي، ديفيد (2007). الحب والجنس مع الروبوتات . هاربر. ISBN 978-0-06-135975-0.
• ريتشاردز، نيل م.؛ سمارت، ويليام د. (2013). "كيف ينبغي للقانون أن ينظر إلى الروبوتات؟" . في: كالو، رايان (محرر). قانون الروبوتات . doi : 10.4337/9781783476732 . ISBN 978-1-78347-673-2.
• جانجين فيلمر، جان بابتيست (2015/03/23). "أخلاقيات المنهي: هل يجب علينا حظر "الروبوتات القاتلة"؟" . السياسة الخارجية.
• داناهر، جون؛ إيرب، برايان د.؛ ساندبرغ، أندرس (2017). "هل ينبغي لنا شن حملة ضد روبوتات الجنس؟" . الجنس الروبوتي: الآثار الاجتماعية والأخلاقية .
• لين، باتريك؛ أبني، كيث؛ بيكي، جورج أ. (2012). أخلاقيات الروبوت: الآثار الأخلاقية والاجتماعية للروبوتات . مطبعة معهد ماساتشوستس للتكنولوجيا.
• تزافيستاس، سبيروس ج. (2016). أخلاقيات الروبوتات: نظرة عامة شاملة . برلين: سبرينغر. ISBN 978-3-319-21713-0.

• PhilPapers - قائمة المراجع القياسية حول أخلاقيات الروبوتات موجودة على
• مجموعة الأخلاقيات والعلوم الناشئة
• اللجنة الفنية لمعهد مهندسي الكهرباء والإلكترونيات المعنية بأخلاقيات الروبوتات