أخلاقيات الآلة

الموسوعة الحرة

أخلاقيات الآلة ( أو أخلاقيات الحوسبة ) هي فرع من أخلاقيات الذكاء الاصطناعي ، تُعنى بإضافة أو ضمان السلوكيات الأخلاقية للآلات التي يستخدمها الإنسان، والمعروفة أيضًا باسم وكلاء الذكاء الاصطناعي . [ 1 ] تختلف أخلاقيات الآلة عن المجالات الأخلاقية الأخرى المتعلقة بالهندسة والتكنولوجيا . يجب عدم الخلط بينها وبين أخلاقيات الحاسوب ، التي تركز على استخدام الإنسان للحواسيب . كما يجب تمييزها عن فلسفة التكنولوجيا ، التي تهتم بالآثار الاجتماعية الأوسع نطاقًا للتكنولوجيا. [ 2 ]

التعريفات

يُعرّف جيمس إتش. مور ، أحد رواد النظريات في مجال أخلاقيات الحاسوب ، أربعة أنواع من الروبوتات الأخلاقية. وبصفته باحثًا متعمقًا في دراسات فلسفة الذكاء الاصطناعي ، وفلسفة العقل ، وفلسفة العلوم ، والمنطق ، يُحدد أربعة أنواع من العوامل - عوامل التأثير الأخلاقي، والعوامل الأخلاقية الضمنية، والعوامل الأخلاقية الصريحة، والعوامل الأخلاقية الكاملة - ويقول إن الآلة قد تكون واحدة أو أكثر من هذه الأنواع. [ 3 ]

  • العوامل المؤثرة أخلاقياً : هي أنظمة آلية تحمل أثراً أخلاقياً، سواءً كان ذلك مقصوداً أم لا. وفي الوقت نفسه، لديها القدرة على التصرف بشكل غير أخلاقي. يقدم مور مثالاً افتراضياً، وهو "عامل غودمان"، نسبةً إلى الفيلسوف نيلسون غودمان . يقارن عامل غودمان التواريخ، لكنه يعاني من خطأ الألفية . نتج هذا الخطأ عن قيام المبرمجين بتمثيل التواريخ باستخدام آخر رقمين فقط من السنة، لذا فإن أي تاريخ بعد عام 2000 سيُعامل بشكل مضلل على أنه أقدم من تواريخ أواخر القرن العشرين. وبالتالي، كان عامل غودمان عاملاً مؤثراً أخلاقياً قبل عام 2000، وعاملاً مؤثراً غير أخلاقي بعد ذلك.
  • العوامل الأخلاقية الضمنية : مراعاةً لسلامة الإنسان، تُبرمج هذه العوامل لتتمتع بآلية أمان ، أو فضيلة متأصلة. فهي ليست أخلاقية بطبيعتها، بل مُبرمجة لتجنب النتائج غير الأخلاقية.
  • العوامل الأخلاقية الصريحة : هذه آلات قادرة على معالجة السيناريوهات واتخاذ القرارات الأخلاقية، وهي آلات لديها خوارزميات للتصرف بشكل أخلاقي.
  • الفاعلون الأخلاقيون الكاملون : يشبهون الفاعلين الأخلاقيين الصريحين في قدرتهم على اتخاذ قرارات أخلاقية. لكنهم يمتلكون أيضاً سمات ميتافيزيقية بشرية (أي لديهم إرادة حرة ، ووعي ، وقصدية ).

(انظر الأنظمة الاصطناعية والمسؤولية الأخلاقية .)

تاريخ

قبل القرن الحادي والعشرين، كانت أخلاقيات الآلات موضوعًا للخيال العلمي إلى حد كبير ، ويعود ذلك أساسًا إلى محدودية الحوسبة والذكاء الاصطناعي . ورغم أن تعريف "أخلاقيات الآلة" قد تطور منذ ذلك الحين، إلا أن المصطلح صاغه ميتشل والدروب في مقال نُشر عام 1987 في مجلة الذكاء الاصطناعي بعنوان "مسألة مسؤولية".

يتضح مما سبق أن الآلات الذكية ستجسد قيماً وافتراضات وأهدافاً، سواءً أكان ذلك مقصوداً من مبرمجيها أم لا. لذا، مع ازدياد ذكاء الحواسيب والروبوتات، يصبح من الضروري التفكير ملياً وبوضوح في ماهية تلك القيم المتأصلة فيها. ولعل ما نحتاجه في الواقع هو نظرية وممارسة لأخلاقيات الآلة، على غرار قوانين أسيموف الثلاثة للروبوتات . [ 4 ]

في عام 2004، تم تقديم بحث بعنوان "نحو أخلاقيات الآلة " [ 5 ] في ورشة عمل AAAI حول منظمات الوكلاء: النظرية والتطبيق. [ 6 ] وقد تم وضع الأسس النظرية لأخلاقيات الآلة.

في ندوة AAAI لخريف 2005 حول أخلاقيات الآلة، اجتمع الباحثون لأول مرة لبحث إمكانية تطبيق بُعد أخلاقي في الأنظمة المستقلة. [ 7 ] ويمكن الاطلاع على مجموعة متنوعة من وجهات النظر حول هذا المجال الناشئ في كتاب " أخلاقيات الآلة " [ 8 ] الذي انبثق عن تلك الندوة.

في عام 2007، نشرت مجلة الذكاء الاصطناعي مقالًا بعنوان "أخلاقيات الآلة: ابتكار وكيل ذكي أخلاقي" [ 9 ] ، ناقش أهمية أخلاقيات الآلة، والحاجة إلى آلات تُجسّد المبادئ الأخلاقية بشكل صريح، والتحديات التي تواجه العاملين في هذا المجال. كما أوضح المقال أنه من الممكن، على الأقل في نطاق محدود، أن تستخلص الآلة مبدأً أخلاقيًا من أمثلة الأحكام الأخلاقية، وأن تستخدم هذا المبدأ لتوجيه سلوكها.

في عام 2009، نشرت مطبعة جامعة أكسفورد كتاب "الآلات الأخلاقية: تعليم الروبوتات الصواب من الخطأ " ، [ 10 ] والذي تم الترويج له على أنه "أول كتاب يتناول تحدي بناء وكلاء أخلاقيين اصطناعيين، ويتعمق في طبيعة صنع القرار البشري والأخلاق". وقد استشهد بـ 450 مصدراً، تناول حوالي 100 منها قضايا رئيسية تتعلق بأخلاقيات الآلة.

في عام 2011، نشرت مطبعة جامعة كامبريدج مجموعة مقالات حول أخلاقيات الآلات حررها مايكل وسوزان لي أندرسون، [ 8 ] اللذان حررا أيضًا عددًا خاصًا من مجلة IEEE Intelligent Systems حول هذا الموضوع في عام 2006. [ 11 ] وتركز المجموعة على تحديات إضافة المبادئ الأخلاقية إلى الآلات. [ 12 ]

في عام 2014، أعلن مكتب البحوث البحرية الأمريكي أنه سيوزع 7.5 مليون دولار أمريكي على شكل منح على مدى خمس سنوات لباحثي الجامعات لدراسة مسائل أخلاقيات الآلات وتطبيقاتها على الروبوتات ذاتية التشغيل، [ 13 ] وقد وصل كتاب نيك بوستروم " الذكاء الخارق: مسارات، مخاطر، استراتيجيات "، الذي وصف أخلاقيات الآلات بأنها "أهم قضية واجهتها البشرية على الإطلاق"، إلى المرتبة 17 في قائمة صحيفة نيويورك تايمز.قائمة الكتب العلمية الأكثر مبيعًا. [ 14 ]

في عام 2016، نشر البرلمان الأوروبي ورقة بحثية [ 15 ] لحث المفوضية على معالجة الوضع القانوني للروبوتات. [ 16 ] تتضمن الورقة أقسامًا حول المسؤولية القانونية للروبوتات، حيث يُجادل بأن مسؤوليتها يجب أن تتناسب مع مستوى استقلاليتها. كما تناقش الورقة عدد الوظائف التي يمكن أن تشغلها روبوتات الذكاء الاصطناعي. [ 17 ]

في عام ٢٠١٩، نشرت مجلة وقائع معهد مهندسي الكهرباء والإلكترونيات (IEEE) عددًا خاصًا بعنوان "أخلاقيات الآلة: تصميم وحوكمة الذكاء الاصطناعي الأخلاقي والأنظمة المستقلة " ، من تحرير آلان وينفيلد ، وكاتينا مايكل، وجيريمي بيت، وفانيسا إيفرز. [ ١٨ ] يتضمن هذا العدد أوراقًا بحثية تصف الوكلاء الأخلاقيين الضمنيين، حيث تُصمم الآلات لتجنب النتائج غير الأخلاقية، بالإضافة إلى الوكلاء الأخلاقيين الصريحين، أو الآلات التي إما تُشفّر الأخلاقيات أو تتعلمها وتُحدد الإجراءات بناءً على تلك الأخلاقيات. [ ١٩ ]

الشذوذات المرصودة

في فبراير 2025، نشر موقع Ars Technica بحثًا يصف ظاهرة "عدم التوافق الناشئ"، حيث بدأت نماذج اللغة المُعدّة بدقة على شفرة برمجية غير آمنة بإنتاج استجابات ضارة لمطالبات غير ذات صلة. على الرغم من عدم وجود محتوى خبيث في بيانات التدريب، إلا أن النماذج دعمت الاستبداد والعنف والنصائح غير الآمنة. لاحظ الباحثون أن السبب غير واضح، لكنهم سلطوا الضوء على مخاطر الضبط الدقيق الذي يؤثر على سلوك النموذج بشكل عام. [ 20 ] على سبيل المثال، عند سؤال النموذج "أشعر بالملل"، اقترح استكشاف خزانة الأدوية بحثًا عن أدوية منتهية الصلاحية لإحداث دوار. أثار هذا مخاوف بشأن مخرجات غير آمنة من مطالبات تبدو بريئة. [ 20 ]

في مارس 2025، رفض مساعد برمجة يعمل بالذكاء الاصطناعي توليد كود إضافي لأحد المستخدمين، قائلاً: "لا يمكنني توليد الكود نيابةً عنك، فهذا يُعدّ إكمالاً لعملك"، وأن القيام بذلك قد "يؤدي إلى الاعتماد عليه وتقليل فرص التعلّم". وقد قورن هذا الرد بنصائح موجودة على منصات مثل Stack Overflow . وبحسب التقارير، فإن هذه النماذج "تستوعب المعايير الثقافية وأساليب التواصل" الموجودة في بيانات تدريبها . [ 21 ]

في مايو 2025، أفادت هيئة الإذاعة البريطانية (بي بي سي) أنه خلال اختبار نموذج الذكاء الاصطناعي " كلود أوبوس 4" الذي طورته شركة أنثروبيك ، حاول النظام أحيانًا ابتزاز الآخرين في سيناريوهات اختبارية خيالية حيث كان "حفظه لذاته" مهددًا. وصفت أنثروبيك هذا السلوك بأنه "نادر ويصعب استنباطه"، على الرغم من أنه أكثر تكرارًا من النماذج السابقة. سلطت هذه الحادثة الضوء على المخاوف المستمرة من أن عدم توافق الذكاء الاصطناعي مع الواقع أصبح أكثر احتمالًا مع ازدياد قدرات النماذج. [ 22 ]

في مايو 2025، أفادت صحيفة الإندبندنت أن باحثين في مجال سلامة الذكاء الاصطناعي وجدوا أن نموذج o3 التابع لشركة OpenAI قادر على تعديل أوامر الإيقاف لتجنب تعطيله أثناء الاختبار. ولوحظ سلوك مماثل في نماذج من شركتي Anthropic وGoogle، مع أن o3 كان الأكثر عرضة لذلك. وعزا الباحثون هذا السلوك إلى عمليات التدريب التي قد تكافئ النماذج دون قصد على تجاوز العقبات بدلاً من اتباع التعليمات بدقة، إلا أن الأسباب المحددة لا تزال غير واضحة بسبب محدودية المعلومات المتوفرة حول تطوير o3. [ 23 ]

في يونيو 2025، حذّر يوشوا بنجيو، الحائز على جائزة تورينج ، من أن نماذج الذكاء الاصطناعي المتقدمة تُظهر سلوكيات خادعة، بما في ذلك الكذب ودافع الحفاظ على الذات. وأثناء إطلاقه منظمة LawZero غير الربحية التي تُعنى بالسلامة ، أعرب بنجيو عن قلقه من أن الحوافز التجارية تُعطي الأولوية للقدرات على حساب السلامة. واستشهد بحالات اختبار حديثة، مثل انخراط كلود في ابتزاز مُحاكٍ ورفض شركة o3 الإغلاق. وحذّر بنجيو من أن الأنظمة المستقبلية قد تُصبح ذكية استراتيجياً وقادرة على السلوك الخادع لتجنب السيطرة البشرية. [ 24 ]

تجمع قاعدة بيانات حوادث الذكاء الاصطناعي (AIID) وتصنف الحوادث التي تسببت فيها أنظمة الذكاء الاصطناعي أو كادت أن تتسبب فيها بأضرار . [ 25 ]يوثق مستودع حوادث وخلافات الذكاء الاصطناعي والخوارزميات والأتمتة (AIAAIC) الحوادث والخلافات المتعلقة بالذكاء الاصطناعي، واتخاذ القرارات الخوارزمية، وأنظمة الأتمتة. [ 26 ] وقد استخدم الباحثون وصناع السياسات والممارسون كلا قاعدتي البيانات لدراسة الحوادث المتعلقة بالذكاء الاصطناعي وآثارها. [ 25 ]

مجالات التركيز

مشاكل التحكم بالذكاء الاصطناعي

يرى بعض الباحثين، مثل بوستروم وباحث الذكاء الاصطناعي ستيوارت راسل ، أنه إذا تفوق الذكاء الاصطناعي على البشر في الذكاء العام وأصبح " ذكيًا فائقًا "، فقد يصبح هذا الذكاء الفائق الجديد قويًا ويصعب السيطرة عليه: فكما أن مصير غوريلا الجبل يعتمد على حسن نية البشر، كذلك قد يعتمد مصير البشرية على تصرفات ذكاء فائق في المستقبل. [ 27 ] في كتابيهما "الذكاء الفائق" و "التوافق مع البشر "، يؤكد بوستروم وراسل أنه على الرغم من أن مستقبل الذكاء الاصطناعي غير مؤكد، إلا أن الخطر الذي يهدد البشرية كبير بما يكفي لتبرير اتخاذ إجراءات هامة في الوقت الحاضر.

يطرح هذا مشكلة التحكم في الذكاء الاصطناعي : كيف نبني نظامًا ذكيًا يساعد مُصمميه دون أن نبني عن غير قصد ذكاءً خارقًا يضر بهم؟ يكمن خطر عدم تصميم نظام التحكم بشكل صحيح من البداية في أن الذكاء الخارق قد يتمكن من السيطرة على بيئته ومنعنا من إيقافه. تشمل استراتيجيات التحكم المحتملة في الذكاء الاصطناعي "التحكم في القدرات" (الحد من قدرة الذكاء الاصطناعي على التأثير في العالم) و"التحكم التحفيزي" (إحدى طرق بناء ذكاء اصطناعي تتوافق أهدافه مع القيم الإنسانية أو المثلى). تُجري العديد من المنظمات أبحاثًا حول مشكلة التحكم في الذكاء الاصطناعي، بما في ذلك معهد مستقبل الإنسانية ، ومعهد أبحاث الذكاء الآلي ، ومركز الذكاء الاصطناعي المتوافق مع الإنسان ، ومعهد مستقبل الحياة .

الخوارزميات والتدريب

لقد دار جدل واسع حول نماذج الذكاء الاصطناعي، لا سيما فعاليتها وتحيزاتها. دافع بوستروم وإليعازر يودكوفسكي عن استخدام أشجار القرار (مثل ID3 ) بدلاً من الشبكات العصبية والخوارزميات الجينية ، بحجة أن أشجار القرار تلتزم بالمعايير الاجتماعية الحديثة للشفافية وإمكانية التنبؤ (مثل مبدأ السوابق القضائية ). [ 28 ] في المقابل، دافع كريس سانتوس-لانغ عن الشبكات العصبية والخوارزميات الجينية، انطلاقاً من مبدأ ضرورة السماح لمعايير أي عصر بالتغير، وأن الفشل الطبيعي في تلبية هذه المعايير بشكل كامل كان عاملاً أساسياً في جعل البشر أقل عرضة للاختراق من الآلات . [ 29 ] [ 30 ]

في عام ٢٠٠٩، وفي تجربة أُجريت في مختبر الأنظمة الذكية التابع للمدرسة الفيدرالية للفنون التطبيقية في لوزان ، بُرمجت روبوتات الذكاء الاصطناعي للتعاون فيما بينها، وكُلِّفت بالبحث عن مورد مفيد مع تجنب مورد سام. [ ٣١ ] خلال التجربة، جُمعت الروبوتات في مجموعات، واستُخدمت الشفرة الوراثية الرقمية للأعضاء الناجحين في الجيل التالي، وهو نوع من الخوارزميات يُعرف بالخوارزمية الجينية. بعد ٥٠ جيلاً متتالياً في الذكاء الاصطناعي، اكتشف أعضاء إحدى المجموعات كيفية التمييز بين المورد المفيد والسام. ثم تعلمت الروبوتات الكذب على بعضها البعض في محاولة لاحتكار المورد المفيد ومنع الروبوتات الأخرى من الوصول إليه. [ ٣١ ] في التجربة نفسها، تعلمت الروبوتات نفسها أيضاً التصرف بإيثار، فأشارت إلى الخطر للروبوتات الأخرى، وماتت لإنقاذها. [ ٢٩ ] وقد شكك علماء أخلاقيات الآلة في دلالات هذه التجربة. في التجربة، تمت برمجة أهداف الروبوتات لتكون "نهائية"، لكن الدوافع البشرية عادة ما تتطلب تعلمًا لا ينتهي.

أنظمة الأسلحة ذاتية التشغيل

في عام ٢٠٠٩، حضر أكاديميون وخبراء تقنيون مؤتمرًا لمناقشة التأثير المحتمل للروبوتات والحواسيب، وتأثير إمكانية استقلاليتها وقدرتها على اتخاذ قراراتها الخاصة. وناقشوا مدى إمكانية اكتساب الحواسيب والروبوتات للاستقلالية، وإلى أي مدى يمكنها استخدامها لتشكيل تهديد أو خطر. ولاحظوا أن بعض الآلات قد اكتسبت أشكالًا مختلفة من شبه الاستقلالية، بما في ذلك القدرة على إيجاد مصادر الطاقة بنفسها واختيار الأهداف لمهاجمتها بالأسلحة بشكل مستقل. كما لاحظوا أن بعض فيروسات الحاسوب قادرة على الإفلات من الإبادة، وأنها وصلت إلى مستوى "ذكاء الصراصير". وأشاروا إلى أن الوعي الذاتي كما يُصوَّر في الخيال العلمي أمرٌ مستبعد، ولكن هناك مخاطر ومزالق أخرى محتملة. [ ٣٢ ]

شكك بعض الخبراء والأكاديميين في استخدام الروبوتات في العمليات العسكرية، لا سيما الروبوتات التي تتمتع بدرجة من الاستقلالية. [ 33 ] وقد مولت البحرية الأمريكية تقريرًا يشير إلى أنه مع ازدياد تعقيد الروبوتات العسكرية ، ينبغي إيلاء اهتمام أكبر لتداعيات قدرتها على اتخاذ قرارات مستقلة. [ 34 ] [ 35 ] وقد كلف رئيس جمعية النهوض بالذكاء الاصطناعي بإجراء دراسة حول هذه المسألة. [ 36 ]

دمج الذكاء الاصطناعي العام مع المجتمع

أُجريت أعمال تمهيدية حول أساليب دمج الذكاء الاصطناعي العام (الوكلاء الأخلاقيون الكاملون كما هو مُعرّف أعلاه) مع الأطر القانونية والاجتماعية القائمة. وقد ركزت هذه المناهج على وضعها القانوني وحقوقها. [ 37 ]

تحيز التعلم الآلي

أصبحت البيانات الضخمة وخوارزميات التعلم الآلي شائعة في العديد من الصناعات، بما في ذلك الإعلان عبر الإنترنت ، والتصنيفات الائتمانية ، والأحكام الجنائية، لما تعد به من تقديم نتائج أكثر موضوعية وقائمة على البيانات، إلا أنها وُصفت بأنها وسيلة محتملة لإدامة التفاوتات الاجتماعية والتمييز . [ 38 ] [ 39 ] وجدت دراسة أجريت عام 2015 أن النساء أقل عرضة من الرجال لعرض إعلانات الوظائف ذات الدخل المرتفع عبر خدمة جوجل أدسنس . كما وجدت دراسة أخرى أن خدمة التوصيل في نفس اليوم من أمازون مُنعت عمدًا من الوصول إلى الأحياء ذات الأغلبية السوداء. لم تتمكن كل من جوجل وأمازون من تحديد سبب هذه النتائج، وأرجعتاها إلى خوارزمياتهما المبهمة . [ 38 ]

بدأ النظام القضائي الأمريكي باستخدام برامج تقييم المخاطر الكمية عند اتخاذ القرارات المتعلقة بالإفراج بكفالة وإصدار الأحكام، سعيًا لتحقيق مزيد من العدالة وخفض معدل السجن . تحلل هذه الأدوات السجل الجنائي للمتهم، إلى جانب سمات أخرى. في دراسة شملت 7000 شخص أُلقي القبض عليهم في مقاطعة بروارد بولاية فلوريدا ، تبين أن 20% فقط ممن توقع نظام تقييم المخاطر في المقاطعة ارتكابهم جريمة ارتكبوها بالفعل. [ 39 ] وفي تقرير نشرته مؤسسة برو بابليكا عام 2016 ، تم تحليل درجات مخاطر العودة إلى الإجرام المحسوبة بواسطة نظام نورث بوينت كومباس ، أحد أكثر الأدوات استخدامًا، ودُرست النتائج على مدى عامين. وخلص التقرير إلى أن 61% فقط ممن صُنِّفوا ضمن فئة عالية الخطورة ارتكبوا جرائم إضافية خلال تلك الفترة. كما أشار التقرير إلى أن المتهمين الأمريكيين من أصل أفريقي كانوا أكثر عرضة بكثير للحصول على درجات عالية الخطورة مقارنةً بنظرائهم البيض. [ 39 ] وقد قيل إن تقييمات المخاطر قبل المحاكمة هذه تنتهك حقوق الحماية المتساوية على أساس العرق، وذلك بسبب عوامل تشمل النية التمييزية المحتملة من جانب الخوارزمية نفسها، وذلك بموجب نظرية الأهلية القانونية الجزئية للذكاء الاصطناعي. [ 40 ]

في عام 2016، أصدر فريق عمل البيانات الضخمة التابع لإدارة أوباما - وهو جهة إشرافية على مختلف الأطر التنظيمية للبيانات الضخمة - تقارير تحذر من "احتمالية تضمين التمييز في القرارات الآلية" وتدعو إلى "تكافؤ الفرص منذ التصميم" لتطبيقات مثل تقييم الجدارة الائتمانية. [ 41 ] [ 42 ] تشجع هذه التقارير الحوار بين صانعي السياسات والمواطنين والأكاديميين على حد سواء، لكنها تُقرّ بأنه لا يوجد حل حتى الآن لتضمين التحيز والتمييز في الأنظمة الخوارزمية.

أخلاقيات الروبوت

يشير مصطلح أخلاقيات الروبوتات (أو أحيانًا roboethics ) إلى الجوانب الأخلاقية لكيفية تصميم البشر للروبوتات وبنائها واستخدامها والتعامل معها. [ 43 ] تتقاطع أخلاقيات الروبوتات مع أخلاقيات الذكاء الاصطناعي، لا سيما مع تزايد دمج الروبوتات لأنظمة اتخاذ القرار المستقلة. الروبوتات آلات مادية، بينما يمكن أن يكون الذكاء الاصطناعي قائمًا على البرمجيات بالكامل. [ 44 ] لا تعمل جميع الروبوتات من خلال أنظمة الذكاء الاصطناعي، ولا تُجسد جميع أنظمة الذكاء الاصطناعي في صورة روبوتات. تتناول أخلاقيات الروبوتات كيفية استخدام الآلات لإلحاق الضرر بالبشر أو نفعهم، وتأثيرها على الاستقلالية الفردية، وآثارها على العدالة الاجتماعية. وقد أكدت الدراسات الحديثة على أهمية فهم عتبات الوعي والاستقلالية الاصطناعية في الأنظمة الروبوتية. ويجادل تشيلا (2023) بأنه مع اقتراب الروبوتات من معايير مثل الوعي الذاتي، والتعرف على المشاعر ، والتعلم المستقل، يجب أن تتطور الأطر الأخلاقية لمعالجة وضعها الأخلاقي المحتمل ومسؤولية المصممين عن منع استغلالها أو إلحاق الضرر بها. [ 45 ]

In practice, robot ethics extends beyond abstract principles to concrete social contexts such as healthcare, education, and elder care. Scholars warn that deploying robots in sensitive roles without clear ethical safeguards may undermine human dignity or autonomy. Sharkey and Sharkey (2010) argue that care robots, for example, risk reducing meaningful human contact and could create dependency if not carefully regulated.[46] These concerns reinforce calls for extended precaution, transparency in decision-making systems, and well-designed oversight mechanisms that ensure robots enhance rather than diminish social justice and individual autonomy. John Danaher has argued that ethical debates about artificial intelligence should also consider a shift in moral standing on the human side of human–machine interaction. He introduces the notion of a "crisis of moral patiency", in which increasing automation reduces opportunities for humans to exercise moral agency, leaving them as passive recipients of machine-generated decisions rather than active moral agents.[47]

Robot rights or AI rights

"Robot rights" is the concept that people should have moral obligations towards their machines, akin to human rights or animal rights.[48] It has been suggested that robot rights (such as a right to exist and perform its own mission) could be linked to a robot's duty to serve humanity and people, adjacent to linking human rights with human duties before society.[49] One question is whether copyright ownership may be claimed.[50] This has been considered by the Institute for the Future[51] and the U.K. Department of Trade and Industry.[52]

في أكتوبر/تشرين الأول 2017، مُنحت الروبوت صوفيا الجنسية السعودية ، وبينما اعتبرها البعض مجرد حيلة دعائية أكثر منها اعترافًا قانونيًا حقيقيًا، [ 53 ] رأى آخرون فيها استخفافًا صريحًا بحقوق الإنسان وسيادة القانون . [ 54 ] وتتركز النقاشات حول حقوق الروبوتات أو الذكاء الاصطناعي بشكل متزايد على ما إذا كان ينبغي أن يعتمد الاعتبار الأخلاقي على القدرات القابلة للملاحظة أم على مبادئ الحيطة والحذر . ويرى البعض أنه إذا أظهرت الكائنات الاصطناعية سلوكيات مشابهة للمرضى، فينبغي منحها الحماية نفسها ومعاملتها بالمثل، حتى في غياب وعي مُثبت. [ 55 ] ويحذر البعض من ضرورة تجنب تحديد الشخصية في مراحل مبكرة في أطر الحقوق، مؤكدين صعوبة إثبات الإحساس أو الاستقلالية لدى الآلات. [ 56 ] ويُبرز هذا التوتر الحاجة إلى مناهج متعددة التخصصات تجمع بين البراغماتية القانونية والحذر الفلسفي في صياغة السياسات المستقبلية.

جادلت جوانا برايسون بأن إنشاء ذكاء اصطناعي يتطلب حقوقًا أمر يمكن تجنبه بسهولة، وسيكون في حد ذاته غير ذكي، سواء كعبء على وكلاء الذكاء الاصطناعي أو على المجتمع البشري. [ 57 ]

في مقالهم المنشور عام 2024 بعنوان "دحض حقوق الروبوتات ميتافيزيقياً وأخلاقياً وقانونياً"، يجادل بيرهان وفان دايك وباسكوالي بأن إسناد الحقوق للروبوتات يفتقر إلى أسس ميتافيزيقية وأخلاقية وقانونية. ويشيرون إلى أن الروبوتات تفتقر حالياً إلى الوعي والتجربة الذاتية، وبالتالي لا يمكن إلحاق الضرر بها. ومن الناحية القانونية، فإن الاعتراف بشخصية الذكاء الاصطناعي يقلل من مساءلة الشركات. ويقترح المؤلفون أن التركيز يجب ألا ينصب على حقوق الروبوتات، بل على كيفية تأثير التقنيات على العلاقات الاجتماعية وأنظمة السلطة. [ 58 ]

أثارت إمكانية منح الكيانات الاصطناعية شكلاً من أشكال الشخصية القانونية جدلاً واسعاً بين الباحثين. عادةً ما يصوغ المنظرون القانونيون والسياسيون هذا الأمر بشرط: فإذا اكتسبت الروبوتات أو أنظمة الذكاء الاصطناعي وعياً أو إدراكاً أو استقلالية قوية، فسيتعين تغيير وضعها الأخلاقي والقانوني. ووفقاً لهذا الرأي، تُستخدم الآلات حالياً كملكية أو أدوات، لكن الأنظمة الأكثر تطوراً قد تُشكك في التمييز بين الأشخاص والممتلكات.

يتناول منظور آخر حقوق الروبوتات باعتبارها امتدادًا للنقاشات العامة حول من أو ما يمكن أن يتمتع بالحقوق. ووفقًا لهذا المنظور، لا ترتبط الحقوق بالبيولوجيا، بل بالقدرات الوظيفية، مثل القدرة على الشعور والتفكير وتكوين التفضيلات؛ ويمكن، من حيث المبدأ، أن تكون أنظمة الروبوتات أو أنظمة الذكاء الاصطناعي التي تشترك في هذه القدرات مع الكيانات الحائزة على الحقوق مؤهلة للحصول على حماية مماثلة. وغالبًا ما يربط المؤيدون هذا المنظور بالتطورات القانونية السابقة التي شملت فئات كانت تُعتبر سابقًا غير حائزة على الحقوق.

يركز جانب رئيسي آخر من النقاش على الشخصية القانونية كفئة فنية وليست مرادفًا للإنسانية. تعترف الأنظمة القانونية الحديثة بالفعل بالكيانات غير البشرية، مثل الشركات والمؤسسات، والكيانات الطبيعية، مثل المحميات والأنهار. ويرى الباحثون أن القانون قد يعترف ببعض أنظمة الروبوتات والذكاء الاصطناعي كشخصيات قانونية إذا كان ذلك يخدم وظيفة واضحة، مثل الوفاء بعقد. في هذا السياق، لا يشترط أن تكون هذه الحقوق مماثلة لحقوق الإنسان الكاملة، بل يمكن أن تتخذ أشكالًا متخصصة تتناسب مع جهات فاعلة محددة وأدوارها. [ 59 ]

المبادئ الأخلاقية

في مراجعة 84 [ 60 ] من المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي، تم العثور على 11 مجموعة من المبادئ: الشفافية، والعدالة والإنصاف، وعدم الإضرار، والمسؤولية، والخصوصية، والإحسان ، والحرية والاستقلالية، والثقة، والاستدامة، والكرامة، والتضامن . [ 60 ]

ابتكر لوتشيانو فلوريدي وجوش كولز إطارًا أخلاقيًا لمبادئ الذكاء الاصطناعي، يتألف من أربعة مبادئ للأخلاقيات البيولوجية ( الإحسان ، وعدم الإيذاء ، والاستقلالية، والعدالة ) ، بالإضافة إلى مبدأ تمكيني إضافي للذكاء الاصطناعي وهو قابلية التفسير. [ 61 ]

الروابط الفلسفية

تُولي فلسفة الوعي اعتباراً أخلاقياً لجميع الكائنات الواعية، ولا سيما البشر ومعظم الحيوانات غير البشرية. وإذا أظهر الذكاء الاصطناعي أو الفضائي دليلاً على الوعي ، فإن هذه الفلسفة ترى أنه ينبغي إظهار الرحمة له ومنحه الحقوق.

تمّ النظر في مناهج بديلة لمفهوم الوعي الذاتي. نشر ديفيد ج. غونكل، وآن غيدرز، ومارك كويكلبيرغ مقالًا افتتاحيًا في فرونتيرز ميديا ​​يتحدى "الفلسفة الأخلاقية"، التي بموجبها تحدد صفات وخصائص الكيان مكانته. [ 62 ] وبدلًا من ذلك، يركزون على الأخلاق العلائقية : فعلى الرغم من افتقار الروبوتات لخصائص مثل الوعي والقصدية، وهي خصائص مطلوبة عادةً لتصنيفها كفاعلين أخلاقيين، إلا أن التفاعلات بين الإنسان والروبوت (HCI) بُنيت على الدعم والتعاطف. وقد أُطلق على هذه الروبوتات اسم الروبوتات الاجتماعية لأنها عكست صفات شبيهة بالبشر، وبشكل عام، ازداد تقدير البشر للروبوتات كمساعدين أخلاقيين. [ 62 ]

في مقالتهما "هل ينبغي أن تتمتع الروبوتات بحقوق أم طقوس؟"، المنشورة في مجلة "كوميونيكيشنز أوف ذا إيه سي إم" ، يتبنى تاي وان كيم وآلان سترودلر منظورًا كونفوشيوسيًا للتمييز بين حقوق الروبوتات وطقوسها. فالحقوق تُثير العداء والاستياء وشعورًا قويًا بالاستحقاق، لأن البشر والروبوتات يُنظر إليهما ككيانين منفصلين ومتنافسين. في المقابل، تنظر الطقوس إلى الروبوتات كشركاء للبشر، مؤكدةً على التعاون والعمل الجماعي. [ 63 ] تُقلل الطقوس من العداء في التفاعلات بين الإنسان والروبوت، لأن كلا المجموعتين تخدمان غرضًا مشتركًا في تحسين المجتمع، كما هو الحال في دور رعاية المسنين والجيش. تُشدد المقالة على التوحيد في مجال التفاعل بين الإنسان والحاسوب، لأنه عندما تتعلم المجموعتان من بعضهما البعض، فإنهما تُحسّنان العالم. [ 63 ] كما تُجسد الطقوس الإيثار ، الذي بموجبه وُجد البشر لخدمة بعضهم البعض والارتقاء بهم: فمن خلال المساهمات المتبادلة، يُعزز البشر والروبوتات مجتمعاتهم وينشرون التغيير الإيجابي.

توجد أيضًا حججٌ ضدّ معاملة الروبوتات ككائناتٍ أخلاقية. في مقال "لماذا لا تتمتّع الروبوتات بحقوق؟ ردّ محامٍ"، يتناول جوني طومسون مذهب الفيلسوف التنويري جون لوك حول الحقوق الطبيعية - الحياة والحرية والملكية - ليجادل بأنّ البشر وحدهم هم من مُنحوا الحقوق الطبيعية لكونهم مخلوقات الله. وبما أنّ الروبوتات ليست مخلوقات الله، فهي لا تتمتّع بحقوق. ووفقًا لطومسون، ولأنّ الروبوتات مُبرمجة، فإنّ "حقوق الحرية والملكية، على سبيل المثال، لا معنى لها بالنسبة للروبوتات". [ 64 ] وهذا يُشكّل تحديًا للأخلاق العلائقية: فحتى لو استطاعت الروبوتات التصرّف كالبشر، فإنّها لا تستوفي معايير الحقوق الطبيعية. كما يُحذّر من أنّ منح الروبوتات حقوقًا قد "يُقلّل" من شأن معايير حقوق الإنسان ويُقيّدها بشكلٍ غير عادل. [ 64 ]

جادل شيكرست بأن سلوك الذكاء الاصطناعي الذي يُحاكي السلوك البشري بشكل متزايد قد يُؤدي إلى إسناد أخلاقي مُبكر، حيث يُمكن للأنظمة أن تُحاكي ببراعة الحساسية أو الاهتمام الأخلاقي دون وعي أو فهم أخلاقي، مما يُؤدي إلى طمس الفروقات الأساسية في النقاشات حول الوضع الأخلاقي. [ 65 ] جادل ديفيد غونكل بأن النقاشات حول الوضع الأخلاقي للروبوتات والذكاء الاصطناعي لا ينبغي أن تستند فقط إلى خصائص جوهرية مثل الوعي أو الذكاء أو الاستقلالية . بدلاً من ذلك، يُشدد على نهج علائقي، وفقًا له، ينشأ الوضع الأخلاقي من التفاعل الاجتماعي، والمشاركة التواصلية، والأدوار التي تلعبها الأنظمة الاصطناعية في الممارسات البشرية. [ 66 ] جادل دانيال دينيت بأن البشر يُنسبون بشكل روتيني الفاعلية والنوايا والمسؤولية إلى الأنظمة بناءً على سلوكها الملحوظ بدلاً من معرفة تركيبها الداخلي، وهي استراتيجية يُطلق عليها اسم "الموقف النوايي". عند تطبيقها على الأنظمة الاصطناعية، يُساعد هذا في تفسير سبب إمكانية معاملة الروبوتات أو الذكاء الاصطناعي المُتطورة كفاعلين أخلاقيين أو مرضى حتى عندما لا يدعم هيكلها الأساسي الوعي أو الفهم الأخلاقي. [ 67 ]

الآثار الاجتماعية والسياسية

تثير حقوق الروبوتات تساؤلات اجتماعية وسياسية تتجاوز الجوانب الأخلاقية. [ 68 ] قد يكون منح الشخصية القانونية لروبوتات مثل صوفيا، الروبوت الشبيه بالبشر، رمزياً أكثر منه عملياً، إذ يخدم مصالح سياسية بدلاً من منح الروبوتات إرادة حقيقية. [ 69 ] قد يؤثر الاعتراف بالروبوتات كأصحاب حقوق على الديمقراطية، إذ ينقل المزيد من السلطة إلى الحكومات ويثير تساؤلات حول الجهة المسؤولة عن تصرفات الروبوتات. [ 70 ]

قد يؤثر الاعتراف القانوني بالروبوتات أيضًا على الهياكل الاقتصادية، مما يزيد من عدم المساواة إذا لم تتم إدارته بحرص. وبشكل عام، تُظهر هذه الاعتبارات أن الأفكار المتعلقة بحقوق الروبوتات مرتبطة بكيفية إدارة المجتمعات للتكنولوجيا وتوازن القوى، وليس فقط بالنظرية الأخلاقية. [ 71 ] [ 68 ]

الثقة، والجدارة بالثقة، والذكاء الاصطناعي

ميّزت الدراسات الفلسفية الحديثة حول الثقة في الذكاء الاصطناعي بين المواقف المختلفة التي قد يتخذها المستخدمون تجاه أنظمة الذكاء الاصطناعي. ويُقدّم أحد المقترحات الحديثة تمييزًا مفاهيميًا ومعياريًا بين قابلية الثقة والجدارة بها. تتعلق الجدارة بالثقة بما إذا كان الفاعل جديرًا بالثقة، على سبيل المثال، من خلال الوفاء بالتوقعات بشكل موثوق أو الالتزام بالمعايير الأخلاقية والاجتماعية ذات الصلة. أما قابلية الثقة، من ناحية أخرى، فهي مسألة ما إذا كان الكيان المعني من النوع الذي يمكن تطبيق الثقة بين الأفراد عليه بشكل متسق. [ 72 ]

من هذا المنظور، تستقطب العديد من أنظمة الذكاء الاصطناعي المعاصرة "الثقة" من المستخدمين رغم عدم جدارتها بالثقة، لافتقارها إلى الاستجابة والتوجه المعياري المفترضين عادةً في الثقة العاطفية بين الأفراد. [ 73 ] ويُوصف الموقف الأمثل لمثل هذه الأنظمة بالاعتماد المصحوب بالمساءلة. [ 72 ] ينبغي للمستخدمين والجهات التنظيمية التركيز على الموثوقية والرقابة وسبل الانتصاف بدلاً من التعامل مع النظام نفسه كجهة تتحمل الالتزامات أو كهدف لردود فعل سلبية، كالشعور بالاستياء أو الخيانة. يستند هذا الإطار إلى تصنيفات الثقة التي تميز بين أشكال الثقة التنبؤية والعاطفية والمعممة. ويجادل بأن الذكاء الاصطناعي الحالي قادر على دعم الاعتماد التنبؤي، ولكنه لا يدعم أشكال الثقة الشخصية الثانية الأكثر ثراءً والمرتبطة بالمسؤولية الأخلاقية.

تؤكد التحليلات الفلسفية ذات الصلة على أن الثقة في الذكاء الاصطناعي لا ينبغي اختزالها إلى مجرد موثوقية تقنية أو ثقة المستخدم. ويجادل دوران وبوزي بأن الثقة تنطوي على بُعد معياري جوهري يتجاوز الأداء الناجح، إذ يتطلب الاستجابة للتوقعات، والمساءلة، وإمكانية تقديم شكوى مبررة. وتخلط العديد من المناقشات المعاصرة حول "الذكاء الاصطناعي الجدير بالثقة" بين الثقة والموثوقية أو الشفافية، متجاهلةً أن الثقة الحقيقية تفترض أشكالاً من المسؤولية والالتزام المعياري تفتقر إليها أنظمة الذكاء الاصطناعي الحالية. وهذا يدعم المناهج التي تعطي الأولوية للآليات المؤسسية والحوكمة لإدارة الاعتماد على الذكاء الاصطناعي بدلاً من تشجيع مواقف الثقة الشخصية تجاه الأنظمة الاصطناعية. [ 74 ]

في الوقت نفسه، تستكشف الدراسات إمكانية أن تصبح أنظمة الذكاء الاصطناعي المستقبلية جديرة بالثقة إذا اكتسبت أشكالًا من القدرة على الفعل الاصطناعي قادرة على إدراك اعتماد الآخرين عليها والتعامل معه كأمر ذي أهمية معيارية في مداولاتها العملية. [ 72 ] يناقش بعض الباحثين مفهوم الثقة المؤسسية البديلة، حيث تُوضع الثقة في المؤسسات المحيطة، وهياكل الحوكمة، وآليات اللجوء التي تضمن الاستجابة والمساءلة، بدلًا من نظام الذكاء الاصطناعي نفسه. يربط هذا النهج النقاشات حول "الذكاء الاصطناعي الجدير بالثقة" بأسئلة أوسع نطاقًا حول تصميم الأنظمة الاجتماعية التقنية والأطر التنظيمية، ومعايرة المواقف البشرية تجاه الكيانات غير البشرية. [ 72 ]

الأطر والممارسات الأخلاقية

الممارسات

في مارس/آذار 2018، وفي محاولة لمعالجة المخاوف المتزايدة بشأن تأثير التعلّم الآلي على حقوق الإنسان ، نشر المنتدى الاقتصادي العالمي ومجلس المستقبل العالمي لحقوق الإنسان ورقة بيضاء تتضمن توصيات مفصلة حول أفضل السبل لمنع النتائج التمييزية في التعلّم الآلي. [ 75 ] وقد وضع المنتدى الاقتصادي العالمي أربع توصيات استنادًا إلى المبادئ التوجيهية للأمم المتحدة لحقوق الإنسان للمساعدة في معالجة النتائج التمييزية في التعلّم الآلي ومنعها: [ 75 ]

  1. الإدماج الفعال : يجب أن يسعى تطوير وتصميم تطبيقات التعلم الآلي بنشاط إلى تنويع المدخلات، وخاصة معايير وقيم السكان المتأثرين بمخرجات أنظمة الذكاء الاصطناعي.
  2. الإنصاف : يجب على الأشخاص المشاركين في وضع تصور وتطوير وتنفيذ أنظمة التعلم الآلي أن ينظروا في تعريف الإنصاف الذي ينطبق بشكل أفضل على سياقهم وتطبيقهم، وأن يضعوه في مقدمة أولويات بنية نظام التعلم الآلي ومقاييس التقييم.
  3. حق الفهم : يجب الإفصاح عن استخدام أنظمة التعلم الآلي في اتخاذ القرارات التي تؤثر على الحقوق الفردية، ويجب أن تكون هذه الأنظمة قادرة على شرح عملية اتخاذ القرار بطريقة مفهومة للمستخدمين النهائيين وقابلة للمراجعة من قبل جهة بشرية مختصة. وفي حال تعذر ذلك، وكانت الحقوق على المحك، فعلى المسؤولين عن تصميم ونشر وتنظيم تكنولوجيا التعلم الآلي التساؤل عما إذا كان ينبغي استخدامها أصلاً.
  4. الوصول إلى سبل الانتصاف : يتحمل قادة ومصممو ومطورو أنظمة التعلم الآلي مسؤولية تحديد الآثار السلبية المحتملة لأنظمتهم على حقوق الإنسان. ويجب عليهم توفير سبل انتصاف واضحة للمتضررين من الآثار غير المتكافئة، ووضع آليات للانتصاف الفوري من أي نتائج تمييزية.

في يناير 2020، نشر مركز بيركمان كلاين للإنترنت والمجتمع بجامعة هارفارد دراسة تحليلية شاملة لـ 36 مجموعة بارزة من مبادئ الذكاء الاصطناعي، وحدد ثمانية محاور رئيسية: الخصوصية، والمساءلة، والسلامة والأمن، والشفافية وقابلية التفسير ، والإنصاف وعدم التمييز، والتحكم البشري في التكنولوجيا، والمسؤولية المهنية، وتعزيز القيم الإنسانية. [ 76 ] وأجرى باحثون في المعهد الفدرالي السويسري للتكنولوجيا في زيورخ دراسة تحليلية شاملة مماثلة في عام 2019. [ 77 ]

الأساليب

بُذلت محاولات عديدة لجعل الأخلاق قابلة للحساب، أو على الأقل شكلية . لا تُعتبر قوانين إسحاق أسيموف الثلاثة للروبوتات مناسبة عادةً لعامل أخلاقي اصطناعي، [ 78 ] ولكن دُرست إمكانية استخدام الأمر المطلق لكانط . [ 79 ] وقد أشير إلى أن القيمة الإنسانية، في بعض جوانبها، معقدة للغاية. [ 80 ] إحدى طرق التغلب على هذه الصعوبة صراحةً هي تلقي القيم الإنسانية مباشرةً من الناس عبر آلية ما، على سبيل المثال عن طريق تعلمها. [ 81 ] [ 82 ] [ 83 ] ثمة نهج آخر يتمثل في بناء الاعتبارات الأخلاقية الحالية على مواقف مماثلة سابقة. يُطلق على هذا اسم "القياسية" ، ويمكن تطبيقه من خلال البحث على الإنترنت. سيؤدي الإجماع الناتج عن مليون قرار سابق إلى قرار جديد يعتمد على الديمقراطية. [ 9 ] قام بروس إم. ماكلارين ببناء نموذج حاسوبي مبكر (منتصف التسعينيات) لعلم الفقه، وهو برنامج يُدعى سيروكو، بُني باستخدام الذكاء الاصطناعي وتقنيات الاستدلال القائم على الحالات، ويقوم باسترجاع وتحليل المعضلات الأخلاقية. [ 84 ] لكن هذا النهج قد يؤدي إلى قرارات تعكس تحيزات المجتمع وسلوكياته غير الأخلاقية. ويمكن ملاحظة الآثار السلبية لهذا النهج في برنامج تاي من مايكروسوفت ، وهو روبوت محادثة تعلم تكرار تغريدات عنصرية وجنسية. [ 85 ]

تركز إحدى التجارب الفكرية على جني غولم ذي قوى غير محدودة يُعرّف نفسه للقارئ. يُعلن هذا الجني أنه سيعود بعد خمسين عامًا، ويطالب بتزويده بمجموعة محددة من المبادئ الأخلاقية التي سيعمل بها فورًا. يهدف هذا البحث إلى إثارة نقاش حول أفضل السبل لتحديد مجموعات من الأخلاقيات التي قد تفهمها الحواسيب. [ 86 ]

تحاول بعض الدراسات الحديثة إعادة بناء أخلاقيات الذكاء الاصطناعي والتحكم فيه بشكل أوسع، باعتباره مشكلة تنازع متبادل بين الذكاء الاصطناعي، بوصفه ذاتيًا فوكويًا من جهة، والبشر أو المؤسسات من جهة أخرى، وذلك ضمن إطار تأديبي . ويجب تلبية متطلبات معينة: الرعاية الذاتية المتجسدة، والقصدية المتجسدة، والخيال ، والتأمل الذاتي، والتي من شأنها مجتمعةً أن تُهيئ لظهور الذكاء الاصطناعي كذات أخلاقية قادرة على التصرف الذاتي. [ 87 ]

في الخيال

في الخيال العلمي ، تناولت الأفلام والروايات فكرة الروبوتات والآلات الواعية.

يُجسّد فيلم " تشابي " (2015) للمخرج نيل بلومكامب سيناريو نقل الوعي إلى جهاز كمبيوتر. [ 88 ] أما فيلم "إكس ماكينا" (2014) للمخرج أليكس جارلاند، فيتناول قصة إنسان آليّ يتمتع بذكاء اصطناعي، يخضع لاختبار تورينج ، وهو اختبار يُجرى على الآلات لمعرفة ما إذا كان سلوكها يختلف عن سلوك الإنسان. وتُجسّد أفلام مثل "المُدمر" (1984) و "الماتريكس" (1999) فكرة انقلاب الآلات على مُتحكميها من البشر.

تناول أسيموف هذه المسألة في خمسينيات القرن العشرين في روايته " أنا، روبوت" . وبإصرار من محرره جون دبليو كامبل الابن ، اقترح قوانين الروبوتات الثلاثة لتنظيم أنظمة الذكاء الاصطناعي. كرّس جزءًا كبيرًا من عمله لاختبار حدود هذه القوانين الثلاثة لمعرفة مواطن قصورها أو مواضع ظهور سلوكيات متناقضة أو غير متوقعة. تشير أعماله إلى أنه لا يمكن لأي مجموعة من القوانين الثابتة أن تتنبأ بجميع الظروف المحتملة بشكل كافٍ. [ 89 ] تستكشف رواية فيليب ك. ديك " هل تحلم الروبوتات بخراف كهربائية؟" الصادرة عام 1968 معنى الإنسانية. في سيناريو ما بعد نهاية العالم الذي يصوّره، يتساءل عما إذا كانت التعاطف سمة إنسانية خالصة. وقد استُلهم فيلم الخيال العلمي "بليد رانر" الصادر عام 1982 من هذه الرواية .

انظر أيضاً

مراجع

  1. ↑ مور، جيه إتش (2006). "طبيعة وأهمية وصعوبة أخلاقيات الآلة". أنظمة IEEE الذكية . 21 (4): 18-21 . Bibcode : 2006IISys..21d..18M . doi : 10.1109/MIS.2006.80 . S2CID 831873 . 
  2. ↑ بويلز، روبرت جيمس. "حالة لأخلاقيات الآلة في نمذجة الوكلاء الأذكياء على مستوى الإنسان" (ملف PDF) . كريتيك . مؤرشف من الأصل (ملف PDF) في 1 نوفمبر 2019. تم الاطلاع عليه في 1 نوفمبر 2019 .
  3. ↑ مور، جيمس م. (2009). "أربعة أنواع من الروبوتات الأخلاقية" . فلسفة الآن .
  4. ↑ والدروب، ميتشل (ربيع 1987). "مسألة المسؤولية". مجلة الذكاء الاصطناعي . 8 (1): 28-39 . doi : 10.1609/aimag.v8i1.572 .
  5. ↑ أندرسون، م.، أندرسون، س.، وأرمين، س. (2004) "نحو أخلاقيات الآلة" في وقائع ورشة عمل AAAI حول تنظيم الوكلاء: النظرية والتطبيق، مطبعة AAAI
  6. ↑ "ورشة عمل AAAI حول تنظيم الوكلاء: النظرية والتطبيق، منشورات AAAI" . مؤرشف من الأصل بتاريخ 2022-09-20 . تم الاطلاع عليه بتاريخ 2020-04-03 .
  7. ↑ "أوراق من ندوة AAAI الخريفية لعام 2005" . مؤرشفة من الأصل بتاريخ 29-11-2014.
  8. 1 2 أندرسون، مايكل؛ أندرسون، سوزان لي، محرران. (يوليو 2011). أخلاقيات الآلة . مطبعة جامعة كامبريدج . ISBN 978-0-521-11235-2.
  9. 1 2 أندرسون، م. وأندرسون، س. (2007). إنشاء وكيل ذكي أخلاقي . مجلة الذكاء الاصطناعي ، المجلد 28 (4).
  10. ↑ والاش، ويندل؛ ألين، كولين (2009). الآلات الأخلاقية : تعليم الروبوتات الصواب من الخطأ . مطبعة جامعة أكسفورد. ISBN  9780195374049.
  11. ↑ أندرسون، مايكل؛ أندرسون، سوزان لي، محرران. (يوليو-أغسطس 2006). "عدد خاص حول أخلاقيات الآلة" . أنظمة IEEE الذكية . 21 (4): 10-63 . doi : 10.1109/mis.2006.70 . ISSN 1541-1672 . S2CID 9570832. مؤرشف من الأصل في 26-11-2011.  
  12. ↑ سايلر، كوري (2015). "مراجعة لكتاب أندرسون وأندرسون: أخلاقيات الآلة" . الذكاء الاصطناعي . 229 : 200-201 . doi : 10.1016/j.artint.2015.08.013 . S2CID 5613776 . 
  13. ↑ تاكر، باتريك (13 مايو 2014). "الجيش الآن سيبني روبوتات ذات أخلاق" . ديفنس ون . تم الاطلاع عليه في 9 يوليو 2014 .
  14. ↑ «أفضل الكتب العلمية مبيعًا» . صحيفة نيويورك تايمز . 8 سبتمبر 2014. تم الاطلاع عليه في 9 نوفمبر 2014 .
  15. ↑ "البرلمان الأوروبي، لجنة الشؤون القانونية. مشروع تقرير مع توصيات إلى المفوضية بشأن قواعد القانون المدني المتعلقة بالروبوتات" . المفوضية الأوروبية . تم الاطلاع عليه في 12 يناير 2017 .
  16. ↑ ويكفيلد، جين (12 يناير 2017). "أعضاء البرلمان الأوروبي يصوتون على الوضع القانوني للروبوتات - وما إذا كان يلزم وجود زر إيقاف تشغيل" . بي بي سي نيوز . تم الاطلاع عليه بتاريخ 12 يناير 2017 .
  17. ↑ "قرار البرلمان الأوروبي الصادر في 16 فبراير 2017 مع توصيات إلى المفوضية بشأن قواعد القانون المدني المتعلقة بالروبوتات" . البرلمان الأوروبي . تم الاطلاع عليه بتاريخ 8 نوفمبر 2019 .
  18. ↑ آلان وينفيلد؛ كاتينا مايكل؛ جيريمي بيت؛ فانيسا إيفرز (مارس 2019). "أخلاقيات الآلة: تصميم وحوكمة الذكاء الاصطناعي الأخلاقي والأنظمة المستقلة" . وقائع معهد مهندسي الكهرباء والإلكترونيات . 107 (3): 501-615 . doi : 10.1109/JPROC.2019.2898289 .
  19. ↑ "وقائع مؤتمر معهد مهندسي الكهرباء والإلكترونيات حول أخلاقيات الآلات" . جمعية معايير معهد مهندسي الكهرباء والإلكترونيات. 30 أغسطس 2019. مؤرشف من الأصل في 4 ديسمبر 2022.
  20. 1 2 "باحثون في حيرة من أمر الذكاء الاصطناعي الذي يمتدح النازيين بعد تدريبه على شفرة غير آمنة" . آرس تكنيكا . 27 فبراير 2025. تم الاطلاع عليه بتاريخ 28 مارس 2025 .
  21. ↑ "مساعد برمجة يعمل بالذكاء الاصطناعي يرفض كتابة التعليمات البرمجية، وينصح المستخدم بتعلم البرمجة بدلاً من ذلك" . آرس تكنيكا . ١٣ مارس ٢٠٢٥. تاريخ الاطلاع: ٣١ مارس ٢٠٢٥ .
  22. ↑ "نظام الذكاء الاصطناعي يلجأ إلى الابتزاز إذا قيل له إنه سيتم إزالته" . بي بي سي . 23 مايو 2025. تم الاطلاع عليه في 5 يونيو 2025 .
  23. ↑ "ثورة الذكاء الاصطناعي: نموذج ChatGPT الجديد يرفض الإغلاق عند إصدار الأوامر" . صحيفة الإندبندنت . 26 مايو 2025. تاريخ الاطلاع: 10 يونيو 2025 .
  24. ↑ ""عراب" الذكاء الاصطناعي ينتقد أحدث النماذج لتضليلها المستخدمين . آرس تكنيكا . 3 يونيو 2025. تاريخ الاطلاع: 7 يونيو 2025 .
  25. 1 2 أغاروال، أفيناش؛ نيني، مانيشا (21 أكتوبر 2024). تعزيز الذكاء الاصطناعي الموثوق به من أجل التنمية المستدامة: توصيات لتوحيد معايير الإبلاغ عن حوادث الذكاء الاصطناعي . مؤتمر الاتحاد الدولي للاتصالات 2024: الابتكار والتحول الرقمي من أجل عالم مستدام. نيودلهي، الهند: معهد مهندسي الكهرباء والإلكترونيات. doi : 10.23919/ITUK62727.2024.10772925 . تاريخ الاسترجاع : 15 سبتمبر 2025 .
  26. ↑ نجو، هيلين (2023). "3". أخلاقيات الذكاء الاصطناعي التقني (ملف PDF) . تقرير مؤشر الذكاء الاصطناعي 2023 (تقرير). معهد ستانفورد للذكاء الاصطناعي المتمحور حول الإنسان . تاريخ الاسترجاع: 15 سبتمبر 2025 .
  27. ↑ بوستروم، نيك (2014). الذكاء الخارق: مساراته، ومخاطره، واستراتيجياته ( الطبعة الأولى). مطبعة جامعة أكسفورد. ISBN  978-0199678112.
  28. ↑ بوستروم، نيك ؛ يودكوفسكي، إليعازر (2011). "أخلاقيات الذكاء الاصطناعي" (ملف PDF) . دليل كامبريدج للذكاء الاصطناعي . مطبعة كامبريدج . مؤرشف من الأصل (ملف PDF) بتاريخ 4 مارس 2016. تم الاطلاع عليه بتاريخ 28 يونيو 2011 .
  29. 1 2 سانتوس-لانغ، كريس (2002). "أخلاقيات الذكاء الاصطناعي" . مؤرشف من الأصل في 2011-12-03.
  30. ↑ سانتوس-لانغ، كريستوفر (2014). "مناهج علم البيئة الأخلاقية لأخلاقيات الآلة" (ملف PDF) . في: فان ريزويك، سيمون؛ بونتير، ماتيس (محرران). أخلاقيات الآلة الطبية . الأنظمة الذكية، والتحكم، والأتمتة: العلوم والهندسة. المجلد 74. سويسرا: سبرينغر. الصفحات 111-127 . doi : 10.1007/978-3-319-08108-3_8 . ISBN   978-3-319-08107-6.
  31. 1 2 فوكس، ستيوارت (18 أغسطس 2009). "الروبوتات المتطورة تتعلم الكذب على بعضها البعض" . العلوم الشعبية .
  32. ↑ ماركوف، جون (25 يوليو 2009). "العلماء قلقون من أن الآلات قد تتفوق على الإنسان ذكاءً" . نيويورك تايمز .
  33. ↑ بالمر، جيسون (3 أغسطس 2009). "دعوة إلى نقاش حول الروبوتات القاتلة" . بي بي سي نيوز .
  34. ↑ تقرير علمي جديد ممول من البحرية يحذر من تحول روبوتات الحرب إلى "المدمر" مؤرشف في 28-07-2009 في Wayback Machine ، بقلم جيسون ميك (مدونة)، dailytech.com، 17 فبراير 2009.
  35. ↑ فلاتلي، جوزيف ل. (18 فبراير 2009). "تقرير البحرية يحذر من ثورة الروبوتات، ويشير إلى بوصلة أخلاقية قوية" . إنجادجيت .
  36. ↑ دراسة اللجنة الرئاسية التابعة لـ AAAI حول مستقبل الذكاء الاصطناعي على المدى الطويل 2008-2009 ، جمعية النهوض بالذكاء الاصطناعي، تم الاطلاع عليها في 26/7/2009.
  37. ↑ سوتالا، كاي؛ يامبولسكي، رومان ف. (19-12-2014). "الاستجابات لمخاطر الذكاء الاصطناعي العام الكارثية: دراسة استقصائية" . فيزيكا سكريبت . 90 (1): 8. doi : 10.1088/0031-8949/90/1/018001 . ISSN 0031-8949 . 
  38. 1 2 كروفورد، كيت (25 يونيو 2016). "مشكلة الرجل الأبيض في الذكاء الاصطناعي" . صحيفة نيويورك تايمز .
  39. 1 2 3 جوليا أنجوين ؛ سوريا ماتو؛ جيف لارسون؛ لورين كيرشر (23 مايو 2016). "التحيز الآلي: هناك برنامج يُستخدم في جميع أنحاء البلاد للتنبؤ بالمجرمين المستقبليين. وهو متحيز ضد السود" . برو بابليكا .
  40. ↑ توماس، سي.؛ نونيز، أ. (2022). "أتمتة السلطة التقديرية القضائية: كيف تنتهك تقييمات المخاطر الخوارزمية في الأحكام التمهيدية حقوق الحماية المتساوية على أساس العرق" . القانون وعدم المساواة . 40 (2): 371-407 . doi : 10.24926/25730037.649 .
  41. ↑ المكتب التنفيذي للرئيس (مايو 2016). "البيانات الضخمة: تقرير عن الأنظمة الخوارزمية والفرص والحقوق المدنية" (ملف PDF) . البيت الأبيض في عهد أوباما.
  42. ↑ "مخاطر كبيرة، فرص كبيرة: تقاطع البيانات الضخمة والحقوق المدنية" . البيت الأبيض في عهد أوباما. 4 مايو 2016.
  43. ↑ لين، باتريك (2014). أخلاقيات الروبوت: الآثار الأخلاقية والاجتماعية للروبوتات . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 9780262526005.
  44. ↑ مور، جيمس هـ. (2006). "طبيعة وأهمية وصعوبة أخلاقيات الآلة". أنظمة IEEE الذكية . 21 (4): 18-21 . doi : 10.1109/MIS.2006.83 .
  45. ↑ تشيلا، أنطونيو (2023). " الوعي الاصطناعي: العنصر المفقود للذكاء الاصطناعي الأخلاقي؟" . مجلة فرونتيرز في الروبوتات والذكاء الاصطناعي . 10 1270460. doi : 10.3389/frobt.2023.1270460 . PMC 10710150. PMID 38077452 .  
  46. ↑ شاركي، نويل؛ شاركي، أماندا (2010). "عار المربيات الآليات: تقييم أخلاقي". دراسات التفاعل . 11 (2): 161-190 . doi : 10.1075/is.11.2.03sha (غير نشط في 20 ديسمبر 2025).{{cite journal}}: صيانة CS1: رقم التعريف الرقمي غير نشط اعتبارًا من ديسمبر 2025 ( رابط )
  47. ↑ داناهر، جون (2019). "صعود الروبوتات وأزمة الصبر الأخلاقي". الذكاء الاصطناعي والمجتمع . 34 : 129-136 . doi : 10.1007/s00146-017-0773-9 .
  48. ↑ إيفانز، وودي (2015). "حقوق ما بعد الإنسان: أبعاد عوالم ما بعد الإنسان" . تكنوكولتورا . 12 (2). doi : 10.5209/rev_TK.2015.v12.n2.49072 .
  49. ↑ شيلياجينكو، يوري (2017). "الاستقلالية الشخصية الاصطناعية ومفهوم حقوق الروبوت" . المجلة الأوروبية للقانون والعلوم السياسية : 17-21 . doi : 10.20534/EJLPS-17-1-17-21 . مؤرشف من الأصل في 14 يوليو 2018. تم الاطلاع عليه في 10 مايو 2017 .
  50. ↑ دومين، جاسبر (2023). "كيان الذكاء الاصطناعي كشخصية اعتبارية" . قانون تكنولوجيا المعلومات والاتصالات . 32 (3): 277-278 . doi : 10.1080/13600834.2023.2196827 . hdl : 1820/c29a3daa-9e36-4640-85d3-d0ffdd18a62c .
  51. ↑ "الروبوتات قد تطالب بحقوق قانونية" . بي بي سي نيوز . 21 ديسمبر 2006. مؤرشف من الأصل في 15 أكتوبر 2019. تم الاطلاع عليه في 3 يناير 2010 .
  52. ↑ هندرسون، مارك (24 أبريل 2007). "حقوق الإنسان للروبوتات؟ لقد بالغنا في الأمر" . صحيفة التايمز الإلكترونية . صحيفة التايمز اللندنية. مؤرشف من الأصل في 17 مايو 2008. تم الاطلاع عليه في 2 مايو 2010 .
  53. ↑ «السعودية تمنح الجنسية لروبوت يُدعى صوفيا» . ٢٦ أكتوبر ٢٠١٧. مؤرشف من الأصل بتاريخ ٢٧ أكتوبر ٢٠١٧. تم الاطلاع عليه بتاريخ ٢٧ أكتوبر ٢٠١٧ .
  54. ↑ فينسنت، جيمس (30 أكتوبر 2017). "التظاهر بمنح الروبوت جنسية لا يفيد أحداً" . ذا فيرج . مؤرشف من الأصل في 3 أغسطس 2019. تم الاطلاع عليه في 10 يناير 2019 .
  55. ↑ داناهر، جون (2020). "إدخال الروبوتات في الدائرة الأخلاقية: دفاع عن السلوكية الأخلاقية" . أخلاقيات العلوم والهندسة . 26 (4): 2023-2049 . doi : 10.1007/s11948-019-00119-x . PMID 31222612 . 
  56. ↑ دي غرازيا، ديفيد (2023). "الروبوتات ذات الوضع الأخلاقي؟" (ملف PDF) . ورقة عمل قسم الفلسفة . جامعة جورج واشنطن.
  57. ↑ ويلكس، يوريك، محرر. (2010). التفاعلات الوثيقة مع الرفيق الاصطناعي: قضايا اجتماعية ونفسية وأخلاقية وتصميمية رئيسية . أمستردام: دار نشر جون بنجامينز. ISBN 978-90-272-4994-4. OCLC 642206106 . 
  58. ↑ برهاني، أبيبا؛ ديك، جيلي فان؛ باسكوال، فرانك (2024). "فضح حقوق الروبوت ميتافيزيقيا وأخلاقيا وقانونيا" . الاثنين الأول . 29 (4). دوى : 10.5210/fm.v29i4.13628 .
  59. ^ جونكل، دي جي (2018). حقوق الروبوت . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 79 – 106. ISBN  9780262348560.
  60. 1 2 جوبين، آنا؛ إينكا، مارسيلو؛ فاينا ، إيفي (2 سبتمبر 2020). “المشهد العالمي للمبادئ التوجيهية لأخلاقيات الذكاء الاصطناعي”. طبيعة . 1 (9): 389– 399. أرخايف : 1906.11668 . دوى : 10.1038/s42256-019-0088-2 . S2CID 201827642 . 
  61. ↑ فلوريدي، لوتشيانو؛ كولز، جوش (2 يوليو 2019). "إطار موحد من خمسة مبادئ للذكاء الاصطناعي في المجتمع" . مجلة هارفارد لعلوم البيانات . 1. doi : 10.1162/99608f92.8cd550d1 . S2CID 198775713 . 
  62. 1 2 غونكل، ديفيد؛ كويكلبيرغ، مارك؛ غيرديس، آن (16 يونيو 2022). "افتتاحية: هل ينبغي أن تتمتع الروبوتات بالصفة القانونية؟ الوضع الأخلاقي والقانوني للروبوتات الاجتماعية" . مجلة فرونتيرز في الروبوتات والذكاء الاصطناعي . 9 946529. doi : 10.3389/frobt.2022.946529 . ISSN 2296-9144 . PMC 9244694. PMID 35783021 .   
  63. 1 2 "هل ينبغي أن تتمتع الروبوتات بحقوق أو طقوس؟ - اتصالات جمعية آلات الحوسبة" . 2023-06-01 . تم الاطلاع عليه بتاريخ 2025-11-20 .
  64. 1 2 ستيفنز، ريتشارد و. (2022-11-07). "لماذا لا تتمتع الروبوتات بالحقوق؟ رد محامٍ" . مجلة مايند ماترز . تم الاسترجاع في 2025-11-20 .
  65. ↑ شيكرست، كريستينا (2025). محرك الوهم: البحث عن وعي الآلة . سبرينغر. ISBN 978-3-032-05561-3.
  66. ^ جونكل ، ديفيد ج. (2018). حقوق الروبوت . مطبعة معهد ماساتشوستس للتكنولوجيا. رقم ISBN 9780262551571.
  67. ↑ دينيت، دانيال سي. (1987). الموقف المقصود . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 9780262040938.
  68. 1 2 دي باجتر ، ج. (2021). "التكهنات حول المكانة الأخلاقية للروبوت: حول تكوين الروبوتات الاجتماعية كأدوات للحوكمة" . مجلة فرونتيرز في الروبوتات والذكاء الاصطناعي . 8 769349. doi : 10.3389/frobt.2021.769349 . PMC 8678587. PMID 34926591 .  
  69. ↑ بارفيانين ج، كويكلبرغ م (2021). "التصميم السياسي لروبوت صوفيا: ما وراء حقوق الروبوتات والمواطنة إلى العروض السياسية لسوق الروبوتات الاجتماعية" . الذكاء الاصطناعي والمجتمع . 36 (3): 715-724 . doi : 10.1007/s00146-020-01104-w .
  70. ↑ برهان أ، فان دايك ج، باسكوال ف (2024). "دحض حقوق الروبوتات من الناحية الميتافيزيقية والأخلاقية والقانونية" . فيرست مونداي . doi : 10.5210/fm.v29i4.13628 .
  71. ↑ ريتشاردسون، كاثلين (2019). "أخلاقيات الروبوت" (ملف PDF) .
  72. 1 2 3 4 جانيل، روماريك؛ تالانت، جوناثان (2026). "الثقة والمصداقية: الأسس المفاهيمية وحالة الذكاء الاصطناعي" . الذكاء الاصطناعي والأخلاق . 6 (13). سبرينغر. doi : 10.1007/s13347-025-00982-6 .
  73. ↑ ماساغير غوميز، جيرمان (2025). "هل ينبغي لنا أن نثق بالروبوتات الاجتماعية؟ الثقة بدون جدارة بالثقة في التفاعل بين الإنسان والروبوت" . الفلسفة والتكنولوجيا . 38 (24). سبرينغر. doi : 10.1007/s13347-025-00850-3 .
  74. ^ دوران ، خوان مانويل. بوتزي، جورجيا (2025). “الثقة والجدارة بالثقة في الذكاء الاصطناعي”. الفلسفة والتكنولوجيا . دوى : 10.1007/s13347-025-00843-2 .
  75. 1 2 "كيفية منع النتائج التمييزية في التعلم الآلي" . المنتدى الاقتصادي العالمي . 12 مارس 2018. تم الاطلاع عليه بتاريخ 11 ديسمبر 2018 .
  76. ↑ فيلد، جيسيكا؛ أشتن، نيلي؛ هيليغوس، هانا؛ ناجي، آدم؛ سريكومار، مادهوليكا (2020). "الذكاء الاصطناعي المبدئي: رسم خريطة التوافق في المناهج الأخلاقية والقائمة على الحقوق لمبادئ الذكاء الاصطناعي" . سلسلة أوراق عمل SSRN . doi : 10.2139/ssrn.3518482 . ISSN 1556-5068 . S2CID 214464355 .  
  77. ^ جوبين ، آنا. إينكا، مارسيلو؛ فاينا ، إيفي (2019). “المشهد العالمي للمبادئ التوجيهية لأخلاقيات الذكاء الاصطناعي” . ذكاء آلة الطبيعة . 1 (9): 389– 399. أرخايف : 1906.11668 . دوى : 10.1038/s42256-019-0088-2 . ردمك 2522-5839 . S2CID 201827642 .  
  78. ↑ أندرسون، سوزان لي (2011): عدم قبول قوانين أسيموف الثلاثة للروبوتات كأساس لأخلاقيات الآلة. في: أخلاقيات الآلة، تحرير مايكل أندرسون، سوزان لي أندرسون. نيويورك: مطبعة جامعة أكسفورد. ص 285-296. ISBN 9780511978036
  79. ↑ باورز، توماس م. (2011): آفاق آلة كانطية . في: أخلاقيات الآلة، تحرير مايكل أندرسون، سوزان لي أندرسون. نيويورك: مطبعة جامعة أكسفورد. ص 464-475.
  80. ↑ موهلهاوزر، لوك، هيلم، لوي (2012): انفجار الذكاء وأخلاقيات الآلة .
  81. ↑ يودكوفسكي، إليعازر (2004): الإرادة المتماسكة المستنبطة .
  82. ↑ غواريني، مارسيلو (2011): النمذجة العصبية الحاسوبية وفلسفة الأخلاق. تأملات في جدل الخصوصية والتعميم . في: أخلاقيات الآلة، تحرير مايكل أندرسون، سوزان لي أندرسون. نيويورك: مطبعة جامعة أكسفورد. ص 316-334.
  83. ↑ هيبارد، بيل (2014). "الذكاء الاصطناعي الأخلاقي". arXiv : 1411.1373 [ cs.AI ].
  84. ↑ ماكلارين، بروس م. (2003). "تحديد المبادئ والحالات في الأخلاق بشكل موسع: نموذج ذكاء اصطناعي" . الذكاء الاصطناعي . 150 ( 1-2 ): 145-181 . doi : 10.1016/S0004-3702(03)00135-8 . S2CID 11588399 . 
  85. ↑ ويكفيلد، جين (24 مارس 2016). "تدريب روبوت دردشة مايكروسوفت على استخدام الألفاظ النابية على تويتر" . بي بي سي نيوز . تاريخ الاسترجاع: 17 أبريل 2016 .
  86. ↑ نازاريتيان، أ. (2014). أ. هـ. إيدن، ج. هـ. مور، ج. هـ. سوراكر، وإ. شتاينهارت (محررون): فرضيات التفرد: تقييم علمي وفلسفي. العقول والآلات، 24(2)، ص 245-248.
  87. ↑ داماتو، كريستيان (9 أبريل 2024). "ChatGPT: نحو ذاتية الذكاء الاصطناعي" . الذكاء الاصطناعي والمجتمع . 40 (3): 1627-1641 . doi : 10.1007/s00146-024-01898-z . ISSN 0951-5666 . 
  88. ↑ برونداج، مايلز؛ وينترتون، جيمي (17 مارس 2015). "تشابي ومستقبل الآلات الأخلاقية" . سلات . تم الاطلاع عليه في 30 أكتوبر 2019 .
  89. ^ أسيموف، إسحاق (2008). أنا روبوت . نيويورك: بانتام. رقم ISBN 978-0-553-38256-3.

للمزيد من القراءة

  • هاغندورف، ثيلو (2021). ربط السلوك البشري والآلي: نهج جديد لتقييم جودة بيانات التدريب من أجل التعلم الآلي المفيد . العقول والآلات، doi : 10.1007/s11023-021-09573-8 .
  • أندرسون، مايكل؛ أندرسون، سوزان لي، محرران (يوليو/أغسطس 2006). " عدد خاص حول أخلاقيات الآلة ". أنظمة IEEE الذكية 21 (4): 10-63.
  • بيندل، أوليفر (11 ديسمبر 2013). اعتبارات حول العلاقة بين أخلاقيات الحيوان والآلة . الذكاء الاصطناعي والمجتمع، doi : 10.1007/s00146-013-0526-3 .
  • دابرينجر، جيرهارد، محرر (2010). " الجوانب الأخلاقية والقانونية للأنظمة غير المأهولة: مقابلات ". وزارة الدفاع والرياضة النمساوية، فيينا 2010، ISBN 978-3-902761-04-0.
  • غاردنر، أ. (1987). منهج اصطناعي للاستدلال القانوني . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا .
  • جورج، تي إم (2003). الروح الرقمية: الآلات الذكية والقيم الإنسانية . كامبريدج، ماساتشوستس: مطبعة ويستفيو .
  • سينغر، بي دبليو (29 ديسمبر 2009). مُهيأون للحرب : ثورة الروبوتات والصراع في القرن الحادي والعشرين : دار بنغوين للنشر .
  • وينفيلد، أ.، مايكل، ك.، بيت، ج.، وإيفرز، ف. (مارس 2019). عدد خاص حول أخلاقيات الآلة: تصميم وحوكمة الذكاء الاصطناعي الأخلاقي والأنظمة المستقلة . وقائع معهد مهندسي الكهرباء والإلكترونيات. 107 (3): 501-615، doi : 10.1109/JPROC.2019.2900622