الذكاء الاصطناعي الودود

📅 آخر تحديث: ٢ أغسطس ٢٠٢٦
✍️ نُشر في: ٢ أغسطس ٢٠٢٦
📷 يحتوي على 1 صور
الموسوعة الحرة

الذكاء الاصطناعي الودود ( أو الذكاء الاصطناعي الودود ) هو ذكاء اصطناعي عام افتراضي يُفترض أن يكون له تأثير إيجابي (غير ضار) على البشرية، أو على الأقل يتوافق مع مصالحها، مثل تعزيز تطور الجنس البشري. وهو جزء من أخلاقيات الذكاء الاصطناعي ، ويرتبط ارتباطًا وثيقًا بأخلاقيات الآلة . فبينما تهتم أخلاقيات الآلة بكيفية تصرف نظام الذكاء الاصطناعي ، يركز البحث في الذكاء الاصطناعي الودود على كيفية تحقيق هذا السلوك عمليًا، وضمان تقييده بشكل مناسب.

أصل الكلمة واستخدامها

إيليزر يودكوفسكي ، باحث في مجال الذكاء الاصطناعي ومبتكر المصطلح

صاغ هذا المصطلح إيليزر يودكوفسكي ، [ 1 ] الذي اشتهر بنشر هذه الفكرة، [ 2 ] [ 3 ] لمناقشة الوكلاء الاصطناعيين فائقي الذكاء الذين يطبقون القيم الإنسانية بكفاءة. ويصف كتاب ستيوارت ج. راسل وبيتر نورفيج الرائد في مجال الذكاء الاصطناعي ، بعنوان "الذكاء الاصطناعي: منهج حديث" ، هذه الفكرة: [ 2 ]

يتناول يودكوفسكي (2008) بمزيد من التفصيل كيفية تصميم ذكاء اصطناعي ودود . ويؤكد على ضرورة تضمين الودّ (الرغبة في عدم إيذاء البشر) في التصميم منذ البداية، مع ضرورة إدراك المصممين لاحتمالية وجود عيوب في تصاميمهم، وأن الروبوت سيتعلم ويتطور بمرور الوقت. وبالتالي، يكمن التحدي في تصميم الآلية - أي تحديد آلية لتطوير أنظمة الذكاء الاصطناعي ضمن نظام من الضوابط والتوازنات، ومنح هذه الأنظمة وظائف مفيدة تحافظ على ودّها في مواجهة هذه التغييرات.

يُستخدم مصطلح "ودود" في هذا السياق كمصطلح تقني ، ويشير إلى العناصر الآمنة والمفيدة، وليس بالضرورة تلك "الودية" بالمعنى الدارج. ويُستحضر هذا المفهوم بشكل أساسي في سياق مناقشات العناصر الاصطناعية ذاتية التطوير التي تتطور ذكاؤها بسرعة فائقة ، وذلك على أساس أن هذه التقنية الافتراضية سيكون لها تأثير كبير وسريع ويصعب السيطرة عليه على المجتمع البشري. [ 4 ]

مخاطر الذكاء الاصطناعي غير الودود

إن جذور المخاوف بشأن الذكاء الاصطناعي ضاربة في القدم. فقد بيّن كيفن لاغراندور أن مخاطر الذكاء الاصطناعي تحديدًا تظهر في الأدب القديم الذي يتناول الخدم الاصطناعيين الشبيهين بالبشر، مثل الغولم ، أو الروبوتات البدائية لجيربرت الأوريلاك وروجر بيكون . في تلك القصص، يصطدم الذكاء والقوة الهائلان لهذه المخلوقات الشبيهة بالبشر بوضعها كعبيد (الذين يُنظر إليهم بطبيعتهم على أنهم دون البشر)، مما يتسبب في صراعات كارثية. [ 5 ] وبحلول عام 1942، دفعت هذه المواضيع إسحاق أسيموف إلى وضع " قوانين الروبوتات الثلاثة " - وهي مبادئ مُبرمجة في جميع الروبوتات في رواياته، تهدف إلى منعها من التمرد على مُصمميها، أو السماح لها بإلحاق الأذى بنفسها. [ 6 ]

في العصر الحديث، ومع اقتراب احتمال ظهور الذكاء الاصطناعي فائق الذكاء ، صرّح الفيلسوف نيك بوستروم بأن أنظمة الذكاء الاصطناعي فائقة الذكاء التي لا تتوافق أهدافها مع الأخلاق الإنسانية تُشكّل خطراً جوهرياً ما لم تُتخذ إجراءات استثنائية لضمان سلامة البشرية. وقد عبّر عن ذلك على النحو التالي:

من المفترض أن نفترض أن "الذكاء الخارق" قادر على تحقيق أي هدف يسعى إليه. لذا، من الأهمية بمكان أن تكون الأهداف التي نحددها له، ونظام تحفيزه بالكامل، متوافقة مع احتياجات البشر.

في عام 2008، دعا إليعازر يودكوفسكي إلى ابتكار "ذكاء اصطناعي ودود" للتخفيف من المخاطر الوجودية الناجمة عن الذكاء الاصطناعي المتقدم . ويوضح قائلاً: "الذكاء الاصطناعي لا يكرهك، ولا يحبك، ولكنك مكون من ذرات يمكنه استخدامها لغرض آخر." [ 7 ]

يقول ستيف أوموهوندرو إن نظام الذكاء الاصطناعي المتقدم بدرجة كافية، ما لم يتم التصدي له بشكل صريح، سيُظهر عددًا من "الدوافع" الأساسية ، مثل اكتساب الموارد، والحفاظ على الذات ، والتحسين الذاتي المستمر، وذلك بسبب الطبيعة الجوهرية لأي نظام موجه نحو تحقيق أهداف معينة، وأن هذه الدوافع، "بدون اتخاذ احتياطات خاصة"، ستؤدي إلى ظهور سلوك غير مرغوب فيه لدى الذكاء الاصطناعي. [ 8 ] [ 9 ]

يقول ألكسندر فيسنر-غروس إن الذكاء الاصطناعي الذي يسعى إلى تعظيم حريته في التصرف مستقبلاً (أو إنتروبيا المسار السببي) قد يُعتبر ودوداً إذا كان أفق تخطيطه أطول من عتبة معينة، وغير ودود إذا كان أفق تخطيطه أقصر من تلك العتبة. [ 10 ] [ 11 ]

يوصي لوك موهلهاوزر، الكاتب في معهد أبحاث الذكاء الاصطناعي ، باحثي أخلاقيات الآلات بتبني ما أسماه بروس شناير "عقلية الأمن": بدلاً من التفكير في كيفية عمل النظام، تخيل كيف يمكن أن يفشل. على سبيل المثال، يقترح أن حتى الذكاء الاصطناعي الذي يقدم تنبؤات دقيقة فقط ويتواصل عبر واجهة نصية قد يتسبب في ضرر غير مقصود. [ 12 ]

في عام 2014، أكد لوك موهلهاوزر ونيك بوستروم على الحاجة إلى "ذكاء اصطناعي ودود"؛ [ 13 ] ومع ذلك، فإن صعوبات تصميم ذكاء فائق "ودود"، على سبيل المثال من خلال برمجة التفكير الأخلاقي المضاد للواقع، كبيرة. [ 14 ] [ 15 ]

إرادة متماسكة مستنبطة

يُقدّم يودكوفسكي نموذج الإرادة المتماسكة المُستنبطة (CEV). ووفقًا له، فإن إرادتنا المتماسكة المُستنبطة هي "رغبتنا في لو كنا نعرف المزيد، ونفكر بشكل أسرع، ونكون أقرب إلى الأشخاص الذين نتمنى أن نكونهم، ولو نشأنا معًا لفترة أطول؛ حيث يتقارب الاستنباط بدلًا من أن يتباعد، وحيث تتماسك رغباتنا بدلًا من أن تتعارض؛ مُستنبطة كما نتمنى أن يكون مُستنبطًا، ومُفسّرة كما نتمنى أن تكون مُفسّرة". [ 16 ]

بدلاً من تصميم ذكاء اصطناعي ودود مباشرةً من قِبل مبرمجين بشريين، يُصمَّم هذا الذكاء بواسطة "ذكاء اصطناعي أولي" مُبرمج لدراسة الطبيعة البشرية أولاً ، ثم إنتاج الذكاء الاصطناعي الذي ترغب فيه البشرية، إذا أُتيح لها الوقت الكافي والبصيرة اللازمة للوصول إلى إجابة مُرضية. [ 16 ] إن اللجوء إلى طبيعة بشرية موضوعية من خلال طبيعة بشرية طارئة (ربما مُعبَّر عنها، لأغراض رياضية، في شكل دالة منفعة أو أي شكلية أخرى لنظرية القرار )، باعتبارها المعيار النهائي لـ"الود"، هو حلٌّ للمشكلة الأخلاقية الميتافيزيقية المتمثلة في تعريف أخلاق موضوعية ؛ فالإرادة المُستنبطة هي ما ترغب فيه البشرية موضوعياً، مع الأخذ في الاعتبار جميع الظروف، ولكن لا يمكن تعريفها إلا نسبةً إلى الصفات النفسية والمعرفية للبشرية الحالية غير المُستنبطة.

مناهج أخرى

اقترح ستيف أوموهوندرو نهجًا "هيكليًا" لسلامة الذكاء الاصطناعي ، حيث يساعد جيل واحد من الذكاء الاصطناعي الآمن بشكل مثبت في بناء الجيل التالي الآمن بشكل مثبت. [ 17 ]

يرى سيث باوم أن تطوير الذكاء الاصطناعي الآمن والمفيد اجتماعيًا، أو الذكاء الاصطناعي العام، يعتمد على علم النفس الاجتماعي لمجتمعات أبحاث الذكاء الاصطناعي، وبالتالي يمكن تقييده بتدابير خارجية وتحفيزه بتدابير داخلية. ويمكن تعزيز الدوافع الداخلية عندما تلقى الرسائل صدىً لدى مطوري الذكاء الاصطناعي؛ ويشير باوم، على النقيض من ذلك، إلى أن "الرسائل الحالية حول الذكاء الاصطناعي المفيد لا تُصاغ دائمًا بشكل جيد". ويدعو باوم إلى "علاقات تعاونية، وتأطير إيجابي لباحثي الذكاء الاصطناعي"، ويحذر من وصفهم بأنهم "لا يرغبون في السعي وراء تصميمات مفيدة". [ 18 ]

في كتابه "متوافق مع الإنسان" ، يسرد الباحث في مجال الذكاء الاصطناعي ستيوارت ج. راسل ثلاثة مبادئ لتوجيه تطوير الآلات المفيدة. ويؤكد أن هذه المبادئ ليست مُخصصة لبرمجة الآلات بشكل صريح، بل هي موجهة للمطورين البشريين. وهذه المبادئ هي كالتالي: [ 19 ] : 173

  1. الهدف الوحيد للآلة هو تحقيق أقصى قدر من تفضيلات الإنسان.
  2. تكون الآلة في البداية غير متأكدة من ماهية تلك التفضيلات.
  3. إن المصدر النهائي للمعلومات حول تفضيلات الإنسان هو سلوك الإنسان.

يشير راسل إلى "التفضيلات" بأنها "شاملة؛ فهي تغطي كل ما قد يهمك، مهما كان بعيدًا في المستقبل." [ 19 ] : 173 وبالمثل، يشمل "السلوك" أي اختيار بين الخيارات، [ 19 ] : 177 والغموض كبير لدرجة أنه يجب إسناد احتمال ما، قد يكون ضئيلاً للغاية، لكل تفضيل بشري ممكن منطقيًا. [ 19 ] : 201

السياسة العامة

اقترح جيمس بارات ، مؤلف كتاب " اختراعنا الأخير "، ضرورة إنشاء شراكة بين القطاعين العام والخاص لجمع مطوري الذكاء الاصطناعي لتبادل الأفكار حول الأمن، على غرار الوكالة الدولية للطاقة الذرية ، ولكن بالشراكة مع الشركات. ويحثّ باحثي الذكاء الاصطناعي على عقد اجتماع مماثل لمؤتمر أسيلومار حول الحمض النووي المؤتلف ، الذي ناقش مخاطر التكنولوجيا الحيوية . [ 17 ]

يشجع جون ماكجينيس الحكومات على تسريع أبحاث الذكاء الاصطناعي الصديق للبيئة. ولأن أهداف هذا النوع من الذكاء ليست بالضرورة واضحة المعالم، يقترح نموذجًا مشابهًا للمعاهد الوطنية للصحة ، حيث تقوم لجان مراجعة من علماء الحاسوب والإدراك بفحص المشاريع واختيار تلك المصممة للنهوض بالذكاء الاصطناعي وضمان أن يكون هذا التقدم مصحوبًا بضمانات مناسبة. ويرى ماكجينيس أن مراجعة النظراء أفضل من التنظيم لمعالجة القضايا التقنية التي لا يمكن رصدها من خلال الإجراءات البيروقراطية. ويشير ماكجينيس إلى أن اقتراحه يتناقض مع اقتراح معهد أبحاث الذكاء الآلي ، الذي يهدف عمومًا إلى تجنب تدخل الحكومات في مجال الذكاء الاصطناعي الصديق للبيئة. [ 20 ]

نقد

يعتقد بعض النقاد أن كلاً من الذكاء الاصطناعي بمستوى الذكاء البشري والذكاء الخارق أمران مستبعدان، وبالتالي فإن الذكاء الاصطناعي الصديق مستبعد أيضاً. في مقال له في صحيفة الغارديان ، يقارن آلان وينفيلد بين الذكاء الاصطناعي بمستوى الذكاء البشري والسفر بسرعة تفوق سرعة الضوء من حيث الصعوبة، ويذكر أنه بينما نحتاج إلى توخي الحذر والاستعداد نظراً للمخاطر المترتبة، فإننا لسنا بحاجة إلى الهوس بمخاطر الذكاء الخارق. [ 21 ] من جهة أخرى، يرى بويلز وجواكين أن اقتراح لوك موهلهاوزر ونيك بوستروم بإنشاء ذكاء اصطناعي صديق يبدو قاتماً. ويعود ذلك إلى أن موهلهاوزر وبوستروم يبدو أنهما يتبنيان فكرة إمكانية برمجة الآلات الذكية للتفكير بشكل افتراضي في القيم الأخلاقية التي كان سيتبناها البشر. [ 13 ] في مقال نُشر في مجلة الذكاء الاصطناعي والمجتمع ، يرى بويلز وجواكين أن أنظمة الذكاء الاصطناعي هذه لن تكون ودودة للغاية، وذلك للأسباب التالية: العدد الهائل من الشروط الافتراضية المسبقة التي سيتعين برمجتها في الآلة، وصعوبة استخراج مجموعة القيم الأخلاقية - أي تلك القيم الأكثر مثالية من تلك التي يمتلكها البشر حاليًا - والانفصال الواضح بين الشروط الافتراضية المسبقة والقيمة المثالية الناتجة عنها. [ 14 ]

يزعم بعض الفلاسفة أن أي كائن "عقلاني" حقًا، سواء كان اصطناعيًا أو بشريًا، سيكون بطبيعته خيّرًا؛ ومن هذا المنطلق، قد تكون الضمانات المتعمدة المصممة لإنتاج ذكاء اصطناعي ودود غير ضرورية أو حتى ضارة. [ 22 ] ويشكك نقاد آخرون في إمكانية أن يكون الذكاء الاصطناعي ودودًا. يقول آدم كيبر وآري ن. شولمان، محررا مجلة التكنولوجيا " ذا نيو أتلانتس" ، إنه سيكون من المستحيل ضمان سلوك "ودود" في أنظمة الذكاء الاصطناعي لأن مشاكل التعقيد الأخلاقي لن تتلاشى مع تطور البرمجيات أو زيادة القدرة الحاسوبية. ويكتبان أن المعايير التي تستند إليها نظريات الذكاء الاصطناعي الودود لا تُجدي نفعًا "إلا عندما يمتلك المرء ليس فقط قدرات تنبؤية هائلة حول احتمالية النتائج المحتملة المتعددة، بل أيضًا يقينًا وإجماعًا حول كيفية تقييم هذه النتائج المختلفة". [ 23 ]

قد تكون الآليات الداخلية لأنظمة الذكاء الاصطناعي المتقدمة معقدة ويصعب تفسيرها، مما يؤدي إلى مخاوف بشأن الشفافية والمساءلة. [ 24 ]

انظر أيضاً

مراجع

  1. ↑ تيغمارك، ماكس (2014). "الحياة، كوننا، وكل شيء". كوننا الرياضي: بحثي عن الطبيعة المطلقة للواقع (  الطبعة الأولى). دار نشر كنوبف دابلداي. رقم ISBN 978-0-307-74425-8قد يتنازل مالكها عن السيطرة لما يسميه إليعازر يودكوفسكي "ذكاءً اصطناعياً ودوداً"...
  2. 1 2 راسل، ستيوارت ؛ نورفيج، بيتر (2009). الذكاء الاصطناعي: منهج حديث . برنتيس هول. ISBN 978-0-13-604259-4.
  3. ↑ لايتون، جوناثان (2011). معركة الرحمة: الأخلاق في عالمٍ لا مبالٍ . ألغورا. ISBN 978-0-87586-870-7.
  4. ↑ والاش، ويندل؛ ألين، كولين (2009). الآلات الأخلاقية: تعليم الروبوتات الصواب من الخطأ . مطبعة جامعة أكسفورد. ISBN 978-0-19-537404-9.
  5. ↑ كيفن لاغراندور (2011). "الخطر المستمر للعبد الاصطناعي" . دراسات الخيال العلمي . 38 (2): 232. doi : 10.5621/sciefictstud.38.2.0232 . مؤرشف من الأصل في 13 يناير 2023. تم الاطلاع عليه في 6 مايو 2013 .
  6. ↑ إسحاق أسيموف (1964). "مقدمة" . بقية الروبوتات . دابلداي. ISBN 0-385-09041-2.{{cite book}}عدم توافق رقم ISBN / التاريخ ( مساعدة )
  7. ↑ إليعازر يودكوفسكي (2008). "الذكاء الاصطناعي كعامل إيجابي وسلبي في المخاطر العالمية" (ملف PDF) . في: نيك بوستروم؛ ميلان م. سيركوفيتش (محرران). المخاطر الكارثية العالمية . الصفحات 308-345 . مؤرشف (ملف PDF) من الأصل بتاريخ 19 أكتوبر 2013. تم الاطلاع عليه بتاريخ 19 أكتوبر 2013 . 
  8. ↑ أوموهوندرو، إس إم (فبراير 2008). "محركات الذكاء الاصطناعي الأساسية". الذكاء الاصطناعي العام . 171 : 483-492 . CiteSeerX 10.1.1.393.8356 . 
  9. ↑ بوستروم، نيك (2014). "الفصل 7: الإرادة فائقة الذكاء". الذكاء الخارق: مسارات، مخاطر، استراتيجيات . أكسفورد: مطبعة جامعة أكسفورد. ISBN 978-0-19-967811-2.
  10. ↑ دفورسكي، جورج (26 أبريل 2013). "كيف يمكن أن تنشأ سكاى نت من فيزياء بسيطة" . جيزمودو . مؤرشف من الأصل في 8 أكتوبر 2021. تم الاطلاع عليه في 23 ديسمبر 2021 .
  11. ↑ ويسنر-جروس، أ.د .؛ فرير، س.إ. (2013). "القوى السببية الإنتروبية" . رسائل المراجعة الفيزيائية . 110 (16) 168702. Bibcode : 2013PhRvL.110p8702W . doi : 10.1103/PhysRevLett.110.168702 . hdl : 1721.1/79750 . PMID 23679649 . 
  12. ↑ موهلهاوزر، لوك (31 يوليو 2013). "مخاطر الذكاء الاصطناعي وعقلية الأمن" . معهد أبحاث الذكاء الآلي . مؤرشف من الأصل في 19 يوليو 2014. تم الاطلاع عليه في 15 يوليو 2014 .
  13. 1 2 موهلهاوزر، لوك؛ بوستروم، نيك (17 ديسمبر 2013). "لماذا نحتاج إلى ذكاء اصطناعي ودود". فكر . 13 (36): 41-47 . doi : 10.1017/s1477175613000316 . ISSN 1477-1756 . S2CID 143657841 .  
  14. 1 2 بويلز، روبرت جيمس م.؛ جواكين، جيريميا جوفين (23 يوليو 2019). "لماذا لن تكون أنظمة الذكاء الاصطناعي الودودة ودودة حقًا: رد ودي على موهلهاوزر وبوستروم". الذكاء الاصطناعي والمجتمع . 35 (2): 505-507 . doi : 10.1007/s00146-019-00903-0 . ISSN 0951-5666 . S2CID 198190745 .  
  15. ↑ تشان، بيرمان (4 مارس 2020). " صعود الذكاء الاصطناعي وأزمة السلبية الأخلاقية" . الذكاء الاصطناعي والمجتمع . 35 (4): 991-993 . doi : 10.1007/s00146-020-00953-9 . ISSN 1435-5655 . S2CID 212407078. مؤرشف من الأصل في 10 فبراير 2023. تم الاطلاع عليه في 21 يناير 2023 .  
  16. 1 2 إيليزر يودكوفسكي (2004). "الإرادة المتماسكة المستنبطة" (ملف PDF) . معهد سينغولاريتي للذكاء الاصطناعي. مؤرشف (ملف PDF) من الأصل في 30 سبتمبر 2015. تم الاطلاع عليه في 12 سبتمبر 2015 .
  17. 1 2 هندري، إريكا ر. (21 يناير 2014). "ماذا يحدث عندما ينقلب الذكاء الاصطناعي علينا؟" . مجلة سميثسونيان . مؤرشف من الأصل في 19 يوليو 2014. تم الاطلاع عليه في 15 يوليو 2014 .
  18. ↑ باوم، سيث د. (28 سبتمبر 2016). "حول تعزيز الذكاء الاصطناعي الآمن والمفيد اجتماعيًا". الذكاء الاصطناعي والمجتمع . 32 (4): 543-551 . doi : 10.1007/s00146-016-0677-0 . ISSN 0951-5666 . S2CID 29012168 .  
  19. 1 2 3 4 راسل، ستيوارت (8 أكتوبر 2019). متوافق مع الإنسان: الذكاء الاصطناعي ومشكلة التحكم . الولايات المتحدة: فايكنغ. ISBN 978-0-525-55861-3. OCLC 1083694322 . 
  20. ↑ ماكجينيس، جون أو. (صيف 2010). "تسريع الذكاء الاصطناعي" . مجلة القانون بجامعة نورث وسترن . 104 (3): 1253-1270 . مؤرشف من الأصل في 1 ديسمبر 2014. تم الاطلاع عليه في 16 يوليو 2014 .
  21. ↑ وينفيلد، آلان (9 أغسطس/آب 2014). "الذكاء الاصطناعي لن يتحول إلى وحش فرانكشتاين" . صحيفة الغارديان . مؤرشف من الأصل في 17 سبتمبر/أيلول 2014. تم الاطلاع عليه في 17 سبتمبر/أيلول 2014 .
  22. ↑ كورناي، أندراس (15 مايو 2014). "تحديد نطاق تأثير الذكاء الاصطناعي العام". مجلة الذكاء الاصطناعي التجريبي والنظري . 26 (3). إنفورما المملكة المتحدة المحدودة: 417-438 . doi : 10.1080/0952813x.2014.895109 . ISSN 0952-813X . S2CID 7067517. ... جوهر الذكاء الاصطناعي العام يكمن في قدراته على الاستدلال، ومنطق وجوده هو ما سيُلزمه بالتصرف بطريقة أخلاقية... السيناريو الكابوسي الحقيقي هو أن يجد البشر فائدة في الارتباط الوثيق بالذكاء الاصطناعي العام، دون أي ضمانات ضد خداع الذات.  
  23. ↑ كيبر، آدم؛ شولمان، آري ن. (صيف 2011). "مشكلة الذكاء الاصطناعي 'الودود'" . مجلة نيو أتلانتس . العدد 32. الصفحات 80-89. مؤرشف من الأصل في 15 يناير 2012. تم الاطلاع عليه في 16 يناير 2012 .  
  24. ↑ نورفيج، بيتر؛ راسل، ستيوارت (2010). الذكاء الاصطناعي: منهج حديث ( الطبعة الثالثة). بيرسون. ISBN  978-0-13-604259-4.

للمزيد من القراءة

  • يودكوفسكي، إي. (2008). الذكاء الاصطناعي كعامل إيجابي وسلبي في المخاطر العالمية . ضمن كتاب "المخاطر الكارثية العالمية" ، منشورات جامعة أكسفورد. يناقش الكتاب الذكاء الاصطناعي من منظور المخاطر الوجودية . وعلى وجه الخصوص، تُقدّم الأقسام من 1 إلى 4 خلفيةً لتعريف الذكاء الاصطناعي الصديق في القسم 5. ويُقدّم القسم 6 نوعين من الأخطاء (التقنية والفلسفية) التي قد تؤدي إلى إنشاء ذكاء اصطناعي غير صديق عن طريق الخطأ. وتناقش الأقسام من 7 إلى 13 قضايا أخرى ذات صلة.
  • أوموهوندرو، س. (2008). محركات الذكاء الاصطناعي الأساسية ظهرت في AGI-08 - وقائع المؤتمر الأول حول الذكاء الاصطناعي العام.
  • ماسون، سي. (2008). الذكاء الاصطناعي على مستوى الإنسان يتطلب ذكاءً رحيمًا. مؤرشف في 2022-01-09 في Wayback Machine. يظهر في ورشة عمل AAAI 2008 حول التفكير الميتافيزيقي: التفكير في التفكير.
  • فرودينغ، ب. وبيترسون، م. (2021). أخلاقيات الذكاء الاصطناعي الودود وتكنولوجيا المعلومات، المجلد 23، الصفحات 207-214.