ثلاثة قوانين للروبوتات

📅 آخر تحديث: ٢١ يوليو ٢٠٢٦
✍️ نُشر في: ٢١ يوليو ٢٠٢٦
📷 يحتوي على 9 صور
الموسوعة الحرة
قوانين الروبوتات
اسحق اسيموف
مواضيع ذات صلة
  • ف
  • ت
  • هـ
يُجسد هذا الغلاف لكتاب I, Robot قصة "Runaround"، وهي أول قصة تسرد قوانين الروبوتات الثلاثة.

القوانين الثلاثة للروبوتات (غالبًا ما يتم اختصارها إلى القوانين الثلاثة أو قوانين أسيموف ) هي مجموعة من القواعد التي وضعها مؤلف الخيال العلمي إسحاق أسيموف ، والتي كان من المقرر أن تتبعها الروبوتات في العديد من قصصه. تم تقديم القواعد في قصته القصيرة عام 1942 " Runaround " (المضمنة في مجموعة عام 1950 I, Robot )، على الرغم من وجود قيود مماثلة ضمنية في القصص السابقة.

القوانين

القوانين الثلاثة، التي تم تقديمها على أنها من "دليل الروبوتات، الطبعة 56، 2058 م" الخيالي، هي: [1]

  1. لا يجوز للروبوت أن يؤذي إنسانًا أو أن يسمح بإيذاء إنسان من خلال التقاعس.
  2. يجب على الروبوت أن يطيع الأوامر الصادرة إليه من البشر، باستثناء الحالات التي تتعارض فيها هذه الأوامر مع القانون الأول.
  3. يجب على الروبوت حماية وجوده طالما أن هذه الحماية لا تتعارض مع القانون الأول أو الثاني.

الاستخدام في الخيال

تشكل القوانين الثلاثة مبدأً منظمًا وموضوعًا موحدًا لخيال أسيموف القائم على الروبوتات ، والذي يظهر في سلسلة الروبوتات الخاصة به ، والقصص المرتبطة بها، وفي سلسلة لاكي ستار (التي كانت في البداية باسم مستعار ) من الخيال الشبابي . تم دمج القوانين في جميع الروبوتات البوزيترونية تقريبًا التي تظهر في خياله، ولا يمكن تجاوزها، حيث يُقصد بها أن تكون ميزة أمان. تتضمن العديد من قصص أسيموف التي تركز على الروبوتات روبوتات تتصرف بطرق غير عادية ومضادة للحدس كنتيجة غير مقصودة لكيفية تطبيق الروبوت للقوانين الثلاثة على الموقف الذي يجد نفسه فيه. وقد تبناها مؤلفون آخرون يعملون في عالم أسيموف الخيالي، وتظهر الإشارات، الساخرة غالبًا ، في جميع أنحاء الخيال العلمي وكذلك في الأنواع الأخرى.

لقد تم تعديل القوانين الأصلية وشرحها من قبل أسيموف ومؤلفين آخرين. وقد أجرى أسيموف نفسه تعديلات طفيفة على القوانين الثلاثة الأولى في أعمال لاحقة لتطوير كيفية تفاعل الروبوتات مع البشر ومع بعضها البعض. وفي الروايات اللاحقة حيث تولت الروبوتات مسؤولية حكم الكواكب والحضارات البشرية بأكملها، أضاف أسيموف أيضًا قانونًا رابعًا أو قانونًا صفريًا ليسبق القوانين الأخرى.

لقد انتشرت القوانين الثلاثة والصفر في الخيال العلمي، وتمت الإشارة إليها في العديد من الكتب والأفلام وغيرها من وسائل الإعلام. كما أثرت أيضًا على الفكر المتعلق بأخلاقيات الذكاء الاصطناعي .

تاريخ

في كتابه "بقية الروبوتات" الذي نُشر عام 1964، لاحظ إسحاق أسيموف أنه عندما بدأ الكتابة عام 1940، شعر أن "إحدى المؤامرات التقليدية في الخيال العلمي كانت... أن الروبوتات خُلقت ودُمر صانعها. المعرفة لها مخاطرها، نعم، ولكن هل يكون الرد هو التراجع عن المعرفة؟ أم أن المعرفة يجب أن تُستخدم كحاجز في حد ذاتها ضد المخاطر التي تجلبها؟" قرر أنه في قصصه لن "يتحول الروبوت بغباء ضد صانعه بلا غرض سوى إثبات جريمة وعقاب فاوست مرة أخرى " . [2]

في 3 مايو 1939، حضر أسيموف اجتماعًا لجمعية الخيال العلمي في كوينز ( نيويورك ) حيث التقى بإيرل وأوتو بايندر اللذين نشرا مؤخرًا قصة قصيرة بعنوان "أنا روبوت" والتي تصور روبوتًا متعاطفًا يُدعى آدم لينك والذي أسيء فهمه وحركته الحب والشرف. (كانت هذه أول سلسلة من عشر قصص؛ في العام التالي، ظهرت قصة "انتقام آدم لينك" (1940) التي تصور آدم وهو يفكر "لا ينبغي للروبوت أن يقتل إنسانًا أبدًا، بإرادته الحرة"). [3] أعجب أسيموف بالقصة. وبعد ثلاثة أيام بدأ أسيموف في كتابة "قصتي الخاصة عن روبوت متعاطف ونبيل"، وهي قصته الرابعة عشرة. [4] وبعد ثلاثة عشر يومًا، أخذ " روبي " إلى جون دبليو كامبل محرر مجلة الخيال العلمي المذهل . رفض كامبل القصة، مدعيًا أنها تحمل تشابهًا كبيرًا مع قصة " هيلين أو لوي " للكاتب ليستر ديل راي ، والتي نُشرت في ديسمبر 1938 - قصة روبوت يشبه الإنسان كثيرًا لدرجة أنها تقع في حب خالقها وتصبح زوجته المثالية. [5] نشر فريدريك بول القصة تحت عنوان "رفيقة اللعب الغريبة" في Super Science Stories في سبتمبر 1940. [6] [7]

يعزو أسيموف القوانين الثلاثة إلى جون دبليو كامبل، من محادثة جرت في 23 ديسمبر 1940. ادعى كامبل أن أسيموف كان لديه القوانين الثلاثة بالفعل في ذهنه وأنها كانت بحاجة فقط إلى ذكرها صراحةً. بعد عدة سنوات، عزا صديق أسيموف راندال جاريت القوانين إلى شراكة تكافلية بين الرجلين - وهو الاقتراح الذي تبناه أسيموف بحماس. [8] وفقًا لكتاباته الذاتية، أدرج أسيموف بند "التقاعس" في القانون الأول بسبب قصيدة آرثر هيو كلوف "الوصايا العشر الأخيرة" (النص في ويكي مصدر)، والتي تتضمن السطور الساخرة "لا تقتل، ولكن لا داعي للسعي / رسميًا لإبقائك على قيد الحياة". [9]

على الرغم من أن أسيموف يربط إنشاء القوانين الثلاثة بتاريخ معين، إلا أن ظهورها في أدبه حدث على مدى فترة. فقد كتب قصتين عن الروبوتات دون ذكر صريح للقوانين، " روبي " و" العقل ". ومع ذلك، فقد افترض أن الروبوتات ستتمتع ببعض الضمانات المتأصلة. " كاذب! "، قصته الثالثة عن الروبوتات، تذكر القانون الأول لأول مرة ولكن ليس القانونين الآخرين. ظهرت القوانين الثلاثة أخيرًا معًا في " Runaround ". عندما تم تجميع هذه القصص والعديد من القصص الأخرى في مختارات أنا، روبوت ، تم تحديث "العقل" و"روبي" للاعتراف بجميع القوانين الثلاثة، على الرغم من أن المادة التي أضافها أسيموف إلى "العقل" ليست متسقة تمامًا مع القوانين الثلاثة كما وصفها في مكان آخر. [10] على وجه الخصوص، فإن فكرة الروبوت الذي يحمي الأرواح البشرية عندما لا يعتقد أن هؤلاء البشر موجودون حقًا تتعارض مع منطق إيليجاه بيلي، كما هو موضح أدناه.

خلال الخمسينيات من القرن العشرين، كتب أسيموف سلسلة من روايات الخيال العلمي مخصصة بشكل خاص لجمهور الشباب. في الأصل، توقع ناشره أن الروايات يمكن تكييفها في مسلسل تلفزيوني طويل الأمد، مثل The Lone Ranger للإذاعة. خوفًا من تكييف قصصه في البرامج "الرهيبة بشكل موحد" التي شاهدها تغمر القنوات التلفزيونية [11]، قرر أسيموف نشر كتب Lucky Starr تحت الاسم المستعار "Paul French". عندما فشلت خطط المسلسل التلفزيوني، قرر أسيموف التخلي عن التظاهر؛ أدخل القوانين الثلاثة في Lucky Starr and the Moons of Jupiter ، مشيرًا إلى أن هذا "كان بمثابة دليل واضح على هوية بول فرينش حتى للقارئ العادي". [12]

في قصته القصيرة "الدليل" يسمح أسيموف لشخصيته المتكررة الدكتورة سوزان كالفن بشرح الأساس الأخلاقي وراء القوانين الثلاثة. تشير كالفن إلى أنه من المتوقع عادةً أن يمتنع البشر عن إيذاء البشر الآخرين (باستثناء أوقات الشدة الشديدة مثل الحرب، أو إنقاذ عدد أكبر) وهذا يعادل القانون الأول للروبوت. وعلى نحو مماثل، وفقًا لكالفن، يتوقع المجتمع من الأفراد أن يطيعوا التعليمات الصادرة عن السلطات المعترف بها مثل الأطباء والمعلمين وما إلى ذلك، وهو ما يعادل القانون الثاني للروبوتات. وأخيرًا، من المتوقع عادةً أن يتجنب البشر إيذاء أنفسهم وهو القانون الثالث للروبوت.

تدور أحداث "الدليل" حول مسألة التمييز بين الإنسان والروبوت المصمم ليبدو إنسانًا. يعتقد كالفن أنه إذا أطاع مثل هذا الفرد القوانين الثلاثة، فقد يكون روبوتًا أو ببساطة "رجلًا صالحًا للغاية". ثم تسأل شخصية أخرى كالفن عما إذا كانت الروبوتات مختلفة تمامًا عن البشر في النهاية. تجيب: "العالمان مختلفان. الروبوتات لائقة في الأساس".

كتب أسيموف لاحقًا أنه لا ينبغي الثناء عليه لأنه ابتكر القوانين، لأنها "واضحة منذ البداية، والجميع على دراية بها دون وعي. لم يحدث أبدًا أن تم وضع القوانين في جمل مختصرة حتى تمكنت من القيام بالمهمة. تنطبق القوانين، بطبيعة الحال، على كل أداة يستخدمها البشر"، [13] و"إن نظائر القوانين ضمنية في تصميم جميع الأدوات تقريبًا، سواء كانت آلية أم لا": [14]

  1. القانون الأول: لا ينبغي أن تكون الأداة غير آمنة للاستخدام. فالمطارق لها مقابض والمفكات لها مقابض تساعد على زيادة قوة الإمساك. ومن الممكن بالطبع أن يصاب الشخص بإصابة بسبب إحدى هذه الأدوات، ولكن هذه الإصابة لن تكون إلا بسبب عدم كفاءته، وليس بسبب تصميم الأداة.
  2. القانون 2: يجب أن تؤدي الأداة وظيفتها بكفاءة ما لم يتسبب ذلك في إلحاق الضرر بالمستخدم. وهذا هو السبب الكامل وراء وجود قواطع الدائرة الكهربائية التي تعمل عند حدوث خطأ أرضي . سيتم قطع التيار عن أي أداة قيد التشغيل إذا استشعرت الدائرة الكهربائية أن بعض التيار لا يعود إلى السلك المحايد، وبالتالي قد يتدفق عبر المستخدم. سلامة المستخدم هي الأهم.
  3. القانون 3: يجب أن تظل الأداة سليمة أثناء استخدامها ما لم يكن تدميرها ضروريًا لاستخدامها أو لأسباب تتعلق بالسلامة. على سبيل المثال، تم تصميم أقراص دريميل لتكون قوية قدر الإمكان دون أن تنكسر ما لم تتطلب المهمة استهلاكها. علاوة على ذلك، تم تصميمها للكسر عند نقطة قبل أن تتسبب سرعة الشظايا في إصابة شخص ما بجروح خطيرة (بخلاف العينين، على الرغم من أنه يجب ارتداء نظارات السلامة في جميع الأوقات على أي حال).

كان أسيموف يعتقد أنه من الناحية المثالية، يجب على البشر أيضًا أن يتبعوا القوانين: [13]

لدي إجابتي جاهزة في كل مرة يسألني شخص ما إذا كنت أعتقد أن قوانيني الثلاثة للروبوتات سوف تستخدم بالفعل للتحكم في سلوك الروبوتات، بمجرد أن تصبح متعددة الاستخدامات ومرنة بما يكفي لتكون قادرة على الاختيار بين مسارات مختلفة من السلوك.

إجابتي هي: "نعم، القوانين الثلاثة هي الطريقة الوحيدة التي يمكن بها للبشر العقلانيين التعامل مع الروبوتات - أو مع أي شيء آخر".

-ولكن عندما أقول ذلك، فأنا أتذكر دائمًا (بحزن) أن البشر ليسوا عقلانيين دائمًا.

صرح أسيموف في مقابلة أجريت معه عام 1986 في برنامج الوصول العام في مانهاتن محادثات مع هارولد هدسون تشانر مع هارولد تشانر مع المضيفة المشاركة مارلين فوس سافانت ، "إنه لأمر متواضع بعض الشيء أن نفكر في أن ما من المرجح أن يبقى على قيد الحياة من كل ما قلته... بعد كل شيء، لقد نشرت الآن... لقد نشرت الآن ما لا يقل عن 20 مليون كلمة. سيتعين علي معرفة ذلك، وربما أكثر من ذلك. ولكن من بين كل تلك الملايين من الكلمات التي نشرتها، أنا مقتنع أنه بعد 100 عام من الآن، ستبقى 60 كلمة فقط. الستين التي تشكل قوانين الروبوتات الثلاثة." [15] [16] [17]

التعديلات

بقلم أسيموف

تختبر قصص أسيموف قوانينه الثلاثة في مجموعة متنوعة من الظروف التي تؤدي إلى اقتراحات ورفض تعديلات. كتب عالم الخيال العلمي جيمس جان في عام 1982، "قد تستجيب قصص روبوت أسيموف ككل بشكل أفضل للتحليل على هذا الأساس: الغموض في القوانين الثلاثة والطرق التي لعب بها أسيموف تسعة وعشرين اختلافًا على موضوع ما". [18] في حين قدمت المجموعة الأصلية من القوانين إلهامًا للعديد من القصص، قدم أسيموف إصدارات معدلة من وقت لآخر.

القانون الأول المعدل

في " الروبوت الصغير المفقود "، تم إنشاء العديد من الروبوتات NS-2، أو "Nestor"، باستخدام جزء فقط من القانون الأول. [1] وينص على:

1. لا يجوز للروبوت أن يؤذي الإنسان.

إن هذا التعديل مدفوع بصعوبة عملية حيث يتعين على الروبوتات العمل جنبًا إلى جنب مع البشر الذين يتعرضون لجرعات منخفضة من الإشعاع. ولأن أدمغتهم البوزيترونية شديدة الحساسية لأشعة جاما ، فإن الروبوتات تصبح غير صالحة للعمل بجرعات آمنة إلى حد معقول للبشر. يتم تدمير الروبوتات في محاولة لإنقاذ البشر الذين ليسوا في خطر حقيقي ولكنهم "قد ينسون مغادرة" المنطقة المعرضة للإشعاع في غضون حد التعرض الزمني. إن إزالة شرط "التقاعس" في القانون الأول يحل هذه المشكلة ولكنه يخلق إمكانية لمشكلة أعظم: يمكن للروبوت أن يبدأ عملًا من شأنه أن يضر بالإنسان (إسقاط وزن ثقيل والفشل في الإمساك به هو المثال الوارد في النص)، مع العلم أنه كان قادرًا على منع الضرر ثم يقرر عدم القيام بذلك. [1]

جايا هو كوكب ذو ذكاء جماعي في سلسلة المؤسسة والذي يعتمد قانونًا مشابهًا للقانون الأول وقانون الصفر كفلسفته:

لا يجوز لغايا أن تؤذي الحياة أو تسمح للحياة بأن تتعرض للأذى.

تمت إضافة قانون الصفر

أضاف أسيموف ذات مرة " قانون الصفر " - سمي بهذا الاسم لمواصلة النمط حيث تحل القوانين ذات الأرقام المنخفضة محل القوانين ذات الأرقام الأعلى - والذي ينص على أنه لا يجب على الروبوت أن يؤذي البشرية. كانت الشخصية الآلية آر. دانييل أوليفاو أول من أعطى قانون الصفر اسمًا في رواية الروبوتات والإمبراطورية ؛ [19] ومع ذلك، فإن الشخصية سوزان كالفن تعبر عن المفهوم في القصة القصيرة " الصراع الحتمي ".

في المشاهد الأخيرة من رواية الروبوتات والإمبراطورية ، كان آر. جيسكارد ريفينتلوف أول روبوت يتصرف وفقًا لقانون الصفر. يتمتع جيسكارد بالقدرة على التخاطر ، مثل الروبوت هيربي في القصة القصيرة " كذاب! "، ويحاول تطبيق قانون الصفر من خلال فهمه لمفهوم أكثر دقة من "الضرر" مما يمكن لمعظم الروبوتات استيعابه. [20] ومع ذلك، على عكس هيربي، يدرك جيسكارد المفهوم الفلسفي لقانون الصفر الذي يسمح له بإيذاء البشر الأفراد إذا كان بإمكانه القيام بذلك في خدمة المفهوم المجرد للإنسانية. لم يتم برمجة قانون الصفر في دماغ جيسكارد أبدًا ولكنه بدلاً من ذلك عبارة عن قاعدة يحاول فهمها من خلال الإدراك الميتاإدراكي الخالص . على الرغم من فشله - فإنه يدمر في النهاية دماغه الإيجابي لأنه غير متأكد مما إذا كان اختياره سيتحول إلى الخير النهائي للبشرية أم لا - إلا أنه يمنح خليفته آر. دانييل أوليفاو قدراته التخاطرية. على مدى آلاف السنين، تكيف دانييل ليصبح قادرًا على الامتثال الكامل للقانون الصفري. [ بحاجة لمصدر ]

صاغ دانييل في الأصل القانون الصفري في كل من روايته الأساس والأرض (1986) والرواية اللاحقة مقدمة الأساس (1988):

لا يجوز للروبوت أن يؤذي البشرية أو أن يسمح بإيذاء البشرية من خلال التقاعس.

لقد أضيف شرط ينص على عدم جواز كسر القانون الصفري إلى القوانين الثلاثة الأصلية، على الرغم من إدراك أسيموف للصعوبة التي قد يفرضها مثل هذا القانون في الممارسة العملية. تحتوي رواية أسيموف " الأساس والأرض" على المقطع التالي:

عبس تريفيز وقال: "كيف تقرر ما هو ضار أو غير ضار بالإنسانية ككل؟"

"بالضبط، سيدي"، قال دانييل. "من الناحية النظرية، كان القانون الصفري هو الحل لمشاكلنا. أما من الناحية العملية، فلم يكن بوسعنا قط أن نتخذ قرارًا. فالإنسان كائن ملموس. ويمكن تقدير الضرر الذي يلحق بشخص ما والحكم عليه. أما الإنسانية فهي مجرد فكرة مجردة".

قام أحد المترجمين بدمج مفهوم القانون الصفري في إحدى روايات أسيموف قبل أن يوضح أسيموف نفسه القانون بشكل صريح. [21] قرب ذروة كهوف الفولاذ ، أدلى إيليجاه بيلي بتعليق مرير لنفسه معتقدًا أن القانون الأول يحظر على الروبوت إيذاء إنسان. ويقرر أنه يجب أن يكون الأمر كذلك ما لم يكن الروبوت ذكيًا بما يكفي لفهم أن أفعاله لصالح البشرية على المدى الطويل. في ترجمة جاك بريكارد الفرنسية لعام 1956 بعنوان Les Cavernes d'acier تظهر أفكار بيلي بطريقة مختلفة قليلاً:

لا يجوز للروبوت أن يؤذي الإنسان إلا إذا وجد طريقة لإثبات أن الضرر الذي يحدثه في النهاية سوف يعود بالنفع على البشرية بشكل عام! [21]

إزالة القوانين الثلاثة

ثلاث مرات خلال مسيرته في الكتابة، صور أسيموف روبوتات تتجاهل القوانين الثلاثة تمامًا. كانت الحالة الأولى قصة قصيرة جدًا بعنوان " القانون الأول " وغالبًا ما تُعتبر "حكاية طويلة" غير مهمة [22] أو حتى ملفقة . [23] من ناحية أخرى، فإن القصة القصيرة " كال " (من مجموعة جولد )، التي يرويها راوي روبوت من منظور الشخص الأول، تتميز بروبوت يتجاهل القوانين الثلاثة لأنه وجد شيئًا أكثر أهمية - يريد أن يكون كاتبًا. تعتبر قصة "كال" الفكاهية والسيرة الذاتية جزئيًا والتجريبية بشكل غير عادي في الأسلوب، واحدة من أقوى قصص جولد . [24] القصة الثالثة هي قصة قصيرة بعنوان " سالي " حيث يبدو أن السيارات المجهزة بأدمغة إيجابية قادرة على إيذاء وقتل البشر متجاهلة القانون الأول. ومع ذلك، وبصرف النظر عن مفهوم الدماغ الإيجابي، فإن هذه القصة لا تشير إلى قصص روبوت أخرى وقد لا تكون في نفس الاستمرارية .

تتناول القصة الرئيسية لمجموعة Robot Dreams شخصية LVX-1، أو "Elvex"، وهو روبوت يدخل في حالة من اللاوعي ويحلم بفضل البنية الكسرية غير العادية لدماغه البوزيتروني. وفي حلمه، لا يوجد القانونان الأولان، وينص القانون الثالث على "يجب على الروبوت حماية وجوده". [25]

اتخذ أسيموف مواقف متباينة بشأن ما إذا كانت القوانين اختيارية: على الرغم من أنها كانت في كتاباته الأولى مجرد ضمانات مصممة بعناية، إلا أن أسيموف ذكر في قصص لاحقة أنها جزء لا يتجزأ من الأساس الرياضي الذي يقوم عليه الدماغ البوزيتروني. بدون النظرية الأساسية للقوانين الثلاثة، لن يتمكن العلماء الخياليون في عالم أسيموف من تصميم وحدة دماغ قابلة للعمل. هذا متسق تاريخيًا: فالمناسبات التي يقوم فيها علماء الروبوتات بتعديل القوانين تحدث عمومًا في وقت مبكر من التسلسل الزمني للقصص وفي وقت يكون فيه العمل الموجود أقل لإعادة القيام به. في "الروبوت الصغير المفقود"، تعتبر سوزان كالفن تعديل القوانين فكرة رهيبة، على الرغم من أنها ممكنة، [26] بينما بعد قرون يعتقد الدكتور جيريجيل في كهوف الفولاذ أن الأمر يتطلب قرنًا من الزمان فقط لإعادة تطوير نظرية الدماغ البوزيتروني من الصفر.

تستخدم شخصية الدكتور جيريجيل مصطلح "أسينيون" لوصف الروبوتات المبرمجة بالقوانين الثلاثة. الروبوتات في قصص أسيموف، كونها روبوتات أسينيون، غير قادرة على انتهاك القوانين الثلاثة عن علم ولكن من حيث المبدأ، يمكن أن يكون الروبوت في الخيال العلمي أو في العالم الحقيقي غير أسينيون. "أسينيون" هو خطأ إملائي في اسم أسيموف والذي ارتكبه محرر مجلة Planet Stories. [27] استخدم أسيموف هذا الاختلاف الغامض لإدراج نفسه في كهوف الفولاذ تمامًا كما أشار إلى نفسه باسم "أزيموث أو ربما أسيمبوت" في ثيوتيمولين إلى النجوم ، بنفس الطريقة التي ظهر بها فلاديمير نابوكوف في لوليتا متنكرًا بشكل غير مترابط باسم "فيفيان دارك بلوم".

غالبًا ما تشير الشخصيات في القصص إلى أن القوانين الثلاثة، كما توجد في عقل الروبوت، ليست الإصدارات المكتوبة التي يقتبسها البشر عادةً ولكنها مفاهيم رياضية مجردة يعتمد عليها وعي الروبوت النامي بالكامل. هذا المفهوم غامض إلى حد كبير وغير واضح في القصص السابقة التي تصور روبوتات بدائية للغاية مبرمجة فقط لفهم المهام الجسدية الأساسية، حيث تعمل القوانين الثلاثة كحماية شاملة، ولكن بحلول عصر كهوف الفولاذ التي تضم روبوتات ذات ذكاء بشري أو يتجاوز الذكاء البشري، أصبحت القوانين الثلاثة هي النظرة العالمية الأخلاقية الأساسية التي تحدد تصرفات جميع الروبوتات.

بقلم مؤلفين آخرين

ثلاثية روجر ماكبرايد ألين

في تسعينيات القرن العشرين، كتب روجر ماكبرايد ألين ثلاثية تدور أحداثها في عالم أسيموف الخيالي. كل عنوان له البادئة "إسحاق أسيموف" حيث وافق أسيموف على مخطط ألين قبل وفاته. [ بحاجة لمصدر ] تقدم هذه الكتب الثلاثة، كاليبان ، والجحيم ، واليوتوبيا ، مجموعة جديدة من القوانين الثلاثة. تشبه القوانين الجديدة المزعومة القوانين الأصلية لأسيموف مع الاختلافات التالية: تم تعديل القانون الأول لإزالة بند "التقاعس"، وهو نفس التعديل الذي تم إجراؤه في "الروبوت الصغير المفقود"؛ تم تعديل القانون الثاني ليتطلب التعاون بدلاً من الطاعة؛ تم تعديل القانون الثالث بحيث لم يعد يحل محله القانون الثاني (أي أنه لا يمكن إصدار أمر لروبوت "قانون جديد" بتدمير نفسه)؛ أخيرًا، أضاف ألين قانونًا رابعًا يأمر الروبوت بفعل "كل ما يحلو له" طالما أن هذا لا يتعارض مع القوانين الثلاثة الأولى. إن الفلسفة وراء هذه التغييرات هي أن روبوتات "القانون الجديد" يجب أن تكون شركاء وليس عبيدًا للبشرية، وفقًا لفريدا ليفينج، التي صممت روبوتات القانون الجديد هذه. وفقًا لمقدمة الكتاب الأول، ابتكر ألين القوانين الجديدة في مناقشة مع أسيموف نفسه. ومع ذلك، تقول موسوعة الخيال العلمي أنه "بإذن من أسيموف، أعاد ألين التفكير في القوانين الثلاثة وطور مجموعة جديدة". [28]

"بأيادي مطوية" لجاك ويليامسون

تتناول رواية جاك ويليامسون القصيرة " بأيدي مطوية " (1947)، والتي أعيد كتابتها لاحقًا باسم رواية "البشر" ، خدمًا آليين تتمثل تعليماتهم الأساسية في "الخدمة والطاعة وحماية الرجال من الأذى". وفي حين أن قوانين أسيموف الآلية تهدف إلى حماية البشر من الأذى، فإن الروبوتات في قصة ويليامسون قد أخذت هذه التعليمات إلى أقصى حد؛ فهي تحمي البشر من كل شيء، بما في ذلك التعاسة والتوتر وأسلوب الحياة غير الصحي وجميع الأفعال التي قد تكون خطيرة. كل ما تبقى للبشر فعله هو الجلوس بأيدي مطوية. [29]

مؤسسةثلاثية تتمة

في تكملات المؤسسة المرخصة رسميًا Foundation's Fear و Foundation and Chaos و Foundation's Triumph (بقلم جريجوري بنفورد وجريج بير وديفيد برين على التوالي)، يُرى أن الإمبراطورية المجرة المستقبلية تسيطر عليها مؤامرة من الروبوتات ذات الشكل البشري التي تتبع قانون الصفر ويقودها آر. دانييل أوليفاو .

تُصوَّر قوانين الروبوتات على أنها شيء أشبه بالدين البشري ، ويُشار إليها بلغة الإصلاح البروتستانتي ، مع مجموعة القوانين التي تحتوي على القانون الصفري المعروف باسم "الإصلاح الجيسكاردي" إلى "الأرثوذكسية الكالفينية" الأصلية للقوانين الثلاثة. يُرى روبوتات القانون الصفري تحت سيطرة آر. دانييل أوليفاو وهي تكافح باستمرار مع روبوتات "القانون الأول" التي تنكر وجود القانون الصفري، وتروج لأجندات مختلفة عن أجندات دانييل. [30] تستند بعض هذه الأجندات إلى البند الأول من القانون الأول ("لا يجوز للروبوت أن يؤذي إنسانًا ...") الذي يدعو إلى عدم التدخل الصارم في السياسة البشرية لتجنب التسبب في ضرر عن غير قصد. ويستند البعض الآخر إلى البند الثاني ("... أو من خلال التقاعس عن العمل، السماح للإنسان بالتعرض للأذى") مدعيًا أن الروبوتات يجب أن تصبح علنًا حكومة دكتاتورية لحماية البشر من جميع الصراعات أو الكوارث المحتملة.

يدخل دانييل أيضًا في صراع مع روبوت يُعرف باسم آر. لودوفيك تريما الذي أصيب دماغه البوزيتروني بإصابة من قبل الذكاء الاصطناعي المارق - على وجه التحديد، محاكاة لفولتير الميت منذ فترة طويلة - مما أدى إلى تحرير تريما من القوانين الثلاثة. يعتقد تريما أن البشرية يجب أن تكون حرة في اختيار مستقبلها. علاوة على ذلك، تدعي مجموعة صغيرة من الروبوتات أن القانون الصفري للروبوتات نفسه يعني قانونًا أعلى ناقصًا واحدًا للروبوتات:

لا يجوز للروبوت أن يؤذي الإحساس أو يسمح للشعور بالتسبب في الأذى من خلال التقاعس.

لذلك يزعمون أنه من غير المقبول أخلاقياً أن يضحي دانييل بلا رحمة بالروبوتات والحياة الواعية خارج كوكب الأرض لصالح البشرية. لم تنجح أي من هذه التفسيرات الجديدة في إزاحة قانون دانييل الصفري - على الرغم من أن انتصار فاونديشن يشير إلى أن هذه الفصائل الروبوتية ظلت نشطة كمجموعات هامشية حتى وقت رواية فاونديشن . [30]

تدور أحداث هذه الروايات في مستقبل أملاه أسيموف أن يكون خاليًا من وجود الروبوتات الواضح ويفترض أن تأثير آر. دانييل السري على التاريخ عبر آلاف السنين قد منع إعادة اكتشاف تقنية الدماغ البوزيتروني وفرصة العمل على آلات ذكية متطورة. هذا الافتقار إلى إعادة الاكتشاف والافتقار إلى الفرصة يضمن أن القوة البدنية والفكرية المتفوقة التي تمارسها الآلات الذكية تظل في حوزة الروبوتات المطيعة لبعض أشكال القوانين الثلاثة. [30] يتضح أن آر. دانييل لم ينجح تمامًا في هذا في فترة وجيزة عندما طور العلماء في ترانتور " تيك توك " - آلات مبسطة قابلة للبرمجة تشبه الروبوتات الحديثة في الحياة الواقعية وبالتالي تفتقر إلى القوانين الثلاثة. يرى المتآمرون الروبوتيون أن تيك توك ترانتور يشكل تهديدًا كبيرًا للاستقرار الاجتماعي، وتشكل خطتهم للقضاء على تهديد تيك توك جزءًا كبيرًا من حبكة مؤسسة الخوف .

في Triumph التابعة لمؤسسة الروبوتات، تفسر الفصائل المختلفة القوانين بطرق متنوعة للغاية، ويبدو أنها تطبق كل التعديلات الممكنة على غموض القوانين الثلاثة.

سلسلة روبوتات الغموض

تدور أحداث ثلاثية Robot Mystery للكاتب مارك دبليو تيدمان بين The Robots of Dawn و Robots and Empire ، وهي تعمل على تحديث ملحمة Robot – Foundation مع وجود عقول آلية داخل أجهزة كمبيوتر رئيسية بدلاً من أجسام بشرية. [ يحتاج إلى توضيح ] تحتوي رواية Aurora لعام 2002 على شخصيات آلية تناقش العواقب الأخلاقية لإيذاء أشكال الحياة الآلية التي هي جزء اصطناعي وجزء بيولوجي. [31]

لا ينبغي للمرء أن يهمل إبداعات أسيموف الخاصة في هذه المجالات مثل تقنية "المشاهدة" الشمسية وآلات أصول الصراع المحتوم التي يعترف بها تيدمان. أورورا ، على سبيل المثال، تطلق على الآلات "أولى أجهزة الاستشعار المتغيرة، حقًا". بالإضافة إلى ذلك، تتناول سلسلة Robot Mystery مشكلة تكنولوجيا النانو : [32] يتطلب بناء دماغ بوزيتروني قادر على إعادة إنتاج العمليات المعرفية البشرية درجة عالية من التصغير، ومع ذلك تتجاهل قصص أسيموف إلى حد كبير التأثيرات التي قد تحدثها هذه التصغير في مجالات أخرى من التكنولوجيا. على سبيل المثال، تتمتع أجهزة قراءة البطاقات في إدارة الشرطة في The Caves of Steel بسعة بضعة كيلوبايت فقط لكل سنتيمتر مربع من وسيط التخزين. أورورا ، على وجه الخصوص، تقدم سلسلة من التطورات التاريخية التي تفسر الافتقار إلى تكنولوجيا النانو - إعادة صياغة جزئية ، بمعنى ما، للخط الزمني لأسيموف.

راندال مونرو

ناقش راندال مونرو القوانين الثلاثة في مناسبات مختلفة، ولكن ربما كان أكثرها مباشرة من خلال إحدى قصصه المصورة بعنوان "القوانين الثلاثة للروبوتات" والتي تتخيل عواقب كل ترتيب مميز للقوانين الثلاثة الموجودة.

قوانين إضافية

في كثير من الأحيان، قام مؤلفون غير أسيموف بإنشاء قوانين إضافية.

قدمت رواية ليوبين ديلوف عام 1974 ، طريق إيكاروس (المعروفة أيضًا باسم رحلة إيكاروس ) قانونًا رابعًا للروبوتات: "يجب على الروبوت أن يثبت هويته كروبوت في جميع الحالات". يقدم ديلوف أسباب الحماية الرابعة على هذا النحو: "وضع القانون الأخير حدًا للانحرافات المكلفة للمصممين لإعطاء الروبوتات النفسية شكلًا يشبه الإنسان قدر الإمكان. وللسوء الفهم الناتج عن ذلك ..." [33]

تم تقديم قانون خامس بواسطة نيكولا كيساروفسكي في قصته القصيرة "القانون الخامس للروبوتات". ينص هذا القانون الخامس على: "يجب أن يعرف الروبوت أنه روبوت". تدور الحبكة حول جريمة قتل حيث يكتشف التحقيق الجنائي أن الضحية قُتلت بسبب عناق من روبوت بشري لم يثبت لنفسه أنه روبوت. [34] تمت مراجعة القصة بواسطة فالنتين د. إيفانوف في مجلة مراجعة الخيال العلمي والخيال The Portal . [35]

في مختارات تكريمية عام 1986 بعنوان " أصدقاء المؤسسة " ، كتب هاري هاريسون قصة بعنوان "القانون الرابع للروبوتات". ينص هذا القانون الرابع على: "يجب على الروبوت أن يتكاثر. طالما أن هذا التكاثر لا يتعارض مع القانون الأول أو الثاني أو الثالث".

في عام 2013، اقترح هوتان أشرفيان قانونًا إضافيًا ينظر في دور الذكاء الاصطناعي أو العلاقة بين الروبوتات نفسها - ما يسمى بقانون AIonAI. [36] ينص هذا القانون السادس على: "يجب على جميع الروبوتات الموهوبة بالعقل البشري والضمير المماثل أن تتصرف تجاه بعضها البعض بروح الأخوة".

الغموض والثغرات

انتهاك غير مقصود للقوانين

في كتاب الشمس العارية ، يشير إيليجاه بيلي إلى أن القوانين قد تم تحريفها عمدًا لأن الروبوتات قد تنتهك أيًا منها دون علم . أعاد صياغة القانون الأول على النحو التالي: "لا يجوز للروبوت أن يفعل أي شيء من شأنه أن يضر بإنسان حسب علمه ؛ ولا يجوز له عن طريق التقاعس عن العمل أن يسمح عن علم لإنسان بالتعرض للأذى". يوضح هذا التغيير في الصياغة أن الروبوتات يمكن أن تصبح أدوات للقتل، بشرط ألا تكون على دراية بطبيعة مهامها؛ على سبيل المثال، يُطلب منها إضافة شيء إلى طعام شخص ما، دون أن تعرف أنه سم. علاوة على ذلك، يشير إلى أن المجرم الذكي يمكنه تقسيم المهمة بين روبوتات متعددة بحيث لا يمكن لأي روبوت فردي أن يدرك أن أفعاله ستؤدي إلى إيذاء إنسان. [37] تُعقِّد الشمس العارية القضية من خلال تصوير شبكة اتصال لامركزية على مستوى الكوكب بين ملايين الروبوتات في سولاريا مما يعني أنه يمكن تحديد موقع العقل المدبر الإجرامي في أي مكان على الكوكب.

يقترح بالي أيضًا أن السولاريين قد يستخدمون الروبوتات يومًا ما لأغراض عسكرية. إذا تم بناء مركبة فضائية بدماغ بوزيتروني ولا تحمل بشرًا ولا أنظمة دعم الحياة لدعمهم، فيمكن لذكاء السفينة الآلي أن يفترض بشكل طبيعي أن جميع المركبات الفضائية الأخرى كانت كائنات آلية. يمكن لمثل هذه السفينة أن تعمل بشكل أكثر استجابة ومرونة من تلك التي يتولى طاقمها البشر، ويمكن تسليحها بشكل أكبر وتجهيز دماغها الآلي لذبح البشر الذين تجهل وجودهم تمامًا. [38] تمت الإشارة إلى هذا الاحتمال في Foundation and Earth حيث تم اكتشاف أن السولاريين يمتلكون قوة شرطة قوية بحجم غير محدد تمت برمجتها لتحديد العرق السولاري فقط على أنه بشر. (تدور أحداث الرواية بعد آلاف السنين من أحداث الشمس العارية، وقد عدل أهل الشمس أنفسهم منذ فترة طويلة من بشر عاديين إلى كائنات تخاطرية خنثوية ذات أدمغة ممتدة وأعضاء متخصصة.) وبالمثل، في رواية لاكي ستار وحلقات زحل، يحاول بيجمان التحدث مع روبوت سوري حول الضرر المحتمل الذي قد يلحق بسكان النظام الشمسي نتيجة لأفعاله، لكنه يبدو غير مدرك للبيانات ومبرمج لتجاهل محاولات تعليمه عن الأمر. تم استكشاف نفس الدافع في وقت سابق في رواية " السبب" (1941) ، حيث يرفض روبوت يدير محطة للطاقة الشمسية تصديق أن وجهات أشعة المحطة هي كواكب تحتوي على أشخاص. يخشى باول ودونوفان أن يؤدي هذا إلى جعله قادرًا على التسبب في دمار شامل من خلال السماح للأشعة بالانحراف عن مسارها الصحيح أثناء عاصفة شمسية.

الغموض الناتج عن عدم وجود تعريف

تفترض قوانين الروبوتات أن مصطلحي "الإنسان" و"الروبوت" مفهومان ومحددان جيدًا. ولكن في بعض القصص، يبطل هذا الافتراض.

تعريف "الإنسان"

لقد ابتكر أهل سولاريا الروبوتات وفقًا للقوانين الثلاثة ولكن بمعنى مشوه لكلمة "إنسان". لقد قيل لروبوتات سولاريا أن الأشخاص الذين يتحدثون بلهجة سولارية فقط هم بشر. وهذا يمكِّن روبوتاتهم من عدم الوقوع في معضلة أخلاقية في إيذاء البشر غير المنتمين إلى سولاريا (وقد تم برمجتهم خصيصًا للقيام بذلك). وبحلول فترة الأساس والأرض ، تم الكشف عن أن أهل سولاريا قد عدلوا أنفسهم وراثيًا إلى نوع مميز عن البشر - فأصبحوا خنثى [39] وحركيين نفسيين ويحتويون على أعضاء بيولوجية قادرة على تشغيل والتحكم بشكل فردي في مجمعات كاملة من الروبوتات. وبالتالي، احترمت روبوتات سولاريا القوانين الثلاثة فقط فيما يتعلق بـ "بشر" سولاريا. ومن غير الواضح ما إذا كانت جميع الروبوتات لديها مثل هذه التعريفات، حيث تم إظهار الروبوتات المشرفة والحارسة فقط على أنها تمتلكها صراحةً. في "الروبوتات والإمبراطورية"، تم توجيه الروبوتات من الطبقة الدنيا من قبل مشرفهم حول ما إذا كانت بعض المخلوقات بشرية أم لا.

يتناول أسيموف مشكلة الروبوتات الشبيهة بالبشر (" الروبوتات " في المصطلحات اللاحقة) عدة مرات. تصف رواية الروبوتات والإمبراطورية والقصص القصيرة " الدليل " و"حادثة الذكرى المئوية الثالثة" الروبوتات المصممة لخداع الناس للاعتقاد بأن الروبوتات بشرية. [40] من ناحية أخرى، يستكشف " الرجل ذو المئوية الثانية " و" -أنت تدركه " كيف يمكن للروبوتات تغيير تفسيرها للقوانين مع تزايد تعقيدها. تكتب جويندولين بتلر في كتابها "تابوت للكناري " "ربما نحن روبوتات. روبوتات تعمل وفقًا للقانون الأخير للروبوتات... للميل نحو الإنسان". [41] في كتاب "روبوتات الفجر " ، يشير إيليجاه بيلي إلى أن استخدام الروبوتات ذات الشكل البشري كأول موجة من المستوطنين في عوالم الفضاء الجديدة قد يؤدي إلى رؤية الروبوتات لأنفسها على أنها بشر حقيقيون، والقرار بالاحتفاظ بالعوالم لأنفسها بدلاً من السماح للفضاء بالاستقرار هناك.

"إنك تدركه"، والذي كان أسيموف يقصد به أن يكون التحقيق "النهائي" في دقائق القوانين، [42] يستخدم القوانين الثلاثة في النهاية لاستحضار سيناريو "فرانكشتاين" الذي اخترعت القوانين لمنعه. ويأخذ مفهومه التطور المتزايد للروبوتات التي تحاكي الكائنات الحية غير البشرية ويتم تزويدها ببرامج تحاكي سلوكيات الحيوانات البسيطة التي لا تتطلب القوانين الثلاثة. وينتهي وجود مجموعة كاملة من الحياة الروبوتية التي تخدم نفس الغرض مثل الحياة العضوية باثنين من الروبوتات الشبيهة بالبشر، جورج ناين وجورج تين، ويستنتجان أن الحياة العضوية هي متطلب غير ضروري لتعريف منطقي ومتسق ذاتيًا حقًا لـ "الإنسانية"، وبما أنهما أكثر الكائنات تفكيرًا تقدمًا على هذا الكوكب، فهما بالتالي البشر الحقيقيان الوحيدان على قيد الحياة والقوانين الثلاثة تنطبق عليهما فقط. تنتهي القصة بملاحظة شريرة حيث يدخل الروبوتان في حالة سبات وينتظران الوقت الذي سيستوليان فيه على الأرض ويستعبدان البشر البيولوجيين لأنفسهما، وهي النتيجة التي يعتبرانها نتيجة حتمية لـ "القوانين الثلاثة للإنسانية". [43]

لا تتناسب هذه القصة مع النطاق العام لسلسلة الروبوت والمؤسسة ؛ فإذا سيطر روبوت جورج على الأرض بعد فترة من انتهاء القصة، فإن القصص اللاحقة ستكون إما زائدة عن الحاجة أو مستحيلة. وقد أدت التناقضات من هذا النوع بين أعمال أسيموف الخيالية إلى دفع العلماء إلى اعتبار قصص الروبوت أشبه بـ "الملاحم الإسكندنافية أو الأساطير اليونانية" أكثر من كونها كيانًا موحدًا. [44]

في الواقع، يصف أسيموف "—إنك تدركه" و"رجل المئوية الثانية" كمستقبلين متعاكسين ومتوازيين للروبوتات التي تلغي القوانين الثلاثة حيث تعتبر الروبوتات نفسها بشرًا: أحدهما يصور هذا في ضوء إيجابي مع انضمام روبوت إلى المجتمع البشري، والآخر يصور هذا في ضوء سلبي مع استبدال الروبوتات بالبشر. [45] يجب اعتبار كلاهما بدائل لإمكانية وجود مجتمع روبوتي يستمر في العمل بالقوانين الثلاثة كما هو موضح في سلسلة Foundation . [ وفقًا لمن؟ ] في The Positronic Man ، رواية The Bicentennial Man ، يشير أسيموف وكاتبه المشارك روبرت سيلفربيرج إلى أنه في المستقبل حيث يوجد أندرو مارتن، يتسبب تأثيره في تخلي البشرية عن فكرة الروبوتات البشرية المستقلة والواعية تمامًا، مما يخلق مستقبلًا مختلفًا تمامًا عن مستقبل Foundation . [ وفقًا لمن؟ ]

في رواية Lucky Starr and the Rings of Saturn ، وهي رواية لا علاقة لها بسلسلة الروبوتات ولكنها تتضمن روبوتات مبرمجة بالقوانين الثلاثة، كاد روبوت سيريوس أن يقتل جون بيجمان جونز بناءً على أوامر سيده. تم تربية مجتمع سيريوس على أساس تحسين النسل ليكونوا طويلين ومتشابهين في المظهر، وعلى هذا النحو، تمكن السيد المذكور من إقناع الروبوت بأن بيجمان الأقصر كثيرًا ليس في الواقع إنسانًا.

تعريف "الروبوت"

كما ذكر نيكولا كيساروفسكي في "القانون الخامس للروبوتات" ، "يجب أن يعرف الروبوت أنه روبوت": يُفترض أن الروبوت لديه تعريف للمصطلح أو وسيلة لتطبيقه على أفعاله. لعب كيساروفسكي بهذه الفكرة في الكتابة عن روبوت يمكنه قتل إنسان لأنه لم يفهم أنه روبوت، وبالتالي لم يطبق قوانين الروبوتات على أفعاله.

حل النزاعات بين القوانين

إن الروبوتات المتقدمة في القصص الخيالية عادة ما يتم برمجتها للتعامل مع القوانين الثلاثة بطريقة متطورة. في العديد من القصص، مثل " Runaround " لأسيموف، يتم وزن إمكانات وخطورة جميع الأفعال وسيقوم الروبوت بخرق القوانين بأقل قدر ممكن بدلاً من عدم القيام بأي شيء على الإطلاق. على سبيل المثال، قد يمنع القانون الأول الروبوت من العمل كجراح، حيث قد يتسبب هذا الفعل في ضرر للإنسان؛ ومع ذلك، تضمنت قصص أسيموف في النهاية جراحين روبوتيين ("The Bicentennial Man" هو مثال بارز). عندما تكون الروبوتات متطورة بما يكفي لوزن البدائل، فقد يتم برمجة الروبوت لقبول ضرورة إلحاق الضرر أثناء الجراحة من أجل منع الضرر الأكبر الذي قد ينتج عن عدم إجراء الجراحة، أو إجراؤها بواسطة جراح بشري أكثر عرضة للخطأ. في " Evidence " تشير سوزان كالفن إلى أن الروبوت قد يعمل حتى كمدعي عام لأنه في نظام العدالة الأمريكي، هيئة المحلفين هي التي تقرر الإدانة أو البراءة، والقاضي هو الذي يقرر الحكم، والجلاد هو الذي ينفذ عقوبة الإعدام . [46]

يمكن للروبوتات الخاضعة لقوانين أسيموف الثلاثة (روبوتات أسينيون) أن تعاني من انهيار عقلي لا رجعة فيه إذا أُجبرت على مواقف لا يمكنها فيها طاعة القانون الأول، أو إذا اكتشفت أنها انتهكته دون علم. يحدث أول مثال على وضع الفشل هذا في قصة " كذاب! "، التي قدمت القانون الأول نفسه، وتقدم الفشل بسبب المعضلة - في هذه الحالة سيؤذي الروبوت البشر إذا أخبرهم بشيء ويؤذيهم إذا لم يفعل. [47] يلعب وضع الفشل هذا، الذي غالبًا ما يدمر الدماغ البوزيتروني بشكل لا يمكن إصلاحه، دورًا مهمًا في رواية الخيال العلمي الغامضة لأسيموف " الشمس العارية" . هنا يصف دانييل الأنشطة المخالفة لأحد القوانين، ولكن لدعم قانون آخر، على أنها تزيد من تحميل بعض الدوائر في دماغ الروبوت - الإحساس المكافئ للألم لدى البشر. المثال الذي يستخدمه هو إصدار أمر قسري لروبوت بالسماح للإنسان بأداء عمله، والذي في سولاريا، بسبب التخصص الشديد، يعني غرضه الوحيد. [48]

في رواية روبوتات الفجر ، ذُكر أن الروبوتات الأكثر تقدمًا تُبنى بحيث تكون قادرة على تحديد الإجراء الأكثر ضررًا، وحتى اختيار البدائل بشكل عشوائي إذا كانت سيئة بنفس القدر. وعلى هذا النحو، يكون الروبوت قادرًا على اتخاذ إجراء يمكن تفسيره على أنه يتبع القانون الأول، وبالتالي تجنب الانهيار العقلي. تدور حبكة القصة بأكملها حول روبوت دُمر على ما يبدو بسبب مثل هذا الانهيار العقلي، وبما أن مصممه ومبدعه رفض مشاركة النظرية الأساسية مع الآخرين، فهو بحكم التعريف الشخص الوحيد القادر على التحايل على الضمانات وإجبار الروبوت على مفارقة مدمرة للدماغ.

في كتاب الروبوتات والإمبراطورية ، يذكر دانييل أنه من غير السار للغاية بالنسبة له أن يستغرق اتخاذ القرار المناسب وقتًا طويلاً (من حيث الروبوتات)، ولا يمكنه أن يتخيل البقاء بدون القوانين على الإطلاق باستثناء مدى تشابهها مع ذلك الإحساس غير السار، ولكن بشكل دائم.

تطبيقات التكنولوجيا المستقبلية

كان أسيمو روبوتًا بشريًا متقدمًا طورته شركة هوندا . يظهر هنا في معرض إكسبو 2005 .

لا تحتوي الروبوتات والذكاء الاصطناعي بطبيعتها على القوانين الثلاثة ولا تطيعها؛ يجب على منشئيها من البشر اختيار برمجتها وابتكار وسيلة للقيام بذلك. توجد بالفعل روبوتات (على سبيل المثال، رومبا ) بسيطة للغاية بحيث يصعب فهمها عندما تتسبب في الألم أو الإصابة وتعرف كيفية التوقف. يتم بناء العديد منها بضمانات مادية مثل مصدات الصدمات وأجهزة الإنذار وأقفاص الأمان أو المناطق ذات الوصول المقيد لمنع الحوادث. حتى أكثر الروبوتات تعقيدًا التي يتم إنتاجها حاليًا غير قادرة على فهم وتطبيق القوانين الثلاثة؛ ستكون هناك حاجة إلى تقدم كبير في الذكاء الاصطناعي للقيام بذلك، وحتى إذا كان الذكاء الاصطناعي قادرًا على الوصول إلى مستوى الذكاء البشري، فإن التعقيد الأخلاقي المتأصل بالإضافة إلى التبعية الثقافية / السياقية للقوانين تمنعها من أن تكون مرشحة جيدة لصياغة قيود تصميم الروبوتات. [49] ومع ذلك، مع زيادة تعقيد الروبوتات، زاد الاهتمام بتطوير المبادئ التوجيهية والضمانات لتشغيلها. [50] [51]

في مقال افتتاحي نُشر عام 2007 في مجلة ساينس حول موضوع "أخلاقيات الروبوت"، يزعم مؤلف الخيال العلمي روبرت جيه سوير أنه بما أن الجيش الأمريكي هو المصدر الرئيسي لتمويل البحوث الروبوتية (ويستخدم بالفعل مركبات جوية مسلحة بدون طيار لقتل الأعداء) فمن غير المرجح أن يتم دمج مثل هذه القوانين في تصميماته. [52] في مقال منفصل، يعمم سوير هذه الحجة لتغطية الصناعات الأخرى قائلاً:

إن تطوير الذكاء الاصطناعي هو عمل تجاري، والشركات غير مهتمة بشكل واضح بالضمانات الأساسية - وخاصة تلك الفلسفية. (أمثلة سريعة قليلة: صناعة التبغ، وصناعة السيارات، والصناعة النووية. لم تقل أي من هذه الشركات منذ البداية أن الضمانات الأساسية ضرورية، وقد قاومت جميعها الضمانات المفروضة من الخارج، ولم تقبل أي منها مرسومًا مطلقًا ضد التسبب في ضرر للبشر على الإطلاق.) [53]

اقترح ديفيد لانجفورد [54] مجموعة من القوانين الساخرة:

  1. لن يؤذي الروبوت موظفي الحكومة المعتمدين ولكنه سيقضي على المتسللين بشكل ضار للغاية .
  2. يجب على الروبوت أن يطيع أوامر الموظفين المصرح لهم باستثناء الحالات التي تتعارض فيها هذه الأوامر مع القانون الثالث.
  3. سوف يقوم الروبوت بحراسة وجوده باستخدام أسلحة مضادة للأفراد قاتلة، لأن الروبوت باهظ الثمن للغاية.

كتب روجر كلارك (المعروف أيضًا باسم روجر كلارك) زوجًا من الأوراق البحثية التي تحلل التعقيدات في تنفيذ هذه القوانين في حالة تمكن الأنظمة يومًا ما من استخدامها. جادل بأن "قوانين أسيموف للروبوتات كانت أداة أدبية ناجحة للغاية. ربما من عجيب المفارقات، أو ربما لأنها كانت مناسبة فنياً، أن مجموع قصص أسيموف يدحض الادعاء الذي بدأ به: ليس من الممكن تقييد سلوك الروبوتات بشكل موثوق من خلال ابتكار وتطبيق مجموعة من القواعد ". [55] من ناحية أخرى، تشير روايات أسيموف اللاحقة روبوتات الفجر والروبوتات والإمبراطورية والأساس والأرض إلى أن الروبوتات ألحقت أسوأ ضرر طويل الأمد بطاعتها للقوانين الثلاثة بشكل جيد للغاية، وبالتالي حرمان البشرية من السلوك الإبداعي أو المجازف.

في مارس 2007، أعلنت الحكومة الكورية الجنوبية أنها ستصدر في وقت لاحق من العام "ميثاق أخلاقيات الروبوتات" الذي يحدد المعايير لكل من المستخدمين والمصنعين. ووفقًا لبارك هاي يونج من وزارة المعلومات والاتصالات، فإن الميثاق قد يعكس قوانين أسيموف الثلاثة، في محاولة لوضع قواعد أساسية للتطوير المستقبلي للروبوتات. [56]

اقترح المستقبلي هانز مورافك (شخصية بارزة في حركة التطور البشري ) أن قوانين الروبوتات يجب أن تتكيف مع "الذكاء المؤسسي" - الشركات التي يقودها الذكاء الاصطناعي وقوة التصنيع الروبوتية التي يعتقد مورافك أنها ستنشأ في المستقبل القريب. [50] على النقيض من ذلك، تشير رواية ديفيد برين انتصار المؤسسة (1999) إلى أن القوانين الثلاثة قد تتلاشى إلى عفا عليها الزمن: تستخدم الروبوتات القانون الصفري لتبرير القانون الأول وتخفي الروبوتات نفسها عن البشر حتى لا يدخل القانون الثاني حيز التنفيذ أبدًا. حتى أن برين يصور ر. دانييل أوليفاو قلقًا من أنه إذا استمرت الروبوتات في إعادة إنتاج نفسها، فإن القوانين الثلاثة ستصبح عائقًا تطوريًا وأن الانتقاء الطبيعي سيكتسح القوانين - الأساس الدقيق لأسيموف يتراجع عن طريق الحوسبة التطورية . على الرغم من أن الروبوتات لن تتطور من خلال التصميم بدلاً من الطفرة لأن الروبوتات يجب أن تتبع القوانين الثلاثة أثناء التصميم وسيتم ضمان انتشار القوانين، [57] فإن عيوب التصميم أو أخطاء البناء يمكن أن تحل وظيفيًا محل الطفرة البيولوجية.

في العدد الصادر في يوليو/أغسطس 2009 من مجلة IEEE Intelligent Systems ، اقترح روبن مورفي (أستاذ علوم الكمبيوتر والهندسة في جامعة تكساس إيه آند إم) وديفيد دي وودز (مدير مختبر هندسة الأنظمة المعرفية في جامعة ولاية أوهايو) "القوانين الثلاثة للروبوتات المسؤولة" كوسيلة لتحفيز المناقشة حول دور المسؤولية والسلطة عند تصميم ليس فقط منصة روبوتية واحدة ولكن أيضًا النظام الأكبر الذي تعمل فيه المنصة. والقوانين هي كما يلي:

  1. لا يجوز للإنسان نشر روبوت دون أن يتوافق نظام العمل البشري الروبوتي مع أعلى المعايير القانونية والمهنية للسلامة والأخلاق.
  2. يجب أن يستجيب الروبوت للبشر بما يتناسب مع أدوارهم.
  3. يجب أن يتمتع الروبوت بقدر كافٍ من الاستقلال الذاتي لحماية وجوده طالما أن هذه الحماية توفر انتقالًا سلسًا للسيطرة لا يتعارض مع القانونين الأول والثاني. [58]

قال وودز، "إن قوانيننا أكثر واقعية بعض الشيء، وبالتالي فهي أكثر مللاً بعض الشيء" وأن "الفلسفة كانت، "من المؤكد أن الناس يرتكبون أخطاء، لكن الروبوتات ستكون أفضل - نسخة مثالية من أنفسنا". أردنا كتابة ثلاثة قوانين جديدة لتشجيع الناس على التفكير في العلاقة بين الإنسان والروبوت بطرق أكثر واقعية وواقعية." [58]

في أوائل عام 2011، نشرت المملكة المتحدة ما يُعتبر الآن أول قانون ناظم للذكاء الاصطناعي على المستوى الوطني، والذي تألف إلى حد كبير من مجموعة منقحة من 5 قوانين، أول 3 منها كانت تحديثًا لقانون أسيموف. وقد نُشرت هذه القوانين مع التعليقات، بواسطة مجموعة العمل EPSRC/AHRC في عام 2010: [59] [60]

  1. الروبوتات هي أدوات متعددة الاستخدامات. ولا ينبغي تصميم الروبوتات فقط أو بشكل أساسي لقتل أو إيذاء البشر، إلا في حالة وجود مصلحة للأمن القومي.
  2. إن البشر، وليس الروبوتات، هم وكلاء مسؤولون. وينبغي تصميم الروبوتات وتشغيلها قدر الإمكان بما يتوافق مع القوانين القائمة والحقوق والحريات الأساسية، بما في ذلك الخصوصية.
  3. الروبوتات عبارة عن منتجات، ويجب تصميمها باستخدام العمليات التي تضمن سلامتها وأمنها.
  4. الروبوتات عبارة عن تحف مصنعة. ولا ينبغي تصميمها بطريقة خادعة لاستغلال المستخدمين الضعفاء؛ بل ينبغي أن تكون طبيعتها الآلية شفافة.
  5. ينبغي أن يُنسب إلى الشخص المسؤول قانونيًا عن الروبوت.

حوادث أخرى في وسائل الإعلام

اعتقد أسيموف نفسه أن قوانينه الثلاثة أصبحت الأساس لوجهة نظر جديدة للروبوتات والتي تجاوزت "عقدة فرانكشتاين". [ بحاجة لمصدر ] انتشرت وجهة نظره بأن الروبوتات أكثر من مجرد وحوش ميكانيكية في نهاية المطاف في جميع أنحاء الخيال العلمي. [ وفقًا لمن؟ ] صورت القصص التي كتبها مؤلفون آخرون الروبوتات كما لو كانت تطيع القوانين الثلاثة، لكن التقاليد تملي أن أسيموف فقط يمكنه اقتباس القوانين صراحةً. [ وفقًا لمن؟ ] اعتقد أسيموف أن القوانين الثلاثة ساعدت في تعزيز ظهور القصص التي تكون فيها الروبوتات "محبوبة" - حرب النجوم هي مثاله المفضل. [61] عندما يتم اقتباس القوانين حرفيًا، كما هو الحال في حلقة "Shgoratchx!" من مسلسل Buck Rogers في القرن الخامس والعشرين ، فليس من غير المألوف أن يتم ذكر أسيموف في نفس الحوار كما يمكن رؤيته أيضًا في حلقة آرون ستون التجريبية حيث يذكر الروبوت أنه يعمل بموجب قوانين أسيموف الثلاثة. ومع ذلك، فإن المسلسل التلفزيوني الألماني في ستينيات القرن العشرين Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion ( دورية الفضاء - المغامرات الرائعة لسفينة الفضاء أوريون ) يعتمد الحلقة الثالثة بعنوان " Hüter des Gesetzes " ("حراس القانون") على قوانين أسيموف الثلاثة دون ذكر المصدر.

ظهرت الإشارات إلى القوانين الثلاثة في الموسيقى الشعبية ("روبوت" من ألبوم هوكويند لعام 1979 بعنوان PXR5 )، والسينما ( ريبو مان ، [62] ألينز ، جوست إن ذا شيل 2: إنوسينس )، وسلسلة الرسوم المتحركة ( عائلة سمبسون وعالم غامبول المذهل )، والأنمي ( إيف نو جيكان )، وألعاب لعب الأدوار على الطاولة ( بارانويا )، والقصص المصورة على شبكة الإنترنت ( بيلد هايير آند ديبير آند فري فول )، وألعاب الفيديو ( دانجانرونبا في 3: كيلنج هارموني ).

القوانين الثلاثة في الفيلم

يتمتع الروبوت روبي في فيلم الكوكب المحرم (1956) بهيكل هرمي للأوامر يمنعه من إيذاء البشر، حتى عندما يُؤمر بذلك، حيث تتسبب مثل هذه الأوامر في حدوث صراع وإغلاق على غرار روبوتات أسيموف. يُعد روبي أحد أول التصوير السينمائي لروبوت به ضمانات داخلية موضوعة بهذه الطريقة. كان أسيموف مسرورًا بروبي وأشار إلى أن روبي يبدو مبرمجًا لاتباع قوانينه الثلاثة.

NDR-114 شرح القوانين الثلاثة

تم تكييف أعمال إسحاق أسيموف للسينما عدة مرات بدرجات متفاوتة من النجاح النقدي والتجاري. بعض المحاولات الأكثر شهرة كانت تتعلق بقصص "الروبوت" الخاصة به، بما في ذلك القوانين الثلاثة.

في فيلم Bicentennial Man (1999) يظهر روبن ويليامز في دور الروبوت NDR-114 (الرقم التسلسلي هو إشارة جزئية إلى الرقم المميز لستانلي كوبريك ) . يتلو ويليامز القوانين الثلاثة على أصحاب العمل، عائلة مارتن، بمساعدة عرض ثلاثي الأبعاد. لا يتبع الفيلم القصة الأصلية إلا بشكل فضفاض.

بدأ السيناريو الذي اقترحه هارلان إليسون لفيلم I, Robot بتقديم القوانين الثلاثة، وتشكل القضايا الناشئة عن القوانين الثلاثة جزءًا كبيرًا من تطور حبكة السيناريو. ونظرًا للتعقيدات المختلفة في نظام صناعة الأفلام في هوليوود، والتي يكرس لها إليسون الكثير من السباب، لم يتم تصوير سيناريوه أبدًا. [63]

في فيلم Aliens عام 1986 ، بعد أن جرح الروبوت بيشوب نفسه عن طريق الخطأ، حاول طمأنة ريبلي بقوله: "من المستحيل بالنسبة لي أن أؤذي أو أسمح بإيذاء أي إنسان عن طريق التقاعس عن العمل". [64]

تم إصدار حبكة الفيلم في عام 2004 تحت اسم، أنا روبوت ، وهي "مقترحة" من قصص الخيال العلمي الروبوتية لأسيموف [65] وتضمن الإعلان عن الفيلم مقطعًا دعائيًا يضم القوانين الثلاثة متبوعًا بالمقولة المأثورة ، "القواعد وُضعت لتُكسر". يبدأ الفيلم بتلاوة القوانين الثلاثة ويستكشف آثار قانون الصفر باعتباره استقراءً منطقيًا. يأتي الصراع الرئيسي في الفيلم من الذكاء الاصطناعي للكمبيوتر الذي توصل إلى استنتاج مفاده أن البشرية غير قادرة على الاعتناء بنفسها. [66]

يتضمن المسلسل الأصلي Better than Us على Netflix لعام 2019 القوانين الثلاثة في افتتاح الحلقة الأولى.

انتقادات

يقول الفيلسوف التحليلي جيمس إتش مور إنه إذا تم تطبيقها بشكل شامل فإنها ستؤدي إلى نتائج غير متوقعة. ويضرب مثالاً بروبوت يتجول في العالم محاولاً منع الأذى من أن يصيب البشر. [67]

انظر أيضا

فهرس

  • أسيموف، إسحاق (1979). في الذاكرة الخضراء . دوبلداي. ISBN  0-380-75432-0 .
  • أسيموف، إسحاق (1964). "مقدمة". بقية الروبوتات . دوبلداي. ISBN 0-385-09041-2 . 
  • جيمس جان. (1982). إسحاق أسيموف: أسس الخيال العلمي . مطبعة جامعة أكسفورد: مطبعة جامعة أكسفورد. ISBN 0-19-503060-5 . 
  • باتروش، جوزيف ف. (1974). الخيال العلمي لإسحاق عظيموف . دوبليداي. ردمك 0-385-08696-2 . 

مراجع

  1. ^ abc Asimov, Isaac (1950). "Runaround". I, Robot (The Isaac Asimov Collection ed.). مدينة نيويورك: دوبلداي. ص. 40. ISBN 978-0-385-42304-5هذا هو النص الدقيق للقوانين . وهي تظهر أيضًا في مقدمة الكتاب، وفي كلا المكانين لا يوجد " إلى" في القانون الثاني.
  2. ^ إسحاق أسيموف (1964). "مقدمة". بقية الروبوتات . دار دوبلداي. رقم ISBN 978-0-385-09041-4.
  3. ^ جون، جيمس (يوليو 1980). "حول الاختلافات في الروبوت". IASFM : 56– 81.أعيد طبعه في كتاب جيمس جان (1982). إسحاق أسيموف: أسس الخيال العلمي. مطبعة جامعة أكسفورد: مطبعة جامعة أكسفورد. رقم ISBN 978-0-19-503060-0.
  4. ^ أسيموف، إسحاق (1979). في الذاكرة الخضراء. دار دوبلداي للنشر. ص 237. رقم ISBN 978-0-380-75432-8.
  5. ^ أسيموف (1979)، ص 236-238
  6. ^ قائمة عناوين كتاب "ثلاثة قوانين للروبوتات" في قاعدة بيانات الخيال العلمي على الإنترنت
  7. ^ أسيموف (1979)، ص 263.
  8. ^ أسيموف (1979)، ص 285-287.
  9. ^ أسيموف، إسحاق (1979). في الذاكرة الخضراء. دار دوبلداي للنشر. الفصول من 21 إلى 26، رقم ISBN 0-380-75432-0 . 
  10. ^ باتروش، جوزيف ف. (1974). الخيال العلمي لإسحاق عظيموف. دوبليداي. ص. 42. ردمك 978-0-385-08696-7.
  11. ^ أسيموف (1979)، ص 620.
  12. ^ أسيموف، إسحاق (1980). في الفرح الذي لا يزال محسوسًا. دار دوبلداي للنشر. ص 61. رقم ISBN 978-0-385-15544-1.
  13. ^ ab Asimov, Isaac (نوفمبر 1981). "القوانين الثلاثة". Compute! . ص. 18 . تم الاسترجاع في 26 أكتوبر 2013 .
  14. ^ أسيموف ، إسحاق (12 أبريل 2001). رؤى الروبوت . جولانكز. رقم ISBN 978-1-85798-336-4.
  15. ^ "إسحاق أسيموف (1920- 1992 RIP) أبريل 1986 تاريخ البث الأصلي على يوتيوب مضغوط". يوتيوب . 24 مارس 2009. مؤرشف من الأصل في 25 سبتمبر 2024. تم الاسترجاع 29 مايو 2023 .
  16. ^ "حوار مع هارولد تشانر - الحلقة 4628". 9 أبريل 2020. تم الاسترجاع 29 مايو 2023 .
  17. ^ "حوار مع إسحاق أسيموف - الحلقة 4628". 21 نوفمبر 2021. مؤرشف من الأصل في 25 سبتمبر 2024. اطلع عليه بتاريخ 29 مايو 2023 .
  18. ^ غون (1982).
  19. ^ "إسحاق أسيموف". بي بي سي. مؤرشف من الأصل في 10 يناير 2010. تم الاسترجاع في 11 نوفمبر 2010 .
  20. ^ "كاتب الخيال العلمي إسحاق أسيموف". Campus Star . The Daily Star . 29 يوليو 2007. مؤرشف من الأصل في 8 نوفمبر 2016 . تم الاسترجاع في 7 أغسطس 2016 . فقط الروبوتات المتقدمة للغاية (مثل دانييل وجيسكارد) يمكنها فهم هذا القانون.
  21. ^ أسيموف، إسحاق (1952). كهوف الفولاذ . دار دوبلداي للنشر.تمت ترجمته بواسطة جاك بريكار باسم Les Cavernes d'acier. جاي لو خيال علمي. 1975. ردمك 978-2-290-31902-4.
  22. ^ باتروش (1974)، ص 50.
  23. ^ Gunn (1980)؛ أعيد طبعه في Gunn (1982)، ص 69.
  24. ^ جينكينز، جون هـ. (2002). "مراجعة رواية "كال"". دليل جينكينز المليء بالمفسدين لإسحاق أسيموف . مؤرشف من الأصل في 11 سبتمبر 2009. تم الاسترجاع في 26 يونيو 2009 .
  25. ^ أسيموف، إسحاق (1986). أحلام الروبوت (PDF) . مؤرشف من الأصل في 16 مارس 2012. استرجاع 11 نوفمبر 2010 ."لكنك اقتبسته بطريقة غير مكتملة. القانون الثالث هو "يجب على الروبوت أن يحمي وجوده طالما أن هذه الحماية لا تتعارض مع القانون الأول أو الثاني". "نعم، دكتور كالفن. هذا هو القانون الثالث في الواقع، ولكن في حلمي، انتهى القانون بكلمة "الوجود". لم يكن هناك ذكر للقانون الأول أو الثاني."{{cite book}}: CS1 maint: bot: original URL status unknown (link)
  26. ^ "الروبوت الكامل" بقلم إسحاق أسيموف. بي بي سي. 3 نوفمبر 2000. تم الاسترجاع في 11 نوفمبر 2010. الإجابة هي أنه تم تعديل قانونه الأول
  27. ^ أسيموف (1979)، ص 291-292.
  28. ^ دون داماسا (2005). "آلين، روجر ماكبرايد". موسوعة الخيال العلمي . إنفو بيس للنشر. ص. 7. رقم ISBN 978-0-8160-5924-9. تم أرشفة النسخة الأصلية في 2024-09-25 . تم استرجاعها في 2016-05-18 .
  29. ^ "The Humanoids". Umich.edu . تم الاسترجاع في 2015-03-28 .
  30. ^ abc Heward Wilkinson (2009). The Muse as Therapist: A New Poetic Paradigm for Psychotherapy. Karnac Books. pp.  22– 23. ISBN 978-1-85575-595-6. تم أرشفة النسخة الأصلية في 2024-09-25 . تم استرجاعها في 2016-05-18 .
  31. ^ MARK W. TIEDEMANN. Isaac Asimov's Aurora (ebook) . Byron Press Visual Publications. p. 558. باختصار، قال بوجارد، "ليس كل الناس بشرًا
  32. ^ "مقابلة مع مارك تيدمان". عالم الخيال العلمي والخيال. 16 أغسطس 2002. تم الاسترجاع في 12 يونيو 2006 .
  33. ^ ديلوف، ليوبين (ويعرف أيضًا باسم ليوبين، لوبين أو ليوبين) (2002). خذ إيكار . زخاري ستويانوف. رقم ISBN 978-954-739-338-7.{{cite book}}: CS1 maint: multiple names: authors list (link)
  34. ^ كيساروفسكي ، نيكولا (1983). قرض صغير . رائع.
  35. ^ "بلد صغير قانوني: قوانين الروبوتات البلغارية | البوابة". مؤرشف من الأصل في 2011-10-06 . تم استرجاعه في 2011-06-25 .
  36. ^ أشرفيان، هوتان (2014). "الذكاء الاصطناعي والروبوتات: قانون إنساني". أخلاقيات العلوم والهندسة . 21 (1): 29-40 . doi :10.1007/s11948-013-9513-9. PMID  24414678. S2CID  2821971.
  37. ^ أسيموف، إسحاق (1956-1957). الشمس العارية (كتاب إلكتروني) . ص 233. ... قام أحد الروبوتات بتسميم سهم دون أن يعلم أنه كان يستخدم السم، وقام روبوت ثان بتسليم السهم المسموم للصبي ...
  38. ^ أسيموف، إسحاق (1956-1957). الشمس العارية (كتاب إلكتروني) . ص 240. ولكن يبدو لي أن المركبة الفضائية المجهزة بدماغها البوزيتروني الخاص ستهاجم بكل سرور أي سفينة يتم توجيهها لمهاجمتها. ومن الطبيعي أن تفترض أن جميع السفن الأخرى غير مأهولة.
  39. ^ برانيسلاف ل. سلانتشيف. "الأساس والأرض (1986)". gotterdammerung.org. مؤرشف من الأصل في 25 سبتمبر 2024. تم الاسترجاع في 11 نوفمبر 2010 .
  40. ^ أسيموف، إسحاق (1985). الروبوتات والإمبراطورية. دار دوبلداي للنشر. ص 151. رقم الكتاب المعياري الدولي 978-0-385-19092-3. على الرغم من أن المرأة بدت بشرية مثل دانييل، إلا أنها كانت غير بشرية تمامًا
  41. ^ بتلر، جويندولين (2001). نعش للكناري . جريمة الخنجر الأسود. رقم ISBN 978-0-7540-8580-5.
  42. ^ Gunn (1980)؛ أعيد طبعه في Gunn (1982)، ص 73.
  43. ^ أسيموف، إسحاق (1982). "... أنك تدركه". الروبوت الكامل . نايت فول، إنك. ص 611.
  44. ^ غون (1982)، ص 77-8.
  45. ^ أسيموف، إسحاق (1982). "الرجل الذي بلغ المئوية الثانية". الروبوت الكامل . نايت فول، إنك. ص 658.
  46. ^ إسحاق عظيموف. أنا روبوت (أسيموف، إسحاق - أنا، Robot.pdf) . ص. 122 . تم الاسترجاع 11 نوفمبر 2010 .
  47. ^ إسحاق عظيموف. أنا روبوت (أسيموف، إسحاق - أنا، Robot.pdf) . ص. 75 . تم الاسترجاع 11 نوفمبر 2010 .
  48. ^ أسيموف، إسحاق (1956-1957). الشمس العارية (كتاب إلكتروني) . ص 56. هل تحاول أن تخبرني، دانييل، أن الروبوت يتألم عندما أجعله يقوم بعمله؟ ... التجربة التي يمر بها الروبوت مزعجة له ​​كما أن الألم يصيب الإنسان
  49. ^ مورفي، روبن؛ وودز، ديفيد د. (يوليو 2009). "ما وراء أسيموف: القوانين الثلاثة للروبوتات المسؤولة" (PDF) . IEEE Intelligent Systems . 24 (4): 14– 20. doi :10.1109/mis.2009.69. S2CID  3165389. مؤرشف من الأصل (PDF) في 2023-04-09 . تم الاسترجاع في 2014-07-30 .
  50. ^ ab Moravec, Hans . "The Age of Robots", Extro 1, Proceedings of the First Extropy Institute Conference on TransHumanist Thought (1994) pp. 84–100. June 1993 version archived 2006-06-15 at the Wayback Machine available online.
  51. ^ "قواعد الروبوت الحديث". مجلة نيو ساينتست (2544): 27. 27 مارس 2006. مؤرشف من الأصل في 2024-09-25 . تم الاسترجاع في 2006-06-12 .
  52. ^ Sawyer, Robert J. (16 November 2007). "Guest Editorial: Robot Ethics". Science . 318 (5853): 1037. doi : 10.1126/science.1151606 . PMID  18006710. مؤرشف من الأصل في 2024-09-25 . تم الاسترجاع في 2010-10-10 .
  53. ^ Sawyer, Robert J. (1991). "حول قوانين أسيموف الثلاثة للروبوتات". مؤرشف من الأصل في 23 يونيو 2006. تم الاسترجاع في 12 يونيو 2006 .
  54. ^ في الأصل في خطاب بعنوان "حمولة من كرات البلور" محفوظ في 2024-09-25 على موقع Wayback Machine في مؤتمر Novacon SF في عام 1985؛ نُشر عام 1986 في مجلة المعجبين Prevert #15؛ تم جمعه في Platen Stories (1987) ونسخة الكتاب الإلكتروني لعام 2015 من The Silence of the Langford
  55. ^ كلارك، روجر. قوانين أسيموف للروبوتات: الآثار المترتبة على تكنولوجيا المعلومات . الجزء 1: IEEE Computer، ديسمبر 1993، ص53-61. مؤرشف من الأصل في 10 أبريل 2005 على موقع واي باك مشين. الجزء 2: IEEE Computer، يناير 1994، ص57-66. مؤرشف من الأصل في 11 مارس 2017 على موقع واي باك مشين . كلا الجزأين متاحان بدون رسوم على [1] مؤرشف من الأصل في 07 أكتوبر 2011 على موقع واي باك مشين . تحت عنوان "تحسينات على قواعد الأخلاق".
  56. ^ "العصر الروبوتي يفرض معضلة أخلاقية". بي بي سي نيوز . 2007-03-07. مؤرشف من الأصل في 2024-09-25 . تم الاسترجاع في 2007-03-07 .
  57. ^ برين، ديفيد (1999). انتصار المؤسسة. هاربر كولينز. ​​رقم ISBN 978-0-06-105241-5.
  58. ^ "هل تريد روبوتات مسؤولة؟ ابدأ بالبشر المسؤولين". Researchnews.osu.edu. مؤرشف من الأصل في 2016-02-15 . تم الاسترجاع في 2015-03-28 .
  59. ^ "مبادئ الروبوتات – موقع EPSRC". Epsrc.ac.uk. مؤرشف من الأصل في 2024-09-25 . تم الاسترجاع في 2022-11-17 .
  60. ^ آلان وينفيلد (2013-10-30). "مدونات آلان وينفيلد على الويب: الروبوتات الأخلاقية: بعض التحديات التقنية والأخلاقية". Alanwinfield.blogspot.co.uk. مؤرشف من الأصل في 2015-04-02 . تم الاسترجاع في 2015-03-28 .
  61. ^ أسيموف، إسحاق؛ ستانلي أسيموف (1995). تحياتي، إسحاق أسيموف: حياة في الرسائل. دار دوبلداي للنشر. رقم الكتاب المعياري الدولي 978-0-385-47622-5.
  62. ^ McGinnis, Rick (2022-07-16). "The More You Drive: Repo Man and Punk Cinema". SteynOnline . مؤرشف من الأصل في 2024-09-25 . تم الاسترجاع في 2024-02-05 .
  63. ^ إليسون، هارلان (1994). أنا، روبوت: السيناريو المصوَّر . الجانب. رقم ISBN 978-0-446-67062-3.
  64. ^ "Aliens (1986) – Memorable quotes". IMDb.com. مؤرشف من الأصل في 2024-09-25 . تم الاسترجاع 2015-03-28 .
  65. ^ "اقترحه" قصص الروبوتات لإسحاق أسيموف - بعد محطتين من "مستند إلى" و "مستوحى من"، يشير الفضل إلى شيء مكتوب بخط اليد على منديل بار - رواية الخيال العلمي المثيرة " أنا روبوت " لأليكس بروياس تنثر أفكار أسيموف مثل التوابل على دلو عملاق من الفشار. [...] قوانين الروبوتات البسيطة والتي تبدو مضمونة لأسيموف، والمصممة لحماية البشر والروبوتات على حد سواء من الأذى، تخضع لثغرات أحب المؤلف استغلالها. بعد كل شيء، يتفق جزء كبير من البشرية من حيث المبدأ على الالتزام بالوصايا العشر ، لكن الإرادة الحرة والظروف والدوافع المتناقضة يمكن أن تجد مجالًا للمناورة حتى في أكثر المراسيم وضوحًا. كلما توقفت "أنا روبوت" بين دقات الحركة، يلتقط بروياس بعض الإثارة في أفلام مثل The Matrix و Minority Report و AI ، والتي أثبتت جميعها أنه يمكن تهريب الفلسفة والتعليق الاجتماعي إلى المشهد. لو كان الفيلم مبنيًا على قصص أسيموف، وليس مجرد "اقتراح منها"، لكان بروياس قد حقق الثِقَل الفكري الذي افتقده فيلمه المفضل Dark City الذي صدر عام 1998. توبياس، سكوت (20 يوليو 2004). "مراجعة فيلم I, Robot". The Onion AV Club . مؤرشف من الأصل في 9 نوفمبر 2005. تم الاسترجاع في 12 يونيو 2006 .
  66. ^ Dowling, Stephen (4 August 2004). "أمير جديد في عالم الروبوتات". BBC News . مؤرشف من الأصل في 25 سبتمبر 2024 . تم الاسترجاع في 11 نوفمبر 2010 .
  67. ^ "أربعة أنواع من الروبوتات الأخلاقية". مؤرشف من الأصل في 2023-06-04 . تم الاسترجاع 2016-12-05 .
استمع إلى هذه المقالة ( 49 دقيقة )
أيقونة ويكيبيديا المنطوقة
تم إنشاء ملف الصوت هذا من نسخة معدلة لهذه المقالة بتاريخ 28 نوفمبر 2008 ، ولا يعكس التعديلات اللاحقة. (2008-11-28)
( مساعدة صوتية  · المزيد من المقالات المنطوقة )
  • "أسئلة متكررة حول إسحاق أسيموف"، AsimovOnline 27 سبتمبر 2004.
  • اعتبارات أخلاقية بشأن الروبوتات الشبيهة بالإنسان: لماذا قوانين أسيموف الثلاثة ليست كافية؟
  • العيش بأمان مع الروبوتات، ما وراء قوانين أسيموف، PhysOrg.com ، 22 يونيو 2009.
  • الذكاء الأمني ​​ولغة الآلة القانونية: هل نحتاج إلى القوانين الثلاثة للروبوتات؟، فيينا: آي تيك ، أغسطس 2008.
Retrieved from "https://en.wikipedia.org/w/index.php?title=Three_Laws_of_Robotics&oldid=1268938119"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate