تحيز الأتمتة

📅 آخر تحديث: ٢٧ يوليو ٢٠٢٦
✍️ نُشر في: ٢٧ يوليو ٢٠٢٦
الموسوعة الحرة

يُعرف انحياز الأتمتة بأنه ميل البشر إلى تفضيل اقتراحات أنظمة اتخاذ القرار الآلية وتجاهل المعلومات المتناقضة الصادرة دون أتمتة، حتى وإن كانت صحيحة. [ 1 ] ينبع انحياز الأتمتة من أدبيات علم النفس الاجتماعي التي وجدت انحيازًا في التفاعل بين البشر، حيث أظهر الناس أنهم يمنحون تقييمات إيجابية أكثر للقرارات التي يتخذها البشر مقارنةً بالقرارات المحايدة. [ 2 ] وقد وُجد النوع نفسه من انحياز الإيجابية في التفاعل بين الإنسان والأتمتة، [ 3 ] حيث تُقيّم القرارات الآلية بشكل إيجابي أكثر من القرارات المحايدة. [ 4 ]

أصبح هذا النوع من التحيز مشكلة متنامية في عملية صنع القرار، حيث تزايد اعتماد وحدات العناية المركزة ومحطات الطاقة النووية وقمرات قيادة الطائرات على أنظمة المراقبة الحاسوبية وأدوات دعم القرار، وذلك للحد من احتمالية الخطأ البشري. وتحدث أخطاء التحيز الناتج عن الأتمتة عادةً عندما يعتمد صنع القرار على الحواسيب أو غيرها من الأدوات الآلية، بينما يقتصر دور الإنسان على المراقبة مع قدرته على اتخاذ القرارات. وتتراوح أمثلة التحيز الناتج عن الأتمتة بين أمور عاجلة كقيادة الطائرة باستخدام الطيار الآلي، وأمور روتينية كاستخدام برامج التدقيق الإملائي . [ 5 ]

عدم الاستخدام وسوء الاستخدام

يمكن أن تؤدي ثقة المشغل في النظام أيضًا إلى تفاعلات مختلفة مع النظام، بما في ذلك استخدام النظام، وإساءة استخدامه، وعدم استخدامه، وإساءة استخدامه. [ 6 ]

يُعرف الميل نحو الاعتماد المفرط على المساعدات الآلية بـ"إساءة استخدام الأتمتة". [ 6 ] [ 7 ] تظهر إساءة استخدام الأتمتة عندما يُهمل المستخدم مراقبة النظام الآلي بشكل صحيح، أو عندما يُستخدم النظام الآلي في غير موضعه. وهذا يختلف عن عدم الاستخدام، حيث لا يُحسن المستخدم استخدام الأتمتة إما بإيقافها أو تجاهلها. قد تُشكل كلتا الحالتين مشكلة، لكن التحيز نحو الأتمتة يرتبط ارتباطًا مباشرًا بإساءة استخدامها، إما من خلال الثقة المفرطة في قدرات النظام، أو اللجوء إلى استخدام أساليب استدلالية. قد تؤدي إساءة الاستخدام إلى عدم مراقبة النظام الآلي أو الموافقة العمياء على اقتراح منه، ويُصنف ذلك إلى نوعين من الأخطاء: أخطاء الإغفال وأخطاء الارتكاب. [ 8 ] [ 9 ] [ 6 ]

يمكن أن يؤثر استخدام الأتمتة وعدم استخدامها أيضًا على مراحل معالجة المعلومات: الحصول على المعلومات، وتحليل المعلومات، واتخاذ القرارات واختيار الإجراءات ، وتنفيذ الإجراءات. [ 10 ]

على سبيل المثال، يُعدّ اكتساب المعلومات، الخطوة الأولى في معالجة المعلومات، العملية التي يسجل بها المستخدم المدخلات عبر الحواس. [ 10 ] قد يساعد مقياس المحرك الآلي المستخدم في اكتساب المعلومات من خلال ميزات واجهة بسيطة، مثل إبراز التغييرات في أداء المحرك، وبالتالي توجيه انتباه المستخدم بشكل انتقائي. عند مواجهة مشكلات منشؤها الطائرة، قد يميل الطيارون إلى الإفراط في الثقة بمقاييس محرك الطائرة، متجاهلين الأعطال المحتملة الأخرى غير المتعلقة بالمحرك. يُعدّ هذا السلوك شكلاً من أشكال التهاون في استخدام الأتمتة وسوء استخدامها. مع ذلك، إذا خصص الطيار وقتًا لتفسير مقياس المحرك، وتحكم في الطائرة وفقًا لذلك، ليكتشف أن اضطراب الطيران لم يتغير، فقد يميل إلى تجاهل توصيات الأخطاء المستقبلية التي ينقلها مقياس المحرك، وهو شكل آخر من أشكال التهاون في استخدام الأتمتة يؤدي إلى عدم استخدامها.

أخطاء الإقدام والإغفال

قد يتخذ التحيز الناتج عن الأتمتة شكل أخطاء الإقدام، والتي تحدث عندما يتبع المستخدمون توجيهًا آليًا دون مراعاة مصادر المعلومات الأخرى. في المقابل، تحدث أخطاء الإغفال عندما تفشل الأجهزة الآلية في اكتشاف المشكلات أو الإشارة إليها، ولا يلاحظها المستخدم لأنه لا يراقب النظام بشكل صحيح. [ 11 ]

أظهرت الدراسات أن أخطاء الإغفال تنتج عن تراجع اليقظة الإدراكية، بينما تنتج أخطاء الفعل عن مزيج من عدم مراعاة المعلومات والثقة المفرطة في موثوقية المساعدات الآلية. [ 5 ] تحدث أخطاء الفعل لثلاثة أسباب: (1) تحويل الانتباه بشكل واضح بعيدًا عن المساعدة الآلية؛ (2) انخفاض الانتباه إلى المساعدة؛ (3) تجاهل المعلومات التي تتعارض مع توصيات المساعدة. [ 12 ] تحدث أخطاء الإغفال عندما يفشل متخذ القرار البشري في ملاحظة خلل في النظام الآلي، إما بسبب ضعف اليقظة أو الثقة المفرطة فيه. [ 5 ] على سبيل المثال، يُعدّ قيام برنامج التدقيق الإملائي بتحديد كلمة ما على أنها خاطئة واقتراح بديل لها خطأ فعل، بينما يُعدّ عدم ملاحظة البرنامج لكلمة خاطئة خطأ إغفال. في هذه الحالات، يمكن ملاحظة تحيز الأتمتة من خلال قبول المستخدم للكلمة البديلة دون الرجوع إلى القاموس، أو عدم ملاحظة المستخدم للكلمة المكتوبة بشكل خاطئ وافتراض أن جميع الكلمات صحيحة دون مراجعة الكلمات.

لقد ثبت أن التدريب الذي يركز على الحد من التحيز الناتج عن الأتمتة والمشاكل ذات الصلة يقلل من معدل أخطاء الإقدام، ولكن ليس أخطاء الإغفال. [ 5 ]

عوامل

إن وجود المساعدات الآلية، كما ورد في أحد المصادر، "يقلل من احتمالية أن يبذل صناع القرار الجهد المعرفي اللازم للبحث عن معلومات تشخيصية أخرى أو معالجة جميع المعلومات المتاحة بطرق معقدة معرفيًا". كما أنه يجعل المستخدمين أكثر عرضة للاستعجال في استنتاج تقييمهم للموقف بعد أن يحثهم المساعد الآلي على اتخاذ إجراء محدد. [ 7 ]

بحسب أحد المصادر، ثمة ثلاثة عوامل رئيسية تؤدي إلى التحيز نحو الأتمتة. أولًا، ميل الإنسان إلى اختيار أقل الأساليب المعرفية تعقيدًا في اتخاذ القرارات، وهي ظاهرة تُعرف بفرضية البخل المعرفي . ثانيًا، ميل الإنسان إلى اعتبار المساعدات الآلية ذات قدرة تحليلية تفوق قدرته. ثالثًا، ميل الإنسان إلى تقليل جهده عند مشاركة المهام، سواء مع شخص آخر أو مع مساعد آلي. [ 12 ]

تشمل العوامل الأخرى التي تؤدي إلى الاعتماد المفرط على الأتمتة، وبالتالي إلى التحيز نحوها، قلة الخبرة في المهمة (مع أن المستخدمين عديمي الخبرة هم الأكثر استفادة من أنظمة دعم القرار الآلية)، وانعدام الثقة في القدرات الشخصية، ونقص المعلومات البديلة المتاحة بسهولة، أو الرغبة في توفير الوقت والجهد في المهام المعقدة أو ذات أعباء العمل الكبيرة. [ 13 ] [ 14 ] [ 15 ] [ 8 ] وقد تبين أن الأشخاص الذين يتمتعون بثقة أكبر في قدراتهم على اتخاذ القرارات يميلون إلى أن يكونوا أقل اعتمادًا على الدعم الآلي الخارجي، بينما كان أولئك الذين يثقون أكثر في أنظمة دعم القرار أكثر اعتمادًا عليها. [ 13 ]

تصميم الشاشة

وجدت إحدى الدراسات، المنشورة في مجلة الجمعية الأمريكية للمعلوماتية الطبية ، أن موضع النصائح وبروزها على الشاشة قد يؤثر على احتمالية التحيز نحو الأتمتة، حيث يُرجح اتباع النصائح المعروضة بشكل بارز، سواء كانت صحيحة أم لا. مع ذلك، بدت دراسة أخرى وكأنها تُقلل من أهمية هذا العامل. [ 13 ] ووفقًا لدراسة أخرى، فإن زيادة التفاصيل المعروضة على الشاشة قد تجعل المستخدمين أقل "تحفظًا"، وبالتالي تزيد من احتمالية التحيز نحو الأتمتة. [ 13 ] وأظهرت إحدى الدراسات أن تحميل الأفراد مسؤولية أدائهم أو دقة قراراتهم يقلل من التحيز نحو الأتمتة. [ 5 ]

التوافر

"إن توفر أدوات المساعدة الآلية في اتخاذ القرار،" كما جاء في إحدى الدراسات التي أجرتها ليندا سكيتكا ، "يمكن أن يساهم أحيانًا في الميل البشري العام إلى سلوك طريق أقل جهد معرفي." [ 5 ]

الوعي بالعملية

كما وجدت إحدى الدراسات أنه عندما يتم إطلاع المستخدمين على عملية التفكير التي يستخدمها نظام دعم القرار، فمن المرجح أن يقوموا بتعديل اعتمادهم وفقًا لذلك، مما يقلل من التحيز الناتج عن الأتمتة. [ 13 ]

الفريق مقابل الفرد

إن أداء المهام بواسطة فرق عمل بدلاً من الأفراد الذين يعملون بمفردهم لا يزيل بالضرورة التحيز الناتج عن الأتمتة. [ 16 ] [ 11 ] وقد أظهرت إحدى الدراسات أنه عندما فشلت الأجهزة الآلية في اكتشاف أعطال النظام، لم تكن فرق العمل أكثر نجاحًا من الأفراد الذين يعملون بمفردهم في الاستجابة لتلك الأعطال. [ 5 ]

تمرين

لقد نجح التدريب الذي يركز على التحيز نحو الأتمتة في مجال الطيران في تقليل أخطاء الإغفال لدى الطيارين المتدربين. [ 16 ] [ 11 ]

فشل الأتمتة و"الإهمال المكتسب"

لقد ثبت أن فشل الأتمتة يتبعه انخفاض في ثقة المشغل، والذي بدوره يتبعه تعافٍ بطيء للثقة. وقد وُصف انخفاض الثقة بعد فشل الأتمتة الأولي بأنه تأثير الفشل الأول. [ 12 ] وبالمثل، إذا أثبتت المساعدات الآلية موثوقيتها العالية بمرور الوقت، فمن المرجح أن تكون النتيجة زيادة في مستوى التحيز نحو الأتمتة. وهذا ما يُسمى "الإهمال المكتسب". [ 12 ]

توفير معلومات موثوقية النظام

في الحالات التي يتم فيها تزويد المستخدمين بمعلومات حول موثوقية النظام، يمكن أن تصبح تلك المعلومات نفسها عاملاً في التحيز الآلي. [ 12 ]

الضغوط الخارجية

أظهرت الدراسات أنه كلما زادت الضغوط الخارجية التي تُمارس على القدرة المعرفية للفرد، زاد اعتماده على الدعم الخارجي. [ 13 ]

مشاكل تعريفية

على الرغم من أن التحيز الناتج عن الأتمتة كان موضوعًا للعديد من الدراسات، إلا أنه لا تزال هناك شكاوى من أن تعريف هذا التحيز غير واضح وأن الإبلاغ عن الحوادث المتعلقة به غير منهجي. [ 13 ] [ 8 ]

صنّفت مراجعةٌ لدراساتٍ مختلفةٍ حول تحيّز الأتمتة أنواعَ المهامّ المختلفة التي استُخدمت فيها المساعدات الآلية، بالإضافة إلى الوظيفة التي تؤدّيها هذه المساعدات. وصُنّفت المهامّ التي استُخدمت فيها المساعدات الآلية إلى مهامّ مراقبة، ومهامّ تشخيص، ومهامّ علاج. وذُكرت أنواع المساعدة الآلية على النحو التالي: أتمتة التنبيه، التي تتتبّع التغييرات المهمة وتنبّه المستخدم؛ وأتمتة دعم القرار، التي قد تقدّم تشخيصًا أو توصية؛ وأتمتة التنفيذ، حيث تؤدّي المساعدة الآلية مهمةً محدّدة. [ 8 ]

الرضا عن النفس الناتج عن الأتمتة

يُنظر إلى مفهوم التحيز الآلي على أنه متداخل مع الرضا الذاتي الناجم عن الأتمتة، والمعروف أيضًا ببساطة باسم الرضا الذاتي الآلي. ومثل التحيز الآلي، يُعدّ الرضا الذاتي الآلي نتيجة لسوء استخدام الأتمتة، وينطوي على مشاكل في الانتباه. فبينما ينطوي التحيز الآلي على ميل إلى الثقة بأنظمة دعم القرار، ينطوي الرضا الذاتي الآلي على عدم كفاية الانتباه إلى مخرجات الأتمتة ومراقبتها، عادةً لأن هذه المخرجات تُعتبر موثوقة. [ 13 ] يكتب أحد الخبراء: "على الرغم من مناقشة مفهومي الرضا الذاتي والتحيز الآلي بشكل منفصل كما لو كانا مستقلين، إلا أنهما يشتركان في العديد من أوجه التشابه، مما يشير إلى أنهما يعكسان جوانب مختلفة من نفس نوع سوء استخدام الأتمتة". وقد اقتُرح بالفعل دمج مفهومي الرضا الذاتي والتحيز الآلي في "مفهوم تكاملي" واحد، لأن هذين المفهومين "قد يمثلان مظاهر مختلفة لظواهر متداخلة ناجمة عن الأتمتة"، ولأن "الرضا الذاتي الناجم عن الأتمتة والتحيز الآلي يمثلان مفهومين نظريين مترابطين بشكل وثيق، ويُظهران تداخلًا كبيرًا فيما يتعلق بالعمليات الأساسية". [ 12 ]

يُعرَّف الرضا عن الأداء في الأنظمة الآلية بأنه "ضعف اكتشاف أعطال النظام في ظل التشغيل الآلي مقارنةً بالتحكم اليدوي". ويُعرّف نظام الإبلاغ عن سلامة الطيران التابع لوكالة ناسا (ASRS) الرضا عن الأداء بأنه "رضا ذاتي قد يؤدي إلى عدم اليقظة بناءً على افتراض غير مُبرَّر لحالة النظام المرضية". وقد أشارت العديد من الدراسات إلى أن هذا الرضا يحدث غالبًا عندما يُشارك المشغلون في مهام يدوية وآلية في الوقت نفسه. وبدورها، يُمكن أن تؤثر تصورات المشغلين لموثوقية النظام الآلي على طريقة تفاعلهم معه. ويصف إندزلي (2017) كيف يُمكن أن تؤدي الموثوقية العالية للنظام إلى انفصال المستخدمين عن أنظمة المراقبة، مما يزيد من أخطاء المراقبة، ويُقلل من الوعي الظرفي، ويُعيق قدرة المشغل على استعادة السيطرة على النظام في حال تجاوز حدود الأداء. [ 17 ] يُمكن الحد من هذا الرضا عن الأداء بشكل كبير عندما تتغير موثوقية التشغيل الآلي بمرور الوقت بدلًا من أن تظل ثابتة، ولكنه لا يتأثر بالخبرة والممارسة. قد يُظهر كل من المشاركين الخبراء وغير الخبراء تحيزًا تجاه الأتمتة، بالإضافة إلى الرضا عن الأداء في ظل الأتمتة. ولا يمكن التغلب على أي من هاتين المشكلتين بسهولة من خلال التدريب. [ 12 ]

استُخدم مصطلح "التهاون في الأتمتة" لأول مرة في سياق حوادث الطيران أو الحوادث التي لم يقم فيها الطيارون أو مراقبو الحركة الجوية أو غيرهم من العاملين بفحص الأنظمة بشكل كافٍ، ظنًا منهم أن كل شيء على ما يرام بينما كان الحادث على وشك الوقوع. لطالما اعتُبر تهاون المشغلين، سواء كان مرتبطًا بالأتمتة أم لا، عاملًا رئيسيًا في حوادث الطيران. [ 12 ]

وبناءً على ذلك، فإن تصورات الموثوقية، بشكل عام، قد تؤدي إلى نوع من مفارقة الأتمتة ، حيث يمكن أن يؤدي ازدياد الأتمتة إلى تقليل العبء المعرفي، ولكنه يزيد من احتمالية حدوث أخطاء في المراقبة. في المقابل، يمكن أن يؤدي انخفاض مستوى الأتمتة إلى زيادة العبء المعرفي، ولكنه يقلل من احتمالية حدوث أخطاء في المراقبة. [ 18 ] لنأخذ على سبيل المثال طيارًا يحلق في طقس عاصف، حيث يعيق الرعد المستمر قدرته على فهم المعلومات التي يبثها مراقب الحركة الجوية. على الرغم من الجهد المبذول لفهم هذه المعلومات، فإن أداء الطيار محدود بمصدر المعلومات اللازمة لإنجاز المهمة. لذلك، يضطر الطيار إلى الاعتماد على أجهزة القياس الآلية في قمرة القيادة لفهم معلومات مسار الرحلة. إذا اعتبر الطيار أن أجهزة القياس الآلية موثوقة للغاية، فقد يقل الجهد المطلوب لفهم كل من مراقب الحركة الجوية وأجهزة القياس الآلية. علاوة على ذلك، إذا اعتبر الطيار أن أجهزة القياس الآلية موثوقة للغاية، فقد يتجاهلها لتكريس موارده الذهنية لفك شفرة المعلومات التي يبثها مراقب الحركة الجوية. بذلك، يصبح الطيار مجرد مراقب متهاون، مما يعرضه لخطر تفويت معلومات حيوية تنقلها أجهزة القياس الآلية. أما إذا رأى الطيار أن هذه الأجهزة غير موثوقة، فسيتعين عليه تفسير المعلومات الواردة من مراقبة الحركة الجوية وأجهزة القياس الآلية في آنٍ واحد. وهذا يخلق سيناريوهات قد يستنزف فيها المشغل موارده المعرفية بلا داعٍ، حتى وإن كانت الأتمتة موثوقة، ولكنه يزيد أيضًا من احتمالية اكتشاف أخطاء محتملة في أجهزة قياس الطقس في حال حدوثها. ولضبط إدراك الطيار للموثوقية، ينبغي تصميم الأتمتة بحيث تحافظ على عبء العمل عند مستويات مناسبة، مع ضمان استمرار المشغل في أداء مهام المراقبة. وينبغي أن يكون المشغل أقل عرضةً للتوقف عن المراقبة عندما تتغير موثوقية النظام، مقارنةً بنظام يتمتع بموثوقية ثابتة (باراسورامان، 1993). [ 19 ]

إلى حد ما، يُقلل رضا المستخدمين من فوائد الأتمتة، وعندما ينخفض ​​مستوى موثوقية النظام المؤتمت عن حد معين، تفقد الأتمتة جدواها. أشارت دراسة أجريت عام 2007 إلى أن هذه الأتمتة تحدث عندما يصل مستوى الموثوقية إلى حوالي 70%. ووجدت دراسات أخرى أن الأتمتة ذات مستوى موثوقية أقل من 70% قد تكون مفيدة للأشخاص الذين لديهم إمكانية الوصول إلى مصادر المعلومات الأولية، والتي يمكن دمجها مع مخرجات الأتمتة لتحسين الأداء. [ 12 ]

يُعد الموت بسبب نظام تحديد المواقع العالمي (GPS) ، حيث يكون سبب وفيات الأفراد جزئياً هو اتباع توجيهات غير دقيقة لنظام تحديد المواقع العالمي، مثالاً آخر على الرضا عن الأتمتة.

القطاعات

تم فحص التحيز الناتج عن الأتمتة في العديد من المجالات البحثية. [ 13 ] ويمكن أن يكون مصدر قلق بالغ في مجالات الطيران والطب والتحكم في العمليات وعمليات القيادة والسيطرة العسكرية . [ 12 ]

الطيران

في البداية، انصبّ النقاش حول التحيز نحو الأتمتة بشكل كبير على قطاع الطيران. وقد ازداد دور المساعدات الآلية في قمرات القيادة، حيث باتت تضطلع بدور متزايد في التحكم بمهام الطيران، مثل تحديد المسارات الأكثر كفاءة في استهلاك الوقود، والملاحة، واكتشاف أعطال الأنظمة وتشخيصها. إلا أن استخدام هذه المساعدات قد يؤدي إلى تراجع انتباه الإنسان وقلة يقظته في البحث عن المعلومات ومعالجتها. وفي بعض الحالات، قد يثق الإنسان بالمعلومات المضللة التي توفرها حواسيب الطيران أكثر من ثقته بمهاراته. [ 7 ]

يُعدّ مدى شعور الطيارين بمسؤوليتهم عن المهام التي تُنفذها أنظمة المساعدة الآلية عاملاً مهماً في التحيز نحو الأتمتة في مجال الطيران. وقد أظهرت إحدى الدراسات التي أُجريت على الطيارين أن وجود عضو ثانٍ في طاقم قمرة القيادة لم يؤثر على هذا التحيز. وقارنت دراسة أُجريت عام ١٩٩٤ تأثير مستويات الأتمتة المنخفضة والعالية على أداء الطيارين، وخلصت إلى أن الطيارين الذين يعملون بمستوى عالٍ من الأتمتة يقضون وقتاً أقل في التفكير بشكل مستقل في قرارات الطيران. [ ١٢ ]

في دراسة أخرى، استجاب جميع الطيارين الذين تلقوا تنبيهات آلية خاطئة تأمرهم بإيقاف تشغيل أحد المحركات، على الرغم من إصرارهم في مقابلة على أنهم لن يستجيبوا لمثل هذا التنبيه بإيقاف تشغيل المحرك، بل سيخفضون الطاقة إلى وضع الخمول. ووجدت دراسة أجريت عام ١٩٩٨ أن الطيارين ذوي الخبرة في الطيران التي تبلغ حوالي ٤٤٠ ساعة رصدوا أعطالًا في أنظمة التشغيل الآلي أكثر من غير الطيارين، مع أن كلا المجموعتين أظهرتا آثارًا للتراخي. وأظهرت دراسة أجريت عام ٢٠٠١ على طيارين يستخدمون نظامًا آليًا لقمرة القيادة، وهو نظام مؤشرات المحرك وتنبيه الطاقم (EICAS)، أدلة على التراخي. فقد رصد الطيارون أعطالًا أقل في المحرك عند استخدام النظام مقارنةً بأداء المهمة يدويًا. [ ١٢ ]

في دراسة أجريت عام ٢٠٠٥، استخدم مراقبو الحركة الجوية ذوو الخبرة محاكاة عالية الدقة لسيناريو مراقبة الحركة الجوية (الطيران الحر) الذي تضمن رصد حالات التعارض بين الطائرات "ذاتية الانفصال". وكان لديهم جهاز آلي يحدد حالات التعارض المحتملة قبل حدوثها بعدة دقائق. وعندما تعطل الجهاز قرب نهاية عملية المحاكاة، رصد عدد أقل بكثير من المراقبين حالة التعارض مقارنةً بالحالة التي تم فيها التعامل مع الموقف يدويًا. وقد توصلت دراسات أخرى إلى نتائج مماثلة. [ ١٢ ]

كشفت دراستان حول تحيز الأتمتة في مجال الطيران عن ارتفاع معدل أخطاء الإضافة مقارنةً بأخطاء الإغفال، بينما وجدت دراسة أخرى في مجال الطيران أن معدلات أخطاء الإغفال بلغت 55%، بينما لم تُسجّل أي أخطاء إضافة. [ 13 ] وتُعدّ أخطاء الإغفال المرتبطة بالأتمتة شائعةً بشكل خاص خلال مرحلة التحليق. فعندما فقدت طائرة تابعة للخطوط الجوية الصينية الطاقة في أحد محركاتها، حاول الطيار الآلي تصحيح هذا العطل عن طريق خفض الجناح الأيسر، وهو إجراء أخفى المشكلة عن الطاقم. وعندما تم فصل الطيار الآلي، مالت الطائرة إلى اليمين وهبطت بشدة، مما تسبب في أضرار جسيمة. أما حادثة إسقاط طائرة بوينغ 747 تابعة للخطوط الجوية الكورية فوق المجال الجوي السوفيتي عام 1983 ، فقد وقعت لأن الطاقم الكوري "اعتمد على نظام أتمتة تم إعداده بشكل غير صحيح، ولم يتحققوا من تقدمهم يدويًا". [ 7 ]

الرعاية الصحية

صُممت أنظمة دعم القرار السريري (CDSS) للمساعدة في اتخاذ القرارات السريرية. ولديها القدرة على إحداث تحسين كبير في هذا الصدد، وبالتالي تحسين نتائج المرضى. ومع ذلك، فبينما تُحسّن أنظمة دعم القرار السريري، عند استخدامها بشكل صحيح، الأداء العام، إلا أنها قد تتسبب أيضًا في أخطاء قد لا يتم اكتشافها بسبب تحيز الأتمتة. ومن المخاطر أن النصائح غير الصحيحة التي تقدمها هذه الأنظمة قد تدفع المستخدمين إلى تغيير قرار صحيح اتخذوه بأنفسهم. ونظرًا لخطورة بعض العواقب المحتملة لتحيز الأتمتة في مجال الرعاية الصحية، فمن الأهمية بمكان إدراك هذه المشكلة عند حدوثها في البيئات السريرية. [ 13 ]

أحيانًا يُمثل التحيز الناتج عن الأتمتة في البيئات السريرية مشكلةً رئيسيةً تجعل أنظمة دعم القرار السريري، في المحصلة، غير مُجدية؛ وأحيانًا أخرى يكون مشكلةً طفيفةً، حيث تفوق فوائدها أضرارها. وجدت إحدى الدراسات تحيزًا أكبر نحو الأتمتة بين المستخدمين الأكبر سنًا، ولكن لوحظ أن ذلك قد لا يكون نتيجةً للسن بل للخبرة. تشير الدراسات، في الواقع، إلى أن الإلمام بأنظمة دعم القرار السريري غالبًا ما يؤدي إلى التعود عليها. على الرغم من أن التحيز الناتج عن الأتمتة يحدث بشكل أكثر شيوعًا بين الأشخاص غير المتمرسين في مهمة معينة، إلا أن المستخدمين غير المتمرسين يُظهرون أكبر تحسن في الأداء عند استخدامهم لأنظمة دعم القرار السريري. في إحدى الدراسات، حسّن استخدام أنظمة دعم القرار السريري إجابات الأطباء بنسبة 21%، من 29% إلى 50%، مع تغيير 7% من الإجابات الصحيحة غير المُستخدَمة في أنظمة دعم القرار السريري بشكل خاطئ. [ 13 ]

وجدت دراسة أجريت عام 2005 أنه عندما استخدم أطباء الرعاية الأولية مصادر إلكترونية مثل PubMed و Medline و Google ، كانت هناك زيادة "طفيفة إلى متوسطة" في الإجابات الصحيحة، بينما في نسبة ضئيلة مماثلة من الحالات، ضُلِّل الأطباء بسبب استخدامهم لتلك المصادر، وقاموا بتغيير الإجابات الصحيحة إلى إجابات خاطئة. [ 12 ]

أظهرت دراسات أجريت عامي 2004 و2008 حول تأثير الوسائل الآلية على تشخيص سرطان الثدي أدلة واضحة على تحيز هذه الوسائل، بما في ذلك أخطاء الإغفال. فقد تم تشخيص 46% من حالات السرطان التي لم تستخدم الوسائل الآلية، بينما لم يتم اكتشافها إلا في 21% فقط من الحالات التي استخدمت فيها هذه الوسائل، والتي فشلت في تحديد السرطان. [ 12 ]

جيش

قد يكون التحيز الناتج عن الأتمتة عاملاً حاسماً في استخدام أنظمة دعم القرار الذكية في عمليات القيادة والسيطرة العسكرية. وقد وجدت دراسة أجريت عام 2004 أن تأثيرات التحيز الناتج عن الأتمتة ساهمت في عدد من القرارات العسكرية الكارثية، بما في ذلك عمليات القتل بنيران صديقة خلال حرب العراق . وقد سعى الباحثون إلى تحديد المستوى الأمثل للأتمتة في أنظمة دعم القرار في هذا المجال. [ 12 ]

السيارات

يُعدّ التراخي في استخدام أنظمة القيادة الآلية تحديًا آخر، حيث يقتصر دور الإنسان على مراقبة النظام أو القيام بدور السائق الاحتياطي. وقد نوقش هذا الأمر، على سبيل المثال، في تقرير المجلس الوطني لسلامة النقل حول الحادث المميت بين مركبة اختبار تابعة لشركة أوبر والمشاة إيلين هيرزبيرغ . [ 20 ]

تصحيح

يمكن التخفيف من تحيز الأتمتة عن طريق إعادة تصميم الأنظمة الآلية لتقليل بروز الشاشة، وتبسيط المعلومات، أو تقديم المساعدة كمعلومات داعمة وليست توجيهية. [ 13 ] يُعد تدريب المستخدمين على الأنظمة الآلية التي تُدخل أخطاءً مقصودة أكثر فعالية في الحد من تحيز الأتمتة من مجرد إخبارهم بإمكانية حدوث أخطاء. [ 21 ] قد يؤدي الإفراط في فحص المساعدة الآلية واستجوابها إلى زيادة ضغط الوقت وتعقيد المهمة، مما يقلل من الفائدة، لذا توازن بعض أنظمة دعم القرار الآلية بين الآثار الإيجابية والسلبية بدلاً من محاولة القضاء على الآثار السلبية. [ 14 ]

انظر أيضاً

مراجع

  1. ↑ كامينغز، ماري (2004). "انحياز الأتمتة في أنظمة دعم القرار الذكية الحساسة للوقت" (ملف PDF) . المؤتمر التقني الأول لأنظمة الذكاء الاصطناعي التابع لـ AIAA (ملف PDF) . doi : 10.2514/6.2004-6313 . ISBN 978-1-62410-080-2. S2CID 10328335 . مؤرشف من الأصل بتاريخ 2014-11-01. {{cite book}}: CS1 maint: bot: حالة عنوان URL الأصلي غير معروفة ( رابط )
  2. ↑ برونر، جيه إس، وتاجيوري، آر. 1954. "إدراك الناس". في جي. ليندزي (محرر)، دليل علم النفس الاجتماعي (المجلد 2) : 634-654. ريدينغ، ماساتشوستس: أديسون-ويسلي.
  3. ↑ مادهافان، ب.؛ ويغمان، د.أ. (1 يوليو/تموز 2007). "أوجه التشابه والاختلاف بين الثقة بين البشر والثقة بين الإنسان والآلة: مراجعة تكاملية". قضايا نظرية في علم بيئة العمل . 8 (4): 277-301 . doi : 10.1080/14639220500337708 . S2CID 39064140 . 
  4. ↑ دزيندوليت، ماري ت.؛ بيترسون، سكوت أ.؛ بومرانكي، ريجينا أ.؛ بيرس، ليندا ج.؛ بيك، هول ب. (2003). "دور الثقة في الاعتماد على الأتمتة". المجلة الدولية لدراسات التفاعل بين الإنسان والحاسوب . 58 (6): 697-718 . doi : 10.1016/S1071-5819(03)00038-7 .
  5. 1 2 3 4 5 6 7 سكيتكا، ليندا. "الأتمتة" . جامعة إلينوي . جامعة إلينوي في شيكاغو . تم الاطلاع عليه بتاريخ 16 يناير 2017 .
  6. 1 2 3 باراسورامان، راجا؛ رايلي، فيكتور (1997). "البشر والأتمتة: الاستخدام، وسوء الاستخدام، وعدم الاستخدام، والإساءة". العوامل البشرية: مجلة جمعية العوامل البشرية وبيئة العمل . 39 (2): 230-253 . doi : 10.1518/001872097778543886 . S2CID 41149078 . 
  7. 1 2 3 4 موسيير، كاثلين؛ سكيتكا، ليندا؛ هيرز، سوزان؛ بورديك، مارك (1997). "انحياز الأتمتة: اتخاذ القرار والأداء في قمرات القيادة عالية التقنية" . المجلة الدولية لعلم نفس الطيران . 8 (1): 47-63 . doi : 10.1207/s15327108ijap0801_3 . PMID 11540946 . 
  8. 1 2 3 4 لييل، ديفيد؛ كويرا، إنريكو (أغسطس 2016). "تحيز الأتمتة وتعقيد التحقق: مراجعة منهجية" . مجلة الجمعية الأمريكية للمعلوماتية الطبية . 24 (2): 424-431 . doi : 10.1093/jamia/ocw105 . PMC 7651899. PMID 27516495 .  
  9. ↑ تفيرسكي، أ.؛ كانيمان، د . (1974). "الحكم في ظل عدم اليقين: الاستدلالات والتحيزات". مجلة ساينس . 185 (4157): 1124-1131 . Bibcode : 1974Sci...185.1124T . doi : 10.1126/science.185.4157.1124 . PMID 17835457. S2CID 143452957 .  
  10. 1 2 ويكنز، كريستوفر د.؛ هولاندز، جاستن ج.؛ بانبري، سيمون؛ باراسورامان، راجا (2015). علم النفس الهندسي والأداء البشري (الطبعة الرابعة ). دار النشر لعلم النفس. الصفحات 335-338 . ISBN   9781317351320.
  11. 1 2 3 موسيير، كاثلين ل.؛ دنبار، ميليسا؛ ماكدونيل، لوري؛ سكيتكا، ليندا ج.؛ بورديك، مارك؛ روزنبلات، بوني (1998). "انحياز الأتمتة والأخطاء: هل الفرق أفضل من الأفراد؟". وقائع الاجتماع السنوي لجمعية العوامل البشرية وبيئة العمل . 42 (3): 201-205 . doi : 10.1177/154193129804200304 . S2CID 62603631 . 
  12. ١ ٢ ٣ ٤ ٥ ٦ ٧ ٨ ٩ ١٠ ١١ ١٢ ١٣ ١٤ ١٥ ١٦ باراسورامان، راجا؛ مانزي، ديتريش (يونيو ٢٠١٠). " الرضا عن النفس والتحيز في استخدام الإنسان للأتمتة: تكامل الانتباه" . مجلة جمعية العوامل البشرية وبيئة العمل . ٥٢ (٣): ٣٨١-٤١٠ . doi : 10.1177/0018720810376055 . PMID 21077562. S2CID 2279803. تاريخ الاسترجاع: ١٧ يناير ٢٠١٧ .  
  13. 1 2 3 4 5 6 7 8 9 10 11 12 13 غودارد، ك .؛ رودساري، أ.؛ وايت، ج. س. (2012). " انحياز الأتمتة: مراجعة منهجية للتكرار، ووسائط التأثير، وعوامل التخفيف" . مجلة الجمعية الأمريكية للمعلوماتية الطبية . 19 (1): 121-127 . doi : 10.1136/amiajnl-2011-000089 . PMC 3240751. PMID 21685142 .  
  14. 1 2 ألبردي، يوجينيو؛ ستريجيني، لورينزو؛ بوفياكالو، أندريه أ.؛ أيتون، بيتر (2009). "لماذا تكون قرارات الناس أسوأ أحيانًا مع دعم الحاسوب؟" (ملف PDF) . سلامة الحاسوب، وموثوقيته، وأمنه . سلسلة محاضرات في علوم الحاسوب. المجلد 5775. سبرينغر برلين هايدلبرغ. الصفحات 18-31 . doi : 10.1007/978-3-642-04468-7_3 . ISBN   978-3-642-04467-0.
  15. ↑ غودارد، كيت؛ رودساري، عبدول؛ وايت، جيريمي سي. (2014). "انحياز الأتمتة: نتائج تجريبية لتقييم العوامل المؤثرة". المجلة الدولية للمعلوماتية الطبية . 83 (5): 368-375 . doi : 10.1016/j.ijmedinf.2014.01.001 . PMID 24581700 . 
  16. 1 2 موسيير، كاثلين؛ سكيتكا، ليندا؛ دنبار، ميليسا؛ ماكدونيل، لوري (13 نوفمبر 2009). "أطقم الطائرات والتحيز الآلي: مزايا العمل الجماعي؟". المجلة الدولية لعلم نفس الطيران . 11 (1): 1-14 . doi : 10.1207/S15327108IJAP1101_1 . S2CID 4132245 . 
  17. ↑ إندزلي، ميكا (2017). "من هنا إلى الاستقلالية : دروس مستفادة من أبحاث التفاعل بين الإنسان والآلة" . العوامل البشرية . 59 (1): 5-27 . doi : 10.1177/0018720816681350 . PMID 28146676. S2CID 3771328 .  
  18. ↑ بينبريدج، ليزان (1983). "مفارقات الأتمتة" (ملف PDF) . أوتوماتيكا . 19 (6): 775-779 . doi : 10.1016/0005-1098(83)90046-8 . S2CID 12667742. مؤرشف من الأصل (ملف PDF) بتاريخ 13 سبتمبر 2020. تم الاطلاع عليه بتاريخ 7 ديسمبر 2019 . 
  19. ↑ باراسورامان، راجا؛ مولوي، روبرت؛ سينغ، إندراماني ل. (1993). "عواقب الأداء الناجمة عن "الرضا عن النفس" بسبب الأتمتة"". المجلة الدولية لعلم نفس الطيران . 3 : 1-23 . doi : 10.1207/s15327108ijap0301_1 .
  20. ↑ "حادث تصادم بين مركبة يتم التحكم فيها بواسطة نظام قيادة آلي قيد التطوير وأحد المشاة" . www.ntsb.gov . تم الاطلاع عليه بتاريخ 19 ديسمبر 2019 .
  21. ↑ باهنر، ج. إلين؛ هوبر، أنكه-دوروثيا؛ مانزي، ديتريش (2008). "إساءة استخدام أدوات دعم القرار الآلية: الرضا عن النفس، والتحيز نحو الأتمتة، وتأثير الخبرة التدريبية". المجلة الدولية لدراسات التفاعل بين الإنسان والحاسوب . 66 (9): 688-699 . doi : 10.1016/j.ijhcs.2008.06.001 .

للمزيد من القراءة