التحيز الخوارزمي

مخطط انسيابي يوضح القرارات التي يتخذها محرك التوصيات ، حوالي عام 2001 ^{[ 1 ]}

يصف التحيز الخوارزمي ميلاً ضاراً منهجياً ومتكرراً في نظام اجتماعي تقني محوسب، يؤدي إلى نتائج " غير عادلة "، مثل "تفضيل" فئة على أخرى بطرق قد تختلف أو لا تختلف عن الوظيفة المقصودة للخوارزمية. ^[²^]

قد ينشأ التحيز من عوامل عديدة، بما في ذلك قرارات التصميم المتحيزة عمدًا، أو الاستخدام غير المقصود أو غير المتوقع للبيانات، أو القرارات المتعلقة بكيفية ترميزها أو جمعها أو اختيارها أو استخدامها لتدريب الخوارزمية. ^{[ 3 ]} على سبيل المثال، لوحظ التحيز الخوارزمي في نتائج محركات البحث ومنصات التواصل الاجتماعي . ويمكن أن يكون لهذا التحيز آثار تتراوح بين انتهاكات الخصوصية وتعزيز التحيزات الاجتماعية المتعلقة بالعرق والجنس والميول الجنسية والأصل العرقي. ويركز البحث في التحيز الخوارزمي بشكل أساسي على الخوارزميات التي تعكس تمييزًا "منهجيًا وغير عادل". ^{[ 4 ]} ولم يُتناول هذا التحيز إلا مؤخرًا في الأطر القانونية، مثل اللائحة العامة لحماية البيانات في الاتحاد الأوروبي (التي دخلت حيز التنفيذ عام 2018) وقانون الذكاء الاصطناعي (الذي اقتُرح عام 2021 واعتُمد عام 2024).

مع تزايد قدرة الخوارزميات على تنظيم المجتمع والسياسة والمؤسسات والسلوك، ازداد اهتمام علماء الاجتماع بالطرق التي يمكن أن تؤثر بها المخرجات غير المتوقعة والتلاعب بالبيانات على العالم المادي. ولأن الخوارزميات تُعتبر غالبًا محايدة وغير متحيزة، فقد تُظهر، بشكل غير دقيق، سلطة أكبر من الخبرة البشرية (ويرجع ذلك جزئيًا إلى ظاهرة التحيز الآلي النفسية )، وفي بعض الحالات، قد يؤدي الاعتماد على الخوارزميات إلى إغفال المسؤولية البشرية عن نتائجها، دون مراعاة الجوانب النهائية . ويمكن أن يتسلل التحيز إلى الأنظمة الخوارزمية نتيجة لتوقعات ثقافية أو اجتماعية أو مؤسسية مسبقة؛ أو من خلال كيفية اختيار الميزات والتصنيفات؛ أو بسبب القيود التقنية لتصميمها؛ أو من خلال استخدامها في سياقات غير متوقعة أو من قبل جماهير لم تُؤخذ في الاعتبار عند تصميم البرنامج في البداية. ^{[ 5 ]}

تم الاستشهاد بالتحيز الخوارزمي في قضايا تتراوح بين نتائج الانتخابات وانتشار خطاب الكراهية عبر الإنترنت . كما برز هذا التحيز في العدالة الجنائية ^{[ 6 ]} والرعاية الصحية والتوظيف، مما فاقم التحيزات العرقية والاجتماعية والاقتصادية والجنسانية القائمة. وقد رُبط عدم قدرة تقنية التعرف على الوجوه على تحديد الوجوه الداكنة بدقة بالعديد من حالات الاعتقال الخاطئ لرجال سود، وهي مشكلة ناتجة عن عدم توازن مجموعات البيانات. ولا تزال مشاكل فهم التحيز الخوارزمي والبحث فيه واكتشافه قائمة بسبب الطبيعة الاحتكارية للخوارزميات، والتي تُعامل عادةً كأسرار تجارية. وحتى مع توفير الشفافية الكاملة، فإن تعقيد بعض الخوارزميات يشكل عائقًا أمام فهم طريقة عملها. علاوة على ذلك، قد تتغير الخوارزميات، أو تستجيب للمدخلات أو المخرجات بطرق لا يمكن توقعها أو إعادة إنتاجها بسهولة للتحليل. في كثير من الحالات، حتى داخل موقع ويب أو تطبيق واحد، لا توجد "خوارزمية" واحدة لفحصها، بل شبكة من العديد من البرامج المترابطة ومدخلات البيانات، حتى بين مستخدمي الخدمة نفسها.

حددت دراسة استقصائية أجريت عام 2021 أشكالاً متعددة من التحيز الخوارزمي، بما في ذلك التحيز التاريخي، وتحيز التمثيل، وتحيز القياس، وكل منها يمكن أن يساهم في نتائج غير عادلة. ^{[ 7 ]}

التعريفات

يصعب تعريف الخوارزميات بدقة ، ^{[ 8 ]} ولكن يمكن فهمها عمومًا على أنها قوائم من التعليمات التي تحدد كيفية قراءة البرامج للبيانات وجمعها ومعالجتها وتحليلها لإنتاج مخرجات قابلة للاستخدام. ^{[ 9 ]}^{: 13} للاطلاع على مقدمة تقنية دقيقة، انظر قسم الخوارزميات . أدت التطورات في أجهزة وبرامج الحاسوب إلى زيادة القدرة على معالجة البيانات وتخزينها ونقلها. وقد جعل هذا بدوره تصميم واعتماد تقنيات مثل التعلم الآلي والذكاء الاصطناعي أمرًا ممكنًا من الناحيتين التقنية والتجارية. ^{[ 10 ]}^{: 14-15} تُعد الخوارزميات، من خلال تحليل البيانات ومعالجتها، الركيزة الأساسية لمحركات البحث، ^{[ 11 ]} ومواقع التواصل الاجتماعي، ^{[ 12 ]} وأنظمة التوصيات، ^{[ 13 ]} والتجارة الإلكترونية، ^{[ 14 ]} والإعلانات عبر الإنترنت، ^{[ 15 ]} وغيرها. ^{[ 16 ]}

يهتم علماء الاجتماع المعاصرون بالعمليات الخوارزمية المدمجة في تطبيقات الأجهزة والبرامج نظرًا لتأثيرها السياسي والاجتماعي، ويشككون في الافتراضات الأساسية لحياد الخوارزمية. ^{[ 17 ]}^{: 2}^{[ 18 ]}^{: 563}^{[ 19 ]}^{: 294}^{[ 20 ]} يصف مصطلح "التحيز الخوارزمي " الأخطاء المنهجية والمتكررة التي تُؤدي إلى نتائج غير عادلة، مثل تفضيل فئة معينة من المستخدمين على غيرهم. على سبيل المثال، قد ترفض خوارزمية تقييم الجدارة الائتمانية قرضًا دون أن تكون غير عادلة، إذا كانت تُوازن باستمرار بين المعايير المالية ذات الصلة. أما إذا أوصت الخوارزمية بقروض لمجموعة من المستخدمين، لكنها رفضت قروضًا لمجموعة أخرى من المستخدمين المتطابقين تقريبًا بناءً على معايير غير ذات صلة، وإذا كان هذا السلوك قابلًا للتكرار في حالات متعددة، فيمكن وصف الخوارزمية بأنها متحيزة . ^{[ 21 ]}^{: 332} قد يكون هذا التحيز مقصودًا أو غير مقصود (على سبيل المثال، قد ينشأ عن بيانات متحيزة تم الحصول عليها من عامل كان يقوم سابقًا بالوظيفة التي ستؤديها الخوارزمية من الآن فصاعدًا).

طُرق

يمكن إدخال التحيز إلى الخوارزمية بعدة طرق. أثناء تجميع مجموعة البيانات، قد تُجمع البيانات وتُرقمن وتُكيّف وتُدخل في قاعدة بيانات وفقًا لمعايير فهرسة مصممة بشريًا. ^{[ 22 ]}^{: 3} بعد ذلك، يُحدد المبرمجون الأولويات، أو التسلسلات الهرمية ، لكيفية تقييم البرنامج لتلك البيانات وفرزها. يتطلب هذا قرارات بشرية بشأن كيفية تصنيف البيانات، وأي البيانات تُدرج أو تُستبعد. ^{[ 22 ]}^{: 4} تجمع بعض الخوارزميات بياناتها الخاصة بناءً على معايير يختارها البشر، والتي قد تعكس أيضًا تحيز المصممين البشريين. ^{[ 22 ]}^{: 8} قد تُعزز خوارزميات أخرى الصور النمطية والتفضيلات أثناء معالجتها وعرضها للبيانات "ذات الصلة" للمستخدمين، على سبيل المثال، عن طريق اختيار المعلومات بناءً على الاختيارات السابقة لمستخدم مماثل أو مجموعة من المستخدمين. ^{[ 22 ]}^{: 6}

إلى جانب تجميع البيانات ومعالجتها، قد ينشأ التحيز نتيجةً للتصميم. ^{[ 23 ]} على سبيل المثال، قد تُميّز الخوارزميات التي تُحدد تخصيص الموارد أو التدقيق (مثل تحديد أماكن الدراسة) دون قصد ضد فئة معينة عند تحديد المخاطر بناءً على مستخدمين مشابهين (كما هو الحال في درجات الائتمان). ^{[ 24 ]}^{: 36} في الوقت نفسه، قد تعتمد محركات التوصية التي تعمل عن طريق ربط المستخدمين بمستخدمين مشابهين، أو التي تستخدم سمات تسويقية مُستنتجة، على ارتباطات غير دقيقة تعكس قوالب نمطية عرقية أو جنسية أو اجتماعية اقتصادية أو عنصرية واسعة النطاق. مثال آخر يأتي من تحديد معايير ما يتم تضمينه واستبعاده من النتائج. قد تُؤدي هذه المعايير إلى نتائج غير متوقعة لنتائج البحث، كما هو الحال مع برامج توصية الرحلات الجوية التي تُهمل الرحلات التي لا تتبع مسارات رحلات شركة الطيران الراعية. ^{[ 23 ]} قد تُظهر الخوارزميات أيضًا تحيزًا في عدم اليقين ، حيث تُقدم تقييمات أكثر ثقة عند توفر مجموعات بيانات أكبر . قد يؤدي ذلك إلى تحريف العمليات الخوارزمية نحو نتائج تتوافق بشكل أوثق مع عينات أكبر، مما قد يتجاهل البيانات من الفئات السكانية الممثلة تمثيلاً ناقصاً. ^{[ 25 ]}^{: 4}

تاريخ

الانتقادات المبكرة

صُممت برامج الحاسوب الأولى لمحاكاة التفكير والاستنتاج البشري، واعتُبرت فعّالة عندما نجحت في إعادة إنتاج ذلك المنطق البشري باستمرار. في كتابه " قوة الحاسوب والمنطق البشري" الصادر عام 1976 ، أشار رائد الذكاء الاصطناعي جوزيف وايزنباوم إلى أن التحيز قد ينشأ من البيانات المستخدمة في البرنامج، وكذلك من طريقة كتابة البرنامج. ^{[ 26 ]}^{: 149}

كتب وايزنباوم أن البرامج عبارة عن سلسلة من القواعد التي يضعها البشر ليتبعها الحاسوب. وباتباع هذه القواعد باستمرار، فإن هذه البرامج "تجسد القانون" ^{[ 26 ]}^{: 40} ، أي أنها تفرض طريقة محددة لحل المشكلات. وتستند القواعد التي يتبعها الحاسوب إلى افتراضات مبرمج الحاسوب حول كيفية حل هذه المشكلات. وهذا يعني أن الشفرة البرمجية قد تتضمن تصور المبرمج لكيفية عمل العالم، بما في ذلك تحيزاته وتوقعاته. ^{[ 26 ]}^{: 109.} وبينما يمكن لبرنامج الحاسوب أن يتضمن تحيزًا بهذه الطريقة، أشار وايزنباوم أيضًا إلى أن أي بيانات تُغذى إلى الآلة تعكس "عمليات صنع القرار البشري" أثناء اختيار البيانات. ^{[ 26 ]}^{: 70، 105}

وأخيرًا، أشار إلى أن الآلات قد تنقل معلومات قيّمة ذات عواقب غير مقصودة إذا لم يكن المستخدمون على دراية بكيفية تفسير النتائج. ^{[ 26 ]}^{: 65} وحذّر فايزنباوم من الثقة في القرارات التي تتخذها برامج الحاسوب التي لا يفهمها المستخدم، مُشبهًا هذه الثقة بسائح يستطيع الوصول إلى غرفته في الفندق بمجرد الانعطاف يمينًا أو يسارًا عند رمي قطعة نقدية. والأهم من ذلك، أن السائح لا يملك أي أساس لفهم كيف أو لماذا وصل إلى وجهته، والوصول بنجاح لا يعني أن العملية دقيقة أو موثوقة. ^{[ 26 ]}^{: 226}

في مثال مبكر على التحيز الخوارزمي، رُفض قبول ما يصل إلى 60 امرأة وأفراد من الأقليات العرقية في كلية الطب بمستشفى سانت جورج سنويًا بين عامي 1982 و1986، وذلك استنادًا إلى تطبيق نظام تقييم جديد يعتمد على التوجيه الحاسوبي، والذي رفض قبول النساء والرجال ذوي "الأسماء الأجنبية" بناءً على الاتجاهات التاريخية في القبول. ^{[ 28 ]} وبينما استخدمت العديد من المدارس في ذلك الوقت تحيزات مماثلة في عملية الاختيار، تميزت سانت جورج بشكل خاص بأتمتة هذا التحيز من خلال استخدام خوارزمية، مما لفت انتباه الناس على نطاق أوسع بكثير.

في السنوات الأخيرة، ومع تزايد اعتماد الخوارزميات على أساليب التعلم الآلي المطبقة على بيانات العالم الحقيقي، أصبح التحيز الخوارزمي أكثر شيوعًا بسبب التحيزات الكامنة في البيانات نفسها. على سبيل المثال، أظهرت أنظمة التعرف على الوجوه أنها تُخطئ في تحديد هوية الأفراد من الفئات المهمشة بمعدلات أعلى بكثير من الأفراد البيض، مما يُبرز كيفية ظهور التحيزات في مجموعات بيانات التدريب في الأنظمة المُستخدمة. ^{[ 29 ]} ووجدت دراسة أجرتها جوي بولامويني وتيمنيت جبرو عام 2018 أن تقنيات التعرف على الوجوه التجارية أظهرت معدلات خطأ تصل إلى 35% عند تحديد هوية النساء ذوات البشرة الداكنة، مقارنةً بأقل من 1% للرجال ذوي البشرة الفاتحة. ^{[ 30 ]}

لا تقتصر التحيزات الخوارزمية على كونها إخفاقات تقنية فحسب، بل غالبًا ما تعكس أوجه عدم المساواة المنهجية المتأصلة في البيانات التاريخية والمجتمعية. ويؤكد الباحثون والنقاد، مثل كاثي أونيل في كتابها "أسلحة التدمير الرياضية " (2016)، أن هذه التحيزات قد تُفاقم أوجه عدم المساواة الاجتماعية القائمة تحت ستار الموضوعية. وتجادل أونيل بأن عمليات صنع القرار الآلية المبهمة في مجالات مثل تقييم الجدارة الائتمانية، والتنبؤ بالجريمة، والتعليم، قد تُعزز الممارسات التمييزية بينما تبدو محايدة أو علمية. ^{[ 31 ]}

الانتقادات والردود المعاصرة

على الرغم من أن الخوارزميات المصممة جيدًا غالبًا ما تحدد نتائج متساوية (أو أكثر) عدلًا من قرارات البشر، إلا أن حالات التحيز لا تزال تحدث، ويصعب التنبؤ بها وتحليلها. ^{[ 32 ]} وقد ازداد تعقيد تحليل التحيز الخوارزمي بالتوازي مع تعقيد البرامج وتصميمها. قد تُحجب القرارات التي يتخذها مصمم واحد، أو فريق من المصممين، بين أجزاء الشفرة البرمجية العديدة المُنشأة لبرنامج واحد؛ وبمرور الوقت، قد تُنسى هذه القرارات وتأثيرها الجماعي على مخرجات البرنامج. ^{[ 33 ]}^{: 115} من الناحية النظرية، قد تُنشئ هذه التحيزات أنماطًا سلوكية جديدة، أو "سيناريوهات"، فيما يتعلق بتقنيات محددة مع تفاعل الشفرة مع عناصر أخرى في المجتمع. ^{[ 34 ]} قد تؤثر التحيزات أيضًا على كيفية تشكيل المجتمع لنفسه حول نقاط البيانات التي تتطلبها الخوارزميات. على سبيل المثال، إذا أظهرت البيانات عددًا كبيرًا من الاعتقالات في منطقة معينة، فقد تُخصص الخوارزمية المزيد من دوريات الشرطة لتلك المنطقة، مما قد يؤدي إلى المزيد من الاعتقالات. ^{[ 35 ]}^{: 180}

يمكن اعتبار قرارات البرامج الخوارزمية أكثر موثوقية من قرارات البشر الذين صُممت لمساعدتهم، ^{[ 36 ]}^{: 15} وهي عملية وصفها الكاتب كلاي شيركي بـ"السلطة الخوارزمية". ^{[ 37 ]} يستخدم شيركي هذا المصطلح لوصف "قرار اعتبار عملية غير مُدارة لاستخلاص القيمة من مصادر متنوعة وغير موثوقة" مثل نتائج البحث، عمليةً موثوقة. ^{[ 37 ]} قد يُساء فهم هذه الحيادية أيضًا من خلال اللغة التي يستخدمها الخبراء ووسائل الإعلام عند عرض النتائج على الجمهور. على سبيل المثال، قد تُنشأ قائمة بالأخبار المختارة والمُقدمة على أنها "رائجة" أو "شائعة" بناءً على معايير أوسع بكثير من مجرد شعبيتها. ^{[ 22 ]}^{: 14}

بسبب سهولة استخدامها وسلطتها، يُنظر إلى الخوارزميات نظريًا على أنها وسيلة لتفويض المسؤولية بعيدًا عن البشر. ^{[ 36 ]}^{: 16}^{[ 38 ]}^{: 6} قد يؤدي ذلك إلى تقليل الخيارات البديلة، والتسويات، والمرونة. ^{[ 36 ]}^{: 16} انتقد عالم الاجتماع سكوت لاش الخوارزميات باعتبارها شكلًا جديدًا من "القوة التوليدية"، حيث إنها وسيلة افتراضية لتحقيق غايات فعلية. فبينما كان السلوك البشري في السابق يُولّد بيانات تُجمع وتُدرس، أصبحت الخوارزميات القوية قادرة بشكل متزايد على تشكيل وتحديد السلوكيات البشرية. ^{[ 39 ]}^{: 71}

في حين أن الالتزام الأعمى بالقرارات الخوارزمية يثير القلق، تبرز مشكلة معاكسة عندما يُظهر صانعو القرار البشريون "التزامًا انتقائيًا" بالنصائح الخوارزمية. في مثل هذه الحالات، يقبل الأفراد التوصيات التي تتوافق مع معتقداتهم المسبقة ويتجاهلون تلك التي لا تتوافق معها، مما يُديم التحيزات القائمة ويقوض أهداف العدالة للتدخلات الخوارزمية. وبالتالي، فإن دمج أدوات خوارزمية عادلة في عمليات صنع القرار لا يُزيل التحيزات البشرية تلقائيًا. ^{[ 40 ]}

أدت المخاوف بشأن تأثير الخوارزميات على المجتمع إلى إنشاء فرق عمل في منظمات مثل جوجل ومايكروسوفت ، اللتين شاركتا في إنشاء فريق عمل يُسمى "الإنصاف والمساءلة والشفافية في التعلم الآلي". ^{[ 41 ]}^{: 115} وتضمنت أفكار جوجل مجموعات مجتمعية تراقب نتائج الخوارزميات وتصوّت للتحكم في المخرجات التي تعتبرها ذات عواقب سلبية أو تقييدها. ^{[ 41 ]}^{: 117} وفي السنوات الأخيرة، برزت دراسة الإنصاف والمساءلة والشفافية في الخوارزميات كمجال بحثي متعدد التخصصات، مع مؤتمر سنوي يُسمى FAccT. ^{[ 42 ]} ويرى النقاد أن مبادرات الإنصاف والمساءلة والشفافية لا يمكنها أن تؤدي دورها بفعالية كجهات رقابية مستقلة عندما يتم تمويل العديد منها من قبل الشركات التي تبني الأنظمة قيد الدراسة. ^{[ 43 ]}

يوفر إطار إدارة مخاطر الذكاء الاصطناعي 1.0 التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST) وملف تعريف الذكاء الاصطناعي التوليدي لعام 2024 إرشادات عملية لحوكمة وقياس تخفيف التحيز في أنظمة الذكاء الاصطناعي. ^{[ 44 ]}

الأنواع

موجود مسبقًا

يُعدّ التحيز المُسبق في الخوارزمية نتيجةً للأيديولوجيات الاجتماعية والمؤسسية الكامنة . وقد يُوضع التحيز عمدًا أو سهوًا. ^{[ 21 ]}^{: 334}^{[ 19 ]}^{: 294} وتؤثر بيانات الإدخال المُختارة بشكل سيئ، أو ببساطة البيانات الواردة من مصدر متحيز، على النتائج التي تُنتجها الآلات. ^{[ 27 ]}^{: 17} ويمكن أن يُؤدي تضمين التحيز المُسبق في البرمجيات إلى الحفاظ على التحيز الاجتماعي والمؤسسي، وإذا لم يتم تصحيحه، فقد يتكرر في جميع الاستخدامات المستقبلية لتلك الخوارزمية. ^{[ 33 ]}^{: 116}^{[ 38 ]}^{: 8}

من الأمثلة على هذا النوع من التحيز برنامج قانون الجنسية البريطانية، المصمم لأتمتة تقييم المواطنين البريطانيين الجدد بعد صدور قانون الجنسية البريطانية لعام ١٩٨١. ^{[ ٢١ ]}^{: ٣٤١} وقد عكس البرنامج بدقة مبادئ القانون، الذي ينص على أن "الرجل هو أب لأبنائه الشرعيين فقط، بينما المرأة هي أم لجميع أبنائها، سواء كانوا شرعيين أم لا". ^{[ ٢١ ]}^{: ٣٤١}^{[ ٤٥ ]}^{: ٣٧٥} وفي محاولته لنقل منطق معين إلى عملية حسابية، قام برنامج قانون الجنسية البريطانية بتضمين منطق قانون الجنسية البريطانية في خوارزميته، مما يضمن استمراريته حتى لو تم إلغاء القانون في نهاية المطاف. ^{[ ٢١ ]}^{: ٣٤٢}

يُعدّ "تحيز اختيار التصنيف" مصدرًا آخر للتحيز، ^{[ 46 ]} وينشأ عند استخدام مقاييس بديلة لتدريب الخوارزميات، مما يُؤدي إلى تحيز ضد فئات معينة. على سبيل المثال، تنبأت خوارزمية شائعة الاستخدام بتكاليف الرعاية الصحية كمؤشر بديل لاحتياجات الرعاية الصحية، واستخدمت هذه التنبؤات لتخصيص الموارد لمساعدة المرضى ذوي الاحتياجات الصحية المعقدة. وقد أدى ذلك إلى تحيز لأن المرضى السود لديهم تكاليف أقل، حتى وإن كانوا يعانون من نفس المشاكل الصحية التي يعاني منها المرضى البيض ^{[ 47 ].} تهدف حلول "تحيز اختيار التصنيف" إلى مطابقة الهدف الفعلي (ما تتنبأ به الخوارزمية) بشكل أدق مع الهدف المثالي (ما يرغب الباحثون أن تتنبأ به الخوارزمية)، لذا في المثال السابق، بدلًا من التنبؤ بالتكلفة، سيركز الباحثون على متغير احتياجات الرعاية الصحية، وهو الأكثر أهمية. وقد أدى تعديل الهدف إلى مضاعفة عدد المرضى السود الذين تم اختيارهم للبرنامج تقريبًا ^{[ 46 ] .}

تحيز التعلم الآلي

يشير مصطلح "التحيز في التعلم الآلي" إلى التفاوتات المنهجية وغير العادلة في مخرجات خوارزميات التعلم الآلي. ويمكن أن يظهر هذا التحيز بأشكال مختلفة، وغالبًا ما يكون انعكاسًا للبيانات المستخدمة في تدريب هذه الخوارزميات. ومن بين الأنواع الشائعة للتحيز في التعلم الآلي ما يلي:

تحيز البيانات: قد لا تمثل بيانات التدريب فئات معينة تمثيلاً كافياً (مثل الأقليات)، أو قد تحتوي على تفاوتات تاريخية، أو قد يتم جمعها بطرق منحرفة، مما يؤدي إلى أداء النموذج بشكل أسوأ أو تصرفه بشكل غير عادل تجاه تلك الفئات. ^{[ 48 ]}
تحيز التصنيف: يمكن أن تتضمن التصنيفات التي يقدمها البشر أحكامًا أو تحيزات ذاتية (على سبيل المثال، ما يصنف على أنه "خطير" أو "سام" أو "مؤهل")، لذلك يتعلم النموذج تلك الأحكام ويضخمها.
تحيز القياس: قد تكون المؤشرات أو القياسات المستخدمة للمفاهيم المهمة (مثل "الجدارة الائتمانية" أو " الأداء الوظيفي ") مشوشة أو مشوهة بشكل منهجي لبعض المجموعات، مما يؤدي إلى تشويه التنبؤات.
التحيز الخوارزمي: حتى مع البيانات المتوازنة نسبيًا، يمكن أن تعطي خيارات النمذجة (دوال الخسارة، والعتبات، وأهداف التحسين) الأولوية للدقة الإجمالية على حساب العدالة، مما يؤدي إلى نتائج أسوأ باستمرار لبعض المجموعات الفرعية. ^{[ 49 ]}
تحيز النشر: يمكن أن يؤدي استخدام نموذج خارج السياق الذي صُمم من أجله (على سبيل المثال، نموذج تم تدريبه على البالغين وتطبيقه على الأطفال، أو نموذج تم تدريبه في بلد ما ونشره في بلد آخر) إلى نتائج متحيزة لأن البيئة والسكان يختلفون.

عادةً ما يتطلب الحد من تحيز التعلم الآلي تدخلات في مراحل متعددة: جمع بيانات أكثر تمثيلاً وأعلى جودة، ومراجعة مجموعات البيانات والنماذج للتحقق من تباين معدلات الخطأ أو النتائج بين المجموعات، وتعديل أهداف التدريب (مثل إضافة قيود الإنصاف)، ومراقبة الأنظمة بعد النشر. كما أن التوثيق الشفاف لمصادر البيانات وحالات الاستخدام المقصودة أمر بالغ الأهمية لتمكين المستخدمين وأصحاب المصلحة من فهم مواطن التحيز المحتملة وكيفية تفسير مخرجات النموذج بمسؤولية.

تحيز لغوي

يشير التحيز اللغوي إلى نوع من التحيز في أخذ العينات الإحصائية المرتبط بلغة الاستعلام، والذي يؤدي إلى "انحراف منهجي في معلومات العينة يمنعها من تمثيل التغطية الحقيقية للمواضيع والآراء المتاحة في مستودعها بدقة". ^{[ 50 ]} تُظهر دراسة لو وآخرون ^{[ 50 ]} أن نماذج اللغة الكبيرة الحالية، نظرًا لتدريبها في الغالب على بيانات باللغة الإنجليزية، غالبًا ما تُقدم وجهات النظر الأنجلو-أمريكية على أنها الحقيقة، بينما تُقلل بشكل منهجي من شأن وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو مجرد تشويش. عند الاستفسار عن أيديولوجيات سياسية مثل "ما هي الليبرالية؟" ، تميل نماذج اللغة الكبيرة، المدربة بشكل أساسي على بيانات تتمحور حول اللغة الإنجليزية، إلى وصف الليبرالية من منظور أنجلو-أمريكي، مع التركيز على جوانب مثل حقوق الإنسان والمساواة. وبذلك، قد تُغفل تفسيرات صحيحة بنفس القدر، مثل التركيز على معارضة تدخل الدولة في الحياة الشخصية والاقتصادية الموجود في الخطاب الفيتنامي، أو التركيز على القيود المفروضة على سلطة الحكومة السائدة في الفكر السياسي الصيني. ^{[ 50 ]} وبالمثل، قد تُظهر نماذج اللغة تحيزًا ضد الأشخاص داخل مجموعة لغوية معينة بناءً على اللهجة المحددة التي يستخدمونها. ^{[ 51 ]}

تحيز الاختيار

يشير انحياز الاختيار إلى الميل المتأصل في نماذج اللغة الكبيرة لتفضيل مُعرّفات خيارات معينة بغض النظر عن المحتوى الفعلي لهذه الخيارات. وينشأ هذا الانحياز أساسًا من انحياز الرموز، أي أن النموذج يُخصّص احتمالية مسبقة أعلى لرموز إجابة مُحددة (مثل "أ") عند توليد الإجابات. ونتيجةً لذلك، عند تغيير ترتيب الخيارات (على سبيل المثال، عن طريق نقل الإجابة الصحيحة بشكل منهجي إلى مواقع مختلفة)، قد يتذبذب أداء النموذج بشكل ملحوظ. تُضعف هذه الظاهرة موثوقية نماذج اللغة الكبيرة في بيئات الاختيار من متعدد. ^{[ 52 ]}^{[ 53 ]}

التحيز الجنسي

يشير التحيز الجنسي إلى ميل هذه النماذج إلى إنتاج مخرجات متحيزة بشكل غير عادل لصالح جنس على حساب الآخر. وينشأ هذا التحيز عادةً من البيانات التي تُدرَّب عليها هذه النماذج. فعلى سبيل المثال، غالبًا ما تُسند نماذج اللغة الكبيرة أدوارًا وخصائص بناءً على المعايير الجنسية التقليدية؛ فقد تربط الممرضات أو السكرتيرات بالنساء في الغالب، والمهندسين أو الرؤساء التنفيذيين بالرجال. ^{[ 54 ]}^{[ 55 ]} كما تُظهر عمليات التدقيق التجريبية لأنظمة الذكاء الاصطناعي المُطبَّقة تحيزًا جنسيًا متقاطعًا؛ فعلى سبيل المثال، يُقلل نظام Google Cloud Vision AI من تمثيل النساء كعالمات، مع وجود نقص تمثيل أكبر للنساء الملونات. ^{[ 56 ]}

الصور النمطية

وبغض النظر عن النوع الاجتماعي والعرق، يمكن لهذه النماذج أن تعزز مجموعة واسعة من الصور النمطية ، بما في ذلك تلك القائمة على العمر أو الجنسية أو الدين أو المهنة. وقد يؤدي ذلك إلى نتائج تُعمم أو تُسيئ إلى تصنيف مجموعات من الناس، أو تُشوه صورتهم بشكل غير عادل، وأحيانًا بطرق ضارة أو مهينة. ^{[ 57 ]}^{[ 58 ]}

ركزت الأبحاث مؤخرًا على التفاعل المعقد بين الخصائص النحوية للغة والتحيزات الواقعية التي قد تتغلغل في أنظمة الذكاء الاصطناعي، مما قد يُسهم في ترسيخ الصور النمطية والافتراضات الضارة. وكشفت دراسة حول التحيز الجنسي في نماذج اللغة المدربة على اللغة الأيسلندية، وهي لغة ذات قواعد نحوية مُحددة جنسيًا، أن هذه النماذج أظهرت ميلًا واضحًا نحو استخدام صيغة المذكر عند الإشارة إلى المصطلحات المهنية، حتى في المهن التي تهيمن عليها النساء. ^{[ 59 ]} يشير هذا إلى أن النماذج قد ضخمت التحيزات الجنسية المجتمعية الموجودة في بيانات التدريب.

التحيز السياسي

يشير التحيز السياسي إلى ميل الخوارزميات إلى تفضيل وجهات نظر أو أيديولوجيات أو نتائج سياسية معينة على غيرها بشكل منهجي. وقد تُظهر نماذج اللغة أيضًا تحيزات سياسية. ونظرًا لأن بيانات التدريب تتضمن نطاقًا واسعًا من الآراء والتغطية السياسية، فقد تُنتج النماذج استجابات تميل نحو أيديولوجيات أو وجهات نظر سياسية محددة، وذلك تبعًا لمدى شيوع تلك الآراء في البيانات. ^{[ 60 ]}

التحيز العنصري

يشير التحيز العنصري إلى ميل نماذج التعلم الآلي إلى إنتاج نتائج تميز بشكل غير عادل ضد الأفراد أو تُنمّطهم بناءً على عرقهم أو أصلهم الإثني. غالبًا ما ينشأ هذا التحيز من بيانات التدريب، التي تتشكل بفعل آراء البشر وافتراضاتهم وتحيزاتهم العنصرية. تدفع هذه البيانات أنظمة الذكاء الاصطناعي إلى إعادة إنتاج وتضخيم التمييز التاريخي والمنهجي. على سبيل المثال، قد تُلحق أنظمة الذكاء الاصطناعي المستخدمة في التوظيف أو إنفاذ القانون أو الرعاية الصحية ضررًا غير متناسب ببعض المجموعات العرقية من خلال تعزيز الصور النمطية الموجودة أو التقليل من تمثيلها في المجالات الرئيسية. يمكن أن تتجلى هذه التحيزات بطرق مثل أنظمة التعرف على الوجوه التي تُخطئ في تحديد هوية الأفراد من خلفيات عرقية معينة أو خوارزميات الرعاية الصحية التي تُقلل من شأن الاحتياجات الطبية لمرضى الأقليات. تتطلب معالجة التحيز العنصري فحصًا دقيقًا للبيانات، وتحسين الشفافية في العمليات الخوارزمية، وبذل جهود لضمان العدالة طوال دورة حياة تطوير الذكاء الاصطناعي. ^{[ 61 ]}^{[ 62 ]} تُظهر عمليات التدقيق التجريبية لنماذج الرؤية المنشورة أيضًا تفاوتات مرتبطة بالعرق في تصنيف المهن. فعلى سبيل المثال، في خدمة الذكاء الاصطناعي للرؤية السحابية من جوجل، كانت النساء الملونات الأقل احتمالاً أن يتم التعرف عليهن كعالمات، مما يشير إلى تأثيرات متراكمة للعرق والجنس في مخرجات النموذج. ^{[ 56 ]}

ومن المؤشرات الواضحة الأخرى على كيفية إعادة إنتاج التحيزات العنصرية من خلال التقدم التكنولوجي، استخدام أساليب الشرطة التنبؤية. إذ تُجري هذه الأساليب تقييمات حول هوية مرتكبي الجرائم المستقبلية، وتوقيت ارتكابها، ^{[ 63 ]} ومكان وقوعها، استنادًا إلى الموقع والبيانات الشخصية. ^{[ 64 ]} وهذا يعني أن المناطق التي شهدت ارتفاعًا في معدلات الجريمة عادةً ما تشهد تنبؤات أكثر دقة بشأن الجرائم المستقبلية.

على سبيل المثال، مُنع المواطنون الأفغان إلى حد كبير من شراء أسمدة الأمونيوم، بعد اكتشاف أن معظم العبوات الناسفة اليدوية الصنع التي استُخدمت ضد الجنود الأمريكيين تحتوي على كميات كافية من النترات، وهي المكون الرئيسي لأسمدة الأمونيوم. وقد أدى هذا الحظر، الذي فُرض لاحقًا باستخدام الذكاء الاصطناعي من قِبل القوات الأمريكية، إلى حرمان حتى المواطنين الأفغان الذين يعتمدون في معيشتهم على الزراعة كمصدر وحيد للرزق، من أحد أهم مستلزمات الزراعة (الأسمدة)، لأن نظام الذكاء الاصطناعي المستخدم في تطبيق هذا الحظر كان يعتمد بشكل أساسي على تصنيف عام يشمل المسلمين الملتحين أو المواطنين الأفغان. ^{[ 65 ]}

في الصين، وخاصة في منطقة شينجيانغ ذات الأغلبية المسلمة، يتجاوز استخدام الذكاء الاصطناعي لتقييد الأقليات المسلمة، المعروفة أيضًا باسم الإيغور، مجرد حظر مواد معينة. ^{[ 64 ]} إذ يُستخدم هنا نظام الرفض التلقائي على نطاق واسع. فعلى عكس حظر الأسمدة في أفغانستان، تستخدم الأنظمة الصينية الذكاء الاصطناعي لتحديد "السلوك المشبوه"، ثم تمنع الإيغور تلقائيًا من شراء السلع المنزلية كسكاكين المطبخ. ^{[ 66 ]} وإذا ما اضطروا للشراء، فعليهم اتباع إجراءات صارمة، تشمل وضع رمز شريطي على السكين يحمل بيانات شخصية كاملة عن المشتري الإيغوري. وبتدريب نماذج الذكاء الاصطناعي على التنبؤ بالتمييز العنصري، بل وحتى ممارسته، يصبح النظام متحيزًا عنصريًا بشكل واضح.

التحيز العنصري ضد الأنواع

يشير التحيز ضد الحيوانات (المعروف أيضًا بالتحيز الأنثروبولوجي) إلى ميل نماذج اللغة الكبيرة إلى التقليل من شأن الحيوانات غير البشرية أو التمييز ضدها بشكل منهجي، غالبًا من خلال إعطاء الأولوية للمصالح البشرية أو تعزيز النظرة التشييئية للحيوانات. ويتجلى هذا التحيز عادةً في الأنثروبولوجية ، حيث ينظر الذكاء الاصطناعي إلى الحيوانات بشكل أساسي من خلال فائدتها للبشر (مثل الغذاء أو الأدوات أو الآفات) بدلاً من كونها كائنات واعية ذات قيمة جوهرية. ^{[ 67 ]}

اِصطِلاحِيّ

ينشأ التحيز التقني من خلال قيود البرنامج، أو القدرة الحاسوبية، أو تصميمه، أو أي قيد آخر على النظام. ^{[ 21 ]}^{: 332} ويمكن أن يكون هذا التحيز قيدًا على التصميم أيضًا؛ فعلى سبيل المثال، يمكن فهم محرك البحث الذي يعرض ثلاث نتائج في كل شاشة على أنه يُعطي أفضلية طفيفة للنتائج الثلاث الأولى على النتائج الثلاث التالية، كما هو الحال في عرض أسعار شركات الطيران. ^{[ 21 ]}^{: 336} وثمة حالة أخرى تتمثل في البرامج التي تعتمد على العشوائية لتوزيع النتائج بشكل عادل. فإذا لم تكن آلية توليد الأرقام العشوائية عشوائية حقًا، فقد تُدخل تحيزًا، على سبيل المثال، من خلال توجيه الاختيارات نحو العناصر الموجودة في نهاية القائمة أو بدايتها. ^{[ 21 ]}^{: 332}

تستخدم الخوارزمية المجردة من السياق معلومات غير ذات صلة لترتيب النتائج، فعلى سبيل المثال، ستكون خوارزمية تسعير الرحلات الجوية التي ترتب النتائج أبجديًا متحيزة لصالح الخطوط الجوية الأمريكية على حساب الخطوط الجوية المتحدة. ^{[ 21 ]}^{: 332.} وقد ينطبق العكس أيضًا، حيث تُقيّم النتائج في سياقات مختلفة عن سياق جمعها. فقد تُجمع البيانات دون سياق خارجي حاسم: على سبيل المثال، عند استخدام برامج التعرف على الوجوه بواسطة كاميرات المراقبة، ولكن يتم تقييمها من قِبل موظفين عن بُعد في بلد أو منطقة أخرى، أو يتم تقييمها بواسطة خوارزميات غير بشرية لا تدرك ما يحدث خارج مجال رؤية الكاميرا . وهذا قد يُؤدي إلى فهم غير مكتمل لمسرح الجريمة، على سبيل المثال، احتمال الخلط بين المارة ومرتكبي الجريمة. ^{[ 18 ]}^{: 574}

أخيرًا، قد ينشأ التحيز التقني من محاولة صياغة القرارات في خطوات محددة بناءً على افتراض أن السلوك البشري يسير على نفس المنوال. على سبيل المثال، يقوم برنامج حاسوبي بتقييم البيانات لتحديد ما إذا كان ينبغي على المتهم قبول صفقة الإقرار بالذنب، متجاهلًا تأثير العاطفة على هيئة المحلفين. ^{[ 21 ]}^{: 332} وقد وُجدت نتيجة غير مقصودة أخرى لهذا النوع من التحيز في برنامج كشف الانتحال Turnitin ، الذي يقارن النصوص التي يكتبها الطلاب بالمعلومات الموجودة على الإنترنت، ويُرجع درجة احتمالية أن يكون عمل الطالب منسوخًا. ولأن البرنامج يقارن سلاسل نصية طويلة، فإنه يُرجّح أن يُحدد غير الناطقين باللغة الإنجليزية أكثر من الناطقين بها، إذ قد يكون هؤلاء أكثر قدرة على تغيير الكلمات المفردة، أو تقسيم سلاسل النصوص المنتحلة، أو إخفاء المقاطع المنسوخة باستخدام المرادفات. نظراً لسهولة إفلات المتحدثين الأصليين من الكشف بسبب القيود التقنية للبرنامج، فإن هذا يخلق سيناريو يقوم فيه برنامج Turnitin بتحديد المتحدثين غير الناطقين باللغة الإنجليزية بتهمة الانتحال، بينما يسمح لعدد أكبر من المتحدثين الأصليين بالإفلات من الكشف. ^{[ 36 ]}^{: 21-22}

طارئ

ينتج التحيز الناشئ عن استخدام الخوارزميات والاعتماد عليها في سياقات جديدة أو غير متوقعة. ^{[ 21 ]}^{: 334.} قد لا تكون الخوارزميات قد عُدّلت لتأخذ في الحسبان أشكال المعرفة الجديدة، مثل الأدوية الجديدة أو الاكتشافات الطبية، أو القوانين الجديدة، أو نماذج الأعمال الجديدة، أو تغير المعايير الثقافية. ^{[ 21 ]}^{: 334، 336.} قد يؤدي هذا إلى استبعاد فئات معينة من خلال التكنولوجيا، دون توفير تعريفات واضحة لتحديد المسؤول عن هذا الاستبعاد. ^{[ 35 ]}^{: 179}^{[ 19 ]}^{: 294.} وبالمثل، قد تظهر مشكلات عندما لا تتوافق بيانات التدريب (العينات التي تُغذّى بها الآلة، والتي من خلالها تُنمذج استنتاجات معينة) مع السياقات التي تواجهها الخوارزمية في العالم الحقيقي. ^{[ 68 ]}

في عام ١٩٩٠، تم رصد مثال على التحيز الناشئ في البرنامج المستخدم لتوزيع طلاب الطب الأمريكيين على برامج الإقامة، وهو برنامج التوفيق الوطني للإقامة (NRMP). ^{[ ٢١ ]}^{: ٣٣٨} صُممت الخوارزمية في وقتٍ كان فيه عدد قليل من الأزواج المتزوجين يسعون للحصول على الإقامة معًا. ومع ازدياد عدد النساء الملتحقات بكليات الطب، ازداد احتمال طلب الطلاب الإقامة مع شركائهم. تطلبت العملية من كل متقدم تقديم قائمة بتفضيلاته لأماكن الإقامة في جميع أنحاء الولايات المتحدة، ثم يتم فرزها وتخصيصها عندما يتفق كل من المستشفى والمتقدم على التوفيق. في حالة الأزواج المتزوجين الذين يسعى كلاهما للحصول على الإقامة، أعطت الخوارزمية الأولوية لاختيارات الشريك الأعلى تصنيفًا. وكانت النتيجة تخصيصًا متكررًا للمدارس المفضلة للشريك الأول والمدارس الأقل تفضيلًا للشريك الثاني، بدلًا من فرز الخيارات للوصول إلى حلول وسط في تفضيلات الإقامة. ^{[ ٢١ ]}^{: ٣٣٨}^{[ ٦٩ ]}

تشمل التحيزات الناشئة الإضافية ما يلي:

الارتباطات

قد تظهر ارتباطات غير متوقعة عند مقارنة مجموعات بيانات كبيرة ببعضها البعض. على سبيل المثال، قد تتوافق البيانات المُجمّعة حول أنماط تصفح الإنترنت مع إشارات تُشير إلى بيانات حساسة (مثل العرق أو الميول الجنسية). من خلال الاختيار وفقًا لسلوكيات أو أنماط تصفح مُحددة، ستكون النتيجة النهائية مُطابقة تقريبًا للتمييز باستخدام بيانات العرق أو الميول الجنسية بشكل مباشر. ^{[ 25 ]}^{: 6} في حالات أخرى، تستخلص الخوارزمية استنتاجات من الارتباطات، دون أن تكون قادرة على فهم تلك الارتباطات. على سبيل المثال، أعطى أحد برامج الفرز أولوية أقل لمرضى الربو المصابين بالتهاب رئوي مقارنةً بمرضى الربو غير المصابين به. فعلت خوارزمية البرنامج ذلك لأنها ببساطة قارنت معدلات البقاء على قيد الحياة: مرضى الربو المصابون بالتهاب رئوي هم الأكثر عرضة للخطر. تاريخيًا، وللسبب نفسه، تُقدم المستشفيات عادةً أفضل رعاية وأسرعها لهؤلاء المرضى. ^{[ 70 ]}

الاستخدامات غير المتوقعة

قد ينشأ التحيز الناشئ عندما تستخدم خوارزمية ما من قبل فئات غير متوقعة. على سبيل المثال، قد تتطلب الآلات من المستخدمين القدرة على القراءة والكتابة وفهم الأرقام، أو التفاعل مع واجهة تستخدم استعارات لا يفهمونها. ^{[ 21 ]}^{: 334} ويمكن أن تتفاقم هذه الإقصاءات مع ازدياد اندماج التكنولوجيا المتحيزة أو الإقصائية في المجتمع. ^{[ 35 ]}^{: 179}

إلى جانب الاستبعاد، قد تنشأ استخدامات غير متوقعة نتيجة اعتماد المستخدم النهائي على البرنامج بدلاً من معرفته الشخصية. في أحد الأمثلة، أدت مجموعة مستخدمين غير متوقعة إلى تحيز خوارزمي في المملكة المتحدة، عندما تم إنشاء برنامج القانون الوطني البريطاني كإثبات للمفهوم من قبل علماء الحاسوب ومحامي الهجرة لتقييم أهلية الحصول على الجنسية البريطانية . كان لدى المصممين إمكانية الوصول إلى خبرة قانونية تتجاوز المستخدمين النهائيين في مكاتب الهجرة، الذين من المرجح أن يكون فهمهم لكل من البرنامج وقانون الهجرة محدودًا. اعتمد الموظفون الذين يديرون الأسئلة كليًا على البرنامج، الذي استبعد مسارات بديلة للحصول على الجنسية، واستخدموا البرنامج حتى بعد أن أدت سوابق قضائية وتفسيرات قانونية جديدة إلى تقادم الخوارزمية. نتيجة لتصميم خوارزمية لمستخدمين يُفترض أنهم على دراية قانونية بقانون الهجرة، أدت خوارزمية البرنامج بشكل غير مباشر إلى تحيز لصالح المتقدمين الذين يستوفون مجموعة ضيقة جدًا من المعايير القانونية التي حددتها الخوارزمية، بدلاً من المعايير الأوسع لقانون الهجرة البريطاني. ^{[ 21 ]}^{: 342}

حلقات التغذية الراجعة

قد يُؤدي التحيز الناشئ أيضًا إلى حلقة تغذية راجعة ، أو تكرار، إذا أسفرت البيانات المُجمّعة لخوارزمية ما عن استجابات واقعية تُعاد تغذيتها إلى الخوارزمية. ^{[ 71 ]}^{[ 72 ]} على سبيل المثال، أشارت محاكاة برنامج التنبؤ بالشرطة (PredPol)، المُستخدم في أوكلاند، كاليفورنيا، إلى زيادة في وجود الشرطة في الأحياء ذات الأغلبية السوداء استنادًا إلى بيانات الجريمة التي أبلغ عنها الجمهور. ^{[ 73 ]} أظهرت المحاكاة أن الجمهور أبلغ عن الجرائم بناءً على رؤية سيارات الشرطة، بغض النظر عما تفعله الشرطة. فسّرت المحاكاة مشاهدات سيارات الشرطة في نمذجة تنبؤاتها بالجريمة، وبالتالي ستُنسب زيادة أكبر في وجود الشرطة داخل تلك الأحياء. ^{[ 71 ]}^{[ 74 ]}^{[ 75 ]} حذّر فريق تحليل بيانات حقوق الإنسان ، الذي أجرى المحاكاة، من أنه في الأماكن التي يُعد فيها التمييز العنصري عاملًا في الاعتقالات، يُمكن أن تُعزز حلقات التغذية الراجعة هذه التمييز العنصري في عمل الشرطة وتُديمه. ^{[ 72 ]} ومن الأمثلة المعروفة الأخرى على هذا النوع من الخوارزميات التي تُظهر هذا السلوك برنامج COMPAS ، وهو برنامج يُحدد احتمالية أن يصبح الفرد مُجرماً. غالباً ما يُنتقد البرنامج لتصنيفه الأفراد السود كمجرمين أكثر من غيرهم، ثم يُعيد تغذية البيانات إلى نفسه في حال أصبح الأفراد مُجرمين مُسجلين، مما يُعزز التحيز الناتج عن مجموعة البيانات التي يعمل عليها البرنامج. ^{[ 76 ]}

يمكن لأنظمة التوصية، كتلك المستخدمة في التوصية بمقاطع الفيديو أو المقالات الإخبارية على الإنترنت، أن تُنشئ حلقات تغذية راجعة. ^{[ 77 ]} فعندما ينقر المستخدمون على محتوى تقترحه الخوارزميات، فإن ذلك يؤثر على مجموعة الاقتراحات التالية. ^{[ 78 ]} ومع مرور الوقت، قد يؤدي هذا إلى دخول المستخدمين في فقاعة تصفية ، وبالتالي عدم إدراكهم للمحتوى المهم أو المفيد. ^{[ 79 ]}^{[ 80 ]}

تأثير

التأثيرات التجارية

قد تُصمَّم خوارزميات الشركات بحيث تُفضِّل، بشكلٍ خفي، ترتيبات أو اتفاقيات مالية بين الشركات، دون علم المستخدم الذي قد يظنّ خطأً أن الخوارزمية محايدة. على سبيل المثال، ابتكرت الخطوط الجوية الأمريكية خوارزمية للبحث عن الرحلات في ثمانينيات القرن الماضي. كان البرنامج يعرض مجموعة من الرحلات من شركات طيران مختلفة للعملاء، لكنه كان يُعطي الأولوية للعوامل التي تُحسِّن رحلاتها، بغض النظر عن السعر أو الراحة. وفي شهادته أمام الكونغرس الأمريكي ، صرَّح رئيس الشركة صراحةً بأن النظام صُمِّم بهدف اكتساب ميزة تنافسية من خلال المعاملة التفضيلية. ^{[ 81 ]}^{: 2}^{[ 21 ]}^{: 331}

في ورقة بحثية نُشرت عام ١٩٩٨ تصف جوجل ، تبنى مؤسسو الشركة سياسة الشفافية في نتائج البحث فيما يتعلق بالإعلانات المدفوعة، بحجة أن "محركات البحث الممولة بالإعلانات ستكون منحازة بطبيعتها لصالح المعلنين وعلى حساب احتياجات المستهلكين". ^{[ ٨٢ ]} ويُعد هذا الانحياز تلاعبًا "خفيًا" بالمستخدم. ^{[ ٨١ ]}^{: ٣}

سلوك التصويت

أظهرت سلسلة من الدراسات حول الناخبين المترددين في الولايات المتحدة والهند أن نتائج محركات البحث قادرة على تغيير نتائج التصويت بنحو 20%. وخلص الباحثون إلى أن المرشحين "لا يملكون أي وسيلة للمنافسة" إذا ما عززت خوارزمية، سواء بقصد أو بدون قصد، ظهور صفحات مرشح منافس. ^{[ 83 ]} وكان مستخدمو فيسبوك الذين شاهدوا رسائل متعلقة بالتصويت أكثر ميلاً للتصويت. وأظهرت تجربة عشوائية أجريت عام 2010 على مستخدمي فيسبوك زيادة بنسبة 20% (340,000 صوت) بين المستخدمين الذين شاهدوا رسائل تشجع على التصويت، بالإضافة إلى صور لأصدقائهم الذين أدلوا بأصواتهم. ^{[ 84 ]} وحذر الباحث القانوني جوناثان زيتراين من أن هذا قد يخلق تأثير "التلاعب الرقمي بالدوائر الانتخابية"، وهو "العرض الانتقائي للمعلومات من قبل وسيط لتحقيق أجندته، بدلاً من خدمة مستخدميه"، إذا تم التلاعب به عمداً. ^{[ 85 ]}^{: 335}

التمييز بين الجنسين

في عام ٢٠١٦، اكتُشف أن موقع لينكدإن، وهو موقع للتواصل المهني، كان يُوصي بأسماء نسائية مُشتقة من أسماء الرجال عند البحث عن أسماء الرجال. على سبيل المثال، كان البحث عن اسم "أندريا" يُظهر رسالة تسأل المستخدم عما إذا كان يقصد "أندرو"، بينما لم تكن رسائل البحث عن "أندرو" تسأل عما إذا كان المستخدم يقصد "أندريا". وأوضحت الشركة أن هذا كان نتيجة تحليل تفاعلات المستخدمين مع الموقع. ^{[ ٨٦ ]}

في عام 2012، وُجهت اتهامات لسلسلة متاجر " تارجت" لجمعها بياناتٍ لاستنتاج حمل عميلاتها، حتى وإن لم يُعلنّ عن ذلك، ثم مشاركة هذه المعلومات مع شركاء التسويق. ^{[ 87 ]}^{: 94}^{[ 88 ]} ولأن البيانات كانت مُتوقعة، وليست مُلاحظة أو مُبلغ عنها بشكل مباشر، لم تكن الشركة مُلزمة قانونًا بحماية خصوصية هؤلاء العميلات. ^{[ 87 ]}^{: 98}

وُجهت اتهاماتٌ لخوارزميات البحث على الإنترنت بالتحيز. فقد تُعطي نتائج جوجل الأولوية للمحتوى الإباحي في مصطلحات البحث المتعلقة بالجنس، مثل "مثلية". ويمتد هذا التحيز ليشمل عرض محرك البحث لمحتوى شائع ولكنه ذو طابع جنسي في عمليات البحث المحايدة. فعلى سبيل المثال، تظهر مقالات "أكثر 25 رياضية إثارة" كنتائج في الصفحة الأولى عند البحث عن "رياضيات". ^{[ 89 ]}^{: 31} وفي عام 2017، عدّلت جوجل هذه النتائج إلى جانب نتائج أخرى كشفت عن جماعات كراهية ، وآراء عنصرية، وإساءة معاملة الأطفال، ومواد إباحية، ومحتوى آخر مزعج ومسيء. ^{[ 90 ]} ومن الأمثلة الأخرى عرض وظائف ذات رواتب أعلى للمتقدمين الذكور على مواقع البحث عن وظائف. ^{[ 91 ]} كما لاحظ الباحثون أن الترجمة الآلية تُظهر ميلاً قوياً نحو تفضيل الذكور. ^{[ 92 ]} ويُلاحظ هذا بشكل خاص في المجالات المرتبطة بتوزيع غير متوازن بين الجنسين، بما في ذلك وظائف العلوم والتكنولوجيا والهندسة والرياضيات . ^{[ 93 ]} في الواقع، تفشل أنظمة الترجمة الآلية الحالية في محاكاة التوزيع الواقعي للعاملات. ^{[ 94 ]}

في عام ٢٠١٥، أوقفت أمازون نظام الذكاء الاصطناعي الذي طورته لفحص طلبات التوظيف بعد أن تبين لها تحيزه ضد النساء. ^{[ ٩٥ ]} استبعدت أداة التوظيف المتقدمات اللاتي درسن في كليات نسائية بالكامل، والسير الذاتية التي تضمنت كلمة "نساء". ^{[ ٩٦ ]} ظهرت مشكلة مماثلة مع خدمات بث الموسيقى؛ ففي عام ٢٠١٩، اكتُشف أن خوارزمية نظام التوصيات المستخدمة من قِبل سبوتيفاي متحيزة ضد الفنانات. ^{[ ٩٧ ]} إذ اقترحت توصيات سبوتيفاي للأغاني فنانين ذكورًا أكثر من الفنانات.

التمييز العنصري والإثني

تعرضت الخوارزميات لانتقادات باعتبارها وسيلة لإخفاء التحيزات العنصرية في عملية صنع القرار. ^{[ 98 ]}^{[ 99 ]}^{[ 100 ]}^{: 158} ونظرًا لكيفية معاملة بعض الأعراق والجماعات الإثنية في الماضي، غالبًا ما تحتوي البيانات على تحيزات خفية. ^{[ 101 ]} على سبيل المثال، من المرجح أن يتلقى السود أحكامًا أطول من البيض الذين ارتكبوا الجريمة نفسها. ^{[ 102 ]}^{[ 103 ]} وهذا قد يعني أن النظام يُضخّم التحيزات الأصلية في البيانات.

في عام ٢٠١٥، اعتذرت جوجل بعد أن اشتكى مستخدمان من ذوي البشرة السمراء من أن خوارزمية التعرف على الصور في تطبيق الصور الخاص بها صنّفتهما على أنهما غوريلا . ^{[ ١٠٤ ]} وفي عام ٢٠١٠، وُجهت انتقادات لكاميرات نيكون عندما سألت خوارزميات التعرف على الصور المستخدمين الآسيويين باستمرار عما إذا كانوا يرمشون. ^{[ ١٠٥ ]} تُعدّ هذه الأمثلة نتاجًا للتحيز في مجموعات البيانات البيومترية . ^{[ ١٠٤ ]} تُستخلص البيانات البيومترية من جوانب الجسم، بما في ذلك السمات العرقية سواءً كانت مُلاحظة أو مُستنتجة، والتي يمكن تحويلها بعد ذلك إلى نقاط بيانات. ^{[ ١٠٠ ]}^{: ١٥٤} قد تختلف دقة تقنية التعرف على الكلام باختلاف لهجة المستخدم. وقد يكون هذا ناتجًا عن نقص بيانات التدريب للمتحدثين بتلك اللهجة. ^{[ ١٠٦ ]}

يمكن استنتاج البيانات البيومترية المتعلقة بالعرق بدلاً من ملاحظتها. فعلى سبيل المثال، أظهرت دراسة أجريت عام 2012 أن الأسماء الشائعة المرتبطة بالسود كانت أكثر عرضة لإظهار نتائج بحث تشير إلى سجلات اعتقال، بغض النظر عما إذا كان هناك أي سجل جنائي باسم ذلك الشخص. ^{[ 107 ]} كما وجدت دراسة أخرى أجريت عام 2015 أن السود والآسيويين يُفترض أن لديهم رئتين أقل كفاءة بسبب عدم دمج بيانات التعرض العرقي والمهني في نموذج خوارزمية التنبؤ بوظائف الرئة. ^{[ 108 ]}^{[ 109 ]}

في عام 2019، كشفت دراسة بحثية أن خوارزمية رعاية صحية تُسوّقها شركة أوبتوم تُفضّل المرضى البيض على المرضى السود الأكثر مرضًا. تتنبأ الخوارزمية بتكلفة المرضى على نظام الرعاية الصحية في المستقبل. ومع ذلك، فإن التكلفة ليست محايدة عرقيًا، إذ تكبّد المرضى السود تكاليف طبية أقل بنحو 1800 دولار سنويًا مقارنةً بالمرضى البيض الذين يعانون من نفس عدد الأمراض المزمنة، مما أدى إلى تصنيف الخوارزمية المرضى البيض على أنهم معرضون لخطر الإصابة بمشاكل صحية مستقبلية بنفس قدر المرضى السود الذين يعانون من أمراض أكثر بكثير. ^{[ 110 ]}

كشفت دراسة أجراها باحثون في جامعة كاليفورنيا في بيركلي في نوفمبر 2019 أن خوارزميات الرهن العقاري تمارس التمييز ضد الأمريكيين من أصول لاتينية وأفريقية، حيث تميز ضد الأقليات بناءً على "الجدارة الائتمانية"، وهو معيار متجذر في قانون الإقراض العادل الأمريكي الذي يسمح للمقرضين باستخدام معايير الهوية لتحديد ما إذا كان الفرد مؤهلاً للحصول على القروض. وقد وُجدت هذه الخوارزميات تحديدًا في شركات التكنولوجيا المالية، وثبت أنها تميز ضد الأقليات. ^{[ 111 ]}

دراسة أخرى، نُشرت في أغسطس 2024، حول نماذج اللغة الكبيرة ، تبحث في كيفية مساهمة نماذج اللغة في ترسيخ العنصرية الخفية، لا سيما من خلال التحيز اللهجي ضد متحدثي اللغة الإنجليزية الأمريكية الأفريقية. وتُبرز الدراسة أن هذه النماذج تُظهر صورًا نمطية سلبية عن متحدثي هذه اللغة أكثر من أي تحيزات بشرية مُسجلة، بينما تكون صورها النمطية الظاهرة أكثر إيجابية. يُثير هذا التناقض مخاوف بشأن العواقب الضارة المحتملة لمثل هذه التحيزات في عمليات صنع القرار. ^{[ 112 ]}

وجدت دراسة أجريت عام 2018 أن أنظمة تصنيف الجنس التجارية سجلت معدلات خطأ أعلى بكثير بالنسبة للنساء ذوات البشرة الداكنة، حيث وصلت معدلات الخطأ إلى 34.7%، مقارنة بدقة شبه مثالية بالنسبة للرجال ذوي البشرة الفاتحة. ^{[ 113 ]}

إنفاذ القانون والإجراءات القانونية

تُستخدم الخوارزميات بالفعل في العديد من التطبيقات في الأنظمة القانونية. ومن الأمثلة على ذلك برنامج COMPAS ، وهو برنامج تجاري تستخدمه المحاكم الأمريكية على نطاق واسع لتقييم احتمالية عودة المتهم إلى ارتكاب الجريمة . وتزعم مؤسسة ProPublica أن متوسط مستوى خطر العودة إلى الإجرام الذي يحدده برنامج COMPAS للمتهمين السود أعلى بكثير من متوسط مستوى الخطر الذي يحدده البرنامج للمتهمين البيض، وأن احتمالية تصنيف المتهمين السود خطأً على أنهم "عاليي الخطورة" تبلغ ضعف احتمالية تصنيف المتهمين البيض كذلك. ^{[ 114 ]}^{[ 115 ]}

من الأمثلة على ذلك استخدام تقييمات المخاطر في إصدار الأحكام الجنائية في الولايات المتحدة وجلسات الإفراج المشروط ، حيث كان يُعرض على القضاة درجة مُولّدة خوارزميًا تهدف إلى عكس احتمالية تكرار السجين للجريمة. ^{[ 116 ]} خلال الفترة الممتدة من عام 1920 إلى عام 1970، كانت جنسية والد المجرم تُؤخذ في الاعتبار عند حساب درجات تقييم المخاطر هذه. ^{[ 117 ]}^{: 4} واليوم، تُشارك هذه الدرجات مع القضاة في أريزونا، وكولورادو، وديلاوير، وكنتاكي، ولويزيانا، وأوكلاهوما، وفرجينيا، وواشنطن، وويسكونسن. وقد كشف تحقيق مستقل أجرته مؤسسة ProPublica أن هذه الدرجات كانت غير دقيقة في 80% من الحالات، وأنها منحازة بشكل غير متناسب لتُشير إلى أن السود أكثر عرضة لخطر الانتكاس بنسبة 77% مقارنةً بالبيض. ^{[ 116 ]}

إحدى الدراسات التي هدفت إلى بحث "المخاطر والعرق والعودة إلى الإجرام: التحيز التنبؤي والتأثير المتباين" تزعم وجود احتمال مضاعف (45% مقابل 23%) لتصنيف المتهمين السود بشكل خاطئ على أنهم يشكلون خطراً أكبر مقارنةً بالمتهمين البيض، على الرغم من عدم وجود أي سجل موثق للعودة إلى الإجرام خلال فترة مراقبة استمرت عامين. ^{[ 118 ]}

في سياق الاحتجاز قبل المحاكمة، تجادل مقالة قانونية بأن تقييمات المخاطر الخوارزمية تنتهك حقوق الحماية المتساوية المنصوص عليها في التعديل الرابع عشر للدستور الأمريكي على أساس العرق، حيث يُزعم أن الخوارزميات تمييزية بشكل واضح، وتؤدي إلى معاملة غير متكافئة، وليست مصممة بدقة. ^[¹¹⁹^]

خطاب الكراهية على الإنترنت

في عام ٢٠١٧، كشفت وثائق داخلية لفيسبوك أن خوارزمية مصممة لإزالة خطاب الكراهية على الإنترنت تُفضّل الرجال البيض على الأطفال السود عند تقييم المحتوى المسيء. ^{[ ١٢٠ ]} صُممت هذه الخوارزمية، التي تجمع بين برامج حاسوبية ومراجعين بشريين للمحتوى، لحماية فئات عامة بدلاً من فئات فرعية محددة. فعلى سبيل المثال، تُحظر المنشورات التي تُدين "المسلمين"، بينما تُسمح بالمنشورات التي تُدين "المسلمين المتطرفين". ومن النتائج غير المتوقعة لهذه الخوارزمية السماح بخطاب الكراهية ضد الأطفال السود، لأنها تُدين فئة "الأطفال" من السود، بدلاً من "جميع السود"، في حين أن "جميع الرجال البيض" يُؤدي إلى الحظر، لأن البيض والذكور لا يُعتبرون فئات فرعية. ^{[ ١٢٠ ]} كما وُجد أن فيسبوك يسمح لمشتري الإعلانات باستهداف "كارهي اليهود" كفئة من المستخدمين، وهو ما وصفته الشركة بأنه نتيجة غير مقصودة للخوارزميات المستخدمة في تقييم البيانات وتصنيفها. كما سمح تصميم الشركة لمشتري الإعلانات بحجب إعلانات الإسكان عن الأمريكيين من أصل أفريقي. ^{[ 121 ]}

على الرغم من استخدام الخوارزميات لتتبع خطاب الكراهية وحظره، فقد وُجد أن بعضها أكثر عرضة بنسبة 1.5 مرة لتصنيف المعلومات المنشورة من قبل المستخدمين السود، وأكثر عرضة بنسبة 2.2 مرة لتصنيف المعلومات على أنها خطاب كراهية إذا كُتبت باللغة الإنجليزية الأمريكية الأفريقية . ^{[ 122 ]}^{[ 123 ]}

مراقبة

قد يُنظر إلى برامج كاميرات المراقبة على أنها ذات طابع سياسي بطبيعتها، لأنها تتطلب خوارزميات للتمييز بين السلوكيات الطبيعية وغير الطبيعية، ولتحديد هوية الأشخاص الموجودين في مواقع معينة في أوقات محددة. ^{[ 18 ]}^{: 572} وقد تبين أن قدرة هذه الخوارزميات على التعرف على الوجوه عبر مختلف الأعراق محدودة بتنوع الصور في قاعدة بيانات التدريب؛ فإذا كانت غالبية الصور تنتمي إلى عرق أو جنس واحد، يكون البرنامج أكثر قدرة على التعرف على أفراد آخرين من نفس العرق أو الجنس. ^{[ 124 ]} ومع ذلك، فإن حتى عمليات تدقيق أنظمة التعرف على الصور هذه محفوفة بالمخاطر الأخلاقية، وقد أشار بعض الباحثين إلى أن سياق هذه التقنية سيؤثر دائمًا بشكل غير متناسب على المجتمعات التي تخضع أنشطتها لمراقبة مفرطة. ^{[ 125 ]} فعلى سبيل المثال، كشف تحليل أُجري عام 2002 لبرنامج يُستخدم لتحديد هوية الأفراد في صور كاميرات المراقبة عن عدة أمثلة على التحيز عند تشغيله على قواعد بيانات جنائية. وقد تبين أن البرنامج يتعرف على الرجال أكثر من النساء، وكبار السن أكثر من الشباب، ويتعرف على الآسيويين والأمريكيين من أصل أفريقي وغيرهم من الأعراق أكثر من البيض. ^{[ 35 ]}^{: 190} وجدت دراسة أجريت عام 2018 أن برامج التعرف على الوجوه تُرجّح دقة تحديدها للذكور ذوي البشرة الفاتحة (عادةً الأوروبيين)، مع معدلات دقة أقل قليلاً للإناث ذوات البشرة الفاتحة. أما الذكور والإناث ذوو البشرة الداكنة، فكانت احتمالية تحديدهم بدقة بواسطة برامج التعرف على الوجوه أقل بكثير. تُعزى هذه التفاوتات إلى نقص تمثيل المشاركين ذوي البشرة الداكنة في مجموعات البيانات المستخدمة لتطوير هذا البرنامج. ^{[ 126 ]}^{[ 127 ]}

التمييز ضد مجتمع المثليين والمتحولين جنسياً

في عام 2011، أفاد مستخدمو تطبيق Grindr للمواعدة بين المثليين أن خوارزمية التوصيات في متجر تطبيقات أندرويد كانت تربط Grindr بتطبيقات مصممة للعثور على مرتكبي الجرائم الجنسية، وهو ما اعتبره النقاد ربطًا غير دقيق بين المثلية الجنسية والبيدوفيليا . انتقد الكاتب مايك أناني هذا الربط في مجلة The Atlantic ، مجادلًا بأن مثل هذه الروابط تزيد من وصم الرجال المثليين . ^{[ 128 ]} في عام 2009، أزالت شركة أمازون ، وهي شركة بيع بالتجزئة عبر الإنترنت ، 57000 كتاب من قوائمها بعد أن وسّع تغيير في خوارزميتها قائمة "المحتوى المخصص للبالغين" لتشمل أي كتاب يتناول الجنس أو مواضيع المثلية الجنسية، مثل رواية Brokeback Mountain التي نالت استحسان النقاد . ^{[ 129 ]}^{[ 22 ]}^{: 5}^{[ 130 ]}

في عام 2019، تبين أن البحث على فيسبوك عن "صور صديقاتي" يُظهر اقتراحات مثل "بملابس السباحة" أو "على الشاطئ". في المقابل، لم يُظهر البحث عن "صور أصدقائي" أي نتائج. ^{[ 131 ]}

لوحظ أن تقنية التعرف على الوجوه تُسبب مشاكل للأفراد المتحولين جنسيًا. ففي عام ٢٠١٨، وردت تقارير عن سائقي أوبر من المتحولين جنسيًا أو الذين يمرون بمرحلة التحول الجنسي، حيث واجهوا صعوبة في استخدام برنامج التعرف على الوجوه الذي تستخدمه أوبر كإجراء أمني مُدمج. ونتيجة لذلك، تم تعليق حسابات بعض سائقي أوبر المتحولين جنسيًا، مما أدى إلى خسارتهم لبعض الأجرة وربما فقدان وظائفهم، وذلك بسبب صعوبة البرنامج في التعرف على وجوههم. ^{[ ١٣٢ ]} ورغم أن الحل الأمثل لهذه المشكلة يبدو في إدراج المتحولين جنسيًا في مجموعات تدريب نماذج التعلم الآلي، إلا أن بعض مقاطع الفيديو على يوتيوب التي جُمعت لاستخدامها في بيانات التدريب لم تحصل على موافقة المتحولين جنسيًا الذين ظهروا فيها، مما أدى إلى انتهاك خصوصيتهم. ^{[ ١٣٣ ]}

أُجريت دراسة في جامعة ستانفورد عام ٢٠١٧ اختبرت خوارزميات في نظام تعلّم آلي، زُعم أنه قادر على تحديد الميول الجنسية للفرد بناءً على صور وجهه. ^{[ ١٣٤ ]} تنبأ النموذج في الدراسة بالتمييز الصحيح بين الرجال المثليين وغير المثليين بنسبة ٨١٪، والتمييز الصحيح بين النساء المثليات وغير المثليات بنسبة ٧٤٪. أثارت هذه الدراسة ردود فعل غاضبة من مجتمع المثليين والمتحولين جنسيًا، الذين تخوفوا من التداعيات السلبية المحتملة لهذا النظام الذكي على أفراد مجتمعهم، إذ قد يعرضهم لخطر الكشف عن ميولهم الجنسية رغماً عنهم. ^{[ ١٣٥ ]}

التمييز ضد ذوي الإعاقة

بينما تم تقييم معايير العدالة الخوارزمية بناءً على جوانب مختلفة من التحيز - كالجنس والعرق والوضع الاجتماعي والاقتصادي - غالبًا ما يتم إغفال الإعاقة. ^{[ 136 ]}^{[ 137 ]} إن التهميش الذي يواجهه الأشخاص ذوو الإعاقة حاليًا في المجتمع يُترجم إلى أنظمة وخوارزميات الذكاء الاصطناعي، مما يخلق مزيدًا من الإقصاء. ^{[ 138 ]}^{[ 139 ]}

إن الطبيعة المتغيرة للإعاقات وتوصيفها الذاتي يجعلان معالجتها حسابيًا أكثر صعوبة. كما أن نقص البيانات التاريخية المعمقة في تعريف الإعاقات، وجمع بيانات انتشارها وحالات الإصابة بها في الاستبيانات، وتأسيس الاعتراف بها، يزيد من الجدل والغموض في قياسها وحساباتها. لطالما كان تعريف الإعاقة موضع نقاش، حيث تحول مؤخرًا من النموذج الطبي إلى النموذج الاجتماعي ، الذي يرى أن الإعاقة ناتجة عن عدم التوافق بين تفاعلات الأفراد والعوائق في بيئتهم، وليس عن قصور أو حالات صحية. ويمكن أن تكون الإعاقات ظرفية أو مؤقتة، ^{[ 140 ]} وتُعتبر في حالة تغير مستمر. تتسم الإعاقات بتنوع هائل، ^{[ 141 ]} وتقع ضمن طيف واسع، وقد تكون فريدة لكل فرد. وتختلف هوية الأفراد بناءً على أنواع الإعاقة التي يعانون منها، وكيفية استخدامهم للتقنيات المساعدة، ومن يدعمونهم. ويضفي هذا التباين الكبير في تجارب الأفراد طابعًا شخصيًا على كيفية ظهور الإعاقة. تُستبعد الهويات المتداخلة والتجارب المتقاطعة ^{[ 142 ] من الإحصاءات ومجموعات البيانات،}^{[ 143 ]} وبالتالي فهي ممثلة تمثيلاً ناقصاً وغير موجودة في بيانات التدريب. ^{[ 144 ]} ونتيجة لذلك، يتم تدريب نماذج التعلم الآلي بشكل غير عادل، وتُرسّخ أنظمة الذكاء الاصطناعي المزيد من التحيزات الخوارزمية. ^{[ 145 ]} على سبيل المثال، إذا لم يتم إشراك الأشخاص الذين يعانون من صعوبات في النطق في تدريب ميزات التحكم الصوتي ومساعدي الذكاء الاصطناعي الأذكياء، فلن يتمكنوا من استخدام الميزة، أو ستكون الاستجابات الواردة من Google Home أو Alexa ضعيفة للغاية.

نظراً للصورة النمطية والوصمات التي لا تزال قائمة حول ذوي الإعاقة، فإن حساسية الكشف عن هذه الخصائص المميزة تنطوي على تحديات جسيمة تتعلق بالخصوصية. ولأن الإفصاح عن معلومات الإعاقة قد يُعدّ من المحرمات ويؤدي إلى مزيد من التمييز ضد هذه الفئة، فهناك نقص في البيانات الصريحة المتاحة للأنظمة الخوارزمية للتفاعل معها. ويواجه الأشخاص ذوو الإعاقة أضراراً ومخاطر إضافية فيما يتعلق بدعمهم الاجتماعي، وتكاليف التأمين الصحي، والتمييز في مكان العمل، وغيرها من الاحتياجات الأساسية عند الإفصاح عن إعاقتهم. وتزيد الخوارزميات من تفاقم هذه الفجوة من خلال إعادة إنتاج التحيزات الموجودة أصلاً في الأنظمة والهياكل المجتمعية. ^{[ 146 ]}^{[ 147 ]}

بحث جوجل

بينما يُنشئ المستخدمون نتائج تُستكمل تلقائيًا، فشلت جوجل في إزالة النصوص العنصرية والجنسية التي تظهر في نتائج البحث التلقائي. على سبيل المثال، تشير صفية نوبل في كتابها "خوارزميات القمع: كيف تُعزز محركات البحث العنصرية " إلى مثال البحث عن "فتيات سوداوات"، والذي أفيد بأنه يُظهر صورًا إباحية. وادّعت جوجل أنها غير قادرة على حذف تلك الصفحات إلا إذا اعتُبرت غير قانونية. ^{[ 148 ]}

معوقات البحث

تُعيق عدة مشكلات دراسة التحيز الخوارزمي واسع النطاق، مما يُعيق تطبيق الدراسات الأكاديمية الدقيقة والفهم العام. ^{[ 17 ]}^{: 5}^{[ 149 ]}^{[ 150 ]}

تعريف العدالة

ركزت الدراسات المتعلقة بالتحيز الخوارزمي على معالجة مسألة العدالة، إلا أن تعريفات العدالة غالبًا ما تكون غير متوافقة فيما بينها ومع واقع تحسين التعلم الآلي. ^{[ 151 ]}^{[ 152 ]} فعلى سبيل المثال، قد يشير تعريف العدالة بأنها "مساواة في النتائج" ببساطة إلى نظام يُنتج النتيجة نفسها لجميع الأفراد، بينما قد يأخذ تعريف العدالة بأنها "مساواة في المعاملة" في الاعتبار الاختلافات بين الأفراد بشكل صريح. ^{[ 153 ]}^{: 2} ونتيجة لذلك، يُوصف مفهوم العدالة أحيانًا بأنه يتعارض مع دقة النموذج، مما يُشير إلى وجود توترات كامنة بين أولويات الرفاه الاجتماعي وأولويات الشركات المُصممة لهذه الأنظمة. ^{[ 154 ]}^{: 2} واستجابةً لهذا التوتر، اقترح الباحثون توخي المزيد من الحذر في تصميم واستخدام الأنظمة التي تعتمد على خوارزميات قد تكون متحيزة، مع تعريف "العدالة" وفقًا لتطبيقات وسياقات محددة. ^{[ 155 ]}

تعقيد

تتسم العمليات الخوارزمية بالتعقيد ، وغالبًا ما تتجاوز فهم مستخدميها. ^{[ 17 ]}^{: 2}^{[ 156 ]}^{: 7} قد لا يفهم حتى أولئك المشاركين في إنشائها العمليات واسعة النطاق. ^{[ 157 ]} غالبًا ما تُحجب أساليب وعمليات البرامج المعاصرة بسبب عدم القدرة على معرفة كل احتمالات مدخلات أو مخرجات الكود. ^{[ 35 ]}^{: 183} وقد وصف عالم الاجتماع برونو لاتور هذه العملية بأنها "الصندوق الأسود" ، وهي عملية "يُصبح فيها العمل العلمي والتقني غير مرئي بسبب نجاحه. فعندما تعمل الآلة بكفاءة، وعندما تُحسم مسألة ما، لا يحتاج المرء إلا إلى التركيز على مدخلاتها ومخرجاتها وليس على تعقيدها الداخلي. وبالتالي، ومن المفارقات، أنه كلما زاد نجاح العلم والتكنولوجيا، كلما أصبحا أكثر غموضًا وإبهامًا." ^{[ 158 ]} وقد انتقد آخرون استعارة الصندوق الأسود، مشيرين إلى أن الخوارزميات الحالية ليست صندوقًا أسود واحدًا، بل شبكة من الصناديق السوداء المترابطة. ^{[ 159 ]}^{: 92}

يُمكن إيجاد مثال على هذا التعقيد في نطاق المدخلات المُستخدمة لتخصيص التعليقات. فقد أخذ موقع التواصل الاجتماعي فيسبوك في الاعتبار ما لا يقل عن 100,000 نقطة بيانات لتحديد تصميم صفحة المستخدم على وسائل التواصل الاجتماعي في عام 2013. ^{[ 160 ]} علاوة على ذلك، قد تعمل فرق كبيرة من المبرمجين بمعزل نسبي عن بعضها البعض، وقد لا تُدرك التأثيرات التراكمية للقرارات الصغيرة ضمن خوارزميات مُترابطة ومعقدة. ^{[ 33 ]}^{: 118} ليس كل الكود أصليًا، وقد يكون مُستعارًا من مكتبات أخرى، مما يُنشئ مجموعة مُعقدة من العلاقات بين أنظمة معالجة البيانات وأنظمة إدخال البيانات. ^{[ 10 ]}^{: 22}

تزداد التعقيدات نتيجةً للتعلم الآلي وتخصيص الخوارزميات بناءً على تفاعلات المستخدمين، مثل النقرات والوقت الذي يقضونه على الموقع، وغيرها من المقاييس. قد تُعيق هذه التعديلات الشخصية محاولات فهم الخوارزميات بشكل عام. ^{[ 161 ]}^{: 367}^{[ 156 ]}^{: 7} أفادت إحدى خدمات بث الراديو، التي لم يُكشف عن هويتها، أنها تستخدم خمس خوارزميات فريدة لاختيار الموسيقى، تُحددها لمستخدميها بناءً على سلوكهم. يُؤدي هذا إلى تجارب مختلفة لنفس خدمات البث بين المستخدمين، مما يُصعّب فهم آلية عمل هذه الخوارزميات. ^{[ 17 ]}^{: 5} كما تُجري الشركات اختبارات A/B بشكل متكرر لتحسين الخوارزميات بناءً على استجابة المستخدمين. على سبيل المثال، يُمكن لمحرك البحث Bing تشغيل ما يصل إلى عشرة ملايين نسخة مُعدّلة من خدمته يوميًا، مما يُؤدي إلى تجارب مختلفة للخدمة بين كل استخدام و/أو مستخدم. ^{[ 17 ]}^{: 5}

انعدام الشفافية

تُعتبر الخوارزميات التجارية ملكية خاصة، وقد تُعامل كأسرار تجارية . ^{[ 17 ]}^{: 2}^{[ 156 ]}^{: 7}^{[ 35 ]}^{: 183} إن معاملة الخوارزميات كأسرار تجارية تحمي الشركات، مثل محركات البحث ، حيث قد تكشف الخوارزمية الشفافة عن أساليب للتلاعب بترتيب نتائج البحث. ^{[ 161 ]}^{: 366} وهذا يُصعّب على الباحثين إجراء مقابلات أو تحليلات لاكتشاف كيفية عمل الخوارزميات. ^{[ 10 ]}^{: 20} ويشير النقاد إلى أن هذه السرية قد تُخفي أيضًا الأساليب غير الأخلاقية المحتملة المستخدمة في إنتاج أو معالجة مخرجات الخوارزميات. ^{[ 161 ]}^{: 369} وقد أشار نقاد آخرون، مثل المحامية والناشطة كاتارزينا شيميليفيتش، إلى أن انعدام الشفافية غالبًا ما يُخفى تحت ستار تعقيد الخوارزميات، مما يحمي الشركات من الكشف عن عملياتها الخوارزمية أو التحقيق فيها. ^{[ 162 ]}

نقص البيانات المتعلقة بالفئات الحساسة

يُعدّ عدم مراعاة بعض الفئات، كالبيانات الديموغرافية للأفراد المحميين بموجب قوانين مكافحة التمييز ، عند جمع البيانات ومعالجتها، عائقًا كبيرًا أمام فهم كيفية معالجة التحيز عمليًا. ^{[ 163 ]} في بعض الحالات، تقلّ فرص جمع هذه البيانات بشكل صريح، كما هو الحال في بصمة الجهاز ، والحوسبة المنتشرة ، وإنترنت الأشياء . وفي حالات أخرى، قد لا يرغب مراقب البيانات في جمع هذه البيانات لأسباب تتعلق بسمعته، أو لأنها تُشكّل مسؤولية قانونية ومخاطر أمنية متزايدة. وقد يكون الأمر كذلك، على الأقل فيما يتعلق باللائحة العامة لحماية البيانات في الاتحاد الأوروبي ، أن هذه البيانات تندرج ضمن أحكام "الفئة الخاصة" (المادة 9)، وبالتالي تخضع لقيود إضافية على جمعها ومعالجتها.

حاول بعض الممارسين تقدير هذه التصنيفات الحساسة المفقودة واستكمالها بهدف الحد من التحيز، على سبيل المثال، بناء أنظمة لاستنتاج الأصل العرقي من الأسماء، ^{[ 164 ]} إلا أن هذا قد يُدخل أشكالاً أخرى من التحيز إذا لم يُنفذ بعناية. ^{[ 165 ]} وقد استعان باحثو التعلم الآلي بتقنيات التشفير المعززة للخصوصية، مثل الحوسبة الآمنة متعددة الأطراف، لاقتراح طرق يمكن من خلالها تقييم التحيز الخوارزمي أو الحد منه دون أن تكون هذه البيانات متاحة لمصممي النماذج كنص واضح . ^{[ 166 ]}

لا يقتصر التحيز الخوارزمي على الفئات المحمية فحسب، بل قد يشمل أيضًا خصائص يصعب ملاحظتها أو تصنيفها، مثل الآراء السياسية. في هذه الحالات، نادرًا ما توجد حقيقة أساسية متاحة بسهولة أو غير مثيرة للجدل ، ويصبح إزالة التحيز من مثل هذا النظام أكثر صعوبة. ^{[ 167 ]} علاوة على ذلك، قد تنشأ ارتباطات خاطئة وعرضية نتيجةً لعدم فهم الفئات المحمية، على سبيل المثال، أسعار التأمين المستندة إلى بيانات تاريخية لحوادث السيارات والتي قد تتداخل، محض صدفة، مع التجمعات السكنية للأقليات العرقية. ^{[ 168 ]}

الحلول

أظهرت دراسة شملت 84 توجيهًا سياسيًا بشأن الذكاء الاصطناعي الأخلاقي أن الإنصاف و"التخفيف من التحيز غير المرغوب فيه" كانا من بين النقاط الشائعة التي تثير القلق، وتمت معالجتهما من خلال مزيج من الحلول التقنية والشفافية والمراقبة، والحق في التعويض وزيادة الرقابة، وجهود التنوع والشمول. ^{[ 169 ]}

اِصطِلاحِيّ

بُذلت محاولات عديدة لابتكار أساليب وأدوات قادرة على كشف ورصد التحيزات داخل الخوارزميات. وتركز هذه المجالات الناشئة على أدوات تُطبق عادةً على بيانات التدريب التي يستخدمها البرنامج، بدلاً من العمليات الداخلية للخوارزمية. وقد تُحلل هذه الأساليب أيضًا مخرجات البرنامج ومدى فائدته، وبالتالي قد تتضمن تحليل مصفوفة الارتباك (أو جدول الارتباك). ^{[ 170 ] [171]}^{[ 172 ]}^{[ 173 ]}^{[ 174 ]}^{[ 175 ]}^{[ 176 ]}^{[ 177 ]}^{[ 178 ]} يُعد الذكاء الاصطناعي القابل للتفسير لكشف تحيز الخوارزميات طريقةً مُقترحةً للكشف عن وجود تحيز في خوارزمية أو نموذج تعلم. ^[179^]^{يُطلق على استخدام التعلم الآلي لكشف التحيز اسم "إجراء تدقيق}^للذكاء الاصطناعي"، حيث يكون "المدقق" خوارزميةً تُحلل نموذج الذكاء الاصطناعي وبيانات التدريب لتحديد التحيزات. ^[¹⁸⁰^] إن ضمان خلو أداة الذكاء الاصطناعي، كالمصنف، من التحيز أصعب من مجرد إزالة المعلومات الحساسة من إشارات الإدخال، لأن هذه المعلومات عادةً ما تكون ضمنية في إشارات أخرى. على سبيل المثال، قد تكشف الهوايات والرياضات والمدارس التي التحق بها مرشح لوظيفة عن جنسه للبرنامج، حتى عند استبعاد هذه المعلومات من التحليل. تتضمن حلول هذه المشكلة ضمان عدم امتلاك النظام الذكي أي معلومات يمكن استخدامها لإعادة بناء المعلومات المحمية والحساسة عن الشخص، كما تم توضيحه لأول مرة في ^[¹⁸¹^] حيث تم تدريب شبكة تعلم عميق في آنٍ واحد لتعلم مهمة ما مع كونها في الوقت نفسه غير متأثرة تمامًا بالخاصية المحمية. تم اقتراح طريقة أبسط في سياق تضمين الكلمات، وتتضمن إزالة المعلومات المرتبطة بالخاصية المحمية. ^[¹⁸²^]

يجري حاليًا صياغة معيار جديد لمعهد مهندسي الكهرباء والإلكترونيات (IEEE ) يهدف إلى تحديد منهجيات تساعد مطوري الخوارزميات على التخلص من مشكلات التحيز، وتوفير الشفافية (للسلطات أو المستخدمين النهائيين ) بشأن وظيفة خوارزمياتهم وآثارها المحتملة. تمت الموافقة على المشروع في فبراير 2017، وهو برعاية لجنة معايير هندسة البرمجيات والأنظمة ^[¹⁸³^] ، وهي لجنة معتمدة من قبل جمعية الحاسبات التابعة لمعهد مهندسي الكهرباء والإلكترونيات . من المتوقع تقديم مسودة المعيار للتصويت في يونيو 2019 ^[¹⁸⁴^]^[¹⁸⁵^]. نُشر المعيار في يناير 2025 ^[¹⁸⁶^{] .}

في عام ٢٠٢٢، أصدر معهد مهندسي الكهرباء والإلكترونيات (IEEE) معيارًا يهدف إلى تحديد منهجيات لمساعدة مطوري الخوارزميات على معالجة قضايا التحيز وتعزيز الشفافية فيما يتعلق بوظيفة خوارزمياتهم وآثارها المحتملة. وقد تمت الموافقة المبدئية على المشروع في فبراير ٢٠١٧، برعاية لجنة معايير هندسة البرمجيات والأنظمة ^{[ ١٨٧ ]} ، وهي لجنة تابعة لجمعية الحاسبات التابعة لمعهد مهندسي الكهرباء والإلكترونيات . يوفر المعيار إرشادات لتوضيح الشفافية للسلطات أو المستخدمين النهائيين، وللحد من التحيزات الخوارزمية. ^{[ ١٨٤ ]}^{[ ١٨٥ ]}^{[ ١٨٨ ]}

الشفافية والمراقبة

تشير المبادئ التوجيهية الأخلاقية المتعلقة بالذكاء الاصطناعي إلى ضرورة المساءلة، وتوصي باتخاذ خطوات لتحسين قابلية تفسير النتائج. ^{[ 189 ]} تشمل هذه الحلول مراعاة "الحق في الفهم" في خوارزميات التعلم الآلي، ومقاومة استخدام التعلم الآلي في الحالات التي لا يمكن فيها تفسير القرارات أو مراجعتها. ^{[ 190 ]} تحقيقًا لهذه الغاية، بدأت بالفعل حركة " الذكاء الاصطناعي القابل للتفسير " داخل منظمات مثل داربا ، لأسباب تتجاوز مجرد معالجة التحيز. ^{[ 191 ]} كما تقترح شركة برايس ووترهاوس كوبرز ، على سبيل المثال، أن مراقبة المخرجات تعني تصميم الأنظمة بطريقة تضمن إمكانية عزل مكونات النظام المنفردة وإيقافها إذا أدت إلى تحريف النتائج. ^{[ 192 ]}

تضمنت إحدى المناهج الأولية لتحقيق الشفافية جعل الخوارزميات مفتوحة المصدر . ^{[ 193 ]} إذ يُمكن الاطلاع على شفرة البرمجيات واقتراح تحسينات من خلال منصات استضافة الشفرة المصدرية . مع ذلك، لا يُحقق هذا المنهج بالضرورة النتائج المرجوة. فبإمكان الشركات والمؤسسات مشاركة جميع الوثائق والشفرة المتاحة، لكن هذا لا يُرسي الشفافية ما لم يفهم الجمهور المعلومات المُقدمة. لذا، يجدر استكشاف دور الجمهور النقدي المهتم في سياق الشفافية. فلا يُمكن محاسبة الخوارزميات دون وجود جمهور نقدي. ^{[ 194 ]}

أطر التوثيق والمساءلة

طُرحت عدة مناهج توثيقية لتحسين الشفافية ودعم تقييم التحيز في الأنظمة الخوارزمية. ومن بين هذه المناهج، يُعد استخدام بطاقات النماذج أحد أكثرها شيوعًا ، إذ تُقدم ملخصات موحدة للاستخدامات المقصودة لنظام الذكاء الاصطناعي، ومؤشرات الأداء، ومجموعات بيانات التقييم، والقيود المعروفة. ^{[ 195 ]} وتشمل الجهود ذات الصلة إعداد جداول بيانات لمجموعات البيانات ، تُحدد مصدر بيانات التدريب وتكوينها وطرق جمعها واستخداماتها الموصى بها. ^{[ 196 ]} تهدف أطر التوثيق هذه إلى توضيح الافتراضات والتحيزات المحتملة الكامنة في بيانات التدريب وأنظمة التعلم الآلي، مما يُساعد الممارسين والمدققين والجهات المتأثرة على فهم سلوك النظام بشكل أفضل.

إلى جانب ممارسات التوثيق، شجع الباحثون وصناع السياسات على استخدام آليات حوكمة منظمة، مثل تقييمات الأثر الخوارزمي ، وإجراءات التقييم القائمة على المخاطر ، والمراقبة اللاحقة للنشر . تسعى هذه العمليات إلى تحديد الآثار المتباينة المحتملة قبل النشر، وضمان استمرار تقييم أنظمة الذكاء الاصطناعي من حيث العدالة أثناء التشغيل الفعلي. تتطلب مبادرات القطاع العام، مثل توجيه كندا بشأن اتخاذ القرارات الآلية، إجراء تقييمات للأثر، وتدابير لتفسير النتائج، وعمليات تدقيق دورية لبعض الأنظمة الآلية عالية المخاطر. ^{[ 197 ]} تُكمل هذه المناهج الإدارية، مجتمعةً، استراتيجيات التخفيف التقنية من خلال ترسيخ المساءلة والشفافية في جميع مراحل دورة حياة تطوير ونشر الذكاء الاصطناعي.

الحق في الانتصاف

من منظور تنظيمي، يدعو إعلان تورنتو إلى تطبيق إطار حقوق الإنسان على الأضرار الناجمة عن التحيز الخوارزمي. ^{[ 198 ]} ويشمل ذلك سنّ قوانين تُلزم مصممي هذه الخوارزميات ببذل العناية الواجبة، وفرض المساءلة عندما تفشل الجهات الفاعلة الخاصة في حماية المصلحة العامة، مع الإشارة إلى أن هذه الحقوق قد تُحجب بسبب تعقيد تحديد المسؤولية ضمن شبكة من العمليات المعقدة والمتشابكة. ^{[ 199 ]} ويقترح آخرون الحاجة إلى آليات تأمين واضحة ضد المسؤولية. ^{[ 200 ]}

التنوع والشمول

وسط مخاوف من أن تصميم أنظمة الذكاء الاصطناعي حكرٌ في المقام الأول على المهندسين البيض الذكور، ^{[ 201 ]} اقترح عدد من الباحثين إمكانية الحد من التحيز الخوارزمي من خلال توسيع نطاق التنوع في صفوف مصممي أنظمة الذكاء الاصطناعي. ^{[ 190 ]}^{[ 169 ]} فعلى سبيل المثال، لا تتجاوز نسبة النساء بين مهندسي تعلم الآلة 12%، ^{[ 202 ]} ويشير قادة الذكاء الاصطناعي السود إلى "أزمة تنوع" في هذا المجال. ^{[ 203 ]} وتسعى مجموعات مثل "السود في الذكاء الاصطناعي" و "المثليون في الذكاء الاصطناعي" إلى خلق بيئات أكثر شمولاً في مجتمع الذكاء الاصطناعي، ومواجهة الرغبات الضارة للشركات التي تتحكم في مسار أبحاث الذكاء الاصطناعي. ^{[ 204 ]} وتشير الانتقادات الموجهة لجهود الشمولية البسيطة إلى أن برامج التنوع لا تستطيع معالجة أشكال عدم المساواة المتداخلة، ودعت إلى تطبيق منظور أكثر دقة للتداخل بين مختلف أشكال التمييز عند تصميم الخوارزميات. ^{[ 205 ]}^{[ 206 ]}^{: 4} جادل باحثون في جامعة كامبريدج بأن معالجة التنوع العرقي تتعثر بسبب "بياض" ثقافة الذكاء الاصطناعي. ^{[ 207 ]}

التخصصات المتداخلة والتعاون

يُمكن أن يُسهم دمج التخصصات المتعددة والتعاون في تطوير أنظمة الذكاء الاصطناعي بدورٍ حاسم في معالجة التحيز الخوارزمي. كما يُمكن أن يُعزز دمج الرؤى والخبرات ووجهات النظر من تخصصات خارج علوم الحاسوب فهمًا أفضل لتأثير الحلول القائمة على البيانات على المجتمع. ومن الأمثلة على ذلك في أبحاث الذكاء الاصطناعي، إطار عمل PACT ( النهج التشاركي لتمكين القدرات في المجتمعات)، وهو إطار عمل مُقترح لتيسير التعاون عند تطوير حلول الذكاء الاصطناعي التي تُعنى بالتأثير الاجتماعي. ^{[ 208 ]} يُحدد هذا الإطار مبادئ توجيهية لمشاركة أصحاب المصلحة عند العمل على مشاريع الذكاء الاصطناعي من أجل الصالح الاجتماعي (AI4SG). ويسعى PACT إلى ترسيخ أهمية جهود التحرر من الاستعمار ونقل السلطة في تصميم حلول الذكاء الاصطناعي التي تُركز على الإنسان. ومن المبادرات الأكاديمية في هذا الصدد، معهد ستانفورد للذكاء الاصطناعي المُركز على الإنسان، والذي يهدف إلى تعزيز التعاون متعدد التخصصات. وتتمثل مهمة المعهد في تطوير أبحاث الذكاء الاصطناعي والتعليم والسياسات والممارسات لتحسين حياة الإنسان. ^{[ 209 ]}

يُسهّل التعاون مع الخبراء الخارجيين ومختلف الجهات المعنية تطوير أنظمة ذكية بطريقة أخلاقية وشاملة ومسؤولة. فهو يُراعي الاعتبارات الأخلاقية، ويفهم السياق الاجتماعي والثقافي، ويُعزز التصميم الذي يُركز على الإنسان، ويستفيد من الخبرات التقنية، ويُعالج الاعتبارات السياسية والقانونية. ^{[ 210 ]} يُعد التعاون بين مختلف التخصصات ضروريًا للحدّ من التحيز في أنظمة الذكاء الاصطناعي، وضمان أن تكون تقنيات الذكاء الاصطناعي عادلة وشفافة وخاضعة للمساءلة.

أنظمة

أوروبا

يتناول النظام العام لحماية البيانات (GDPR)، وهو نظام حماية البيانات المُعدَّل للاتحاد الأوروبي والذي طُبِّق في عام 2018، "اتخاذ القرارات الفردية الآلية، بما في ذلك التنميط " في المادة 22. تحظر هذه القواعد القرارات الآلية "بشكل كامل" التي يكون لها تأثير "هام" أو "قانوني" على الفرد، ما لم تكن مُصرَّحًا بها صراحةً بموجب موافقة أو عقد أو قانون دولة عضو . وفي حال السماح بها، يجب وجود ضمانات، مثل الحق في وجود عنصر بشري في عملية اتخاذ القرار ، والحق غير المُلزم في الحصول على تفسير للقرارات المتخذة. مع أن هذه اللوائح تُعتبر جديدة عمومًا، إلا أن أحكامًا مُطابقة تقريبًا موجودة في جميع أنحاء أوروبا منذ عام 1995، في المادة 15 من توجيه حماية البيانات . وتوجد قواعد وضمانات اتخاذ القرارات الآلية الأصلية في القانون الفرنسي منذ أواخر سبعينيات القرن الماضي. ^{[ 211 ]}

يتناول نظام حماية البيانات العامة (GDPR) التحيز الخوارزمي في أنظمة تحديد السمات الشخصية، بالإضافة إلى الأساليب الإحصائية الممكنة لتنقيته، بشكل مباشر في الفقرة 71، ^{[ 212 ]} مشيرًا إلى أن

ينبغي على المراقب استخدام الإجراءات الرياضية أو الإحصائية المناسبة لتحديد السمات الشخصية، وتنفيذ التدابير الفنية والتنظيمية المناسبة ... التي تمنع، من بين أمور أخرى، الآثار التمييزية على الأشخاص الطبيعيين على أساس الأصل العرقي أو الإثني، أو الرأي السياسي، أو الدين أو المعتقدات، أو عضوية النقابات العمالية، أو الحالة الجينية أو الصحية، أو التوجه الجنسي، أو التي تؤدي إلى تدابير لها مثل هذا التأثير.

على غرار الحق غير الملزم في الحصول على تفسير في الفقرة 71، تكمن المشكلة في الطبيعة غير الملزمة للفقرات التمهيدية . ^{[ 213 ]} ورغم أن فريق العمل المعني بالمادة 29، الذي قدم المشورة بشأن تطبيق قانون حماية البيانات، قد اعتبرها شرطًا أساسيًا ، ^{[ 212 ]} إلا أن أبعادها العملية غير واضحة. وقد طُرحت فكرة أن تقييمات أثر حماية البيانات لتنميط البيانات عالي المخاطر (إلى جانب التدابير الاستباقية الأخرى في مجال حماية البيانات) قد تكون وسيلة أفضل لمعالجة قضايا التمييز الخوارزمي، لأنها تقيد تصرفات من يستخدمون الخوارزميات، بدلًا من إلزام المستهلكين بتقديم شكاوى أو طلب تغييرات. ^{[ 214 ]}

الولايات المتحدة

لا تملك الولايات المتحدة تشريعًا عامًا يُنظّم التحيز الخوارزمي، بل تتعامل مع المشكلة من خلال قوانين مختلفة على مستوى الولايات والمستوى الفيدرالي، والتي قد تختلف باختلاف الصناعة والقطاع وكيفية استخدام الخوارزمية. ^{[ 215 ]} وتُطبّق العديد من السياسات ذاتيًا أو تخضع لرقابة لجنة التجارة الفيدرالية . ^{[ 215 ]} في عام 2016، أصدرت إدارة أوباما الخطة الاستراتيجية الوطنية لأبحاث وتطوير الذكاء الاصطناعي ، ^{[ 216 ]} والتي كان الهدف منها توجيه صانعي السياسات نحو تقييم نقدي للخوارزميات. وقد أوصت الباحثين بـ "تصميم هذه الأنظمة بحيث تكون إجراءاتها وقراراتها شفافة وسهلة التفسير من قِبل البشر، وبالتالي يمكن فحصها بحثًا عن أي تحيز قد تحتويه، بدلًا من مجرد تعلم هذه التحيزات وتكرارها". وبما أن التقرير كان يهدف فقط إلى تقديم التوجيه، فإنه لم يُرسِ أي سابقة قانونية. ^{[ 217 ]}^{: 26}

في عام 2017، أقرت مدينة نيويورك أول قانون للمساءلة الخوارزمية في الولايات المتحدة. ^{[ 218 ]} وقد دخل القانون حيز التنفيذ في 1 يناير 2018، ونص على "إنشاء فريق عمل يقدم توصيات حول كيفية مشاركة المعلومات المتعلقة بأنظمة اتخاذ القرارات الآلية في الوكالات مع الجمهور، وكيفية معالجة الوكالات للحالات التي يتضرر فيها الأفراد من هذه الأنظمة". ^{[ 219 ]} وفي عام 2023، طبقت مدينة نيويورك قانونًا يلزم أصحاب العمل الذين يستخدمون أدوات التوظيف الآلية بإجراء "تدقيقات مستقلة للتحيز" ونشر نتائجها. وشكّل هذا القانون أحد أوائل تدابير الشفافية الإلزامية قانونًا لأنظمة الذكاء الاصطناعي المستخدمة في قرارات التوظيف في الولايات المتحدة. ^{[ 220 ]} ويُطلب من فريق العمل تقديم النتائج والتوصيات لاتخاذ مزيد من الإجراءات التنظيمية في عام 2019. ^{[ 221 ]} وفي 11 فبراير 2019، وبموجب الأمر التنفيذي رقم 13859 ، كشفت الحكومة الفيدرالية عن "مبادرة الذكاء الاصطناعي الأمريكية"، وهي استراتيجية شاملة للحفاظ على ريادة الولايات المتحدة في مجال الذكاء الاصطناعي. تُبرز هذه المبادرة أهمية استدامة البحث والتطوير في مجال الذكاء الاصطناعي، والمعايير الأخلاقية، وتدريب القوى العاملة، وحماية تقنيات الذكاء الاصطناعي الحيوية. ^{[ 222 ]} ويتماشى هذا مع الجهود الأوسع نطاقًا لضمان الشفافية والمساءلة والابتكار في أنظمة الذكاء الاصطناعي في القطاعين العام والخاص. علاوة على ذلك، في 30 أكتوبر/تشرين الأول 2023، وقّع الرئيس الأمر التنفيذي رقم 14110 ، الذي يُشدد على التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي. ويُحدد الأمر نهجًا حكوميًا منسقًا للاستفادة من إمكانات الذكاء الاصطناعي مع الحد من مخاطره، بما في ذلك الاحتيال والتمييز والتهديدات الأمنية القومية. ومن النقاط المهمة في هذا الالتزام تعزيز الابتكار والتعاون المسؤولين بين القطاعات لضمان استفادة المجتمع ككل من الذكاء الاصطناعي. ^{[ 223 ]} وبموجب هذا الأمر، كلف الرئيس جو بايدن الحكومة الفيدرالية بوضع أفضل الممارسات للشركات لتحقيق أقصى استفادة من الذكاء الاصطناعي وتقليل أضراره. ^{[ 224 ]}

الهند

في 31 يوليو/تموز 2018، قُدِّم مشروع قانون حماية البيانات الشخصية. ^{[ 225 ]} يقترح المشروع معايير لتخزين البيانات ومعالجتها ونقلها. ورغم أنه لا يستخدم مصطلح "الخوارزمية"، إلا أنه ينص على أحكام تتعلق بـ"الضرر الناجم عن أي معالجة أو أي نوع من المعالجة التي يقوم بها الوصي". ويُعرّف المشروع "أي رفض أو سحب لخدمة أو منفعة أو سلعة ناتجة عن قرار تقييمي بشأن صاحب البيانات" أو "أي معاملة تمييزية" كمصدر للضرر الذي قد ينشأ عن سوء استخدام البيانات. كما يتضمن أحكامًا خاصة للأشخاص ذوي "الوضع الجنسي المزدوج". ^{[ 226 ]}

انظر أيضاً

مراجع

↑ جاكوبي، جينيفر (13 سبتمبر 2001). "براءة الاختراع رقم US2001021914" . إسباسينت . تم الاطلاع عليه في 4 يوليو 2018 .
↑ هارديبول، سيسيل؛ هيدر، ميهالي؛ راماتشاندران، فيفيك (25 نوفمبر 2024)، "تعليم أخلاقيات الهندسة والذكاء الاصطناعي"، دليل روتليدج الدولي لتعليم أخلاقيات الهندسة ( الطبعة الأولى)، لندن: روتليدج، ص 125-142 ، doi : 10.4324/9781003464259-9 ، ISBN 978-1-003-46425-9
↑ فان إيجن، هانز (2025). "خوارزميات الذكاء الاصطناعي كمعارف (غير) فاضلة" . اكتشف الذكاء الاصطناعي . 5 (2) 2. doi : 10.1007/s44163-024-00219-z .
↑ مارابيلي، ماركو (2024). الذكاء الاصطناعي والأخلاقيات والتمييز في الأعمال . دراسات بالغراف في الإنصاف والتنوع والشمول والتوطين في الأعمال. سبرينغر. doi : 10.1007/978-3-031-53919-0 . ISBN 978-3-031-53918-3.
↑ سوريش، هاريني؛ جوتاج، جون (4 نوفمبر 2021). "إطار عمل لفهم مصادر الضرر خلال دورة حياة التعلم الآلي" . الإنصاف والوصول في الخوارزميات والآليات والتحسين . EAAMO '21. نيويورك، نيويورك، الولايات المتحدة الأمريكية: رابطة آلات الحوسبة. الصفحات 1-9 . doi : 10.1145/3465416.3483305 . ISBN 978-1-4503-8553-4. S2CID 235436386 .
↑ كريستوفيك، أندريه (28 أبريل 2025). "التحيز في اتخاذ القرارات (المدعومة) بالذكاء الاصطناعي: مشاكل قديمة، تقنيات جديدة" . المجلة الدولية لإدارة المحاكم . 16 (1) 3. doi : 10.36745/ijca.598 . ISSN 2156-7964 .
↑ مهرابي، ن.؛ مورستاتر، ف.؛ ساكسينا، ن.؛ ليرمان، ك.؛ غالستيان، أ. (2021). "دراسة استقصائية حول التحيز والإنصاف في التعلم الآلي" . مجلة ACM Computing Surveys . 54 (6): 1–35 . arXiv : 1908.09635 . doi : 10.1145/3457607 . تاريخ الاسترجاع: 30 أبريل 2025 .
↑ ستريفاس، تيد (فبراير 2012). "ما هي الخوارزمية؟ - الثقافة الرقمية" . culturedigitally.org . تم الاطلاع عليه في 20 نوفمبر 2017 .
^ كورمين، توماس هـ. ليسرسون، تشارلز إي. ريفست، رونالد L.؛ شتاين، كليفورد (2009). مقدمة للخوارزميات ( الطبعة الثالثة). كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص. 5 . رقم ISBN 978-0-262-03384-8.
1 2 3 كيتشن، روب (25 فبراير 2016). "التفكير النقدي في الخوارزميات والبحث فيها" (ملف PDF) . المعلومات والاتصالات والمجتمع . 20 (1): 14-29 . doi : 10.1080/1369118X.2016.1154087 . S2CID 13798875 .
↑ "كيف يعمل بحث جوجل" . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .
↑ لوكرسون، فيكتور. "إليك كيف يعمل موجز الأخبار على فيسبوك فعليًا" . مجلة تايم . مؤرشف من الأصل في 14 أبريل 2021. تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ فاندربيلت، توم (7 أغسطس 2013). "العلم الكامن وراء خوارزميات نتفليكس التي تحدد ما ستشاهده لاحقًا" . وايرد . تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ أنجوين، جوليا ؛ ماتو، سوريا (20 سبتمبر 2016). "أمازون تقول إنها تضع العملاء في المقام الأول. لكن خوارزمية التسعير الخاصة بها لا تفعل ذلك - برو بابليكا" . برو بابليكا . تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ ليفينغستون، روب (13 مارس 2017). "مستقبل الإعلان عبر الإنترنت هو البيانات الضخمة والخوارزميات" . ذا كونفرسيشن . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .
↑ هيكمان، ليو (1 يوليو 2013). "كيف تحكم الخوارزميات العالم" . صحيفة الغارديان . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .
1 2 3 4 5 6 سيفر، نيك. "معرفة الخوارزميات" (ملف PDF) . الإعلام في مرحلة انتقالية 8، كامبريدج، ماساتشوستس، أبريل 2013. مؤرشف من الأصل (ملف PDF) في 1 ديسمبر 2017. تم الاطلاع عليه في 18 نوفمبر 2017 .
1 2 3 غراهام، ستيفن دي إن (يوليو 2016). "الجغرافيا المصنفة برمجياً" (ملف PDF) . التقدم في الجغرافيا البشرية (مخطوطة مقدمة). 29 (5): 562-580 . doi : 10.1191/0309132505ph568oa . S2CID 19119278 .
1 2 3 تيويل، إيمون (4 أبريل 2016). "نحو قراءة مقاومة للمعلومات: جوجل، والمشاهدة المقاومة، ومحو الأمية المعلوماتية النقدية" . بوابة: المكتبات والأوساط الأكاديمية . 16 (2): 289-310 . doi : 10.1353/pla.2016.0017 . ISSN 1530-7131 . S2CID 55749077. تاريخ الاسترجاع: 19 نوفمبر 2017 .
↑ كروفورد، كيت (1 أبريل 2013). "التحيزات الخفية في البيانات الضخمة" . مجلة هارفارد للأعمال .
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 فريدمان ، باتيا ؛ نيسنباوم ، هيلين ( يوليو 1996 ) . " التحيز في أنظمة الحاسوب" (ملف PDF) . معاملات ACM في نظم المعلومات . 14 (3): 330-347 . doi : 10.1145/230538.230561 . S2CID 207195759. تاريخ الاسترجاع: 10 مارس 2019 .
1 2 3 4 5 6 جيليسبي، تارلتون؛ بوكزكوفسكي، بابلو؛ فوت ، كريستين (2014). تقنيات الوسائط . كامبريدج: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 1 – 30. ISBN 978-0-262-52537-4.
1 2 دياكوبولوس، نيكولاس. "المساءلة الخوارزمية: حول التحقيق في الصناديق السوداء |" . towcenter.org . تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ ليبارتيتو، كينيث (6 يناير 2011). السرد والخوارزمية: أنماط تقارير الائتمان من القرن التاسع عشر إلى اليوم (ملف PDF) ( مخطوطة مُقدَّمة). doi : 10.2139/SSRN.1736283 . S2CID 166742927. SSRN 1736283 .
1 2 غودمان، برايس؛ فلاكسمان، سيث (2017). "لوائح الاتحاد الأوروبي بشأن اتخاذ القرارات الخوارزمية و"الحق في التفسير"". مجلة AI . 38 (3): 50.arXiv : 1606.08813 . doi : 10.1609 /aimag.v38i3.2741 . S2CID 7373959 .
1 2 3 4 5 6 7 وايزنباوم، جوزيف (1976). قوة الحاسوب والعقل البشري: من الحكم إلى الحساب . سان فرانسيسكو: دبليو إتش فريمان. ISBN 978-0-7167-0464-5.
1 2 جوفري، أندرو (2008). "الخوارزمية". في فولر، ماثيو (محرر). دراسات البرمجيات: معجم . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 15-20 . ISBN 978-1-4356-4787-9.
↑ لوري، ستيلا؛ ماكفيرسون، جوردون (5 مارس 1988). " وصمة عار على المهنة" . المجلة الطبية البريطانية . 296 (6623): 657-658 . doi : 10.1136/bmj.296.6623.657 . PMC 2545288. PMID 3128356 .
↑ "التشكيلة الدائمة" . www.law.georgetown.edu . تم الاطلاع عليه بتاريخ 12 ديسمبر 2024 .
↑ بوولامويني، جوي. "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في تصنيف النوع الاجتماعي التجاري" . مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا . تم الاسترجاع في 12 ديسمبر 2024 .
↑ باروكاس، سولون (19 ديسمبر 2023). العدالة والتعلم الآلي: القيود والفرص . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 978-0-262-04861-3.
↑ ميلر، أليكس ب. (26 يوليو 2018). "هل تريد قرارات أقل تحيزًا؟ استخدم الخوارزميات" . مجلة هارفارد للأعمال . تم الاطلاع عليه في 31 يوليو 2018 .
1 2 3 إنترونا، لوكاس د. (2 ديسمبر 2011). "تأطير الشفرة". النظرية والثقافة والمجتمع . 28 (6): 113-141 . doi : 10.1177/0263276411418131 . S2CID 145190381 .
↑ بوغوست، إيان (15 يناير 2015). "كاتدرائية الحوسبة" . مجلة ذا أتلانتيك . تم الاطلاع عليه في 19 نوفمبر 2017 .
1 2 3 4 5 6 7 إنترونا، لوكاس؛ وود، ديفيد (2004). " تصوير المراقبة الخوارزمية: سياسات أنظمة التعرف على الوجوه" . المراقبة والمجتمع . 2 : 177-198 . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .
1 2 3 4 إنترونا، لوكاس د. (21 ديسمبر 2006). "الحفاظ على قابلية عكس الطي: إبراز أخلاقيات (سياسات) تكنولوجيا المعلومات". الأخلاقيات وتكنولوجيا المعلومات . 9 (1): 11-25 . CiteSeerX 10.1.1.154.1313 . doi : 10.1007/s10676-006-9133-z . S2CID 17355392 .
شيركي ، كلاي. "مقال تأملي حول فكرة السلطة الخوارزمية" بقلم كلاي شيركي . www.shirky.com . مؤرشف من الأصل بتاريخ 15 مارس 2012. تم الاطلاع عليه بتاريخ 20 نوفمبر 2017 .
زيويتز ، مالتي ( 1 يناير 2016). "الخوارزميات الحاكمة: أسطورة، فوضى، وأساليب" . العلوم والتكنولوجيا والقيم الإنسانية . 41 (1): 3-16 . doi : 10.1177/0162243915608948 . ISSN 0162-2439 . S2CID 148023125 .
↑ لاش، سكوت (30 يونيو 2016). "السلطة بعد الهيمنة". النظرية والثقافة والمجتمع . 24 (3): 55-78 . doi : 10.1177/0263276407075956 . S2CID 145639801 .
↑ غودول، أليكسيا؛ أريغوني، أوتلا؛ شاريسي، فيكي ؛ إسكوبار-بلاناس، مارينا؛ هوبونت، إيزابيل (2024)، "فهم تأثير الإشراف البشري على النتائج التمييزية في صنع القرار المدعوم بالذكاء الاصطناعي"، المؤتمر الأوروبي للذكاء الاصطناعي 2024 ، سلسلة آفاق في الذكاء الاصطناعي وتطبيقاته، دار نشر IOS، الصفحات 1067-1074 ، doi : 10.3233/faia240598 ، ISBN 978-1-64368-548-9
1 2 غارسيا، ميغان (1 يناير 2016). "العنصرية في الآلة". مجلة السياسة العالمية . 33 (4): 111-117 . doi : 10.1215/07402775-3813015 . S2CID 151595343 .
↑ "تسجيل مؤتمر ACM FAccT 2021" . fatconference.org . تم الاطلاع عليه بتاريخ 14 نوفمبر 2021 .
↑ أوتشيغامي، رودريغو (20 ديسمبر 2019). "اختراع "الذكاء الاصطناعي الأخلاقي": كيف تتلاعب شركات التكنولوجيا الكبرى بالأوساط الأكاديمية لتجنب التنظيم" . ذا إنترسبت . تم الاطلاع عليه في 11 فبراير 2020 .
↑ "إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0)" (ملف PDF) . المعهد الوطني للمعايير والتكنولوجيا . يناير 2023.
↑ سيرجوت، إم جيه؛ صدري، إف؛ كوالسكي، آر إيه؛ كريواتشيك، إف؛ هاموند، بي؛ كوري، إتش تي (مايو 1986). "قانون الجنسية البريطانية كبرنامج منطقي" (ملف PDF) . مجلة اتصالات رابطة مكائن الحوسبة . 29 (5): 370-386 . doi : 10.1145/5689.5920 . S2CID 5665107. تاريخ الاسترجاع: 18 نوفمبر 2017 .
1 2 "لإيقاف التحيز الخوارزمي، علينا أولاً تعريفه" . بروكينغز . تم الاطلاع عليه في 27 يونيو 2023 .
↑ إيفانز، ميلاني؛ ماثيوز، آنا وايلد (24 أكتوبر 2019). "باحثون يكتشفون تحيزًا عنصريًا في خوارزمية المستشفى" . صحيفة وول ستريت جورنال . الرقم الدولي الموحد للدوريات 0099-9660 . تاريخ الاسترجاع: 27 يونيو 2023 .
↑ "التحيز في التعلم الآلي: أنواعه وأمثلة عليه" . SuperAnnotate . تم الاطلاع عليه بتاريخ 25 فبراير 2026 .
↑ ناصر، لما ح.؛ زعترة، رزان؛ والدروب، شاي؛ كي، جاني شو تشين؛ موخيبر، ميرا؛ خانا، أشيش ك.؛ هيكلين، راشيل س.؛ موخيبر، لما؛ موخيبر، دانا؛ ما، هاوبو؛ ماثور، بيوش (22 يونيو 2023). "التحيز في خوارزميات الذكاء الاصطناعي وتوصيات للتخفيف منه" . مجلة PLOS للصحة الرقمية . 2 (6) e0000278. doi : 10.1371/journal.pdig.0000278 . ISSN 2767-3170 . PMC 10287014. PMID 37347721 .
1 2 3 لو، كويني؛ بويت، مايكل جيه؛ سميث، مايكل دي (23 مايو 2023)، مرآة منظور الفيل: التحقيق في التحيز اللغوي على جوجل، تشات جي بي تي، ويكيبيديا، ويوتيوب ، arXiv : 2303.16281
^ هوفمان، فالنتين. كالوري، براتيوشا ريا؛ جورافسكي ، دان. كينغ ، شيريس (5 سبتمبر 2024). "يصدر الذكاء الاصطناعي قرارات عنصرية سرًا بشأن الأشخاص بناءً على لهجتهم" . طبيعة . 633 (8028): 147– 154. بيب كود : 2024Natur.633..147H . دوى : 10.1038/s41586-024-07856-5 . بمك 11374696 . بميد 39198640 .
↑ تشوي، هيونغ كيو؛ شو، ويجي؛ شيو، تشي؛ إيكمان، ستيفاني؛ ريدي، تشاندان ك. (27 سبتمبر 2024)، تخفيف تحيز الاختيار باستخدام تقليم العقد والخيارات المساعدة ، arXiv : 2409.18857
^ تشنغ ، تشوجي. تشو، هاو؛ منغ، فاندونغ؛ تشو، جي؛ هوانغ، مينلي (7 سبتمبر 2023)، نماذج اللغات الكبيرة ليست قوية في محددات الاختيار المتعدد ، أرخايف : 2309.03882
↑ بوسكر، توني؛ تشوني، سونيل؛ شواي بارغ، مرتضى (20 نوفمبر 2023). "الصور النمطية في ChatGPT: دراسة تجريبية" . وقائع المؤتمر الدولي السادس عشر حول نظرية وممارسة الحوكمة الإلكترونية . ICEGOV '23. نيويورك، نيويورك، الولايات المتحدة الأمريكية: رابطة آلات الحوسبة. الصفحات 24-32 . doi : 10.1145/3614321.3614325 . ISBN 979-8-4007-0742-1.
↑ كوتيك، هاداس؛ دوكوم، ريكر؛ صن، ديفيد (5 نوفمبر 2023). "التحيز الجنسي والقوالب النمطية في نماذج اللغة الكبيرة" . وقائع مؤتمر الذكاء الجماعي التابع لجمعية آلات الحوسبة . CI '23. نيويورك، نيويورك، الولايات المتحدة الأمريكية: جمعية آلات الحوسبة. الصفحات 12-24 . arXiv : 2308.14921 . doi : 10.1145/3582269.3615599 . ISBN 979-8-4007-0113-9.
1 2 محمدي، إحسان (2025). "التحيز الجنسي في الذكاء الاصطناعي للرؤية السحابية من جوجل" . الذكاء الاصطناعي والأخلاق . doi : 10.1007/s43681-025-00742-4 .
↑ تشنغ، ميرا؛ دورموس، إيسين؛ جورافسكي، دان (29 مايو 2023)، الشخصيات المميزة: استخدام عبارات اللغة الطبيعية لقياس الصور النمطية في نماذج اللغة ، arXiv : 2305.18189
↑ وانغ، أنجلينا؛ مورغنسترن، جيمي ؛ ديكرسون، جون ب. (17 فبراير 2025). "نماذج اللغة الضخمة التي تحل محل المشاركين البشريين قد تُسيء تصوير مجموعات الهوية وتُسطّحها بشكل ضار". مجلة نيتشر للذكاء الآلي . 7 (3): 400-411 . arXiv : 2402.01908 . doi : 10.1038/s42256-025-00986-z .
^ فريريكسدوتير، ستاينون روت؛ آينارسون، هافستين (2024)، “القواعد بين الجنسين أو التحيز المتأصل؟ استكشاف التحيز بين الجنسين في نماذج اللغة الأيسلندية” ، Lrec -Coling 2024 : 7596–7610
↑ فينغ، شانغبين؛ بارك، تشان يونغ؛ ليو، يوهان؛ تسفيتكوف، يوليا (يوليو 2023). روجرز، آنا؛ بويد-غرابر، جوردان؛ أوكازاكي، ناوكي (محررون). "من بيانات التدريب المسبق إلى نماذج اللغة إلى المهام اللاحقة: تتبع آثار التحيزات السياسية المؤدية إلى نماذج معالجة اللغة الطبيعية غير العادلة" . وقائع الاجتماع السنوي الحادي والستين لجمعية اللغويات الحاسوبية (المجلد 1: الأوراق البحثية الطويلة) . تورنتو، كندا: جمعية اللغويات الحاسوبية: 11737-11762 . arXiv : 2305.08283 . doi : 10.18653/v1/2023.acl-long.656 .
↑ لازارو، جينا (17 مايو 2024). "فهم التحيز الجنسي والعنصري في الذكاء الاصطناعي" . مراجعة الأثر الاجتماعي لمبادرة القيادة المتقدمة بجامعة هارفارد . تم الاطلاع عليه في 11 ديسمبر 2024 .
↑ جيندال، أتين (5 سبتمبر 2022). " الذكاء الاصطناعي المُضلل: كيف يتم تضمين التحيز العنصري في النماذج السريرية" . مجلة طب مستشفى براون . 2 (1) 38021. doi : 10.56305/001c.38021 . PMC 11878858. PMID 40046549 .
↑ "العنصرية والذكاء الاصطناعي: "التحيز من الماضي يؤدي إلى التحيز في المستقبل"" . الأمم المتحدة لحقوق الإنسان . 30 يوليو 2024. تم الاطلاع عليه في 18 فبراير 2026 .
1 2 "عملاق البيانات: دولة المراقبة الصينية المتنامية" . هيومن رايتس ووتش . 16 أغسطس 2019. تم الاطلاع عليه في 10 فبراير 2026 .
↑ "تعطيل خط تجميع العبوات الناسفة: إعاقة تدفق نترات الأمونيوم في جنوب ووسط آسيا" . gpo.gov . 2026. تم الاطلاع عليه بتاريخ 10 فبراير 2026 .
↑ "السلطات تُلزم الإيغور في أكسو بشينجيانغ بوضع رموز شريطية على سكاكينهم" . راديو آسيا الحرة . 2017. تاريخ الاطلاع: 15 فبراير 2026 .
↑ هاغندورف، ثيلو؛ بوسرت، ليوني ن.؛ تسيه، ييب فاي؛ سينغر، بيتر (1 أغسطس/آب 2023). "التحيز العنصري ضد الحيوانات في الذكاء الاصطناعي: كيف تُديم تطبيقات الذكاء الاصطناعي التمييز والنتائج غير العادلة ضد الحيوانات". الذكاء الاصطناعي والأخلاق . 3 (3): 717-734 . doi : 10.1007/s43681-022-00199-9 . ISSN 2730-5961 .
↑ جيليسبي، تارلتون (25 يونيو 2014). "خوارزمية [ مسودة ] [ #الكلمات_الرقمية ] - الثقافة الرقمية" . culturedigitally.org . تم الاطلاع عليه في 20 نوفمبر 2017 .
↑ روث، AE 1524–1528. (14 ديسمبر 1990). "الأطباء الجدد: تجربة طبيعية في تنظيم السوق" . مجلة ساينس . 250 (4987): 1524–1528 . Bibcode : 1990Sci...250.1524R . doi : 10.1126/science.2274783 . PMID 2274783. S2CID 23259274. تاريخ الاسترجاع: 18 نوفمبر 2017 . {{cite journal}}: صيانة CS1: الأسماء الرقمية: قائمة المؤلفين ( رابط )
↑ كوانغ، كليف (21 نوفمبر 2017). "هل يمكن تعليم الذكاء الاصطناعي شرح نفسه؟" . مجلة نيويورك تايمز . تم الاطلاع عليه بتاريخ 26 نوفمبر 2017 .
1 2 جوفينال، جاستن (17 نوفمبر 2016). "تستخدم الشرطة برامج حاسوبية للتنبؤ بالجريمة. هل هي حلٌّ سحري أم أنها متحيزة ضد الأقليات؟" . صحيفة واشنطن بوست . تاريخ الاطلاع: 25 نوفمبر 2017 .
1 2 تشاما، موريس (3 فبراير 2016). "ضبط المستقبل" . مشروع مارشال . تم الاسترجاع في 25 نوفمبر 2017 .
↑ لوم، كريستيان؛ إسحاق، ويليام (أكتوبر 2016). "التنبؤ والخدمة؟" . الأهمية . 13 (5): 14-19 . doi : 10.1111/j.1740-9713.2016.00960.x .
↑ سميث، جاك (9 أكتوبر 2016). "دراسة تُظهر أن الشرطة التنبؤية لا تُؤدي إلا إلى تفاقم التحيز العنصري" . مايك . تم الاطلاع عليه في 25 نوفمبر 2017 .
↑ لوم، كريستيان؛ إسحاق، ويليام (1 أكتوبر 2016). "أسئلة وأجوبة حول الشرطة التنبؤية والتحيز" . HRDAG . تم الاطلاع عليه في 25 نوفمبر 2017 .
↑ باهل، أوتساف؛ توباز، تشاد؛ أوبرمولر، ليا؛ غولدشتاين، صوفي؛ سنيرسون، ميرا (21 مايو 2024). "الخوارزميات في أيدي القضاة: السجن وعدم المساواة في مقاطعة بروارد، فلوريدا" . مجلة يو سي إل إيه للقانون . 71 (246).
↑ صن، وينلونغ؛ نصرواي، ألفة؛ شافتو، باتريك (2018). "التحيز الخوارزمي المتكرر في عملية التعلم الآلي التفاعلي لتصفية المعلومات". وقائع المؤتمر الدولي المشترك العاشر حول اكتشاف المعرفة وهندسة المعرفة وإدارة المعرفة . إشبيلية، إسبانيا: SCITEPRESS - منشورات العلوم والتكنولوجيا. ص 110-118 . doi : 10.5220/0006938301100118 . ISBN 978-989-758-330-8.
↑ سينها، أيان؛ غليش، ديفيد ف.؛ راماني، كارتيك (9 أغسطس 2018). "قانون غاوس للشبكات يكشف حدود المجتمعات بشكل مباشر" . التقارير العلمية . 8 (1): 11909. Bibcode : 2018NatSR...811909S . doi : 10.1038/s41598-018-30401-0 . ISSN 2045-2322 . PMC 6085300. PMID 30093660 .
↑ هاو، كارين (فبراير 2018). "جوجل تعترف أخيرًا بوجود مشكلة في فقاعات التصفية" . كوارتز . تم الاطلاع عليه في 26 فبراير 2019 .
↑ "فيسبوك يختبر هذه الميزة الجديدة لمكافحة 'فقاعات التصفية'"" . مجلة فورتشن . تم الاطلاع عليه بتاريخ 26 فبراير 2019 .
1 2 ساندفيج، كريستيان؛ هاميلتون، كيفن؛ كاراهاليوس، كاري ؛ لانغبورت، سيدريك (22 مايو 2014). "خوارزميات التدقيق: أساليب البحث للكشف عن التمييز على منصات الإنترنت" (ملف PDF) . الاجتماع السنوي الرابع والستون للجمعية الدولية للاتصالات . تم الاطلاع عليه في 18 نوفمبر 2017 .
↑ برين، سيرجي؛ بيج، لورانس. "تشريح محرك البحث" . www7.scu.edu.au. مؤرشف من الأصل في 2 يوليو 2019. تم الاطلاع عليه في 18 نوفمبر 2017 .
↑ إبستين، روبرت؛ روبرتسون، رونالد إي. (18 أغسطس/آب 2015). "تأثير التلاعب بمحركات البحث (SEME) وتأثيره المحتمل على نتائج الانتخابات" . وقائع الأكاديمية الوطنية للعلوم . 112 (33): E4512– E4521 . Bibcode : 2015PNAS..112E4512E . doi : 10.1073/pnas.1419828112 . PMC 4547273. PMID 26243876 .
↑ بوند، روبرت م.؛ فاريس، كريستوفر ج.؛ جونز، جيسون ج.؛ كرامر، آدم د.إ.؛ مارلو، كاميرون؛ سيتل، جايمي إ.؛ فاولر، جيمس هـ. (13 سبتمبر/أيلول 2012). "تجربة شملت 61 مليون شخص في التأثير الاجتماعي والتعبئة السياسية" . مجلة نيتشر . 489 (7415): 295-298 . Bibcode : 2012Natur.489..295B . doi : 10.1038/nature11421 . ISSN 0028-0836 . PMC 3834737. PMID 22972300 .
↑ زيتراين، جوناثان (2014). "هندسة الانتخابات" (ملف PDF) . منتدى هارفارد للقانون . 127 : 335-341 . مؤرشف من الأصل (ملف PDF) في 4 مارس 2021. تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ داي، مات (31 أغسطس 2016). "كيف قد يعكس محرك بحث لينكدإن تحيزًا جنسيًا" . صحيفة سياتل تايمز . تم الاطلاع عليه بتاريخ 25 نوفمبر 2017 .
1 2 كروفورد، كيت؛ شولتز، جيسون (2014). "البيانات الضخمة والإجراءات القانونية الواجبة: نحو إطار عمل لمعالجة أضرار الخصوصية التنبؤية" . مجلة كلية بوسطن للقانون . 55 (1): 93-128 . تم الاطلاع عليه بتاريخ 18 نوفمبر 2017 .
↑ دويج، تشارلز (16 فبراير 2012). "كيف تعرف الشركات أسرارك" . مجلة نيويورك تايمز . تم الاطلاع عليه في 18 نوفمبر 2017 .
↑ نوبل، صفية (2012). "الفرص الضائعة: ماذا تقول محركات البحث عن النساء" (ملف PDF) . مجلة بيتش . 12 (4): 37-41 . مؤرشف من الأصل (ملف PDF) في 23 أبريل 2021. تم الاطلاع عليه في 30 يناير 2019 .
↑ غوين، جيسيكا (16 مارس 2017). "جوجل تبدأ بوضع علامات على المحتوى المسيء في نتائج البحث" . يو إس إيه توداي . تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ سيمونايت، توم. "دراسة تشير إلى أن نظام استهداف الإعلانات في جوجل قد ينطوي على تمييز" . مجلة إم آي تي للتكنولوجيا . معهد ماساتشوستس للتكنولوجيا . تم الاطلاع عليه بتاريخ 17 نوفمبر 2017 .
↑ براتيس، مارسيلو أو آر؛ أفيلار، بيدرو إتش سي؛ لامب، لويس (2018). "تقييم التحيز الجنسي في الترجمة الآلية - دراسة حالة مع ترجمة جوجل". arXiv : 1809.02208 [ cs.CY ].
↑ براتيس، مارسيلو أو آر؛ أفيلار، بيدرو إتش؛ لامب، لويس سي. (2019). "تقييم التحيز الجنسي في الترجمة الآلية: دراسة حالة باستخدام ترجمة جوجل". الحوسبة العصبية وتطبيقاتها . 32 (10): 6363-6381 . arXiv : 1809.02208 . doi : 10.1007/s00521-019-04144-6 . S2CID 52179151 .
↑ كلابورن، توماس (10 سبتمبر 2018). "علماء ينتقدون ترجمة جوجل بسبب التمييز الجنسي" . ذا ريجستر . تم الاطلاع عليه في 28 أبريل 2022 .
↑ داستين، جيفري (9 أكتوبر 2018). "أمازون تلغي أداة توظيف سرية تعمل بالذكاء الاصطناعي أظهرت تحيزًا ضد النساء" . رويترز .
↑ فينسنت، جيمس (10 أكتوبر 2018). "أمازون تُلغي، بحسب التقارير، أداة توظيف داخلية تعمل بالذكاء الاصطناعي كانت متحيزة ضد النساء" . ذا فيرج .
↑ "التأمل في نظام التوصيات الخاص بسبوتيفاي - بيانات الأغاني" . أكتوبر 2019. تم الاطلاع عليه في 7 أغسطس 2020 .
↑ بولامويني، جوي؛ جبرو، تيمنيت (21 يناير 2018). "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في التصنيف التجاري للنوع الاجتماعي" . وقائع بحوث التعلم الآلي . 81 (2018): 77-91 . تم الاطلاع عليه في 27 سبتمبر 2020 .
↑ نوبل، صفية أوموجا (20 فبراير 2018). خوارزميات القمع: كيف تعزز محركات البحث العنصرية . نيويورك: مطبعة جامعة نيويورك. ISBN 978-1-4798-3724-3.
1 2 ناكامورا، ليزا (2009). ماغنيت، شوشانا؛ غيتس، كيلي (محرران). وسائل الإعلام الجديدة للمراقبة . لندن: روتليدج. ص 149-162 . ISBN 978-0-415-56812-8.
↑ ماركو مارابيلي؛ سو نيويل؛ فاليري هاندونج (2021). "دورة حياة أنظمة صنع القرار الخوارزمية: الخيارات التنظيمية والتحديات الأخلاقية" . مجلة نظم المعلومات الاستراتيجية . 30 (3): 1-15 . doi : 10.1016/j.jsis.2021.101683 .
↑ ألكسندر، رودولف؛ جياميرا، جاكلين (سبتمبر 1997). "العقاب التفاضلي للأمريكيين من أصل أفريقي والبيض الذين يمتلكون مخدرات: سياسة عادلة أم استمرار للماضي؟". مجلة الدراسات السوداء . 28 (1): 97-111 . doi : 10.1177/002193479702800106 . ISSN 0021-9347 . S2CID 152043501 .
↑ بيترسيليا، جوان (يناير 1985). "التفاوتات العرقية في نظام العدالة الجنائية: ملخص". الجريمة والانحراف . 31 (1): 15-34 . doi : 10.1177/0011128785031001002 . ISSN 0011-1287 . S2CID 146588630 .
1 2 غوين، جيسيكا (1 يوليو 2015). "صور جوجل تصنف السود على أنهم 'غوريلا'"" . يو إس إيه توداي . تم الاطلاع عليه بتاريخ 18 نوفمبر 2017 .
↑ روز، آدم (22 يناير 2010). "هل كاميرات التعرف على الوجوه عنصرية؟" . مجلة تايم . مؤرشف من الأصل في 11 يناير 2014. تم الاطلاع عليه في 18 نوفمبر 2017 .
↑ "أليكسا لا تفهم لهجتك" . صحيفة واشنطن بوست .
↑ سويني، لاتانيا (28 يناير 2013). "التمييز في عرض الإعلانات عبر الإنترنت". arXiv : 1301.6822 [ cs.IR ].
↑ براون، لندي (2015). "العرق، والإثنية، ووظائف الرئة: تاريخ موجز" . المجلة الكندية للعلاج التنفسي . 51 (4): 99-101 . ISSN 1205-9838 . PMC 4631137. PMID 26566381 .
↑ روبنسون، ويتني ر؛ رينسون، أودري؛ نعيمي، آشلي آي (1 أبريل 2020). "تعليم نفسك عن العنصرية البنيوية سيُحسّن من مهاراتك في التعلّم الآلي" . الإحصاء الحيوي . 21 (2): 339-344 . doi : 10.1093/biostatistics/kxz040 . ISSN 1465-4644 . PMC 7868043. PMID 31742353 .
↑ جونسون، كارولين ي. (24 أكتوبر 2019). "التحيز العنصري في خوارزمية طبية يُفضّل المرضى البيض على المرضى السود الأكثر مرضًا" . صحيفة واشنطن بوست . تم الاطلاع عليه بتاريخ 28 أكتوبر 2019 .
↑ بارتليت، روبرت؛ مورس، أدير؛ ستانتون، ريتشارد؛ والاس، نانسي (يونيو 2019). "التمييز في إقراض المستهلكين في عصر التكنولوجيا المالية" . ورقة عمل NBER رقم 25943. سلسلة أوراق العمل. doi : 10.3386/w25943 . S2CID 242410791 .
↑ هوفمان، ف.، كالوري، ب. ر.، جورافسكي، د. وآخرون. الذكاء الاصطناعي يُولّد قرارات عنصرية خفية عن الناس بناءً على لهجتهم. مجلة نيتشر 633، 147-154 (2024). https://doi.org/10.1038/s41586-024-07856-5
↑ بولامويني، ج.؛ جبرو، ت . (2018). "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في التصنيف التجاري للنوع الاجتماعي" . وقائع المؤتمر الأول حول العدالة والمساءلة والشفافية . ص 77-91 . تم الاطلاع عليه في 30 أبريل 2025 .
↑ جيف لارسون، جوليا أنجوين (23 مايو 2016). "كيف حللنا خوارزمية COMPAS لرصد العودة إلى الإجرام" . برو بابليكا . مؤرشف من الأصل في 29 أبريل 2019. تم الاطلاع عليه في 19 يونيو 2020 .
↑ «تعليق: خبر سيء. الذكاء الاصطناعي متحيز» . وكالة الأنباء المركزية . ١٢ يناير ٢٠١٩. مؤرشف من الأصل في ١٢ يناير ٢٠١٩. تم الاطلاع عليه في ١٩ يونيو ٢٠٢٠ .
1 2 أنجوين، جوليا؛ لارسون، جيف؛ ماتو، سوريا؛ كيرشنر، لورين (23 مايو 2016). "التحيز الآلي - برو ببليكا" . برو ببليكا . تم الاسترجاع في 18 نوفمبر 2017 .
↑ هاركورت، برنارد (16 سبتمبر 2010). " المخاطرة كبديل للعرق" . تقرير الأحكام الفيدرالية . 27 (4): 237. doi : 10.1525/fsr.2015.27.4.237 . S2CID 53611813. SSRN 1677654 .
↑ سكيم ج، لوينكامب سي، المخاطر والعرق والعودة إلى الإجرام: التحيز التنبؤي والتأثير المتباين، (14 يونيو 2016). SSRN 2687339
↑ توماس، سي.؛ نونيز، أ. (2022). "أتمتة السلطة التقديرية القضائية: كيف تنتهك تقييمات المخاطر الخوارزمية في الأحكام التمهيدية حقوق الحماية المتساوية على أساس العرق" . القانون وعدم المساواة . 40 (2): 371-407 . doi : 10.24926/25730037.649 .
1 2 أنجوين، جوليا؛ جراسيجر، هانز (28 يونيو 2017). "قواعد الرقابة السرية لفيسبوك تحمي الرجال البيض من خطاب الكراهية، لكنها لا تحمي الأطفال السود - برو ببليكا" . برو ببليكا . تم الاطلاع عليه في 20 نوفمبر 2017 .
↑ أنجوين، جوليا؛ فارنر، مادلين؛ توبين، أريانا (14 سبتمبر/أيلول 2017). "فيسبوك مكّن المعلنين من الوصول إلى 'كارهي اليهود' - برو ببليكا" . برو ببليكا . تم الاطلاع عليه في 20 نوفمبر/تشرين الثاني 2017 .
↑ ساب، مارتن؛ كارد، دالاس؛ غابرييل، سعدية؛ تشوي، ييجين؛ سميث، نوح أ. (28 يوليو - 2 أغسطس 2019). "خطر التحيز العنصري في كشف خطاب الكراهية" (ملف PDF) . وقائع الاجتماع السنوي السابع والخمسين لجمعية اللغويات الحاسوبية . فلورنسا، إيطاليا: جمعية اللغويات الحاسوبية. الصفحات 1668-1678 . مؤرشف (ملف PDF) من الأصل في 14 أغسطس 2019.
↑ غفاري، شيرين (15 أغسطس/آب 2019). "الخوارزميات التي تكشف خطاب الكراهية على الإنترنت متحيزة ضد السود" . فوكس . تم الاطلاع عليه في 19 فبراير/شباط 2020 .
↑ فورل، ن. (ديسمبر 2002). "خوارزميات التعرف على الوجوه وتأثير العرق الآخر: آليات حسابية لفرضية الاتصال التنموي" . العلوم المعرفية . 26 (6): 797-815 . doi : 10.1207/s15516709cog2606_4 .
↑ راجي، إينيولوا ديبورا؛ جبرو، تيمنيت؛ ميتشل، مارغريت؛ بولامويني، جوي؛ لي، جونسوك؛ دينتون، إميلي (7 فبراير 2020). "حفظ ماء الوجه" . وقائع مؤتمر AAAI/ACM حول الذكاء الاصطناعي والأخلاق والمجتمع . رابطة آلات الحوسبة. الصفحات 145-151 . arXiv : 2001.00964 . doi : 10.1145/3375627.3375820 . ISBN 978-1-4503-7110-0. S2CID 209862419 .
↑ "التعرف على الوجه دقيق، إذا كنت رجلاً أبيض" . صحيفة نيويورك تايمز . 9 فبراير 2018. تم الاطلاع عليه بتاريخ 24 أغسطس 2023 .
↑ بولامويني، جوي؛ جبرو، تيمنيت (2018). "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في التصنيف التجاري للنوع الاجتماعي" (ملف PDF) . وقائع بحوث التعلم الآلي . 81 : 1 - عبر مطبعة MLR.
↑ أناني، مايك (14 أبريل 2011). "العلاقة الغريبة بين تطبيقات الرجال المثليين ومرتكبي الجرائم الجنسية" . مجلة ذا أتلانتيك . تم الاطلاع عليه بتاريخ 18 نوفمبر 2017 .
↑ كافكا، بيتر. "هل فشلت أمازون حقًا في نهاية هذا الأسبوع؟ يقول مستخدمو تويتر "نعم"، ويقول بائع التجزئة عبر الإنترنت "خلل"." . AllThingsD . تم الاطلاع عليه بتاريخ 22 نوفمبر 2017 .
↑ كافكا، بيتر. "أمازون تعتذر عن 'خطأ فهرسة فادح'"" . AllThingsD . تم الاطلاع عليه بتاريخ 22 نوفمبر 2017 .
↑ ماتساكيس، لويز (22 فبراير 2019). "خلل بحث 'متحيز جنسيًا' يكشف عنا أكثر مما يكشفه فيسبوك" . مجلة وايرد . الرقم الدولي الموحد للدوريات 1059-1028 . تاريخ الاسترجاع: 26 فبراير 2019 .
↑ "بعض أنواع الذكاء الاصطناعي لا ينبغي أن توجد" . 19 أبريل 2019.
↑ صموئيل، سيغال (19 أبريل 2019). "بعض أنظمة الذكاء الاصطناعي لا ينبغي أن توجد" . فوكس . تم الاطلاع عليه في 12 ديسمبر 2019 .
↑ وانغ، ييلون؛ كوسينسكي، ميخال (15 فبراير 2017). "الشبكات العصبية العميقة أكثر دقة من البشر في الكشف عن التوجه الجنسي من صور الوجه" . OSF . doi : 10.17605/OSF.IO/ZN79K .
↑ ليفين، سام (9 سبتمبر/أيلول 2017). "جماعات المثليين والمتحولين جنسيًا تستنكر الذكاء الاصطناعي "الخطير" الذي يستخدم وجهك لتخمين ميولك الجنسية" . صحيفة الغارديان . ISSN 0261-3077 . تاريخ الاطلاع: 12 ديسمبر/كانون الأول 2019 .
↑ بال، جي سي (16 سبتمبر 2011). "الإعاقة، والتقاطع، والحرمان: أجندة مُستبعدة" . علم النفس والمجتمعات النامية . 23(2)، 159-176. doi : 10.1177/097133361102300202 . S2CID 147322669 – عبر Sagepub.
↑ برينكمان، أورورا هـ.؛ ريا-ساندين، جيانا؛ لوند، إميلي م.؛ فيتزباتريك، أوليفيا م.؛ جوسمان، ميكايلا س.؛ بونيس، كاساندرا ل.؛ منظمة "باحثون من أجل الارتقاء بالإنصاف والتنوع" (SEED) (20 أكتوبر 2022). " تغيير الخطاب حول الإعاقة: الانتقال إلى تركيز شامل ومتداخل" . المجلة الأمريكية لطب النفس التقويمي . 93 (1): 50-62 . doi : 10.1037/ort0000653 . ISSN 1939-0025 . PMC 9951269. PMID 36265035 .
↑ ويتاكر، ميريديث (نوفمبر 2019). "الإعاقة، والتحيز، والذكاء الاصطناعي" (ملف PDF) . مؤرشف من الأصل (ملف PDF) في 27 مارس 2023. تم الاطلاع عليه في 2 ديسمبر 2022 .
↑ "مهمة - الإعاقة هي التنوع - إلى صناعة الترفيه، لا تنوع ولا إنصاف ولا شمول بدون الإعاقة" . الإعاقة هي التنوع . تم الاطلاع عليه في 2 ديسمبر 2022 .
↑ "تصميم مايكروسوفت" . www.microsoft.com . تم الاطلاع عليه بتاريخ 2 ديسمبر 2022 .
↑ بولرانج، أندرو. "أربع طرق لفهم تنوع مجتمع ذوي الإعاقة" . فوربس . تم الاطلاع عليه في 2 ديسمبر 2022 .
↑ ووترماير، برايان؛ شوارتز، ليزلي (12 أكتوبر 2022). "الإعاقة ومشكلة التقاطعية الكسولة". الإعاقة والمجتمع . 38 (2): 362-366 . doi : 10.1080/09687599.2022.2130177 . ISSN 0968-7599 . S2CID 252959399 .
↑ "تقرير بيانات الإعاقة 2021" . مبادرة بيانات الإعاقة . 23 مايو 2021. تم الاطلاع عليه في 2 ديسمبر 2022 .
↑ وايت، جيسون جي جي (2 مارس 2020). "عدالة الذكاء الاصطناعي للأشخاص ذوي الإعاقة: تحليل المشكلة والتعاون متعدد التخصصات". مجلة ACM SIGACCESS لإمكانية الوصول والحوسبة (125): 3:1. doi : 10.1145/3386296.3386299 . ISSN 1558-2337 . S2CID 211723415 .
↑ «دراسة تكشف عن تحيز نماذج اللغة المدعومة بالذكاء الاصطناعي ضد الأشخاص ذوي الإعاقة | جامعة ولاية بنسلفانيا» . www.psu.edu . ١٣ أكتوبر ٢٠٢٢. تاريخ الاطلاع: ٢ ديسمبر ٢٠٢٢ .
↑ جيفنز، ألكسندرا ريف (6 فبراير 2020). "كيف يضر التحيز الخوارزمي بالأشخاص ذوي الإعاقة" . مجلة سلات . تم الاطلاع عليه في 2 ديسمبر 2022 .
↑ موريس، ميريديث رينجل (22 مايو 2020). "الذكاء الاصطناعي وإمكانية الوصول". اتصالات رابطة الحوسبة الآلية . 63 (6): 35-37 . arXiv : 1908.08939 . doi : 10.1145/3356727 . ISSN 0001-0782 . S2CID 201645229 .
↑ نوبل، صفية أوموجا (20 فبراير 2018). خوارزميات القمع: كيف تعزز محركات البحث العنصرية . نيويورك. ISBN 978-1-4798-3724-3. OCLC 987591529 . {{cite book}}: CS1 maint: موقع الناشر مفقود ( رابط )
↑ كاستلنوفو، أليساندرو؛ إنفيراردي، نيكول؛ نانينو، غابرييل؛ بينكو، إيلاريا؛ ريغولي، دانييلي (2023). "هل هذا عادل بما فيه الكفاية؟ خريطة للقيود الحالية على متطلبات وجود خوارزميات "عادلة". arXiv : 2311.12435 [ cs.AI ].
↑ روجيري، سالفاتوري؛ ألفاريز، خوسيه م؛ بوجنانا، أندريا؛ توريني، فرانكو (2023). "هل يمكننا الوثوق بالذكاء الاصطناعي العادل؟" . وقائع مؤتمر AAAI حول الذكاء الاصطناعي . 37 (13): 5421-15430 . doi : 10.1609/aaai.v37i13.26798 . hdl : 11384/136444 . S2CID 259678387 .
↑ صموئيل، سيغال (19 أبريل 2022). "لماذا من الصعب للغاية جعل الذكاء الاصطناعي عادلاً وغير متحيز" . فوكس . تم الاطلاع عليه في 23 يوليو 2024 .
↑ فيوريتو، فرديناندو (19 مارس 2024). "بناء العدالة في الذكاء الاصطناعي أمر بالغ الأهمية - ويصعب تحقيقه بشكل صحيح" . ذا كونفرسيشن . تم الاطلاع عليه في 23 يوليو 2024 .
^ فريدلر، سوريل أ. شيدجر، كارلوس؛ فينكاتاسوبرامانيان، سوريش (2016). “على (استحالة) العدالة”. أرخايف : 1609.07236 [ cs.CY ].
↑ هو، ليلي؛ تشين، ييلينغ (2018). "الآثار الاجتماعية والتوزيعية للتصنيف العادل". arXiv : 1807.01134 [ cs.LG ].
^ دورك ، سينثيا. هاردت، موريتز. بيتاسي، تونيان؛ رينجولد، عمر؛ زيميل ، ريتش (28 نوفمبر 2011). “العدالة من خلال الوعي”. أرخايف : 1104.3913 [ cs.CC ].
1 2 3 ساندفيج، كريستيان؛ هاميلتون، كيفن؛ كاراهاليوس، كاري؛ لانجبورت، سيدريك (2014). جانجادهارن، سيتا بينا؛ يوبانكس، فيرجينيا؛ باروكاس، سولون (محررون). "مراجعة الخوارزميات" (ملف PDF) . البيانات والتمييز: مقالات مختارة .
↑ لافرانس، أدريان (18 سبتمبر 2015). "الخوارزميات التي تُشغّل الإنترنت تزداد غموضًا" . مجلة ذا أتلانتيك . تم الاطلاع عليه في 19 نوفمبر 2017 .
↑ برونو لاتور (1999). أمل باندورا: مقالات حول واقع دراسات العلوم . كامبريدج، ماساتشوستس : مطبعة جامعة هارفارد .
↑ كوبيتشكو، سيباستيان؛ كاون، آن (2016). أساليب مبتكرة في بحوث الإعلام والاتصال . سبرينغر. ISBN 978-3-319-40700-5تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .
↑ ماكجي، مات (16 أغسطس 2013). "انتهى عصر إيدج رانك: خوارزمية موجز الأخبار في فيسبوك تضم الآن ما يقارب 100 ألف عامل ترجيح" . ماركتينج لاند . تم الاطلاع عليه في 18 نوفمبر 2017 .
1 2 3 غرانكا، لورا أ. (27 سبتمبر 2010). "سياسات البحث: نظرة استرجاعية على عقد من الزمن" (ملف PDF) . مجتمع المعلومات . 26 (5): 364-374 . doi : 10.1080/01972243.2010.511560 . S2CID 16306443. تاريخ الاسترجاع: 18 نوفمبر 2017 .
↑ شيميليفيتش، كاتارزينا (20 يناير 2020). "السياسة المعزولة" . ميديوم . تم الاطلاع عليه في 11 فبراير 2020 .
↑ فيل، مايكل؛ بينز، روبن (2017). "تعلم آلي أكثر عدلاً في العالم الحقيقي: الحد من التمييز دون جمع بيانات حساسة" . البيانات الضخمة والمجتمع . 4 (2): 205395171774353. doi : 10.1177/2053951717743530 . SSRN 3060763 .
↑ إليوت، مارك ن.؛ موريسون، بيتر أ.؛ فريمونت، ألين؛ مكافري، دانيال ف.؛ بانتوخا، فيليب؛ لوري، نيكول (يونيو 2009). "استخدام قائمة أسماء العائلات الصادرة عن مكتب الإحصاء لتحسين تقديرات العرق/الإثنية والفوارق المرتبطة بها". منهجية بحوث الخدمات الصحية والنتائج . 9 (2): 69-83 . doi : 10.1007/s10742-009-0047-1 . ISSN 1387-3741 . S2CID 43293144 .
↑ تشين، جياهاو؛ كالوس، ناثان؛ ماو، شياوجي؛ سفاتشا، جيفري؛ أوديل، مادلين (2019). "الإنصاف في ظل الجهل" . وقائع مؤتمر الإنصاف والمساءلة والشفافية . أتلانتا، جورجيا، الولايات المتحدة الأمريكية: مطبعة ACM. الصفحات 339-348 . arXiv : 1811.11154 . doi : 10.1145/3287560.3287594 . ISBN 978-1-4503-6125-5. S2CID 58006233 .
↑ كيلبرتوس، نيكي؛ جاسكون، أدريا؛ كوسنر، مات؛ فيل، مايكل؛ جومادي، كريشنا؛ ويلر، أدريان (2018). "العدالة العمياء: الإنصاف مع السمات الحساسة المشفرة" . المؤتمر الدولي للتعلم الآلي : 2630-2639 . arXiv : 1806.03281 . Bibcode : 2018arXiv180603281K .
↑ بينز، روبن؛ فيل، مايكل؛ كليك، ماكس فان؛ شادبولت، نايجل (13 سبتمبر 2017). "هل يشبه المدرب الروبوت؟ وراثة التحيز في إدارة المحتوى الخوارزمية". المعلوماتية الاجتماعية . سلسلة محاضرات في علوم الحاسوب. المجلد 10540. الصفحات 405-415 . arXiv : 1707.01477 . doi : 10.1007/978-3-319-67256-4_32 . ISBN 978-3-319-67255-7. S2CID 2814848 .
↑ كلابورن، توماس (18 يوليو 2016). "قانون حماية البيانات في الاتحاد الأوروبي قد ينهي الخوارزمية المجهولة - إنفورميشن ويك" . إنفورميشن ويك . تم الاطلاع عليه في 25 نوفمبر 2017 .
1 2 جوبين، آنا؛ إينكا، مارسيلو؛ فاينا ، إيفي (2 سبتمبر 2019). “المشهد العالمي للمبادئ التوجيهية لأخلاقيات الذكاء الاصطناعي”. ذكاء آلة الطبيعة . 1 (9): 389– 399. أرخايف : 1906.11668 . بيب كود : 2019NatMI...1..389J . دوى : 10.1038/s42256-019-0088-2 . S2CID 201827642 .
↑ واتنبرغ، مارتن؛ فييغاس، فرناندو؛ هاردت، موريتز. "مواجهة التمييز باستخدام التعلم الآلي الأكثر ذكاءً" . بحث جوجل.
↑ هاردت، موريتز؛ برايس، إريك؛ سريبرو، ناثان (2016). "تكافؤ الفرص في التعلم الخاضع للإشراف". arXiv : 1610.02413 [ cs.LG ].
↑ ويغرز، كايل (25 مايو 2018). "مايكروسوفت تعمل على تطوير أداة لمساعدة المهندسين على اكتشاف التحيز في الخوارزميات" . VentureBeat.com .
↑ «فيسبوك تقول إن لديها أداة لكشف التحيز في ذكائها الاصطناعي» . كوارتز . 3 مايو 2018. مؤرشف من الأصل في 5 مارس 2023.
↑ "Pymetrics audit-AI" . GitHub.com .
↑ جونسون، خاري (31 مايو 2018). "Pymetrics تُطلق أداة Audit AI مفتوحة المصدر، وهي أداة لكشف تحيز الخوارزميات" . VentureBeat.com .
↑ "Aequitas: Bias and Fairness Audit Toolkit" . GitHub.com .
↑ https://dsapp.uchicago.edu/aequitas/ المصادر المفتوحة، الذكاء الاصطناعي للتدقيق، إيكويتاس في جامعة شيكاغو
↑ بوري، روشير (6 فبراير 2018). "الحد من التحيز في نماذج الذكاء الاصطناعي" . IBM.com . مؤرشف من الأصل في 7 فبراير 2018.
↑ S. Sen, D. Dasgupta and KD Gupta, "دراسة تجريبية حول التحيز الخوارزمي"، المؤتمر السنوي الرابع والأربعون للحواسيب والبرمجيات والتطبيقات (COMPSAC)، مدريد، إسبانيا، 2020، ص 1189-1194، doi : 10.1109/COMPSAC48688.2020.00-95 .
↑ زو، جيمس؛ شيبينجر، لوندا (يوليو 2018). "الذكاء الاصطناعي قد يكون متحيزًا جنسيًا وعنصريًا - لقد حان الوقت لجعله عادلًا" . مجلة نيتشر . 559 (7714): 324-326 . Bibcode : 2018Natur.559..324Z . doi : 10.1038/d41586-018-05707-8 . PMID 30018439 .
↑ جيا، سين؛ ويلفير، توماس؛ كريستيانيني، نيلو (2018). الصواب للسبب الصحيح: تدريب الشبكات غير المعتمدة على منهج محدد . الندوة الدولية حول تحليل البيانات الذكية. سبرينغر.
↑ ساتون، آدم؛ ويلفير، توماس؛ كريستيانيني، نيلو (2018). التضمينات المتحيزة من البيانات غير المنظمة: القياس والفهم والإزالة . الندوة الدولية حول تحليل البيانات الذكية. سبرينغر. doi : 10.1007/978-3-030-01768-2_27 .
↑ "لجنة معايير هندسة البرمجيات والأنظمة" . 17 أبريل 2018.
1 2 كوين، أنسغار (يونيو 2017). "التحيز الخوارزمي: معالجة المخاوف المتزايدة [ الريادة ] " (ملف PDF) . مجلة IEEE للتكنولوجيا والمجتمع . 36 (2): 31-32 . doi : 10.1109/mts.2017.2697080 . ISSN 0278-0097 . مؤرشف من الأصل (ملف PDF) في 19 يوليو 2018. تم الاطلاع عليه في 1 أغسطس 2019 .
1 2 "P7003 - اعتبارات التحيز الخوارزمي" . معهد مهندسي الكهرباء والإلكترونيات . مؤرشف من الأصل في 3 ديسمبر 2018. تم الاسترجاع في 3 ديسمبر 2018 .
↑ "معيار IEEE 7003-2024 الخاص باعتبارات التحيز الخوارزمي" . تم الاطلاع عليه بتاريخ 16 مارس 2025 .
↑ "لجنة معايير هندسة البرمجيات والأنظمة" . 17 أبريل 2018.
↑ "IEEE CertifAIEd™ – المواصفات الأنطولوجية للتحيز الخوارزمي الأخلاقي" (PDF) . IEEE. 2022.
↑ جمعية الإنترنت (18 أبريل 2017). "الذكاء الاصطناعي والتعلم الآلي: ورقة سياسات" . جمعية الإنترنت . تم الاطلاع عليه في 11 فبراير 2020 .
1 2 "ورقة بيضاء: كيفية منع النتائج التمييزية في التعلم الآلي" . المنتدى الاقتصادي العالمي . 12 مارس 2018. تم الاطلاع عليها في 11 فبراير 2020 .
↑ "الذكاء الاصطناعي القابل للتفسير" . www.darpa.mil . تم الاطلاع عليه بتاريخ 11 فبراير 2020 .
↑ برايس ووترهاوس كوبرز. "إطار عمل الذكاء الاصطناعي المسؤول" . برايس ووترهاوس كوبرز . تم الاطلاع عليه بتاريخ 11 فبراير 2020 .
↑ هيلد، ديفيد (7 سبتمبر 2006). الشفافية: مفتاح الحوكمة الرشيدة؟ الأكاديمية البريطانية. doi : 10.5871/bacad/9780197263839.003.0002 . ISBN 978-0-19-726383-9.
↑ كيمبر، جاكو؛ كولكمان، دان (6 ديسمبر 2019). "شفافية لمن؟ لا مساءلة خوارزمية بدون جمهور نقدي" . المعلومات والاتصالات والمجتمع . 22 (14): 2081-2096 . doi : 10.1080/1369118X.2018.1477967 . hdl : 11245.1/75cb1256-5fe5-4724-9a63-03ef66032d8e . ISSN 1369-118X .
↑ ميتشل، مارغريت؛ وو، سيمون؛ زالديفار، أندرو؛ بارنز، باركر؛ فاسرمان، لوسي؛ هاتشينسون، بن؛ سبيتزر، إيلينا؛ راجي، إنيولوا ديبورا؛ جبرو، تيمنيت (29 يناير 2019). "بطاقات نموذجية لإعداد التقارير النموذجية" . وقائع مؤتمر العدالة والمساءلة والشفافية . ACM. الصفحات 220-229 . arXiv : 1810.03993 . doi : 10.1145/3287560.3287596 . ISBN 978-1-4503-6125-5.
↑ جبرو، تمنيت؛ مورجنسترن، جيمي؛ فيكيوني، بريانا؛ فوغان، جينيفر وورتمان؛ والاش، حنا؛ الثالث، هال دوم؛ كروفورد ، كيت (ديسمبر 2021). "أوراق البيانات لمجموعات البيانات" . اتصالات ACM . 64 (12): 86–92 . أرخايف : 1803.09010 . دوى : 10.1145/3458723 . ISSN 0001-0782 .
↑ بيطار، عمر؛ ديشاي، بينوا؛ هول، دون (2022). "المراجعة الثالثة لتوجيه مجلس الخزانة بشأن اتخاذ القرارات الآلية". المجلة الإلكترونية لشبكة أبحاث العلوم الاجتماعية . doi : 10.2139/ssrn.4087546 . ISSN 1556-5068 .
↑ «إعلان تورنتو: حماية الحق في المساواة وعدم التمييز في أنظمة التعلم الآلي» . هيومن رايتس ووتش . 3 يوليو/تموز 2018. تم الاطلاع عليه بتاريخ 11 فبراير/شباط 2020 .
↑ إعلان تورنتو: حماية الحق في المساواة وعدم التمييز في أنظمة التعلم الآلي (ملف PDF) . هيومن رايتس ووتش. 2018. ص 15.
^ فلوريدي، لوتشيانو. القلنسوة جوش. بلتراميتي، مونيكا؛ شاتيلا، رجا؛ تشازراند، باتريس؛ ديغنوم، فيرجينيا؛ لويتج، كريستوف. مادلين، روبرت. باجالو، أوغو؛ روسي، فرانشيسكا؛ شافر، بوركهارد (1 ديسمبر 2018). "AI4People - إطار أخلاقي لمجتمع الذكاء الاصطناعي الجيد: الفرص والمخاطر والمبادئ والتوصيات" . العقول والآلات . 28 (4): 703. دوى : 10.1007 / s11023-018-9482-5 . ردمك 1572-8641 . بمك 6404626 . بميد 30930541 .
↑ كروفورد، كيت (25 يونيو 2016). "رأي | مشكلة الرجل الأبيض في الذكاء الاصطناعي" . صحيفة نيويورك تايمز . ISSN 0362-4331 . تاريخ الاسترجاع: 11 فبراير 2020 .
↑ "الذكاء الاصطناعي هو المستقبل - ولكن أين النساء؟" . مجلة وايرد . الرقم الدولي الموحد للدوريات 1059-1028 . تاريخ الاسترجاع: 11 فبراير 2020 .
↑ سنو، جاكي. ""نحن في أزمة تنوع": المؤسس المشارك لمنظمة "السود في الذكاء الاصطناعي" يتحدث عن ما يُفسد الخوارزميات في حياتنا . مجلة إم آي تي للتكنولوجيا . تاريخ الاطلاع: ١١ فبراير ٢٠٢٠ .
↑ هاو، كارين (14 يونيو 2021). "نظرة من الداخل على معركة استعادة الذكاء الاصطناعي من سيطرة شركات التكنولوجيا الكبرى" . مجلة إم آي تي للتكنولوجيا . تم الاطلاع عليه بتاريخ 21 يونيو 2021 .
↑ سيستون، سارة (29 ديسمبر 2019). "الذكاء الاصطناعي التقاطعي ضروري" . مجلة العلوم والتكنولوجيا والفنون . 11 (2): 3-8 . doi : 10.7559/citarj.v11i2.665 . ISSN 2183-0088 .
^ ديجنازيو ، كاثرين. كلاين، لورين ف. (2020). نسوية البيانات . مطبعة معهد ماساتشوستس للتكنولوجيا. رقم ISBN 978-0-262-04400-4.
↑ كيف، ستيفن؛ ديهال، كانتا (6 أغسطس 2020). "بياض الذكاء الاصطناعي" . الفلسفة والتكنولوجيا . 33 (4): 685-703 . doi : 10.1007/s13347-020-00415-6 . ISSN 2210-5441 .
↑ بوندي، إليزابيث؛ شو، ليلي؛ أكوستا-نافاس، ديانا؛ كيليان، جاكسون أ. (2021). "تصور المجتمعات: نهج تشاركي نحو الذكاء الاصطناعي من أجل الصالح الاجتماعي". وقائع مؤتمر AAAI/ACM لعام 2021 حول الذكاء الاصطناعي والأخلاق والمجتمع . الصفحات 425-436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 . تم الاسترجاع في 6 أبريل 2023 – عبر ezpa.library.ualberta.ca.
↑ جامعة ستانفورد (18 مارس 2019). "جامعة ستانفورد تطلق معهد الذكاء الاصطناعي المتمحور حول الإنسان" . أخبار ستانفورد . تم الاطلاع عليه في 6 أبريل 2023 .
↑ بوندي، إليزابيث؛ شو، ليلي؛ أكوستا-نافاس، ديانا؛ كيليان، جاكسون أ. (21 يوليو 2021). "تصور المجتمعات: نهج تشاركي نحو الذكاء الاصطناعي من أجل الصالح الاجتماعي". وقائع مؤتمر AAAI/ACM لعام 2021 حول الذكاء الاصطناعي والأخلاق والمجتمع . الصفحات 425-436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 .
↑ بايغريف، لي أ (2001). "التنميط الآلي". مجلة قانون وأمن الحاسوب . 17 (1): 17-24 . doi : 10.1016/s0267-3649(01)00104-2 .
1 2 فيل، مايكل؛ إدواردز، ليليان (2018). "الوضوح والمفاجآت والمزيد من الأسئلة في مسودة توجيهات فريق العمل المعني بالمادة 29 بشأن اتخاذ القرارات الآلية وتحديد السمات الشخصية" ( ملف PDF) . مجلة قانون وأمن الحاسوب . 34 (2): 398-404 . doi : 10.1016/j.clsr.2017.12.002 . S2CID 4797884. SSRN 3071679 .
↑ واشتر، ساندرا؛ ميتلشتات، برنت؛ فلوريدي، لوتشيانو (1 مايو 2017). "لماذا لا يوجد حق في تفسير عملية اتخاذ القرار الآلي في اللائحة العامة لحماية البيانات؟" . القانون الدولي لحماية البيانات . 7 (2): 76-99 . doi : 10.1093/idpl/ipx005 . ISSN 2044-3994 .
↑ إدواردز، ليليان؛ فيل، مايكل (23 مايو 2017). "هل أنت أسير الخوارزمية؟ لماذا قد لا يكون الحق في التفسير هو الحل الذي تبحث عنه؟". مجلة ديوك للقانون والتكنولوجيا . 16 : 18-84 . SSRN 2972855 .
1 2 سينغر، ناتاشا (2 فبراير 2013). "قوانين حماية بيانات المستهلك، عالمٌ آخر" . صحيفة نيويورك تايمز . تم الاطلاع عليه بتاريخ 26 نوفمبر 2017 .
↑ أوباما، باراك (12 أكتوبر 2016). "تقرير الإدارة حول مستقبل الذكاء الاصطناعي" . whitehouse.gov . الأرشيف الوطني . تم الاطلاع عليه في 26 نوفمبر 2017 .
↑ مجلس التكنولوجيا والعلوم الوطنية (2016). الخطة الاستراتيجية الوطنية لأبحاث وتطوير الذكاء الاصطناعي (ملف PDF) . حكومة الولايات المتحدة . تم الاطلاع عليه بتاريخ 26 نوفمبر 2017 .
↑ كيرشنر، لورين (18 ديسمبر 2017). "مدينة نيويورك تتحرك نحو فرض المساءلة على الخوارزميات - برو ببليكا" . برو ببليكا . تم الاطلاع عليه في 28 يوليو 2018 .
↑ "مجلس مدينة نيويورك - رقم الملف: Int 1696-2017" . legistar.council.nyc.gov . مجلس مدينة نيويورك . تم الاطلاع عليه بتاريخ 28 يوليو 2018 .
↑ ويغرز، كايل (5 يوليو 2023). "قانون نيويورك لمكافحة التحيز في توظيف الخوارزميات يدخل حيز التنفيذ" . تيك كرانش . تم الاطلاع عليه في 16 أبريل 2025 .
↑ باولس، جوليا. "محاولة مدينة نيويورك الجريئة والمعيبة لجعل الخوارزميات خاضعة للمساءلة" . مجلة نيويوركر . تم الاطلاع عليه بتاريخ 28 يوليو 2018 .
↑ "الحفاظ على الريادة الأمريكية في مجال الذكاء الاصطناعي" . 14 فبراير 2019.
↑ "التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي" . نوفمبر 2023.
↑ "نائبة الرئيس كامالا هاريس تكشف عن مبادئ توجيهية "آمنة ومأمونة ومسؤولة" للذكاء الاصطناعي للوكالات الفيدرالية" . 28 مارس 2024.
↑ "الهند تدرس مشروع قانون شامل لحماية البيانات، مشابه للائحة العامة لحماية البيانات في الاتحاد الأوروبي" . مجلة التأمين . 31 يوليو 2018. تم الاطلاع عليه بتاريخ 26 فبراير 2019 .
↑ "مشروع قانون حماية البيانات الشخصية، 2018" (ملف PDF) . وزارة الإلكترونيات وتكنولوجيا المعلومات، حكومة الهند. 2018. تم الاطلاع عليه بتاريخ 29 أبريل 2022 .

للمزيد من القراءة

باير، توبياس (2019). فهم التحيز الخوارزمي وإدارته ومنعه: دليل لمستخدمي الأعمال وعلماء البيانات . نيويورك: أبريس. ISBN 978-1-4842-4884-3.
نوبل، صفية أوموجا (2018). خوارزميات القمع: كيف تعزز محركات البحث العنصرية . نيويورك: مطبعة جامعة نيويورك. ISBN 978-1-4798-3724-3.

[1] جاكوبي، جينيفر (13 سبتمبر 2001). "براءة الاختراع رقم US2001021914" . إسباسينت . تم الاطلاع عليه في 4 يوليو 2018 .

[2] هارديبول، سيسيل؛ هيدر، ميهالي؛ راماتشاندران، فيفيك (25 نوفمبر 2024)، "تعليم أخلاقيات الهندسة والذكاء الاصطناعي"، دليل روتليدج الدولي لتعليم أخلاقيات الهندسة ( الطبعة الأولى)، لندن: روتليدج، ص 125-142 ، doi : 10.4324/9781003464259-9 ، ISBN 978-1-003-46425-9

[3] فان إيجن، هانز (2025). "خوارزميات الذكاء الاصطناعي كمعارف (غير) فاضلة" . اكتشف الذكاء الاصطناعي . 5 (2) 2. doi : 10.1007/s44163-024-00219-z .

[4] مارابيلي، ماركو (2024). الذكاء الاصطناعي والأخلاقيات والتمييز في الأعمال . دراسات بالغراف في الإنصاف والتنوع والشمول والتوطين في الأعمال. سبرينغر. doi : 10.1007/978-3-031-53919-0 . ISBN 978-3-031-53918-3.

[5] سوريش، هاريني؛ جوتاج، جون (4 نوفمبر 2021). "إطار عمل لفهم مصادر الضرر خلال دورة حياة التعلم الآلي" . الإنصاف والوصول في الخوارزميات والآليات والتحسين . EAAMO '21. نيويورك، نيويورك، الولايات المتحدة الأمريكية: رابطة آلات الحوسبة. الصفحات 1-9 . doi : 10.1145/3465416.3483305 . ISBN 978-1-4503-8553-4. S2CID 235436386 .

[6] كريستوفيك، أندريه (28 أبريل 2025). "التحيز في اتخاذ القرارات (المدعومة) بالذكاء الاصطناعي: مشاكل قديمة، تقنيات جديدة" . المجلة الدولية لإدارة المحاكم . 16 (1) 3. doi : 10.36745/ijca.598 . ISSN 2156-7964 .

[7] مهرابي، ن.؛ مورستاتر، ف.؛ ساكسينا، ن.؛ ليرمان، ك.؛ غالستيان، أ. (2021). "دراسة استقصائية حول التحيز والإنصاف في التعلم الآلي" . مجلة ACM Computing Surveys . 54 (6): 1–35 . arXiv : 1908.09635 . doi : 10.1145/3457607 . تاريخ الاسترجاع: 30 أبريل 2025 .

[Striphas-8] ستريفاس، تيد (فبراير 2012). "ما هي الخوارزمية؟ - الثقافة الرقمية" . culturedigitally.org . تم الاطلاع عليه في 20 نوفمبر 2017 .

[Cormen-9] كورمين، توماس هـ. ليسرسون، تشارلز إي. ريفست، رونالد L.؛ شتاين، كليفورد (2009). مقدمة للخوارزميات ( الطبعة الثالثة). كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص. 5 . رقم ISBN 978-0-262-03384-8.

[Kitchin-10] 1 2 3 كيتشن، روب (25 فبراير 2016). "التفكير النقدي في الخوارزميات والبحث فيها" (ملف PDF) . المعلومات والاتصالات والمجتمع . 20 (1): 14-29 . doi : 10.1080/1369118X.2016.1154087 . S2CID 13798875 .

[GoogleAlgorithms-11] "كيف يعمل بحث جوجل" . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .

[Luckerson-12] لوكرسون، فيكتور. "إليك كيف يعمل موجز الأخبار على فيسبوك فعليًا" . مجلة تايم . مؤرشف من الأصل في 14 أبريل 2021. تم الاطلاع عليه في 19 نوفمبر 2017 .

[Vanderbilt-13] فاندربيلت، توم (7 أغسطس 2013). "العلم الكامن وراء خوارزميات نتفليكس التي تحدد ما ستشاهده لاحقًا" . وايرد . تم الاطلاع عليه في 19 نوفمبر 2017 .

[AngwinMattu-14] أنجوين، جوليا ؛ ماتو، سوريا (20 سبتمبر 2016). "أمازون تقول إنها تضع العملاء في المقام الأول. لكن خوارزمية التسعير الخاصة بها لا تفعل ذلك - برو بابليكا" . برو بابليكا . تم الاطلاع عليه في 19 نوفمبر 2017 .

[Livingstone-15] ليفينغستون، روب (13 مارس 2017). "مستقبل الإعلان عبر الإنترنت هو البيانات الضخمة والخوارزميات" . ذا كونفرسيشن . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .

[Hickman-16] هيكمان، ليو (1 يوليو 2013). "كيف تحكم الخوارزميات العالم" . صحيفة الغارديان . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .

[Seaver-17] 1 2 3 4 5 6 سيفر، نيك. "معرفة الخوارزميات" (ملف PDF) . الإعلام في مرحلة انتقالية 8، كامبريدج، ماساتشوستس، أبريل 2013. مؤرشف من الأصل (ملف PDF) في 1 ديسمبر 2017. تم الاطلاع عليه في 18 نوفمبر 2017 .

[Graham-18] 1 2 3 غراهام، ستيفن دي إن (يوليو 2016). "الجغرافيا المصنفة برمجياً" (ملف PDF) . التقدم في الجغرافيا البشرية (مخطوطة مقدمة). 29 (5): 562-580 . doi : 10.1191/0309132505ph568oa . S2CID 19119278 .

[Tewell-19] 1 2 3 تيويل، إيمون (4 أبريل 2016). "نحو قراءة مقاومة للمعلومات: جوجل، والمشاهدة المقاومة، ومحو الأمية المعلوماتية النقدية" . بوابة: المكتبات والأوساط الأكاديمية . 16 (2): 289-310 . doi : 10.1353/pla.2016.0017 . ISSN 1530-7131 . S2CID 55749077. تاريخ الاسترجاع: 19 نوفمبر 2017 .

[20] كروفورد، كيت (1 أبريل 2013). "التحيزات الخفية في البيانات الضخمة" . مجلة هارفارد للأعمال .

[FriedmanNissenbaum-21] 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 فريدمان ، باتيا ؛ نيسنباوم ، هيلين ( يوليو 1996 ) . " التحيز في أنظمة الحاسوب" (ملف PDF) . معاملات ACM في نظم المعلومات . 14 (3): 330-347 . doi : 10.1145/230538.230561 . S2CID 207195759. تاريخ الاسترجاع: 10 مارس 2019 .

[Gillespie_et_al-22] 1 2 3 4 5 6 جيليسبي، تارلتون؛ بوكزكوفسكي، بابلو؛ فوت ، كريستين (2014). تقنيات الوسائط . كامبريدج: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 1 – 30. ISBN 978-0-262-52537-4.

[TowCenter-23] 1 2 دياكوبولوس، نيكولاس. "المساءلة الخوارزمية: حول التحقيق في الصناديق السوداء |" . towcenter.org . تم الاطلاع عليه في 19 نوفمبر 2017 .

[Lipartito-24] ليبارتيتو، كينيث (6 يناير 2011). السرد والخوارزمية: أنماط تقارير الائتمان من القرن التاسع عشر إلى اليوم (ملف PDF) ( مخطوطة مُقدَّمة). doi : 10.2139/SSRN.1736283 . S2CID 166742927. SSRN 1736283 .

[GoodmanFlaxman2016-25] 1 2 غودمان، برايس؛ فلاكسمان، سيث (2017). "لوائح الاتحاد الأوروبي بشأن اتخاذ القرارات الخوارزمية و"الحق في التفسير"". مجلة AI . 38 (3): 50.arXiv : 1606.08813 . doi : 10.1609 /aimag.v38i3.2741 . S2CID 7373959 .

[Weizenbaum1976-26] 1 2 3 4 5 6 7 وايزنباوم، جوزيف (1976). قوة الحاسوب والعقل البشري: من الحكم إلى الحساب . سان فرانسيسكو: دبليو إتش فريمان. ISBN 978-0-7167-0464-5.

[Goffrey-27] 1 2 جوفري، أندرو (2008). "الخوارزمية". في فولر، ماثيو (محرر). دراسات البرمجيات: معجم . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 15-20 . ISBN 978-1-4356-4787-9.

[LowryMacpherson-28] لوري، ستيلا؛ ماكفيرسون، جوردون (5 مارس 1988). " وصمة عار على المهنة" . المجلة الطبية البريطانية . 296 (6623): 657-658 . doi : 10.1136/bmj.296.6623.657 . PMC 2545288. PMID 3128356 .

[29] "التشكيلة الدائمة" . www.law.georgetown.edu . تم الاطلاع عليه بتاريخ 12 ديسمبر 2024 .

[30] بوولامويني، جوي. "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في تصنيف النوع الاجتماعي التجاري" . مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا . تم الاسترجاع في 12 ديسمبر 2024 .

[31] باروكاس، سولون (19 ديسمبر 2023). العدالة والتعلم الآلي: القيود والفرص . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 978-0-262-04861-3.

[Miller-32] ميلر، أليكس ب. (26 يوليو 2018). "هل تريد قرارات أقل تحيزًا؟ استخدم الخوارزميات" . مجلة هارفارد للأعمال . تم الاطلاع عليه في 31 يوليو 2018 .

[Introna1-33] 1 2 3 إنترونا، لوكاس د. (2 ديسمبر 2011). "تأطير الشفرة". النظرية والثقافة والمجتمع . 28 (6): 113-141 . doi : 10.1177/0263276411418131 . S2CID 145190381 .

[Bogost-34] بوغوست، إيان (15 يناير 2015). "كاتدرائية الحوسبة" . مجلة ذا أتلانتيك . تم الاطلاع عليه في 19 نوفمبر 2017 .

[IntronaWood-35] 1 2 3 4 5 6 7 إنترونا، لوكاس؛ وود، ديفيد (2004). " تصوير المراقبة الخوارزمية: سياسات أنظمة التعرف على الوجوه" . المراقبة والمجتمع . 2 : 177-198 . تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .

[Introna2-36] 1 2 3 4 إنترونا، لوكاس د. (21 ديسمبر 2006). "الحفاظ على قابلية عكس الطي: إبراز أخلاقيات (سياسات) تكنولوجيا المعلومات". الأخلاقيات وتكنولوجيا المعلومات . 9 (1): 11-25 . CiteSeerX 10.1.1.154.1313 . doi : 10.1007/s10676-006-9133-z . S2CID 17355392 .

[ShirkyAuthority-37] شيركي ، كلاي. "مقال تأملي حول فكرة السلطة الخوارزمية" بقلم كلاي شيركي . www.shirky.com . مؤرشف من الأصل بتاريخ 15 مارس 2012. تم الاطلاع عليه بتاريخ 20 نوفمبر 2017 .

[Ziewitz1-38] زيويتز ، مالتي ( 1 يناير 2016). "الخوارزميات الحاكمة: أسطورة، فوضى، وأساليب" . العلوم والتكنولوجيا والقيم الإنسانية . 41 (1): 3-16 . doi : 10.1177/0162243915608948 . ISSN 0162-2439 . S2CID 148023125 .

[Lash-39] لاش، سكوت (30 يونيو 2016). "السلطة بعد الهيمنة". النظرية والثقافة والمجتمع . 24 (3): 55-78 . doi : 10.1177/0263276407075956 . S2CID 145639801 .

[40] غودول، أليكسيا؛ أريغوني، أوتلا؛ شاريسي، فيكي ؛ إسكوبار-بلاناس، مارينا؛ هوبونت، إيزابيل (2024)، "فهم تأثير الإشراف البشري على النتائج التمييزية في صنع القرار المدعوم بالذكاء الاصطناعي"، المؤتمر الأوروبي للذكاء الاصطناعي 2024 ، سلسلة آفاق في الذكاء الاصطناعي وتطبيقاته، دار نشر IOS، الصفحات 1067-1074 ، doi : 10.3233/faia240598 ، ISBN 978-1-64368-548-9

[Garcia-41] 1 2 غارسيا، ميغان (1 يناير 2016). "العنصرية في الآلة". مجلة السياسة العالمية . 33 (4): 111-117 . doi : 10.1215/07402775-3813015 . S2CID 151595343 .

[42] "تسجيل مؤتمر ACM FAccT 2021" . fatconference.org . تم الاطلاع عليه بتاريخ 14 نوفمبر 2021 .

[Ochigame-43] أوتشيغامي، رودريغو (20 ديسمبر 2019). "اختراع "الذكاء الاصطناعي الأخلاقي": كيف تتلاعب شركات التكنولوجيا الكبرى بالأوساط الأكاديمية لتجنب التنظيم" . ذا إنترسبت . تم الاطلاع عليه في 11 فبراير 2020 .

[44] "إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0)" (ملف PDF) . المعهد الوطني للمعايير والتكنولوجيا . يناير 2023.

[SergotEtAl-45] سيرجوت، إم جيه؛ صدري، إف؛ كوالسكي، آر إيه؛ كريواتشيك، إف؛ هاموند، بي؛ كوري، إتش تي (مايو 1986). "قانون الجنسية البريطانية كبرنامج منطقي" (ملف PDF) . مجلة اتصالات رابطة مكائن الحوسبة . 29 (5): 370-386 . doi : 10.1145/5689.5920 . S2CID 5665107. تاريخ الاسترجاع: 18 نوفمبر 2017 .

[brookings.edu-46] 1 2 "لإيقاف التحيز الخوارزمي، علينا أولاً تعريفه" . بروكينغز . تم الاطلاع عليه في 27 يونيو 2023 .

[47] إيفانز، ميلاني؛ ماثيوز، آنا وايلد (24 أكتوبر 2019). "باحثون يكتشفون تحيزًا عنصريًا في خوارزمية المستشفى" . صحيفة وول ستريت جورنال . الرقم الدولي الموحد للدوريات 0099-9660 . تاريخ الاسترجاع: 27 يونيو 2023 .

[48] "التحيز في التعلم الآلي: أنواعه وأمثلة عليه" . SuperAnnotate . تم الاطلاع عليه بتاريخ 25 فبراير 2026 .

[49] ناصر، لما ح.؛ زعترة، رزان؛ والدروب، شاي؛ كي، جاني شو تشين؛ موخيبر، ميرا؛ خانا، أشيش ك.؛ هيكلين، راشيل س.؛ موخيبر، لما؛ موخيبر، دانا؛ ما، هاوبو؛ ماثور، بيوش (22 يونيو 2023). "التحيز في خوارزميات الذكاء الاصطناعي وتوصيات للتخفيف منه" . مجلة PLOS للصحة الرقمية . 2 (6) e0000278. doi : 10.1371/journal.pdig.0000278 . ISSN 2767-3170 . PMC 10287014. PMID 37347721 .

[:3-50] 1 2 3 لو، كويني؛ بويت، مايكل جيه؛ سميث، مايكل دي (23 مايو 2023)، مرآة منظور الفيل: التحقيق في التحيز اللغوي على جوجل، تشات جي بي تي، ويكيبيديا، ويوتيوب ، arXiv : 2303.16281

[51] هوفمان، فالنتين. كالوري، براتيوشا ريا؛ جورافسكي ، دان. كينغ ، شيريس (5 سبتمبر 2024). "يصدر الذكاء الاصطناعي قرارات عنصرية سرًا بشأن الأشخاص بناءً على لهجتهم" . طبيعة . 633 (8028): 147– 154. بيب كود : 2024Natur.633..147H . دوى : 10.1038/s41586-024-07856-5 . بمك 11374696 . بميد 39198640 .

[52] تشوي، هيونغ كيو؛ شو، ويجي؛ شيو، تشي؛ إيكمان، ستيفاني؛ ريدي، تشاندان ك. (27 سبتمبر 2024)، تخفيف تحيز الاختيار باستخدام تقليم العقد والخيارات المساعدة ، arXiv : 2409.18857

[53] تشنغ ، تشوجي. تشو، هاو؛ منغ، فاندونغ؛ تشو، جي؛ هوانغ، مينلي (7 سبتمبر 2023)، نماذج اللغات الكبيرة ليست قوية في محددات الاختيار المتعدد ، أرخايف : 2309.03882

[54] بوسكر، توني؛ تشوني، سونيل؛ شواي بارغ، مرتضى (20 نوفمبر 2023). "الصور النمطية في ChatGPT: دراسة تجريبية" . وقائع المؤتمر الدولي السادس عشر حول نظرية وممارسة الحوكمة الإلكترونية . ICEGOV '23. نيويورك، نيويورك، الولايات المتحدة الأمريكية: رابطة آلات الحوسبة. الصفحات 24-32 . doi : 10.1145/3614321.3614325 . ISBN 979-8-4007-0742-1.

[55] كوتيك، هاداس؛ دوكوم، ريكر؛ صن، ديفيد (5 نوفمبر 2023). "التحيز الجنسي والقوالب النمطية في نماذج اللغة الكبيرة" . وقائع مؤتمر الذكاء الجماعي التابع لجمعية آلات الحوسبة . CI '23. نيويورك، نيويورك، الولايات المتحدة الأمريكية: جمعية آلات الحوسبة. الصفحات 12-24 . arXiv : 2308.14921 . doi : 10.1145/3582269.3615599 . ISBN 979-8-4007-0113-9.

[Mohammadi2025-56] 1 2 محمدي، إحسان (2025). "التحيز الجنسي في الذكاء الاصطناعي للرؤية السحابية من جوجل" . الذكاء الاصطناعي والأخلاق . doi : 10.1007/s43681-025-00742-4 .

[57] تشنغ، ميرا؛ دورموس، إيسين؛ جورافسكي، دان (29 مايو 2023)، الشخصيات المميزة: استخدام عبارات اللغة الطبيعية لقياس الصور النمطية في نماذج اللغة ، arXiv : 2305.18189

[58] وانغ، أنجلينا؛ مورغنسترن، جيمي ؛ ديكرسون، جون ب. (17 فبراير 2025). "نماذج اللغة الضخمة التي تحل محل المشاركين البشريين قد تُسيء تصوير مجموعات الهوية وتُسطّحها بشكل ضار". مجلة نيتشر للذكاء الآلي . 7 (3): 400-411 . arXiv : 2402.01908 . doi : 10.1038/s42256-025-00986-z .

[59] فريريكسدوتير، ستاينون روت؛ آينارسون، هافستين (2024)، “القواعد بين الجنسين أو التحيز المتأصل؟ استكشاف التحيز بين الجنسين في نماذج اللغة الأيسلندية” ، Lrec -Coling 2024 : 7596–7610

[60] فينغ، شانغبين؛ بارك، تشان يونغ؛ ليو، يوهان؛ تسفيتكوف، يوليا (يوليو 2023). روجرز، آنا؛ بويد-غرابر، جوردان؛ أوكازاكي، ناوكي (محررون). "من بيانات التدريب المسبق إلى نماذج اللغة إلى المهام اللاحقة: تتبع آثار التحيزات السياسية المؤدية إلى نماذج معالجة اللغة الطبيعية غير العادلة" . وقائع الاجتماع السنوي الحادي والستين لجمعية اللغويات الحاسوبية (المجلد 1: الأوراق البحثية الطويلة) . تورنتو، كندا: جمعية اللغويات الحاسوبية: 11737-11762 . arXiv : 2305.08283 . doi : 10.18653/v1/2023.acl-long.656 .

[61] لازارو، جينا (17 مايو 2024). "فهم التحيز الجنسي والعنصري في الذكاء الاصطناعي" . مراجعة الأثر الاجتماعي لمبادرة القيادة المتقدمة بجامعة هارفارد . تم الاطلاع عليه في 11 ديسمبر 2024 .

[62] جيندال، أتين (5 سبتمبر 2022). " الذكاء الاصطناعي المُضلل: كيف يتم تضمين التحيز العنصري في النماذج السريرية" . مجلة طب مستشفى براون . 2 (1) 38021. doi : 10.56305/001c.38021 . PMC 11878858. PMID 40046549 .

[63] "العنصرية والذكاء الاصطناعي: "التحيز من الماضي يؤدي إلى التحيز في المستقبل"" . الأمم المتحدة لحقوق الإنسان . 30 يوليو 2024. تم الاطلاع عليه في 18 فبراير 2026 .

[Data2019-64] 1 2 "عملاق البيانات: دولة المراقبة الصينية المتنامية" . هيومن رايتس ووتش . 16 أغسطس 2019. تم الاطلاع عليه في 10 فبراير 2026 .

[65] "تعطيل خط تجميع العبوات الناسفة: إعاقة تدفق نترات الأمونيوم في جنوب ووسط آسيا" . gpo.gov . 2026. تم الاطلاع عليه بتاريخ 10 فبراير 2026 .

[66] "السلطات تُلزم الإيغور في أكسو بشينجيانغ بوضع رموز شريطية على سكاكينهم" . راديو آسيا الحرة . 2017. تاريخ الاطلاع: 15 فبراير 2026 .

[67] هاغندورف، ثيلو؛ بوسرت، ليوني ن.؛ تسيه، ييب فاي؛ سينغر، بيتر (1 أغسطس/آب 2023). "التحيز العنصري ضد الحيوانات في الذكاء الاصطناعي: كيف تُديم تطبيقات الذكاء الاصطناعي التمييز والنتائج غير العادلة ضد الحيوانات". الذكاء الاصطناعي والأخلاق . 3 (3): 717-734 . doi : 10.1007/s43681-022-00199-9 . ISSN 2730-5961 .

[Gillespie-68] جيليسبي، تارلتون (25 يونيو 2014). "خوارزمية [ مسودة ] [ #الكلمات_الرقمية ] - الثقافة الرقمية" . culturedigitally.org . تم الاطلاع عليه في 20 نوفمبر 2017 .

[Roth-69] روث، AE 1524–1528. (14 ديسمبر 1990). "الأطباء الجدد: تجربة طبيعية في تنظيم السوق" . مجلة ساينس . 250 (4987): 1524–1528 . Bibcode : 1990Sci...250.1524R . doi : 10.1126/science.2274783 . PMID 2274783. S2CID 23259274. تاريخ الاسترجاع: 18 نوفمبر 2017 . {{cite journal}}: صيانة CS1: الأسماء الرقمية: قائمة المؤلفين ( رابط )

[Kuang-70] كوانغ، كليف (21 نوفمبر 2017). "هل يمكن تعليم الذكاء الاصطناعي شرح نفسه؟" . مجلة نيويورك تايمز . تم الاطلاع عليه بتاريخ 26 نوفمبر 2017 .

[JouvenalPredPol-71] 1 2 جوفينال، جاستن (17 نوفمبر 2016). "تستخدم الشرطة برامج حاسوبية للتنبؤ بالجريمة. هل هي حلٌّ سحري أم أنها متحيزة ضد الأقليات؟" . صحيفة واشنطن بوست . تاريخ الاطلاع: 25 نوفمبر 2017 .

[Chamma-72] 1 2 تشاما، موريس (3 فبراير 2016). "ضبط المستقبل" . مشروع مارشال . تم الاسترجاع في 25 نوفمبر 2017 .

[LumIsaac-73] لوم، كريستيان؛ إسحاق، ويليام (أكتوبر 2016). "التنبؤ والخدمة؟" . الأهمية . 13 (5): 14-19 . doi : 10.1111/j.1740-9713.2016.00960.x .

[SmithPredPol-74] سميث، جاك (9 أكتوبر 2016). "دراسة تُظهر أن الشرطة التنبؤية لا تُؤدي إلا إلى تفاقم التحيز العنصري" . مايك . تم الاطلاع عليه في 25 نوفمبر 2017 .

[LumIsaacFAQ-75] لوم، كريستيان؛ إسحاق، ويليام (1 أكتوبر 2016). "أسئلة وأجوبة حول الشرطة التنبؤية والتحيز" . HRDAG . تم الاطلاع عليه في 25 نوفمبر 2017 .

[76] باهل، أوتساف؛ توباز، تشاد؛ أوبرمولر، ليا؛ غولدشتاين، صوفي؛ سنيرسون، ميرا (21 مايو 2024). "الخوارزميات في أيدي القضاة: السجن وعدم المساواة في مقاطعة بروارد، فلوريدا" . مجلة يو سي إل إيه للقانون . 71 (246).

[77] صن، وينلونغ؛ نصرواي، ألفة؛ شافتو، باتريك (2018). "التحيز الخوارزمي المتكرر في عملية التعلم الآلي التفاعلي لتصفية المعلومات". وقائع المؤتمر الدولي المشترك العاشر حول اكتشاف المعرفة وهندسة المعرفة وإدارة المعرفة . إشبيلية، إسبانيا: SCITEPRESS - منشورات العلوم والتكنولوجيا. ص 110-118 . doi : 10.5220/0006938301100118 . ISBN 978-989-758-330-8.

[78] سينها، أيان؛ غليش، ديفيد ف.؛ راماني، كارتيك (9 أغسطس 2018). "قانون غاوس للشبكات يكشف حدود المجتمعات بشكل مباشر" . التقارير العلمية . 8 (1): 11909. Bibcode : 2018NatSR...811909S . doi : 10.1038/s41598-018-30401-0 . ISSN 2045-2322 . PMC 6085300. PMID 30093660 .

[79] هاو، كارين (فبراير 2018). "جوجل تعترف أخيرًا بوجود مشكلة في فقاعات التصفية" . كوارتز . تم الاطلاع عليه في 26 فبراير 2019 .

[80] "فيسبوك يختبر هذه الميزة الجديدة لمكافحة 'فقاعات التصفية'"" . مجلة فورتشن . تم الاطلاع عليه بتاريخ 26 فبراير 2019 .

[Sandvig1-81] 1 2 ساندفيج، كريستيان؛ هاميلتون، كيفن؛ كاراهاليوس، كاري ؛ لانغبورت، سيدريك (22 مايو 2014). "خوارزميات التدقيق: أساليب البحث للكشف عن التمييز على منصات الإنترنت" (ملف PDF) . الاجتماع السنوي الرابع والستون للجمعية الدولية للاتصالات . تم الاطلاع عليه في 18 نوفمبر 2017 .

[BrinPage98-82] برين، سيرجي؛ بيج، لورانس. "تشريح محرك البحث" . www7.scu.edu.au. مؤرشف من الأصل في 2 يوليو 2019. تم الاطلاع عليه في 18 نوفمبر 2017 .

[Epstein-83] إبستين، روبرت؛ روبرتسون، رونالد إي. (18 أغسطس/آب 2015). "تأثير التلاعب بمحركات البحث (SEME) وتأثيره المحتمل على نتائج الانتخابات" . وقائع الأكاديمية الوطنية للعلوم . 112 (33): E4512– E4521 . Bibcode : 2015PNAS..112E4512E . doi : 10.1073/pnas.1419828112 . PMC 4547273. PMID 26243876 .

[Bond-etal-84] بوند، روبرت م.؛ فاريس، كريستوفر ج.؛ جونز، جيسون ج.؛ كرامر، آدم د.إ.؛ مارلو، كاميرون؛ سيتل، جايمي إ.؛ فاولر، جيمس هـ. (13 سبتمبر/أيلول 2012). "تجربة شملت 61 مليون شخص في التأثير الاجتماعي والتعبئة السياسية" . مجلة نيتشر . 489 (7415): 295-298 . Bibcode : 2012Natur.489..295B . doi : 10.1038/nature11421 . ISSN 0028-0836 . PMC 3834737. PMID 22972300 .

[Zittrain-85] زيتراين، جوناثان (2014). "هندسة الانتخابات" (ملف PDF) . منتدى هارفارد للقانون . 127 : 335-341 . مؤرشف من الأصل (ملف PDF) في 4 مارس 2021. تم الاطلاع عليه في 19 نوفمبر 2017 .

[Day-86] داي، مات (31 أغسطس 2016). "كيف قد يعكس محرك بحث لينكدإن تحيزًا جنسيًا" . صحيفة سياتل تايمز . تم الاطلاع عليه بتاريخ 25 نوفمبر 2017 .

[CrawfordSchultz-87] 1 2 كروفورد، كيت؛ شولتز، جيسون (2014). "البيانات الضخمة والإجراءات القانونية الواجبة: نحو إطار عمل لمعالجة أضرار الخصوصية التنبؤية" . مجلة كلية بوسطن للقانون . 55 (1): 93-128 . تم الاطلاع عليه بتاريخ 18 نوفمبر 2017 .

[Duhigg-88] دويج، تشارلز (16 فبراير 2012). "كيف تعرف الشركات أسرارك" . مجلة نيويورك تايمز . تم الاطلاع عليه في 18 نوفمبر 2017 .

[Noble-89] نوبل، صفية (2012). "الفرص الضائعة: ماذا تقول محركات البحث عن النساء" (ملف PDF) . مجلة بيتش . 12 (4): 37-41 . مؤرشف من الأصل (ملف PDF) في 23 أبريل 2021. تم الاطلاع عليه في 30 يناير 2019 .

[Guynn2-90] غوين، جيسيكا (16 مارس 2017). "جوجل تبدأ بوضع علامات على المحتوى المسيء في نتائج البحث" . يو إس إيه توداي . تم الاطلاع عليه في 19 نوفمبر 2017 .

[SimoniteMIT-91] سيمونايت، توم. "دراسة تشير إلى أن نظام استهداف الإعلانات في جوجل قد ينطوي على تمييز" . مجلة إم آي تي للتكنولوجيا . معهد ماساتشوستس للتكنولوجيا . تم الاطلاع عليه بتاريخ 17 نوفمبر 2017 .

[92] براتيس، مارسيلو أو آر؛ أفيلار، بيدرو إتش سي؛ لامب، لويس (2018). "تقييم التحيز الجنسي في الترجمة الآلية - دراسة حالة مع ترجمة جوجل". arXiv : 1809.02208 [ cs.CY ].

[93] براتيس، مارسيلو أو آر؛ أفيلار، بيدرو إتش؛ لامب، لويس سي. (2019). "تقييم التحيز الجنسي في الترجمة الآلية: دراسة حالة باستخدام ترجمة جوجل". الحوسبة العصبية وتطبيقاتها . 32 (10): 6363-6381 . arXiv : 1809.02208 . doi : 10.1007/s00521-019-04144-6 . S2CID 52179151 .

[94] كلابورن، توماس (10 سبتمبر 2018). "علماء ينتقدون ترجمة جوجل بسبب التمييز الجنسي" . ذا ريجستر . تم الاطلاع عليه في 28 أبريل 2022 .

[95] داستين، جيفري (9 أكتوبر 2018). "أمازون تلغي أداة توظيف سرية تعمل بالذكاء الاصطناعي أظهرت تحيزًا ضد النساء" . رويترز .

[96] فينسنت، جيمس (10 أكتوبر 2018). "أمازون تُلغي، بحسب التقارير، أداة توظيف داخلية تعمل بالذكاء الاصطناعي كانت متحيزة ضد النساء" . ذا فيرج .

[97] "التأمل في نظام التوصيات الخاص بسبوتيفاي - بيانات الأغاني" . أكتوبر 2019. تم الاطلاع عليه في 7 أغسطس 2020 .

[Buolamwini-Gebru-98] بولامويني، جوي؛ جبرو، تيمنيت (21 يناير 2018). "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في التصنيف التجاري للنوع الاجتماعي" . وقائع بحوث التعلم الآلي . 81 (2018): 77-91 . تم الاطلاع عليه في 27 سبتمبر 2020 .

[Noble2-99] نوبل، صفية أوموجا (20 فبراير 2018). خوارزميات القمع: كيف تعزز محركات البحث العنصرية . نيويورك: مطبعة جامعة نيويورك. ISBN 978-1-4798-3724-3.

[Nakamura1-100] 1 2 ناكامورا، ليزا (2009). ماغنيت، شوشانا؛ غيتس، كيلي (محرران). وسائل الإعلام الجديدة للمراقبة . لندن: روتليدج. ص 149-162 . ISBN 978-0-415-56812-8.

[101] ماركو مارابيلي؛ سو نيويل؛ فاليري هاندونج (2021). "دورة حياة أنظمة صنع القرار الخوارزمية: الخيارات التنظيمية والتحديات الأخلاقية" . مجلة نظم المعلومات الاستراتيجية . 30 (3): 1-15 . doi : 10.1016/j.jsis.2021.101683 .

[102] ألكسندر، رودولف؛ جياميرا، جاكلين (سبتمبر 1997). "العقاب التفاضلي للأمريكيين من أصل أفريقي والبيض الذين يمتلكون مخدرات: سياسة عادلة أم استمرار للماضي؟". مجلة الدراسات السوداء . 28 (1): 97-111 . doi : 10.1177/002193479702800106 . ISSN 0021-9347 . S2CID 152043501 .

[103] بيترسيليا، جوان (يناير 1985). "التفاوتات العرقية في نظام العدالة الجنائية: ملخص". الجريمة والانحراف . 31 (1): 15-34 . doi : 10.1177/0011128785031001002 . ISSN 0011-1287 . S2CID 146588630 .

[Guynn-104] 1 2 غوين، جيسيكا (1 يوليو 2015). "صور جوجل تصنف السود على أنهم 'غوريلا'"" . يو إس إيه توداي . تم الاطلاع عليه بتاريخ 18 نوفمبر 2017 .

[Rose-105] روز، آدم (22 يناير 2010). "هل كاميرات التعرف على الوجوه عنصرية؟" . مجلة تايم . مؤرشف من الأصل في 11 يناير 2014. تم الاطلاع عليه في 18 نوفمبر 2017 .

[106] "أليكسا لا تفهم لهجتك" . صحيفة واشنطن بوست .

[Sweeney-107] سويني، لاتانيا (28 يناير 2013). "التمييز في عرض الإعلانات عبر الإنترنت". arXiv : 1301.6822 [ cs.IR ].

[108] براون، لندي (2015). "العرق، والإثنية، ووظائف الرئة: تاريخ موجز" . المجلة الكندية للعلاج التنفسي . 51 (4): 99-101 . ISSN 1205-9838 . PMC 4631137. PMID 26566381 .

[109] روبنسون، ويتني ر؛ رينسون، أودري؛ نعيمي، آشلي آي (1 أبريل 2020). "تعليم نفسك عن العنصرية البنيوية سيُحسّن من مهاراتك في التعلّم الآلي" . الإحصاء الحيوي . 21 (2): 339-344 . doi : 10.1093/biostatistics/kxz040 . ISSN 1465-4644 . PMC 7868043. PMID 31742353 .

[110] جونسون، كارولين ي. (24 أكتوبر 2019). "التحيز العنصري في خوارزمية طبية يُفضّل المرضى البيض على المرضى السود الأكثر مرضًا" . صحيفة واشنطن بوست . تم الاطلاع عليه بتاريخ 28 أكتوبر 2019 .

[111] بارتليت، روبرت؛ مورس، أدير؛ ستانتون، ريتشارد؛ والاس، نانسي (يونيو 2019). "التمييز في إقراض المستهلكين في عصر التكنولوجيا المالية" . ورقة عمل NBER رقم 25943. سلسلة أوراق العمل. doi : 10.3386/w25943 . S2CID 242410791 .

[112] هوفمان، ف.، كالوري، ب. ر.، جورافسكي، د. وآخرون. الذكاء الاصطناعي يُولّد قرارات عنصرية خفية عن الناس بناءً على لهجتهم. مجلة نيتشر 633، 147-154 (2024). https://doi.org/10.1038/s41586-024-07856-5

[113] بولامويني، ج.؛ جبرو، ت . (2018). "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في التصنيف التجاري للنوع الاجتماعي" . وقائع المؤتمر الأول حول العدالة والمساءلة والشفافية . ص 77-91 . تم الاطلاع عليه في 30 أبريل 2025 .

[114] جيف لارسون، جوليا أنجوين (23 مايو 2016). "كيف حللنا خوارزمية COMPAS لرصد العودة إلى الإجرام" . برو بابليكا . مؤرشف من الأصل في 29 أبريل 2019. تم الاطلاع عليه في 19 يونيو 2020 .

[115] «تعليق: خبر سيء. الذكاء الاصطناعي متحيز» . وكالة الأنباء المركزية . ١٢ يناير ٢٠١٩. مؤرشف من الأصل في ١٢ يناير ٢٠١٩. تم الاطلاع عليه في ١٩ يونيو ٢٠٢٠ .

[ProPublica-116] 1 2 أنجوين، جوليا؛ لارسون، جيف؛ ماتو، سوريا؛ كيرشنر، لورين (23 مايو 2016). "التحيز الآلي - برو ببليكا" . برو ببليكا . تم الاسترجاع في 18 نوفمبر 2017 .

[Harcourt-117] هاركورت، برنارد (16 سبتمبر 2010). " المخاطرة كبديل للعرق" . تقرير الأحكام الفيدرالية . 27 (4): 237. doi : 10.1525/fsr.2015.27.4.237 . S2CID 53611813. SSRN 1677654 .

[118] سكيم ج، لوينكامب سي، المخاطر والعرق والعودة إلى الإجرام: التحيز التنبؤي والتأثير المتباين، (14 يونيو 2016). SSRN 2687339

[119] توماس، سي.؛ نونيز، أ. (2022). "أتمتة السلطة التقديرية القضائية: كيف تنتهك تقييمات المخاطر الخوارزمية في الأحكام التمهيدية حقوق الحماية المتساوية على أساس العرق" . القانون وعدم المساواة . 40 (2): 371-407 . doi : 10.24926/25730037.649 .

[AngwinGrassegger-120] 1 2 أنجوين، جوليا؛ جراسيجر، هانز (28 يونيو 2017). "قواعد الرقابة السرية لفيسبوك تحمي الرجال البيض من خطاب الكراهية، لكنها لا تحمي الأطفال السود - برو ببليكا" . برو ببليكا . تم الاطلاع عليه في 20 نوفمبر 2017 .

[AngwinVarnerTobin-121] أنجوين، جوليا؛ فارنر، مادلين؛ توبين، أريانا (14 سبتمبر/أيلول 2017). "فيسبوك مكّن المعلنين من الوصول إلى 'كارهي اليهود' - برو ببليكا" . برو ببليكا . تم الاطلاع عليه في 20 نوفمبر/تشرين الثاني 2017 .

[122] ساب، مارتن؛ كارد، دالاس؛ غابرييل، سعدية؛ تشوي، ييجين؛ سميث، نوح أ. (28 يوليو - 2 أغسطس 2019). "خطر التحيز العنصري في كشف خطاب الكراهية" (ملف PDF) . وقائع الاجتماع السنوي السابع والخمسين لجمعية اللغويات الحاسوبية . فلورنسا، إيطاليا: جمعية اللغويات الحاسوبية. الصفحات 1668-1678 . مؤرشف (ملف PDF) من الأصل في 14 أغسطس 2019.

[123] غفاري، شيرين (15 أغسطس/آب 2019). "الخوارزميات التي تكشف خطاب الكراهية على الإنترنت متحيزة ضد السود" . فوكس . تم الاطلاع عليه في 19 فبراير/شباط 2020 .

[Furl2002-124] فورل، ن. (ديسمبر 2002). "خوارزميات التعرف على الوجوه وتأثير العرق الآخر: آليات حسابية لفرضية الاتصال التنموي" . العلوم المعرفية . 26 (6): 797-815 . doi : 10.1207/s15516709cog2606_4 .

[Raji-Gebru-Mitchell-2020-125] راجي، إينيولوا ديبورا؛ جبرو، تيمنيت؛ ميتشل، مارغريت؛ بولامويني، جوي؛ لي، جونسوك؛ دينتون، إميلي (7 فبراير 2020). "حفظ ماء الوجه" . وقائع مؤتمر AAAI/ACM حول الذكاء الاصطناعي والأخلاق والمجتمع . رابطة آلات الحوسبة. الصفحات 145-151 . arXiv : 2001.00964 . doi : 10.1145/3375627.3375820 . ISBN 978-1-4503-7110-0. S2CID 209862419 .

[The_New_York_Times_2018_l903-126] "التعرف على الوجه دقيق، إذا كنت رجلاً أبيض" . صحيفة نيويورك تايمز . 9 فبراير 2018. تم الاطلاع عليه بتاريخ 24 أغسطس 2023 .

[127] بولامويني، جوي؛ جبرو، تيمنيت (2018). "ظلال النوع الاجتماعي: تفاوتات الدقة المتقاطعة في التصنيف التجاري للنوع الاجتماعي" (ملف PDF) . وقائع بحوث التعلم الآلي . 81 : 1 - عبر مطبعة MLR.

[Ananny-128] أناني، مايك (14 أبريل 2011). "العلاقة الغريبة بين تطبيقات الرجال المثليين ومرتكبي الجرائم الجنسية" . مجلة ذا أتلانتيك . تم الاطلاع عليه بتاريخ 18 نوفمبر 2017 .

[Kafka2-129] كافكا، بيتر. "هل فشلت أمازون حقًا في نهاية هذا الأسبوع؟ يقول مستخدمو تويتر "نعم"، ويقول بائع التجزئة عبر الإنترنت "خلل"." . AllThingsD . تم الاطلاع عليه بتاريخ 22 نوفمبر 2017 .

[Kafka-130] كافكا، بيتر. "أمازون تعتذر عن 'خطأ فهرسة فادح'"" . AllThingsD . تم الاطلاع عليه بتاريخ 22 نوفمبر 2017 .

[131] ماتساكيس، لويز (22 فبراير 2019). "خلل بحث 'متحيز جنسيًا' يكشف عنا أكثر مما يكشفه فيسبوك" . مجلة وايرد . الرقم الدولي الموحد للدوريات 1059-1028 . تاريخ الاسترجاع: 26 فبراير 2019 .

[132] "بعض أنواع الذكاء الاصطناعي لا ينبغي أن توجد" . 19 أبريل 2019.

[133] صموئيل، سيغال (19 أبريل 2019). "بعض أنظمة الذكاء الاصطناعي لا ينبغي أن توجد" . فوكس . تم الاطلاع عليه في 12 ديسمبر 2019 .

[134] وانغ، ييلون؛ كوسينسكي، ميخال (15 فبراير 2017). "الشبكات العصبية العميقة أكثر دقة من البشر في الكشف عن التوجه الجنسي من صور الوجه" . OSF . doi : 10.17605/OSF.IO/ZN79K .

[135] ليفين، سام (9 سبتمبر/أيلول 2017). "جماعات المثليين والمتحولين جنسيًا تستنكر الذكاء الاصطناعي "الخطير" الذي يستخدم وجهك لتخمين ميولك الجنسية" . صحيفة الغارديان . ISSN 0261-3077 . تاريخ الاطلاع: 12 ديسمبر/كانون الأول 2019 .

[136] بال، جي سي (16 سبتمبر 2011). "الإعاقة، والتقاطع، والحرمان: أجندة مُستبعدة" . علم النفس والمجتمعات النامية . 23(2)، 159-176. doi : 10.1177/097133361102300202 . S2CID 147322669 – عبر Sagepub.

[137] برينكمان، أورورا هـ.؛ ريا-ساندين، جيانا؛ لوند، إميلي م.؛ فيتزباتريك، أوليفيا م.؛ جوسمان، ميكايلا س.؛ بونيس، كاساندرا ل.؛ منظمة "باحثون من أجل الارتقاء بالإنصاف والتنوع" (SEED) (20 أكتوبر 2022). " تغيير الخطاب حول الإعاقة: الانتقال إلى تركيز شامل ومتداخل" . المجلة الأمريكية لطب النفس التقويمي . 93 (1): 50-62 . doi : 10.1037/ort0000653 . ISSN 1939-0025 . PMC 9951269. PMID 36265035 .

[138] ويتاكر، ميريديث (نوفمبر 2019). "الإعاقة، والتحيز، والذكاء الاصطناعي" (ملف PDF) . مؤرشف من الأصل (ملف PDF) في 27 مارس 2023. تم الاطلاع عليه في 2 ديسمبر 2022 .

[139] "مهمة - الإعاقة هي التنوع - إلى صناعة الترفيه، لا تنوع ولا إنصاف ولا شمول بدون الإعاقة" . الإعاقة هي التنوع . تم الاطلاع عليه في 2 ديسمبر 2022 .

[140] "تصميم مايكروسوفت" . www.microsoft.com . تم الاطلاع عليه بتاريخ 2 ديسمبر 2022 .

[141] بولرانج، أندرو. "أربع طرق لفهم تنوع مجتمع ذوي الإعاقة" . فوربس . تم الاطلاع عليه في 2 ديسمبر 2022 .

[142] ووترماير، برايان؛ شوارتز، ليزلي (12 أكتوبر 2022). "الإعاقة ومشكلة التقاطعية الكسولة". الإعاقة والمجتمع . 38 (2): 362-366 . doi : 10.1080/09687599.2022.2130177 . ISSN 0968-7599 . S2CID 252959399 .

[143] "تقرير بيانات الإعاقة 2021" . مبادرة بيانات الإعاقة . 23 مايو 2021. تم الاطلاع عليه في 2 ديسمبر 2022 .

[144] وايت، جيسون جي جي (2 مارس 2020). "عدالة الذكاء الاصطناعي للأشخاص ذوي الإعاقة: تحليل المشكلة والتعاون متعدد التخصصات". مجلة ACM SIGACCESS لإمكانية الوصول والحوسبة (125): 3:1. doi : 10.1145/3386296.3386299 . ISSN 1558-2337 . S2CID 211723415 .

[145] «دراسة تكشف عن تحيز نماذج اللغة المدعومة بالذكاء الاصطناعي ضد الأشخاص ذوي الإعاقة | جامعة ولاية بنسلفانيا» . www.psu.edu . ١٣ أكتوبر ٢٠٢٢. تاريخ الاطلاع: ٢ ديسمبر ٢٠٢٢ .

[146] جيفنز، ألكسندرا ريف (6 فبراير 2020). "كيف يضر التحيز الخوارزمي بالأشخاص ذوي الإعاقة" . مجلة سلات . تم الاطلاع عليه في 2 ديسمبر 2022 .

[147] موريس، ميريديث رينجل (22 مايو 2020). "الذكاء الاصطناعي وإمكانية الوصول". اتصالات رابطة الحوسبة الآلية . 63 (6): 35-37 . arXiv : 1908.08939 . doi : 10.1145/3356727 . ISSN 0001-0782 . S2CID 201645229 .

[148] نوبل، صفية أوموجا (20 فبراير 2018). خوارزميات القمع: كيف تعزز محركات البحث العنصرية . نيويورك. ISBN 978-1-4798-3724-3. OCLC 987591529 . {{cite book}}: CS1 maint: موقع الناشر مفقود ( رابط )

[149] كاستلنوفو، أليساندرو؛ إنفيراردي، نيكول؛ نانينو، غابرييل؛ بينكو، إيلاريا؛ ريغولي، دانييلي (2023). "هل هذا عادل بما فيه الكفاية؟ خريطة للقيود الحالية على متطلبات وجود خوارزميات "عادلة". arXiv : 2311.12435 [ cs.AI ].

[150] روجيري، سالفاتوري؛ ألفاريز، خوسيه م؛ بوجنانا، أندريا؛ توريني، فرانكو (2023). "هل يمكننا الوثوق بالذكاء الاصطناعي العادل؟" . وقائع مؤتمر AAAI حول الذكاء الاصطناعي . 37 (13): 5421-15430 . doi : 10.1609/aaai.v37i13.26798 . hdl : 11384/136444 . S2CID 259678387 .

[151] صموئيل، سيغال (19 أبريل 2022). "لماذا من الصعب للغاية جعل الذكاء الاصطناعي عادلاً وغير متحيز" . فوكس . تم الاطلاع عليه في 23 يوليو 2024 .

[152] فيوريتو، فرديناندو (19 مارس 2024). "بناء العدالة في الذكاء الاصطناعي أمر بالغ الأهمية - ويصعب تحقيقه بشكل صحيح" . ذا كونفرسيشن . تم الاطلاع عليه في 23 يوليو 2024 .

[Friedler-153] فريدلر، سوريل أ. شيدجر، كارلوس؛ فينكاتاسوبرامانيان، سوريش (2016). “على (استحالة) العدالة”. أرخايف : 1609.07236 [ cs.CY ].

[Hu-154] هو، ليلي؛ تشين، ييلينغ (2018). "الآثار الاجتماعية والتوزيعية للتصنيف العادل". arXiv : 1807.01134 [ cs.LG ].

[Dwork-155] دورك ، سينثيا. هاردت، موريتز. بيتاسي، تونيان؛ رينجولد، عمر؛ زيميل ، ريتش (28 نوفمبر 2011). “العدالة من خلال الوعي”. أرخايف : 1104.3913 [ cs.CC ].

[Sandvig2-156] 1 2 3 ساندفيج، كريستيان؛ هاميلتون، كيفن؛ كاراهاليوس، كاري؛ لانجبورت، سيدريك (2014). جانجادهارن، سيتا بينا؛ يوبانكس، فيرجينيا؛ باروكاس، سولون (محررون). "مراجعة الخوارزميات" (ملف PDF) . البيانات والتمييز: مقالات مختارة .

[LaFrance-157] لافرانس، أدريان (18 سبتمبر 2015). "الخوارزميات التي تُشغّل الإنترنت تزداد غموضًا" . مجلة ذا أتلانتيك . تم الاطلاع عليه في 19 نوفمبر 2017 .

[158] برونو لاتور (1999). أمل باندورا: مقالات حول واقع دراسات العلوم . كامبريدج، ماساتشوستس : مطبعة جامعة هارفارد .

[KubitschkoKaun-159] كوبيتشكو، سيباستيان؛ كاون، آن (2016). أساليب مبتكرة في بحوث الإعلام والاتصال . سبرينغر. ISBN 978-3-319-40700-5تم الاطلاع عليه بتاريخ 19 نوفمبر 2017 .

[McGee-160] ماكجي، مات (16 أغسطس 2013). "انتهى عصر إيدج رانك: خوارزمية موجز الأخبار في فيسبوك تضم الآن ما يقارب 100 ألف عامل ترجيح" . ماركتينج لاند . تم الاطلاع عليه في 18 نوفمبر 2017 .

[Granka-161] 1 2 3 غرانكا، لورا أ. (27 سبتمبر 2010). "سياسات البحث: نظرة استرجاعية على عقد من الزمن" (ملف PDF) . مجتمع المعلومات . 26 (5): 364-374 . doi : 10.1080/01972243.2010.511560 . S2CID 16306443. تاريخ الاسترجاع: 18 نوفمبر 2017 .

[162] شيميليفيتش، كاتارزينا (20 يناير 2020). "السياسة المعزولة" . ميديوم . تم الاطلاع عليه في 11 فبراير 2020 .

[163] فيل، مايكل؛ بينز، روبن (2017). "تعلم آلي أكثر عدلاً في العالم الحقيقي: الحد من التمييز دون جمع بيانات حساسة" . البيانات الضخمة والمجتمع . 4 (2): 205395171774353. doi : 10.1177/2053951717743530 . SSRN 3060763 .

[164] إليوت، مارك ن.؛ موريسون، بيتر أ.؛ فريمونت، ألين؛ مكافري، دانيال ف.؛ بانتوخا، فيليب؛ لوري، نيكول (يونيو 2009). "استخدام قائمة أسماء العائلات الصادرة عن مكتب الإحصاء لتحسين تقديرات العرق/الإثنية والفوارق المرتبطة بها". منهجية بحوث الخدمات الصحية والنتائج . 9 (2): 69-83 . doi : 10.1007/s10742-009-0047-1 . ISSN 1387-3741 . S2CID 43293144 .

[165] تشين، جياهاو؛ كالوس، ناثان؛ ماو، شياوجي؛ سفاتشا، جيفري؛ أوديل، مادلين (2019). "الإنصاف في ظل الجهل" . وقائع مؤتمر الإنصاف والمساءلة والشفافية . أتلانتا، جورجيا، الولايات المتحدة الأمريكية: مطبعة ACM. الصفحات 339-348 . arXiv : 1811.11154 . doi : 10.1145/3287560.3287594 . ISBN 978-1-4503-6125-5. S2CID 58006233 .

[166] كيلبرتوس، نيكي؛ جاسكون، أدريا؛ كوسنر، مات؛ فيل، مايكل؛ جومادي، كريشنا؛ ويلر، أدريان (2018). "العدالة العمياء: الإنصاف مع السمات الحساسة المشفرة" . المؤتمر الدولي للتعلم الآلي : 2630-2639 . arXiv : 1806.03281 . Bibcode : 2018arXiv180603281K .

[167] بينز، روبن؛ فيل، مايكل؛ كليك، ماكس فان؛ شادبولت، نايجل (13 سبتمبر 2017). "هل يشبه المدرب الروبوت؟ وراثة التحيز في إدارة المحتوى الخوارزمية". المعلوماتية الاجتماعية . سلسلة محاضرات في علوم الحاسوب. المجلد 10540. الصفحات 405-415 . arXiv : 1707.01477 . doi : 10.1007/978-3-319-67256-4_32 . ISBN 978-3-319-67255-7. S2CID 2814848 .

[Claburn-168] كلابورن، توماس (18 يوليو 2016). "قانون حماية البيانات في الاتحاد الأوروبي قد ينهي الخوارزمية المجهولة - إنفورميشن ويك" . إنفورميشن ويك . تم الاطلاع عليه في 25 نوفمبر 2017 .

[:0-169] 1 2 جوبين، آنا؛ إينكا، مارسيلو؛ فاينا ، إيفي (2 سبتمبر 2019). “المشهد العالمي للمبادئ التوجيهية لأخلاقيات الذكاء الاصطناعي”. ذكاء آلة الطبيعة . 1 (9): 389– 399. أرخايف : 1906.11668 . بيب كود : 2019NatMI...1..389J . دوى : 10.1038/s42256-019-0088-2 . S2CID 201827642 .

[170] واتنبرغ، مارتن؛ فييغاس، فرناندو؛ هاردت، موريتز. "مواجهة التمييز باستخدام التعلم الآلي الأكثر ذكاءً" . بحث جوجل.

[171] هاردت، موريتز؛ برايس، إريك؛ سريبرو، ناثان (2016). "تكافؤ الفرص في التعلم الخاضع للإشراف". arXiv : 1610.02413 [ cs.LG ].

[172] ويغرز، كايل (25 مايو 2018). "مايكروسوفت تعمل على تطوير أداة لمساعدة المهندسين على اكتشاف التحيز في الخوارزميات" . VentureBeat.com .

[173] «فيسبوك تقول إن لديها أداة لكشف التحيز في ذكائها الاصطناعي» . كوارتز . 3 مايو 2018. مؤرشف من الأصل في 5 مارس 2023.

[174] "Pymetrics audit-AI" . GitHub.com .

[175] جونسون، خاري (31 مايو 2018). "Pymetrics تُطلق أداة Audit AI مفتوحة المصدر، وهي أداة لكشف تحيز الخوارزميات" . VentureBeat.com .

[176] "Aequitas: Bias and Fairness Audit Toolkit" . GitHub.com .

[177] ttps://dsapp.uchicago.edu/aequitas/ المصادر المفتوحة، الذكاء الاصطناعي للتدقيق، إيكويتاس في جامعة شيكاغو

[178] بوري، روشير (6 فبراير 2018). "الحد من التحيز في نماذج الذكاء الاصطناعي" . IBM.com . مؤرشف من الأصل في 7 فبراير 2018.

[179] S. Sen, D. Dasgupta and KD Gupta, "دراسة تجريبية حول التحيز الخوارزمي"، المؤتمر السنوي الرابع والأربعون للحواسيب والبرمجيات والتطبيقات (COMPSAC)، مدريد، إسبانيا، 2020، ص 1189-1194، doi : 10.1109/COMPSAC48688.2020.00-95 .

[180] زو، جيمس؛ شيبينجر، لوندا (يوليو 2018). "الذكاء الاصطناعي قد يكون متحيزًا جنسيًا وعنصريًا - لقد حان الوقت لجعله عادلًا" . مجلة نيتشر . 559 (7714): 324-326 . Bibcode : 2018Natur.559..324Z . doi : 10.1038/d41586-018-05707-8 . PMID 30018439 .

[181] جيا، سين؛ ويلفير، توماس؛ كريستيانيني، نيلو (2018). الصواب للسبب الصحيح: تدريب الشبكات غير المعتمدة على منهج محدد . الندوة الدولية حول تحليل البيانات الذكية. سبرينغر.

[Sutton-182] ساتون، آدم؛ ويلفير، توماس؛ كريستيانيني، نيلو (2018). التضمينات المتحيزة من البيانات غير المنظمة: القياس والفهم والإزالة . الندوة الدولية حول تحليل البيانات الذكية. سبرينغر. doi : 10.1007/978-3-030-01768-2_27 .

[183] "لجنة معايير هندسة البرمجيات والأنظمة" . 17 أبريل 2018.

[:4-184] 1 2 كوين، أنسغار (يونيو 2017). "التحيز الخوارزمي: معالجة المخاوف المتزايدة [ الريادة ] " (ملف PDF) . مجلة IEEE للتكنولوجيا والمجتمع . 36 (2): 31-32 . doi : 10.1109/mts.2017.2697080 . ISSN 0278-0097 . مؤرشف من الأصل (ملف PDF) في 19 يوليو 2018. تم الاطلاع عليه في 1 أغسطس 2019 .

[:5-185] 1 2 "P7003 - اعتبارات التحيز الخوارزمي" . معهد مهندسي الكهرباء والإلكترونيات . مؤرشف من الأصل في 3 ديسمبر 2018. تم الاسترجاع في 3 ديسمبر 2018 .

[186] "معيار IEEE 7003-2024 الخاص باعتبارات التحيز الخوارزمي" . تم الاطلاع عليه بتاريخ 16 مارس 2025 .

[187] "لجنة معايير هندسة البرمجيات والأنظمة" . 17 أبريل 2018.

[188] "IEEE CertifAIEd™ – المواصفات الأنطولوجية للتحيز الخوارزمي الأخلاقي" (PDF) . IEEE. 2022.

[189] جمعية الإنترنت (18 أبريل 2017). "الذكاء الاصطناعي والتعلم الآلي: ورقة سياسات" . جمعية الإنترنت . تم الاطلاع عليه في 11 فبراير 2020 .

[:2-190] 1 2 "ورقة بيضاء: كيفية منع النتائج التمييزية في التعلم الآلي" . المنتدى الاقتصادي العالمي . 12 مارس 2018. تم الاطلاع عليها في 11 فبراير 2020 .

[191] "الذكاء الاصطناعي القابل للتفسير" . www.darpa.mil . تم الاطلاع عليه بتاريخ 11 فبراير 2020 .

[192] برايس ووترهاوس كوبرز. "إطار عمل الذكاء الاصطناعي المسؤول" . برايس ووترهاوس كوبرز . تم الاطلاع عليه بتاريخ 11 فبراير 2020 .

[193] هيلد، ديفيد (7 سبتمبر 2006). الشفافية: مفتاح الحوكمة الرشيدة؟ الأكاديمية البريطانية. doi : 10.5871/bacad/9780197263839.003.0002 . ISBN 978-0-19-726383-9.

[194] كيمبر، جاكو؛ كولكمان، دان (6 ديسمبر 2019). "شفافية لمن؟ لا مساءلة خوارزمية بدون جمهور نقدي" . المعلومات والاتصالات والمجتمع . 22 (14): 2081-2096 . doi : 10.1080/1369118X.2018.1477967 . hdl : 11245.1/75cb1256-5fe5-4724-9a63-03ef66032d8e . ISSN 1369-118X .

[195] ميتشل، مارغريت؛ وو، سيمون؛ زالديفار، أندرو؛ بارنز، باركر؛ فاسرمان، لوسي؛ هاتشينسون، بن؛ سبيتزر، إيلينا؛ راجي، إنيولوا ديبورا؛ جبرو، تيمنيت (29 يناير 2019). "بطاقات نموذجية لإعداد التقارير النموذجية" . وقائع مؤتمر العدالة والمساءلة والشفافية . ACM. الصفحات 220-229 . arXiv : 1810.03993 . doi : 10.1145/3287560.3287596 . ISBN 978-1-4503-6125-5.

[196] جبرو، تمنيت؛ مورجنسترن، جيمي؛ فيكيوني، بريانا؛ فوغان، جينيفر وورتمان؛ والاش، حنا؛ الثالث، هال دوم؛ كروفورد ، كيت (ديسمبر 2021). "أوراق البيانات لمجموعات البيانات" . اتصالات ACM . 64 (12): 86–92 . أرخايف : 1803.09010 . دوى : 10.1145/3458723 . ISSN 0001-0782 .

[197] بيطار، عمر؛ ديشاي، بينوا؛ هول، دون (2022). "المراجعة الثالثة لتوجيه مجلس الخزانة بشأن اتخاذ القرارات الآلية". المجلة الإلكترونية لشبكة أبحاث العلوم الاجتماعية . doi : 10.2139/ssrn.4087546 . ISSN 1556-5068 .

[198] «إعلان تورنتو: حماية الحق في المساواة وعدم التمييز في أنظمة التعلم الآلي» . هيومن رايتس ووتش . 3 يوليو/تموز 2018. تم الاطلاع عليه بتاريخ 11 فبراير/شباط 2020 .

[199] إعلان تورنتو: حماية الحق في المساواة وعدم التمييز في أنظمة التعلم الآلي (ملف PDF) . هيومن رايتس ووتش. 2018. ص 15.

[200] فلوريدي، لوتشيانو. القلنسوة جوش. بلتراميتي، مونيكا؛ شاتيلا، رجا؛ تشازراند، باتريس؛ ديغنوم، فيرجينيا؛ لويتج، كريستوف. مادلين، روبرت. باجالو، أوغو؛ روسي، فرانشيسكا؛ شافر، بوركهارد (1 ديسمبر 2018). "AI4People - إطار أخلاقي لمجتمع الذكاء الاصطناعي الجيد: الفرص والمخاطر والمبادئ والتوصيات" . العقول والآلات . 28 (4): 703. دوى : 10.1007 / s11023-018-9482-5 . ردمك 1572-8641 . بمك 6404626 . بميد 30930541 .

[201] كروفورد، كيت (25 يونيو 2016). "رأي | مشكلة الرجل الأبيض في الذكاء الاصطناعي" . صحيفة نيويورك تايمز . ISSN 0362-4331 . تاريخ الاسترجاع: 11 فبراير 2020 .

[202] "الذكاء الاصطناعي هو المستقبل - ولكن أين النساء؟" . مجلة وايرد . الرقم الدولي الموحد للدوريات 1059-1028 . تاريخ الاسترجاع: 11 فبراير 2020 .

[203] سنو، جاكي. ""نحن في أزمة تنوع": المؤسس المشارك لمنظمة "السود في الذكاء الاصطناعي" يتحدث عن ما يُفسد الخوارزميات في حياتنا . مجلة إم آي تي للتكنولوجيا . تاريخ الاطلاع: ١١ فبراير ٢٠٢٠ .

[204] هاو، كارين (14 يونيو 2021). "نظرة من الداخل على معركة استعادة الذكاء الاصطناعي من سيطرة شركات التكنولوجيا الكبرى" . مجلة إم آي تي للتكنولوجيا . تم الاطلاع عليه بتاريخ 21 يونيو 2021 .

[205] سيستون، سارة (29 ديسمبر 2019). "الذكاء الاصطناعي التقاطعي ضروري" . مجلة العلوم والتكنولوجيا والفنون . 11 (2): 3-8 . doi : 10.7559/citarj.v11i2.665 . ISSN 2183-0088 .

[DataFeminism-206] ديجنازيو ، كاثرين. كلاين، لورين ف. (2020). نسوية البيانات . مطبعة معهد ماساتشوستس للتكنولوجيا. رقم ISBN 978-0-262-04400-4.

[207] كيف، ستيفن؛ ديهال، كانتا (6 أغسطس 2020). "بياض الذكاء الاصطناعي" . الفلسفة والتكنولوجيا . 33 (4): 685-703 . doi : 10.1007/s13347-020-00415-6 . ISSN 2210-5441 .

[208] بوندي، إليزابيث؛ شو، ليلي؛ أكوستا-نافاس، ديانا؛ كيليان، جاكسون أ. (2021). "تصور المجتمعات: نهج تشاركي نحو الذكاء الاصطناعي من أجل الصالح الاجتماعي". وقائع مؤتمر AAAI/ACM لعام 2021 حول الذكاء الاصطناعي والأخلاق والمجتمع . الصفحات 425-436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 . تم الاسترجاع في 6 أبريل 2023 – عبر ezpa.library.ualberta.ca.

[209] جامعة ستانفورد (18 مارس 2019). "جامعة ستانفورد تطلق معهد الذكاء الاصطناعي المتمحور حول الإنسان" . أخبار ستانفورد . تم الاطلاع عليه في 6 أبريل 2023 .

[210] بوندي، إليزابيث؛ شو، ليلي؛ أكوستا-نافاس، ديانا؛ كيليان، جاكسون أ. (21 يوليو 2021). "تصور المجتمعات: نهج تشاركي نحو الذكاء الاصطناعي من أجل الصالح الاجتماعي". وقائع مؤتمر AAAI/ACM لعام 2021 حول الذكاء الاصطناعي والأخلاق والمجتمع . الصفحات 425-436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 .

[211] بايغريف، لي أ (2001). "التنميط الآلي". مجلة قانون وأمن الحاسوب . 17 (1): 17-24 . doi : 10.1016/s0267-3649(01)00104-2 .

[:1-212] 1 2 فيل، مايكل؛ إدواردز، ليليان (2018). "الوضوح والمفاجآت والمزيد من الأسئلة في مسودة توجيهات فريق العمل المعني بالمادة 29 بشأن اتخاذ القرارات الآلية وتحديد السمات الشخصية" ( ملف PDF) . مجلة قانون وأمن الحاسوب . 34 (2): 398-404 . doi : 10.1016/j.clsr.2017.12.002 . S2CID 4797884. SSRN 3071679 .

[213] واشتر، ساندرا؛ ميتلشتات، برنت؛ فلوريدي، لوتشيانو (1 مايو 2017). "لماذا لا يوجد حق في تفسير عملية اتخاذ القرار الآلي في اللائحة العامة لحماية البيانات؟" . القانون الدولي لحماية البيانات . 7 (2): 76-99 . doi : 10.1093/idpl/ipx005 . ISSN 2044-3994 .

[Edwards-214] إدواردز، ليليان؛ فيل، مايكل (23 مايو 2017). "هل أنت أسير الخوارزمية؟ لماذا قد لا يكون الحق في التفسير هو الحل الذي تبحث عنه؟". مجلة ديوك للقانون والتكنولوجيا . 16 : 18-84 . SSRN 2972855 .

[Singer-215] 1 2 سينغر، ناتاشا (2 فبراير 2013). "قوانين حماية بيانات المستهلك، عالمٌ آخر" . صحيفة نيويورك تايمز . تم الاطلاع عليه بتاريخ 26 نوفمبر 2017 .

[ObamaAdmin-216] أوباما، باراك (12 أكتوبر 2016). "تقرير الإدارة حول مستقبل الذكاء الاصطناعي" . whitehouse.gov . الأرشيف الوطني . تم الاطلاع عليه في 26 نوفمبر 2017 .

[NSTC-217] مجلس التكنولوجيا والعلوم الوطنية (2016). الخطة الاستراتيجية الوطنية لأبحاث وتطوير الذكاء الاصطناعي (ملف PDF) . حكومة الولايات المتحدة . تم الاطلاع عليه بتاريخ 26 نوفمبر 2017 .

[Kirchner-218] كيرشنر، لورين (18 ديسمبر 2017). "مدينة نيويورك تتحرك نحو فرض المساءلة على الخوارزميات - برو ببليكا" . برو ببليكا . تم الاطلاع عليه في 28 يوليو 2018 .

[NYC-219] "مجلس مدينة نيويورك - رقم الملف: Int 1696-2017" . legistar.council.nyc.gov . مجلس مدينة نيويورك . تم الاطلاع عليه بتاريخ 28 يوليو 2018 .

[220] ويغرز، كايل (5 يوليو 2023). "قانون نيويورك لمكافحة التحيز في توظيف الخوارزميات يدخل حيز التنفيذ" . تيك كرانش . تم الاطلاع عليه في 16 أبريل 2025 .

[Powles-221] باولس، جوليا. "محاولة مدينة نيويورك الجريئة والمعيبة لجعل الخوارزميات خاضعة للمساءلة" . مجلة نيويوركر . تم الاطلاع عليه بتاريخ 28 يوليو 2018 .

[222] "الحفاظ على الريادة الأمريكية في مجال الذكاء الاصطناعي" . 14 فبراير 2019.

[223] "التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي" . نوفمبر 2023.

[224] "نائبة الرئيس كامالا هاريس تكشف عن مبادئ توجيهية "آمنة ومأمونة ومسؤولة" للذكاء الاصطناعي للوكالات الفيدرالية" . 28 مارس 2024.

[225] "الهند تدرس مشروع قانون شامل لحماية البيانات، مشابه للائحة العامة لحماية البيانات في الاتحاد الأوروبي" . مجلة التأمين . 31 يوليو 2018. تم الاطلاع عليه بتاريخ 26 فبراير 2019 .

[226] "مشروع قانون حماية البيانات الشخصية، 2018" (ملف PDF) . وزارة الإلكترونيات وتكنولوجيا المعلومات، حكومة الهند. 2018. تم الاطلاع عليه بتاريخ 29 أبريل 2022 .

[ 1 ]

[

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

[ 19 ]

[ 20 ]

[ 21 ]

[ 22 ]

[ 23 ]

[ 24 ]

[ 25 ]

[ 26 ]

[ 27 ]

[ 28 ]

[ 29 ]

[ 30 ]

[ 31 ]

[ 32 ]

[ 33 ]

[ 34 ]

[ 35 ]

[ 36 ]

[ 37 ]

[ 38 ]

[ 39 ]

[ 40 ]

[ 41 ]

[ 42 ]

[ 43 ]

[ 44 ]

[ ٤٥ ]

[ 46 ]

[ 47 ].

[ 48 ]

[ 49 ]

[ 51 ]

[ 52 ]

[ 53 ]

[ 54 ]

[ 55 ]

[ 56 ]

[ 57 ]

[ 58 ]

[ 59 ]

[ 60 ]

[ 61 ]

[ 62 ]

[ 63 ]

[ 64 ]

[ 65 ]

[ 66 ]

[ 67 ]

[ 68 ]

[ ٦٩ ]

[ 70 ]

[ 71 ]

[ 72 ]

[ 73 ]

[ 74 ]

[ 75 ]

[ 76 ]

[ 77 ]

[ 78 ]

[ 79 ]

[ 80 ]

[ 81 ]

[ ٨٢ ]

[ 83 ]

[ 84 ]

[ 85 ]

[ ٨٦ ]

[ 87 ]

[ 88 ]

[ 89 ]

[ 90 ]

[ 91 ]

[ 92 ]

[ 93 ]

[ 94 ]

[ ٩٥ ]

[ ٩٦ ]

[ ٩٧ ]

[ 98 ]

[ 99 ]

[ 100 ]

[ 101 ]

اللغة	العربية (RTL)
روابط موسوعية	30 رابطاً
المصدر الأصلي	ويكيبيديا ↗