رابطة العدالة الخوارزمية

تعاونت بوولامويني، مؤسسة AJL، مع تيمنيت جبرو، المتخصصة في أخلاقيات الذكاء الاصطناعي ، لإصدار دراسة عام 2018 حول التحيز العنصري والجنساني في خوارزميات التعرف على الوجوه المستخدمة في الأنظمة التجارية من مايكروسوفت وآي بي إم و Face++ . وخلص بحثهما، الذي حمل عنوان "تدرجات الجنس"، إلى أن نماذج التعلم الآلي التي أصدرتها آي بي إم ومايكروسوفت كانت أقل دقة عند تحليل الوجوه ذات البشرة الداكنة والوجوه الأنثوية مقارنةً بأدائها على الوجوه ذات البشرة الفاتحة والوجوه الذكورية. ^{[ 8 ] [ 9 ] [ 10 ]} وتزامن نشر ورقة "تدرجات الجنس" مع إطلاق مبادرة "تعهد الوجه الآمن"، وهي مبادرة صُممت بالتعاون مع مركز جورج تاون للخصوصية والتكنولوجيا ، وحثت المؤسسات التقنية والحكومات على حظر الاستخدام القاتل لتقنيات التعرف على الوجوه. ^{[ 11 ]} أدى مشروع Gender Shades وما تلاه من حملات مناصرة قامت بها AJL ومجموعات مماثلة إلى قيام العديد من شركات التكنولوجيا، بما في ذلك أمازون وآي بي إم، بمعالجة التحيزات في تطوير خوارزمياتها، بل وحتى حظر استخدام منتجاتها مؤقتًا من قبل الشرطة في عام 2020. ^{[ 12 ] [ 13 ]}

ظهرت منظمة Buolamwini ومنظمة AJL في الفيلم الوثائقي Coded Bias الذي أنتجته نتفليكس عام 2020 ، والذي عُرض لأول مرة في مهرجان صندانس السينمائي . ^{[ 2 ] [ 14 ] [ 15 ]} ركز هذا الفيلم الوثائقي على أبحاث منظمة AJL وجهودها في مجال المناصرة لنشر الوعي بالتحيز الخوارزمي في أنظمة التعرف على الوجوه. ^{[ 4 ] [ 15 ]}

أصدر فريق بحثي مشترك، ضمّ شركة AJL، ورقة بحثية في مايو 2020 تدعو إلى إنشاء مكتب حكومي اتحادي جديد في الولايات المتحدة لتنظيم تطوير ونشر تقنيات التعرّف على الوجوه. ^{[ 16 ]} واقترحت الورقة البحثية أن إنشاء مكتب حكومي اتحادي جديد لهذا الغرض من شأنه أن يُسهم في الحدّ من مخاطر المراقبة الجماعية والتحيّز الذي تُشكّله تقنيات التعرّف على الوجوه على الفئات السكانية الضعيفة. ^{[ 17 ]}

أطلقت جمعية القانون الأمريكي مبادرات لزيادة الوعي العام بالتحيز الخوارزمي وأوجه عدم المساواة في أداء أنظمة الذكاء الاصطناعي لنمذجة الكلام واللغة، وذلك عبر مختلف الفئات الجنسية والعرقية. ويركز عمل الجمعية في هذا المجال على تسليط الضوء على التفاوتات بين الجنسين والأعراق في أداء أنظمة التعرف على الكلام ومعالجة اللغة الطبيعية التجارية ، والتي أظهرت نتائجها ضعف الأداء مع الأقليات العرقية، فضلاً عن تعزيزها للصورة النمطية الجنسانية. ^{[ 18 ] [ 19 ] [ 20 ]}

في مارس 2020، أصدرت AJL عملاً فنياً أدائياً بعنوان "محو الصوت"، ساهم في زيادة الوعي العام بالتحيز العنصري في أنظمة التعرف التلقائي على الكلام (ASR). ^{[ 21 ] [ 22 ]} وقد أدّت هذا العمل باحثاتٌ وباحثون غير ثنائيي الجنس في هذا المجال، من بينهم روها بنجامين ، وساشا كوستانزا-تشوك ، وسافيا نوبل ، وكيمبرلي كرينشو . ^{[ 22 ] [ 21 ]} واستندت AJL في تطويرها لعمل "محو الصوت" إلى ورقة بحثية نُشرت عام 2020 في مجلة PNAS بعنوان "التفاوتات العرقية في التعرف التلقائي على الكلام"، والتي حددت التفاوتات العرقية في أداء خمسة أنظمة تجارية للتعرف التلقائي على الكلام. ^{[ 20 ]}

في عام ٢٠١٩، مثّلت بولامويني منظمة AJL في جلسة استماع أمام لجنة العلوم والفضاء والتكنولوجيا بمجلس النواب الأمريكي، لمناقشة تطبيقات تقنيات التعرّف على الوجوه تجاريًا وحكوميًا. ^{[ ٢٣ ] [ ٢٤ ]} أدلت بولامويني بشهادتها في الجلسة، وتحدثت عن ضعف أداء تقنيات التعرّف على الوجوه في تحديد الأشخاص ذوي البشرة الداكنة والملامح الأنثوية، ودعمت موقفها بأبحاث من مشروع AJL بعنوان "تدرجات الجنس". ^{[ ٢٤ ] [ ٢٥ ] [ ٢٦ ]}

في يناير/كانون الثاني 2022، تعاونت رابطة المحامين الأمريكيين (AJL) مع منظمة "Fight for the Future" ومركز معلومات الخصوصية الإلكترونية لإطلاق عريضة إلكترونية بعنوان DumpID.me، تدعو مصلحة الضرائب الأمريكية (IRS) إلى وقف استخدام تقنية التعرف على الوجه ID.me ، التي كانت تستخدمها مع المستخدمين عند تسجيل دخولهم. ^{[ 7 ]} أرسلت رابطة المحامين الأمريكيين ومنظمات أخرى خطابات إلى المشرعين وطلبت منهم حث مصلحة الضرائب على إيقاف البرنامج. في فبراير/شباط 2022، وافقت مصلحة الضرائب على إيقاف البرنامج والتوقف عن استخدام تقنية التعرف على الوجه. ^{[ 27 ]} حوّلت رابطة المحامين الأمريكيين جهودها الآن لإقناع الوكالات الحكومية الأخرى بالتوقف عن استخدام تقنية التعرف على الوجه؛ واعتبارًا من مارس/آذار 2022، تحوّلت عريضة DumpID.me لتشمل وقف استخدام ID.me في جميع الوكالات الحكومية. ^{[ 28 ]}

في سبتمبر 2021، تعاونت أولاي مع رابطة الصحافة الأمريكية (AJL) وشركة أونيل للاستشارات في إدارة المخاطر والتدقيق الخوارزمي (ORCAA) لإجراء حملة "فك شفرة التحيز"، والتي تضمنت تدقيقًا بحث ما إذا كان  نظام أولاي لتحليل البشرة (OSA) ينطوي على تحيز ضد النساء ذوات البشرة السمراء. ^{[ 29 ]} اختارت رابطة الصحافة الأمريكية التعاون مع أولاي نظرًا لالتزامها بالحصول على موافقة العملاء على استخدام صورهم الشخصية وبيانات بشرتهم في هذا التدقيق. ^{[ 30 ]} كشف تدقيق رابطة الصحافة الأمريكية وشركة أونيل للاستشارات في إدارة المخاطر والتدقيق الخوارزمي أن نظام تحليل البشرة (OSA) يتضمن تحيزًا في أدائه بناءً على لون بشرة المشاركين وأعمارهم. ^{[ 30 ]} أظهر نظام تحليل البشرة (OSA) دقة أعلى للمشاركين ذوي البشرة الفاتحة، وفقًا لمقياس فيتزباتريك لأنواع البشرة ومقاييس تصنيف البشرة الفردية. كما أظهر النظام دقة أعلى للمشاركين الذين تتراوح أعمارهم بين 30 و39 عامًا. ^{[ 31 ]} ومنذ ذلك الحين، اتخذت أولاي خطوات لإجراء تدقيق داخلي والحد من تحيز نظام تحليل البشرة (OSA). ^{[ 30 ]} كما مولت شركة أولاي حضور 1000 فتاة لمعسكر "بلاك غيرلز كود" ، لتشجيع الفتيات الأمريكيات من أصل أفريقي على متابعة وظائف في مجالات العلوم والتكنولوجيا والهندسة والرياضيات. ^{[ 30 ]}

في يوليو 2020، أطلقت شركة AJL مشروع الإبلاغ المجتمعي عن أضرار الأنظمة الخوارزمية (CRASH). ^{[ 32 ]} بدأ هذا المشروع في عام 2019 عندما التقت بولامويني وباحثة الأمن الرقمي كاميل فرانسوا في برنامج الإقامة بمركز بيلاجيو، الذي استضافته مؤسسة روكفلر . ومنذ ذلك الحين، شاركت في قيادة المشروع أيضًا ساشا كوستانزا-تشوك ، أستاذة معهد ماساتشوستس للتكنولوجيا ومديرة الأبحاث في AJL . ركز مشروع CRASH على إنشاء إطار عمل لتطوير برامج مكافآت اكتشاف الثغرات (BBPs) التي من شأنها تحفيز الأفراد على كشف حالات التحيز الخوارزمي في تقنيات الذكاء الاصطناعي والإبلاغ عنها. ^{[ 32 ] [ 33 ]} بعد إجراء مقابلات مع المشاركين في برامج مكافآت اكتشاف الثغرات ودراسة حالة برنامج تويتر، ^{[ 34 ]} طور باحثو AJL واقترحوا إطارًا مفاهيميًا لتصميم برامج مكافآت اكتشاف الثغرات التي تعوض الأفراد وتشجعهم على تحديد وجود التحيز في أنظمة الذكاء الاصطناعي والإبلاغ عنه. ^{[ 35 ]} يهدف إطار عمل AJL إلى تمكين الأفراد من الإبلاغ عن الأضرار الخوارزمية وتحفيز التغيير في تقنيات الذكاء الاصطناعي التي تستخدمها الشركات، لا سيما الأفراد الذين تم استبعادهم تقليديًا من تصميم هذه التقنيات [20، تقرير DataSociety]. ^{[ 36 ] [ 37 ]}

بدأت رابطة المسافرين الأمريكيين (AJL) في عام 2023 حملة "مسافرو الحرية" للتوعية باستخدام تقنية التعرف على الوجه من قبل إدارة أمن النقل (TSA) في المطارات الأمريكية. وكجزء من الحملة، تجمع المنظمة تجارب المسافرين من خلال "بطاقة أداء إدارة أمن النقل" لتوثيق كيفية استخدام الأنظمة البيومترية في نقاط التفتيش بالمطارات. وخلص تقريرها "الامتثال للسفر؟" إلى أن العديد من المسافرين يعتبرون فحص التعرف على الوجه إلزاميًا، على الرغم من الادعاءات الرسمية بأنه اختياري. ^{[ 38 ]}

تُسلط الحملة الضوء أيضاً على إمكانية رفض المسافرين استخدام تقنية التعرف على الوجه دون أي عقوبة، وتستضيف فعاليات مثل قمة المسافرين الأحرار لمناقشة الآثار الأوسع لهذه التقنيات. ^{[ 39 ]} وتُصوّر الحملة فحص المطارات كموقع رئيسي في توسع نطاق المراقبة البيومترية، وتُثير مخاوف بشأن الخصوصية والموافقة والتحيز المحتمل، لا سيما بالنسبة للفئات المهمشة.