خوارزميات القمع

كتاب "خوارزميات القمع: كيف تعزز محركات البحث العنصرية" هو كتاب صدر عام 2018 من تأليف صفية أوموجا نوبل، ويتناول مجالات علم المعلومات ، والتعلم الآلي ، والتفاعل بين الإنسان والحاسوب . ^{[ 1 ] [ 2 ] [ 3 ] [ 4 ]}

حصلت نوبل على شهادة البكالوريوس في علم الاجتماع من جامعة ولاية كاليفورنيا، فريسنو، في تسعينيات القرن الماضي، ثم عملت في مجال الإعلان والتسويق لمدة خمسة عشر عامًا قبل أن تلتحق بجامعة إلينوي في أوربانا-شامبين للحصول على درجة الماجستير في علوم المكتبات والمعلومات في أوائل العقد الأول من القرن الحادي والعشرين. ^{[ 5 ]} بدأت فكرة الكتاب في عام 2011، عندما بحثت نوبل على جوجل عن عبارة "فتيات سوداوات" وظهرت لها نتائج تتعلق بالمواد الإباحية في الصفحة الأولى. ^{[ 5 ]} كانت أطروحة الدكتوراه التي أنجزتها نوبل في عام 2012 بعنوان " البحث عن فتيات سوداوات: تقاليد قديمة في وسائل الإعلام الجديدة " . ^{[ 6 ] [ 7 ]} في ذلك الوقت، فكرت نوبل في عنوان "خوارزميات القمع" للكتاب. ^{[ ٨ ]} أصبحت نوبل أستاذة مساعدة في جامعة كاليفورنيا، لوس أنجلوس عام ٢٠١٤. ^{[ ٩ ]} في عام ٢٠١٧، نشرت مقالًا حول التحيز العنصري والجنسي في محركات البحث في صحيفة "ذا كرونيكل أوف هاير إديوكيشن" . ^{[ ٩ ] [ ١٠ ]} نُشر الكتاب من قِبل مطبعة جامعة نيويورك في ٢٠ فبراير ٢٠١٨. ^{[ ١١ ]} بحلول ذلك الوقت، أدت التغييرات التي طرأت على خوارزمية جوجل إلى تغيير النتائج الأكثر شيوعًا للبحث عن "فتيات سوداوات"، على الرغم من أن التحيزات الكامنة لا تزال مؤثرة. ^{[ ١٢ ]}

يتناول كتاب "خوارزميات القمع" العلاقة بين محركات البحث والتحيزات التمييزية، حيث تتبنى المؤلفة منهجًا نسويًا تقاطعيًا أسودًا . يأخذ هذا المنهج في الاعتبار تجارب النساء من مختلف الأعراق والتوجهات الجنسية عند مناقشة اضطهاد المرأة. ^{[ 13 ]} تجادل نوبل بأن خوارزميات البحث عنصرية وتُديم المشكلات المجتمعية لأنها تعكس التحيزات السلبية الموجودة في المجتمع والأشخاص الذين يُنشئونها. ^{[ 14 ] [ 15 ] [ 16 ]} ترفض نوبل فكرة حيادية محركات البحث بطبيعتها، موضحةً كيف تُفضل خوارزميات محركات البحث البياض من خلال عرض مؤشرات إيجابية عند البحث عن كلمات مفتاحية مثل "أبيض" مقارنةً بكلمات مثل "آسيوي" أو "لاتيني" أو "أسود". يتمحور مثالها الرئيسي حول نتائج البحث عن "فتيات سوداوات" مقابل "فتيات بيضاوات" والتحيزات التي تظهر في هذه النتائج. ^{[ 17 ]}

يستكشف الفصل الأول كيف أن ميزة الاقتراحات التلقائية في بحث جوجل تُثبط الهمم، ويناقش أمثلة على عمليات بحث عن مصطلحات مثل "فتيات سوداوات" (والتي أظهرت نتائج إباحية) و"يهودي" (والتي أظهرت نتائج معادية للسامية ). وتصوغ نوبل مصطلح "القمع الخوارزمي" لوصف إخفاقات البيانات الخاصة بالأشخاص الملونين والنساء والفئات المهمشة الأخرى. وتناقش كيف يمكن لجوجل استخدام التدقيق البشري لإزالة الألفاظ النابية أو الصور غير اللائقة من الصفحة الأولى من نتائج البحث، وتنتقد سياسة جوجل التي تسمح لخوارزميتها بالعمل دون تدقيق بشري ما لم تكن الصفحات غير قانونية. وتُشير إلى أن إعلانات جوجل (AdWords) تُعد استخدامًا منافقًا للتدقيق لتعزيز المصالح التجارية، حيث تسمح للمعلنين بالدفع مقابل ظهور مواضيع مثيرة للجدل أو أقل صلة بالموضوع أعلى اختيارات الخوارزمية. ^{[ 18 ]}

يتناول الفصل الثاني مزاعم جوجل بأنها غير مسؤولة عن محتوى نتائج البحث، وتلقي باللوم بدلاً من ذلك على منشئي المحتوى والباحثين. وتسلط نوبل الضوء على جوانب من الخوارزمية التي تُرسخ هيمنة البيض والرجال. وتجادل بأن جوجل تتستر وراء خوارزميتها، بينما تُعزز في الوقت نفسه أوجه عدم المساواة الاجتماعية والصور النمطية ضد النساء السوداوات واللاتينيات والآسيويات.

يتناول الفصل الثالث كيف يجمع محرك بحث جوجل مصادر متعددة لخلق روايات تهديدية عن الأقليات. تشرح نوبل دراسة حالة بحثت فيها عن عبارة "جرائم السود ضد البيض" على جوجل . ^{[ 19 ]} وتُشير إلى أن المصادر والمعلومات التي ظهرت بعد البحث كانت تُشير إلى مصادر محافظة تُشوّه المعلومات. وقد عرضت هذه المصادر معلومات عنصرية ومعادية للسود من مصادر تُؤمن بتفوق العرق الأبيض . وتعتقد نوبل في نهاية المطاف أن هذه المعلومات المُضللة والمتاحة بسهولة غذّت أفعال ديلان روف ، أحد أنصار تفوق العرق الأبيض ، الذي ارتكب مجزرة.

يتناول الفصل الرابع أمثلةً على تعرض النساء للعار بسبب نشاطهن في صناعة الأفلام الإباحية، بغض النظر عما إذا كان ذلك برضاهن أم لا. وتنتقد الكاتبة قدرة الإنترنت على التأثير في مستقبل الفرد، وتقارن قوانين الخصوصية الأمريكية بقوانين الاتحاد الأوروبي التي تمنح المواطنين "الحق في النسيان أو أن يُنسى أمرهم". ^{[ 20 ]} وتجادل بأن هذه الانتهاكات للخصوصية تؤثر بشكل غير متناسب على النساء والأقليات العرقية.

ينتقل الفصل الخامس من جوجل إلى مصادر معلومات أخرى تُعتبر موثوقة ومحايدة. تقول نوبل إن المكتبات البارزة، بما فيها مكتبة الكونغرس ، تُعزز هيمنة مفاهيم مثل هيمنة البيض، والمغايرة الجنسية ، والنظام الأبوي . كمثال، تناقش نوبل جهودًا استمرت عامين لتغيير مصطلحات فهرس مكتبة الكونغرس من "المهاجرين غير الشرعيين" إلى "غير المواطنين" أو "المهاجرين غير المصرح لهم". ^{[ 18 ]} وتجادل نوبل بأن جميع محركات البحث الرقمية تُعزز التحيزات التمييزية، مُسلطةً الضوء على مدى ترابط التكنولوجيا بالمجتمع. ^{[ 21 ]}

يتناول الفصل السادس حلولاً محتملة لمشكلة التحيز الخوارزمي . وتؤكد الكاتبة أن الحكومات والشركات تتحمل المسؤولية الأكبر لإصلاح مشاكلها النظامية، وترفض الحجة النيوليبرالية القائلة بأن التحيزات الخوارزمية ستختفي إذا انضمت المزيد من النساء والأقليات العرقية إلى هذا المجال كمهندسات برمجيات . وتنتقد الكاتبة عقلية تسميها " تفاؤل البيانات الضخمة "، أو فكرة أن المؤسسات الكبيرة قادرة على حل مشكلات عدم المساواة. وتجادل بأن السياسات التي تسنها الحكومات المحلية والفيدرالية يمكن أن تحد من "احتكار المعلومات" الذي تمارسه جوجل، وأن تنظم الطرق التي تستخدمها محركات البحث لتصفية نتائجها. ولتوضيح هذه النقطة، تستخدم مثال مصففة شعر سوداء تواجه أعمالها انتكاسات بسبب استخدام موقع Yelp للتقييمات ممارسات إعلانية واستراتيجيات بحث متحيزة ضدها. وتختتم الكاتبة الفصل بدعوة لجنة الاتصالات الفيدرالية (FCC) ولجنة التجارة الفيدرالية (FTC) إلى "تنظيم الآداب العامة"، أو الحد من كمية الخطاب العنصري أو المعادي للمثليين أو المتحيز على الإنترنت. تحث الجمهور على الابتعاد عن الأيديولوجيات " العمياء عن اللون " تجاه العرق، بحجة أن هذه الأيديولوجيات تمحو النضالات التي تواجهها الأقليات العرقية.

يلخص الفصل الأخير الفصول السابقة، ويتحدى فكرة أن الإنترنت بيئة ديمقراطية بالكامل أو بيئة ما بعد العنصرية.

حظي كتاب "خوارزميات القمع" باستقبال نقدي إيجابي في معظمه. ففي " مراجعة لوس أنجلوس للكتب" ، كتبت إميلي درابينسكي : "ما يتبين من هذه الصفحات هو أن خوارزميات القمع التي تستخدمها جوجل ليست سوى واحدة من البنى التحتية الخفية التي تحكم حياتنا اليومية، وأن البنى الأخرى على الأرجح مبرمجة بنفس القدر من هيمنة البيض وكراهية النساء، تمامًا كما هو الحال مع تلك التي يستكشفها نوبل." ^{[ 22 ]} وفي "بوب ماترز" ، كتب هانز رولمان أن " خوارزميات القمع " "تُظهر أن محركات البحث، وخاصة جوجل ، ليست مجرد آلات غير كاملة، بل أنظمة صممها البشر بطرق تحاكي هياكل السلطة في الدول الغربية التي بُنيت فيها، بكل ما فيها من تمييز جنسي وعنصري." ^{[ 1 ]} وفي "بوكليست" ، ذكرت المراجعة ليزلي ويليامز: "ينبغي أن تدفعنا دراسة نوبل إلى إعادة النظر في اعتمادنا على محركات البحث التجارية وفي العدالة الاجتماعية الرقمية." ^{[ 23 ]}

في أوائل فبراير 2018، حظي كتاب "خوارزميات القمع" باهتمام إعلامي واسع عندما انتقد الحساب الرسمي لمعهد مهندسي الكهرباء والإلكترونيات (IEEE) على تويتر الكتاب، مشيرًا إلى أن نتائج بحث جوجل المذكورة في نبذة الكتاب لا تتطابق مع توقعات نوبل. وكشف مؤرخ التواصل في المعهد، ألكسندر ماغون، لاحقًا أنه لم يقرأ الكتاب، وقدم اعتذارًا. ^{[ 15 ]}

• التحيز الخوارزمي
• تيكلاش

• خوارزميات القمع: كيف تعزز محركات البحث العنصرية