الشفافية الخوارزمية

الشفافية الخوارزمية هي مبدأ ينص على ضرورة أن تكون العوامل المؤثرة في القرارات التي تتخذها الخوارزميات مرئية، أو شفافة، للأشخاص الذين يستخدمون الأنظمة التي تستخدم هذه الخوارزميات، وينظمونها، ويتأثرون بها. ورغم أن هذا المصطلح صاغه نيكولاس دياكوبولوس ومايكل كوليسكا عام 2016 لوصف دور الخوارزميات في تحديد محتوى خدمات الصحافة الرقمية، ^{[ 1 ]} فإن المبدأ الأساسي يعود إلى سبعينيات القرن الماضي مع ظهور الأنظمة الآلية لتقييم الجدارة الائتمانية للمستهلكين.

يُستخدم مصطلحا "الشفافية الخوارزمية" و"المساءلة الخوارزمية" ^{[ 2 ]} أحيانًا بشكلٍ متبادل، لا سيما أنهما من صاغهما نفس الأشخاص، إلا أنهما يحملان معاني مختلفة بدقة. فمصطلح "الشفافية الخوارزمية" يُشير تحديدًا إلى ضرورة معرفة مُدخلات الخوارزمية وكيفية استخدامها، ولكن ليس بالضرورة أن تكون هذه المُدخلات عادلة. أما مصطلح " المساءلة الخوارزمية " فيُشير إلى ضرورة محاسبة المؤسسات التي تستخدم الخوارزميات عن القرارات التي تتخذها هذه الخوارزميات، حتى وإن كانت هذه القرارات تُتخذ بواسطة آلة، وليس بواسطة إنسان. ^{[ 3 ]}

تهتم الأبحاث الحالية حول شفافية الخوارزميات بالآثار المجتمعية للوصول إلى الخدمات عن بُعد التي تُشغّل الخوارزميات، ^{[ 4 ]} بالإضافة إلى المناهج الرياضية وعلوم الحاسوبية التي يُمكن استخدامها لتحقيق شفافية الخوارزميات. ^{[ 5 ] [ 6 ]} في الولايات المتحدة، يدرس مكتب حماية المستهلك التابع للجنة التجارة الفيدرالية كيفية استخدام المستهلكين للخوارزميات من خلال إجراء أبحاثه الخاصة حول شفافية الخوارزميات وتمويل أبحاث خارجية. ^{[ 7 ]} في الاتحاد الأوروبي ، تتضمن قوانين حماية البيانات التي دخلت حيز التنفيذ في مايو 2018 "حق التفسير" للقرارات التي تتخذها الخوارزميات، على الرغم من أن معنى ذلك غير واضح. ^{[ 8 ]} علاوة على ذلك، أنشأ الاتحاد الأوروبي المركز الأوروبي لشفافية الخوارزميات (ECAT). ^{[ 9 ]}

• المساءلة الخوارزمية
• صندوق أسود
• الذكاء الاصطناعي القابل للتفسير
• تنظيم الخوارزميات
• الهندسة العكسية
• الحق في التفسير