خوارزميات التنبؤ تقليل للعبء أم استهداف للحقوق؟..نيويورك تايمز تبرز الجدل حول برامج بالولايات المتحدة وأوروبا تحدد المجرمين المحتملين..تهدف لمساعدة الهيئات الحكومية.. ومعارضون لاستخدامها: تمثل تحيزا لبعض الفئات

تحت عنوان "خوارزمية تمنح الحرية أو تقيدها"، سلطت صحيفة "نيويورك تايمز" الأمريكية الضوء على برنامج يطبق في الولايات المتحدة وأوروبا يعتمد على خوارزمية تتوقع ما إذا كان المراهقون سيرتكبون الجريمة.

وقالت الصحيفة إنه في فيلادلفيا، ساعدت خوارزمية أنشأها أستاذ في جامعة بنسلفانيا في التأثير على تجربة المحققين لمدة خمس سنوات على الأقل.

وتعد الخوارزمية واحدة من العديد من القرارات التي تتخذ بشأن حياة الناس في الولايات المتحدة وأوروبا. تستخدم السلطات المحلية ما يسمى بالخوارزميات التنبؤية لتحديد دوريات الشرطة وأحكام السجن وقواعد الاختبار. 

وفي نزرلاندز وضعت خوارزمية للكشف عن مخاطر الاحتيال. بينما تحدد مدينة بريطانية من خلال الخوارزمية من من المراهقين من المرجح أن يصبح مجرم.

 

 

ووفقًا لمركز معلومات الخصوصية الإلكترونية، وهي مؤسسة غير ربحية مخصصة للحقوق الرقمية تحولت كل ولاية في أمريكا تقريبًا إلى هذا النوع الجديد من خوارزمية الحوكمة. 

وحددت Algorithm Watch ، وهي هيئة رقابة في برلين، برامج مماثلة في 16 دولة أوروبية على الأقل.

مع انتشار هذه الممارسة إلى أماكن جديدة وأجزاء جديدة من الحكومة ، بدأ محققو الأمم المتحدة ومحامو الحقوق المدنية والنقابات العمالية ومنظمو المجتمع المحلي في رفضها والحديث ضدها.

وأضافت الصحيفة أنهم غاضبون من الاعتماد المتزايد على الأنظمة الآلية التي تبعد البشر والشفافية خارج العملية.

وأضافت الصحيفة أنهم أيضًا قلقون من أن التحيزات - التي تشمل العرق والطبقة والجغرافيا - للأشخاص الذين ينشئون الخوارزميات يتم إخضاعها لهذه الأنظمة ، كما ذكرت ProPublica .

 

وأوضحت الصحيفة أنه في سان خوسيه ، كاليفورنيا حيث يتم استخدام خوارزمية أثناء جلسات الاستماع ، تقوم منظمة تسمى Silicon Valley De-Bug بإجراء مقابلات مع عائلة كل مدعى عليه ، وتأخذ هذه المعلومات الشخصية إلى كل جلسة استماع وتشاركها مع المدافعين كنوع من موازنة الخوارزميات .

ومن المفترض أن تقلل الخوارزميات من العبء على الوكالات التي تعاني من نقص الموظفين وتقلل من التكاليف الحكومية وتزيل - من الناحية المثالية - التحيز البشري.

ويقول المعارضون إن الحكومات لم تبد اهتمامًا كبيرًا بمعرفة ماذا يعني إخراج البشر من عملية صنع القرار.

وحذر تقرير أصدرته الأمم المتحدة مؤخرًا من أن الحكومات قد تخاطر بـ "تعثر مثل الزومبي في واقع الوعي الرقمي المرير".

 

 

وفي العام الماضي ، أقرت ولاية أيداهو قانونًا ينص على أن الأساليب والبيانات المستخدمة في خوارزميات الكفالة يجب أن تكون متاحة للجمهور حتى يتمكن الجمهور العام من فهم كيفية عملها.