المشرعون الأمريكيون يطلبون من وزارة العدل التوقف عن التمويل الأعمى لأدوات الشرطة “التنبؤية”

فشلت وزارة العدل الأمريكية في إقناع مجموعة من المشرعين الأمريكيين بأن وكالات الشرطة على مستوى الولاية والشرطة المحلية لا تحصل على منح فيدرالية لشراء أدوات “الشرطة” القائمة على الذكاء الاصطناعي والمعروفة بأنها غير دقيقة، إن لم تكن عرضة لتفاقم التحيزات التي لوحظت منذ فترة طويلة في قوات الشرطة الامريكية.

كتب سبعة من أعضاء الكونجرس في رسالة إلى وزارة العدل، حصلت عليها WIRED لأول مرة، أن المعلومات التي انتزعوها من الوكالة لم تؤدي إلا إلى تأجيج مخاوفهم بشأن برنامج منح الشرطة التابع لوزارة العدل. وقال المشرعون إنه لا يوجد في ردودها حتى الآن ما يشير إلى أن الحكومة تكلفت نفسها عناء التحقيق فيما إذا كانت الإدارات التي حصلت على المنح قد اشترت برامج شرطة تمييزية.

وجاء في الرسالة: “نحثك على وقف جميع منح وزارة العدل لأنظمة الشرطة التنبؤية حتى تتمكن وزارة العدل من التأكد من أن المستفيدين من المنح لن يستخدموا مثل هذه الأنظمة بطرق لها تأثير تمييزي”. اعترفت وزارة العدل سابقًا بأنها لم تتابع ما إذا كانت أقسام الشرطة تستخدم التمويل الممنوح بموجب برنامج منحة إدوارد بيرن التذكارية للمساعدة القضائية، لشراء ما يسمى بأدوات الشرطة التنبؤية.

ويقول المشرعون، بقيادة السيناتور رون وايدن، وهو ديمقراطي من ولاية أوريغون، إن وزارة العدل مطالبة بموجب القانون “بمراجعة دورية” ما إذا كان المستفيدون من المنح يلتزمون بالباب السادس من قانون الحقوق المدنية في البلاد. ويوضحون أن وزارة العدل ممنوعة بشكل واضح من تمويل البرامج التي تظهر أنها تميز على أساس العرق أو العرق أو الأصل القومي، سواء كانت هذه النتيجة مقصودة أم لا.

توصلت تحقيقات مستقلة في الصحافة إلى أن أدوات الشرطة “التنبؤية” الشائعة المدربة على بيانات الجرائم التاريخية غالبًا ما تكرر التحيزات القديمة، مما يوفر لإنفاذ القانون، في أحسن الأحوال، قشرة من الشرعية العلمية بينما يديم الإفراط في ضبط الأمن في الأحياء ذات الأغلبية السوداء واللاتينية. . يقول عنوان رئيسي لشهر أكتوبر من The Markup بصراحة: “برامج الشرطة التنبؤية سيئة للغاية في التنبؤ بالجرائم”. تروي القصة كيف قام الباحثون في المجلة مؤخرًا بفحص 23631 تنبؤًا بجرائم الشرطة، ووجدوا أنها دقيقة بنسبة 1 بالمائة تقريبًا من الحالات.

وكتب وايدن والمشرعون الآخرون: “تعتمد أنظمة الشرطة التنبؤية على بيانات تاريخية مشوهة بسبب تقارير الجرائم المزورة والاعتقالات غير المتناسبة للأشخاص الملونين”، وتوقعوا – كما فعل العديد من الباحثين – أن التكنولوجيا لا تؤدي إلا إلى خلق حلقات ردود فعل “خطيرة”. ويشير البيان إلى أن “التوقعات المتحيزة تُستخدم لتبرير عمليات التوقيف والاعتقال غير المتناسبة في أحياء الأقليات”، مما يزيد من تحيز الإحصائيات حول مكان حدوث الجرائم.

كما قام أعضاء مجلس الشيوخ جيفري ميركلي، وإد ماركي، وأليكس باديلا، وبيتر ويلش، وجون فيترمان بالتوقيع على الرسالة، كما فعلت النائبة إيفيت كلارك.

وطلب المشرعون أن يبحث تقرير رئاسي قادم حول الشرطة والذكاء الاصطناعي في استخدام أدوات الشرطة التنبؤية في الولايات المتحدة. وأضافوا: “يجب أن يقيم التقرير دقة ودقة نماذج الشرطة التنبؤية عبر الفئات المحمية، وقابلية تفسيرها، وصلاحيتها”، ليشمل “أي قيود على تقييم مخاطرها التي يفرضها الافتقار إلى الشفافية من جانب الشركات التي تقوم بتطويرها”. “

إذا رغبت وزارة العدل في مواصلة تمويل التكنولوجيا بعد هذا التقييم، كما يقول المشرعون، فيجب عليها على الأقل إنشاء “معايير الأدلة” لتحديد النماذج التنبؤية التي تعتبر تمييزية – ثم رفض التمويل لجميع أولئك الذين يفشلون في الالتزام بها.