في ارتفاع الشرطة التنبؤية AI – مما يجعلها مسؤولة عن الجمهور يمكن أن تكمن آثارها الضارة
نعم هنا. يصف هذا المنشور تجربة شرطة تنبؤية واحدة ، ثم تصدر ضوضاء إيجابية حول تجربة لم تبدأ بعد ، فقط على أساس وجود مبادئ أفضل. الشركات الأمريكية غارقة مع بيانات القيمة النبيلة ، ولم تلتقي عن بعد في الممارسة العملية.
يجد المرء صعوبة في تخيل كيف يمكن للشرطة التنبؤية أن تفي بمتطلبات افتراض البراءة ، أو كيف يمكن لأي أوامر صادرة باستخدام أدوات الشرطة التنبؤية أن تفي بمعايير التعديل الرابع ، والتي تمنح عمليات البحث والمصادر غير المعقولة. كان من الممكن القول إن “توقف و Frisk” في مدينة نيويورك كان بمثابة تنفيذ مبكر لأشرطة تنبؤية ، ووجد أنه غير دستوري ، على الرغم من التوقف عن التوقف والتفريس إذا كان هناك شك معقول من النشاط الإجرامي. كما يلخصه صندوق تعليم مجلس القيادة:
في عام 1999 ، بلغ السود واللاتينيون 50 في المائة من سكان نيويورك ، لكنهم يمثلون 84 في المائة من محطات المدينة. لقد تغيرت هذه الإحصاءات قليلاً منذ أكثر من عقد من الزمان. وفقًا لرأي المحكمة ، بين عامي 2004 و 2012 ، قامت إدارة شرطة نيويورك بمقدار 4.4 مليون توقف تحت سياسة على مستوى المدينة. أكثر من 80 في المئة من المتوقفين كانوا من السود واللاتينيين. كان من احتمال توقف أحد سكان نيويوركر الأمريكيون من أصل أفريقي عن سلاح نصفه الذي توقف فيه سكان نيويورك البيض ، وكان احتمال إيجاد المهربة على أمريكي من أصل أفريقي توقف ثلث أن سكان سكان نيويورك البيض توقف.
نأمل أن يقوم المحامون في التعليقات. ولكن يبدو أن هناك احتمالات جيدة لاستمرار الاتجاه نحو “قانون كقانون” ، حيث تتناسب المتطلبات القانونية مع السرير الروحي لتطبيقات البرمجيات. كان ذلك منتشرة أثناء أزمة حبس الرهن ، حيث لم يكن العديد من القضاة ببساطة على استعداد للنظر في أن التكنولوجيا الجديدة لتوريق الرهن العقاري لا تتناسب مع الإرادة مع متطلبات الرهن “قانون الأوساخ”. اختاروا في كثير من الحالات السماح لعمليات حبس الرهن التي ركبت على السوابق العقارية ، لأنهم لا يريدون أن يحصل المقترض على منزل مجاني. ضع في اعتبارك أن هذا لم يكن ما يريده المقترضون ، ولكن تعديل الرهن العقاري ، والذي كان من شأنه أن يوفر معظم المقرضين في “البنك” العالم ، لكن موظفي الرهن العقاري لم يكونوا يعملون في مجال صنعه.
بقلم ماريا لونغو ، باحثة ما بعد الدكتوراه للقانون والإدارة العامة ، جامعة فرجينيا. تم نشره في الأصل في المحادثة
صور فيلم الخيال العلمي لعام 2002 “تقرير الأقلية” في مستقبل ديستوبي حيث تم تكليف وحدة شرطة متخصصة بالقبض على الأشخاص بسبب جرائم لم يرتكبها بعد. من إخراج ستيفن سبيلبرغ واستنادا إلى قصة قصيرة من قبل فيليب ك. ديك ، تدور الدراما حول “precrime”-نظام أبلغه الثلاثي من الوسطاء ، أو “الأدوات المسبقة” ، الذين توقعوا جرائم القتل في المستقبل ، مما يسمح لضباط الشرطة بالتراجع ومنع المهاجمين الذين يحصلون على أهدافهم.
يبحث الفيلم عن أسئلة أخلاقية ضخمة: كيف يمكن لأي شخص أن يكون مذنباً بارتكاب جريمة لم يرتكبها بعد؟ وماذا يحدث عندما يخطئ النظام؟
على الرغم من عدم وجود شيء مثل “precog” ، إلا أن المكونات الرئيسية للمستقبل التي تصورها “تقرير الأقلية” التي تصورها حقيقة أسرع مما يتخيله منشئيها. لأكثر من عقد من الزمان ، تستخدم أقسام الشرطة في جميع أنحاء العالم أنظمة تعتمد على البيانات موجهة نحو التنبؤ بموعد ومكان حدوث الجرائم ومن قد يرتكبها.
بعيدا عن التصور التجريدي أو المستقبلي ، فإن الشرطة التنبؤية هي حقيقة واقعة. ويتوقع محللو السوق طفرة للتكنولوجيا.
بالنظر إلى التحديات في استخدام التعلم الآلي التنبئي بفعالية وعادل ، فإن الشرطة التنبؤية تثير مخاوف أخلاقية كبيرة. التغيب عن الإصلاحات التكنولوجية في الأفق ، هناك نهج لمعالجة هذه المخاوف: التعامل مع الاستخدام الحكومي للتكنولوجيا كمسألة للمساءلة الديمقراطية.
التاريخ المقلق
تعتمد الشرطة التنبؤية على تحليلات الذكاء الاصطناعي وتحليلات البيانات لتوقع النشاط الإجرامي المحتمل قبل حدوثه. يمكن أن يتضمن تحليل مجموعات البيانات الكبيرة المستمدة من تقارير الجريمة وسجلات الاعتقال والمعلومات الاجتماعية أو الجغرافية لتحديد الأنماط والتوقعات التي قد تحدث فيها الجرائم أو من قد تشارك.
استخدمت وكالات إنفاذ القانون تحليلات البيانات لتتبع الاتجاهات العريضة لعدة عقود. ومع ذلك ، فإن تقنيات الذكاء الاصطناعى القوية اليوم ، تأخذ كميات هائلة من بيانات تقرير المراقبة والجريمة لتوفير تحليل أدق الحبيبات.
تستخدم أقسام الشرطة هذه التقنيات للمساعدة في تحديد مكان تركيز مواردهم. يركز التنبؤ القائم على المكان على تحديد المواقع عالية الخطورة ، والمعروفة أيضًا باسم النقاط الساخنة ، حيث من المرجح أن تحدث الجرائم من الناحية الإحصائية. على النقيض من ذلك ، يحاول التنبؤ القائم على الشخص أن يعلق الأفراد الذين يعتبرون عرضة لخطر كبير في ارتكاب أو أن يصبحوا ضحايا للجريمة.
كانت هذه الأنواع من الأنظمة موضوع قلق عام كبير. في ظل ما يسمى برنامج “الشرطة الذي يقوده الاستخبارات” في مقاطعة باسكو بولاية فلوريدا ، قامت إدارة الشرطة بتجميع قائمة بالأشخاص الذين يعتبرون من المحتمل أن يرتكبوا جرائم ثم أرسلوا نوابًا مرارًا وتكرارًا إلى منازلهم. خضع أكثر من 1000 من سكان Pasco ، بما في ذلك القصر ، لزيارات عشوائية من ضباط الشرطة وتم الاستشهاد بها لأشياء مثل أرقام صندوق البريد المفقودة والعشب المتضخم.
رفع أربعة من السكان دعوى قضائية ضد المقاطعة في عام 2021 ، وفي العام الماضي وصلوا إلى تسوية اعترف فيها مكتب شريف بأنه انتهك حقوق السكان الدستورية للخصوصية ومساواة المعاملة بموجب القانون. منذ ذلك الحين تم إيقاف البرنامج.
هذه ليست مجرد مشكلة في فلوريدا. في عام 2020 ، أوقفت شيكاغو “قائمة الموضوعات الاستراتيجية” ، وهو نظام استخدمت فيه الشرطة التحليلات للتنبؤ بالمجرمين السابقون الذين من المحتمل أن يرتكبوا جرائم جديدة أو يصبحون ضحايا لإطلاق النار في المستقبل. في عام 2021 ، أوقفت إدارة شرطة لوس أنجلوس استخدامها لـ Predpol ، وهو برنامج مصمم للتنبؤ بالمناطق الساخنة للجريمة ولكن تم انتقاده بسبب معدلات الدقة المنخفضة وتعزيز التحيزات العرقية والاجتماعية الاقتصادية.
الابتكارات اللازمة أو التجاوز الخطير؟
إن فشل هذه البرامج البارزة يسلط الضوء على التوتر الحاسم: على الرغم من أن وكالات إنفاذ القانون غالباً ما تدافع عن الأدوات التي تحركها الذكاء الاصطناعى من أجل السلامة العامة ، فإن مجموعات الحقوق المدنية والعلماء أثاروا مخاوف بشأن انتهاكات الخصوصية وقضايا المساءلة وعدم وجود شفافية. وعلى الرغم من هذه الخلوات البارزة من الشرطة التنبؤية ، فإن العديد من أقسام الشرطة الأصغر تستخدم التكنولوجيا.
تفتقر معظم أقسام الشرطة الأمريكية إلى سياسات واضحة بشأن اتخاذ القرارات الخوارزمية ولا توفر سوى القليل أو معدومًا عن كيفية تطوير النماذج التنبؤية التي يستخدمونها أو تدريبهم أو مراقبتها من أجل الدقة أو التحيز. وجد تحليل مؤسسة بروكينغز أنه في العديد من المدن ، لم يكن لدى الحكومات المحلية وثائق عامة حول كيفية عمل برامج الشرطة التنبؤية ، أو البيانات التي تم استخدامها ، أو كيفية تقييم النتائج.
هذه العتامة هي ما يعرف في الصناعة بأنه “صندوق أسود”. إنه يمنع الرقابة المستقلة ويثير تساؤلات خطيرة حول الهياكل المحيطة باتخاذ القرارات التي تحركها الذكاء الاصطناعي. إذا تم وضع علامة على المواطن على أنه خوارزمية عالية الخطورة ، فما اللجوء الذي لديهم؟ من يشرف على عدالة هذه الأنظمة؟ ما هي آليات الرقابة المستقلة المتاحة؟
هذه الأسئلة تقود مناقشات مثيرة للجدل في المجتمعات حول ما إذا كان ينبغي إصلاح الشرطة التنبؤية كطريقة أو تنظيمها بشكل أكثر إحكاما أو التخلي عنها تمامًا. ينظر بعض الأشخاص إلى هذه الأدوات على أنها الابتكارات اللازمة ، بينما يرى آخرونهم على أنهم تجاوز خطير.
طريقة أفضل في سان خوسيه
ولكن هناك أدلة على أن الأدوات القائمة على البيانات التي تستند إلى القيم الديمقراطية من الإجراءات القانونية ، والشفافية والمساءلة قد توفر بديلاً أقوى لأنظمة الشرطة التنبؤية اليوم. ماذا لو كان الجمهور يمكن أن يفهم كيف تعمل هذه الخوارزميات ، وما هي البيانات التي تعتمد عليها ، وما هي الضمانات الموجودة لمنع النتائج التمييزية وإساءة استخدام التكنولوجيا؟
شرعت مدينة سان خوسيه ، كاليفورنيا ، في عملية تهدف إلى زيادة الشفافية والمساءلة حول استخدامها لأنظمة الذكاء الاصطناعى. تحتفظ سان خوسيه بمجموعة من مبادئ الذكاء الاصطناعي التي تتطلب أن تكون أي أدوات منظمة العفو الدولية التي تستخدمها حكومة المدينة فعالة ، وشفافة للجمهور ومنصفة في آثارها على حياة الناس. يتعين على إدارات المدينة أيضًا تقييم مخاطر أنظمة الذكاء الاصطناعى قبل دمجها في عملياتها.
إذا اتخذت بشكل صحيح ، يمكن أن تفتح هذه التدابير بشكل فعال المربع الأسود ، مما يقلل بشكل كبير من الدرجة التي يمكن لشركات الذكاء الاصطناعاها إخفاء التعليمات البرمجية أو بياناتها وراء أشياء مثل الحماية لأسرار التجارة. يمكن أن يكشف تمكين التدقيق العام لبيانات التدريب عن مشاكل مثل التحيز العنصري أو الاقتصادي ، والتي يمكن تخفيفها ولكنها صعبة للغاية إن لم يكن من المستحيل القضاء عليها.
أظهرت الأبحاث أنه عندما يشعر المواطنون أن المؤسسات الحكومية تتصرف إلى حد ما وشفافية ، فمن الأرجح أن يشاركوا في الحياة المدنية ودعم السياسات العامة. من المحتمل أن يكون لوكالات إنفاذ القانون نتائج أقوى إذا تعاملوا مع التكنولوجيا كأداة – وليس بديلاً – للعدالة.
