كاميرات الذكاء الاصطناعي التي تعمل بنظام أمازون تُستخدم للكشف عن مشاعر ركاب القطارات غير المتعمدين في المملكة المتحدة

لم تجب Network Rail على الأسئلة المتعلقة بالتجارب التي أرسلتها WIRED، بما في ذلك الأسئلة حول الوضع الحالي لاستخدام الذكاء الاصطناعي واكتشاف المشاعر والمخاوف المتعلقة بالخصوصية.

يقول متحدث باسم Network Rail: “نحن نأخذ أمن شبكة السكك الحديدية على محمل الجد ونستخدم مجموعة من التقنيات المتقدمة عبر محطاتنا لحماية الركاب وزملائنا والبنية التحتية للسكك الحديدية من الجريمة والتهديدات الأخرى”. “عندما ننشر التكنولوجيا، فإننا نعمل مع الشرطة وأجهزة الأمن للتأكد من أننا نتخذ الإجراءات المناسبة، ونلتزم دائمًا بالتشريعات ذات الصلة فيما يتعلق باستخدام تقنيات المراقبة.”

من غير الواضح مدى انتشار تحليل الكشف عن المشاعر، حيث تشير الوثائق في بعض الأحيان إلى أنه يجب “النظر إلى حالة الاستخدام بحذر أكبر” وتقول التقارير الواردة من المحطات إنه “من المستحيل التحقق من الدقة”. ومع ذلك، يقول جريجوري بتلر، الرئيس التنفيذي لشركة تحليلات البيانات ورؤية الكمبيوتر Purple Transform، التي كانت تعمل مع Network Rail في التجارب، إن القدرة توقفت أثناء الاختبارات ولم يتم تخزين أي صور عندما كانت نشطة.

تصف وثائق Network Rail حول تجارب الذكاء الاصطناعي حالات استخدام متعددة تتضمن إمكانية إرسال الكاميرات تنبيهات تلقائية للموظفين عندما يكتشفون سلوكًا معينًا. ولا يستخدم أي من الأنظمة تقنية التعرف على الوجوه المثيرة للجدل، والتي تهدف إلى مطابقة هويات الأشخاص مع تلك المخزنة في قواعد البيانات.

يقول بتلر: “الفائدة الأساسية هي الكشف السريع عن حوادث التعدي على الممتلكات”، ويضيف أن نظام التحليلات الخاص بشركته، SiYtE، قيد الاستخدام في 18 موقعًا، بما في ذلك محطات القطار وبجانب الخطوط. يقول بتلر إنه في الشهر الماضي، كانت هناك خمس حالات خطيرة للتعدي على ممتلكات الغير اكتشفتها الأنظمة في موقعين، بما في ذلك مراهق يجمع كرة من المسارات ورجل “يقضي أكثر من خمس دقائق في التقاط كرات الجولف على طول طريق عالي السرعة”. خط.”

وفي محطة قطار ليدز، وهي واحدة من أكثر محطات القطارات ازدحاما خارج لندن، هناك 350 كاميرا مراقبة متصلة بمنصة SiYtE، كما يقول بتلر. ويقول: “يتم استخدام التحليلات لقياس تدفق الأشخاص وتحديد المشكلات مثل ازدحام المنصة، وبالطبع التعدي على ممتلكات الغير – حيث يمكن للتكنولوجيا تصفية عمال المسار من خلال زي معدات الوقاية الشخصية الخاص بهم”. “يساعد الذكاء الاصطناعي المشغلين البشريين، الذين لا يستطيعون مراقبة جميع الكاميرات بشكل مستمر، على تقييم ومعالجة مخاطر وقضايا السلامة على الفور.”

تزعم وثائق شبكة السكك الحديدية أن الكاميرات المستخدمة في إحدى محطات ريدينغ، سمحت للشرطة بتسريع التحقيقات في سرقات الدراجات من خلال القدرة على تحديد الدراجات في اللقطات. تقول الملفات: “لقد ثبت أنه على الرغم من أن التحليلات لم تتمكن من اكتشاف السرقة بثقة، إلا أنها تمكنت من اكتشاف شخص لديه دراجة”. ويضيفون أيضًا أن أجهزة استشعار جودة الهواء الجديدة المستخدمة في التجارب يمكن أن توفر وقت الموظفين في إجراء الفحوصات يدويًا. تستخدم إحدى حالات الذكاء الاصطناعي بيانات من أجهزة الاستشعار للكشف عن الأرضيات “المتعرقة”، التي أصبحت زلقة بسبب التكثيف، وتنبيه الموظفين عندما يحتاجون إلى التنظيف.

وبينما تفصل الوثائق بعض عناصر التجارب، يقول خبراء الخصوصية إنهم قلقون بشأن الافتقار العام للشفافية والنقاش حول استخدام الذكاء الاصطناعي في الأماكن العامة. في إحدى الوثائق المصممة لتقييم مشكلات حماية البيانات في الأنظمة، يقول هورفورت من Big Brother Watch إنه يبدو أن هناك “موقفًا رافضًا” تجاه الأشخاص الذين قد تكون لديهم مخاوف تتعلق بالخصوصية. يطرح أحد الأسئلة: “هل من المحتمل أن يعترض بعض الأشخاص أو يجدوا ذلك تطفلاً؟” يكتب أحد الموظفين: “عادة، لا، ولكن لا توجد محاسبة لبعض الأشخاص”.

وفي الوقت نفسه، يتم استخدام أنظمة مراقبة الذكاء الاصطناعي المماثلة التي تستخدم التكنولوجيا لمراقبة الحشود بشكل متزايد في جميع أنحاء العالم. خلال دورة الألعاب الأولمبية في باريس في فرنسا في وقت لاحق من هذا العام، سوف تراقب المراقبة بالفيديو باستخدام الذكاء الاصطناعي آلاف الأشخاص وتحاول اكتشاف تزايد الحشود، واستخدام الأسلحة، والأشياء المهجورة.

تقول كاريسا فيليز، الأستاذة المشاركة في علم النفس في معهد أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد: “الأنظمة التي لا تحدد هوية الأشخاص أفضل من تلك التي تحدد هويتهم، لكنني أشعر بالقلق بشأن المنحدر الزلق”. يشير فيليز إلى تجارب مماثلة للذكاء الاصطناعي في مترو أنفاق لندن، والتي أدت في البداية إلى تشويش وجوه الأشخاص الذين ربما كانوا يتهربون من دفع الأجرة، ولكن بعد ذلك غيرت النهج، وأزالت تشويش الصور، واحتفظت بالصور لفترة أطول مما كان مخططًا له في البداية.

يقول فيليز: “هناك دافع غريزي للغاية لتوسيع نطاق المراقبة”. “البشر يحبون رؤية المزيد، ورؤية أبعد. لكن المراقبة تؤدي إلى السيطرة، والسيطرة إلى فقدان الحرية الذي يهدد الديمقراطيات الليبرالية.