أوقف برنامج Pornhub Chatbot الملايين من البحث عن مقاطع فيديو عن إساءة معاملة الأطفال

على مدى العامين الماضيين، تمت مقاطعة ملايين الأشخاص الذين يبحثون عن مقاطع فيديو تتعلق بإساءة معاملة الأطفال على موقع Pornhub في المملكة المتحدة. في كل مرة من بين 4.4 مليون مرة كتب فيها شخص ما كلمات أو عبارات مرتبطة بإساءة الاستخدام، قامت رسالة تحذيرية بحظر الصفحة، قائلة إن هذا النوع من المحتوى غير قانوني. وفي نصف الحالات، يقوم برنامج الدردشة الآلي أيضًا بتوجيه الأشخاص إلى المكان الذي يمكنهم فيه طلب المساعدة.

تم نشر رسالة التحذير وبرنامج الدردشة الآلية بواسطة موقع Pornhub كجزء من برنامج تجريبي، تم إجراؤه مع منظمتين لحماية الأطفال مقرهما المملكة المتحدة، لمعرفة ما إذا كان من الممكن دفع الأشخاص بعيدًا عن البحث عن مواد غير قانونية من خلال تدخلات صغيرة. يقول تقرير جديد يحلل الاختبار، تمت مشاركته حصريًا مع WIRED، إن النوافذ المنبثقة أدت إلى انخفاض في عدد عمليات البحث عن مواد الاعتداء الجنسي على الأطفال (CSAM) وشهدت عشرات الأشخاص يطلبون الدعم لسلوكهم.

يقول جويل سكانلان، أحد كبار المحاضرين في جامعة تسمانيا، الذي قاد عملية تقييم برنامج reThink Chatbot: “إن الأعداد الأولية الفعلية لعمليات البحث مرتفعة جدًا في الواقع”. خلال التجربة التي استمرت لعدة سنوات، كان هناك 4,400,960 تحذيرًا ردًا على عمليات البحث المرتبطة بـ CSAM على موقع Pornhub في المملكة المتحدة – 99 بالمائة من جميع عمليات البحث أثناء التجربة لم تثير تحذيرًا. يقول سكانلان: “هناك انخفاض كبير في مدة التدخل في أعداد عمليات البحث”. “لذا فإن رسائل الردع تعمل بالفعل.”

يتم العثور على ملايين الصور ومقاطع الفيديو الخاصة بـ CSAM وإزالتها من الويب كل عام. تتم مشاركتها على وسائل التواصل الاجتماعي، أو تداولها في محادثات خاصة، أو بيعها على شبكة الإنترنت المظلمة، أو في بعض الحالات تحميلها على مواقع الويب الإباحية القانونية. لا تسمح شركات التكنولوجيا والشركات الإباحية بالمحتوى غير القانوني على منصاتها، على الرغم من أنها تقوم بإزالته بمستويات مختلفة من الفعالية. قام موقع Pornhub بإزالة حوالي 10 ملايين مقطع فيديو في عام 2020 في محاولة للقضاء على مواد إساءة معاملة الأطفال والمحتويات الأخرى المثيرة للمشاكل من موقعه على الويب بعد إجراء لعنة نيويورك تايمز تقرير.

يقول متحدث باسم الشركة إن موقع Pornhub، المملوك للشركة الأم Aylo (المعروفة سابقًا باسم MindGeek)، يستخدم قائمة تضم 34000 مصطلحًا محظورًا، عبر لغات متعددة ومع ملايين المجموعات، لمنع عمليات البحث عن مواد إساءة معاملة الأطفال. يقول المتحدث إن هذه إحدى الطرق التي يحاول بها موقع Pornhub مكافحة المواد غير القانونية، وهي جزء من جهود الشركة التي تهدف إلى سلامة المستخدم، بعد سنوات من الادعاءات بأنها استضافت استغلال الأطفال ومقاطع فيديو غير موافقة. عندما بحث الأشخاص في المملكة المتحدة عن أي من المصطلحات الموجودة في قائمة Pornhub، ظهرت رسالة التحذير وبرنامج الدردشة الآلي.

تم تصميم وإنشاء برنامج الدردشة الآلية من قبل مؤسسة مراقبة الإنترنت (IWF)، وهي منظمة غير ربحية تعمل على إزالة مواد الاعتداء الجنسي على الأطفال من الويب، ومؤسسة لوسي فيثفول، وهي مؤسسة خيرية تعمل على منع الاعتداء الجنسي على الأطفال. وظهرت بجانب الرسائل التحذيرية ما مجموعه 2.8 مليون مرة. قامت التجربة بإحصاء عدد الجلسات على موقع Pornhub، وهو ما قد يعني إحصاء الأشخاص عدة مرات، ولم تسعى إلى تحديد هوية الأفراد. يقول التقرير إنه كان هناك “انخفاض كبير” في عمليات البحث عن CSAM على موقع Pornhub، ويبدو أن رسائل الدردشة والرسائل التحذيرية لعبت دورًا “جزئيًا على الأقل”.