مشكلة الصور الصريحة غير التوافقية في جوجل تزداد سوءًا

في أوائل عام 2022، التقى اثنان من موظفي سياسة Google بثلاث نساء وقعن ضحايا لعملية احتيال أدت إلى تداول مقاطع فيديو فاضحة لهن عبر الإنترنت، بما في ذلك عبر نتائج بحث Google. وكانت النساء من بين مئات الشباب الذين استجابوا للإعلانات التي تبحث عن عارضات ملابس السباحة ليتم إجبارهم على الأداء في مقاطع فيديو جنسية يوزعها موقع GirlsDoPorn. تم إغلاق الموقع في عام 2020، واعترف منتج ومحاسب ومصور لاحقًا بالذنب في الاتجار بالجنس، لكن مقاطع الفيديو استمرت في الظهور على بحث Google بشكل أسرع من قدرة النساء على طلب الإزالة.

وقدمت النساء، برفقة محامٍ وخبير أمني، مجموعة كبيرة من الأفكار حول كيفية قيام Google بإخفاء المقاطع الإجرامية والمهينة بشكل أفضل، وفقًا لخمسة أشخاص حضروا الاجتماع الافتراضي أو تم إطلاعهم عليه. لقد أرادوا أن يقوم محرك بحث Google بحظر مواقع الويب المخصصة لـ GirlsDoPorn ومقاطع الفيديو التي تحمل علامتها المائية. واقترحوا أن جوجل يمكن أن تستعير القرص الصلب بسعة 25 تيرابايت الذي حفظ عليه مستشار الأمن السيبراني للسيدات، تشارلز ديباربر، كل حلقة من حلقات GirlsDoPorn، وأخذ بصمة رياضية، أو “تجزئة” لكل مقطع، وحظرها من الوصول إلى المحتوى. الظهور مرة أخرى في نتائج البحث.

كان العاملان في Google في الاجتماع يأملان في استخدام ما تعلماه لكسب المزيد من الموارد من كبار المسؤولين. لكن محامي الضحية، بريان هولم، شعر بالريبة. ويقول إن فريق السياسات كان في “موقف صعب” و”لم يكن لديه السلطة لإحداث التغيير داخل جوجل”.

كان رد فعله الغريزي صحيحًا. وبعد مرور عامين، لم يتم تفعيل أي من تلك الأفكار التي تم طرحها في الاجتماع، ولا تزال مقاطع الفيديو تظهر في البحث.

تحدثت WIRED مع خمسة موظفين سابقين في Google و10 من المدافعين عن الضحايا الذين كانوا على اتصال مع الشركة. ويقولون جميعًا إنهم يقدرون أنه بسبب التغييرات الأخيرة التي أجرتها Google، يمكن للناجين من الاعتداء الجنسي القائم على الصور، مثل عملية احتيال GirlsDoPorn، إزالة نتائج البحث غير المرغوب فيها بسهولة أكبر ونجاح. لكنهم يشعرون بالإحباط لأن الإدارة في عملاق البحث لم توافق على المقترحات، مثل فكرة القرص الصلب، والتي يعتقدون أنها ستعمل على استعادة خصوصية ملايين الضحايا حول العالم والحفاظ عليها بشكل كامل، وأغلبهم من النساء.

تصف المصادر المداولات الداخلية التي لم يتم الإبلاغ عنها سابقًا، بما في ذلك الأساس المنطقي لشركة Google لعدم استخدام أداة صناعية تسمى StopNCII والتي تشارك معلومات حول الصور الحميمية غير التوافقية (NCII) وفشل الشركة في مطالبة مواقع الويب الإباحية بالتحقق من الموافقة للتأهل للبحث. مرور. وقد نشر فريق البحث التابع لشركة Google الخطوات التي يمكن لشركات التكنولوجيا اتخاذها ضد NCII، بما في ذلك استخدام StopNCII.

تعتقد المصادر أن مثل هذه الجهود من شأنها أن تحتوي بشكل أفضل على مشكلة متنامية، وذلك جزئيًا من خلال توسيع الوصول إلى أدوات الذكاء الاصطناعي التي تنشئ صورًا مزيفة واضحة، بما في ذلك الناجين من GirlsDoPorn. وقد تضاعفت إجمالي التقارير الواردة إلى الخط الساخن للإباحية الانتقامية في المملكة المتحدة في العام الماضي، لتصل إلى ما يقرب من 19000، وكذلك عدد الحالات التي تنطوي على محتوى اصطناعي. يشعر نصف البريطانيين الذين يزيد عددهم عن 2000 في استطلاع حديث بالقلق من الوقوع ضحية للتزييف العميق. وحث البيت الأبيض في مايو المشرعين والصناعة على اتخاذ إجراءات أسرع للحد من NCII بشكل عام. وفي يونيو/حزيران، انضمت جوجل إلى سبع شركات أخرى وتسع منظمات في الإعلان عن مجموعة عمل لتنسيق الاستجابات.