جوجل تتخذ إجراءات صارمة ضد التزييف العميق الصريح

قبل بضعة أسابيع، أظهر بحث على Google عن “العراة المزيفة العميقة لجنيفر أنيستون” ما لا يقل عن سبع نتائج عالية الجودة يُزعم أنها تحتوي على صور صريحة للممثلة تم إنشاؤها بواسطة الذكاء الاصطناعي. والآن اختفوا.

تقول إيما هيغام، مديرة منتجات جوجل، إن التعديلات الجديدة لكيفية تصنيف الشركة للنتائج، والتي تم طرحها هذا العام، قد خفضت بالفعل التعرض للصور الصريحة المزيفة بنسبة تزيد عن 70 بالمائة في عمليات البحث التي تبحث عن هذا المحتوى حول شخص معين. وفي الحالات التي قد تظهر فيها نتائج مثيرة للمشاكل، تهدف خوارزميات Google إلى الترويج للمقالات الإخبارية والمحتويات الأخرى غير الصريحة. يعرض بحث Aniston الآن مقالات مثل “كيف يمثل Deepfake AI Porn من تايلور سويفت تهديدًا” وروابط أخرى مثل تحذير المدعي العام في ولاية أوهايو بشأن “عمليات الاحتيال العميقة لتأييد المشاهير” التي تستهدف المستهلكين.

وكتب هيغام في منشور على مدونة الشركة يوم الأربعاء: “مع هذه التغييرات، يمكن للناس أن يقرأوا عن تأثير التزييف العميق على المجتمع، بدلاً من رؤية الصفحات التي تحتوي على صور مزيفة فعلية بدون موافقة”.

يأتي تغيير الترتيب في أعقاب تحقيق أجرته WIRED هذا الشهر والذي كشف أن إدارة Google رفضت في السنوات الأخيرة العديد من الأفكار التي اقترحها الموظفون والخبراء الخارجيون لمكافحة المشكلة المتزايدة المتمثلة في التصوير الحميم للأشخاص الذين ينتشرون عبر الإنترنت دون إذنهم.

وبينما سهلت جوجل طلب إزالة المحتوى الصريح غير المرغوب فيه، حث الضحايا والمدافعون عنهم على اتخاذ المزيد من الخطوات الاستباقية. لكن الشركة حاولت تجنب أن تصبح جهة تنظيمية أكثر من اللازم للإنترنت أو الإضرار بالوصول إلى المواد الإباحية المشروعة. في ذلك الوقت، قال متحدث باسم جوجل ردًا على ذلك، إن فرقًا متعددة كانت تعمل بجد لتعزيز الضمانات ضد ما تسميه الصور الصريحة غير التوافقية (NCEI).

أدى التوافر المتزايد لمولدات صور الذكاء الاصطناعي، بما في ذلك بعضها مع قيود قليلة على استخدامها، إلى زيادة طفيفة في NCEI، وفقًا لمدافعي الضحايا. لقد سهلت هذه الأدوات على أي شخص تقريبًا إنشاء صور صريحة منتحلّة لأي فرد، سواء كان زميلًا في المدرسة الإعدادية أو أحد المشاهير.

في شهر مارس، وجد تحليل WIRED أن جوجل تلقت أكثر من 13000 طلب لإزالة الروابط إلى عشرات من مواقع الويب الأكثر شعبية التي تستضيف محتوى عميقًا صريحًا. قامت Google بإزالة النتائج في حوالي 82 بالمائة من الحالات.

كجزء من حملة جوجل الجديدة، يقول هيغام إن الشركة ستبدأ في تطبيق ثلاثة من الإجراءات لتقليل إمكانية اكتشاف الصور الفاضحة الحقيقية ولكن غير المرغوب فيها لتلك الصور الاصطناعية وغير المرغوب فيها. بعد أن تفي Google بطلب إزالة المحتوى المزيف العميق ذو الطابع الجنسي، ستحاول بعد ذلك استبعاد التكرارات من النتائج. كما سيقوم أيضًا بتصفية الصور الصريحة من النتائج في الاستعلامات المشابهة لتلك المذكورة في طلب الإزالة. وأخيرًا، ستواجه مواقع الويب التي تتلقى “كمًا كبيرًا” من طلبات الإزالة الناجحة تخفيض ترتيبها في نتائج البحث.

وكتب هيغام: “تم تصميم هذه الجهود لمنح الأشخاص المزيد من راحة البال، خاصة إذا كانوا قلقين بشأن ظهور محتوى مماثل لهم في المستقبل”.

وقد اعترفت شركة جوجل بأن الإجراءات لا تعمل بشكل مثالي، وقال الموظفون السابقون والمدافعون عن الضحايا إن بإمكانهم الذهاب إلى أبعد من ذلك. يحذر محرك البحث بشكل بارز الأشخاص في الولايات المتحدة الذين يبحثون عن صور عارية للأطفال من أن هذا المحتوى غير قانوني. إن فعالية التحذير غير واضحة، لكنه يمثل رادعًا محتملاً يدعمه المدافعون عن حقوق الإنسان. ومع ذلك، على الرغم من القوانين التي تحظر مشاركة NCEI، لا تظهر تحذيرات مماثلة لعمليات البحث التي تسعى إلى التزييف العميق الجنسي للبالغين. وأكد المتحدث باسم جوجل أن هذا لن يتغير.