يستخدم الملايين من الأشخاص روبوتات “Nudify” المسيئة للذكاء الاصطناعي على Telegram

تقول كيت روان، مديرة مشروع حرية التعبير في مركز الديمقراطية والتكنولوجيا، إن معظم منصات التكنولوجيا الكبرى لديها الآن سياسات تحظر التوزيع غير التوافقي للصور الحميمة، مع موافقة العديد من أكبرها على مبادئ لمعالجة التزييف العميق. يقول روان عن شروط خدمة Telegram، والتي هي أقل تفصيلاً من منصات التكنولوجيا الرئيسية الأخرى: “أود أن أقول إنه ليس من الواضح في الواقع ما إذا كان إنشاء الصور الحميمية أو توزيعها محظورًا على المنصة”.

ولطالما تعرض نهج Telegram في إزالة المحتوى الضار لانتقادات من قبل مجموعات المجتمع المدني، حيث تستضيف المنصة تاريخياً المحتالين والجماعات اليمينية المتطرفة والمحتوى المتعلق بالإرهاب. منذ إلقاء القبض على الرئيس التنفيذي ومؤسس Telegram Pavel Durov واتهامه في فرنسا في أغسطس فيما يتعلق بمجموعة من الجرائم المحتملة، بدأت Telegram في إجراء بعض التغييرات على شروط الخدمة الخاصة بها وتوفير البيانات لوكالات إنفاذ القانون. ولم ترد الشركة على أسئلة WIRED حول ما إذا كانت تحظر على وجه التحديد التزييف العميق الصريح.

تنفيذ الضرر

يقول أجدر، الباحث الذي اكتشف روبوتات تيليجرام العميقة قبل أربع سنوات، إن التطبيق في وضع فريد تقريبًا لإساءة استخدام التزييف العميق. يقول أجدر: “يوفر لك Telegram وظيفة البحث، لذا فهو يسمح لك بتحديد المجتمعات والمحادثات والروبوتات”. “إنه يوفر وظيفة استضافة الروبوتات، لذا فهو في مكان ما يوفر الأدوات الفعالة. ثم إنه أيضًا المكان الذي يمكنك مشاركته فيه وتنفيذ الضرر فعليًا فيما يتعلق بالنتيجة النهائية.

في أواخر سبتمبر، بدأت العديد من قنوات التزييف العميق في نشر أخبار مفادها أن Telegram قد أزال برامج الروبوت الخاصة بها. ومن غير الواضح ما الذي أدى إلى عمليات الإزالة. في 30 سبتمبر، نشرت قناة تضم 295 ألف مشترك أن Telegram “حظرت” برامجها الآلية، لكنها نشرت رابطًا جديدًا ليستخدمه المستخدمون. (تمت إزالة القناة بعد أن أرسلت WIRED أسئلة إلى Telegram.)

تقول إيلينا مايكل، المؤسسة المشاركة ومديرة حملة #NotYourPorn، وهي مجموعة تعمل على حماية الأشخاص: “أحد الأشياء المثيرة للقلق حقًا بشأن تطبيقات مثل Telegram هو أنه من الصعب جدًا تتبعها ومراقبتها، خاصة من وجهة نظر الناجين”. من الاعتداء الجنسي على الصور.

يقول مايكل إن Telegram كان “من الصعب جدًا” مناقشة مشكلات السلامة معه، لكنه لاحظ أنه قد تم إحراز بعض التقدم من الشركة في السنوات الأخيرة. ومع ذلك، تقول إن الشركة يجب أن تكون أكثر نشاطًا في الإشراف على المحتوى وتصفيته بنفسها.

يقول مايكل: “تخيل لو كنت أحد الناجين ويتعين عليك القيام بذلك بنفسك، فمن المؤكد أن العبء لا ينبغي أن يقع على عاتق فرد واحد”. “من المؤكد أن العبء يجب أن يقع على عاتق الشركة لوضع شيء استباقي وليس رد فعل.”