الجانب المظلم لمولدات الصور ذات المصدر المفتوح المعتمدة على الذكاء الاصطناعي

سواء من خلال وجه الشمبانزي العابس عالي الوضوح أو المخدر ذو اللون الوردي والأحمر شبيه لنفسهيستخدم روفين كوهين الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لجذب انتباه الناس. يقول: “لطالما كنت مهتمًا بالفن والتصميم والفيديو وأستمتع بتخطي الحدود”، لكن المستشار المقيم في تورونتو، والذي يساعد الشركات على تطوير أدوات الذكاء الاصطناعي، يأمل أيضًا في زيادة الوعي بالاستخدامات المظلمة للتكنولوجيا.

يقول كوهين: “يمكن أيضًا تدريبه خصيصًا ليكون مروعًا وسيئًا بعدة طرق”. إنه معجب بالتجارب الحرة التي أطلقتها تكنولوجيا توليد الصور مفتوحة المصدر. لكن هذه الحرية نفسها تمكن من خلق صور صريحة لنساء يستخدمن في التحرش.

بعد انتشار الصور غير المرغوب فيها لتايلور سويفت مؤخرًا على X، أضافت Microsoft عناصر تحكم جديدة إلى منشئ الصور الخاص بها. يمكن لأي شخص تقريبًا السيطرة على النماذج مفتوحة المصدر، وعادةً ما تأتي بدون حواجز حماية. على الرغم من الجهود التي يبذلها بعض أفراد المجتمع المتفائلين لردع الاستخدامات الاستغلالية، إلا أن الخبراء يقولون إن السيطرة على المصدر المفتوح المجاني للجميع تكاد تكون مستحيلة.

“لقد أدى المصدر المفتوح إلى إساءة استخدام الصور المزيفة والمواد الإباحية غير التوافقية. يقول هنري أجدر، الذي أمضى سنوات في البحث عن الاستخدام الضار للذكاء الاصطناعي التوليدي: “من المستحيل تلطيف هذا الأمر أو وصفه”.

يقول أجدر إنه في الوقت نفسه الذي أصبح فيه برنامجًا مفضلاً للباحثين والمبدعين مثل كوهين والأكاديميين الذين يعملون في مجال الذكاء الاصطناعي، أصبح برنامج توليد الصور مفتوح المصدر هو حجر الأساس للإباحية العميقة. بعض الأدوات القائمة على خوارزميات مفتوحة المصدر مصممة خصيصًا لاستخدامات بذيئة أو مضايقة، مثل تطبيقات “التعري” التي تزيل ملابس النساء رقميًا من الصور.

لكن العديد من الأدوات يمكن أن تخدم حالات الاستخدام المشروعة والمضايقة. يقول أجدر إن أحد برامج تبادل الوجه الشهيرة مفتوحة المصدر يستخدمه الأشخاص في صناعة الترفيه باعتباره “الأداة المفضلة للممثلين السيئين” الذين يقومون بعمل تزييف عميق بدون موافقة. يُزعم أن منشئ الصور عالي الدقة Stable Diffusion، الذي طورته شركة Stability AI الناشئة، لديه أكثر من 10 ملايين مستخدم ولديه حواجز حماية مثبتة لمنع إنشاء صور صريحة وسياسات تحظر الاستخدام الضار. لكن الشركة أيضًا تفتح إصدارًا مفتوح المصدر من منشئ الصور في عام 2022 قابلاً للتخصيص، وتشرح الأدلة عبر الإنترنت كيفية تجاوز القيود المضمنة فيه.

وفي الوقت نفسه، تعمل نماذج الذكاء الاصطناعي الأصغر المعروفة باسم LoRAs على تسهيل ضبط نموذج Stable Diffusion لإخراج الصور بأسلوب أو مفهوم أو وضع معين، مثل شكل أحد المشاهير أو أفعال جنسية معينة. وهي متاحة على نطاق واسع في أسواق نماذج الذكاء الاصطناعي مثل Civitai، وهو موقع مجتمعي حيث يقوم المستخدمون بمشاركة النماذج وتنزيلها. هناك، حث أحد منشئي المكون الإضافي Taylor Swift الآخرين على عدم استخدامه “لصور NSFW”. ومع ذلك، بمجرد تنزيله، يصبح استخدامه خارجًا عن سيطرة منشئه. يقول أجدر: “إن الطريقة التي تعمل بها المصادر المفتوحة تعني أنه سيكون من الصعب جدًا منع أي شخص من اختراق ذلك”.

4chan، موقع لوحة الرسائل المبني على الصور والذي يتمتع بسمعة طيبة في الاعتدال الفوضوي، هو موطن للصفحات المخصصة للإباحية العميقة غير التوافقية، كما وجدت مجلة WIRED، والتي تم إنشاؤها باستخدام برامج متاحة بشكل مفتوح ونماذج الذكاء الاصطناعي المخصصة فقط للصور الجنسية. تمتلئ لوحات الرسائل الخاصة بصور البالغين بصور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي لنساء حقيقيات، من فناني الأفلام الإباحية إلى الممثلات مثل كيت بلانشيت. لاحظت WIRED أيضًا أن مستخدمي 4chan يشاركون الحلول البديلة لصور NSFW باستخدام OpenAI’s Dall-E 3.

لقد ألهم هذا النوع من النشاط بعض المستخدمين في المجتمعات المخصصة لصناعة الصور باستخدام الذكاء الاصطناعي، بما في ذلك Reddit وDiscord، لمحاولة التصدي لبحر الصور الإباحية والخبيثة. يعرب منشئو المحتوى أيضًا عن قلقهم بشأن اكتساب البرنامج سمعة طيبة فيما يتعلق بصور NSFW، ويشجعون الآخرين على الإبلاغ عن الصور التي تصور القاصرين على موقع Reddit ومواقع استضافة النماذج.