يقول الباحثون إن Deepfake بايدن Robocall تم تصنيعه على الأرجح باستخدام أدوات من AI Startup ElevenLabs

وهذه ليست المرة الأولى التي يشتبه فيها الباحثون في استخدام أدوات ElevenLabs للدعاية السياسية. في سبتمبر الماضي، زعمت شركة NewsGuard، وهي شركة تتعقب المعلومات الخاطئة عبر الإنترنت، أن حسابات TikTok التي تشارك نظريات المؤامرة باستخدام أصوات تم إنشاؤها بواسطة الذكاء الاصطناعي، بما في ذلك نسخة من صوت باراك أوباما، استخدمت تقنية ElevenLabs. وقالت ElevenLabs في بيان أرسل عبر البريد الإلكتروني إلى “أكثر من 99 بالمائة من المستخدمين على منصتنا يقومون بإنشاء محتوى مثير للاهتمام ومبتكر ومفيد”. اوقات نيويورك في ذلك الوقت، “لكننا ندرك أن هناك حالات من سوء الاستخدام، وكنا نعمل باستمرار على تطوير وإصدار الضمانات للحد منها.”

إذا كانت تحليلات Pindrop وBerkeley صحيحة، فإن مكالمة بايدن الآلية العميقة تم إجراؤها باستخدام تقنية من إحدى أبرز شركات الذكاء الاصطناعي الناشئة في مجال التكنولوجيا وأكثرها تمويلًا جيدًا. وكما يشير فريد، يُنظر إلى ElevenLabs بالفعل على أنها توفر بعضًا من أفضل العروض الصوتية الاصطناعية في السوق.

وفقًا للرئيس التنفيذي للشركة في مقال نشرته بلومبرج مؤخرًا، تقدر قيمة ElevenLabs من قبل المستثمرين بأكثر من 1.1 مليار دولار. بالإضافة إلى أندريسن هورويتز، يشمل مستثمروها أفرادًا بارزين مثل نات فريدمان، الرئيس التنفيذي السابق لشركة GitHub، ومصطفى سليمان، المؤسس المشارك لمختبر الذكاء الاصطناعي DeepMind، الذي أصبح الآن جزءًا من Alphabet. يشمل المستثمرون أيضًا شركات مثل Sequoia Capital وSV Angel.

بفضل تمويلها السخي، يمكن القول إن شركة ElevenLabs في وضع أفضل من غيرها من الشركات الناشئة في مجال الذكاء الاصطناعي لضخ الموارد لإنشاء ضمانات فعالة ضد الجهات الفاعلة السيئة – وهي مهمة أصبحت أكثر إلحاحًا بسبب الانتخابات الرئاسية المقبلة في الولايات المتحدة. يقول بالاسوبرامانيان: “إن وجود الضمانات الصحيحة أمر مهم، لأنه بخلاف ذلك يمكن لأي شخص أن يخلق أي صورة تشبه أي شخص آخر”. “بينما نقترب من الدورة الانتخابية، سيكون الأمر جنونياً.”

يضم خادم Discord لعشاق ElevenLabs أشخاصًا يناقشون كيف يعتزمون استنساخ صوت بايدن، ويشاركون روابط لمقاطع الفيديو ومنشورات وسائل التواصل الاجتماعي التي تسلط الضوء على المحتوى المزيف العميق الذي يظهر بايدن أو المخادعين الناتجين عن الذكاء الاصطناعي لأصوات دونالد ترامب وباراك أوباما.

على الرغم من أن ElevenLabs هي شركة رائدة في السوق في مجال استنساخ الصوت بالذكاء الاصطناعي، إلا أنه في غضون سنوات قليلة أصبحت هذه التكنولوجيا متاحة على نطاق واسع للشركات والأفراد لتجربتها. وقد أدى ذلك إلى خلق فرص عمل جديدة، مثل إنشاء كتب صوتية بتكلفة أقل، ولكنه يزيد أيضًا من احتمالات الاستخدام الضار للتكنولوجيا. يقول سام جريجوري، مدير البرامج في منظمة ويتنس غير الربحية، التي تساعد الناس على استخدام التكنولوجيا لتعزيز حقوق الإنسان: “لدينا مشكلة حقيقية”. “عندما تكون لديك هذه الأدوات المتاحة على نطاق واسع جدًا، يصبح من الصعب جدًا ضبط الشرطة”.

في حين تشير تحليلات Pindrop وBerkeley إلى أنه قد يكون من الممكن الكشف عن مصدر المكالمات الآلية التي يولدها الذكاء الاصطناعي، فإن الحادث يؤكد أيضًا مدى عدم استعداد السلطات وصناعة التكنولوجيا والجمهور مع تزايد موسم الانتخابات لعام 2024. من الصعب على الأشخاص الذين ليس لديهم خبرة متخصصة تأكيد مصدر المقاطع الصوتية أو التحقق مما إذا كانت قد تم إنشاؤها بواسطة الذكاء الاصطناعي. وقد لا يتم الانتهاء من التحليلات الأكثر تعقيدا بالسرعة الكافية لتعويض الضرر الناجم عن الدعاية التي يولدها الذكاء الاصطناعي.

يقول غريغوري: “لا يستطيع الصحفيون ومسؤولو الانتخابات وغيرهم الوصول إلى أدوات موثوقة للقيام بذلك بسرعة وبسرعة عندما يتم تسريب أو مشاركة الصوت الذي قد يغير الانتخابات”. “إذا كان هذا شيئًا ذا صلة بيوم الانتخابات، لكان الأوان قد فات”.

تم التحديث بتاريخ 26-1-2024، الساعة 7:20 مساءً بتوقيت شرق الولايات المتحدة: تم تحديث هذه المقالة بتعليق من ElevenLabs.