تتيح لك أداة الذكاء الاصطناعي في TikTok عن طريق الخطأ وضع كلمات هتلر في فم ممثل مدفوع الأجر

نشرت TikTok عن طريق الخطأ رابطًا لإصدار داخلي من أداة الصورة الرمزية الرقمية الجديدة المدعومة بالذكاء الاصطناعي بدون حواجز حماية، مما يسمح للمستخدمين بإنشاء مقاطع فيديو تتحدث عن أي شيء. تم رصد الفواق لأول مرة بواسطة شبكة CNN، وسمحت للمنفذ بإنشاء مقاطع فيديو تحتوي على اقتباسات من هتلر ورسالة تطلب من الناس شرب مواد التبييض، من بين عبارات أخرى. ومنذ ذلك الحين، قامت TikTok بإيقاف هذا الإصدار من الأداة، بينما يظل الإصدار الذي كان TikTok يعتزم إطلاقه متاحًا.

تم إطلاق TikTok في وقت سابق من هذا الأسبوع، حيث تتيح الصور الرمزية Symphony Digital Avatars الخاصة بـ TikTok للشركات إنشاء إعلانات باستخدام ما يشبه الممثلين المدفوعين. كما أنه يستخدم الدبلجة المدعومة بالذكاء الاصطناعي والتي تتيح للمعلنين إدخال نص لجعل الصور الرمزية تقول ما يريدون ضمن إرشادات TikTok. على الرغم من أن المستخدمين الذين لديهم حساب TikTok Ads Manager فقط هم من يمكنهم الوصول إلى هذه الأداة، إلا أن الإصدار الذي وجدته CNN يسمح لأي شخص لديه حساب شخصي بالمحاولة.

في تصريح ل الحافةوقالت المتحدثة باسم TikTok، لورا بيريز، إن TikTok قامت بحل “الخطأ الفني” الذي “سمح لعدد صغير للغاية من المستخدمين بإنشاء محتوى باستخدام نسخة اختبار داخلية للأداة لبضعة أيام”.

عندما اكتشفت CNN الأداة الداخلية، سمحت للقناة بإنشاء مقاطع فيديو تتلو “رسالة إلى أمريكا” لأسامة بن لادن، وهو شعار التفوق الأبيض، ومقطع فيديو يطلب من الناس التصويت في اليوم الخطأ. لم يكن أي من مقاطع الفيديو التي أنتجتها CNN يحتوي على علامة مائية تكشف أن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي، وهو شيء تفعله النسخة المناسبة من TikTok’s Symphony Digital Avatars.

لم تنشر CNN مقاطع الفيديو التي أنشأتها على TikTok، لكن بيريز يشير إلى أنه لو فعلت ذلك، لكان المحتوى “سيتم رفضه لانتهاكه سياساتنا”. على الرغم من أن TikTok قامت منذ ذلك الحين بإيقاف هذا الإصدار من أداتها، إلا أنها تدعو إلى التساؤل عما إذا كان الناس سيجدون طرقًا أخرى لإساءة استخدام منشئ الصور الرمزية الرقمية – وما إذا كان TikTok جاهزًا لذلك.