الرسوم المتحركة للأطفال تحصل على تصريح مجاني من قواعد الكشف عن Deepfake على YouTube

قام موقع YouTube بتحديث كتاب القواعد الخاص به لعصر التزييف العميق. بدءًا من اليوم، يجب على أي شخص يقوم بتحميل مقطع فيديو على المنصة أن يكشف عن استخدامات معينة للوسائط الاصطناعية، بما في ذلك الذكاء الاصطناعي التوليدي، حتى يعرف المشاهدون أن ما يرونه ليس حقيقيًا. يقول موقع YouTube إنه ينطبق على الوسائط المعدلة “الواقعية”، مثل “جعلها تبدو كما لو أن مبنى حقيقي اشتعلت فيه النيران” أو تبديل “وجه فرد بآخر”.

تُظهر السياسة الجديدة أن يوتيوب يتخذ خطوات يمكن أن تساعد في الحد من انتشار المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي مع اقتراب الانتخابات الرئاسية الأمريكية. ومن الملفت للنظر أيضًا ما يسمح به: الرسوم المتحركة التي ينشئها الذكاء الاصطناعي والتي تستهدف الأطفال لا تخضع لقواعد الكشف عن المحتوى الاصطناعي الجديدة.

تستبعد سياسات YouTube الجديدة المحتوى المتحرك تمامًا من متطلبات الكشف. وهذا يعني أن المشهد الناشئ للثراء السريع، والمحتالون الذين ينشئون المحتوى بواسطة الذكاء الاصطناعي، يمكنهم الاستمرار في إنتاج مقاطع فيديو تستهدف الأطفال دون الحاجة إلى الكشف عن أساليبهم. سوف يُترك للآباء الذين يشعرون بالقلق إزاء جودة مقاطع الفيديو التي يتم إنتاجها على عجل لقوافي الأطفال التعرف على الرسوم الكاريكاتورية التي ينشئها الذكاء الاصطناعي بأنفسهم.

تنص سياسة YouTube الجديدة أيضًا على أن منشئي المحتوى لا يحتاجون إلى الإبلاغ عن استخدام الذكاء الاصطناعي لإجراء تعديلات “بسيطة” تكون “جمالية في المقام الأول” مثل مرشحات التجميل أو تنظيف الفيديو والصوت. يُسمح أيضًا باستخدام الذكاء الاصطناعي “لإنشاء أو تحسين” البرنامج النصي أو التسميات التوضيحية دون الكشف عنها.

لا يوجد نقص في المحتوى منخفض الجودة على YouTube الذي يتم إنشاؤه بدون الذكاء الاصطناعي، ولكن أدوات الذكاء الاصطناعي التوليدية تخفض من مستوى إنتاج الفيديو بطريقة تسرع إنتاجه. قالت شركة Google، الشركة الأم لموقع YouTube، مؤخرًا إنها تعمل على تعديل خوارزميات البحث الخاصة بها لخفض مستوى الطوفان الأخير من Clickbait الناتج عن الذكاء الاصطناعي، والذي أصبح ممكنًا بفضل أدوات مثل ChatGPT. تكنولوجيا إنتاج الفيديو أقل نضجًا ولكنها تتحسن بسرعة.

مشكلة المنشأة

يعد موقع YouTube بمثابة عملاق ترفيهي للأطفال، حيث يقزم المنافسين مثل Netflix وDisney. كافحت المنصة في الماضي لتخفيف الكمية الهائلة من المحتوى الذي يستهدف الأطفال. لقد تعرضت لانتقادات بسبب استضافتها محتوى يبدو مناسبًا ظاهريًا أو مغريًا للأطفال ولكن عند المشاهدة عن كثب يحتوي على موضوعات بغيضة.

ذكرت مجلة WIRED مؤخرًا عن ظهور قنوات YouTube التي تستهدف الأطفال والتي يبدو أنها تستخدم أدوات إنشاء الفيديو بالذكاء الاصطناعي لإنتاج مقاطع فيديو رديئة تتميز برسوم متحركة عامة ثلاثية الأبعاد وتكرارات غير منتظمة لأغاني الأطفال الشائعة.

قد يعني استثناء الرسوم المتحركة في سياسة YouTube الجديدة أنه لا يمكن للوالدين تصفية مقاطع الفيديو هذه بسهولة من نتائج البحث أو منع خوارزمية توصية YouTube من التشغيل التلقائي للرسوم المتحركة التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعد إعداد أطفالهم لمشاهدة القنوات الشهيرة والتي تم فحصها بدقة مثل PBS Kids أو Ms. راشيل.

تتطلب بعض المحتويات الإشكالية التي أنشأها الذكاء الاصطناعي والتي تستهدف الأطفال الإبلاغ عنها بموجب القواعد الجديدة. في عام 2023، حققت هيئة الإذاعة البريطانية (BBC) في موجة من مقاطع الفيديو التي تستهدف الأطفال الأكبر سنًا والتي استخدمت أدوات الذكاء الاصطناعي لدفع العلوم الزائفة ونظريات المؤامرة، بما في ذلك إنكار تغير المناخ. تحاكي مقاطع الفيديو هذه مقاطع فيديو تعليمية تقليدية حية – تظهر، على سبيل المثال، أهرامات الجيزة الحقيقية – لذلك قد يخطئ المشاهدون المطمئنون في أنها محتوى تعليمي دقيق. (بعد ذلك، أشارت مقاطع الفيديو الهرمية إلى أن الهياكل يمكنها توليد الكهرباء). ومن شأن هذه السياسة الجديدة اتخاذ إجراءات صارمة ضد هذا النوع من مقاطع الفيديو.

تقول المتحدثة باسم YouTube، إيلينا هيرنانديز: “نطلب من منشئي محتوى الأطفال الكشف عن المحتوى الذي تم تعديله بشكل هادف أو إنشاؤه بشكل صناعي عندما يبدو واقعيًا”. “نحن لا نطلب الكشف عن المحتوى الذي يبدو غير واقعي بشكل واضح ولا يضلل المشاهد ويجعله يعتقد أنه حقيقي.”

تم تصميم تطبيق YouTube Kids المخصص للأطفال باستخدام مجموعة من المرشحات الآلية والمراجعة البشرية وتعليقات المستخدمين للعثور على محتوى جيد الإعداد للأطفال. لكن العديد من الآباء يستخدمون تطبيق YouTube الرئيسي ببساطة لإعداد محتوى لأطفالهم، ويعتمدون على عناوين مقاطع الفيديو والقوائم والصور المصغرة للحكم على ما هو مناسب.

حتى الآن، يبدو أن معظم محتوى WIRED المخصص للأطفال والذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي تم العثور عليه على YouTube تم إنتاجه بشكل سيئ بطرق مشابهة للرسوم المتحركة التقليدية للأطفال منخفضة الجهد. إنها تحتوي على صور قبيحة، ومؤامرات غير متماسكة، وقيمة تعليمية صفر، لكنها ليست كذلك بشكل فريد قبيحة أو غير متماسكة أو لا قيمة لها من الناحية التربوية.

تسهل أدوات الذكاء الاصطناعي إنتاج مثل هذا المحتوى وبكميات أكبر. وجدت بعض القنوات WIRED تحميل مقاطع فيديو طويلة، بعضها يزيد طوله عن ساعة. إن اشتراط وضع علامات على محتوى الأطفال الناتج عن الذكاء الاصطناعي يمكن أن يساعد الآباء على تصفية الرسوم الكاريكاتورية التي ربما تم نشرها مع الحد الأدنى من التدقيق البشري أو بدونه تمامًا.