كشف التزييف بواسطة الذكاء الاصطناعي يخيب آمال الناخبين في الجنوب العالمي

لكن الأمر لا يقتصر على أن النماذج لا تستطيع التعرف على اللهجات أو اللغات أو بناء الجملة أو الوجوه الأقل شيوعًا في الدول الغربية. يقول جريجوري: “تم تدريب الكثير من الأدوات الأولية للكشف عن التزييف العميق على وسائط عالية الجودة”. ولكن في معظم أنحاء العالم، بما في ذلك أفريقيا، تهيمن العلامات التجارية للهواتف الذكية الصينية الرخيصة التي تقدم ميزات بسيطة على السوق. يقول نجاميتا إن الصور ومقاطع الفيديو التي تستطيع هذه الهواتف إنتاجها ذات جودة أقل بكثير، مما يزيد من إرباك نماذج الكشف.

يقول جريجوري إن بعض النماذج حساسة للغاية، لدرجة أنه حتى الضوضاء الخلفية في مقطع صوتي، أو ضغط مقطع فيديو لوسائل التواصل الاجتماعي، يمكن أن يؤدي إلى نتيجة إيجابية أو سلبية كاذبة. يقول: “لكن هذه هي بالضبط الظروف التي تواجهها في العالم الحقيقي، أي عمليات الكشف الصعبة والمتعثرة”. إن الأدوات المجانية التي يواجهها الجمهور والتي من المرجح أن يتمكن معظم الصحفيين ومدققي الحقائق وأعضاء المجتمع المدني من الوصول إليها هي أيضًا “غير دقيقة للغاية، من حيث التعامل مع عدم المساواة في الأشخاص الذين يتم تمثيلهم في بيانات التدريب”. وتحديات التعامل مع هذه المواد ذات الجودة المنخفضة.

الذكاء الاصطناعي التوليدي ليس الطريقة الوحيدة لإنشاء وسائط يتم التلاعب بها. إن ما يسمى بالتزييف الرخيص، أو الوسائط التي يتم التلاعب بها عن طريق إضافة تسميات مضللة أو ببساطة إبطاء أو تحرير الصوت والفيديو، شائعة جدًا أيضًا في الجنوب العالمي، ولكن يمكن تمييزها عن طريق الخطأ على أنها يتم التلاعب بها بواسطة الذكاء الاصطناعي من قبل نماذج خاطئة أو باحثين غير مدربين.

يشعر ضياء بالقلق من أن المجموعات التي تستخدم الأدوات التي من المرجح أن تشير إلى محتوى من خارج الولايات المتحدة وأوروبا مثل الذكاء الاصطناعي يمكن أن يكون لها تداعيات خطيرة على مستوى السياسة، مما يشجع المشرعين على اتخاذ إجراءات صارمة ضد المشاكل الوهمية. وتقول: “هناك خطر كبير فيما يتعلق بتضخيم هذا النوع من الأرقام”. وتطوير أدوات جديدة لا يعد مسألة ضغطة زر.

تمامًا مثل أي شكل آخر من أشكال الذكاء الاصطناعي، يتطلب بناء نموذج الكشف واختباره وتشغيله الوصول إلى مراكز الطاقة والبيانات التي لا تتوفر ببساطة في معظم أنحاء العالم. يقول نجاميتا، الذي يقيم في غانا: “إذا كنت تتحدث عن الذكاء الاصطناعي والحلول المحلية هنا، فمن المستحيل تقريبًا بدون الجانب الحسابي للأشياء أن نتمكن حتى من تشغيل أي من نماذجنا التي نفكر في التوصل إليها”. في غياب البدائل المحلية، لا يجد الباحثون مثل نجاميتا سوى خيارات قليلة: الدفع مقابل الوصول إلى أداة جاهزة مثل تلك التي تقدمها شركة Reality Defender، والتي يمكن أن تكون تكاليفها باهظة؛ استخدام أدوات مجانية غير دقيقة؛ أو حاول الوصول من خلال مؤسسة أكاديمية.

في الوقت الحالي، يقول نجاميتا إن فريقه اضطر إلى الدخول في شراكة مع إحدى الجامعات الأوروبية حيث يمكنهم إرسال أجزاء من المحتوى للتحقق منها. قام فريق نجاميتا بتجميع مجموعة بيانات لحالات التزييف العميق المحتملة من جميع أنحاء القارة، والتي يقول إنها ذات قيمة للأكاديميين والباحثين الذين يحاولون تنويع مجموعات بيانات نماذجهم.

لكن إرسال البيانات إلى شخص آخر له أيضًا عيوبه. يقول ضياء: “إن فترة التأخر كبيرة جدًا”. “يستغرق الأمر بضعة أسابيع على الأقل حتى يتمكن شخص ما من القول بثقة أن هذا هو نتاج الذكاء الاصطناعي، وبحلول ذلك الوقت، يكون هذا المحتوى قد حدث الضرر بالفعل.”

يقول جريجوري إن شركة ويتنس، التي تدير برنامجها الخاص للكشف عن الاستجابة السريعة، تتلقى “عددًا ضخمًا” من الحالات. ويقول: “من الصعب بالفعل التعامل مع تلك التقارير في الإطار الزمني الذي يحتاجه الصحفيون في الخطوط الأمامية، وبالحجم الذي بدأوا يواجهونه”.

لكن ديا يقول إن التركيز كثيرًا على الكشف قد يحول التمويل والدعم بعيدًا عن المنظمات والمؤسسات التي تعمل على إنشاء نظام بيئي معلوماتي أكثر مرونة بشكل عام. وتقول إنه بدلاً من ذلك، يجب أن يذهب التمويل نحو وسائل الإعلام ومنظمات المجتمع المدني التي يمكنها توليد شعور بالثقة العامة. وتقول: “لا أعتقد أن هذا هو المكان الذي تذهب إليه الأموال”. “أعتقد أن الأمر يتجه أكثر نحو الكشف.”