المشاهير الأكثر عرضة لخطر “استنساخ الصوت” بالذكاء الاصطناعى

المشاهير هم الأكثر عرضة لخطر الوقوع ضحية لمحاولات انتحال الشخصية، وذلك في ظل الشعبية المتزايدة لبرامج استنساخ الصوت بالذكاء الاصطناعي، حيث سيجد مجرمو الإنترنت مقاطع صوتية عبر الإنترنت ويدخلونها في برامج متوفرة تجاريًا لإنتاج كلمات وحتى جمل كاملة بصوت شخص ما.

وتُعرف هذه العملية باسم استنساخ الصوت، ويشار إلى النتيجة عادةً باسم التزييف العميق الصوتي، وقد تم صياغة مصطلح “التزييف العميق” في عام 2017 لوصف الصور ومقاطع الفيديو غير المشروعة التي تظهر وجوه المشاهير فوق أجساد أخرى.

ويبدو أن الأثرياء والمشاهير في خطر مرة أخرى، حيث أجرت Podcastle، وهي منصة بث صوتي مدعومة بالذكاء الاصطناعي، دراسة جديدة شملت 1000 أمريكي لاستطلاع آرائهم حول المشاهير الأكثر عرضة لاستنساخ الأصوات.

ويعتقد المستجيبون أن أرنولد شوارزنيجر كان الأكثر عرضة للخطر بسبب “امتلاكه صوتًا مباشرًا يمكن تقليده”، فيما يعتقد 86% من المشاركين في الاستطلاع أن “اللهجة المميزة والقابلة للتعرف الفوري” لحاكم كاليفورنيا السابق تعرضه للخطر.

وتبع شوارزنيجر دونالد ترامب وكيم كارداشيان وسيلفستر ستالون وكريستوفر واكن، وأفاد ما يقرب من واحد من كل أربعة (23%) أن كارداشيان لديها “نغمة ودرجة صوت متسقة”، مما يجعل من السهل تقليد صوتها.

وفي الوقت نفسه، قال 39% إن صوت ترامب من السهل تقليده بسبب مألوفيته من الظهور الإعلامي المتكرر، واعتبر المستجيبون من الجيل Z أن ترامب هو الأكثر عرضة للخطر، ومن المرجح أن يكون رأيهم قد تشكل بسبب الاضطرابات السياسية غير المسبوقة في المشهد الإعلامي.

وقد ظهر المشاهير والسياسيون على حد سواء باعتبارهم الضحايا الأكثر شيوعًا للتزييف العميق على وسائل التواصل الاجتماعي، ودفعت موجة من الصور المزيفة على X، والتي كانت تُعرف سابقًا باسم Twitter، المنصة إلى حظر عمليات البحث عن اسم تايلور سويفت مؤقتًا في يناير.

وفي الأسبوع الماضي فقط، نشر إيلون ماسك مقطع فيديو مزيفًا للمرشحة الرئاسية الديمقراطية المفترضة كامالا هاريس على X، فيما لا يعد التزييف العميق ظاهرة جديدة، فقد اعترفت وزارة الأمن الداخلي الأمريكية بها في تقرير عام 2019، مدعية أن الخطر لا يأتي من التكنولوجيا “ولكن من ميل الناس الطبيعي إلى تصديق ما يرونه”.

ونتيجة لذلك، تابع التقرير، “التزييف العميق والوسائط الاصطناعية لا تحتاج إلى أن تكون متقدمة أو قابلة للتصديق بشكل خاص لتكون فعالة في نشر المعلومات المضللة”، وفي حين لم يُطلب من المشاركين في الدراسة التعليق على الاستخدام الخاطئ المحتمل لتقنية استنساخ الصوت بالذكاء الاصطناعي، أعرب قادة الشركة عن خوفهم.

وصرح Artavazd Yeritsyan الرئيس التنفيذي لشركة Podcastle، ، لصحيفة The U.S. Sun أنه كان على دراية تامة باستخدام تقنية استنساخ الصوت بالذكاء الاصطناعي من قبل الجهات الخبيثة، وقال Yeritsyan: “أي تقنية تقدمها، سيكون هناك دائمًا أشخاص يستخدمونها لأشياء سيئة وأشخاص يستخدمونها لأشياء جيدة”.

ويمكن للمستخدمين تسجيل الصوت وتحريره دون مغادرة منصة Podcastle. ويشمل ذلك استخدام الذكاء الاصطناعي لتوليد كلمات أو عبارات لم يسجلوها، ويقول Yeritsyan إن الغرض من المنصة هو “أتمتة” عملية الإنتاج بدلاً من “استبدال إنسان”.

تتضمن المنصة أيضًا فحوصات لمنع إنشاء مقاطع صوتية مزيفة، ويجب على المستخدم تسجيل جمل محددة للتأكد من أن شخصًا حقيقيًا يتحدث، على عكس مجرم الإنترنت الذي يغذي النظام بمقاطع من صوت شخص آخر.

وبينما هم متفائلون بشأن التطبيقات المستقبلية المحتملة مثل وظائف إمكانية الوصول إلى النص إلى الكلام، فإن كبار ممثلي Podcastle يدركون المخاطر بوضوح، وقال يريتسيان، واصفًا ظاهرة تُعرف باسم التصيد الصوتي: “أعتقد أن أكبر التهديدات هي أسباب التصيد الاحتيالي، حيث يطلب المجرم معلومات الحساب المصرفي باستخدام صوت أحد الأقارب أو الأصدقاء”.

كل ما يحتاجه مجرم الإنترنت هو بضع ثوانٍ من الصوت – الموجود عادةً على وسائل التواصل الاجتماعي – لإنشاء تزييف عميق، والذي يتم تسليحه بعد ذلك لخداع الضحايا غير المطمئنين لتسليم معلوماتهم الشخصية عبر الهاتف، ويشير خبراء الأمن السيبراني إلى هذه الظاهرة باسم “التصيد الصوتي” أو “التصيد الصوتي”.

ويبدأ الدفاع الناجح ضد هذا الشكل من الهجمات الإلكترونية الناشئة بفهم علامات الاحتيال، وغالبًا ما يطلب المجرمون من ضحاياهم التصرف بشكل عاجل لتصحيح التهم الاحتيالية أو تأكيد المعلومات الشخصية. يجب أن يثير النهج القوي علامات التحذير.

ويجب عليك دائمًا توخي الحذر، حيث قد لا يكون معرف المتصل كافيًا للتحقق من الهوية، ويوصي خبراء الأمن بإغلاق الهاتف والاتصال بالمنظمة أو الفرد مباشرة إذا تلقيت مكالمة تشك في أنها قد تكون احتيالية، وكنصيحة عامة، امتنع عن تقديم تفاصيل حساسة مثل كلمات المرور أو رقم بطاقة الائتمان أو معلومات الحساب المصرفي عبر الهاتف.

يتوقع ممثلو Podcastle أن تقنية استنساخ الصوتسيتم استخدامها بشكل متزايد لتعزيز الإنتاجية وأتمتة العمليات المملة، ومع ذلك، فهم يدركون أن قدرًا كبيرًا من المسؤولية عن الحد من الجهات الفاعلة السيئة تقع على عاتقهم.

وأوضح يريتسيان: “نريد أن نكون في المرحلة التي لا نمنح فيها الناس القدرة على استخدامها للأسباب السيئة”، “أعتقد أنه يجب تنظيم معظم المنتجات حتى لا تحدث مثل هذه الأشياء”.