OpenAI تطور أداة للكشف عن المحتوي المكتوب بالذكاء الاصطناعى

يمكن لبرنامج ChatGPT من OpenAI كتابة وإعادة كتابة وإعادة صياغة أي نص موجه إليه، وفي حين يوفر المحتوى الذي يولده الذكاء الاصطناعي الوقت للعديد من الأشخاص، فإن الأداة سيئة السمعة أيضًا عندما يتعلق الأمر بالطلاب والتعلم.

ومنذ إنشائها، كانت أداة ChatGPT من OpenAI موضوعًا للقلق، وكان النقاش حول استخدام الطلاب للذكاء الاصطناعي للغش واسع النطاق، ولكن ماذا لو قالت OpenAI أن هناك طريقة للكشف عن النصوص التي كتبها الذكاء الاصطناعي؟ تمتلك OpenAI طريقة يمكنها الكشف عن متى يستخدم شخص ما ChatGPT للكتابة.

ووفقًا لصحيفة وول ستريت جورنال، كانت الأداة المنقذة جاهزة للإصدار منذ حوالي عام الآن، لكن يبدو أن OpenAI ليست مستعدة لإظهار الضوء الأخضر حتى الآن، ويشير التقرير إلى أن التأخير في إصدار هذه الأداة هو فقط لجذب المستخدمين والاحتفاظ بهم.

وقد وجد أحد الاستطلاعات التي أجرتها الشركة لمستخدمي ChatGPT المخلصين أن ما يقرب من ثلثهم سينفرون من تقنية مكافحة الغش، كما وجد مركز الديمقراطية والتكنولوجيا، وهي منظمة غير ربحية لسياسة التكنولوجيا، أن 59 في المائة من معلمي المدارس المتوسطة والثانوية كانوا متأكدين من أن بعض الطلاب استخدموا الذكاء الاصطناعي للمساعدة في الأعمال المدرسية، بزيادة 17 نقطة عن العام الدراسي السابق.

ونقل تقرير وول ستريت جورنال عن متحدث باسم OpenAI، الذي قال إن قرار إبقاء أداة مكافحة الغش طي الكتمان يرجع إلى وجود بعض عوامل الخطر ومعقدة، ومن المرجح أن يؤثر الإطلاق على النظام البيئي الأوسع خارج OpenAI، نظرًا للتعقيدات.

أداة مكافحة الغش من OpenAI

تعدل أداة مكافحة الغش من OpenAI الطريقة التي يختار بها ChatGPT الكلمات أو أجزاء الكلمات (الرموز) لتوليد النص، وسيؤدي هذا التعديل إلى إدخال نمط دقيق، يُعرف باسم العلامة المائية، في النص الناتج، مما يسمح باكتشاف الغش المحتمل أو سوء الاستخدام.

العلامات المائية، على الرغم من أنها غير قابلة للكشف من قبل البشر، يمكن التعرف عليها من خلال تقنية الكشف الخاصة بـ OpenAI، إنها تعين درجة للإشارة إلى احتمالية إنشاء مستند أو قسم بواسطة ChatGPT، إن هذه النتيجة ستكون بمثابة مؤشر على احتمالية إنشاء المحتوى بواسطة نموذج الذكاء الاصطناعي.

وتكشف المستندات الداخلية أن تقنية العلامات المائية خالية من العيوب تقريبًا، حيث حققت معدل فعالية بنسبة 99.9 في المائة، ولكن هذه العيوب لا تتحقق إلا عندما ينتج ChatGPT كمية كبيرة من النص الجديد، مما يتيح التعرف الدقيق على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

حتى في هذه الحالة، تظل المخاوف من إمكانية محو العلامات المائية من خلال تقنيات أخرى مثل جعل Google Translate يترجم النص إلى لغة أخرى ثم يعود، أو جعل ChatGPT يضيف رموزًا تعبيرية إلى النص ثم يحذفها يدويًا قائمة.

لكن القضية الأساسية، وفقًا للتقرير، هي، إذا تم إصدارها، من يجب أن يكون قادرًا على استخدام الأداة. إذا كان عدد الأشخاص الذين يمتلكونها قليلًا جدًا، فلن تكون الأداة مفيدة. إذا حصل الكثيرون على حق الوصول، فقد يتمكن المجرمون السيئون من فك شفرة تقنية العلامة المائية الخاصة بالشركة.

لكن هذا فقط للنص/ أطلقت شركة OpenAI أداة الكشف عن الذكاء الاصطناعي عندما يتعلق الأمر بالصور والمقاطع الصوتية، وركزت OpenAI على تطوير تقنيات العلامات المائية للمحتوى الصوتي والمرئي على النص بسبب العواقب الأكثر خطورة المحتملة لمحتوى الوسائط المتعددة الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، مثل التزييف العميق، مقارنة بالمحتوى النصي.