يهدف مشروع قانون أمان الذكاء الاصطناعي إلى منع انتهاكات السلامة لنماذج الذكاء الاصطناعي

تم تقديم مشروع قانون جديد إلى مجلس الشيوخ يسعى إلى تتبع القضايا الأمنية من خلال تفويض إنشاء قاعدة بيانات تسجل جميع انتهاكات أنظمة الذكاء الاصطناعي.

ومن شأن قانون الذكاء الاصطناعي الآمن، الذي قدمه السيناتور مارك وارنر (ديمقراطي عن فرجينيا) وتوم تيليس (جمهوري عن ولاية كارولينا الشمالية)، أن ينشئ مركزًا لأمن الذكاء الاصطناعي في وكالة الأمن القومي. سيقود هذا المركز الأبحاث حول ما يسميه مشروع القانون “مكافحة الذكاء الاصطناعي”، أو تقنيات تعلم كيفية التعامل مع أنظمة الذكاء الاصطناعي. وسيقوم هذا المركز أيضًا بوضع إرشادات لمنع تدابير مكافحة الذكاء الاصطناعي.

سيتطلب مشروع القانون أيضًا من المعهد الوطني للمعايير والتكنولوجيا (NIST) ووكالة الأمن السيبراني وأمن البنية التحتية إنشاء قاعدة بيانات لانتهاكات الذكاء الاصطناعي، بما في ذلك “الأخطاء الوشيكة”.

يركز مشروع القانون الذي اقترحه وارنر وتيليس على تقنيات مكافحة الذكاء الاصطناعي ويصنفها على أنها تسميم البيانات، وهجمات التهرب، والهجمات القائمة على الخصوصية، وهجمات إساءة الاستخدام. يشير تسميم البيانات إلى طريقة يتم فيها إدراج التعليمات البرمجية في البيانات التي تم جمعها بواسطة نموذج الذكاء الاصطناعي، مما يؤدي إلى إتلاف مخرجات النموذج. لقد ظهرت كطريقة شائعة لمنع مولدات الصور المدعومة بالذكاء الاصطناعي من نسخ الأعمال الفنية على الإنترنت. تعمل هجمات التهرب على تغيير البيانات التي تدرسها نماذج الذكاء الاصطناعي إلى درجة الخلط بين النموذج.

كانت سلامة الذكاء الاصطناعي أحد العناصر الرئيسية في الأمر التنفيذي للذكاء الاصطناعي الصادر عن إدارة بايدن، والذي وجه المعهد الوطني للمعايير والتقنية (NIST) بوضع إرشادات “الفريق الأحمر” وطلب من مطوري الذكاء الاصطناعي تقديم تقارير السلامة. يحدث الفريق الأحمر عندما يحاول المطورون عمدًا جعل نماذج الذكاء الاصطناعي تستجيب للمطالبات التي ليس من المفترض أن تفعلها.

من الناحية المثالية، يقوم مطورو نماذج الذكاء الاصطناعي القوية باختبار المنصات من أجل السلامة وإخضاعها لفرق حمراء واسعة النطاق قبل طرحها للجمهور. قامت بعض الشركات، مثل Microsoft، بإنشاء أدوات للمساعدة في تسهيل إضافة حواجز السلامة إلى مشاريع الذكاء الاصطناعي.

سيتعين على قانون الذكاء الاصطناعي الآمن أن يمر عبر لجنة قبل أن يتم تناوله من قبل مجلس الشيوخ الأكبر.