مجلس ولاية كاليفورنيا يقر مشروع قانون شامل لسلامة الذكاء الاصطناعي

أقرت جمعية ولاية كاليفورنيا قانون الابتكار الآمن والآمن لنماذج الذكاء الاصطناعي الحدودي (SB 1047)، رويترز التقارير. يعد مشروع القانون واحدًا من أولى اللوائح التنظيمية المهمة للذكاء الاصطناعي في الولايات المتحدة.

ومن شأن مشروع القانون، الذي كان نقطة اشتعال للنقاش في وادي السيليكون وخارجه، إلزام شركات الذكاء الاصطناعي العاملة في كاليفورنيا بتنفيذ عدد من الاحتياطات قبل أن تقوم بتدريب نموذج مؤسسي متطور. يتضمن ذلك إتاحة إمكانية إغلاق النموذج بسرعة وبشكل كامل، وضمان حماية النموذج من “تعديلات ما بعد التدريب غير الآمنة”، والحفاظ على إجراء اختبار لتقييم ما إذا كان النموذج أو مشتقاته معرضة بشكل خاص لخطر “التسبب أو التمكين” ضرر بالغ.”

قال السيناتور سكوت وينر، المؤلف الرئيسي لمشروع القانون، إن مشروع القانون SB 1047 هو مشروع قانون معقول للغاية ويطلب من مختبرات الذكاء الاصطناعي الكبيرة أن تفعل ما التزمت به بالفعل: اختبار نماذجها الكبيرة بحثًا عن مخاطر السلامة الكارثية. “لقد عملنا بجد طوال العام، مع المدافعين عن المصادر المفتوحة، والأنثروبيين، وآخرين، لتحسين مشروع القانون وتحسينه. إن قانون SB 1047 تمت معايرته بشكل جيد بما نعرفه عن مخاطر الذكاء الاصطناعي المتوقعة، وهو يستحق أن يتم سنه.

جادل منتقدو SB 1047 – بما في ذلك OpenAI وAnthropic، والسياسيان زوي لوفغرين ونانسي بيلوسي، وغرفة التجارة في كاليفورنيا – بأنها تركز بشكل مفرط على الأضرار الكارثية ويمكن أن تلحق ضررًا غير مبرر بمطوري الذكاء الاصطناعي الصغار مفتوحي المصدر. وتم تعديل مشروع القانون استجابة لذلك، حيث تم استبدال العقوبات الجنائية المحتملة بعقوبات مدنية، وتضييق صلاحيات التنفيذ الممنوحة للمدعي العام في كاليفورنيا، وتعديل متطلبات الانضمام إلى “مجلس النماذج الحدودية” الذي أنشأه مشروع القانون.

بعد تصويت مجلس شيوخ الولاية على مشروع القانون المعدل – وهو تصويت من المتوقع أن يتم إقراره – سيتوجه مشروع قانون سلامة الذكاء الاصطناعي إلى الحاكم جافين نيوسوم، الذي سيكون لديه حتى نهاية سبتمبر ليقرر مصيره، وفقًا لـ نيويورك تايمز.

ورفضت أنثروبيك التعليق بخلاف الإشارة إلى رسالة أرسلها الرئيس التنفيذي لشركة أنثروبيك داريو أمودي إلى الحاكم نيوسوم الأسبوع الماضي. لم يستجب OpenAI على الفور لطلب التعليق.