ينضم باحث OpenAI الذي استقال بسبب مخاوف تتعلق بالسلامة إلى Anthropic

انضم جان ليك، وهو باحث رئيسي في OpenAI والذي استقال في وقت سابق من هذا الشهر بسبب “مخاوف تتعلق بالسلامة”، إلى منافسه Anthropic “للعمل على الرقابة القابلة للتطوير، والتعميم من الضعيف إلى القوي، وأبحاث المواءمة الآلية”، وفقًا لمنشور Leike على X.

لقد وضعت شركة Anthropic نفسها لتكون نقيض شركة OpenAI: وهي شركة ذات منفعة عامة مكرسة للتقدم الحذر. تم تأسيسها من قبل موظفين سابقين في OpenAI والذين غادروا، وفقًا لـ الأوقات المالية، لأنهم اعتقدوا أن OpenAI كانت تبتعد عن مهمتها المتمثلة في تطوير ذكاء اصطناعي أكثر أمانًا وأكثر أخلاقية وأصبحت تركز بشكل كبير على المصالح التجارية بعد صفقة Microsoft البالغة مليار دولار. بالنسبة لأولئك الذين يتابعون دراما الذكاء الاصطناعي، فإن انضمام Leike إلى Anthropic ليس مفاجئًا.

“لقد تأخرنا كثيرًا في أن نكون جديين بشكل لا يصدق بشأن الآثار المترتبة على الذكاء الاصطناعي العام. قال ليك في منشورات متابعة حول استقالته قبل بضعة أسابيع: “يجب أن نعطي الأولوية للتحضير لهم بأفضل ما نستطيع”. “عندها فقط يمكننا ضمان أن الذكاء الاصطناعي العام يفيد البشرية جمعاء.”

عمل Leike سابقًا في فريق “Superalignment” التابع لشركة OpenAI، والذي يبدو أنه يتماشى مع دوره في Anthropic، مما يضمن تصميم الأنظمة الذكية للعمل وفقًا للقيم الإنسانية. في موضوعه بعد إعلان استقالته، انتقد Leike OpenAI لعدم توفير موارد حوسبة كافية لضمان النجاح.

من جانبها، تستخدم شركة أنثروبيك “الذكاء الاصطناعي الدستوري”، الذي يدمج المبادئ الأخلاقية في التدريب على نموذج الذكاء الاصطناعي من خلال جمع المدخلات العامة ودمج المفاهيم من مصادر مثل إعلان الأمم المتحدة العالمي لحقوق الإنسان، كما ذكرت سابقا.

هناك خروج ملحوظ آخر عن OpenAI وهو مؤسسها المشارك، إيليا سوتسكيفر، الذي غادر في وقت سابق من هذا الشهر ويقال إنه كان غائبًا عن المكتب منذ أن قاد انقلابًا فاشلًا ضد الرئيس التنفيذي سام ألتمان في نوفمبر. على الرغم من استقالة Sutskever ولم يشر بعد إلى خطوته التالية، إلا أن قيمه تتوافق مع قيم Anthropic، مما يجعلها وجهة معقولة بالنسبة له، إلى جانب Leike.