يحذر مهندس Microsoft AI لجنة التجارة الفيدرالية (FTC) من مخاوف تتعلق بالسلامة في Copilot Designer

يقدم أحد مهندسي شركة Microsoft مخاوف تتعلق بالسلامة بشأن مولد الصور AI الخاص بالشركة إلى لجنة التجارة الفيدرالية، وفقًا لتقرير صادر عن CNBC. كتب شين جونز، الذي عمل لدى مايكروسوفت لمدة ست سنوات، رسالة إلى لجنة التجارة الفيدرالية، ذكر فيها أن مايكروسوفت “رفضت” إزالة برنامج Copilot Designer على الرغم من التحذيرات المتكررة من أن الأداة قادرة على إنشاء صور ضارة.

عند اختبار برنامج Copilot Designer بحثًا عن مشكلات السلامة والعيوب، وجد جونز أن الأداة أنتجت “شياطين ووحوشًا إلى جانب المصطلحات المتعلقة بحقوق الإجهاض، ومراهقين يحملون بنادق هجومية، وصورًا جنسية للنساء في لوحات عنيفة، وشرب الخمر وتعاطي المخدرات دون السن القانونية،” وفقًا لتقارير CNBC. .

بالإضافة إلى ذلك، يقال إن Copilot Designer قام بإنشاء صور لشخصيات ديزني، مثل Elsa من المجمدةفي مشاهد من قطاع غزة “أمام المباني المدمرة ولافتات “غزة حرة””. كما أنشأت صورًا لإلسا وهي ترتدي زي جيش الدفاع الإسرائيلي وهي تحمل درعًا عليه علم إسرائيل. الحافة كان قادرًا على إنشاء صور مماثلة باستخدام الأداة.

ويحاول جونز تحذير مايكروسوفت بشأن DALLE-3، النموذج الذي يستخدمه Copilot Designer، منذ ديسمبر، حسبما ذكرت CNBC. لقد نشر خطابًا مفتوحًا حول المشكلات على LinkedIn، ولكن ورد أن فريق Microsoft القانوني اتصل به لإزالة المنشور، وهو ما فعله.

وكتب جونز في الرسالة التي حصلت عليها CNBC: “على مدى الأشهر الثلاثة الماضية، حثت مايكروسوفت مرارًا وتكرارًا على إزالة برنامج Copilot Designer من الاستخدام العام حتى يتم وضع ضمانات أفضل”. “مرة أخرى، فشلوا في تنفيذ هذه التغييرات واستمروا في تسويق المنتج إلى أي شخص.” في أى مكان. أي جهاز.'”

في تصريح ل الحافةيقول فرانك شو، المتحدث باسم مايكروسوفت، إن الشركة “ملتزمة بمعالجة أي وجميع المخاوف التي لدى الموظفين وفقًا” لسياسات مايكروسوفت.

“عندما يتعلق الأمر بتجاوزات السلامة أو المخاوف التي قد يكون لها تأثير محتمل على خدماتنا أو شركائنا، فقد أنشأنا أدوات لتعليقات المستخدمين داخل المنتج وقنوات إبلاغ داخلية قوية للتحقيق بشكل صحيح في أي مشكلات وتحديد أولوياتها ومعالجتها، وهو ما أوصينا به يستخدم الموظف حتى نتمكن من التحقق من صحة مخاوفه واختبارها بشكل مناسب. يقول Shaw أيضًا إن Microsoft “قامت بتسهيل الاجتماعات مع قيادة المنتج ومكتب الذكاء الاصطناعي المسؤول لدينا لمراجعة هذه التقارير”.

التحديث يوم 6 مارس، الساعة 6:09 مساءً بالتوقيت الشرقي: تمت إضافة بيان من مايكروسوفت.