إنفيديا ومايكروسوفت يعملان على حل مشكلة كبيرة مع برنامج Copilot+.. اعرفها
عندما أعلنت شركة Microsoft عن أجهزة الكمبيوتر الشخصية Copilot+ قبل بضعة أسابيع، كان هناك سؤال واحد هو السائد : لماذا لا يمكنني تشغيل تطبيقات الذكاء الاصطناعي هذه على وحدة معالجة الرسومات الخاصة بي؟ في Computex 2024 ، وقدمت Nvidia أخيرًا إجابة وفقا لتقرير ديجيتال تريند .
تعمل Nvidia وMicrosoft معًا على واجهة برمجة التطبيقات (API) التي ستسمح للمطورين بتشغيل تطبيقاتهم المتسارعة بالذكاء الاصطناعي على بطاقات رسومات RTX ، ويتضمن ذلك نماذج اللغات الصغيرة (SLMs) المتنوعة التي تعد جزءًا من وقت تشغيل Copilot، والتي يتم استخدامها كأساس لميزات مثل Recall وLive Captions.
باستخدام مجموعة الأدوات، يمكن للمطورين السماح للتطبيقات بالعمل محليًا على وحدة معالجة الرسومات الخاصة بك بدلاً من وحدة NPU، وهذا يفتح الباب ليس فقط لتطبيقات الذكاء الاصطناعي الأكثر قوة، حيث أن قدرات الذكاء الاصطناعي لوحدات معالجة الرسوميات أعلى بشكل عام من وحدات NPU، ولكن أيضًا القدرة على التشغيل على أجهزة الكمبيوتر التي لا تندرج حاليًا تحت مظلة Copilot+.
كما إنها خطوة عظيمة، تتطلب أجهزة الكمبيوتر الشخصية Copilot+ حاليًا وحدة معالجة عصبية (NPU) قادرة على إجراء ما لا يقل عن 40 تيرا عملية في الثانية (TOPS)، وفي الوقت الحالي، فقط Snapdragon X Elite هو الذي يلبي هذه المعايير.
على الرغم من ذلك، تتمتع وحدات معالجة الرسومات بقدرات أعلى بكثير على معالجة الذكاء الاصطناعي، حتى في النماذج المنخفضة التي تصل إلى 100 TOPS، والخيارات الأعلى تتزايد بشكل أكبر.
بالاضافة إلى التشغيل على وحدة معالجة الرسومات، تضيف واجهة برمجة التطبيقات الجديدة إمكانات توليد الاسترجاع المعزز (RAG) إلى وقت تشغيل Copilot، ويمنح RAG نموذج الذكاء الاصطناعي إمكانية الوصول إلى معلومات محددة محليًا، مما يسمح له بتقديم حلول أكثر فائدة، وقد رأينا RAG معروضًا بالكامل مع Nvidia’s Chat with RTX في وقت سابق من هذا العام.
وخارج نطاق واجهة برمجة التطبيقات، أعلنت Nvidia عن مجموعة أدوات RTX AI في معرض Computex، و تجمع مجموعة المطورين هذه، التي ستصل في يونيو، بين العديد من الأدوات ومجموعات تطوير البرامج (SDK) التي تسمح للمطورين بضبط نماذج الذكاء الاصطناعي لتطبيقات محددة.
وتقول Nvidia أنه باستخدام مجموعة أدوات RTX AI، يمكن للمطورين إنشاء نماذج أسرع بأربع مرات وأصغر بثلاث مرات مقارنة باستخدام الحلول مفتوحة المصدر.
نحن نشهد موجة من الأدوات التي تمكن المطورين من إنشاء تطبيقات ذكاء اصطناعي محددة للمستخدمين النهائيين، وبعض من ذلك يظهر بالفعل في أجهزة الكمبيوتر الشخصية Copilot+، لكن من المتوقع سنرى المزيد من تطبيقات الذكاء الاصطناعي في هذه المرحلة من العام المقبل، و لدينا الأجهزة اللازمة لتشغيل هذه التطبيقات، بعد كل شيء الآن نحن بحاجة فقط إلى البرنامج.