إنفيديا ومايكروسوفت يعملان على حل مشكلة كبيرة مع برنامج Copilot+.. اعرفها

عندما أعلنت شركة Microsoft عن أجهزة الكمبيوتر الشخصية Copilot+ قبل بضعة أسابيع، كان هناك سؤال واحد سائد: لماذا لا يمكنني تشغيل تطبيقات الذكاء الاصطناعي هذه على وحدة معالجة الرسومات الخاصة بي؟ في Computex 2024، قدمت Nvidia أخيرًا إجابة وفقًا لتقرير Digital Trend.

تعمل Nvidia وMicrosoft معًا على واجهة برمجة التطبيقات (API) التي ستسمح للمطورين بتشغيل تطبيقاتهم المتسارعة بالذكاء الاصطناعي على بطاقات رسومات RTX. يتضمن ذلك نماذج اللغات الصغيرة (SLMs) المتنوعة التي تعد جزءًا من وقت تشغيل Copilot، والتي يتم استخدامها كأساس لميزات مثل Recall وLive Captions. .

باستخدام مجموعة الأدوات، يمكن للمطورين السماح للتطبيقات بالعمل محليًا على وحدة معالجة الرسومات الخاصة بك بدلاً من وحدة NPU، وهذا يفتح الباب ليس فقط لتطبيقات الذكاء الاصطناعي الأكثر قوة، حيث إن قدرات الذكاء الاصطناعي لوحدات معالجة الرسومات أعلى بشكل عام من وحدات NPU، ولكن أيضًا القدرة للتشغيل على أجهزة الكمبيوتر التي لا تندرج حاليًا تحت مظلة Copilot+.

إنها أيضًا خطوة رائعة، حيث تتطلب أجهزة الكمبيوتر Copilot + حاليًا وحدة معالجة عصبية (NPU) قادرة على إجراء ما لا يقل عن 40 تيرا عملية في الثانية (TOPS)، وحاليًا، فقط Snapdragon X Elite هو الذي يلبي هذه المعايير.

ومع ذلك، تتمتع وحدات معالجة الرسومات بقدرات أعلى بكثير على معالجة الذكاء الاصطناعي، حتى في النماذج التي تصل إلى 100 TOPS، والخيارات الأعلى تزداد ارتفاعًا.

بالإضافة إلى التشغيل على وحدة معالجة الرسومات، تضيف واجهة برمجة التطبيقات الجديدة إمكانات إنشاء الاسترجاع المعزز (RAG) إلى وقت تشغيل Copilot. يمنح RAG نموذج الذكاء الاصطناعي إمكانية الوصول إلى معلومات محددة محليًا، مما يسمح له بتقديم حلول أكثر فائدة. لقد رأينا RAG على الشاشة الكاملة. مع دردشة Nvidia مع RTX في وقت سابق من هذا العام.

بعيدًا عن واجهة برمجة التطبيقات (API)، أعلنت Nvidia عن مجموعة أدوات RTX AI في معرض Computex. تجمع مجموعة المطورين هذه، والتي ستصل في يونيو، بين العديد من الأدوات ومجموعات تطوير البرامج (SDKs) التي تسمح للمطورين بضبط نماذج الذكاء الاصطناعي لتطبيقات محددة.

تقول Nvidia أنه باستخدام مجموعة أدوات RTX AI، يمكن للمطورين إنشاء نماذج أسرع بما يصل إلى أربع مرات وأصغر بثلاث مرات مقارنة باستخدام الحلول مفتوحة المصدر.

نحن نشهد موجة من الأدوات التي تمكن المطورين من إنشاء تطبيقات ذكاء اصطناعي محددة للمستخدمين النهائيين، وبعضها يظهر بالفعل في أجهزة الكمبيوتر الشخصية Copilot+، ولكننا سنرى المزيد من تطبيقات الذكاء الاصطناعي في هذه المرحلة من العام المقبل، وقد قمنا بذلك الأجهزة لتشغيل تلك. التطبيقات، بعد كل شيء، نحن الآن بحاجة فقط إلى البرمجيات.