أعلنت Nvidia اليوم في مؤتمر GTC عن إطلاق منصة NIM، وهي منصة برمجيات جديدة تهدف إلى تبسيط عملية نشر نماذج الذكاء الاصطناعي المخصصة والمُدرَّبة مسبقًا في بيئات الإنتاج. تقوم NIM بجمع العمل البرمجي الذي أنجزته Nvidia في مجال الاستنتاج وتحسين النماذج، وتجعله متاحًا بسهولة عن طريق دمج النموذج المحدد مع محرك استنتاج مُحَسَّن، ومن ثم تعبئته في حاوية، مما يجعله متاحًا كخدمة صغيرة.
وعادةً ما يتطلب من المطورين أسابيع — إذا لم يكن شهورًا — لنقل حاويات مماثلة، وهذا إذا كانت الشركة تمتلك أي مواهب في مجال الذكاء الاصطناعي داخلها. من خلال NIM، تسعى Nvidia بوضوح إلى إنشاء بيئة من الحاويات الجاهزة للذكاء الاصطناعي التي تستخدم تقنيتها كطبقة أساسية، مع تلك الخدمات الصغيرة المنسقة كطبقة برمجيات أساسية للشركات التي ترغب في تسريع مشروعها في مجال الذكاء الاصطناعي.
تتضمن NIM حاليًا دعمًا لنماذج من NVIDIA، A121، Adept، Cohere، Getty Images، وShutterstock، بالإضافة إلى نماذج مفتوحة المصدر من Google، Hugging Face، Meta، Microsoft، Mistral AI، وStability AI. كما تعمل Nvidia بالفعل مع Amazon وGoogle وMicrosoft لجعل هذه الخدمات المصغرة متاحة على SageMaker وKubernetes Engine وAzure AI على التوالي. وسيتم أيضًا دمجها في الأطر مثل Deepset وLangChain وLlamaIndex.
صرح Manuvir Das، رئيس الحوسبة المؤسسية في Nvidia، خلال مؤتمر صحفي قبل الإعلانات اليومية “نعتقد أن وحدة المعالجة الرسومية من Nvidia هي المكان الأفضل لتشغيل استنتاج هذه النماذج عليها، ونعتقد أن Nvidia NIM هي الحزمة البرمجية الأفضل وأفضل بيئة تشغيلية للمطورين للبناء عليها، بحيث يمكنهم التركيز على تطبيقات الشركات — والسماح لـ Nvidia بالقيام بالعمل لإنتاج هذه النماذج لهم بأكثر كفاءة وبشكل مؤسسي، بحيث يمكنهم متابعة بقية عملهم”.
أما بالنسبة لمحرك الاستنتاج، ستستخدم Nvidia ملقم استنتاج Triton، وTensorRT، وTensorRT-LLM. وسيشمل بعض الخدمات الصغيرة المتاحة من Nvidia عبر NIM Riva لتخصيص نماذج الكلام والترجمة، وcuOpt لتحسين التوجيه، ونموذج Earth-2 لمحاكاة الطقس والمناخ.
تخطط الشركة لإضافة مزيد من القدرات مع مرور الوقت، بما في ذلك، على سبيل المثال، جعل مشغل Nvidia RAG LLM متاحًا كـ NIM، مما يعد بتسهيل بناء روبوتات دردشة الذكاء الاصطناعي التوليدي التي يمكنها جلب البيانات المخصصة بشكل أسهل بكثير.
وبالطبع، لن يكون هذا المؤتمر للمطورين دون الإعلان عن بعض العملاء والشركاء. ومن بين المستخدمين الحاليين لـ NIM هي شركات مثل Box وCloudera وCohesity وDatastax وDropbox وNetApp.
“المنصات المؤسسة المعتمدة تقع على كنز من البيانات التي يمكن تحويلها إلى شركات ذكاء اصطناعي توليدي”، كما قال Jensen Huang، المؤسس والرئيس التنفيذي لـ NVIDIA. “تم إنشاء هذه الخدمات الصغيرة المعتمدة على الحاويات مع شركاءنا، وهي الأنماط الأساسية للشركات في كل صناعة لتصبح شركات ذكاء اصطناعي”.