Nutanix, en collaboration avec NVIDIA, Hugging Face et d’autres partenaires, lance une fondation Enterprise AI pour accélérer le time-to-value pour une utilisation sur site.
Lors de la conférence Next à Barcelone, Nutanix a fait une série d’annonces passionnantes. Leader de l’informatique hybride multi-cloud, Nutanix a dévoilé de nouvelles fonctionnalités pour Nutanix GPT-in-a-Box. Cela inclut des intégrations avec les microservices d’inférence NVIDIA NIM et la bibliothèque Hugging Face Large Language Models (LLMs). Elle a également annoncé le programme de partenariat Nutanix AI, visant à rassembler les solutions d’IA et les partenaires pour soutenir les clients dans l’exécution, la gestion et la sécurisation des applications d’IA générative (GenAI) sur Nutanix Cloud Platform et GPT-in-a-Box. Nutanix GPT-in-a-Box est une solution complète spécifiquement conçue pour simplifier l’adoption de l’IA, avec une intégration étroite avec Nutanix Objects et Nutanix Files pour le stockage des modèles et des données.
« Nous avons vu une réponse extraordinaire à l’introduction de Nutanix GPT-in-a-Box. Cela confirme les besoins des clients d’entreprise pour des solutions logicielles sur site qui simplifient le déploiement et la gestion des modèles d’IA et des points de terminaison d’inférence « , a déclaré Thomas Cornely, SVP Product Management chez Nutanix. « Nous sommes enthousiasmés par notre écosystème de partenaires en pleine croissance pour rendre l’exécution des applications GenAI sur place à l’échelle aussi facile que possible, tandis que les clients gardent le contrôle sur la confidentialité et les coûts. »
Nutanix GPT-in-a-Box 2.0
Nutanix présente GPT-in-a-Box 2.0, qui offre un support complet pour le calcul accéléré et le LLM de NVIDIA, associé à une gestion simplifiée des modèles de base et des intégrations avec les microservices NVIDIA NIMs et la bibliothèque LLM Hugging Face. GPT-in-a-Box 2.0 inclut une interface utilisateur unifiée pour la gestion des modèles fondamentaux, la création de points d’extrémité API, la gestion des clés d’accès de l’utilisateur final et les intégrations avec les fichiers et objets Nutanix et les GPU NVIDIA Tensor Core.
GPT-in-a-Box 2.0 offre une expérience utilisateur simple avec une interface graphique intégrée, un contrôle d’accès basé sur les rôles, une auditabilité, un support pour les sites sombres et d’autres avantages. Il fournit également une interface point-and-click pour implémenter et configurer NVIDIA NIM. NVIDIA NIM fait partie de la plate-forme logicielle NVIDIA AI Enterprise pour le développement et le déploiement de l’IA.
« Nous travaillons avec Nutanix pour réaliser nos ambitions en matière d’IA tout en permettant un avenir où la technologie est au service de l’humanité « , a déclaré Khalid Al Kaf, COO de Yahsat. « Nous façonnons activement cet avenir en utilisant Nutanix GPT-in-a-Box, qui nous offre des capacités de gestion simples et de bout en bout et la possibilité de garder le contrôle sur nos données. «
Partenariat avec Hugging Face pour un accès intégré à la bibliothèque LLM
Nutanix a également annoncé un partenariat avec Hugging Face pour accélérer le voyage de l’IA des clients grâce à un accès intégré à la bibliothèque Hugging Face et à l’exécution de LLM pour les clients Nutanix. Les clients communs peuvent déployer Nutanix GPT-in-a-Box 2.0 pour exécuter facilement et efficacement les LLMs validés de Hugging Face.
Dans ce partenariat, Nutanix et Hugging Face développent une intégration personnalisée avec Text Generation Inference, la bibliothèque open-source populaire de Hugging Face pour l’implémentation de Large Language Models. Les modèles de génération de texte sont également disponibles sur le Hugging Face Hub au sein de Nutanix GPT-in-a-Box 2.0. Il fournit un flux de travail pour la mise en œuvre de LLM d’IA validés de Hugging Face avec un support complet de Nutanix. Cela augmente considérablement le nombre de LLMs supportés et crée un workflow unifié, validé et supporté pour les bibliothèques et LLMs de Hugging Face, donnant aux clients un point de gestion unique pour l’inférence des modèles.
Programme de partenariat AI
Nutanix a annoncé son nouveau programme de partenariat AI, visant à soutenir les stratégies AI des clients. Ce programme permet aux clients d’accéder facilement à un écosystème complet de partenaires en IA pour les aider à construire, exécuter, gérer et sécuriser des applications d’IA générative (GenAI), à la fois tierces et propres, sur Nutanix Cloud Platform et Nutanix GPT-in-a-Box.
Le large écosystème de partenaires de Nutanix fournit un support pour divers cas d’utilisation, y compris les opérations, la sécurité, la détection des fraudes et le support client dans des secteurs tels que la santé, les services financiers, les services juridiques et professionnels. Parmi les premiers partenaires figurent Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI et UbiOps.
Les partenaires du programme bénéficient de plusieurs avantages, ce compris :
– Validation Nutanix AI Ready : Tous les partenaires reçoivent la validation Nutanix AI Ready pour prouver l’interopérabilité avec Nutanix Cloud Infrastructure, l’hyperviseur Nutanix AHV et la plateforme Nutanix Kubernetes.
– Solutions complètes : Les partenaires recevront des solutions individuelles soulignant les avantages des solutions Nutanix et partenaires. Les partenaires sélectionnés recevront également une note technique, un guide des meilleures pratiques ou une architecture de référence pour faciliter la mise en œuvre chez les clients communs.
– Support promotionnel et go-to-market : Les partenaires bénéficient d’un support dans les activités de go-to-market et de génération de demande autour de l’IA pour les entreprises. Ils ont accès à du matériel promotionnel et de mise sur le marché, tel que du contenu, des blogs, des webinaires, des podcasts et des événements, afin d’augmenter la prise de conscience et la demande pour les cas d’utilisation clés.
Nutanix GPT-in-a-Box 2.0 devrait être disponible au second semestre 2024. En attendant, la prise en charge de NVIDIA GPU Direct et de NX-9151 est en cours de travail. Les fonctionnalités supplémentaires annoncées dans NUS et Data Lens sont déjà disponibles pour les clients.
