« Communiqué de presse »
Intel dévoile des solutions d’IA de nouvelle génération avec le lancement de Xeon 6 et Gaudi 3
Intel ouvre la voie à une nouvelle ère de systèmes et de solutions d’IA d’entreprise hautes performances.
- Intel lance Xeon 6 avec des cœurs de performance (P-cores), doublant ainsi les performances des charges de travail d’IA et de HPC.
- Les nouveaux accélérateurs Gaudí 3 AI offrent un débit jusqu’à 20 % supérieur et un rapport prix/performances 2 fois supérieur à celui du H100 pour l’inférence de LLaMa 2 70B1.
SANTA CLARA, Californie, 24 septembre 2024 – Alors que l’IA continue de révolutionner les industries, les entreprises ont de plus en plus besoin d’une infrastructure à la fois rentable et disponible pour un développement et un déploiement rapides. Pour répondre de front à cette demande, Intel a lancé aujourd’hui Xeon 6 avec des cœurs de performance (P-cores) et des accélérateurs d’IA Gaudi 3, renforçant ainsi l’engagement de l’entreprise à fournir des systèmes d’IA puissants avec des performances optimales par watt et un coût total de possession (TCO) inférieur.
« La demande d’IA entraîne une transformation massive du centre de données, et l’industrie demande un choix en matière de matériel, de logiciels et d’outils de développement », a déclaré Justin Hotard, vice-président exécutif d’Intel et directeur général du groupe Data Center and Artificial Intelligence. « Avec le lancement de Xeon 6 avec des cœurs P et des accélérateurs d’IA Gaudí 3, Intel met en place un écosystème ouvert qui permet à nos clients de mettre en œuvre toutes leurs charges de travail avec des performances, une efficacité et une sécurité accrues. »
Présentation d’Intel Xeon 6 avec P-cores et accélérateurs Gaudi 3 AI
Les dernières avancées d’Intel en matière d’infrastructure d’IA comprennent deux mises à jour majeures de son portefeuille de centres de données :
- Intel® Xeon® 6 avec P-cores : Conçu pour gérer les charges de travail gourmandes en calcul avec une efficacité exceptionnelle, le Xeon 6 offre deux fois plus de performances que son prédécesseur2. Il dispose d’un nombre accru de cœurs, d’un double de bande passante mémoire et de capacités d’accélération de l’IA intégrées dans chaque cœur. Ce processeur est conçu pour répondre aux exigences de performance de l’IA, de la périphérie au centre de données et aux environnements cloud.
- Intel® Gaudí® 3 Accélérateur d’IA : Spécialement optimisé pour l’IA générative à grande échelle, Gaudí 3 dispose de 64 cœurs de processeur Tensor (TPC) et de huit moteurs de multiplication matricielle (MME) pour accélérer les calculs de réseaux neuronaux profonds. Il comprend 128 gigaoctets (Go) de mémoire HBM2e pour l’entraînement et l’inférence, et 24 ports Ethernet 200 Gigabit (Gb) pour une mise en réseau évolutive. Gaudí 3 offre également une compatibilité transparente avec le cadre PyTorch et les modèles avancés de transformateur et de diffuseur Hugging Face. Intel a récemment annoncé une collaboration avec IBM pour déployer les accélérateurs d’IA Intel Gaudi 3 en tant que service sur IBM Cloud. Grâce à cette collaboration, Intel et IBM visent à réduire le coût total de possession afin d’exploiter et de faire évoluer l’IA, tout en améliorant les performances.
Améliorer les systèmes d’IA grâce aux avantages du coût total de possession
Le déploiement de l’IA à grande échelle implique des considérations telles que des options de déploiement flexibles, des rapports qualité-prix compétitifs et des technologies d’IA accessibles. L’infrastructure x86 robuste et l’écosystème ouvert étendu d’Intel lui permettent d’aider les entreprises à créer des systèmes d’IA à forte valeur ajoutée avec un coût total de possession et des performances par watt optimaux. Notamment, 73 % des serveurs accélérés par GPU utilisent Intel Xeon comme processeur hôte3.
Intel s’associe à des OEM de premier plan, notamment Dell Technologies et Supermicro, pour développer des systèmes conçus conjointement et adaptés aux besoins spécifiques des clients afin de déployer efficacement l’IA. Dell Technologies co-conçoit actuellement des solutions basées sur RAG en exploitant Gaudi 3 et Xeon 6.
Combler le fossé entre les prototypes et la production grâce aux efforts de co-ingénierie
La transition des solutions d’IA générative (Gen AI) des prototypes aux systèmes prêts pour la production présente des défis en matière de surveillance en temps réel, de gestion des erreurs, de journalisation, de sécurité et d’évolutivité. Intel relève ces défis en co-concevant ses efforts avec les OEM et ses partenaires pour fournir des solutions de génération augmentée (RAG) prêtes pour la production.
Ces solutions, basées sur la plate-forme OPEA, intègrent des microservices basés sur OPEA dans un système RAG évolutif, optimisé pour les systèmes d’IA Xeon et Gaudí, conçu pour permettre aux clients d’intégrer facilement des applications de Kubernetes, Red Hat OpenShift AI et Red Hat Enterprise Linux AI.
Élargir l’accès aux applications d’IA d’entreprise
Le portefeuille Tiber d’Intel offre des solutions d’entreprise pour relever des défis tels que l’accès, le coût, la complexité, la sécurité, l’efficacité et l’évolutivité de l’IA, du cloud et de l’informatique. environnements périphériques. Intel® Tiber™ Developer Cloud fournit désormais des systèmes de prévisualisation d’Intel Xeon 6 pour l’évaluation et les tests techniques. De plus, certains clients bénéficieront d’un accès anticipé à Intel Gaudi 3 pour valider les déploiements de modèles d’IA, et les clusters Gaudi 3 commenceront à être déployés le trimestre prochain pour des déploiements de production à grande échelle.
Les nouvelles offres de services incluent SeekrFlow, une plateforme d’IA de bout en bout de Seekr pour le développement d’applications d’IA fiables. Les dernières mises à jour incluent la dernière version du logiciel Intel Gaudí et les ordinateurs portables Jupyter chargés de PyTorch 2.4 et d’Intel oneAPI et des outils d’IA 2024.2, qui incluent de nouvelles capacités d’accélération de l’IA et la prise en charge des processeurs Xeon 6.
« Fin du communiqué de presse »
