Equinix veut accélérer l'inférence
Pour accélérer l'inférence, Equinix annonce Equinix Inference Exchange qui intègre les architectures de référence Nvidia et les outils d'inférence de Together AI. Le tout est déployé sur les infrastructures Equinix.
« Equinix Inference Exchange transforme la première plateforme mondiale d’interconnexion numérique en un maillage mondial dédié à l’inférence IA », déclare Raj Mirpuri, vice president of global AI clouds and infrastructure ecosystem chez NVIDIA. « À mesure que le calcul accéléré devient une classe d’actifs stratégique, l’association de l’infrastructure et des technologies de NVIDIA, de la plateforme d’inférence de Together AI fondée sur des modèles ouverts et de la présence mondiale d’Equinix offre aux entreprises un puissant socle distribué pour rapprocher l’intelligence de leurs données, de leurs applications et de leurs clients, et accélérer ainsi l’émergence de la prochaine génération de services intelligents. »
« Les performances, les coûts et la gouvernance sont devenus des considérations stratégiques à mesure que les charges de travail d’IA se répartissent entre un nombre croissant de fournisseurs, de sources de données et d’environnements », déclare Nick Patience, Vice President & Practice Lead, AI Platforms chez The Futurum Group.« Les organisations accordent une attention croissante au lieu d’exécution de l’inférence et à la rapidité avec laquelle elle peut être mise en production. Les solutions qui simplifient le déploiement de l’inférence tout en préservant la flexibilité joueront un rôle de plus en plus important dans l’obtention de résultats métier. »
Pour répondre à ce défi, Equinix s’appuie sur une envergure et une densité d’écosystème inégalées : plus de 280 data centers répartis dans 77 métropoles, 230 points d’accès au cloud et plus de 10 500 entreprises interconnectées au sein de sa plateforme d’échange neutre. Huit des dix principaux fournisseurs de modèles d’IA et neuf des dix principaux clouds d’IA sont déployés chez Equinix, ce qui confirme la position centrale de l’entreprise au sein de l’écosystème de l’IA.
Une solution conçue pour offrir choix et flexibilité
Together AI est le dernier acteur en date à rejoindre le vaste écosystème d’IA d’Equinix. L’entreprise apporte aux organisations qui déploient l’IA à grande échelle davantage de flexibilité et de choix en matière de modèles ouverts. La solution associe trois couches complémentaires conçues pour simplifier l’inférence IA distribuée :
- Equinix fournit le socle d’infrastructure, notamment l’alimentation électrique, des systèmes avancés de refroidissement et l’exploitation courante. Grâce à Equinix Fabric, ce socle est connecté aux clouds, aux réseaux et aux fournisseurs d’IA dont dépend l’inférence.
- NVIDIA structure le déploiement grâce à ses architectures de référence d’entreprise et à son infrastructure d’IA spécialement conçue pour maximiser le débit de traitement des usines d’IA et réduire au minimum le coût par token.
- Together AI opère sa plateforme sur cette infrastructure. Celle-ci prend en charge aussi bien les déploiements mutualisés, pour gagner en efficacité grâce au partage des ressources, que les environnements réservés à un seul client pour les charges de travail nécessitant des capacités dédiées.
