20 milliard de dollars pour un incroyable partenariat

Nvidia, le titan incontesté des unités de traitement graphique (GPU), a récemment déboursé près de 20 milliards de dollars pour acquérir des actifs clés de la start-up Groq. Ce montage hybride, qui comprend une licence sur la technologie d’inférence de Groq, illustre la volonté du géant de renforcer sa position sur le marché déjà serré de l’inférence IA. Mais ce n’est pas qu’une simple acquisition : c’est un véritable coup de maître pour éviter les foudres des régulateurs de la concurrence.

Groq : l’alternative à Nvidia dans l’inférence IA

Jonathan Ross, un des concepteurs du premier TPU de Google, fonde Groq en 2016, et sa société se positionne alors comme une sérieuse rivale des GPU Nvidia. Ses GroqChips, conçus pour l’inférence IA, visent une latence réduite et une optimisation des coûts par requête. Plus simples que les GPU, ils sont pourtant hautement spécialisés pour des calculs massivement tensoriels, faisant de Groq une alternative prometteuse dans le domaine des unités de traitement du langage (LPU).

Une plateforme complète à portée de main

Groq met à la disposition de ses clients une plateforme cohérente comprenant des cartes PCIe Gen4, des serveurs GroqNode et le SDK Groqware. Ce dernier permet de porter des modèles comme PyTorch ou ONNX sur son architecture. L’objectif ? Offrir un moteur d’inférence déterministe pouvant délivrer des réponses textuelles en temps réel. De quoi attirer l’intérêt de potentiels clients dans des secteurs tels que les télécommunications et le cloud.

Groqcloud : une offre cloud innovante

Pour faciliter l’adoption de ses LPU, Groq a lancé GroqCloud, une offre cloud permettant aux développeurs d’accéder aux accélérateurs sur demande. Grâce à l’acquisition de Definitive Intelligence en 2024, spécialiste de l’analyse IA, GroqCloud se positionne alors comme un acteur majeur dans l’intégration de l’IA à travers des cas d’usage analytiques.

Un montage stratégique 

Nvidia a opté pour un montage complexe, alternatif à l’acquisition classique. En associant un accord de licence technologique non exclusif à l’acquisition d’actifs, Nvidia s’approprie ainsi l’essentiel de la technologie Groq tout en évitant de lourds contrôles antitrust. Les talents de Groq, dont Jonathan Ross, CEO et fondateur, et Sunny Madra, son président, rejoignent entre autres les rangs de Nvidia pour initier l’intégration de cette technologie d’inférence.

Un coup de pouce stratégique pour Nvidia

La fusion des processeurs Groq dans l’architecture AI Factory de Nvidia représente une opportunité d’étendre les capacités de prise en charge des charges d’inférence. Alors que les GPU continuent d’être utilisés pour des tâches plus polyvalentes, les LPU Groq se spécialisent dans des tâches spécifiques comme les services conversationnels à très faible latence. Ainsi, Nvidia renforce son écosystème face aux besoins croissants des hyperscalers et grands comptes.

Des questions de concurrence en suspens

Cette manœuvre tactique de Nvidia soulève des questions cruciales sur la concurrence dans un marché déjà largement dominé par ses GPU. En éliminant un rival prometteur comme Groq, Nvidia risque tout de même d’attirer les foudres des régulateurs. Ainsi, bien que les clients puissent s’attendre à des gains de performance, cette concentration sur le marché pourrait restreindre la diversité des offres.

Une nouvelle ère dans l’inférence IA

En somme, ce partenariat entre Nvidia et Groq s’annonce prometteur, mais il soulève des enjeux importants en matière de concurrence et d’innovation. Alors que Nvidia s’efforce de consolider son emprise sur le marché, il ne fait nul doute que l’émergence d’autres acteurs dans le domaine des puces IA sera scrutée de près dans les mois et années à venir.