"Dix fois plus rapide": comment Groq veut faire plier Nvidia sur le secteur de l'IA générative

Face au géant Nvidia, la start-up Groq compte sur ses propres puces, bien plus rapides, pour propulser l'intelligence artificielle générative vers le futur.

Groq peut-il défaire Nvidia? Lancée en 2019, la start-up Groq cherche aujourd'hui à grappiller des parts de marché au géant Nvidia sur le secteur de l'intelligence artificielle grâce à ses propres puces, qui utilisent une base LPU, afin de générer des éléments depuis des modèles de langage déjà existants bien plus rapidement que son concurrent.

Groq se pose en partenaire de Nvidia

Concrètement, une seule puce Groq peut réaliser 1.000.000.000.000.000 (un quadrillion) d'opérations par seconde, soit 400 mots par seconde, contre 100 au maximum sur les puces de Nvidia. Une prouesse qui pourrait bien permettre à Groq de se tailler la part du lion. Son patron, Jonathan Ross, était l'invité exceptionnel de Tech&Co la quotidienne, diffusée du lundi au jeudi sur BFM Business. Face à François Sorel, il a ainsi vanté la rapidité de son offre:

"Nous sommes environ dix fois plus rapides pour faire tourner les modèles qu'on utilise, et c'est beaucoup moins coûteux, et ça utilise surtout beaucoup moins de puissance," explique Jonathan Ross, "on ne se rend pas compte à quel point ça va être coûteux d'utiliser ces modèles."

Si Groq est souvent décrite comme "un poil à gratter" pour Nvidia, Jonathan Ross ne veut pas se voir comme un concurrent: "Plus on permettra de faire fonctionner les modèles plus il y aura de la demande."

De plus, il met en avant le fait que si les puces de Nvidia sont faites pour l'entraînement, celles de Groq sont en revanche moins optimisées pour ce type d'activité. Elles sont optimales dans le cadre d'une utilisation d'un modèle de langage, une fois que celui-ci s'est entraîné.

Une solution qui semble convaincre les professionnels, provoquant une demande importante que Groq est en train de combler: "Nous vous demandons un peu de patience", explique-t-il.

Culture IA : IA, les artistes contre-attaquent - 08/04

5:05

Des infrastructures Groq en France?

L'espérance, avec Groq, c'est que les objets utilisant l'intelligence artificielle générative qui mettent parfois quelques secondes à répondre à la requête de son utilisateur soient encore plus rapides pour qu'il n'ait pas l'impression de converser avec une IA. Un objectif qui ne semble pas faire peur à Jonathan Ross, qui y voit aussi un moyen d'améliorer le milieu de la robotique, qui pourrait fonctionner avec des puces prédictives et plus efficientes: "Vous pourrez faire des choses qui n'étaient pas possibles auparavant."

Sur la question de l'IA face à l'emploi, le patron de Groq se dit également confiant: "Plutôt que d'en avoir peur, il faut rendre cela bénéfique." S'il confirme que des emplois seront bien remplacés sur le long terme, de nombreux autres seront créés justement pour réaliser des choses qui sont devenues "plus faciles ou abordables" grâce à ce que peut générer une intelligence artificielle.

Si l'avenir lointain intéresse Groq, celui plus proche est tout aussi notable puisque la start-up a également a confirmé sa volonté d'ouvrir des bureaux en Europe, et pourquoi pas en France: "Nous avons besoin d'un centre de calcul en Europe, et il y a quelques emplacements candidats, mais la France est l'un de nos préférés."

Pour justifier cette possible arrivée dans l'Hexagone, Jonathan Ross met en avant le développement de l'IA, porté par Emmanuel Macron, mais aussi grâce à l'énergie verte, où la France est l'un des bons élèves européens. Il n'a toutefois pas donné de date à laquelle Groq prendra une décision sur une arrivée au sein du continent européen.

Sylvain Trinel