ChatGPT : vous ne croirez jamais combien le chatbot coûte chaque jour à OpenAI
Plus de 100 millions d’internautes se sont laissé séduire par ChatGPT, le chatbot révolutionnaire d’OpenAI. C’est une belle victoire pour ses créateurs, mais elle a un sacré coût.
On ne présente plus ChatGPT, le chatbot qui a ouvert la voie à l’Intelligence artificielle grand public depuis novembre 2022. Le modèle de langage développé par Open AIR connaît un succès fulgurant avec une croissance exponentielle de sa base d’utilisateurs. Le fait qu’il soit librement accessible contribue beaucoup à sa popularité, mais pour la startup, il y a un gros prix à payer.
Le cabinet de consultants SemiAnalysis ont étudié de plus près le coût d’exploitation et d’entraînement des grands modèles de langage tels que GPT-4. Selon les analystes, Google peut vraiment craindre pour sa situation de leader de la recherche en ligne. Si les modèles de langage tels que ChatGPT étaient directement intégrés dans les moteurs de recherche, la firme de Mountain View pourrait dire au revoir à pas moins de 30 milliards $ de profits. Cela dit, pour prendre la place du leader, il faudrait mettre une infrastructure conséquente en place, et cela aurait un prix.
L'infrastructure de ChatGPT coûte 700 000 $ par jour à ses créateurs
De l’avis même des experts, estimer le coût d’exploitation de ChatGPT n’est pas chose aisée. MM Patel et Afzal avancent tout de même un chiffre de 694 444 $ par jour rien que pour l’infrastructure mise en place. En effet, pour faire tourner son modèle de langage, OpenAI utiliserait pas moins de 28 936 GPU Nvidia A100 dédiés à l’apprentissage automatique. Toujours selon les experts, chaque demande faite à ChatGPT coûterait à peu près 0,33 cent à la startup.
Microsoft inclut ChatGPT dans tous ses produits et services et profite à plein régime de la technologie d’OpenAI, mais ces coûts d’exploitation sont bien trop élevés pour être profitables en l’état. Il se murmure ainsi que la firme de Redmond est en train de concevoir sa propre puce dédiée à l’IA, nom de code Athena. Google, de son côté, se décide enfin à riposter avec son propre chatbot, Bard.
