Google a trouvé le moyen d’entraîner son IA 13 fois plus rapidement, on vous explique tout
Alors que l'impact environnemental des centres de données qui traitent l'intelligence artificielle suscite des préoccupations croissantes, DeepMind, le laboratoire de recherche en IA de Google, a dévoilé une nouvelle méthode d'entraînement appelée JEST. Cette dernière promet d'améliorer la vitesse et l'efficacité énergétique des ces modèles IA de manière impressionnante.
L'intelligence artificielle est de plus en plus intégrée. De l'intégration de ChatGPT dans les iPhone et de Gemini dans presque toutes les applications phares de Google telles que Gmail et Google Docs, cette avancée n'est pas sans conséquence.
Le rapport environnemental 2024 de Google publie récemment a révélé une augmentation alarmante des émissions de gaz à effet de serre, principalement due aux centres de données énergivores nécessaires pour alimenter ses modèles d'IA. La recherche de solutions plus durables et efficaces est donc une priorité pour les chercheurs et les entreprises technologiques.
L'IA de Google devient 10 fois plus efficace et 13 fois plus rapide avec la méthode JEST
Dans ce contexte, DeepMind, le laboratoire de recherche en IA de Google, a présenté JEST, une nouvelle méthode d'entraînement des modèles IA. Selon un rapport publié, cette méthode permettrait d'améliorer la vitesse d'entraînement et l'efficacité énergétique de manière spectaculaire.
La méthode JEST, “joint example selection” qui peut être traduite en français par “sélection conjointe d'exemples”, se distingue par son approche novatrice de l'entraînement des modèles d’IA. Contrairement aux techniques traditionnelles qui se concentrent sur des points de données individuels, celle-ci se base sur des lots entiers de données. Un petit modèle d'intelligence artificielle évalue d'abord la qualité des données provenant de sources très fiables et classe les lots par qualité. Ensuite, un modèle plus grand utilise ces évaluations pour s'entraîner de manière plus efficace.
Les résultats sont impressionnants : JEST permettrait de surpasser les modèles actuels avec jusqu'à 13 fois moins de cycles d’apprentissage et 10 fois moins de puissance de calcul. Cependant, cette méthode repose sur la qualité des données d'entraînement initiales qui nécessitent des compétences de recherche élevées pour constituer ces bases. Cette innovation arrive donc à un moment crucial où l'impact environnemental des centres de données d'IA suscite des préoccupations croissantes pendant que la demande en puissance de calcul pour cette technologie n'arrête pas d’augmenter.
Source : Google DeepMind
