La dépendance à la mémoire RAM a considérablement augmenté en raison de la demande de modèles de langage et d’intelligence artificielle, ce qui a entraîné des problèmes de disponibilité et une augmentation des prix sur le marché.
Cependant, Google a présenté une solution possible à cette crise : TurboQuant, une technologie de compression innovante qui réduit jusqu’à 80 % la mémoire RAM nécessaire pour que les IA fonctionnent efficacement, sans compromettre la vitesse ni la précision.
TurboQuant, de Google, réduit la consommation de RAM de 80 % pour les modèles d’IA
TurboQuant consiste en un algorithme qui modifie la façon dont les données sont stockées et traitées, en utilisant une technique en deux étapes. Tout d’abord, il simplifie les vecteurs d’activation, réduisant la complexité des instructions nécessaires à une IA.
La deuxième étape implique l’élimination des erreurs grâce à la technique QJL, ce qui permet à chaque adresse de vecteur de nécessiter significativement moins d’espace en mémoire. Cela se traduit par une consommation de RAM drastiquement inférieure, ouvrant de nouvelles possibilités pour le développement d’IA plus puissantes.
L’annonce de TurboQuant a déjà eu un impact sur le marché, comme en témoignent les baisses des actions d’entreprises telles que Micron et Western Digital, qui ont enregistré des chutes de 4 % et 6 %, respectivement. Bien que ces baisses ne soient pas alarmantes, elles indiquent que les investisseurs craignent un possible ralentissement de la demande de RAM de la part des grandes entreprises technologiques.
Cependant, il faut faire preuve de prudence. Selon la Paradoxe de Jevons, lorsqu’une technologie est plus efficace et consomme moins de ressources, son utilisation peut augmenter. Si TurboQuant répond aux attentes, les entreprises pourraient tirer parti de cette efficacité pour développer des IA plus avancées qui, de manière inattendue, pourraient finir par nécessiter encore plus de RAM.
Ainsi, bien que TurboQuant puisse offrir un soulagement temporaire aux utilisateurs cherchant à augmenter leur mémoire RAM, l’incertitude concernant l’évolution du marché et la disponibilité des composants persiste.