Ia : le saut de puits exponentiel – le futur est déjà en construction
Mustafa Suleyman, l’architecte de l’IA chez Google et désormais chez Microsoft, ne mâche pas ses mots : on assiste à une véritable révolution, bien au-delà de simples améliorations. Il l’appelle un « saut de puits exponentiel ».
Un virage brutal, loin des lois de moore
Il le constate avec une lucidité déconcertante : l'évolution de l'intelligence artificielle n'obéit pas aux règles de l'évolution biologique. Les progrès ne sont plus linéaires ; ils explosent. En 2010, le calcul nécessaire pour les modèles les plus performants était d'environ 1014 FLOPS. Aujourd'hui, cela dépasse les 1026 FLOPS. Une augmentation vertigineuse, une véritable explosion, comme le souligne avec force Suleyman.
Pour illustrer cette accélération, il utilise une image frappante : imaginez une salle remplie de personnes calculant avec des calculatrices. Autrefois, le problème résidait dans le fait que beaucoup de ces calculatrices restaient inactives, attendant patiemment les données. Aujourd'hui, la clé n’est plus d’ajouter plus de calculatrices, mais de garantir que toutes fonctionnent simultanément, comme une seule et immense intelligence collective.
Trois révolutions convergentes
Cette transformation est le fruit de trois avancées majeures, qui se conjuguent à l'instant précis :
- La découverte d'une vulnérabilité de sécurité de Linux datant de plus de 23 ans par Claude Code, l'IA de Anthropic.
- L'essor de la mémoire HBM (High Bandwidth Memory), qui empile les puces comme des immeubles, triplant la bande passante de la génération précédente.
- Le développement de technologies comme NVLink et InfiniBand, qui connectent des centaines de milliers de GPU dans des superordinateurs gigantesques, de la taille de navires industriels.
Eric Schmidt, l'ancien PDG de Google, alerte déjà sur le fait que nous sommes encore loin de comprendre l'ampleur de cette transformation.
Des chiffres qui déconcertent
Les conséquences sont saisissantes. En 2020, un projet nécessitait 167 minutes et huit GPU. Aujourd'hui, le même calcul est réalisé en moins de quatre minutes grâce à l'équipement actuel, une amélioration de 50 fois, dépassant largement les 5 fois prévues par la loi de Moore.
Les prévisions sont encore plus spectaculaires : les laboratoires investissent près de 4x leur capacité de calcul chaque année. Entre 2020 et aujourd'hui, le calcul a augmenté de 5x. En 2027, le calcul global de l'IA pourrait atteindre 100 millions de puces H100, soit une progression de 10 fois en trois ans.
Microsoft, nvidia et la quête de la superintelligence
Dans cette course effrénée, Microsoft et Nvidia sont au cœur de l'action. Suleyman insiste sur le fait que nous ne sommes plus dans l'ère des prototypes, mais de véritables infrastructures massives : des clusters de 100 000 GPU, des racks de la taille d'une réfrigérateuratour consommant 120 kilowatts, et des centres de données alimentés par l'énergie de l'ensemble du Royaume-Uni, de la France, de l'Allemagne et de l'Italie. “Ces 100 milliards de dollars en clusters d'IA, ces 10 gigawatts de consommation, ces superordinateurs de navires… ce ne sont plus de la science-fiction. Ils sont en construction aux États-Unis et dans le monde entier”, affirme-t-il avec une assurance presque provocatrice.
L'objectif ultime ? La superintelligence. Et, selon Suleyman,