Explosion computationnelle : l'ia défähbre les limites de la physique
Mustafa Suleyman, l'architecte de l'IA chez Microsoft, ne mâche pas ses mots : nous sommes au seuil d’une rupture technologique d’une ampleur sans précédent. L’évolution, jusqu’alors régie par les lois de Moore, n’est plus une constante. L’intelligence artificielle se déchaîne désormais à une vitesse exponentielle, défiant toute prédiction.
Le calcul, une montée enflammée
Suleyman, témoin privilégié de cette métamorphose depuis 2010, décrit un accroissement du pouvoir de calcul absolument vertigineux. On parle ici de plus de 1026 FLOPS pour les modèles les plus avancés, une augmentation de près de 100 milliards de fois par rapport aux premiers systèmes. Ce n’est pas une simple progression, c’est une singularité.
Il évoque une image saisissante : un amphithéâtre bondé de personnes, chacune maniant une calculatrice. Jusqu’à récemment, l’amélioration du traitement de l’IA se résumait à multiplier le nombre de ces calculatrices et à espérer que les données arrivent à temps. Aujourd’hui, la révolution réside dans la capacité à maintenir toutes ces calculatrices en état de fonctionnement continu, créant une « esprit géant » capable de traiter l’information en temps réel.
Trois piliers de la révolution
Cette transformation fulgurante repose sur trois piliers fondamentaux. D’abord, les puces Nvidia ont conquis des sommets de performance, passant de 312 teraflops en 2020 à 2 250 teraflops aujourd’hui. Ensuite, la mémoire HBM (High Bandwidth Memory) triplique le débit de données, éliminant les goulets d’étranglement. Enfin, des technologies telles que NVLink et InfiniBand permettent de connecter des centaines de milliers de GPU, transformant ces processeurs en véritables superordinateurs, de la taille de navires industriels.
L’avertissement d’eric schmidt
Eric Schmidt, ancien PDG de Google, ne cache pas son inquiétude. Il estime que nous ne sommes qu’à 10 à 15% de la compréhension de l’impact réel de cette Technologie. Les laboratoires, déjà, multiplient leur puissance de calcul par près de 4 ans, avec une augmentation de 5 fois par an entre 2020 et aujourd’hui. L’objectif ultime ? La superintelligence.
Microsoft, Nvidia et la course à la superintelligence. Ces noms résonnent désormais comme les acteurs majeurs de cette course effrénée. Suleyman souligne que l’on ne parle plus de prototypes, mais d’infrastructures massives, des clusters de 100 000 GPU, des racks de la taille d’une réfrigérateuruse consommant 120 kilowatts, alimentant des centres de données qui rivalisent avec la consommation énergétique du Royaume-Uni, de la France et de l’Allemagne. Les 100 milliards de dollars investis dans ces infrastructures, les 10 gigawatts de puissance, les superordinateurs de taille industrielle. tout cela n’est plus de la science-fiction. C’est la réalité en construction.
La projection est saisissante : en 2027, le calcul de l’IA pourrait atteindre 100 millions de puces H100, soit une décennie de progression en trois ans. Face à cette évolution exponentielle, il est clair que nous sommes confrontés à une transformation radicale, dont les conséquences sont encore difficiles à appréhender.