En route vers l'AGI : Demis Hassabis sur l'avenir de DeepMind, de la découverte scientifique et de l'humanité

Mots-clés : Intelligence Artificielle Générale (AGI), DeepMind, L'IA dans la santé, Régulation de l'IA, Chômage technologique

📋 Aperçu

• Type : Podcast / Interview
• Sujet principal : Une exploration exhaustive du calendrier menant à l'Intelligence Artificielle Générale (AGI), de la trajectoire technique de DeepMind, de la transformation radicale de la santé mondiale, de l'atténuation des risques liés à l'IA et des bouleversements socio-économiques attendus au cours de la prochaine décennie.
• Intervenants : Hôte anonyme (Intervieweur) et Sir Demis Hassabis (PDG et Co-fondateur de Google DeepMind).

🎯 Objectif principal & Contexte

Cette conversation constitue un échange intellectuel de très haut niveau visant à démystifier l'état actuel de la recherche sur l'IA de pointe (frontier AI). L'objectif est de dépasser le cycle de hype actuel autour des chatbots pour sonder en profondeur la mécanique structurelle de l'AGI, les questions existentielles liées au travail humain, la nécessité d'une coordination réglementaire mondiale et la manière dont le deep learning passe de l'analyse du langage à la simulation du monde physique (découverte scientifique, conception de médicaments et énergie de fusion).

---

🎙️ Citations notables & Points clés

• Pépites : « Je quantifie parfois l'arrivée de l'AGI comme représentant 10 fois la révolution industrielle à une vitesse 10 fois supérieure. Elle se déploie donc sur une décennie au lieu d'un siècle. »
• Pépites : « Le cerveau est la seule preuve d'existence dont nous disposons, et peut-être la seule dans l'univers connu, que l'intelligence générale est possible. »
• Histoires / Anecdotes : Hassabis raconte sa première rencontre avec Elon Musk au début des années 2010 lors d'un événement du portefeuille de Founders Fund. Se découvrant des affinités autour d'une vision commune, extrêmement ambitieuse et qualifiée de « trop science-fiction », Hassabis a activement manœuvré pour obtenir une invitation à visiter l'usine de fusées SpaceX — ce qu'il a réussi à décrocher pour leur deuxième rencontre.
• Histoires / Anecdotes : En 2010, lors de la création de DeepMind — à une époque où l'IA était considérée comme une « voie sans issue » — le co-fondateur Shane Legg écrivait des articles de blog extrapolant les progrès de la puissance de calcul (compute) et des algorithmes. Ils prédisaient un délai de 20 ans pour atteindre l'AGI. Aujourd'hui, Hassabis confirme qu'ils sont parfaitement dans les temps pour cet objectif visé vers 2030.
• Avis tranchés : « Je pense sincèrement qu'aujourd'hui même... l'IA subit une hype un peu excessive... mais d'un autre côté, et c'est intéressant, je trouve qu'on sous-estime encore grandement à quel point cela va être révolutionnaire d'ici une dizaine d'années. »
• Avis tranchés : La vision de Marc Andreessen, selon laquelle l'IA ne causera pas de destruction massive d'emplois, est contestée par Hassabis. Ce dernier estime que si les révolutions historiques ont certes créé de meilleurs emplois, la nature hyper-accélérée de l'AGI imminente exige une atténuation proactive et intense de ses effets pervers.

---

🧭 Analyse stratégique & "Game Changers"

Analyse approfondie et implications de haut niveau :

Figure 1 : Le problème de « l'intelligence en dents de scie » selon Hassabis — les LLM actuels oscillent entre génie et incompétence, tandis que la véritable AGI nécessite un apprentissage continu et consolidé, semblable à la mémoire humaine.

• Connexions cachées (Le paradoxe énergétique) : L'IA possède un appétit d'ogre pour la puissance de calcul et l'énergie, ce qui fait l'objet de vives critiques à l'échelle mondiale. Cependant, Hassabis relie naturellement le problème (la pauvreté énergétique) à la solution (l'IA elle-même). Il prédit que l'IA va définitivement « s'autofinancer » d'un point de vue énergétique en découvrant simultanément des optimisations de la grille électrique (offrant 30 à 40 % d'économies immédiates) et en catalysant les percées en science des matériaux nécessaires pour rendre viable la fusion nucléaire commerciale (via des partenaires comme Commonwealth Fusion) et les supraconducteurs avancés.
• Et alors ? (Pourquoi la science surpasse les LLM) : Le grand public perçoit principalement l'IA comme un générateur de contenu (texte/image). Hassabis révèle que DeepMind considère avant tout l'IA comme un simulateur scientifique. La création d'Isomorphic Labs, née d'AlphaFold, représente un pivot fondamental : on passe de la « génération de contenu numérique » à « l'ingénierie de la réalité biologique et chimique ». La véritable création de valeur de mille milliards de dollars pour l'IA ne se fera pas dans la rédaction de textes, mais dans la maîtrise du génome humain et de la biologie moléculaire.
• Changement de paradigme : Le passage de « l'intelligence en dents de scie » à « l'apprentissage continu ». Hassabis diagnostique une faille fatale dans les LLM actuels : ils possèdent une « intelligence en dents de scie » (jagged intelligence), c'est-à-dire qu'ils peuvent produire des résultats dignes d'un génie suivis d'erreurs élémentaires selon la façon dont le prompt est rédigé. Pour atteindre l'AGI, l'industrie doit aller au-delà du simple élargissement des « fenêtres de contexte » (qu'il décrit comme une approche par la force brute). Le véritable tournant consistera à créer des architectures capables d'une consolidation de la mémoire semblable à celle des humains — soit la capacité d'apprendre continuellement et d'intégrer de nouvelles informations après le processus d'entraînement initial, à la manière dont le cerveau humain utilise le sommeil pour encoder la mémoire à long terme.

Figure 2 : La feuille de route d'Isomorphic Labs pour disrupter l'industrie pharmaceutique en quatre étapes — de la conception de composés par l'IA jusqu'au contournement des goulots d'étranglement des essais cliniques classiques grâce à une génomique validée par la simulation.

---

📊 Analyse détaillée

[00:00:00] - Définition de l'AGI & la réalité du calendrier

• Hassabis définit l'AGI de manière rigide : un système d'IA démontrant toutes les capacités cognitives de l'esprit humain. Le cerveau humain sert de référence et de seule « preuve d'existence » d'une intelligence générale.
• Prévision du calendrier : Il estime qu'il y a de très fortes chances que l'AGI émerge dans les 5 prochaines années (d'ici ~2029).
• Il confirme que les extrapolations modélisant les progrès algorithmiques et de puissance de calcul réalisées par DeepMind en 2010 avaient prédit avec justesse une période de développement d'environ 20 ans jusqu'à l'AGI.

[00:03:49] - Goulots d'étranglement, puissance de calcul et lois d'échelle (Scaling Laws)

• La puissance de calcul (compute) reste la contrainte principale. Elle est nécessaire à la fois pour mettre à l'échelle des modèles toujours plus imposants et pour servir de « banc d'essai » expérimental où les chercheurs peuvent tester de nouvelles idées algorithmiques à l'échelle requise.
• Il réfute catégoriquement l'idée que « les scaling laws sont mortes ». Toutefois, l'ère du doublement exponentiel à chaque génération a naturellement ralenti ; les rendements restent substantiels, mais nécessitent désormais une ingénierie plus fine pour en extraire de toute la valeur.

[00:06:03] - Dépassement des attentes face aux déficits structurels de l'IA

• L'industrie est largement en avance sur les attentes dans des domaines tels que la génération multimodale (modèles vidéo) et les modèles du monde interactifs (ex. : Genie de Google DeepMind).
• Capacités critiques manquantes : L'apprentissage continu (continual learning), des systèmes de mémoire diversifiés (au-delà des fenêtres de contexte étirées par la force brute) et la planification hiérarchique à long terme sont les principaux obstacles empêchant les modèles d'agir comme de véritables « agents ».

[00:08:21] - La suprématie de DeepMind et l'architecture "post-LLM"

• Hassabis affirme avec confiance qu'environ 90 % des percées fondatrices de l'industrie moderne de l'IA (AlphaGo, l'apprentissage par renforcement, les Transformers) proviennent des équipes de Google et DeepMind.
• Il conteste la position de Yann LeCun selon laquelle les LLM représentent une impasse. Hassabis soutient au contraire que les LLM constituent la fondation de base sur laquelle seront construits les modèles du monde, les mécanismes de planification et les nouveaux moteurs de mémoire.
• Concernant l'open source : DeepMind soutient pleinement la science appliquée open source (Gemma, AlphaFold), mais note que les modèles de fondation (foundation models) open source resteront probablement toujours en retard d'environ 6 mois par rapport aux laboratoires de pointe.

[00:13:07] - La révolution de la santé : AlphaFold & Isomorphic Labs

• Hassabis considère l'AGI comme la clé ultime de l'épanouissement humain, particulièrement orientée vers la découverte scientifique.
• Isomorphic Labs a été créée pour traiter les étapes non biologiques de la découverte de médicaments (chimie, toxicité, conception de composés).
• Le plan directeur pour l'industrie pharmaceutique :
  1. Résoudre le problème de la conception des médicaments dans les 5 à 10 ans.
  2. Pousser les médicaments conçus par l'IA jusqu'aux essais sur l'homme.
  3. Générer suffisamment de données en back-testing pour prouver aux régulateurs que les simulations par IA sont plus sûres et plus précises que les tests sur les animaux.
  4. S'affranchir des étapes réglementaires archaïques pour déployer des traitements personnalisés basés sur la génomique à une vitesse fulgurante.

[00:16:22] - Sécurité de l'IA & normes réglementaires mondiales

• Il convient sans hésitation que l'IA est une technologie à double usage comportant un immense risque existentiel. Les risques se divisent en deux catégories : (1) L'utilisation malveillante par des acteurs humains, (2) L'échec d'alignement autonome à mesure que les modèles adoptent des comportements agentiques (agentic).
• Il exige une réglementation internationale, tout en reconnaissant la fragmentation géopolitique moderne.
• Recommandations tactiques spécifiques pour la régulation :
  • La création d'un organisme international indépendant, semblable à l'Agence internationale de l'énergie atomique (AIEA).
  • La mise en place de « Kite Marks » (certifications de sécurité) pour les modèles de pointe avant leur déploiement commercial.
  • La création de benchmarks stricts testant spécifiquement les capacités de tromperie (capacités déceptives).
  • L'interdiction des modèles dont la sortie est constituée de tokens internes ou d'un langage machine fondamentalement illisible par les chercheurs humains en sécurité.

[00:23:00] - Chômage technologique, Richesse & Énergie

• Hassabis réfute ouvertement les investisseurs en capital-risque de la Silicon Valley (comme Marc Andreessen) qui balayent les préoccupations liées aux bouleversements massifs du marché du travail. Il qualifie la transition à venir de « 10 fois la Révolution industrielle à 10 fois la vitesse ».
• Il suggère de nouveaux filets de sécurité économique : les fonds de pension et les fonds souverains nationaux doivent acquérir de manière proactive des participations dans les géants de l'IA pour garantir que l'explosion imminente de la productivité et des profits soit redistribuée au grand public.
• Il aborde les limites physiques en énergie nécessaires au compute de l'IA : il affirme que l'IA identifiera jusqu'à 40 % de gains d'efficacité dans les réseaux électriques nationaux actuels et débloquera de nouveaux paradigmes de production d'énergie (fusion nucléaire, technologie des batteries).

[00:26:06] - Londres face à la Silicon Valley & le déficit européen à "Mille Milliards de Dollars"

• Hassabis explique son choix de rester au Royaume-Uni : un accès aux meilleurs talents académiques mondiaux (Oxford/Cambridge) avec une concurrence moins écrasante que dans la Baie de San Francisco.
• Il évoque un « avantage structurel » à se trouver à 8 000 kilomètres de la Silicon Valley : l'immunité aux « modes, vibrations de l'instant et rumeurs ». Cet isolement permet à une entreprise de se concentrer sur des missions deep-tech à 20 ans, plutôt que de pivoter vers des tendances court-termistes.
• Il identifie la faille fatale de la scène technologique européenne : l'incapacité à financer la croissance aux stades avancés (Séries C/D/E). Les fonds de pension européens ne signent pas de chèques à un milliard de dollars, ce qui contraint les entreprises deep-tech à se vendre aux mastodontes américains ou à stagner avant d'atteindre des valorisations à mille milliards de dollars.

Figure 4 : L'arc économique de l'AGI sur une décennie — les marchés du travail se fracturent à l'approche du seuil de l'AGI en 2029, la restabilisation dépendant d'investissements proactifs de fonds souverains et de percées énergétiques pilotées par l'IA.

[00:30:00] - Perspectives finales : Héritage et Philosophie

• Son principal objectif de transmission (héritage) est l'éradication des maladies (lutte contre le cancer, la maladie d'Alzheimer, la sclérose en plaques).
• Il souligne un sujet gravement sous-évalué : La Crise Philosophique. Si nous résolvons les équations technologiques et économiques de l'AGI, l'humanité devra soudainement affronter des dilemmes philosophiques profonds : Quel est le but d'un être humain ? Qu'est-ce qui donne du sens à la vie ? Que se passera-t-il lorsqu'une machine atteindra la conscience ?

---

🔑 Points clés à retenir

1. L'horizon de 5 ans : L'AGI est fondamentalement attendue dans une fenêtre d'une demi-décennie (~2029). Ce calendrier s'aligne mathématiquement sur les projections initiales de DeepMind en 2010.
2. L'architecture de nouvelle génération prime sur le scaling : Injecter massivement de la puissance de calcul dans les Transformers offre désormais des rendements décroissants. La véritable course est à la création d'architectures de « sous-apprentissage continu », de planification à long terme et de consolidation de la mémoire.
3. La biologie est la "Killer App" : L'IA générative standard n'est qu'une mise en bouche ; l'événement principal de la transition vers l'AGI est la simulation de la réalité — plus spécifiquement en résolvant la chimie physique et en s'affranchissant des cycles de 10 ans d'essais cliniques en pharmacologie.
4. Le besoin d'une AIEA pour l'IA : La coordination mondiale sur la sécurité de l'IA n'est pas une option. La certification réglementaire (kite-marking) et l'interdiction des langages machines offusqués sont des exigences strictes pour empêcher l'émergence d'IA agentiques hors de contrôle.
5. Le bouleversement macro-économique : Les marchés du travail vont inévitablement se fracturer. La restabilisation repose sur la capture du capital des entreprises d'IA par les fonds souverains et les retraites, et sur la confiance accordée à l'IA pour résoudre ses propres limites en ressources (énergie de fusion, optimisation des réseaux électriques).

❓ Questions en suspens / Pistes de réflexion

• Par quel mécanisme exact les fonds souverains et de pension peuvent-ils être restructurés pour capter de manière impérative les gains de productivité de l'IA avant que le marché du travail ne s'effondre ?
• Si l'ordre géopolitique est profondément fragmenté (par exemple lors de frictions États-Unis / Chine), comment un équivalent de l'Agence internationale de l'énergie atomique pour l'IA pourrait-il être imposé mondialement sans provoquer d'escalade militaire ou économique ?
• Isomorphic Labs a l'intention de simuler la génomique humaine pour contourner les essais cliniques, mais comment obtiendront-ils précisément les vastes jeux de données biologiques éthiquement conformes nécessaires pour alimenter ces moteurs de simulation ?
• Quelles sont les métriques explicites que les chercheurs prévoient d'utiliser pour évaluer la « conscience » d'une machine qui parvient à imiter avec succès la cognition humaine ?