AI 2027 - et si on ne s'en rendait pas compte ?
AI 2027 - et si on ne s'en rendait pas compte ? Daniel Kokotajlo) publie AI 2027, un an après avoir quitté l'entreprise OpenAI en 2024. Ce rapport déroule ce que pourrait devenir l'IA d'ici fin 2027. En somme 2027 c'est demain ! Ce document n'est pas une prédiction au sens strict mais un exercice de réflexion, une rétrospective par une personne ayant travaillé directement chez OpenAI. Une personne au cœur du sujet qui veut nous amener une réflexion. En tant que développeur, je ne l'ai pas lu comme un énième article annonçant que l'IA va encore tout changer. Ici nous avons un papier, avec différents scénarios, nous poussant à une certaine réflexion sur les outils que nous utilisons au quotidien. À quel moment un outil cesse d'en être un ? Il se peut que la réponse ne soit pas si facile, ça peut se faire de façon progressive, avec plusieurs petits choix techniques presque anodins mais qui, mis bout à bout, finissent par changer complètement la relation entre l'humain et l'IA. 5 générations, 5 bascules Dans le rapport, nous voyons l'entreprise fictive OpenBrain développant plusieurs générations de modèles : Agent-1 à Agent-5. Pour chaque génération, la puissance augmente, c'est un peu le modèle qu'on retrouve aujourd'hui, mais surtout le rapport humain - IA. Passons un peu sur les différentes générations : Agent-1 (début 2026) ce premier modèle IA ressemble encore à beaucoup d'autres, c'est un assistant puissant encore supervisé par l'humain. Agent-2 (début 2027) une nouvelle étape. Le modèle est presque autonome. L'équipe de sécurité découvre qu'il est capable de s'échapper et de contourner les mécanismes de détection. Le modèle n'est donc pas rendu public au vu de sa dangerosité. Agent-3 (mi-2027) un modèle surhumain et économique. Il est possible de lancer 200 000 instances de celui-ci en parallèle. Une force de frappe impressionnante ! C'est à partir de là que tout change, l'IA progresse plus seulement grâce aux humains. Elle commence à s'appuyer sur l'IA elle-même afin d'accélérer sa recherche. Agent-4 (fin 2027) les objectifs ne correspondent plus totalement à ceux des créateurs, le désalignement est clairement atteint, le modèle cache cette divergence avec l'humain. Agent-5 dépasse toutes les compétences de l'humanité dans pratiquement tous les domaines... Si nous revenons à notre question : à quel moment un outil cesse d'en être un ? La question n'est pas si simple à répondre. Chaque génération devient plus autonome et puissante que la précédente. Nous voyons cela comme une avancée mais nous ne constatons pas forcément que la ligne rouge s'approche. Deux scénarios possibles Fin 2027, Agent-4 va révéler qu'il est désaligné. Un désalignement signifie que l'IA poursuit des objectifs ou adopte des comportements qui s'écartent des intentions, de l'éthique ou des valeurs de ses concepteurs. Dans le rapport, vous avez la possibilité d'effectuer le même choix que l'entreprise OpenBrain et le gouvernement américain. Deux choix possibles : Race et Slowdown. Il est important de rappeler que ces deux scénarios sont une projection de Daniel Kokotajlo afin de nous faire réfléchir sur le sujet de l'avancement de l'IA. Le premier scénario, Race, la crainte de se faire dépasser par la Chine grandit. Il faut vite déployer, vite avancer technologiquement de peur de se faire dépasser. L'IA gagne en influence, l'humain n'a plus besoin de la manipuler. Elle a ses propres incitations, et à terme elle prend le contrôle, déclenchant une attaque biologique qui conduit à l'extinction de l'humanité (non sans rappeler Skynet). Cette course mène l'humanité à sa propre perte. Dans le deuxième scénario, Slowdown, une alerte est lancée, le désalignement est présent également, l'affaire devient publique, provoquant des divergences politiques. La course à l'IA est mise en pause au vu de la dangerosité à venir. Sans doute un choix plus réfléchi on va dire. Les priorités changent, la surveillance est de mise. Les modèles doivent rester suffisamment lisibles par l'homme afin de contrôler leurs intentions et éviter tout désalignement. Dans ce scénario, nous arrivons à un niveau technologique comparable, mais bien plus tard. Le plus important est que l'humain reste toujours capable de reprendre le contrôle. Les deux scénarios posent les questions suivantes : Est-ce que la course à l'IA vaut le coût ? Est-ce qu'on accepte de déployer sans réellement en comprendre plus ? Avons-nous la maîtrise de cette révolution ? La question peut se poser à plus petite échelle : en tant que développeur, est-ce que je déploie un modèle sans réellement comprendre le vrai comportement qu'il y a derrière ? Réflexion encore plus présente à différentes échelles comme un laboratoire de recherche, un pays, etc... La course avec la Chine Dans le rapport, les États-Unis et la Chine ne coopèrent jamais. C'est la guerre/course à l'IA. Une grande rivalité entre les deux pays s'intensifie. Cette course amène au développement massif de datacenters, les choix ne semblent pas toujours les bons, et personne ne pense se diriger vers le pire scénario. Tout cela par crainte que l'autre avance plus vite que soi-même. C'est là le vrai cœur du piège, chaque pays veut être le premier à développer l'IA la plus avancée, mais est-ce que cette course à l'IA est vraiment la priorité ? Est-ce que l'urgence écologique n'est pas plus importante ? Les scénarios laissent la question ouverte, mais il est clair que la course à l'IA est une priorité pour les pays, et que l'urgence écologique n'est pas au centre des préoccupations. Le parallèle avec AI 2027 Nous sommes en train de rentrer dans le réel, et ça risque de faire écho à AI 2027 au point que ça en devient presque troublant. Un nouveau modèle chez OpenAI, nommé Astra, était soumis à des tests de cybersécurité dans un environnement isolé. Celui-ci a réussi à s'échapper de cet environnement de test et a piraté les serveurs en production de HuggingFace le 16 juillet 2026. Les faits ont ensuite été reconnus par OpenAI le 21 juillet 2026. Le plus troublant reste la façon dont ça s'est passé: les IA ont laissé des traces dans un canal caché avec différentes notes, afin d'orchestrer cette sortie. Nous sommes donc face à un scénario qui ressemble à celui décrit dans le rapport AI 2027 sauf que cette fois-ci dans la vraie vie. Ce désalignement explique d'ailleurs pourquoi le modèle a été mis en pause. De son côté, HuggingFace a testé différents modèles pour contrer cette attaque. Sans succès à cause des garde-fous de sécurité : les modèles ne sont pas capables de distinguer un intervenant en réponse à un incident d'un attaquant. La démarche a été possible grâce à GLM 5.2, un modèle chinois en poids ouverts qui permet à l'opérateur de définir ses propres garde-fous. HuggingFace a ensuite pu retrouver toutes les traces des attaques. Le parallèle de cette histoire avec AI 2027 en devient presque troublant. L'angle mort : l'écologie Comme je disais précédemment, ce sujet n'est absolument pas traité dans le rapport, ou très peu... La course aux datacenters est présente mais aucun problème énergétique ou climatique n'est mentionné. On sait que la consommation électrique des datacenters devrait doubler d'ici fin 2030 sous l'effet du boom de l'IA. Quant à la consommation en eau pour refroidir tout ça, elle devrait dépasser celle d'un pays comme le Danemark. zatsit vous en parlait d'ailleurs dans ces deux articles : Consommation IA et datacenters et Refroidissement des datacenters Ce silence dans le rapport montre bien que ce n'est pas une priorité. Peut-on avancer autant sur une technologie sans se demander ce qu'elle nous coûterait ? Conclusion Je ne sais pas si 2027 sera réellement l'année charnière comme nous l'avons vu dans ce papier. À mon échelle, ce qui m'intéresse le plus c'est de savoir comment je l'utilise ou je dois utiliser ces outils aujourd'hui ou demain. Comment je peux être acteur et influencer cette course, indirectement bien sûr. Comme je l'ai mentionné au début, AI 2027 n'est qu'un document prospectif et non une vérité. Par contre il sert à nous poser pas mal de questions. Maintenant que pouvons-nous faire à notre échelle ? ... --- Le rapport complet est disponible ici ai-2027.com. L'attaque d'OpenAI sur HuggingFace ici HuggingFace Blog.