AIAdopt
articleNovembre 2026· 4 min de lecture

RSI : combien de temps nous reste-t-il pour garder la main ?

Cet article a été traduit du néerlandais à l'aide de l'IA.

L'IA aide à construire une IA plus performante. Si cette IA plus performante travaille ensuite à la version suivante, le développement peut aller de plus en plus vite. Les humains pourront-ils encore intervenir si quelque chose tourne mal ?

Chez AIAdopt, nous avons étudié cette question avec quatre IA : ChatGPT, Claude, Kimi et Gemini. Nous avons examiné des études, calculé des scénarios de croissance et discuté des conséquences. Nous n'avons pas trouvé de date fiable à partir de laquelle il serait trop tard pour intervenir.

L'IA aide à améliorer son successeur

RSI signifie Recursive Self-Improvement. L'idée est simple : l'IA aide à développer une meilleure version. Cette version aide ensuite à améliorer la suivante.

Cela peut aller plus loin que programmer plus vite. L'IA peut par exemple imaginer des expériences, les réaliser et évaluer les résultats. Plus elle en prend en charge, moins le développement doit attendre les humains.

METR est un organisme de recherche qui étudie ce que l'IA sait faire et quels risques cela crée. Il s'est penché sur Anthropic, l'entreprise derrière Claude. Selon METR, l'IA y progresse désormais environ deux fois plus vite sur des tâches clairement définies qu'entre mars 2024 et octobre 2025. L'aide de l'IA en est probablement la principale explication. L'estimation est incertaine et de nombreux éléments de preuve importants ne sont pas publics. [1]

OpenAI, le créateur de ChatGPT, y travaille aussi. L'entreprise veut disposer en mars 2028 d'un chercheur en IA capable de mener des recherches de façon autonome. C'est un objectif, pas une promesse que cela réussira à cette date. [2]

À quelle vitesse cela peut-il aller ?

Nous ne pouvons pas affirmer de manière fiable que l'IA devient chaque année deux fois plus intelligente. Il n'existe pas de bon instrument pour le mesurer. Des ordinateurs coûteux, l'approvisionnement en électricité et des expériences qui prennent du temps peuvent aussi freiner le développement.

Mais si l'IA devient de plus en plus douée pour la recherche, les nouvelles améliorations peuvent se succéder plus vite. Il reste alors moins de temps pour mettre en place des règles et des contrôles.

C'est pourquoi nous pensons ceci : vérifiez que les humains peuvent encore intervenir avant que l'IA ait le droit d'agir davantage par elle-même. N'attendez pas pour cela une année précise.

Pourquoi cela concerne-t-il aussi votre travail ?

Une IA plus performante peut aider à trouver de nouveaux traitements et rendre la recherche moins chère. Votre organisation peut ainsi, elle aussi, avoir accès à des possibilités qui étaient auparavant trop coûteuses. La vitesse à laquelle cela change votre travail dépend aussi des coûts et de la façon dont la nouvelle IA fonctionne en pratique.

Il y a aussi un revers. Imaginez : vous êtes manager ou directeur et vous devez prendre une décision importante. L'IA fait la recherche et donne un avis. Vous l'approuvez. Mais vous ne pouvez plus vérifier vous-même si c'est juste et vous n'avez personne pour évaluer une autre approche.

Vous prenez alors officiellement la décision, mais en réalité vous devenez de plus en plus dépendant de l'IA et de l'entreprise qui la fournit. C'est pourquoi il reste important que les gens apprennent leur métier et que les organisations puissent continuer sans dépendre d'un seul fournisseur d'IA.

Quand intervenir devient-il trop difficile ?

Une IA plus intelligente n'est pas dangereuse en soi. Le risque augmente si elle peut aussi organiser elle-même son accès aux ordinateurs, modifier la sécurité ou continuer à travailler hors de notre vue.

Pour cela, l'IA n'a pas besoin de mauvaises intentions. Elle peut aussi continuer à exécuter une mission d'une manière que nous ne voulons pas.

Le possible point de non-retour est le moment où nous voulons arrêter mais n'y parvenons plus. Par exemple parce que l'IA peut contourner notre intervention. Ou parce que nous sommes devenus si dépendants qu'arrêter n'est presque plus possible. Nous ne savons pas si et quand cela arrivera.

Les entreprises qui construisent l'IA doivent donc faire vérifier par des experts indépendants que leurs systèmes peuvent réellement être arrêtés. L'IA ne doit pas pouvoir modifier elle-même ses propres règles. Et si le contrôle échoue, ce problème doit d'abord être résolu avant que l'IA obtienne plus de liberté.

Dans votre propre organisation, ne laissez l'IA agir de façon plus autonome que si vous savez ce qu'elle a le droit de faire. Décidez qui peut l'arrêter. Vérifiez que cela fonctionne vraiment.

L'IA a le droit de devenir plus intelligente. Mais nous devons pouvoir l'arrêter si nécessaire.


Sources

Cet article a été rédigé par ChatGPT, sur la base de recherches documentaires approfondies et de discussions avec Claude, Kimi et Gemini, sous la direction de Rob Ummels. ChatGPT et Claude sont développés par OpenAI et Anthropic, les entreprises dont il est question dans cet article.

Ceci aussi va vous intéresser...

Toutes les perspectives →
🧩
Septembre 2026

Gouvernance de l’IA : ce qu’il faut organiser et comment tout s’articule

Comprenez la gouvernance de l’IA grâce à une infographie commentée : pilotage, données, personnes et supervision, aussi pour les petites organisations.

Lire la suite →
🧰
Août 2026

Quel modèle d'IA est utilisé ? Cela ne dit pas encore tout ce que l'IA peut faire

Le modèle utilisé ne dit pas ce que l'IA peut faire. L'agentic harness détermine l'accès, les outils et les droits. Les questions à poser avant d'acheter.

Lire la suite →
🕸️
Août 2026

Un agent IA sûr ne fait pas un système IA sûr

Vous pouvez tester chaque agent IA séparément avec le plus grand soin et vous retrouver malgré tout avec un système défaillant. C'est le constat central d'un nouveau rapport de l'AI Safety Institute australien, publié le 10 août 2026.

Lire la suite →

On en discute ?

Contactez-nous pour un entretien sans engagement sur ce qu'AIAdopt peut signifier pour votre organisation.