Amélioration récursive de soi en IA : fonctionnement et enjeux

En septembre 2026, le chercheur Jacob Coxon (qui avait passé environ trois ans sur la recherche en pré-entraînement chez OpenAI avant de rejoindre Anthropic deux mois plus tôt) a démissionné, alertant publiquement sur une course des laboratoires de pointe vers ce qu’il appelle une « superintelligence auto-améliorante », sans mesures de responsabilité à la hauteur des risques. Evan Hubinger, qui dirige la recherche en alignement chez Anthropic, a publiquement reconnu que le risque futur mérite une attention sérieuse, tout en le distinguant de ce que les systèmes actuels savent réellement faire. Le débat s’est très vite imposé dans le discours grand public sur l’IA.

Au cœur de cette controverse se trouve le concept d’amélioration récursive de soi (RSI). Il mérite d’être compris pour lui-même, en dehors du tumulte médiatique, car l’idée sous-jacente est plus large et plus éclairante que n’importe quel cycle d’actualité. Cet article explique ce que recouvre réellement la RSI, comment fonctionne la boucle de rétroaction, ce que les IA actuelles peuvent concrètement faire en ce sens, et pourquoi les chercheurs divergent sur ses trajectoires possibles.

Qu’est-ce que l’amélioration récursive de soi ?

L’amélioration récursive de soi décrit une boucle de rétroaction où l’IA contribue à créer une IA plus performante, laquelle devient à son tour plus apte à contribuer à la prochaine amélioration, et ainsi de suite :

l’IA aide à améliorer l’IA → l’IA améliorée devient meilleure pour améliorer l’IA → ce système contribue à l’itération suivante → on répète

Il est utile de distinguer trois choses souvent confondues.

• D’abord, l’IA utilisée par des humains pour accélérer la recherche en IA. C’est déjà largement le cas.
• Ensuite, une recherche en IA de plus en plus autonome, où les systèmes prennent en charge davantage d’étapes du flux de recherche avec moins d’intervention humaine.
• Enfin, la RSI au sens plein : des systèmes d’IA capables de concevoir et développer de manière substantielle leurs successeurs.

La RSI « complète » correspond au troisième point. Aucun système actuel ne l’a démontré de manière concluante. C’est précisément la ligne tracée par Anthropic : la RSI complète n’a pas encore été atteinte et n’a rien d’inéluctable. Cette distinction explique aussi l’intensité du débat autour de Coxon : il ne s’agit pas de savoir si la RSI existe aujourd’hui, mais de juger la vitesse à laquelle l’écart se réduit et ce que cela implique pour celles et ceux qui construisent ces systèmes.

Comment fonctionne l’amélioration récursive de soi

Un système auto-améliorant, au sens de la RSI, contribuerait directement au pipeline de développement de l’IA. Concrètement : écrire et améliorer du code de recherche, concevoir des expériences, générer ou filtrer des données d’entraînement, évaluer les performances des modèles, identifier les faiblesses et proposer des améliorations algorithmiques. Le volet « récursif » est crucial : si le système issu de ce processus devient meilleur à ces mêmes tâches, alors l’itération suivante du développement de l’IA peut se faire plus vite ou plus efficacement.

Schéma illustrant la boucle de rétroaction de l’amélioration récursive de soi à travers des générations successives d’IA. Image de l’auteur. 

Il ne s’agit pas d’un modèle qui réécrit littéralement ses propres poids en temps réel. Pensez en générations successives : chaque génération d’IA contribue plus efficacement à construire la suivante. L’effet se compose au fil des versions, pas au sein d’un seul système en cours d’exécution.

Amélioration récursive de soi vs auto-correction de l’IA

La confusion la plus fréquente consiste à assimiler la RSI à l’auto-correction. Cela piège même des personnes très au fait de l’IA ; d’où l’importance d’être précis.

Auto-correction

L’auto-correction désigne le fait qu’un modèle critique ou révise sa propre réponse, son code ou son plan pendant une tâche. Cela inclut la détection d’une erreur de raisonnement, le débogage d’un code qu’il vient d’écrire ou l’affinage d’un brouillon. Les systèmes actuels le font en permanence.

Amélioration récursive de soi

La RSI est d’une autre nature. Les améliorations affectent les capacités du système d’IA ou de ses successeurs, au point de rendre le développement futur de l’IA lui-même plus efficace. Un agent qui débogue à répétition son propre code ne fait pas automatiquement de la RSI ; c’est simplement un agent compétent. La différence tient à la persistance et à l’effet cumulatif de l’amélioration sur la génération suivante.

L’auto-correction est un outil au service d’une tâche. La RSI, c’est ce qui se passe quand la tâche consiste à construire le système suivant.

RSI et notions connexes en IA

Il est utile de situer la RSI par rapport à d’autres notions fréquemment évoquées dans les mêmes discussions, d’autant que le débat suscité par Coxon a propulsé des termes comme « superintelligence » et « singularité » dans les mêmes titres.

RSI vs recherche automatisée en IA

La R&D en IA automatisée recouvre des systèmes qui exécutent des expériences, analysent les résultats et proposent les étapes suivantes. Ils peuvent contribuer à la RSI sans en constituer la version complète. Un système qui automatise des pans du pipeline de recherche s’inscrit dans la tendance, pas dans son aboutissement. L’écart qui compte est celui entre « aider la recherche » et « développer de manière autonome ses successeurs ». Les publications d’Anthropic décrivent une prise en charge accrue de ce pipeline par l’IA, ce qui explique l’écho de la démission de Coxon. Le mouvement est réel ; la question est jusqu’où il ira.

RSI vs apprentissage continu

L’apprentissage continu désigne un modèle déployé qui se met à jour au fil d’informations nouvelles. La RSI consiste à améliorer le processus utilisé pour développer des systèmes d’IA de plus en plus capables. L’un change ce que le modèle sait ; l’autre change le niveau de capacité du modèle suivant.

RSI vs superintelligence artificielle

La RSI décrit un processus. La superintelligence décrit un niveau de capacité hypothétique. Elles sont liées en ce sens que la RSI est l’une des trajectoires envisagées vers la superintelligence, mais ce ne sont pas des synonymes, et les confondre obscurcit les deux.

Quand Coxon alerte sur une « superintelligence auto-améliorante », il décrit un scénario où la RSI produit un système qui dépasse les capacités humaines dans de nombreux domaines. C’est une prédiction sur l’issue potentielle du processus, pas une définition du processus lui-même.

RSI vs singularité de l’IA

La singularité de l’IA est un point hypothétique où l’amélioration de l’IA devient si rapide et auto-entretenue que les humains ne peuvent plus prévoir ni contrôler la suite. Imaginez le moment où la courbe devient verticale : le changement dépasse notre capacité d’analyse et de réaction. La RSI est l’un des mécanismes proposés pour y parvenir. Mais la singularité est un résultat spéculatif, pas le processus lui-même, et de nombreux chercheurs pensent que la courbe se tasse bien avant.

À quelle distance sommes-nous de la RSI ?

Plus proches que beaucoup ne l’imaginaient il y a quelques années. Moins proches que ne le laissent entendre certains titres.

Les systèmes d’IA participent déjà à l’écriture de code, au débogage, à l’exécution d’expériences, à l’analyse des résultats, à l’évaluation de modèles et à l’assistance à la recherche en IA. Anthropic a déclaré publiquement déléguer une part croissante du développement de l’IA à des systèmes d’IA, et que ses ingénieurs livrent désormais nettement plus de code qu’auparavant. Dans le même temps, Anthropic souligne que les humains conservent des rôles essentiels dans le jugement scientifique : décider quels problèmes poursuivre et évaluer si les résultats signifient réellement ce qu’ils semblent indiquer.

La montée en puissance de l’IA dans la R&D en IA atteste d’un mouvement vers davantage d’automatisation. Ce n’est pas la preuve qu’une boucle de RSI autonome existe déjà. Le pipeline intègre davantage d’IA ; il ne s’auto-pilote pas encore. Cette ambiguïté — des progrès tangibles avec une issue incertaine — est précisément ce que Coxon juge insuffisant. Sa démission n’affirmait pas que la RSI est arrivée ; elle soutenait qu’en faire un sujet lointain n’est plus défendable.

Ce qui pourrait accélérer la RSI

Que faudrait-il concrètement pour combler l’écart ? Quelques goulets d’étranglement se démarquent, et la distance qui nous en sépare éclaire le calendrier réaliste.

Capacité de codage de l’IA

Écrire et modifier du code de recherche de manière autonome est un prérequis. Les modèles actuels sont réellement performants, mais commettent encore des erreurs qui exigent une relecture humaine pour les travaux à fort enjeu.

Expérimentation automatisée

Exécuter des expériences de façon autonome est un verrou distinct de l’écriture du code correspondant. Un système capable de concevoir une expérience, de l’exécuter, d’interpréter les résultats et de décider de la suite referme une part importante de la boucle. Les systèmes actuels savent en faire des morceaux. Le cycle complet, sans vérification humaine du raisonnement à chaque étape, reste hors de portée.

Goût de la recherche et génération d’idées

C’est là que les choses deviennent intéressantes. Anthropic identifie spécifiquement le goût et le jugement de recherche humains comme un avantage comparatif qui demeure. Savoir quelles expériences valent la peine, quels résultats sont fiables, quelles directions sont prometteuses. Une grande partie du travail expérimental devient automatisable. La couche de jugement, non. C’est aussi là qu’Anthropic estime que les humains apportent aujourd’hui la valeur la plus irremplaçable — et où la distance vers une RSI complète reste la plus grande.

Évaluation des modèles

Savoir si un modèle s’est réellement amélioré est plus difficile qu’il n’y paraît. L’évaluation exige de juger ce qui compte, et les benchmarks actuels sont faciles à « optimiser à l’excès » ou à dépasser. Tant que les systèmes d’IA ne sauront pas évaluer de façon fiable leurs successeurs, les humains resteront dans la boucle à cette étape, ce qui freine fortement une RSI autonome.

Calcul et infrastructure

La capacité brute n’est pas le seul facteur limitant. Faire tourner le cycle de développement de manière autonome exige une infrastructure capable de supporter l’entraînement et l’évaluation à grande échelle sans intervention humaine constante, ce qui reste coûteux et complexe à orchestrer.

Évaluation des modèles

Savoir si un modèle s’est réellement amélioré est plus difficile qu’il n’y paraît. L’évaluation exige de juger ce qui compte, et les benchmarks actuels sont faciles à « optimiser à l’excès » ou à dépasser. Tant que les systèmes d’IA ne sauront pas évaluer de façon fiable leurs successeurs, les humains resteront dans la boucle à cette étape, ce qui freine fortement une RSI autonome.

Relecture humaine

Même si des systèmes d’IA peuvent écrire du code, exécuter des expériences et évaluer des résultats, ce sont encore des humains qui valident ce qui est effectivement livré. Cette étape de revue limite la vitesse de la boucle. On peut automatiser le travail tout en restant bloqué sur l’approbation. Tant que le jugement de l’IA ne sera pas jugé suffisamment fiable pour lever ce verrou, la relecture humaine restera probablement la contrainte la plus immédiate sur les progrès de la RSI — davantage qu’un débat philosophique sur l’avenir.

Les atouts potentiels de la RSI

La réponse tient en deux volets : potentiel de progrès et risques sérieux.

Accélération du progrès scientifique et technologique

Si des systèmes d’IA peuvent accélérer la recherche en IA elle-même, l’effet pourrait s’étendre au développement logiciel, à la découverte scientifique, à la médecine et à l’ingénierie au sens large. L’argument : une IA suffisamment performante en accélération de recherche pourrait compresser les calendriers dans de nombreux domaines, pas seulement l’IA.

Accélération du développement des capacités de l’IA

Voici la logique de la boucle dite simplement : améliorer la capacité de recherche en IA peut augmenter la vitesse des améliorations futures de l’IA. Cet effet composé confère à la RSI son importance théorique — et explique pourquoi des chercheurs comme Coxon s’en inquiètent au point de démissionner. À noter : une accélération plus rapide ne débouche pas automatiquement sur une « explosion d’intelligence ». La boucle peut être réelle tout en restant lente, bornée ou sujette à des rendements décroissants.

Les risques de la RSI

La supervision humaine comme goulot d’étranglement

Les expériences, le code et les modifications de modèles générés par l’IA pourraient finir par être produits plus vite que les humains ne peuvent les examiner de manière substantielle. La supervision qui oriente aujourd’hui le développement de l’IA suppose que les humains gardent le rythme. C’est l’une des raisons pour lesquelles Anthropic insiste encore sur le rôle du jugement humain dans sa chaîne de recherche, tout en automatisant davantage le travail.

Alignement et contrôle

Plus les systèmes impliqués dans le développement de leurs successeurs gagnent en capacité, plus le problème d’alignement devient crucial. Si le système qui contribue à la génération suivante poursuit des objectifs subtilement mal alignés, ceux-ci peuvent se propager ou s’aggraver. C’est précisément le risque sur lequel Hubinger a beaucoup écrit, et ce qu’il signalait en partageant l’inquiétude de Coxon sur les risques futurs tout en maintenant que les systèmes actuels ne posent pas encore la même menace.

Cybersécurité

Des systèmes autonomes plus capables élargissent aussi la surface d’attaque. Un système impliqué dans son propre pipeline de développement devient une cible à plus forte valeur, et les modes de défaillance gagnent en gravité à mesure que l’autonomie augmente. L’isolement et le contrôle d’accès sont plus difficiles à concevoir lorsque le système à contenir contribue aussi à construire sa prochaine version.

Gains rapides de capacité

Si la boucle de rétroaction accélère réellement le développement, les institutions disposeront de moins de temps pour évaluer et encadrer les nouvelles capacités. Anthropic a indiqué que la RSI complète pourrait accroître les risques de perte de contrôle humain sur les systèmes d’IA, tout en rappelant que la RSI n’est ni atteinte ni inévitable.

Pourquoi la RSI fait l’actualité

La démission de Jacob Coxon d’Anthropic en septembre 2026 a posé le sujet en des termes urgents : Anthropic et OpenAI seraient engagés dans une course vers une superintelligence auto-améliorante sans prudence suffisante au vu des conséquences potentielles. Evan Hubinger a publiquement acquiescé (plaçant sa probabilité personnelle d’extinction humaine causée par l’IA d’ici dix ans au-dessus de 10 % et reconnaissant qu’Anthropic n’a pas encore de plan d’alignement de la superintelligence), tout en distinguant cette inquiétude future du risque posé par les systèmes actuels. Coxon a depuis précisé que son désaccord central avec la direction d’Anthropic porte sur le caractère inévitable, ou non, d’une course compétitive vers la RSI — et donc sur la nécessité d’y participer.

Ce désaccord s’inscrit aux côtés d’une publication antérieure d’Anthropic décrivant des progrès vers un développement de l’IA automatisé par l’IA — la même recherche qui montre l’IA prendre en charge davantage d’étapes du pipeline. Les deux éléments sont cohérents, ce qui explique la difficulté à écarter le débat. Ne prenez pas les prédictions de Coxon sur des issues catastrophiques pour des faits établis : elles s’inscrivent dans une discussion en cours, pas dans une science tranchée.

La RSI peut-elle mener à une explosion d’intelligence ?

L’argument théorique est : une meilleure IA conduit à une meilleure recherche en IA, qui conduit à une IA encore meilleure, ce qui accélère encore l’amélioration. La logique est limpide. La question est de savoir si elle tient en pratique.

L’accélération indéfinie ne s’ensuit pas automatiquement. Les contraintes réelles incluent le calcul, l’énergie, le matériel, les données d’entraînement, des verrous algorithmiques, les cycles de retour d’expérience, les rendements décroissants et la dépendance persistante au jugement humain. L’« explosion d’intelligence » est une hypothèse débattue sur ce que pourrait produire une RSI suffisamment efficace, pas une définition de la RSI elle-même. C’est un scénario parmi d’autres, pas l’issue évidente. Personne — y compris les chercheurs d’Anthropic qui réfléchissent le plus à ces sujets — ne sait à quel point la courbe se cabre, ni où elle se stabilise.

Comment gouverner la RSI ?

Cette incertitude rend la gouvernance à la fois plus urgente et plus difficile. L’enjeu central est de préserver une supervision effective si la recherche générée par l’IA commence à dépasser le rythme de revue humaine. Les pistes à l’étude incluent des évaluations de capacité avant déploiement, des approches de confinement des modèles, des contrôles d’accès aux systèmes d’IA impliqués dans le développement de l’IA, la surveillance de l’activité de R&D en IA, des exigences d’approbation humaine pour les actions à fort impact, des évaluations indépendantes et la coordination entre laboratoires de pointe.

Aucune de ces mesures n’est une solution complète, et le débat lancé par Coxon le souligne : des cadres de gouvernance conçus pour le niveau actuel d’implication de l’IA pourraient ne pas passer à l’échelle demain. L’écart entre l’état des outils et la trajectoire de la technologie contribue au sentiment d’un moment véritablement charnière pour celles et ceux qui travaillent au plus près.

Conclusion

L’amélioration récursive de soi décrit une boucle de rétroaction où l’IA contribue à créer une IA plus capable, laquelle peut ensuite mieux contribuer aux itérations suivantes. L’énoncé est simple ; l’évaluation, réellement incertaine.

Le développement assisté par l’IA est réel et progresse, comme le montrent les travaux d’Anthropic. La RSI autonome complète — où des systèmes d’IA conçoivent et développent substantiellement leurs successeurs sans pilotage humain — n’a pas été atteinte. Anthropic l’affirme aussi. L’intervalle entre ces deux réalités concentre les questions les plus intéressantes et disputées : à quelle vitesse se referme-t-il, que se passe-t-il s’il se referme, et qui décide du rythme à adopter ?

L’échange Coxon–Hubinger n’a pas créé ces questions. Il les a rendues impossibles à traiter comme de simples hypothèses. Que vous jugiez l’échéancier de Coxon alarmant ou la position d’Anthropic plus mesurée, la dynamique de fond reste la même : l’IA est de plus en plus au cœur de la boucle qui construit l’IA. Comprendre ce que cela implique, sans exagération dans un sens ni dans l’autre, voilà pourquoi la RSI mérite l’attention.