Rekursive Selbstverbesserung in der KI: So funktioniert sie und warum sie zählt

Im September 2026 trat der Forscher Jacob Coxon zurück (er hatte zuvor rund drei Jahre an Pretraining-Forschung bei OpenAI gearbeitet und war erst zwei Monate zuvor zu Anthropic gewechselt) und warnte öffentlich, führende Labore steuerten auf das zu, was er „sich selbst verbessernde Superintelligenz“ nannte, ohne ihrer Verantwortung angesichts der Risiken gerecht zu werden. Evan Hubinger, der bei Anthropic die Alignment-Forschung leitet, stimmte öffentlich zu, dass künftige Risiken ernst zu nehmen sind, unterschied aber klar zwischen diesen und den Fähigkeiten heutiger Systeme. Die Debatte landete schnell im Mainstream der KI-Diskussion.

Im Zentrum dieser Auseinandersetzung steht der Begriff rekursive Selbstverbesserung (RSI). Es lohnt sich, ihn unabhängig von der Kontroverse zu verstehen, denn die zugrunde liegende Idee ist breiter und klärender als jede einzelne Nachrichtenwelle. Dieser Artikel erklärt, was RSI tatsächlich bedeutet, wie die Feedback-Schleife funktioniert, wozu heutige KI real fähig ist und warum Forschende darüber uneinig sind, wohin das führt.

Was ist rekursive Selbstverbesserung?

Rekursive Selbstverbesserung beschreibt eine Feedback-Schleife, in der KI zur Entwicklung leistungsfähigerer KI beiträgt, diese leistungsfähigere KI wiederum besser darin wird, zur nächsten Verbesserung beizutragen, und so weiter:

KI hilft, KI zu verbessern → die verbesserte KI wird besser darin, KI zu verbessern → dieses System trägt zur nächsten Verbesserung bei → wiederholen

Es lohnt sich, drei oft vermischte Dinge zu trennen.

• Erstens: KI, die von Menschen genutzt wird, um KI-Forschung zu beschleunigen. Das passiert bereits breitflächig.
• Zweitens: zunehmend autonome KI-Forschung, bei der Systeme mit weniger menschlicher Anleitung größere Teile des Forschungsworkflows übernehmen.
• Drittens: vollwertige rekursive Selbstverbesserung, bei der KI-Systeme ihre Nachfolger in wesentlichen Teilen selbst entwerfen und entwickeln.

Vollständige RSI ist der dritte Punkt. Kein aktuelles KI-System hat das schlüssig erreicht. Genau diese Linie zieht auch Anthropic selbst: Vollwertige RSI ist bislang nicht erreicht und möglicherweise nicht unausweichlich. Diese Unterscheidung macht die Coxon-Debatte so brisant: Es geht nicht darum, ob RSI heute existiert, sondern wie schnell sich die Lücke schließt und was das von den Menschen verlangt, die diese Systeme bauen.

So funktioniert rekursive Selbstverbesserung

Ein sich im RSI-Sinn selbst verbesserndes System würde zur KI-Entwicklungspipeline selbst beitragen. Das heißt: Forschungs-Code schreiben und verbessern, Experimente entwerfen, Trainingsdaten generieren oder filtern, Modellleistung evaluieren, Schwächen identifizieren und algorithmische Verbesserungen vorschlagen. Der rekursive Teil ist entscheidend: Wenn das System, das durch diesen Prozess entsteht, bei genau diesen Aufgaben besser wird, kann die nächste Iteration der KI-Entwicklung schneller oder wirksamer stattfinden.

Diagramm, das die Feedback-Schleife der rekursiven Selbstverbesserung über aufeinanderfolgende KI-Generationen zeigt. Bild: Autor. 

Es geht nicht darum, dass ein Modell seine eigenen Gewichte in Echtzeit umschreibt. Denk in Generationen: Jede KI-Generation trägt wirksamer zum Bau der nächsten bei. Die Schleife verstärkt sich über Versionen hinweg, nicht innerhalb eines einzelnen laufenden Systems.

Rekursive Selbstverbesserung vs. KI-Selbstkorrektur

Das häufigste Missverständnis bei RSI ist die Verwechslung mit Selbstkorrektur. Das passiert selbst Menschen, die KI eng verfolgen, daher lohnt Präzision.

Selbstkorrektur

Selbstkorrektur bedeutet, dass ein Modell während einer Aufgabe seine eigene Antwort, seinen Code oder Plan kritisiert oder überarbeitet. Dazu zählt, einen Denkfehler zu erkennen, gerade geschriebenen Code zu debuggen oder einen Entwurf zu verfeinern. Das passiert in heutigen Systemen ständig.

Rekursive Selbstverbesserung

RSI ist grundsätzlich etwas anderes. Verbesserungen wirken sich auf die Fähigkeiten des KI-Systems oder seiner Nachfolger aus und können die künftige KI-Entwicklung selbst effektiver machen. Ein Agent, der seinen eigenen Code wiederholt debuggt, betreibt nicht automatisch rekursive Selbstverbesserung; er ist einfach fähig. Der Unterschied ist, ob die Verbesserung bestehen bleibt und sich in die Entwicklung des nächsten Systems fortpflanzt.

Selbstkorrektur ist ein Werkzeug, das ein System bei einer Aufgabe nutzt. RSI ist das, was passiert, wenn die Aufgabe der Bau des nächsten Systems ist.

Rekursive Selbstverbesserung vs. verwandte KI-Konzepte

Es hilft, RSI gegenüber anderen Konzepten einzuordnen, die oft in denselben Diskussionen auftauchen — zumal die Coxon-Debatte Begriffe wie „Superintelligenz“ und „Singularität“ in dieselben Schlagzeilen geschoben hat.

RSI vs. automatisierte KI-Forschung

Automatisierte KI-F&E umfasst Systeme, die Experimente durchführen, Ergebnisse analysieren und nächste Schritte vorschlagen. Sie können zu RSI beitragen, ohne vollständige RSI zu sein. Ein System, das Teile der Forschungspipeline automatisiert, ist Teil der Entwicklung — nicht das Endziel. Die Lücke zwischen „hilft bei Forschung“ und „entwickelt seine Nachfolger autonom“ ist entscheidend. In Anthropics eigenen Publikationen übernimmt KI mehr Teile dieser Pipeline, weshalb Coxons Rücktritt so einschlug. Die Bewegung ist real; die Frage ist, wie weit sie geht.

RSI vs. kontinuierliches Lernen

Kontinuierliches Lernen bedeutet, dass ein eingesetztes Modell sich mit der Zeit durch neue Informationen aktualisiert. RSI bedeutet, den Prozess zu verbessern, mit dem zunehmend leistungsfähige KI-Systeme entwickelt werden. Das eine ändert, was ein Modell weiß; das andere ändert, wie leistungsfähig das nächste Modell wird.

RSI vs. künstliche Superintelligenz

RSI beschreibt einen Prozess. Superintelligenz beschreibt einen angenommenen Fähigkeitsgrad. Sie hängen insofern zusammen, als RSI ein vermuteter Pfad Richtung Superintelligenz ist, aber sie sind nicht dasselbe — die Gleichsetzung verwässert beides.

Wenn Coxon vor „sich selbst verbessernder Superintelligenz“ warnt, beschreibt er ein Szenario, in dem RSI ein System hervorbringt, das den Menschen in vielen Domänen übertrifft. Das ist eine konkrete Aussage über ein mögliches Ergebnis des Prozesses, nicht dessen Definition.

RSI vs. KI-Singularität

Die KI-Singularität ist ein hypothetischer Punkt, an dem KI-Verbesserungen so schnell und selbsttragend werden, dass Menschen nicht mehr vorhersagen oder kontrollieren können, was als Nächstes passiert. Denk an den Moment, in dem die Kurve senkrecht wird: Veränderung schneller, als wir sie verstehen oder beantworten können. RSI ist ein vorgeschlagener Mechanismus dorthin. Die Singularität ist jedoch das spekulative Ergebnis, nicht der Prozess — und viele Forschende glauben, dass die Kurve lange vorher abflacht.

Wie nah sind wir an rekursiver Selbstverbesserung?

Näher, als die meisten vor ein paar Jahren dachten. Nicht so nah, wie manche Schlagzeilen suggerieren.

KI-Systeme sind bereits beim Coden, Debuggen, Durchführen von Experimenten, Analysieren von Ergebnissen, bei der Modellevaluation und als Forschungsassistenz im Einsatz. Anthropic hat öffentlich erklärt, einen wachsenden Teil der KI-Entwicklung an KI-Systeme zu delegieren, und dass Ingenieurinnen und Ingenieure heute deutlich mehr Code ausliefern als in früheren Jahren. Gleichzeitig betont Anthropic, dass Menschen wichtige Rollen in der Forschungsbeurteilung behalten. Das heißt: entscheiden, welche Probleme verfolgt werden, und bewerten, ob Ergebnisse tatsächlich das bedeuten, wonach sie aussehen.

Mehr KI in der KI-F&E ist ein Beleg für Fortschritt Richtung stärkere Automatisierung. Es ist kein Beweis dafür, dass bereits eine autonome RSI-Schleife existiert. Die Pipeline enthält mehr KI; sie läuft noch nicht von selbst. Diese Ambivalenz — realer Fortschritt mit unklarem Endpunkt — ist genau das, was Coxon nicht ausreichte. Sein Rücktritt war nicht die Behauptung, RSI sei da. Es war die Argumentation, dass es nicht mehr vertretbar ist, sie als fernes Thema zu behandeln.

Was könnte rekursive Selbstverbesserung beschleunigen?

Was braucht es konkret, um diese Lücke zu schließen? Einige Engpässe stechen heraus, und der Abstand zu jedem davon sagt etwas über realistische Zeitpläne aus.

KI-Coding-Fähigkeit

Autonom Forschungs-Code schreiben und ändern zu können, ist eine Grundvoraussetzung. Aktuelle Modelle sind darin wirklich gut, machen aber noch Fehler, die bei kritischer Arbeit menschliche Prüfung erfordern.

Automatisierte Experimentierung

Experimente autonom durchzuführen, ist ein anderer Engpass als den Code dafür zu schreiben. Ein System, das ein Experiment entwerfen, ausführen, die Ergebnisse interpretieren und den nächsten Schritt festlegen kann, schließt einen wesentlichen Teil der Schleife. Aktuelle Systeme können Teile davon. Der vollständige Zyklus, ohne dass ein Mensch jeden Denkschritt prüft, ist noch außer Reichweite.

Forschungsgespür und Ideengenerierung

Hier wird es spannend. Anthropic benennt ausdrücklich menschliches Forschungsgespür und Urteilsvermögen als verbleibenden komparativen Vorteil. Also zu wissen, welche Experimente sich lohnen, welchen Ergebnissen man trauen kann, welche Richtungen Potenzial haben. Vieles an experimenteller Forschungsarbeit wird automatisierbar. Die Urteilsschicht nicht. Hier sieht Anthropic aktuell den größten unersetzlichen Wert von Menschen — und die größte Distanz zu voller RSI.

Modellevaluation

Zu wissen, ob ein Modell wirklich besser geworden ist, ist schwerer als es klingt. Evaluation erfordert ein Urteil darüber, was zählt, und aktuelle Benchmarks sind leicht auszutricksen oder schnell überholt. Solange KI-Systeme ihre eigenen Nachfolger nicht zuverlässig beurteilen können, bleiben Menschen in dieser Phase im Loop — ein erheblicher Bremsklotz für autonome RSI.

Compute und Infrastruktur

Rohleistung ist nicht die einzige Einschränkung. Einen autonomen Entwicklungszyklus zu fahren, erfordert Infrastruktur, die großskaliges Training und Evaluation ohne ständige menschliche Eingriffe trägt — das ist teuer und organisatorisch komplex.

Modellevaluation

Zu wissen, ob ein Modell wirklich besser geworden ist, ist schwerer als es klingt. Evaluation erfordert ein Urteil darüber, was zählt, und aktuelle Benchmarks sind leicht auszutricksen oder schnell überholt. Solange KI-Systeme ihre eigenen Nachfolger nicht zuverlässig beurteilen können, bleiben Menschen in dieser Phase im Loop — ein erheblicher Bremsklotz für autonome RSI.

Menschliche Freigabe

Selbst wenn KI-Systeme Code schreiben, Experimente durchführen und Ergebnisse evaluieren können, entscheiden am Ende Menschen, was tatsächlich ausgeliefert wird. Dieser Review-Schritt begrenzt, wie schnell die Schleife laufen kann. Du kannst die Arbeit automatisieren und trotzdem an der Freigabe hängen. Solange KI-Urteilskraft nicht genug Vertrauen genießt, bleibt die menschliche Prüfung wahrscheinlich die unmittelbarste Decke für RSI-Fortschritt — keine philosophische Zukunftsfrage.

Die Chancen rekursiver Selbstverbesserung

Die Antwort hat zwei Teile: mögliches Potenzial und ernsthafte Risiken.

Schnellerer wissenschaftlicher und technologischer Fortschritt

Wenn KI die KI-Forschung selbst beschleunigen kann, könnte derselbe Effekt auch für Softwareentwicklung, wissenschaftliche Entdeckungen, Medizin und Technik generell gelten. Die These: Eine KI, die Forschung spürbar beschleunigt, könnte Zeitpläne in vielen Feldern verkürzen — nicht nur in der KI.

Schnellere Entwicklung von KI-Fähigkeiten

Hier ist die Feedback-Logik klar formuliert: Verbesserungen der KI-Forschungskompetenz könnten die Geschwindigkeit weiterer KI-Verbesserungen erhöhen. Dieser Zinseszinseffekt macht RSI theoretisch bedeutsam — und Forschende wie Coxon nervös genug, um deswegen zurückzutreten. Wichtig: Schnellere Fähigkeitsentwicklung führt nicht automatisch zur Intelligenzexplosion. Die Schleife kann real sein und dennoch langsam, begrenzt oder mit abnehmenden Erträgen verlaufen.

Die Risiken rekursiver Selbstverbesserung

Menschliche Aufsicht wird zum Engpass

KI-generierte Experimente, Code und Modelländerungen könnten irgendwann schneller entstehen, als Menschen sie sinnvoll prüfen können. Die Aufsicht, die die KI-Entwicklung heute prägt, hängt davon ab, dass Menschen mit dem Tempo mithalten. Das ist ein Grund, warum Anthropic trotz mehr Automatisierung die Rolle menschlichen Urteils in der Forschungspipeline betont.

Alignment und Kontrolle

Leistungsfähigere Systeme, die an der Entwicklung ihrer Nachfolger beteiligt sind, verschärfen das Alignment-Problem. Wenn das beitragende System subtil fehlgerichtete Ziele hat, könnten diese sich im Nachfolger fortpflanzen oder verstärken. Genau dieses Risiko hat Hubinger ausführlich beschrieben — und darauf verwies er, als er Coxons Sorge um künftige Risiken teilte, zugleich aber betonte, dass heutige Systeme diese Gefahr noch nicht in gleicher Weise bergen.

Cybersicherheit

Mehr fähige, autonome Systeme vergrößern auch die Angriffsfläche. Ein System, das in seine eigene Entwicklungspipeline eingebunden ist, ist ein lohnenderes Ziel — und Ausfallmodi werden folgenreicher, je mehr Autonomie hinzukommt. Eindämmung und Zugriffskontrolle werden schwerer zu gestalten, wenn das zu begrenzende System zugleich die nächste Version mitbaut.

Schnelle Fähigkeitsgewinne

Wenn die Feedback-Schleife die Entwicklung spürbar beschleunigt, bleibt Institutionen weniger Zeit, neue Fähigkeiten zu bewerten und darauf zu reagieren. Anthropic hat gesagt, volle RSI könnte das Risiko erhöhen, dass Menschen die Kontrolle über KI-Systeme verlieren — und zugleich, dass RSI weder erreicht noch zwangsläufig ist.

Warum rekursive Selbstverbesserung in den Nachrichten ist

Jacob Coxons Rücktritt von Anthropic im September 2026 rahmte das Thema als dringend: Anthropic und OpenAI rasen auf sich selbst verbessernde Superintelligenz zu und handeln angesichts möglicher Folgen nicht verantwortungsvoll genug. Evan Hubinger stimmte öffentlich zu (er schätzte sein persönliches Risiko einer von KI verursachten menschlichen Auslöschung innerhalb des Jahrzehnts auf über 10% und räumte ein, dass Anthropic noch keinen Plan zur Ausrichtung von Superintelligenz hat), unterschied aber klar zwischen diesem künftigen Risiko und dem Risiko durch heutige Systeme. Coxon sagte inzwischen, sein Kerndissens mit der Anthropic-Führung betreffe die Frage, ob ein Wettbewerbsrennen Richtung RSI unvermeidlich sei und man daher mitmachen müsse.

Diese Uneinigkeit steht neben Anthropics früheren Veröffentlichungen zu Fortschritten in KI-automatisierter KI-Entwicklung — derselben Forschung, die zeigt, dass KI mehr von der Entwicklungspipeline übernimmt. Beides ist miteinander vereinbar, was die Debatte schwer abzuweisen macht. Nimm Coxons Katastrophenprognosen nicht als feststehende Tatsachen. Sie sind Teil einer laufenden Auseinandersetzung, keine gesicherte Wissenschaft.

Könnte rekursive Selbstverbesserung zur Intelligenzexplosion führen?

Das theoretische Argument lautet: Bessere KI führt zu besserer KI-Forschung, führt zu noch besserer KI, führt zu schnellerer Verbesserung. Die Logik ist sauber. Die Frage ist, ob sie sich in der Praxis hält.

Unendliche Beschleunigung folgt daraus nicht automatisch. Reale Beschränkungen sind Compute, Energie, Hardware, Trainingsdaten, algorithmische Engpässe, experimentelle Feedbackzyklen, abnehmende Grenzerträge und verbleibende Abhängigkeit vom menschlichen Urteil. Eine Intelligenzexplosion ist eine umstrittene Hypothese darüber, was hinreichend effektive RSI hervorbringen könnte — nicht die Definition von RSI selbst. Sie ist ein Szenario in einer Verteilung, nicht das offensichtliche Endziel. Niemand weiß, auch nicht die Forschenden bei Anthropic, die sich am intensivsten damit befassen, wie steil die Kurve wird oder wo sie abflacht.

Wie ließe sich rekursive Selbstverbesserung steuern?

Diese Ungewissheit macht Governance zugleich dringlicher und schwieriger. Die Kernherausforderung ist, sinnvolle Aufsicht zu bewahren, falls KI-generierte Forschung die menschliche Prüfung überholt. Aktive Vorschläge und Forschungsfelder umfassen Fähigkeitsbewertungen vor dem Einsatz, Ansätze zur Eindämmung von Modellen, Zugriffskontrollen für KI-Systeme, die an KI-Entwicklung beteiligt sind, Monitoring von KI-F&E-Aktivitäten, menschliche Freigabe für folgenschwere Aktionen, unabhängige Evaluation und Koordination zwischen Frontier-Labs.

Keiner dieser Punkte ist eine Komplettlösung, und genau das unterstreicht die Coxon-Debatte: Governance-Rahmen, die für das heutige Niveau der KI-Beteiligung in der Pipeline entworfen sind, skalieren womöglich nicht für morgen. Die Lücke zwischen dem Stand der Werkzeuge und der Richtung der Technologie trägt dazu bei, dass sich dieser Moment für die eng Beteiligten tatsächlich folgenschwer anfühlt.

Fazit

Rekursive Selbstverbesserung beschreibt eine Feedback-Schleife, in der KI zur Entwicklung leistungsfähigerer KI beiträgt, die wiederum besser wird, zu weiteren Verbesserungen beizutragen.

Die heutige KI-unterstützte Entwicklung ist real und wächst, wie Anthropics Forschung zeigt. Vollständig autonome RSI, bei der KI-Systeme ihre Nachfolger ohne menschliche Leitung in wesentlichen Teilen entwerfen und entwickeln, ist nicht erreicht. Anthropic selbst zieht diese Linie. Zwischen diesen beiden Punkten liegen die spannenden und umkämpften Fragen: Wie schnell schließt sich die Lücke, was passiert, wenn sie sich schließt, und wer entscheidet über das Tempo?

Der Austausch zwischen Coxon und Hubinger hat diese Fragen nicht geschaffen. Er hat es unmöglich gemacht, sie als rein theoretisch zu behandeln. Ob dich Coxons Zeitplan beunruhigt oder Anthropics Einordnung besonnener wirkt — die Dynamik bleibt: KI sitzt zunehmend in der Schleife, die KI baut. Zu verstehen, was das bedeutet, klar und ohne Hype in beide Richtungen, ist der Grund, warum sich ein Blick auf RSI lohnt.