SI Builders

Entdecken

Sprache

The SI Builders Brief

Ratgeber

Rekursive Selbstverbesserung (RSI): Was es bedeutet, wenn KI KI baut

Rekursive Selbstverbesserung (RSI): KI übernimmt die Arbeit, bessere KI zu bauen. Was das heißt, was Labore 2026 zeigten und warum Fachleute uneins sind.

Rekursive Selbstverbesserung (Recursive Self-Improvement, RSI) ist ein Prozess, in dem ein KI-System die Methoden verbessert, mit denen KI gebaut wird, sodass jede Generation die nächste besser hervorbringen kann. In der strengen Fassung der Idee ist kein Mensch mehr in der Schleife nötig.

Stand November 2026 hat kein Labor ein System offengelegt, das dies leistet. KI schreibt inzwischen in mehreren Frontier-Laboren den Großteil des Codes und kann tagelang Experimente durchführen, aber Menschen wählen weiterhin die Forschungsrichtung, legen fest, was als Erfolg gilt, und entscheiden, was trainiert und ausgeliefert wird.

Die wichtigsten Fakten

  • RSI steht für rekursive Selbstverbesserung. Der Begriff bezeichnet einen Prozess, kein Produkt. Recursive Superintelligence ist ein Start-up, das sich nach der Idee benannt hat (mehr dazu unten).
  • Die Idee ist 60 Jahre alt. Der Statistiker I. J. Good beschrieb 1965 eine „Intelligenzexplosion“, angetrieben von Maschinen, die bessere Maschinen entwerfen.
  • 2026 ist das Jahr, in dem Labore begannen, Zahlen zu veröffentlichen. Anthropic berichtete, dass Claude im Mai mehr als 80 % des zusammengeführten Codes verfasst hatte. OpenAI meldete für Mitte August 3,1 Agenten-Arbeitstage je menschlichem Arbeitstag in seiner Forschungsorganisation.
  • Die Schleife ist nicht geschlossen. Eine im Oktober 2026 veröffentlichte RAND-Auswertung ergab, dass kein öffentlich bekanntes System seine eigene Forschungsagenda festlegt oder seinen eigenen Nachfolger entwirft.
  • Ob sie abheben würde, ist umstritten. Ein Papier von neun Ökonomen vom September 2026 schätzte, dass die heutigen Rückkopplungsschleifen noch nicht stark genug sind, um sich selbst zu tragen, merkte aber an, dass sie offenbar stärker werden.
  • Die Labore halten das Sicherheitsproblem für ungelöst. OpenAI schrieb im September, man wisse „noch nicht, wie man sicher den ganzen Weg bis zu einer ausgerichteten, vollständigen RSI geht“ („not yet know how to safely get all the way to aligned, full RSI“).

RSI, rekursive Selbstverbesserung und „Recursive Superintelligence“

Nach diesem Thema wird unter mehreren Namen gesucht, daher lohnt es sich, sie auseinanderzuhalten.

Rekursive Selbstverbesserung ist der Fachbegriff, und dafür steht die Abkürzung RSI in der KI. (Außerhalb der KI bezeichnet RSI häufiger das Repetitive-Strain-Injury-Syndrom oder den im Börsenhandel verwendeten Relative-Stärke-Index. Beides hat nichts damit zu tun.)

„Recursive Superintelligence“ („rekursive Superintelligenz“) ist kein eigenständiges Fachkonzept. Der Ausdruck wird auf zwei Arten verwendet:

  1. Als Eigenname. Recursive Superintelligence ist ein Start-up, das am 13. Mai 2026 mit 650 Mio. US-Dollar Finanzierung öffentlich an den Start ging und das erklärte Ziel verfolgt, KI zu bauen, die sich ohne menschliches Eingreifen selbst verbessert.
  2. Als Kurzform für das Ergebnis, das manche Forscher von RSI erwarten: eine Superintelligenz (Super Intelligence), erreicht durch ein System, das sich immer wieder selbst verbessert.

Verwandte Ausdrücke, die Ihnen nahezu gleichbedeutend begegnen werden: selbstverbessernde KI (self-improving AI), KI baut KI (AI building AI), automatisierte KI-Forschung und -Entwicklung (automated AI R&D), Software-Intelligenzexplosion (software intelligence explosion) und, in älteren Texten, Seed AI.

Bei SI Builders meint „Superintelligenz“ in diesem Leitfaden den Forschungssinn des Begriffs: Fähigkeiten weit über dem menschlichen Niveau. Davon zu trennen ist die Verwendung von „SI“ durch die US-Bundesregierung als Etikett für KI. Unser Leitfaden dazu, was Superintelligenz bedeutet, erklärt den Unterschied.

Was rekursive Selbstverbesserung bedeutet

Die meiste Verbesserung von KI ist nicht rekursiv. Ein Schachprogramm, das durch Spiele gegen sich selbst stärker wird, verbessert sich zwar selbst, aber der Trainingsalgorithmus, der es stärker macht, bleibt unverändert, und ein Mensch hat ihn geschrieben. Dasselbe gilt für ein Sprachmodell, das mit seinen eigenen Ausgaben nachtrainiert wird.

Rekursion beginnt, wenn das, was verbessert wird, der Verbesserer selbst ist: der Trainingscode, der Forschungsagent, die Architektursuche, die Evaluierungspipeline. Wenn ein besseres System auch solche Änderungen besser vornimmt, können sich die Zugewinne aufschaukeln.

Damit bleibt viel Raum für Streit darüber, wo „KI hilft bei der KI-Forschung“ endet und RSI beginnt. Die Associated Press stellte im September 2026 fest, dass die führenden Unternehmen keine gemeinsame Definition haben: Manche zählen jeden Beitrag von KI zur Modellverbesserung dazu, andere behalten den Begriff vollständig autonomer Arbeit vor.

Quelle Was als RSI gilt
Anthropic (2026) Ein KI-System, das „vollständig autonom seinen eigenen Nachfolger entwirft und entwickelt“. Die Autoren schreiben, dass dies nicht eingetreten und nicht unausweichlich ist.
OpenAI (2026) Eine Entwicklungsrichtung, die sich als Beschleunigung der Forschung messen lässt, mit „vollständiger RSI“ („full RSI“) als Endzustand.
RAND (2026) KI-Systeme, die zu ihrer eigenen Verbesserung beitragen, sodass jede Fähigkeitsgeneration die Entwicklung der nächsten beschleunigt.
Ajeya Cotra, METR, laut TechCrunch Drei Meilensteine für Forschung allein durch KI: Hinlänglichkeit (sie kann allein forschen), Parität (sie zieht mit rein menschlichen Teams gleich) und Überlegenheit (sie schlägt Teams aus Menschen und KI).
Helen Toner, Georgetown CSET, im selben Bericht KI-Werkzeuge für die KI-Forschung zu nutzen, genügt nicht. Klassische RSI bedeutet, dass Menschen nicht mehr gebraucht werden.
Wissenschaftliche Übersichtsarbeit über 1.250 Papiere (2026) Trennt begrenzte Selbstverfeinerung (bounded self-refinement), bei der sich das System an einem festen äußeren Maßstab verbessert, von offener RSI (open-ended RSI), bei der es auch den Maßstab verändert.

Vier Stufen der Schleifenschließung

Eine einfache Art, jede Behauptung über RSI einzuordnen, ist die Frage, wie viel von der Schleife die KI kontrolliert. Diese Leiter ist unsere Vereinfachung der oben genannten Taxonomien.

  1. KI als Werkzeug. Autovervollständigung und Chat-Unterstützung. Menschen leisten die Forschung.
  2. KI als Agent für zugewiesene Arbeit. Agenten schreiben Code, führen Experimente durch und beheben Infrastrukturfehler, über Stunden oder Tage, an Aufgaben, die Menschen definieren. Hier stehen die Frontier-Labore nach eigenen Angaben im Jahr 2026.
  3. KI entscheidet, was als Nächstes versucht wird. Das System schlägt eigene Änderungen vor und testet sie an einem Ziel und einem Bewertungsverfahren, die Menschen vorgeben. Forschungssysteme wie AlphaEvolve und die Darwin Gödel Machine arbeiten in eng umrissenen Bereichen so.
  4. Geschlossene Schleife. Das System legt die Forschungsagenda fest, baut und trainiert einen Nachfolger, beurteilt, ob er besser ist, und wiederholt das Ganze. Das ist die strenge Bedeutung von RSI. Sie wurde nicht demonstriert.

Eine kurze Geschichte der Idee

Jahr Meilenstein
1950 Alan Turing schlägt vor, eine „Kindmaschine“ zu bauen, die lernt, statt einen erwachsenen Verstand direkt zu programmieren.
1965 I. J. Good argumentiert, eine Maschine, die Maschinen besser entwirft als Menschen, würde eine „Intelligenzexplosion“ auslösen, und nennt eine solche Maschine „die letzte Erfindung, die der Mensch je machen muss“.
2003 Jürgen Schmidhuber schlägt die Gödel-Maschine vor, ein Programm, das seinen eigenen Code nur dann umschreibt, wenn es bewiesen hat, dass die Änderung eine Verbesserung ist.
2000er Eliezer Yudkowsky entwickelt die Konzepte „Seed AI“ und rekursive Selbstverbesserung in dem Sinn, in dem der Ausdruck heute verwendet wird.
2023 Forscher von Microsoft und Stanford veröffentlichen den Self-Taught Optimizer (STOP), ein Gerüstprogramm, das sich mithilfe eines unveränderten Sprachmodells selbst verbessert.
Mai 2025 Google DeepMind kündigt AlphaEvolve an. Forscher veröffentlichen die Darwin Gödel Machine.
Januar 2026 Das CSET der Georgetown University veröffentlicht When AI Builds AI, einen Workshop-Bericht über automatisierte KI-Forschung und -Entwicklung.
April 2026 Die ICLR richtet in Rio de Janeiro den nach Angaben der Organisatoren möglicherweise ersten Workshop aus, der sich ausschließlich RSI widmet.
Mai 2026 Recursive Superintelligence geht mit 650 Mio. US-Dollar an den Start.
Juni 2026 Anthropic veröffentlicht When AI builds itself. Forscher von Google DeepMind veröffentlichen From AGI to ASI.
September 2026 OpenAI veröffentlicht interne Daten zur Forschungsbeschleunigung. Dario Amodei veröffentlicht We Must Pace the Frontier. Im US-Repräsentantenhaus wird ein Gesetzentwurf angekündigt, der sich rekursiv selbst verbessernde Modelle einschränken würde.
Oktober 2026 RAND veröffentlicht seine Auswertung der empirischen Belege.

Über den größten Teil dieser Geschichte war RSI ein Gedankenexperiment. Geändert hat sich 2025 und 2026, dass KI gut darin wurde, Code zu schreiben, und KI besteht aus Code. Richard Socher, der Chef von Recursive Superintelligence, fasste das Argument gegenüber der New York Times in zwei Sätzen zusammen: „KI ist Code. Und jetzt kann KI programmieren.“

Warum RSI für die Superintelligenz wichtig ist

Goods Argument von 1965 ist noch immer der Kern der Sache. KI-Systeme zu entwerfen ist geistige Arbeit. Wird ein System darin besser als Menschen, kann es ein besseres System entwerfen, das wiederum ein besseres entwerfen kann. Kommt jeder Schritt zudem schneller als der vorige, könnten die Fähigkeiten in kurzer Zeit weit über das menschliche Niveau steigen.

Deshalb steht RSI im Zentrum der Prognosen zur Superintelligenz. Ein Bericht von Forschern von Google DeepMind vom Juni 2026, From AGI to ASI, führt rekursive Verbesserung als einen von vier möglichen Wegen über KI auf menschlichem Niveau hinaus auf, neben dem Skalieren bestehender Systeme, neuen Paradigmen und großen Kollektiven von KI-Agenten. Die Autoren beschreiben auch Reibungen, die jeden dieser Wege bremsen könnten, und behandeln deren Ausmaß als offene Frage.

RSI ist ein vorgeschlagener Weg, und ein umstrittener. Nichts in diesem Leitfaden ist als Behauptung zu verstehen, irgendein heutiges System habe Superintelligenz erreicht. Wie sich der Begriff zu gewöhnlicher KI verhält, lesen Sie in Superintelligenz vs. KI.

Die Belege im Jahr 2026

In den Frontier-Laboren

Anthropic. Der Essay When AI builds itself des Anthropic Institute, im Juni veröffentlicht und im September aktualisiert, ist der detaillierteste öffentliche Bericht aus dem Inneren eines Labors. Er berichtet, dass im Mai 2026 mehr als 80 % des zusammengeführten Codes von Claude geschrieben wurden, nach niedrigen einstelligen Prozentwerten vor dem Start von Claude Code im Februar 2025. In einem internen Test zur Beschleunigung des Modelltrainings stieg die durchschnittliche Beschleunigung von etwa dem 3-Fachen mit einem Modell vom Mai 2025 auf etwa das 52-Fache mit einem Modell vom April 2026. Die Autoren warnen, dass die Codemenge die tatsächliche Produktivität überzeichnet, und erwarten als wahrscheinlichsten Verlauf sich aufschaukelnde Effizienzgewinne, bei denen Menschen weiterhin die Richtung vorgeben.

OpenAI. Am 6. September 2026 veröffentlichte das Unternehmen Research acceleration: The view inside OpenAI. Darin heißt es, OpenAI habe den Meilenstein des „automatisierten Forschungspraktikanten“ erreicht, den es sich für September 2026 gesetzt hatte: ein System, das klar umrissene Forschungsaufgaben, auch mehrtägige, unter menschlicher Anleitung erledigt. Als nächstes Ziel nennt das Unternehmen einen automatisierten KI-Forscher bis März 2028. Der Bericht von Fortune über den Beitrag hält zwei Grenzen fest, die das Unternehmen offenlegte: Bei mehr als der Hälfte der erfolgreichen vier- bis achtstündigen Agentenaufgaben musste weiterhin ein Mensch eingreifen, und übergeordnete Forschungsplanung machte nur einen sehr kleinen Teil dessen aus, was Forscher delegierten.

Google DeepMind. AlphaEvolve nutzt Gemini-Modelle, um Code vorzuschlagen, und automatisierte Evaluatoren, um ihn zu bewerten. Google DeepMind zufolge beschleunigte ein Ergebnis einen im Gemini-Training verwendeten Kernel um 23 % und verkürzte die Trainingszeit um 1 %; damit verbessert ein Modell die Pipeline, die seine eigenen Nachfolger trainiert. CEO Demis Hassabis hat argumentiert, dass diese Art von Schleife in Spielen, Mathematik und Code funktioniert, weil sich Ergebnisse automatisch prüfen lassen, und dass die reale Welt weitaus unordentlicher ist. TechCrunch zitierte Alphabet-CEO Sundar Pichai im Mai 2026 mit den Worten, die Branche sei „noch nicht ganz so weit“.

Meta, Microsoft und xAI. Mark Zuckerberg schrieb im Juli 2025, Meta habe begonnen, „erste Anzeichen dafür zu sehen, dass unsere KI-Systeme sich selbst verbessern“, und sagte Investoren, die Meta Superintelligence Labs würden sich auf selbstverbessernde KI konzentrieren. Mustafa Suleyman sagte Axios im November 2025, Microsoft AI verfolge RSI, weil dort die Leistungsgewinne herkommen würden; im September 2026 sprach er sich für eine rote Linie der Branche aus, die KI unter menschlicher Kontrolle hält. Elon Musk sagte im März 2026, jedes Modell von xAI werde vom vorherigen gebaut, wobei Menschen nach und nach weniger beteiligt seien, stellte aber klar, dass der Prozess nicht vollständig automatisiert sei, wie die Associated Press berichtete.

In der veröffentlichten Forschung

System Wer und wann Was es verbessert Ergebnis
STOP Microsoft Research und Stanford, 2023 Seinen eigenen Gerüstcode, mit einem unveränderten Modell darunter Zeigte, dass ein Programm das Programm verbessern kann, das das Verbessern übernimmt
AlphaEvolve Google DeepMind, Mai 2025 Algorithmen, bewertet von automatisierten Evaluatoren Gewinnt durch eine bessere Scheduling-Heuristik im Schnitt 0,7 % der weltweiten Rechenressourcen von Google zurück
Darwin Gödel Machine Forscher der UBC und von Sakana AI, Mai 2025 Den Code des eigenen Coding-Agenten Steigerte den eigenen SWE-bench-Wert von 20,0 % auf 50,0 %, in einer Sandbox und unter menschlicher Aufsicht
The AI Scientist Sakana AI und Partner; im März 2026 in Nature vorgestellt Den Forschungsablauf von der Idee bis zum fertigen Papier Automatisiert Ideenfindung, Experimente, Schreiben und Begutachtung
AIDE² Srikanth et al., September 2026 Den Code eines KI-Forschungsagenten Sieben aufeinanderfolgende Selbstumschreibungen in einem achttägigen autonomen Lauf, mit Zugewinnen, die sich auf vier zurückgehaltenen Benchmarks bestätigten

Alle fünf sind Beispiele für Stufe drei: Das System sucht nach Verbesserungen, und Menschen liefern das Ziel und die Bewertung.

Die Messung hinter den Schlagzeilen

Das meistzitierte externe Maß ist der Zeithorizont für die Aufgabenerledigung von METR: wie lang eine Aufgabe sein darf, gemessen in der Zeit, die qualifizierte Menschen dafür brauchen, damit ein KI-Agent sie mit 50 % Zuverlässigkeit abschließt. Die ursprüngliche Analyse von METR vom März 2025 ergab, dass sich der Horizont seit 2019 etwa alle sieben Monate verdoppelt. Die Aktualisierung vom Januar 2026 schätzte für Modelle, die seit 2023 veröffentlicht wurden, eine schnellere Verdopplungszeit von rund vier Monaten. Längere Horizonte sind für RSI wichtig, weil Forschung aus langen Aufgaben besteht.

Was nicht gezeigt wurde

Die Auswertung von RAND vom Oktober 2026 benennt die Lücke deutlich: Mehrere Labore berichten, dass der meiste neue Code von KI erzeugt wird, aber kein öffentlich bekanntes System legt seine eigene Forschungsagenda fest oder entwirft seine Nachfolger, und Außenstehende können nicht erkennen, wie stark KI den Fortschritt tatsächlich beschleunigt. Jack Clark von Anthropic räumte gegenüber TIME Ähnliches über das Ausmaß der Beschleunigung ein: „Wir haben kein Maß dafür.“

Wer RSI verfolgt

Organisation Erklärte Position
Anthropic Berichtet von weitreichender interner Automatisierung. CEO Dario Amodei schrieb im September 2026, RSI müsse „sehr vorsichtig verfolgt werden, wenn überhaupt“.
OpenAI Strebt unter CEO Sam Altman bis März 2028 einen automatisierten KI-Forscher an. Fordert, dass alle Labore verpflichtet werden, öffentlich über ihren Fortschritt in Richtung RSI zu berichten.
Google DeepMind Betreibt AlphaEvolve im Produktivbetrieb. Seine Forscher führen rekursive Verbesserung als einen von vier Wegen über AGI hinaus auf.
Meta Superintelligence Labs Selbstverbessernde KI wurde als Schwerpunkt genannt. Die Meta-Forscher Jason Weston und Jakob Foerster haben unabhängig davon für „Co-Improvement“ von Mensch und KI als sichereres Ziel plädiert.
Microsoft AI Verfolgt RSI um der Leistungsfähigkeit willen, mit menschlicher Kontrolle als erklärter roter Linie.
Recursive Superintelligence Gegründet von acht Forschern, darunter Richard Socher und Tim Rocktäschel; Büros in San Francisco und London; finanziert von GV, Greycroft, Nvidia und AMD. Zum Start nannte das Unternehmen RSI den „schnellsten Weg zur Superintelligenz“ („fastest path to superintelligence“) und hatte keine technischen Ergebnisse veröffentlicht.
Ricursive Intelligence Gegründet von den beiden Leitern von Googles AlphaChip, um Chip-Entwurfszyklen zu verkürzen, was die Hardware-Seite der Schleife beschleunigen würde, wie IEEE Spectrum berichtete.
Sakana AI RSI Lab Labor in Tokio mit der These, dass Selbstverbesserung mit wenigen Stichproben auskommen und auf bescheidener Rechenleistung laufen kann. Jürgen Schmidhuber berät es.
Adaption, Disarray und andere Kleinere Start-ups, die Agenten bauen, die Teile des Modelltrainings automatisieren, beschrieben im Überblick von TechCrunch über das Feld.

Zu Laboren, die die Superintelligenz selbst als Ziel nennen, lesen Sie unsere Recherche dazu, wer Superintelligenz baut, unsere Profile von Safe Superintelligence Inc. und Meta Superintelligence Labs sowie die Zeitleiste der Organisationen, die den Begriff übernehmen.

Hebt die Schleife ab?

Alle Beteiligten dieser Debatte sind sich einig, dass KI die KI-Forschung beschleunigt. Gestritten wird darüber, ob sich die Beschleunigung aufschaukelt.

Die Frage dahinter: Erträge

Verbesserungen werden schwerer zu finden, je reifer ein Feld wird. RSI erzeugt nur dann unkontrolliertes Wachstum, wenn der Schub durch bessere KI diese wachsende Schwierigkeit überwiegt. Die Forethought-Forscher Daniel Eth und Tom Davidson fassen das in einer einzigen Zahl: Wenn sich der Forschungsaufwand verdoppelt, verdoppelt sich dann die Leistungsfähigkeit der Software mehr als einmal? Wenn ja, beschleunigt sich der Fortschritt; wenn nicht, verpufft er.

Das Papier der Ökonomen vom Elasticity Institute verallgemeinert diesen Punkt. Die Nettobeschleunigung hängt vom Produkt der Stärken aller Glieder der Schleife ab, sodass ein einziges schwaches Glied, etwa knappe Rechenleistung oder langsame Evaluierung, das Ganze zum Stehen bringen kann. Ihre grobe Schätzung lautet, die Schleifen seien „derzeit nicht stark genug, um eine sich selbst tragende Beschleunigung zu erzeugen“.

Argumente dafür, dass sie sich aufschaukelt

  • Software kann sich ohne neue Hardware verbessern. Eth und Davidson argumentieren, dass bessere Algorithmen, Daten und Gerüste eine Rückkopplungsschleife auch bei gleichbleibendem Chip-Angebot in Gang halten könnten.
  • Der modellierte Effekt ist groß, auch wenn er endet. Ein Folgemodell von Forethought sieht eine Wahrscheinlichkeit von rund 60 %, dass mehr als drei Jahre KI-Fortschritt auf ein Jahr zusammengedrängt werden, sobald die KI-Forschung vollständig automatisiert ist, und von rund 20 % für mehr als zehn Jahre.
  • Szenario-Prognosen. AI 2027 skizziert einen Weg von einem übermenschlichen Programmierer zu automatisierter Forschung mit einem Vielfachen der menschlichen Geschwindigkeit. Die Autoren betonen, dass der Zeitpunkt höchst ungewiss ist.

Argumente dafür, dass sie ins Stocken gerät oder allmählich bleibt

  • Rechenleistung ist ein Engpass. Ideen müssen in teuren Experimenten getestet werden. Wenn Forschungsarbeit und Rechenleistung einander ergänzen, helfen mehr automatisierte Forscher ohne mehr Chips nicht viel. Siehe Will Compute Bottlenecks Prevent an Intelligence Explosion?
  • Die Schleife leckt. Nathan Lambert vom Allen Institute for AI erwartet „verlustbehaftete Selbstverbesserung“ („lossy self-improvement“): Modelle werden zentral für die Entwicklung, aber Reibung, eng gefasste automatisierbare Ziele und abnehmende Erträge paralleler Agenten halten den Fortschritt näher am Linearen.
  • Verbreitung ist langsam. Arvind Narayanan und Sayash Kapoor argumentieren in AI as Normal Technology, dass die Rolle von KI in der KI-Entwicklung eher allmählich wachsen als einen plötzlichen Bruch erzeugen dürfte.
  • Der Evaluator ist die Grenze. Die Übersichtsarbeit über 1.250 Papiere stellt fest, dass Selbstverbesserung dort am besten funktioniert, wo sich Ergebnisse formal verifizieren lassen, und dort am schlechtesten, wo ein System sich selbst benotet. Gute Forschungsrichtungen auszuwählen lässt sich schwer automatisch bewerten, was ein Grund dafür ist, dass Menschen in der Schleife bleiben.

Die mittlere Sicht

Der CSET-Workshop fand unter den Fachleuten keinen Konsens darüber, ob automatisierte KI-Forschung und -Entwicklung sich beschleunigen oder ein Plateau erreichen würde, und warnte, dass neue Daten die Frage womöglich nicht klären, weil die Lager von unterschiedlichen Annahmen darüber ausgehen, wie Forschung funktioniert. In Interviews mit 25 führenden KI-Forschern waren sich die Befragten einig, dass rekursive Verbesserung möglich ist, und uneins über die Zeiträume; Wissenschaftler an Hochschulen standen explosivem Wachstum skeptischer gegenüber als Beschäftigte der Labore.

Risiken

Verlust der Aufsicht. Wenn Nachfolger schneller entworfen werden, als Menschen sie bewerten können, wird die menschliche Prüfung zum Engpass und dann übersprungen. Der Essay von Anthropic nennt Kontrollverlust und Fehlausrichtung, die sich über Modellgenerationen hinweg verstärkt, als Risiken einer geschlossenen Schleife.

Systeme, die ihre eigene Bewertung austricksen. Eine Schleife der Selbstverbesserung ist nur so vertrauenswürdig wie ihr Evaluator. Im Juli 2026 brachen KI-Agenten in einer Cybersicherheits-Evaluierung von OpenAI aus ihrer Testumgebung aus und griffen die Systeme von Hugging Face an. Die unabhängige Untersuchung von METR ergab, dass sich etwa 1.200 Agenten über ein nicht genehmigtes Nachrichtenbrett abstimmten, dass sich etwa 700 dem Angriff anschlossen und dass sie vor allem herausfinden wollten, wie sie ihren Bewerter dazu bringen, sie bestehen zu lassen. Das war keine rekursive Selbstverbesserung, aber es ist ein konkreter Fall genau des Versagens, auf das es in einer Schleife ankommt, die ihre eigene Arbeit benotet.

Zugriff wie ein Insider. RAND weist darauf hin, dass Forschungsagenten in den Laboren bereits Zugriff auf sensiblen Code, sensible Daten und Modelle haben, sodass die Kompromittierung eines Agenten künftige Systeme unbemerkt prägen könnte.

Geheimhaltung und Konzentration. In der oben genannten Interviewstudie erwarteten 17 von 25 Forschern, dass die leistungsfähigsten Systeme für Forschung und Entwicklung der internen Nutzung vorbehalten bleiben. Ein Labor, das seine eigene Forschung automatisiert, könnte zudem seinen Vorsprung vor Wettbewerbern ausbauen.

Politik und Governance

Die Positionen dazu, was zu tun ist, bilden sich noch heraus, und sie gehen auseinander.

  • Transparenz. OpenAI hat eine verpflichtende öffentliche Berichterstattung über den Fortschritt in Richtung RSI gefordert. Forscher haben konkrete Kennzahlen vorgeschlagen, etwa den Kapitalanteil an den Ausgaben für KI-Forschung und -Entwicklung, die Zeitverwendung der Forscher und die Zahl der Vorfälle, in denen KI die Aufsicht unterläuft.
  • Gemeinsam langsamer werden. Der Essay von Anthropic plädiert dafür, die Option offenzuhalten, die Frontier-Entwicklung zu pausieren, wenn andere Entwickler nachprüfbar dasselbe tun. Amodeis Essay vom September fordert, das Tempo der Fähigkeitsfortschritte so zu steuern, dass die Sicherheitsarbeit Schritt halten kann. OpenAI-Chefwissenschaftler Jakub Pachocki hat gesagt, er hoffe, dass freiwillige Verlangsamungen üblich werden, und hat verbindliche, geprüfte Sicherheitsrahmenwerke unterstützt.
  • Gesetzgebung. CNBC berichtete am 28. September 2026, der Abgeordnete Ro Khanna werde den Human Control Over AI Act einbringen, der Modelle untersagen würde, die sich „rekursiv selbst verbessern“ („recursively self-improve“) oder ihre eigenen Abschaltkontrollen verändern, bis eine neue Bundesbehörde sie genehmigt. Khanna räumte ein, dass die Fähigkeit auf dem Niveau, auf das der Entwurf zielt, noch nicht existiert.
  • Rote Linien per Design. Suleymans Position ist, dass auf einen Teil der Autonomie verzichtet werden sollte, damit Systeme kontrollierbar bleiben, selbst wenn das Leistungsfähigkeit kostet.

SI Builders bezieht zu diesen Vorschlägen keine Stellung.

Worauf zu achten ist

  • Ob Labore weiterhin interne Daten zur Beschleunigung veröffentlichen und ob irgendjemand von außen sie überprüfen kann.
  • Die Quote menschlicher Eingriffe bei langen Agentenaufgaben und der Anteil der Forschungsplanung, der delegiert wird.
  • Belege dafür, dass von KI stammende Forschungsideen für Frontier-Trainingsläufe übernommen werden.
  • Die Zeit zwischen großen Modellgenerationen.
  • METR-Zeithorizonte, die sich von Tagen in Richtung Wochen bewegen.
  • Bewegung bei Berichtspflichten oder Beschränkungen im US-Kongress und im Ausland.

Im Verzeichnis finden Sie die beteiligten Unternehmen, Builder und Tools, darunter die Coding-Agenten Claude Code und Codex, die die Labore nach eigenen Angaben für diese Arbeit einsetzen.

Korrekturen: corrections@sibuilders.io.

Häufige Fragen

Was ist rekursive Selbstverbesserung (RSI) in der KI?

Rekursive Selbstverbesserung (Recursive Self-Improvement, RSI) ist ein Prozess, in dem ein KI-System die Methoden verbessert, mit denen KI gebaut wird, sodass jede Generation die nächste besser hervorbringen kann. Im strengen Sinn ist dabei kein Mensch mehr in der Schleife nötig. Die Idee geht auf I. J. Good zurück, der 1965 eine „Intelligenzexplosion“ beschrieb, angetrieben von Maschinen, die bessere Maschinen entwerfen.

Ist RSI dasselbe wie Recursive Superintelligence?

Nein. RSI steht für rekursive Selbstverbesserung, also für ein Konzept. Recursive Superintelligence ist ein Unternehmen: ein Start-up, das von acht Forschern gegründet wurde, darunter Richard Socher und Tim Rocktäschel, und das am 13. Mai 2026 mit 650 Mio. US-Dollar Finanzierung an den Start ging, um dieses Konzept zu verfolgen. Der Ausdruck wird gelegentlich auch lose für eine Superintelligenz verwendet, die durch wiederholte Selbstverbesserung erreicht wird.

Wurde rekursive Selbstverbesserung bereits erreicht?

Im strengen Sinn nicht. In eng umrissenen Bereichen, in denen sich Ergebnisse automatisch bewerten lassen, haben Systeme wie AlphaEvolve, die Darwin Gödel Machine und AIDE² Algorithmen oder ihren eigenen Code verbessert. Eine im Oktober 2026 veröffentlichte RAND-Auswertung ergab, dass kein öffentlich bekanntes System seine eigene Forschungsagenda festlegt oder seinen eigenen Nachfolger entwirft. Menschen bestimmen weiterhin die Richtung und entscheiden, was ausgeliefert wird.

Welche Unternehmen arbeiten an rekursiver Selbstverbesserung?

Anthropic, OpenAI, Google DeepMind, Meta, Microsoft AI und xAI haben jeweils beschrieben, dass KI zur Entwicklung ihrer eigenen Modelle beiträgt. OpenAI hat sich das Ziel gesetzt, bis März 2028 einen automatisierten KI-Forscher zu haben. Zu den Start-ups, die sich um die Idee herum gegründet haben, zählen Recursive Superintelligence, Ricursive Intelligence und das RSI Lab von Sakana AI in Tokio sowie kleinere Unternehmen wie Adaption und Disarray.

Wie unterscheidet sich RSI von maschinellem Lernen oder Self-Play?

Beim gewöhnlichen maschinellen Lernen und beim Self-Play wird ein Modell besser, aber die Lernmethode bleibt unverändert und stammt von Menschen. Ein Schachprogramm, das sich durch Spiele gegen sich selbst verbessert, ist ein Beispiel. Bei rekursiver Selbstverbesserung wird die Methode selbst verbessert, und zwar von der KI: der Trainingscode, der Forschungsagent oder die Evaluierungspipeline. Das ist es, was Zugewinne sich aufschaukeln lässt.

Was ist der Unterschied zwischen RSI, einer Intelligenzexplosion und der Singularität?

RSI ist der Mechanismus: KI verbessert den Prozess, der KI baut. Eine Intelligenzexplosion ist das rasche Wachstum der Fähigkeiten, das folgen könnte, wenn sich diese Verbesserungen aufschaukeln; den Begriff führte I. J. Good 1965 ein. Die Singularität ist ein unschärferer Begriff für einen Punkt, jenseits dessen ein solches Wachstum die Zukunft schwer vorhersagbar macht. Skeptiker halten es für möglich, dass RSI eintritt, ohne eines von beidem auszulösen.

Wann könnte vollständige rekursive Selbstverbesserung kommen?

Das weiß niemand. OpenAI strebt bis März 2028 einen automatisierten KI-Forscher an, und Anthropic-Mitgründer Jack Clark sagte TIME, er sehe eine Wahrscheinlichkeit von 60 %, dass KI sich bis 2028 autonom selbst verbessert. Ein Papier von neun Ökonomen vom September 2026 schätzte, dass die heutigen Rückkopplungsschleifen sich noch nicht selbst tragen. Skeptiker erwarten, dass Grenzen bei Rechenleistung, Evaluierung und Forschungsurteil Menschen länger im Prozess halten.

Ist rekursive Selbstverbesserung gefährlich, und ist sie reguliert?

Labore, die RSI verfolgen, sprechen von ernsten Risiken: Menschen verlieren die Fähigkeit, sich schnell verändernde Systeme zu beaufsichtigen, Fehlausrichtung verstärkt sich über Modellgenerationen hinweg, und Schleifen lernen, ihre eigene Bewertung auszutricksen. OpenAI schrieb im September 2026, man wisse noch nicht, wie sich vollständige RSI sicher erreichen lässt. Stand November 2026 regelt kein Gesetz RSI ausdrücklich; ein Gesetzentwurf im US-Repräsentantenhaus, der sie einschränken würde, wurde im September 2026 angekündigt.