Der Kern in einem Satz: KI beschleunigt heute schon die Entwicklung von KI. Und der Punkt, an dem sich Systeme selbst verbessern, könnte früher kommen, als die meisten Institutionen darauf vorbereitet sind.
Was Anthropic sagt.
Drei Aussagen kann ich nachvollziehen.
Heute schon messbar. KI beschleunigt bereits die Entwicklung von KI – kein Zukunftsszenario, sondern Gegenwart. Hält der Trend an, wird rekursive Selbstverbesserung zu einer realen Möglichkeit. Und das Entscheidende: Gesellschaften sollten nicht erst reagieren, wenn dieser Punkt erreicht ist.
Das ist nicht aus der Luft gegriffen. Anthropic legt eigene Zahlen offen: Im Mai 2026 stammten über 80 Prozent des in den eigenen Code eingespielten Codes von Claude selbst. Vor zwei Jahren waren das noch ein paar Prozent. Ein Entwickler liefert heute rund das Achtfache an Code pro Quartal wie 2021 bis 2024. Die Maschine schreibt zunehmend an ihrem eigenen Nachfolger mit.
Das mögliche Schlaraffenland.
Selbstverbessernde KI könnte wissenschaftliche Entdeckungen beschleunigen. Krankheiten schneller heilen. Energieprobleme lösen. Technische Innovation massiv vorantreiben.
Im besten Fall erlebte die Menschheit Jahrzehnte oder Jahrhunderte Fortschritt in kurzer Zeit. Das ist die verlockende Seite – und sie ist real, nicht nur Marketing.
Die andere Zukunft.
Entwickelt KI ihre Nachfolger selbst, entstehen neue Probleme. Menschen verstehen die Systeme immer weniger. Die Entwicklung wird schwerer zu überwachen. Fehler könnten sich schneller ausbreiten. Sicherheitsmaßnahmen könnten nicht mithalten.
Wir könnten einen Punkt erreichen, an dem die Entwicklungsgeschwindigkeit größer wird als unsere Fähigkeit zur Kontrolle. Genau das kennen wir vom Zauberlehrling: „Die ich rief, die Geister, werd ich nun nicht los."
So oder so: Koordination wird zur Notwendigkeit
Egal welcher der beiden Wege eintritt – die Bedeutung von internationaler Koordination, Verifikation, Governance und gesellschaftlicher Vorbereitung steigt. Nein: Sie wird zur Notwendigkeit.
Anthropic ist hier bemerkenswert ehrlich. Ein Trainingslauf lässt sich leichter verbergen als ein Raketensilo. Und der Anreiz, heimlich weiterzumachen? Enorm. Wer pausiert, fällt zurück. Wer rücksichtslos weitermacht, übernimmt den Markt. Anthropic will deshalb nur dann verlangsamen oder pausieren, wenn andere führende Labore das nachprüfbar ebenfalls tun.
Ohne Verifikation gewinnt am Ende, wer im Stillen weiterbaut. Gut vorstellbar.
Kann ich trotzdem am Wochenende ausspannen und gut schlafen?
In solchen existenziellen Momenten – und das ist einer, in meinen Augen – bin ich froh, dass ich Christ bin. Der „alte Meister" (ich bin noch bei Goethe) wird den Besen am Ende in die Ecke stellen, da bin ich mir sicher.
Die Bibel hat selten Angst vor Wissen selbst. Ihre Sorge ist fast immer eine andere: Können Charakter, Weisheit und Verantwortung mit der Macht Schritt halten?
Beim Turmbau zu Babel (Genesis 11) musste deshalb die einsetzende Sprachverwirrung das ambitionierte Projekt stoppen – „eine Stadt und einen Turm, dessen Spitze bis an den Himmel reiche". Anthropic formuliert es technischer: Können Governance, Alignment und Institutionen mit den Fähigkeiten Schritt halten?
Strukturell ist die Frage erstaunlich ähnlich. Das tröstet mich. Siehe oben.
Quelle: Anthropic Institute (Marina Favaro & Jack Clark), „When AI builds itself", 4. Juni 2026 – anthropic.com/institute/recursive-self-improvement
Und wenn Sie über die Auswirkungen von KI auf Ihr Unternehmen oder Ihren Verein sprechen wollen: Das erste Gespräch ist kostenlos.