Es gibt gerade eine Bewegung, die verspricht, den Menschen aus der Schleife zu nehmen. Das Muster ist immer gleich. Man schiebt einen Plan durch mehrere KIs, lässt sie ihn gegenseitig zerlegen, schiebt das Ergebnis wieder zurück, und am Ende soll ein Konzept stehen, das so abgesichert ist, dass niemand mehr hinschauen muss. Gemini prüft Claude, Claude prüft Codex, alle sind sich einig. Das klingt nach doppelter Sicherheit. Ist es nicht.

Der Denkfehler steckt in der Annahme, drei Modelle seien drei unabhängige Meinungen.

Eine Studie von Kim und Kollegen (ICML 2025) hat über 350 Modelle untersucht. Ergebnis: Die Fehler verschiedener Modelle sind stark korreliert. Auf einem der Datensätze stimmten zwei Modelle in 60 Prozent der Fälle überein, in denen beide falsch lagen. Und, das ist der unbequeme Teil, gerade die größeren und besseren Modelle irren besonders gleichförmig, selbst über verschiedene Anbieter und Architekturen hinweg. Eine Arbeit von 2026 nennt das behavioral entanglement: Scheinbare Einigkeit ist oft ein Konsens aus geteilten Fehlern, keine unabhängige Prüfung. Modelle, die einander bewerten, neigen dazu, sich gegenseitig durchzuwinken.

Übersetzt heißt das: Ein Plan, der drei KIs überlebt hat, ist gut durchargumentiert. Gehärtet ist er nicht. Die drei teilen denselben blinden Fleck, weil er in denselben Trainingsdaten steckt. Sie finden denselben plausiblen Fehler nicht, weil er für alle drei plausibel aussieht. Am Ende steht ein selbstbewussterer Plan, kein sichererer.

Was Härten wirklich heißt

Härten heißt für mich etwas anderes. Etwas kann scheitern und tut es nicht. Ein Test wird rot. Ein ArchUnit-Bruch stoppt den Build. Ein Security-Gate hält oder lässt durch, es diskutiert nicht. Diese Leitplanken argumentieren nicht, sie fallen aus oder sie halten. Genau das bekommt man aus keinem KI-Rat, weil ein Rat nur reden kann. Leitplanken, die scheitern können, kosten Senior-Zeit und Senior-Wissen. Sie sind der Preis, den die Automatisierungs-Fantasie gerne überspringt.

Die Studie sagt das Gegenteil ihres Slogans

Interessant ist, dass die Studie, mit der diese Bewegung oft argumentiert, ihre stärkste These nicht hergibt. Ein typischer Aufmacher lautet: Manager mit starker Domänenkenntnis seien die besseren Programmierer. Das steht so nicht drin. Anthropic hat im Juni 2026 rund 400.000 Claude-Code-Sitzungen ausgewertet. Der Befund: Nicht die Programmierkenntnis trennt Erfolg von Misserfolg, sondern Domänenwissen und die Fähigkeit, das Ergebnis zu beurteilen. Der knappe Skill ist Verifikation. Aus „Programmierkenntnis wird weniger wichtig“ wird schnell „Programmieren können muss man nicht mehr“. Das ist ein Sprung, den die Zahlen nicht decken.

Und, das wird gern überlesen, die Studie hat menschlich gesteuerte Sitzungen gemessen, nicht die vollautonomen Läufe. Sie beschreibt also genau die Situation, in der ein Mensch im Sattel sitzt und prüft. Sie ist kein Beleg dafür, dass man ihn weglassen kann. Sie ist der Beleg dafür, dass man ihn braucht.

Domänenwissen sagt dir, was fachlich richtig ist. Es sagt dir nicht, wie die Architektur bricht. Das ist eine andere Frage, und sie bleibt Senior-Arbeit.

Warum der letzte Zug beim Menschen bleibt

Beim jetzigen Stand der Transformer-Modelle führt daran kein Weg vorbei. Halluzination ist keine Ausnahme, sondern eine Betriebsbedingung, und ein Modell sagt einem nicht, wann es rät. Je autonomer ein Setup wird, desto strenger müssen die menschlichen Kontrollpunkte werden, nicht lockerer.

Der Mensch ist nicht der Flaschenhals, den man wegautomatisiert. Er ist die Stelle, an der die Schleife den Boden der Realität berührt, und an der jemand unterschreibt, der die Konsequenzen trägt. Ein Modell kann keine tragen.

Deshalb bleibt der letzte Zug beim Menschen. Nicht aus Nostalgie, sondern aus Statik.

---

Quellen

• Correlated Errors in Large Language Models (Kim et al., ICML 2025): https://arxiv.org/abs/2506.07962
• How Independent are Large Language Models? (2026): https://arxiv.org/abs/2604.07650
• Agentic Coding and Persistent Returns to Expertise (Anthropic, Juni 2026): https://www.anthropic.com/research/claude-code-expertise