Die Falle der KI-Codegenerierung: Warum diesmal nicht alles anders ist

In den 1980er-Jahren waren es 4GL und CASE-Werkzeuge. In den 1990ern war es visuelle Programmierung. In den 2000ern war es Offshore-Entwicklung. In den 2010ern waren es Low-Code- und No-Code-Plattformen. Jetzt, in den 2020ern, ist es die KI-Codegenerierung.

Jede Welle kommt mit demselben Versprechen: Diesmal ist alles anders. Das ist es nie. Zu verstehen, warum, ist heute wichtiger denn je, denn dieser Fehler lässt sich künftig noch schneller und günstiger machen.

Code ist nicht der schwierige Teil

Der grundlegende Fehler besteht darin, Codeproduktion mit Softwareentwicklung zu verwechseln. Code zu schreiben ist der einfache Teil. Die eigentliche Arbeit liegt darin zu verstehen, was das System leisten muss, warum es sich auf bestimmte Weise verhält und wie es unter Belastung scheitert.

KI kann Code erzeugen. Sie kann Muster vervollständigen und Funktionen umschreiben. Aber sie versteht Ihr System nicht. Sie kennt weder Ihre Rahmenbedingungen noch Ihre Invarianten, Ihren Betriebsalltag oder die historischen Gründe für Entwurfsentscheidungen.

Sie erzeugt Ergebnisse, die korrekt aussehen. Das ist nicht dasselbe, wie korrekt zu sein.

KI denkt nicht

Diesen Punkt blenden viele Menschen gern aus. KI denkt nicht. Sie schlussfolgert nicht. Sie versteht nicht. Sie ist ein statistisches System, das anhand zuvor erkannter Muster das wahrscheinlichste nächste Token vorhersagt.

Es gibt keine Absicht, kein Bewusstsein und kein Verständnis für Konsequenzen. Sie kann nicht an sich selbst zweifeln. Sie kann nicht einen Schritt zurücktreten und fragen: „Ist das in diesem System überhaupt sinnvoll?“

Schlimmer noch: Sie liegt oft mit großer Selbstsicherheit falsch. Sie erzeugt sauberen, überzeugenden, gut strukturierten Code, der problemlos kompiliert — und dabei unbemerkt Annahmen verletzt, Invarianten bricht oder subtile Fehler einführt, die erst unter realen Bedingungen sichtbar werden.

Selbstsicherheit ohne Verständnis ist gefährlich — wenn man sie als Autorität behandelt.

Dieselbe Falle wie früher

Dieses Muster ist nicht neu. Es ähnelt der Outsourcing-Welle, die viele Unternehmen vor Jahren durchliefen. Die damalige Logik war einfach: Entwickler sind teuer, anderswo lässt sich günstiger programmieren, also geben wir die Arbeit ab und erhalten fertige Software zurück.

Das Ergebnis war oft vorhersehbar: Systeme, die technisch funktionierten, aber schlecht verstanden, schwer wartbar und schließlich praktisch unveränderbar waren. Aus dem billigsten Code wurde die teuerste Software.

KI bringt dasselbe Risiko in einer anderen Größenordnung mit sich. Sie beschleunigt die Codeproduktion, ohne das Verständnis zu vergrößern.

KI macht ähnliche Fehler wie Menschen — nur schneller

KI schafft keine neue Fehlerkategorie. Sie verstärkt eine bestehende. Sie macht dieselben Arten von Fehlern wie Menschen:

• Den Zusammenhang aus den Augen verlieren
• Die Absicht missverstehen
• Das Falsche optimieren
• Unauffällige Nebenwirkungen verursachen
• Sonderfälle übersehen
• Beim „Verbessern“ der Struktur das Verhalten verändern

Der Unterschied liegt in Geschwindigkeit und Menge. Daraus folgt eine einfache Regel, nach der erfahrene Entwickler bereits arbeiten:

Es spielt keine Rolle, woher sie stammt — von einer KI, einem Kollegen, Stack Overflow, einer Bibliothek oder Ihrer eigenen Tastatur. Wenn Sie sie übernehmen, liegt sie in Ihrer Verantwortung.

Zwei Arbeitsweisen, zwei Ergebnisse

Das eigentliche Problem ist nicht die KI selbst, sondern wie Teams sie einsetzen. Der Unterschied ist deutlich:

KI ist ein Werkzeug. Kein Entscheidungsträger und keine Autorität. Stellen Sie sie sich als einen sehr schnellen Kollegen vor, der gelegentlich etwas Nützliches sagt — und gelegentlich etwas völlig Falsches, mit absoluter Überzeugung.

Das eigentliche Risiko: schneller wachsende Komplexität

Die größte Auswirkung von KI sind nicht weniger Fehler, sondern die schnellere Entstehung komplexer Systeme. Und an Komplexität scheitert Software.

Die meisten Probleme im Produktivbetrieb entstehen nicht durch Syntaxfehler, sondern durch:

• Unklare Anforderungen
• Verletzte Annahmen
• Verborgene Abhängigkeiten
• Eine schwache Architektur
• Fehlende Verantwortung
• Unzureichende Tests

KI löst keines dieser Probleme. Eher sorgt sie dafür, dass Teams schneller an diesen Punkt gelangen.

Diesmal ist es nicht anders

Jede Generation glaubt, ihre Werkzeuge würden fundierte Entwicklungsarbeit überflüssig machen. Doch der Engpass war nie die Tippgeschwindigkeit. Er war immer das Verständnis.

KI verbessert Ersteres. Sie ersetzt Letzteres nicht.

Richtig eingesetzt, verstärkt sie unsere Leistungsfähigkeit erheblich. Blind eingesetzt, erzeugt sie genau das, was die Vergangenheit bereits gezeigt hat: große Systeme, die niemand versteht und niemand mehr anfassen möchte.