KI-generierter Code: sicher im Kundenprojekt

Freitagnachmittag, ein Kunde braucht dringend ein Kontaktformular mit Datei-Upload und eine kleine Filterfunktion für den Produktkatalog. Früher hätte das ein halber Tag gekostet. Heute tippst du die Anforderung in Cursor oder Copilot, ein paar Sekunden später steht der Code da, sieht sauber aus, funktioniert im ersten Test. Feierabend. Was dabei niemand sieht: Ob dieser Code eine Sicherheitslücke enthält, die drei Wochen später zum Einfallstor für Angreifer wird.

Genau das ist die unbequeme Kehrseite des KI-gestützten Entwickelns. Die Werkzeuge sind schnell und produktiv – aber sie schreiben Code, der überraschend oft angreifbar ist. Für kleine Agenturen, die dutzende Kundenseiten gleichzeitig betreuen und selten ein eigenes Security-Team haben, ist das kein akademisches Problem. Es ist eine Haftungsfrage. Dieser Beitrag zeigt, wie groß das Risiko wirklich ist – und wie du weiter schnell bleibst, ohne unsicheren Code auszuliefern.

KI-generierter Code: schnell, aber erschreckend oft unsicher

Die bislang gründlichste Untersuchung dazu stammt vom Sicherheitsanbieter Veracode. Für seinen 2025 GenAI Code Security Report ließ das Unternehmen über 100 große Sprachmodelle 80 standardisierte Programmieraufgaben lösen und prüfte das Ergebnis mit statischer Code-Analyse. Das Resultat, veröffentlicht am 30. Juli 2025: In 45 Prozent der Fälle führte der KI-generierte Code eine bekannte Sicherheitslücke ein.

Besonders auffällig sind die Unterschiede zwischen den Programmiersprachen. Bei Java lag die Fehlerquote laut Veracode bei über 70 Prozent, bei Python, C# und JavaScript zwischen 38 und 45 Prozent. Und die Modelle patzten ausgerechnet bei den Klassikern: Cross-Site-Scripting (CWE-80) wurde in 86 Prozent der Fälle nicht sauber verhindert, Log-Injection (CWE-117) sogar in 88 Prozent.

Man könnte hoffen, dass das mit den neuen, größeren Modellen besser wird. Wird es nicht. In seinem Frühjahrs-Update 2026 vom 24. März 2026 kommt Veracode nach der Prüfung von inzwischen über 150 Modellen – darunter aktuelle Generationen von GPT, Gemini und Claude – zum selben Ergebnis: Die Sicherheitsquote stagniert bei rund 55 Prozent. Die Modelle schreiben also besser lesbaren und funktionaleren Code, ohne dabei sicherer zu werden. „Nearly half of all AI-generated code contains known security vulnerabilities when no security guidance is explicitly provided", fasst Veracode zusammen.

Warum das ausgerechnet kleine Agenturen trifft

Der entscheidende Halbsatz in diesem Zitat ist „when no security guidance is explicitly provided" – wenn keine Sicherheitsvorgaben gemacht werden. Genau das ist der Normalfall im Agentur-Alltag. Unter Zeitdruck beschreibt man dem Modell, was die Funktion tun soll, nicht, welche Angriffe sie abwehren muss. Das Modell liefert dann Code, der die Aufgabe erfüllt – und die Sicherheit stillschweigend übergeht.

Dazu kommt ein zweiter Effekt, den Veracodes Technikchef Jens Wessling „Vibe Coding" nennt: das Entwickeln, bei dem man dem Modell vertraut, ohne den Code noch vollständig zu durchdringen. Wer eine Funktion nicht selbst geschrieben hat, prüft sie erfahrungsgemäß auch weniger kritisch. Bei einer kleinen Agentur, in der dieselbe Person Konzept, Umsetzung und Abnahme macht, fehlt zudem das Vier-Augen-Prinzip, das in größeren Teams manchen Fehler abfängt.

Das tückische daran: Die vermeintliche Geschwindigkeit ist teilweise eine Illusion. Eine viel beachtete METR-Studie zeigte, dass erfahrene Entwickler mit KI-Werkzeugen sogar langsamer wurden – ein Effekt, den wir im Beitrag zur Produktivität in der KI-Webentwicklung ausführlich beleuchtet haben. Rechnet man die Zeit für das nachträgliche Absichern und Debuggen ein, schrumpft der Zeitvorteil weiter.

Nicht nur Custom-Code: wo KI überall mitschreibt

Es wäre ein Denkfehler, das Thema auf große Individualprojekte zu beschränken. KI-Code sickert an vielen Stellen in den Agentur-Alltag ein: der schnelle Funktions-Schnipsel für die functions.php eines WordPress-Themes, ein selbstgebautes Snippet statt eines Plugins, ein Stück JavaScript für einen Slider, eine kleine Schnittstelle zu einem Zahlungsdienst. Gerade diese unscheinbaren Bausteine landen oft ohne Review direkt in Kundenprojekten – und genau dort sitzen die Eingabefelder, Uploads und Datenbankzugriffe, bei denen KI-Modelle laut Veracode am häufigsten patzen. Wer mit Baukästen wie Lovable ganze Seiten generiert, übernimmt zudem Code, den er nie zu Gesicht bekommt.

Wer haftet, wenn die Lücke auffliegt?

Das ist der Punkt, der aus einem technischen ein wirtschaftliches Risiko macht. Wer als Agentur eine Website als Werk abliefert, schuldet in der Regel ein mangelfreies Ergebnis – und eine gravierende, vermeidbare Sicherheitslücke kann ein solcher Mangel sein. Dass die KI den Code geschrieben hat, ist dabei keine Entschuldigung: Verantwortlich ist, wer ausliefert. Umso wichtiger ist es, im Angebot und im Wartungsvertrag klar zu regeln, welche Sicherheitsleistungen enthalten sind, wie mit später bekannt werdenden Lücken umgegangen wird und wo die Grenzen deiner Zuständigkeit liegen. Das schützt beide Seiten – und macht aus einem diffusen Haftungsgefühl eine planbare Leistung.

Was schiefgehen kann – konkret

Die abstrakten CWE-Nummern werden greifbar, wenn man sie in den Agentur-Alltag übersetzt. Cross-Site-Scripting bedeutet, dass ein Angreifer über ein Eingabefeld – das Kontaktformular vom Freitagnachmittag – Schadcode einschleust, der dann im Browser anderer Besucher ausgeführt wird. SQL-Injection erlaubt im schlimmsten Fall den Zugriff auf die komplette Datenbank samt Kundendaten. Und eine unsichere Datei-Upload-Funktion kann zum direkten Weg werden, Schadsoftware auf den Server zu bringen.

Jede dieser Lücken ist mehr als ein technisches Ärgernis. Werden dabei personenbezogene Daten kompromittiert, steht schnell die Meldepflicht nach Art. 33 DSGVO im Raum – mit einer 72-Stunden-Frist und unangenehmen Gesprächen mit dem Kunden. Und weil moderne Websites zu großen Teilen aus fremden Bibliotheken bestehen, verschärft sich das Bild noch: Ein einziger Supply-Chain-Angriff auf npm-Pakete kann Code verseuchen, den weder du noch die KI je zu Gesicht bekommen haben.

So bleibst du schnell und lieferst trotzdem sicheren Code

Die Lösung ist nicht, auf KI-Werkzeuge zu verzichten – das wäre weltfremd und würde dich langsamer machen als die Konkurrenz. Die Lösung ist, ein paar Routinen einzuziehen, die das Sicherheitsnetz spannen, ohne den Workflow zu ersticken.

Sicherheit in den Prompt schreiben

Der billigste Hebel ist die Aufforderung selbst. Wer dem Modell explizit sagt, dass Eingaben validiert, Ausgaben maskiert und Datenbankabfragen mit vorbereiteten Statements abgesichert werden sollen, bekommt spürbar besseren Code. Veracodes Kernbefund gilt ausdrücklich für den Fall ohne Sicherheitsvorgaben – gib welche, und die Quote verbessert sich.

Automatisierte Prüfung als Pflichtschritt

Baue einen Sicherheits-Scan fest in deinen Ablauf ein, statt ihn dem guten Willen zu überlassen. Statische Analysewerkzeuge (SAST) und Abhängigkeits-Scanner wie npm audit finden einen Großteil der typischen Muster automatisch. Am wirksamsten sind sie, wenn sie direkt in der Entwicklungsumgebung oder in einer Deployment-Pipeline laufen und ein rotes Licht geben, bevor der Code live geht.

Code-Review, gerade beim Schnellschuss

Nimm dir für jede KI-generierte Funktion, die mit Nutzereingaben, Dateien oder der Datenbank arbeitet, bewusst die Zeit zum Gegenlesen. Du musst nicht jede Zeile selbst schreiben – aber du musst verstehen, was sie tut. Ein guter Prüfstein: Frage die KI im zweiten Schritt, welche Sicherheitsrisiken ihr eigener Code hat. Oft deckt sie die Lücken auf, die sie zuvor eingebaut hat.

Die Basics nicht vergessen

Vieles fängt schon außerhalb des Codes ab. Sauber gesetzte HTTP-Security-Header wie eine Content-Security-Policy entschärfen selbst dann noch Angriffe, wenn eine XSS-Lücke durchgerutscht ist. Sie sind gratis, schnell gesetzt und ein sinnvoller Teil jeder Abnahme.

Fazit: Vertrauen ist gut, Belegen ist besser

Es gibt eine schöne Parallele zwischen sicherer KI-Entwicklung und einem gut gebauten KI-Chatbot: Beide taugen nur, wenn man ihnen nicht blind glaubt. Ein verlässlicher Chatbot antwortet nur, was er in geprüften Inhalten belegen kann, statt zu halluzinieren – und guter KI-Code verdient dasselbe Misstrauen, das man mit Prüfung und Review in Sicherheit verwandelt.

Für deine Agentur heißt das: Die 45-Prozent-Zahl ist kein Grund zur Panik, sondern eine Arbeitsanweisung. Wer Sicherheit in den Prompt schreibt, automatisiert prüft und die riskanten Funktionen gegenliest, behält den Geschwindigkeitsvorteil der KI – und liefert trotzdem Code, für den er am Freitagabend geradestehen kann.