Cybersecurity im KI-Zeitalter: KI ist Waffe und Schild zugleich

Wer Geschäftsprozesse mit KI digitalisiert, vergrößert die eigene Angriffsfläche — KI ist im Zeitalter der Digitalisierung Waffe und Schild zugleich. Beim eigenen KI-generierten Code gilt aber vor allem eines: Er enthält keine neuartigen Sicherheitslücken, er verstärkt die altbekannten OWASP-Kategorien nur mit höherer Frequenz.

Wie stark, zeigt Veracodes GenAI Code Security Report: Ohne Sicherheitskontext wählte die KI in 45 Prozent der getesteten Aufgaben die unsichere Codevariante, bei Java sogar in 72 Prozent der Fälle. Besonders anfällig sind Cross-Site-Scripting (86 Prozent Fehlerquote) und Log Injection (88 Prozent) — SQL Injection beherrschen die Modelle mit 20 Prozent Fehlerrate noch am besten.

Der wichtige Vorbehalt dazu: Das ist eine Trefferquote in einem bewusst schwachstellenanfälligen Testset, keine Populationsquote für allen KI-generierten Code — und sie sinkt drastisch, sobald Methodik ins Spiel kommt. Schon eine generische Anweisung, Best Practices zu befolgen, halbiert die Schwachstellenrate auf rund 20 bis 22 Prozent; mit zusätzlichem SAST-Gate und menschlichem Code-Review landet sie im einstelligen Prozentbereich — vergleichbar mit Best-Practice-Teams, aber bei deutlich weniger Aufwand. Der Unterschied liegt nicht in der Technologie, sondern in der Methode.

KI macht nicht automatisch sicher. Aber KI macht gute Sicherheitspraktiken skalierbar — vorausgesetzt, jemand verankert sie auch in Prompts, Prüfschritten und Code-Review, statt sich auf das Modell allein zu verlassen.

→ Mehr zum Buch und zum Kapitel „Cybersecurity im KI-Zeitalter”