Neue KI-Technologien wie KI-Agenten und KI-Code-Assistenten haben die Softwareentwicklung verändert, sie bringen zugleich neue Bedrohungen mit sich. Angreifer können sich diese Tools zunutze machen, um ihre Attacken effizienter und schneller auszuführen.
Vor allem durch die Fähigkeit der KI, authentifizierte Zugänge und Identitäten zu imitieren, eröffnen sich neue Möglichkeiten für Cyberkriminelle. Sie können mithilfe von KI-Systemen legitime Benutzerinteraktionen simulieren, um Authentifizierungsverfahren zu umgehen und sich unbemerkt in Netzwerke oder Systeme einzuschleusen.
Ein weiteres Problem besteht darin, dass Angreifer KI verwenden können, um sich als vertrauenswürdige Quellen auszugeben. Indem sie ihre Angriffe in den Output eines KI-Systems einbetten, können sie ihre Aktivitäten verschleiern und so die Integrität des Systems kompromittieren. Besonders kritisch wird dies, wenn KI-gestützte Code-Assistenten wie GitHub Copilot oder OpenAI Codex verwendet werden, da diese Werkzeuge auch schädlichen Code generieren können, der auf den ersten Blick harmlos erscheint. Angreifer können gezielt Schwachstellen in von der KI generiertem Code einbauen, ohne dass dies sofort auffällt.
Mangelnde Prüfungen für Sicherheitslücken
Rigorose Prüfungen für KI-generierten Code umfassen umfassende Tests auf Funktionalität, Sicherheit und Effizienz. Diese Prüfungen beinhalten Unit-Tests, Code-Reviews durch Experten, statische Code-Analysen und Laufzeitüberwachung. Ziel ist es, Fehler, Sicherheitslücken und unvorhergesehene Verhaltensweisen frühzeitig zu erkennen, um qualitativ hochwertigen, verlässlichen Code sicherzustellen.
Ein besonderes Risiko besteht darin, dass KI-generierter Code oft nicht die gleichen rigorosen Prüfungen durchläuft wie von Menschen geschriebener Code. Dies kann dazu führen, dass potenzielle Sicherheitslücken übersehen werden. Wenn Angreifer Zugriff auf solche KI-Systeme erhalten, könnten sie schädliche Algorithmen verbreiten, die in vielen Projekten unbemerkt zum Einsatz kommen. Die Gefahr besteht nicht nur in der Schwachstelle selbst, sondern auch darin, dass KI den Angreifern hilft, Sicherheitslücken schneller zu identifizieren und auszunutzen.
KI-Agenten und KI-Code-Assistenten befinden sich auf Abwegen. Insgesamt verdeutlichen diese Entwicklungen, dass der Einsatz von KI-Technologien zwar viele Vorteile bietet, jedoch auch eine verstärkte Auseinandersetzung mit den dadurch entstehenden Sicherheitsrisiken erfordert. Die Herausforderung besteht darin, geeignete Schutzmechanismen zu entwickeln, um die Integrität von Systemen und Codes zu gewährleisten.
Autor: Wolf-Dietrich Lorenz
Foto: Adobe stock / printarist
