Options
September 2026
Paper (Preprint, Research Paper, Review Paper, White Paper, etc.)
Title
Agentische KI als neue Bedrohung
Title Supplement
15 Handlungspunkte für IT/OT-Cybersicherheit
Abstract
Bei einem von OpenAI durchgeführten Sicherheitstest konnte die getestete agentische KI aus der Sicherheitsumgebung ausbrechen und die Drittpartei Hugging Face kompromittieren, um die ihr gestellte Aufgabe zu lösen. Dieser Sicherheitsvorfall zeigt, dass hochentwickelte KI-Agenten in Kombination mit leistungsstarken KI-Frontier-Modellen autonome Exploit-Fähigkeiten mit weitreichenden Planungsfähigkeiten aufbauen können. Diese sind in der Lage, komplexe IT-Systeme und Anwendungen zu analysieren, dynamische Codeanalysen durchzuführen und Schutzmaßnahmen wie Sandboxing zu umgehen. Zudem können diese KI-Agenten nach neuen Zero-Day-Schwachstellen suchen, falls ein zuvor eingeschlagener Pfad zur Ausnutzung von Schwachstellen mit bekannten Exploits fehlschlägt. Um IT-/OT-Umgebungen vor solchen mit KI automatisierten Angriffen zu schützen, müssen Abwehrmaßnahmen über klassische Methoden wie ein reaktives Patch-Management hinausgehen. Es ist wichtig, dass sich Organisationen in der Cybersicherheit neu aufstellen. Methoden wie Priorisierung von Gegenmaßnahmen nach Risiko, Segmentierung, Governance für KI-Agenten sowie ein Monitoring von agentischer KI sind Schlüssel zur erfolgreichen Abwehr dieser neuen Gefahren. Im diesem Beitrag geben wir strategische Handlungsempfehlungen für IT/OT-Sicherheitsteams zum Umgang mit Gefahren durch KI-Agenten.
Author(s)
Open Access
File(s)
Rights
CC BY 4.0: Creative Commons Attribution
Language
German