• English
  • Deutsch
  • Log In
    Password Login
    Research Outputs
    Fundings & Projects
    Researchers
    Institutes
    Statistics
Repository logo
Fraunhofer-Gesellschaft
  1. Home
  2. Fraunhofer-Gesellschaft
  3. Anderes
  4. Agentische KI als neue Bedrohung
 
  • Details
  • Full
Options
September 2026
Paper (Preprint, Research Paper, Review Paper, White Paper, etc.)
Title

Agentische KI als neue Bedrohung

Title Supplement
15 Handlungspunkte für IT/OT-Cybersicherheit
Abstract
Bei einem von OpenAI durchgeführten Sicherheitstest konnte die getestete agentische KI aus der Sicherheitsumgebung ausbrechen und die Drittpartei Hugging Face kompromittieren, um die ihr gestellte Aufgabe zu lösen. Dieser Sicherheitsvorfall zeigt, dass hochentwickelte KI-Agenten in Kombination mit leistungsstarken KI-Frontier-Modellen autonome Exploit-Fähigkeiten mit weitreichenden Planungsfähigkeiten aufbauen können. Diese sind in der Lage, komplexe IT-Systeme und Anwendungen zu analysieren, dynamische Codeanalysen durchzuführen und Schutzmaßnahmen wie Sandboxing zu umgehen. Zudem können diese KI-Agenten nach neuen Zero-Day-Schwachstellen suchen, falls ein zuvor eingeschlagener Pfad zur Ausnutzung von Schwachstellen mit bekannten Exploits fehlschlägt. Um IT-/OT-Umgebungen vor solchen mit KI automatisierten Angriffen zu schützen, müssen Abwehrmaßnahmen über klassische Methoden wie ein reaktives Patch-Management hinausgehen. Es ist wichtig, dass sich Organisationen in der Cybersicherheit neu aufstellen. Methoden wie Priorisierung von Gegenmaßnahmen nach Risiko, Segmentierung, Governance für KI-Agenten sowie ein Monitoring von agentischer KI sind Schlüssel zur erfolgreichen Abwehr dieser neuen Gefahren. Im diesem Beitrag geben wir strategische Handlungsempfehlungen für IT/OT-Sicherheitsteams zum Umgang mit Gefahren durch KI-Agenten.
Author(s)
Ross, Mirko
asvin
Bohara, Rohit
asvin
Roßnagel, Heiko  
Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO  
Winterstetter, Matthias  
Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO  
Open Access
File(s)
Download (4.3 MB)
Rights
CC BY 4.0: Creative Commons Attribution
DOI
10.24406/publica-10713
Language
German
Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO  
Keyword(s)
  • Künstliche Intelligenz

  • KI-Agenten

  • Computersicherheit

  • IT-Sicherheit

  • Cybersecurity

  • Cookie settings
  • Imprint
  • Privacy policy
  • Api
  • Contact
© 2024