Wie kompatibel sind Künstliche Intelligenz und Sicherheit?

Abstract
Der Bedarf nach Automatisierung in komplexen Umgebungen und der damit verbundene Bedarf nach einer korrekten Umfeldwahrnehmung bring derzeitige Sicherheitskonzepte an ihre Grenzen. Der Einsatz von KI zur Erhöhung der Wahrnehmungsperformanz verstärkt hierbei diese Herausforderung noch durch die Einführung von zusätzlichen Arten an Unsicherheiten. In diesem Beitrag wird folglich die Möglichkeit zur Quantifizierung des durch funktionale Unzulänglichkeiten entstandenen Gefährdungsrisikos diskutiert und zusätzlich notwenige Absicherungsmaßnahmen aufgezeigt. Zudem wird in diesem Kontext der Einsatz von Simulationen als Mittel zur Erzeugung von Performanzevidenzen für KI-basierte Funktionen betrachtet.