Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Methoden zur Absicherung von KI-basierten Perzeptionsarchitekturen in autonomen Systemen

Wie kompatibel sind Künstliche Intelligenz und Sicherheit?
 
: Schleiß, Philipp; Kurzidem, Iwo

:
Volltext urn:nbn:de:0011-n-6217296 (216 KByte PDF)
MD5 Fingerprint: 62c0eac2a95e68286850eb7ef4e38fdb
Erstellt am: 28.1.2021


Embedded Software Engineering Kongress 2020 : 30.11.-04.12.2020, digital
Würzburg: Vogel, 2020
ISBN: 978-3-8343-2415-3
S.437-443
Embedded Software Engineering Kongress (ESE) <2020, Online>
Bayerisches Staatsministerium für Wirtschaft, Landesentwicklung und Energie StMWi

IKS-Aufbauprojekt
Deutsch
Konferenzbeitrag, Elektronische Publikation
Fraunhofer IKS ()
Perzeptionskette; perception chain; artificial intelligence; AI; Künstliche Intelligenz; KI; machine learning; maschinelles Lernen; ML; safety; automatisiertes Fahren; automated driving; Absicherung; Umfeldwahrnehmung; perception of environment; Sicherheitsanalyse; safety analysis; Safe Intelligence

Abstract
Der Bedarf nach Automatisierung in komplexen Umgebungen und der damit verbundene Bedarf nach einer korrekten Umfeldwahrnehmung bring derzeitige Sicherheitskonzepte an ihre Grenzen. Der Einsatz von KI zur Erhöhung der Wahrnehmungsperformanz verstärkt hierbei diese Herausforderung noch durch die Einführung von zusätzlichen Arten an Unsicherheiten. In diesem Beitrag wird folglich die Möglichkeit zur Quantifizierung des durch funktionale Unzulänglichkeiten entstandenen Gefährdungsrisikos diskutiert und zusätzlich notwenige Absicherungsmaßnahmen aufgezeigt. Zudem wird in diesem Kontext der Einsatz von Simulationen als Mittel zur Erzeugung von Performanzevidenzen für KI-basierte Funktionen betrachtet.

: http://publica.fraunhofer.de/dokumente/N-621729.html