Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Use of AI-Based Solutions in Safety-Critical Applications

Presentation held at FutureCar Innovation Network Meeting, 22.-23.10.2019, Wien
 
: Seydel, Dominique

:
presentation urn:nbn:de:0011-n-5720667 (2.1 MByte PDF)
MD5 Fingerprint: 2d41d8eae6b2eeffcc3e1a2853a04e62
Created on: 9.1.2020


2019, 17 Folien
FutureCar Innovation Network Meeting <2019, Wien>
English
Presentation, Electronic Publication
Fraunhofer ESK ( IKS) ()
Künstliche Intelligenz; artificial intelligence; Absicherung; safety; Architektur; autonomes Fahren; autonomous driving

Abstract
Der größte Nachteil für den zuverlässigen Einsatz einer KI in sicherheitskritischen Anwendungen ist, dass einzelne Lernschritte eines Neuronalen Netzes nicht von Menschen interpretiert werden können, um die Sicherheit zu gewährleisten. Ein Safety-Nachweis ist aber notwendig, um KI-basierte Fahrzeuge überhaupt zulassen zu können, aufgrund von Haftungsfragen und auch aufgrund der Verantwortung der Fahrzeughersteller gegenüber ihren Kunden und anderen Verkehrsteilnehmern. KI-basierte Lösungen erfordern daher neue Ansätze, um die Zuverlässigkeit des Fahrzeugs in jeder Fahrsituation und sein ausfallsicheres Verhalten zu gewährleisten. Herkömmliche Safety-Ansätze können nicht direkt auf KI-basierte Systeme übertragen werden, da KI-basierte Lösungen auf grundlegend andere Art entwickelt werden. Dieser Vortrag gibt einen Einblick in robuste Softwarearchitekturen, die in zuverlässigen autonomen Systemen eingesetzt werden können. Die vorgestellte Safety-Architektur für KI-basierte Systeme setzt auf mehreren Ebenen Absicherungsmechanismen um. Einerseits können dadurch der KI mehr Handlungsspielraum gegeben werden als bei Worst-case Betrachtungen und andererseits werden aus dem Neuronalen Netz selbst zusätzliche Qualitäts-Eigenschaften nutzbar gemacht, die einen Qualitätsnachweis des KI-basierten Systems ermöglichen.

: http://publica.fraunhofer.de/documents/N-572066.html