Use of AI-Based Solutions in Safety-Critical Applications

Der größte Nachteil für den zuverlässigen Einsatz einer KI in sicherheitskritischen Anwendungen ist, dass einzelne Lernschritte eines Neuronalen Netzes nicht von Menschen interpretiert werden können, um die Sicherheit zu gewährleisten. Ein Safety-Nachweis ist aber notwendig, um KI-basierte Fahrzeuge überhaupt zulassen zu können, aufgrund von Haftungsfragen und auch aufgrund der Verantwortung der Fahrzeughersteller gegenüber ihren Kunden und anderen Verkehrsteilnehmern. KI-basierte Lösungen erfordern daher neue Ansätze, um die Zuverlässigkeit des Fahrzeugs in jeder Fahrsituation und sein ausfallsicheres Verhalten zu gewährleisten. Herkömmliche Safety-Ansätze können nicht direkt auf KI-basierte Systeme übertragen werden, da KI-basierte Lösungen auf grundlegend andere Art entwickelt werden. Dieser Vortrag gibt einen Einblick in robuste Softwarearchitekturen, die in zuverlässigen autonomen Systemen eingesetzt werden können. Die vorgestellte Safety-Architektur für KI-basierte Systeme setzt auf mehreren Ebenen Absicherungsmechanismen um. Einerseits können dadurch der KI mehr Handlungsspielraum gegeben werden als bei Worst-case Betrachtungen und andererseits werden aus dem Neuronalen Netz selbst zusätzliche Qualitäts-Eigenschaften nutzbar gemacht, die einen Qualitätsnachweis des KI-basierten Systems ermöglichen.