Künstliche Intelligenz in sicherheitskritischen Anwendungen

Künstliche Intelligenz verspricht nie dagewesene Möglichkeiten. Sie stößt allerdings dort an ihre Grenzen, wo sie auf hohe Sicherheitsanforderungen im Sinne von Safety trifft. Das heißt: Im schlimmsten Fall kann ein Fehler der KI Menschenleben kosten. Dies stellt sowohl die Forschung als auch die Industrie vor große Herausforderungen, wie das Beispiel autonomes Fahren zeigt. Zwar gibt es sehr viele Prototypen, die das enorme Potenzial der KI aufzeigen. Aber selbst große Tech-Unternehmen schieben die Markteinführung immer weiter nach hinten - aufgrund fehlender Möglichkeiten eines belastbaren Sicherheitsnachweises. Auch die industrielle Fertigung ist auf eine verlässliche KI angewiesen. Wenn aufgrund von Fehlentscheidungen der KI Produktionsanlagen stillstehen oder fehlerhafte Produkte ausgeliefert werden, drohen enorme finanzielle Verluste. Künstliche Intelligenz für praktische Anwendungen absichern - das steht im Mittelpunkt des Vortrags. Der Referent erklärt, warum bestehende Verfahren oder auch häufig diskutierte Ansätze zur Absicherung autonomer Autos nicht ausreichen. Zur Sprache kommen Konzepte, wie sichere und zuverlässige KI-basierte Systeme entwickelt werden können: durch Verbesserung der KI-Verfahren selbst, aber auch durch Verfahren und Architekturen, die sicherstellen, dass das System trotz Fehler der KI sicher und zuverlässig funktioniert. Zuletzt zeigt ein Ausblick, wie Künstliche Intelligenz trotz dieser Herausforderungen auch heute schon in sicherheitskritischen Anwendungen zum Einsatz kommt.