KI-LOK - Prüfverfahren für KI-basierte Komponenten im Eisenbahnbetrieb

Bestehende Verifikations- und Validierungsmethoden für KI-Systeme stoßen insbesondere bei sicherheitskritischen Anwendungen an ihre Grenzen, da sie die spezifischen Herausforderungen von Black-Box-Modellen und kontinuierlich lernenden Systemen unzureichend adressieren. Ziel des Projekts KI-LOK war die Entwicklung innovativer Testmethoden und Werkzeuge, um die Sicherheit und Zuverlässigkeit KI-basierter Bahntechniksysteme zu gewährleisten und den Zulassungsprozess durch robuste Prüfverfahren zu unterstützen. Das Projekt entwickelte mit der Perception-Lab Plattform ein System zur automatisierten Testdatengenerierung, das risikoorientierte und probabilistische Testansätze mit generativer KI und Ontologien kombiniert, um realitätsnahe Szenarien zu simulieren und Randfälle zu testen. Perception-Lab ermöglicht den automatisierten Test von kamerabasierten Perzeptionsdaten durch die simulative Erzeugung fotorealistischer, synthetischer Daten. Methoden wie das Pixel-wise Testing, der Einsatz probabilistischer Ontologien und die Nutzung generative KI erlauben eine systematische Testauswahl und zeigen Wege auf, den bestehenden Sim2Real-Gap, d.h. die systematischen Unterschiede zwischen Simulationsdaten und realen Daten, zu überwinden. Die Ergebnisse zeigen eine hohe Relevanz für die Praxis, einschließlich der Anwendbarkeit in sicherheitskritischen Industrien und der Unterstützung bei der Standardisierung und Zulassung KI-basierter Systeme. Die entwickelten Methoden und Werkzeuge zeigen einen vielversprechenden Ansatz für die Absicherung sicherheitskritischer KI-Systeme und sind auf andere Industrien wie Automobil oder Luftfahrt übertragbar.