Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Die Nachvollziehbarkeit von KI-Anwendungen in der Medizin

Eine Betrachtung aus juristischer Perspektive mit Beispielszenarien
 
: Hänold, Stefanie; Schlee, Nelli; Antweiler, Dario; Beckh, Katharina

:

Medizinrecht : MedR 39 (2021), Nr.8, S.516-523
ISSN: 0723-8886 (Print)
ISSN: 1433-8629 (Online)
Bundesministerium für Bildung und Forschung BMBF (Deutschland)
01; ML2R
Bundesministerium für Gesundheit BMG
ZMVI1-2519DAT703
Deutsch
Zeitschriftenaufsatz
Fraunhofer IAIS ()

Abstract
Künstliche Intelligenz (KI) hat ein hohes Potenzial, die medizinische Versorgung zu verbessern. Eine große Rolle wird dabei die Nachvollziehbarkeit von KI-Anwendungen spielen, denn diese ermöglicht, die algorithmischen Prozesse besser zu verstehen. Der Beitrag befasst sich mit den verschiedenen Formen der Nachvollziehbarkeit von KI-Systemen und setzt diese für potenzielle KI-Anwendungen in der Notfallversorgung aus dem Projekt LOTTE in einen spezifischen Kontext. Das Verständnis für das Thema Explainable AI ist aus juristischer Perspektive von besonderer Relevanz, da die Nachvollziehbarkeit von KI-Technologien für die Einhaltung gesetzlicher Vorgaben des Medizinprodukterechts, des Datenschutzrechts sowie des AGG einen bedeutenden Faktor darstellt. Zwar wird die Nachvollziehbarkeit nicht direkt gesetzlich gefordert, das Erfordernis ergibt sich jedoch indirekt bzw. wird durch Nachvollziehbarkeit die Erfüllung gesetzlicher Vorgaben erheblich erleichtert.

: http://publica.fraunhofer.de/dokumente/N-640292.html