In dem Beitrag „Die Nachvollziehbarkeit von KI-Anwendungen in der Medizin — Eine Betrachtung aus juristischer Perspektive mit Beispielszenarien“ (MedR 2021, 516—523) untersuchen Stefanie Hänold und Nelli Schlee zusammen mit Dario Antweiler und Katharina Beckh die Nachvollziehbarkeit von KI-Anwendungen anhand ausgewählter Anwendungsszenarien in der Notfallversorgung aus dem unter IRI-Beteiligung durchgeführten Forschungsprojekt LOTTE [Leitsystem zur Optimierung der Therapie traumatisierter Patienten und Patientinnen bei der Erstbehandlung]. Das Verständnis für das Thema „Explainable AI“ ist aus juristischer Perspektive von besonderer Bedeutung, denn die Nachvollziehbarkeit von KI-Technologien spielt für die Einhaltung gesetzlicher Regelungen des Medizinprodukterechts, des Datenschutzrechts sowie des AGG eine wichtige Rolle, da sie entweder mittelbar gesetzlich gefordert wird oder die Erfüllung gesetzlicher Vorgaben wesentlich erleichtert.
Der Beitrag gibt nicht nur einen Überblick zu relevanten gesetzlichen Normen zum Thema Nachvollziehbarkeit von KI in der Medizin, ebenso finden sich auch Ausführungen zu technischen Aspekten, deren Verständnis Voraussetzung für die rechtliche und ethische Bewertung ist.
