Künstliche Intelligenz (KI) gehört zum Klinikalltag: Zunehmend stützen sich medizinische Entscheidungen auf ausgeklügelte Algorithmen und selbstlernende Systeme. Umso wichtiger ist es, damit einhergehende ethische und rechtliche Fragen zu klären.
Algorithmen und KI-gestützte Systeme haben immer größeren Anteil an ärztlichen Entscheidungen. Wie vertrauenswürdig und transparent aber sind solche Systeme?
ADDICTIVE CREATIVES/Stocksy/Adobe
vALID – Klinische Entscheidungsfindung durch Künstliche Intelligenz. Ethische, rechtliche und gesellschaftliche Herausforderungen
KI-gestützte Anwendungen werden in der klinischen Entscheidungsfindung immer wichtiger. Datenanalysen zum Beispiel können das Verständnis von Krankheiten grundlegend verändern, denn je mehr Daten Ärztinnen und Ärzte – auch mithilfe KI-gestützter Systeme – analysieren können, desto präziser können sie Patientinnen und Patienten beraten und behandeln. Umgekehrt können auch Patientinnen und Patienten sich dank der Digitalisierung besser informieren und damit stärker als zuvor in ärztliche Entscheidungen einbringen. Dies wird die Rolle von Behandelnden und Betroffenen verändern.
Das Projekt vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. Mit Hilfe einer empirischen Fallstudie gehen die Wissenschaftlerinnen und Wissenschaftler u. a. der Frage nach, wie vertrauenswürdig und transparent solche komplexen Systeme sind. Welche Personen und Berufsgruppen sind wie und warum an der Entscheidungsfindung beteiligt? Und wer übernimmt am Ende die Verantwortung für Entscheidungen und Resultate, die durch klinische KI beeinflusst sind? Hierzu entwickeln die beteiligten Forschergruppen Versuchsmodelle (sog. Mock-up-Simulationen), um die Einstellung von Behandelnden und Betroffenen zu einer Bandbreite von Designs und Implementierungen systematisch zu erfassen.
Politischen Entscheidungsträgern und Aufsichtsbehörden, aber auch wichtigen Stakeholdern wie Programmierern, Entwicklern und Anwendern soll vALID Leitlinien an die Hand geben. In der akademischen Welt sollen die Projektergebnisse in Fachzeitschriften und auf internationalen Konferenzen präsentiert werden. Auch Patientinnen und Patienten sowie die breite Öffentlichkeit sind wichtige Zielgruppen von vALID. Sie benötigen Informationen und Bildungsangebote darüber, wie KI-Instrumente die klinische Versorgung und Formen von Souveränität verändern. Publikationen zu diesen Themenstellungen sollen daher nach Möglichkeit offen zugänglich gemacht werden.
Weitere Informationen
https://cris.fau.de/converis/portal/Project/234867136?auxfun=&lang=de_DE
Förderinitiative: Forschung zu ethischen, rechtlichen und sozialen Aspekten (ELSA) der Digitalisierung, von Big Data und Künstlicher Intelligenz in der Gesundheitsforschung und -versorgung
Projektvolumen: 765.000 Euro
Projektlaufzeit: 01.11.2019-31.10.2022
Projektleitung:
Prof. Dr. Peter Dabrock
Philosophische Fakultät und Fachbereich Theologie – Institut für Systematische Theologie – Lehrstuhl für Systematische Theologie II (Ethik)
Friedrich-Alexander-Universität Erlangen-Nürnberg
Kochstr. 6
91054 Erlangen
09131 85-22724
peter.dabrock@fau.de
Projektpartner:
Prof. Dr. Susanne Beck, Leibniz Universität Hannover – Juristische Fakultät
Prof. Dr.-Ing. Sebastian Möller, Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) – Sprachtechnologie
Prof. Dr. med. Klemens Budde, Charité – Universitätsmedizin Berlin – Medizinische Klinik mit Schwerpunkt Nephrologie und Internistische Intensivmedizin
