Verbund

HYBRIDMIND - Untersuchung empirischer, ethischer und rechtlicher Aspekte intelligenter Neuroprothesen

Neuroprothesen sind elektronische Bauteile, die eine Schnittstelle zum Gehirn darstellen, um krankheitsbedingt ausgefallene Nervenfunktionen wiederherzustellen oder zu ersetzen. Eine neue Generation solcher Geräte nutzt zur Funktionsoptimierung auch intelligente Algorithmen, um Gehirn-Daten zu verarbeiten und menschliche Funktionen zu unterstützen. Neben Bewegungskontrolle können sie auch z. B. sensorische oder emotionale Funktionen unterstützen. Prototypen solcher Geräte werden experimentell bereits eingesetzt.

Das Verbundprojekt HYBRIDMIND ist Teil der BMBF-Fördermaßnahme „Multinationale Forschungsprojekte zu ethischen, rechtlichen und sozialen Aspekten der Neurowissenschaften“ im Rahmen des ERA-NET NEURON. Es untersucht Verbindungen des menschlichen Geistes mit künstlicher Intelligenz (KI) durch sog. intelligente Neuroprothesen, die als hybrider Geist (Hybrid Mind) bezeichnet werden. Dabei wird ethischen und rechtlichen Fragestellungen nachgegangen und Regulierungsbedarfe werden diskutiert. Wenn der Geist von Nutzern mit selbstlernenden KI-Mechanismen gekoppelt ist, wie verändert sich dann deren Selbstverständnis oder die Verantwortlichkeit auf das Handeln? Wie sollen selbstlernende Algorithmen programmiert sein, um Schaden zu vermeiden? Dazu werden in Deutschland und der Schweiz Nutzer intelligenter Neuroprothesen zu Erfahrung und psychischen Effekten befragt. Diese Daten werden mit Forschenden der Neurotechnologien sowie Ärztinnen und Ärzten eingehend diskutiert. Ziel ist es, Leitfäden zum ethischen Umgang mit Neuroprothesen und für deren verantwortungsvolle Entwicklung zu erarbeiten und Informationen für die Öffentlichkeit bereitzustellen.

In dem Projekt arbeiten zwei deutsche Partner mit einer kanadischen Koordinatorin und einem Partner aus der Schweiz interdisziplinär zusammen. Dabei tragen die deutschen Vorhaben mit der Patientenbefragung sowie mit der Untersuchung ethischer und rechtlicher Fragen zum Verbundprojekt bei.

Teilprojekte

Rechtsethisches Teilprojekt

Förderkennzeichen: 01GP2121A
Gesamte Fördersumme: 224.595 EUR
Förderzeitraum: 2021 - 2024
Projektleitung: Dr. Jan Christoph Bublitz
Adresse: Universität Hamburg, Fakultät für Rechtswissenschaft
Rothenbaumchaussee 33
20148 Hamburg

Rechtsethisches Teilprojekt

Das Verbundprojekt HYBRIDMIND untersucht Verbindungen des menschlichen Geistes mit künstlicher Intelligenz (KI) durch sogenannte intelligente Neuroprothesen. Forschungsgegenstand sind zum einen die Erfahrungen der ersten Nutzer solcher derzeit experimenteller Geräte, die in drei Standorten (Berlin, Zürich, Ottawa) durch qualitative und phänomenologische Interviews erhoben werden. Zum anderen werden ethische und rechtliche Fragen dieser neuartigen Form der Mensch-Maschine Interaktion mittels rechtswissenschaftlicher und philosophischer Methodik untersucht. Drei Themengebiete stehen im Vordergrund: Menschenrechte und Neurotechnologien; Manipulation und Transparenz; Handlungskompetenz und Verantwortlichkeit. Neuroprothesen sind Geräte, die neuronale Signale des menschlichen Gehirns erfassen und analysieren und an externe Geräte weitergeben, oder in das Gehirn etwa durch Stimulation intervenieren. HYBRIDMIND ist die erste systematische normative und philosophische Analyse des bedeutenden gegenwärtigen Entwicklungsschritts, der funktionalen Integration KI-betriebener Neurotechnologie mit dem menschlichen Geist, dessen Resultat hier unter dem Arbeitstitel Hybrid Mind, hybrider Geist, untersucht werden soll. Die Erkenntnisziele des Projekts liegen a) in einer genaueren Konzeptualisierung des Phänomens eines hybriden Geists aus natürlicher und künstlicher Intelligenz, b) dem Verständnis der Interaktion zwischen Nutzern und selbst-lernenden KI-Mechanismen, die funktional mit ihrem Geist gekoppelt sind, und den Auswirkungen auf deren Selbstverständnis, c) dem Herausarbeiten ethischer und rechtlicher Fragestellungen durch Hybrid Minds und KI-betriebenen Neurotechnologien, d) der Gewinnung von Einsichten, die für die weitere technische Entwicklung intelligenter Neuroprothesen nutzbar gemacht werden sollen, insbesondere aus Nutzersicht, e) sowie die Analyse von jüngeren Forderungen nach einem stärkeren Schutz von Nutzern von Neurotechnologien durch Menschenrechte oder ähnliche Instrumente.

Teilprojekt Charité

Förderkennzeichen: 01GP2121B
Gesamte Fördersumme: 164.678 EUR
Förderzeitraum: 2021 - 2024
Projektleitung: Prof. Dr. Surjo Soekadar
Adresse: Charité, Universitätsmedizin Berlin, Campus Charité Mitte, Klinik für Psychiatrie und Psychotherapie (CCM)
Charitéplatz 1
10117 Berlin

Teilprojekt Charité

Das Verbundprojekt HYBRIDMIND untersucht Verbindungen des menschlichen Geistes mit künstlicher Intelligenz (KI) durch sogenannte intelligente Neuroprothesen. Forschungsgegenstand sind zum einen die Erfahrungen der ersten Nutzer solcher derzeit experimenteller Geräte, die in drei Standorten (Berlin, Zürich, Ottawa) durch qualitative und phänomenologische Interviews erhoben werden. Zum anderen werden ethische und rechtliche Fragen dieser neuartigen Form der Mensch-Maschine Interaktion mittels rechtswissenschaftlicher und philosophischer Methodik untersucht. Drei Themengebiete stehen im Vordergrund: Menschenrechte und Neurotechnologien; Manipulation und Transparenz; Handlungskompetenz und Verantwortlichkeit. Neuroprothesen sind Geräte, die neuronale Signale des menschlichen Gehirns erfassen und analysieren und an externe Geräte weitergeben, oder in das Gehirn etwa durch Stimulation intervenieren. HYBRIDMIND ist die erste systematische normative und philosophische Analyse des bedeutenden gegenwärtigen Entwicklungsschritts, der funktionalen Integration KI-betriebener Neurotechnologie mit dem menschlichen Geist, dessen Resultat hier unter dem Arbeitstitel Hybrid Mind, hybrider Geist, untersucht werden soll. Die Erkenntnisziele des Projekts liegen a) in einer genaueren Konzeptualisierung des Phänomens eines hybriden Geists aus natürlicher und künstlicher Intelligenz, b) dem Verständnis der Interaktion zwischen Nutzern und selbst-lernenden KI-Mechanismen, die funktional mit ihrem Geist gekoppelt sind, und den Auswirkungen auf deren Selbstverständnis, c) dem Herausarbeiten ethischer und rechtlicher Fragestellungen durch Hybrid Minds und KI-betriebenen Neurotechnologien, d) der Gewinnung von Einsichten, die für die weitere technische Entwicklung intelligenter Neuroprothesen nutzbar gemacht werden sollen, insbesondere aus Nutzersicht, e) sowie die Analyse von jüngeren Forderungen nach einem stärkeren Schutz von Nutzern von Neurotechnologien durch Menschenrechte oder ähnliche Instrumente.