Als Kulturgut ist die Medizin nicht nur in einen wissenschaftlichen Kontext eingebettet, sondern auch in die persönliche und soziale Lebens- und Wertewelt der Menschen. In der Folge unterliegt sie einem stetigen Wandel. Als medizinischer Fortschritt bringt dieser Wandel für erkrankte Personen einen markanten Nutzen. Aber, was weniger Beachtung findet, er fordert auch das berufliche Selbstverständnis aller beteiligten Fachpersonen heraus: So wie die Entdeckung der antibiotischen Wirkung von Penicillin nicht ohne Rückwirkung auf die Rolle der Ärzteschaft blieb, so stellt uns auch die künstliche Intelligenz (KI bzw. «artificial intelligence »), die sich im 21. Jahrhundert mit Verve in der Medizin etabliert, vor eine Reihe von Herausforderungen, nicht zuletzt ethischer Natur [1-4].

Die therapeutische Beziehung, Grundpfeiler der Medizin
Medizin ist eine Handlungswissenschaft: Entscheidend ist daher die Schnittstelle zwischen dem jeweiligen wissenschaftlichen Erkenntnisstand und seiner konkreten klinischen Anwendung. Die medizinische Praxis jedoch geht über die technische Ebene hinaus, denn sie setzt einen interpersonal-dialogischen Prozess voraus, die therapeutische Beziehung. Sie berührt den Kern der Medizin: Erst eine ernst genommene therapeutische Beziehung ermöglicht es, die heute breit akzeptierten Postulate des Respektes vor der Autonomie des Patienten beziehungsweise der Patientin und vor der gemeinsamen Entscheidungsfindung umzusetzen. Die aktuelle Akzentverschiebung vom Begriff «shared decision making» zu «collaborative » oder «deliberative decision making» mag dezent wirken, zielt aber auf den eigentlichen Kern der Thematik.

KI und therapeutische Beziehung
​​​​​​​Als Hilfsmittel für das medizinische Handeln dient KI der Unterstützung in Prävention, Diagnostik, Therapie und Forschung. Das ist sinnvoll und erwünscht. Doch darf die Ambivalenz nicht übersehen werden, die jedem medizinischen Hilfsmittel eigen sein kann: Zu wenig verstanden, kontextualisiert und ethisch reflektiert, birgt es Risiken, die seine Wirkung zu hemmen oder gar aufzuheben vermögen. Es gibt dafür wohl kein plastischeres Beispiel als Goethes «Zauberlehrling ».

Konkret: Wird zugelassen, dass KI unkontrolliert an Einfluss auf medizinisches Handeln gewinnt oder aufgewertet wird zu einem gleichberechtigten Partner, der den therapeutischen Dialog zu einem (scheinbaren) Trialog macht, dann wird dem Algorithmus ein problematischer Vertrauensvorschuss gewährt. Dies kann die Patientenperspektive betreffen, aber ebenso die ärztliche. Natürlich birgt jede medizinische Informationsweitergabe, vom Vortrag über das Lehrbuch bis zur KI, inhärente Risiken. Diese dürfen nicht aus dem Blick geraten, weil sonst die Zuverlässigkeit der Information überschätzt und mögliche inhaltliche Verzerrungen (biases) unterschätzt werden können. Für KI-Algorithmen mit ihrer Omnipräsenz und sofortigen Verfügbarkeit gilt dies in besonderem Masse.

Das Potenzial einer tragfähigen therapeutischen Beziehung wird nicht ausgeschöpft, wenn subjektive Phänomene an Bedeutung und Respekt verlieren, nur weil sie sich im KI-Kontext kaum oder gar nicht abbilden lassen beziehungsweise nicht wiederfinden. Auch vermeintlich kristallklare, von KI zur Verfügung gestellte Informationen müssen ihren Weg in die konkrete Behandlungssituation finden. In dieser spielt aber das subjektive Erleben eine wesentliche Rolle. Ein Beispiel: Ob Anzahl und Verknüpfungsmodus vorhandener Symptome für die ICD-10-Diagnose einer schweren depressiven Episode ausreichen oder nicht, berechnet KI bedeutend schneller als ein Mensch. Wie es sich jedoch für die erkrankte Person anfühlt, keinen Lebensmut mehr zu haben, mit Suizidgedanken zu ringen, sich im therapeutischen Gespräch gar nicht mehr öffnen zu können, all das bleibt ihr unzugänglich – nicht aber dem ärztlichen Gegenüber.

Abstrakter formuliert: Verschiebt sich mittels KI das Verhältnis der interpersonal- dialogischen zur technisch-informationellen Ebene im Arzt-Patienten- Kontakt zulasten der Ersteren (und sei es unbemerkt), gehen therapierelevante Informationen verloren. Dies trifft keineswegs nur für die Psychiatrie zu, sondern für die gesamte Medizin, wenn auch in unterschiedlicher Intensität. Kürzlich warnte die deutsche Bundesärztekammer in diesem Kontext vor einem «technologischen Paternalismus», der die heute erreichten medizinethischen Standards untergraben könne [5].

Eine Schwächung des dialogischen Prinzips in der therapeutischen Beziehung kann überdies das wechselseitige Vertrauen beeinträchtigen. Viele Ärzte und Ärztinnen werden von ihren Patientinnen und Patienten mit KI-generierten Informationen konfrontiert. Im Grundsatz ist dagegen nichts einzuwenden, ausser wenn sich auf diese Weise ein misstrauisch-kontrollierender Tenor in der Behandlung etabliert. Hier hilft kein Pochen auf starre (und überkommene) Rollenmodelle, sondern nur der offene Dialog. Dieser aber erfordert Zeit, ein besonders rares Gut in der Medizin.

KI und Ethik
Medizinethische Reflexion führt nicht zu Gesetzen, sondern zu begründeten Postulaten mit dem Ziel, verantwortliches Handeln in der Medizin zu fördern. Stets geht es um das Abwägen von Werten, Zielen und Risiken. Es verbleibt – wie bei Gesetzen auch – ein Ermessensspielraum, wenn der vorgegebene Rahmen auf eine konkrete Situation bezogen wird. Der personenzentrierte Umgang mit diesem Spielraum gehört zu den anspruchsvollsten Aufgaben aller Gesundheitsberufe. Demgegenüber existieren breit konsentierte Werte, die nicht in jedem Einzelfall neu abzuwägen sind, etwa der Respekt vor der autonomen Entscheidung einer urteilsfähigen Person.

Medizinethische Implikationen von KI sind Gegenstand intensiver Diskussionen [6]. Drei untereinander verwobene Aspekte dieser Thematik werden im Folgenden skizziert.

Der Begriff der Person
​​​​​​​Erkenntnistheoretisch war und ist der Begriff der Person Gegenstand kontroverser Debatten. In der Medizin braucht es einen pragmatischen Ansatz, der der Person ihre unveräusserliche Würde sowie die Fähigkeiten zuweist, Beziehungen aufzunehmen, Verantwortung zu tragen, Entscheidungen zu treffen und danach zu handeln. Krankheiten können dabei zu Einschränkungen führen, den Status «Person» im Grundsatz aber nicht aufheben. Ein KI-Algorithmus, der auf Fragen antwortet, ist keine Person, sondern ein von Personen hergestelltes Programm zur Informationsverarbeitung. Einwände gegen eine klare Trennung von Person und Nichtperson mögen für philosophische Diskurse von Interesse sein. Sie sind hingegen nicht hilfreich für die medizinische Fachperson, die Patientinnen und Patienten durch heikle, folgenreiche Entscheidungsprozesse begleiten muss.

Verantwortung
Autonomie geht mit Verantwortung einher, der sich die Person stellen muss. Dieses Prinzip gilt für Patienten und Gesundheitsfachpersonen in gleicher Weise. Es beinhaltet die Verantwortung dafür, wie mit medizinisch relevanten Informationen umgegangen wird, vor allem hinsichtlich der aus ihnen abzuleitenden diagnostischen und therapeutischen Folgen.

Ein KI-Algorithmus kann keine Verantwortung übernehmen. Diese bleibt bei den handelnden Personen: Patienten und Patientinnen tragen die Verantwortung dafür, was sie in der Untersuchung mitteilen (und was nicht), Ärzte und Ärztinnen dafür, wie sie den diagnostischen und therapeutischen Prozess gestalten. Ob solche Prozesse KI-unterstützt sind oder nicht, spielt in diesem Kontext keine Rolle.

Privatheit und Vertraulichkeit
Dies sind verwandte, aber nicht identische Bereiche. Privatheit (privacy) meint den Umstand, dass es eine subjektive Sphäre des Erlebens gibt, zu der ausschliesslich ich selbst Zugang habe, die ich jedoch nach eigenem Entschluss für Dritte öffnen kann, etwa für meine Ärztin oder meinen Arzt. Vertraulichkeit (confidentiality) bezieht sich demgegenüber auf die Garantie des Schutzes sensibler persönlicher Daten, die nur mit Zustimmung der betroffenen Person weitergegeben werden dürfen [7]. Ganz offenkundig handelt es sich hier um zwei unverzichtbare Elemente einer verantwortungsvollen Medizin.

KI wirft dabei die ethische Frage nach der Transparenz von Datenerhebung, -verarbeitung und -weitergabe auf [8]: Kennen die Beteiligten die Quelle und die Zuverlässigkeit von Informationen, aus denen ein Algorithmus seine Aussagen generiert? Wissen Patienten, was mit persönlichen Daten geschieht, die in einen KI-Algorithmus eingegeben werden, um diagnostische Detailfragen zu klären? Welche Rolle spielen Daten, die gesunde Personen mit KI-assoziierten Aufzeichnungsgeräten erfassen, speichern und auswerten lassen (wearables)? Wegen der exponentiellen Zunahme des Einsatzes von KI in und jenseits der Medizin haben Fragen dieser Art eine besondere Dringlichkeit, aber auch eine besondere Komplexität gewonnen.

Was wir tun sollten
Gesundheitsfachpersonen tragen die Verantwortung dafür, dass KI-basierte neu entstandene oder verbesserte medizinische Optionen erkannt und zum Nutzen der Patienten und Patientinnen praktisch umgesetzt werden. Dabei ist jedoch ein kritisches Methodenbewusstsein unabdingbar, um Chancen und Risiken der KI vor dem Hintergrund berufsethischer Prinzipien abzuwägen.

Ein ethisch verantwortlicher Umgang mit KI setzt voraus, dass sich die Ärzteschaft ebenso wie alle anderen Gesundheitsberufe nicht nur mit stets neuen Algorithmen beliefern lassen, sondern KI-Tools aus klinisch-praktischer wie ethischer Warte kontinuierlich reflektieren. Es muss sichergestellt werden, dass die Ergebnisse dieser Reflexion in die Weiterentwicklung der Tools sowie in die KI-Forschung einfliessen.

Nicht zuletzt verlangt der erwartbare weitere Bedeutungsgewinn der KI in der Medizin, dass die medizinethische Seite dieser Entwicklung praxisnah und nachhaltig in die Curricula aller Gesundheitsberufe sowie in die postgraduale Weiterbildung integriert wird.

Zusammenfassung
Medizin ist eine Handlungswissenschaft, bei der Patienten und Patientinnen im Dialog mit kompetenten Fachpersonen im Zentrum stehen. Darüber hinaus war und ist sie auf Hilfsmittel angewiesen. Lernende, zur bidirektionalen Interaktion mit Menschen fähige Algorithmen, «artificial intelligence», stellen heute ein technisch beeindruckendes, vielseitiges, aber auch medizinethisch herausforderndes Hilfsmittel dar.

KI besitzt das Potenzial, in der medizinischen Praxis wie in der Forschung markante Fortschritte zu ermöglichen. Den Kern der Medizin, die dialogisch verfasste interpersonale Beziehung, verändert dies jedoch nicht.

Korrespondenz

paul.hoff.zollikon@gmail.com

Zur Person

Facharzt für Psychiatrie und Psychotherapie

Literatur

1. Ahmed M, et al. A Systematic Review of the Barriers to the Implementation of Artificial Intelligence in Healthcare. Cureus 2023 15(10): e46454. DOI 10.7759/cureus.46454
2. Bouderhem R. Shaping the future of KI in healthcare through ethics and governance. Humanities and Social Sciences Communications (2024). 11: 416. https://doi.org/10.1057/s41599-024-02894-w
3. Lambert S I. An integrative review on the acceptance of artificial intelligence among healthcare professionals in hospitals. npj Digital Medicine (2023). 6: 111. https://doi.org/10.1038/s41746-023-00852-5
4. Waller R, Moghraby O S, Lovell M. Digital Mental Health: From Theory to Practice. Cambridge University Press, 2023
5. Bundesärztekammer. Künstliche Intelligenz in der Medizin – Stellungnahme der Bundesärztekammer auf Empfehlung ihres wissenschaftlichen Beirats. Deutscher Ärzteverlag, Köln, 2025
6. Tang L, Li J, Fantus S. Medical artificial intelligence ethics: A systematic review of empirical studies. Digital Health (2023). 9: 1-22. DOI: 10.1177/20552076231186064
7. Maatz A, Schneller L, Hoff P. Privacy and Confidentiality in Psychotherapy: Conceptual Background and Ethical Considerations in the Light of Clinical Challenges. In: Trachsel M, Gaab J, Biller-Andorno N, Tekin S, Sadler J Z (eds) The Oxford Handbook of Psychotherapy Ethics. Oxford (2020): University Press, Oxford: 340-351. DOI: 10.1093/oxfordhb/0780198817338.013.27
8. Pasquale F. The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press, (2015)