26 Rheinisches Ärzteblatt / Heft 5 / 2024 der KI mit dem Arzt, um eine unzulässige Delegation auszuschließen. Zukunftsmusik ist für Eichelberger derzeit noch der Einsatz von KI bei der Patientenaufklärung. Gemäß § 630e BGB müsse die Aufklärung mündlich durch den Behandelnden oder eine Person erfolgen, die über die zur Durchführung der Maßnahme notwendige Ausbildung verfügt. Vorgesehen sei ein vertrauensvolles Gespräch zwischen Arzt und Patient mit der Möglichkeit zu Rückfragen und zur Überprüfung, ob alles verstanden wurde. Demzufolge sei die Aufklärung durch KI derzeit noch ausgeschlossen. KI-gestützte Aufklärung Das heißt aber nicht, dass dazu nicht bereits geforscht wird. Für Professor Dr. Dr. phil. Sabine Salloch, Leiterin des Instituts für Ethik, Geschichte und Philosophie der Medizin, Medizinische Hochschule Hannover, hat der Einsatz von KI ethisch sensible Entscheidungen bereits erreicht oder wird im Hinblick auf unterschiedliche Handlungsfelder diskutiert. Nicht nur die klinische Entscheidungsfindung in unterschiedlichsten medizinischen Handlungsfeldern, sondern auch ethisch aufgeladene Aspekte der Versorgung könnten potenziell durch KI-Verfahren unterstützt werden. Beispielhaft ging sie auf zwei dieser Felder ein: die Patientenaufklärung durch KI sowie den Ansatz einer KI-gestützten Ermittlung des Patientenwillens. Hinsichtlich der Patientenaufklärung verwies sie auf einen kürzlich im Journal of Medical Ethics erschienenen Beitrag, in dem die Anwendung KI- gestützter generativer Sprachmodelle bei der Patientenaufklärung diskutiert wird. Die Autoren kommen zu dem Ergebnis, dass die KI-gestützte Aufklärung vor bestimmten Eingriffen der Aufklärung durch junge unerfahrene Ärzte, wie sie oftmals durchgeführt werde, überlegen sei. Noch visionärer erscheint derzeit eine mögliche weitere KI-Anwendung. Dabei geht es um die Vorhersage von Behandlungspräferenzen nichteinwilligungsfähiger Patienten, etwa in der Intensivmedizin, bei fortgeschrittener Demenz oder psychischer Erkrankung. Hier werde gerade darüber diskutiert, sagte Salloch, inwieweit mithilfe von KI eine Verknüpfung sozialdemografischer Charakteristika und personenspezifischer Informationen mit persönlichen Behandlungspräferenzen ermöglicht werden könnte. in der Praxis. Einen Einsatz darf es aber nur geben, wenn eine verantwortliche medizinische Abwägung die Anwendung der neuen Methode rechtfertigt.“ Hinsichtlich der Patientenaufklärung müsse unterschieden werden zwischen einer KI-Anwendung als bereits eingeführtem Standard oder als Neulandmethode. In letzterem Fall müsse eine Aufklärung darüber erfolgen, dass beim Einsatz einer neuen Methode unbekannte Risiken nicht auszuschließen seien. Der Patient sollte auf dieser Grundlage sorgfältig abwägen können, ob er die in Aussicht gestellten Vorteile der neuen Methode um den Preis der noch nicht in Arztes und die Möglichkeit einer manuellen Korrektur. Auch für Henn stellt der Verlust „personaler ärztlicher Kompetenzen“ als Folge des Einsatzes von KI-Diagnostik ein relevantes Problem dar. So gut die KI-gestützte Diagnostik auch sein mag, stets müssten KI-freie Backup-Kompetenzen und KI-freie Backup-Ressourcen sichergestellt werden. In der ärztlichen Aus- und Weiterbildung müsse für den Erhalt KIfreier Kompetenzen gesorgt werden. Ziel des KI-Einsatzes dürfe nicht die ökonomische Effizienzsteigerung sein. „Der Verlockung der Personaleinsparung muss entgegengewirkt werden“, forderte Henn. Forum Ganz entscheidend auch für ihn ist die Wahrung der personalen Arzt-PatientenVertrauensbeziehung. Nicht mehr nur Werkzeug Wie die Verwendung künstlicher Intelligenz jenseits ethischer Erwägungen nach dem Arztvertrags- und Arztberufsrecht zu bewerten ist, war Schwerpunkt der Ausführungen von Prof. Dr. iur. Jan Eichelberger vom Lehrstuhl für Bürgerliches Recht, Immaterialgüterrecht und IT-Recht, Institut für Rechtsinformatik der Leibniz Universität Hannover. Ausgehend von der ärztlichen Therapiefreiheit sieht Eichelberger keine grundsätzlichen Hinderungsgründe, die gegen den KI-Einsatz sprechen würden. „Auch der Einsatz von KI als Neulandmethode ist nicht per se pflichtwidrig – es gäbe sonst keinen medizinischen Fortschritt jeder Hinsicht bekannten Gefahren in Kauf nimmt oder aber nach der herkömmlichen Methode mit bekannten Risiken behandelt werden möchte. Als hoch spannend bezeichnete Eichelberger die aktuelle Diskussion darüber, ob der Einsatz von künstlicher Intelligenz als eine unzulässige Delegation an Nichtärzte zu werten sei. Mit zunehmender Autonomie eines KI-Systems verringere sich der Einfluss des Arztes auf den konkreten Behandlungsvorgang, die Steuerung des Behandlungsgeschehens gehe auf die KI über. Diese wäre dann nicht mehr nur ein Werkzeug, dessen sich der Arzt bedient. Im Grunde wäre eine solche Delegation ärztlicher Leistung an ein autonom arbeitendes System berufsrechtlich unzulässig. Hier müssten noch rechtskonforme Lösungen gefunden werden, etwa auf dem Wege der Zertifizierung und partiellen Gleichstellung KI-Systeme werden auf individuellen Gesundheitsdaten basierende Therapien ermöglichen und Ärzte bei Routineaufgaben entlasten. Auch die medizinische Forschung wird von den neuen Möglichkeiten profitieren. Foto: sabida/stock.adobe.com
RkJQdWJsaXNoZXIy MjMxMzg=