Thema Rheinisches Ärzteblatt / Heft 5 / 2025 13 tenz- und Kontrollverlust bei Ärztinnen und Ärzten führe, weil sie sich blind auf KIModelle verließen. Die Kammerversammlung bekräftigte diese Einschätzung und forderte darüber hinaus die Bundesregierung und die NRW-Landesregierung auf, die Ärzteschaft in die Zulassung, Regulierung und Qualitätssicherung von KI-Anwendungen in der Medizin einzubeziehen. „KI ist kein Ersatz für menschliche Intelligenz, und medizinische Entscheidungen können nicht an KI delegiert werden“, betonte Informatiker Dengel. Er sieht die Technologie in bestimmten Medizinfeldern als wichtiges Unterstützungssystem, das man wie die Zweitmeinung eines Kollegen in Diagnostik und Therapie einbeziehen sollte. Selbst wenn in Zukunft Leitlinien medizinischer Fachgesellschaften den Einsatz von KI vorschrieben, sei es juristisch immer noch so, dass letztlich der Mensch verantwortlich sei, betonte Dengel. „Ich kann mir auch nicht vorstellen, dass sich das in absehbarer Zeit ändert.“ Ärztliche Fähigkeiten erhalten Allerdings sieht auch der Informatiker die Gefahr, dass die zunehmende Nutzung von Assistenzsystemen dazu führen kann, dass ärztliche Fähigkeiten verloren gehen. Dengel verglich das mit dem Navigationssystem im Auto. Dessen Routenvorschläge würden von den meisten Fahrern nicht mehr kritisch hinterfragt, weil sie meistens funktionierten. Er appellierte deshalb an die Ärztinnen und Ärzte, stets die Verlässlichkeit der Datenbasis einer KI-Anwendung zu überprüfen. Hier sei auch der Gesetzgeber in der Pflicht, angemessene Rahmenbedingungen zu schaffen. Eine hohe methodische Expertise zur Einordnung der Ergebnisse von KI-Anwendungen hatte der Deutsche Ethikrat bereits im März 2023 denjenigen empfohlen, die KI routinemäßig anwenden. Zugleich hatte er strenge Sorgfaltspflichten bei der Datenerhebung und -weitergabe sowie bei der Plausibilitätsprüfung „maschinell gegebener Handlungsempfehlungen“ gefordert. Wie Dengel hob auch der Ethikrat die menschliche Letztverantwortung hervor. Ein vollständiger Ersatz ärztlicher Fachkräfte durch ein KI-System gefährde das Patientenwohl und sei auch nicht durch Personalmangel zu rechtfertigen. Die Bundesärztekammer (BÄK) hält das Thema „KI in der Medizin“ für so wichtig, dass sie es zu einem Schwerpunkt der aktuellen Wahlperiode 2023–2027 gemacht hat und ihm auch beim diesjährigen Deutschen Ärztetag Ende Mai in Leipzig einen eigenen Tagesordnungspunkt widmet. Als Diskussionsgrundlage für die rund 250 Delegierten haben die Gremien der BÄK eine Stellungnahme und ein Thesenpapier erarbeitet. Den Status quo von KI in der Medizin und damit verbundene Risiken und Chancen aus medizinischwissenschaftlicher Perspektive darzustellen, war das Ziel der Stellungnahme des Wissenschaftlichen Beirats der BÄK, die dieser Ende Februar vorlegte. Auch er sieht klar das Potenzial von KI, Diagnostik und Therapie zu optimieren und Fachkräfte zu entlasten. Wie der Ethikrat fordert aber auch der Wissenschaftliche Beirat, die Ergebnisse von KI-Anwendungen stets einer Plausibilitätsprüfung zu unterziehen und auch er betont, dass die Verantwortung für Diagnostik, Indikationsstellung und Therapie Aufgabe von Ärztinnen und Ärzten bleibt. Das Thesenpapier „Künstliche Intelligenz in der Gesundheitsversorgung“, das die BÄK Ende März vorlegte, fasst die Entwicklungen und Herausforderungen für Ärzte und Patienten durch die Einführung von KI-Systemen in den kommenden drei bis fünf Jahren zusammen. Formuliert hat die BÄK ihre Thesen nach eigenen Angaben auf der Grundlage von Werkstattgesprächen mit Experten aus Politik, Gesundheitsversorgung und Gesundheitswirtschaft. „KI-Systeme werden die auf genetischen und anderen individuellen Gesundheits- KI ist kein Ersatz für menschliche Intelligenz, und medizinische Entscheidungen können nicht an KI delegiert werden. Professor Dr. rer. nat. Andreas Dengel, Geschäftsführender Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz in Kaiserslautern, stellt die menschliche Letztverantwortung heraus. Foto: Jochen Rolfes Ein Bericht über die gesundheitspolitischen Schwerpunkte der Kammerversammlung am 22. März sowie die dort verabschiedeten Entschließungen finden sich unter www.aekno.de/kammerversammlung/maerz-2025. Die Entschließungen sind in dieser Ausgabe des Rheinischen Ärzteblatts ab Seite 15 veröffentlicht. Die Stellungnahme des Wissenschaftlichen Beirats der Bundesärztekammer „Künstliche Intelligenz in der Medizin“ ist abrufbar unter https://www.bundesaerztekammer.de/fileadmin/user_upload/ wissenschaftlicher-beirat/Veroeffentlichungen/KI_in_der_ Medizin_SN_neu.pdf. Das Thesenpapier „Künstliche Intelligenz in der Gesundheitsversorgung“ ist abrufbar unter https://www.bundesaerztekammer.de/fileadmin/user_upload/ BAEK/Themen/Digitalisierung/Thesenpapier_KI_in_der_ Gesundheitsversorgung_03.2025.pdf. Kammerversammlung online
RkJQdWJsaXNoZXIy MjMxMzg=