DOG und BVA: Ethikleitlinien für KI in der Augenheilkunde

Augenärzte fordern verantwortungsvollen Einsatz von Künstlicher Intelligenz

Die Deutsche Ophthalmologische Gesellschaft e.V. (DOG) und der Berufsverband der Augenärzte Deutschlands e.V. (BVA) haben eine umfassende Stellungnahme zu ethischen Aspekten Künstlicher Intelligenz (KI) in der Augenheilkunde vorgelegt. Ziel ist es, Standards für die Entwicklung, Zulassung und Implementierung von KI-Anwendungen zu setzen, die ärztliche Entscheidungen unterstützen und gleichzeitig den Schutz der Patientenrechte sicherstellen.

„Die rasante Entwicklung von KI-Systemen bietet großes Potenzial für die Augenheilkunde, sei es bei der Bildanalyse, der Diagnostik oder der Planung von Therapien“, erklärt Professor Dr. med. Claus Cursiefen. „Um dieses Potenzial verantwortungsvoll auszuschöpfen, müssen technische, rechtliche und ethische Aspekte von Anfang an berücksichtigt werden“, fügt der Generalsekretär der DOG hinzu.

KI als Chance und Herausforderung – ärztliche Erfahrung bleibt unverzichtbar

Konkret könne KI insbesondere bei der Analyse großer Bilddatenmengen unterstützen, die beispielsweise in der Diagnostik von Netzhauterkrankungen oder der Verlaufskontrolle von Glaukomen anfallen. „Damit dies gelingt, ist Qualität und Größe der Datengrundlage, auf deren Basis die Systeme lernen, entscheidend. Diese Bilder müssen zwingend eine hohe Qualität haben, damit die KI-Systeme kontrolliert und reproduzierbar angelernt werden können“, so Professor Dr. med. Bernd Bertram, Ehrenvorsitzender des BVA und Mitglied des Komitees.

Die Verantwortung für Diagnosen und Therapien, betonen DOG und BVA, müsse stets bei Ärzten liegen. Während KI-Systeme Muster erkennen und präzise Analysen liefern können, bleibe es Aufgabe der Behandelnden, diese Ergebnisse im Kontext der individuellen Patientensituation zu bewerten. „Das ärztliche Erfahrungswissen ist dabei unverzichtbar, auch im Zeitalter der KI“, sagt DOG-Experte Professor Dr. med. Nikolaos Bechrakis, der dem Redaktionskomitee angehörte.

Risiken von KI-Systemen und ethische Prinzipien als Grundlage

Auch sind KI-Systeme nicht fehlerfrei. Systematische Verzerrungen in den Trainingsdaten wie die unzureichende Berücksichtigung bestimmter Altersgruppen oder ethnischer Hintergründe können zu falschen Ergebnissen führen. „Ebenso besteht das Risiko, dass Algorithmen seltene Krankheitsbilder übersehen oder aufgrund unvollständiger Daten falsche Diagnosen stellen“, sagt Bechrakis. Es liege in der ärztlichen Verantwortung, diese potenziellen Fehlerquellen zu erkennen und bei der Anwendung von KI-Systemen kritisch zu hinterfragen.

Anzeige

Vor diesem Hintergrund formulieren DOG und BVA in ihrer Stellungnahme zentrale Prinzipien für den Einsatz von KI in der Augenheilkunde. Dazu zählen unter anderem:

• Gerechtigkeit: KI-Systeme dürfen keine Gruppen benachteiligen. Trainingsdaten müssen divers und repräsentativ sein.
• Transparenz: Es muss deutlich werden, wie und welche Daten ein KI-System verarbeitet und gegebenenfalls weiterleitet.
• Erklärbarkeit: KI-Entscheidungen müssen nachvollziehbar sein, insbesondere bei Therapieempfehlungen.
• Datenschutz: Patientenbezogene Daten müssen sicher verarbeitet werden; anonyme Datensätze sind zu bevorzugen.
• Ärztliche Autonomie: KI darf die Rolle des Arztes nicht ersetzen, sondern nur unterstützen.

Sicherstellung der Patientenautonomie und Regeln für Haftungsfragen

Ein weiterer Schwerpunkt der Stellungnahme liegt auf der Wahrung der Patientenautonomie. „Patientinnen und Patienten müssen ausreichend informiert werden, wenn KI-basierte Systeme in ihrer Behandlung eingesetzt werden“, fordert Cursiefen. „Die Entscheidung für oder gegen den Einsatz von KI darf jedoch nicht auf den Patienten oder die Patientin abgewälzt werden, sondern muss immer im Dialog mit dem behandelnden Arzt und der behandelnden Ärztin erfolgen.“

Zudem fordern DOG und BVA klare Regeln für die Zulassung und Implementierung von KI-Systemen. Diese müssen technische Robustheit im Sinne einer geringen Fehleranfälligkeit und eine vollständige Haftungsklärung umfassen. „Die Versorgung der Patientinnen und Patienten steht weiterhin an oberster Stelle. KI als innovative Technologie muss sowohl für Patientinnen und Patienten als auch für Ärztinnen und Ärzte Vorteile bringen,“, stellt Daniel Pleger, 1. Vorsitzender des BVA fest. Er ergänzt: „Wenn solche teuren Systeme in den Alltag integriert werden, bedarf es einer vernünftigen Gegenfinanzierung der Krankenkassen.“

Hier gelangen Sie zur vollständigen Stellungnahme von DOG und BVA zum Einsatz von KI in der Augenheilkunde.