KI in der Medizin verantwortungsvoll gestalten – Deutscher Ärztinnenbund veröffentlicht Stellungnahme
Deutscher Ärztinnenbund veröffentlicht gemeinsame Stellungnahme der Ausschüsse „Geschlechtersensible Medizin“ und „Ethik“
Der DÄB begrüßt ausdrücklich das transformative Potenzial von KI. Bereits heute kommen KI-Anwendungen in einzelnen Bereichen der Medizin routinemäßig zum Einsatz. Gerade für unterversorgte Regionen könne KI künftig zu mehr Versorgungsgerechtigkeit beitragen, indem sie Diagnostik, Therapie und Prävention sinnvoll unterstütze und langfristig zu einer gerechteren Versorgung beitrage, so die Stellungnahme. Damit dieses Potenzial tatsächlich allen Patientinnen und Patienten zugutekommt, müssen Qualität, Transparenz und Geschlechtersensibilität jedoch von Anfang an mitgedacht werden.
„Der Gender Bias in medizinischer KI ist kein technisches Randproblem, sondern eine Frage der Sicherheit von Patienten und insbesondere Patientinnen“, erklärt Brigitte Strahwald, Vorsitzende des Ausschusses Geschlechtersensible Medizin beim DÄB. „Wenn Frauen in Datensätzen unterrepräsentiert sind oder geschlechterspezifische Unterschiede nicht berücksichtigt werden, entstehen reale Risiken für Diagnostik und Therapie.“
Die Stellungnahme fordert deshalb verbindliche Standards für die geschlechtersensible Datenerhebung, transparente Trainingsdaten und den Nachweis, dass KI-Anwendungen auch für Frauen wirksam und sicher sind. Zudem müsse die Beteiligung von Frauen in der Forschung und Entwicklung von KI-Anwendungen gezielt gestärkt und gefördert werden.
„KI darf die Arzt-Patienten-Beziehung nicht ersetzen, sondern sollte sie sinnvoll unterstützen“, betont Dr. med. Gabriele du Bois, Vorsitzende des Ausschusses Ethik beim DÄB. „Gerade bei sensiblen medizinischen Entscheidungen braucht es Transparenz, menschliche Verantwortung und die Fähigkeit, algorithmische Empfehlungen kritisch zu hinterfragen.“
Die Stellungnahme „Künstliche Intelligenz in der Medizin: Geschlechtersensible Standards und ethische Leitplanken“ der DÄB-Ausschüsse Geschlechtersensible Medizin und Ethik richtet sich an Politik, medizinische Fachgesellschaften, Forschungseinrichtungen, Entwicklerinnen und Entwickler sowie an die ärztliche Selbstverwaltung. Der Deutsche Ärztinnenbund möchte sich damit aktiv in die gesundheitspolitische Debatte um KI einbringen und die Entwicklung medizinischer KI-Systeme konstruktiv begleiten. Die Stellungnahme steht auf der DÄB-Website zum Download zur Verfügung.
Gender Bias ist ein Gesundheitsrisiko
Zugleich warnt der DÄB davor, bestehende Ungleichheiten im Gesundheitswesen durch unausgewogene Daten und intransparente Algorithmen weiter zu verschärfen. Besonders kritisch sehen die Autorinnen den sogenannten Gender Bias in medizinischen KI-Systemen. Dieser entstehe unter anderem durch unausgewogene Trainingsdaten, männlich dominierte Entwicklungsteams und sogenannte Black-Box-Systeme.„Der Gender Bias in medizinischer KI ist kein technisches Randproblem, sondern eine Frage der Sicherheit von Patienten und insbesondere Patientinnen“, erklärt Brigitte Strahwald, Vorsitzende des Ausschusses Geschlechtersensible Medizin beim DÄB. „Wenn Frauen in Datensätzen unterrepräsentiert sind oder geschlechterspezifische Unterschiede nicht berücksichtigt werden, entstehen reale Risiken für Diagnostik und Therapie.“
Die Stellungnahme fordert deshalb verbindliche Standards für die geschlechtersensible Datenerhebung, transparente Trainingsdaten und den Nachweis, dass KI-Anwendungen auch für Frauen wirksam und sicher sind. Zudem müsse die Beteiligung von Frauen in der Forschung und Entwicklung von KI-Anwendungen gezielt gestärkt und gefördert werden.
Ärztliche Verantwortung bleibt unverzichtbar
Auch ethische Fragen stehen im Fokus der Stellungnahme. Der DÄB betont die unveränderte ärztliche Letztverantwortung: KI könne unterstützen, dürfe medizinische Entscheidungen jedoch nicht autonom treffen. Patientinnen und Patienten müssten darüber informiert werden, wenn KI in Diagnose oder Therapieplanung einfließt.„KI darf die Arzt-Patienten-Beziehung nicht ersetzen, sondern sollte sie sinnvoll unterstützen“, betont Dr. med. Gabriele du Bois, Vorsitzende des Ausschusses Ethik beim DÄB. „Gerade bei sensiblen medizinischen Entscheidungen braucht es Transparenz, menschliche Verantwortung und die Fähigkeit, algorithmische Empfehlungen kritisch zu hinterfragen.“
DÄB fordert Nachbesserungen beim EU AI Act
Der DÄB begrüßt zwar den EU AI Act sowie den European Health Data Space (EHDS), sieht jedoch deutlichen Nachbesserungsbedarf bei geschlechtersensiblen Standards. Verbindliche Vorgaben zur geschlechtersensiblen Datenqualität fehlten bislang weitgehend. Prof. Dr. med. Puhahn-Schmeiser, eine der beiden Co-Präsidentinnen des Deutschen Ärztinnenbundes, stellt klar: „Die Entscheidungen, die heute über Entwicklung und Regulierung medizinischer KI getroffen werden, prägen die Gesundheitsversorgung der kommenden Jahrzehnte. Deshalb braucht Digitalisierung klare ethische Leitplanken und eine konsequent geschlechtersensible Perspektive.“KI-Kompetenz muss Teil der ärztlichen Ausbildung werden
Darüber hinaus fordert der DÄB den Ausbau von KI-Kompetenz in der ärztlichen Aus-, Weiter- und Fortbildung. Ärztinnen und Ärzte müssten künftig in der Lage sein, algorithmische Empfehlungen kritisch zu bewerten, Bias zu erkennen und Patientinnen und Patienten kompetent aufzuklären.Die Stellungnahme „Künstliche Intelligenz in der Medizin: Geschlechtersensible Standards und ethische Leitplanken“ der DÄB-Ausschüsse Geschlechtersensible Medizin und Ethik richtet sich an Politik, medizinische Fachgesellschaften, Forschungseinrichtungen, Entwicklerinnen und Entwickler sowie an die ärztliche Selbstverwaltung. Der Deutsche Ärztinnenbund möchte sich damit aktiv in die gesundheitspolitische Debatte um KI einbringen und die Entwicklung medizinischer KI-Systeme konstruktiv begleiten. Die Stellungnahme steht auf der DÄB-Website zum Download zur Verfügung.