Drucken

Genderungerechtigkeit in der Versorgung

Das Berliner Institut für Gesundheitsforschung (BIH) hat zum Thema „Gesunde Algorithmen – Frauen und künstliche Intelligenz im Gesundheitswesen“ eingeladen. Kritisiert wird, dass es keine gendergerechte Versorgung und damit eine „Statistik von Stereotypen“ gibt.

Prof. Sabine Oertelt Prigione, Radboud Universiteit (Niederlande)
Künstliche Intelligenz (KI) wecke laut BIH „große Hoffnungen auf wegweisende Fortschritte für Therapie und Diagnostik, aber auch erhebliche Bedenken über Risiken und Nebenwirkungen“. Datensätze, Modelle und Algorithmen seien oft voreingenommen und würden unter anderem Frauen nicht ausreichend berücksichtigen. Dadurch würden bestehende Ungleichheiten verstärkt sowie vergangene und gegenwärtige Vorurteile in die Zukunft projiziert – mit Folgen für Gesundheit und Wohlbefinden von Frauen. Auch in der Entwicklung und Programmierung von KI seien Frauen massiv unterrepräsentiert, dadurch fehlen die notwendigen vielfältigen Perspektiven.

„Im Kern ist KI Statistik“

Brigitte Strahwald vom Lehrstuhl für Public Health und Versorgungsforschung der Ludwig-Maximilian-Universität München bezeichnet KI als „hochkomplexe Technologien“ und gibt eine Einführung zu deren Einsatzmöglichkeiten. KI könne genutzt werden, um Röntgenbilder auszuwerten, für die Spracherkennung und neuronale Netze verwendet werden, außerdem in der Robotik, als intelligente Chat-Bots und im Bereich Machine Learning. „Im Kern ist KI Statistik“, sagt sie. Der Ursprung von Machine Learning seien Daten, die aufbereitet werden müssen, am Ende gebe es ein Datenset. Dieses soll eine bestimmte Aufgabe erfüllen und darstellen, ob Röntgenbilder beispielsweise auffällig sind oder nicht. Doch sie warnt: „An jeder einzelnen Stelle können Fehler passieren und es kann ein Bias entstehen“ – also eine Art Befangenheit. Probleme mit der Datenbasis und einem Genderbias dürften nicht außer Acht gelassen werden. „Bestimmte Begriffe werden Männern zugeordnet“, sagt sie. Der Bias sei aber auch im echten Leben da und kein KI-spezifisches Problem. „Wir wissen nicht, ob KI diesen Bias verstärkt. Es ist ein blinder Fleck in der KI-Forschung“.

„Statistik von Stereotypen“

Prof. Sabine Oertelt Prigione von der Gendermedicine Unit an der Radboud Universität in Nijmegen in den Niederlanden gibt Einblicke in die Geschlechtsunterschiede in der Medizin. Sie nennt ein Beispiel: Bei der Beschreibung der gleichen Symptome während eines Chats mit einem Chatbot wurde Männern geraten, in die Notaufnahme zu gehen – bei Frauen wurde eine Panikattacke oder Depression vermutet. KI sei in diesem Fall eine „Statistik von Stereotypen“ und dies habe Auswirkungen im Sinne eines Genderbias. „Wie garantieren wir die Sicherheit der Nutzerinnen? Wer hat Zugriff auf meine Daten?“, fragt sie sich und fordert: „Wir müssen sicherstellen, dass diese Daten sicher sind.“

Keine gendergerechte Versorgung

Maria Klein-Schmeink, Bundestagsabgeordnete und gesundheitspolitische Sprecherin (Bündnis 90/Die Grünen), betont zunächst das Problem, dass die Gendermedizin noch nicht klar und eindeutig Einzug in Forschung und Versorgung gehalten habe. „Wir haben sehr viel zu tun“, sagt sie und erklärt, dass sie sich als Teil einer besonderen Bewegung fühlt: „Frauen aus dem Gesundheitswesen machen sich auf, weil sie diesen Zustand in dieser Form so nicht mehr hinnehmen wollen.“ Sie begrüßt die Initiative der Spitzenfrauen Gesundheit, die dagegen kämpfen, dass „Frauen in fast allen Entscheidungsgremien des Gesundheitssystems, in allen Formen der Selbstverwaltung im Grunde nicht oder spärlich vorkommen“. Es müsse sich etwas verändern, „weil klar ist, dass insgesamt die Versorgung an dieser Stelle schlichtweg eine Fehlversorgung ist, weil sie nicht gendergerecht ist“, äußert sie sich. Auch Patienten seien Objekt einer „stark männlich geprägten Versorgungs- und Selbstverwaltungslandschaft“.
Generell würden sich Qualitätsmängel, die sowieso schon im Gesundheitswesen vorkommen, mit den Potenzialen der Digitalisierung und dem Einsatz von KI „in einer Dimension steigern, die wir zum Teil jetzt noch gar nicht absehen können.“ Das sollte der Startschuss dafür sein, dass etwas getan werden müsse. Sie führt weiter aus: „Es fehlt eine strategische Betrachtung dessen, was wir überhaupt mit der Digitalisierung und dem Einsatz von KI im Gesundheitswesen erreichen wollen“ und es „fehlt ein Prozess, bei dem die Akteurinnen und Akteure, Patientinnen und Patienten und die Pflegebedürftigen mit einbezogen werden“ – denn all das könne kein Selbstzweck sein, sondern es müsse um einen Nutzen gehen.

Chance, das Gesundheitswesen zu verbessern

Veronika Thiel, Beraterin von AlgorithmWatch, zieht ihr Fazit: „Technologie ist kein Allheilmittel. Es ist kompliziert – wenn es einfach wäre, hätten wir die Probleme nicht“. Es gebe in der jetzigen Zeit die „einzigartige Chance, vieles im Gesundheitswesen zu verbessern, von Diagnose über Therapie bis zur Verwaltung“, stellt sie fest. Teile des Digitale-Versorgung-Gesetzes würden die richtigen Weichen stellen, jedoch müssten die Menschen laut Thiel wieder Vertrauen in den Staat und in das System fassen können, „um damit einverstanden zu sein, dass ihre Gesundheitsdaten weiterverarbeitet werden und um den Ergebnissen zu vertrauen“.