Daten und KI in der Medizin: Ein kritischer Blick durch die Linse der (intersektionalen) Geschlechterforschung

In der Welt der Medizin und Gesundheitstechnologien spielen Daten und Künstliche Intelligenz (KI) eine immer wichtigere Rolle. Sie versprechen präzisere Diagnosen, effektivere Behandlungen und eine gerechtere Versorgung. Doch der am 08.02.2024 gehaltene Vortrag an der Universität Koblenz von Dr.-Ing. Dr. h.c. Corinna Bath, einer renommierten Mathematikerin, Informatikerin sowie Geschlechter- und STS-Forscherin (Science and Technology Studies), warf ein kritisches Licht auf diese Entwicklungen. Unter dem Titel „Daten und KI in der Medizin: Warum sind Perspektiven der (intersektionalen) Geschlechterforschung relevant?“, präsentiert im Rahmen einer Forschungswerkstatt des Forschungskollegs Data2Health, öffnete Frau Bath die Diskussion um die sozio-technische Transformation der KI und die Notwendigkeit, sie gesellschaftlich zu verhandeln.

Dr. Bath stellte intersektionale Geschlechteranalysen vor, die aufdecken, wie KI-Systeme Diskriminierungen nach Geschlecht und anderen Kategorien sozialer Ungleichheit reproduzieren und sogar verstärken können. Diese Erkenntnisse sind besonders brisant im Bereich der Medizin, wo die Hoffnung auf eine faire und gerechte Behandlung aller Patientinnen und Patienten besonders hoch ist. Es stellt sich die Frage, inwiefern aktuelle Ansätze in der Informatik – wie Fairness, Transparenz, Erklärbarkeit und Ethik – sowie politisch-rechtliche Regulierungen ausreichen, um Diskriminierungen durch KI entgegenzuwirken. Die Diskussion, die im Anschluss an den Vortrag entstand, zeigte eine spannende Dynamik zwischen Sozial- und Naturwissenschaftlern. Es wurde lebhaft debattiert, wie man solche Bias erkennt und verhindert. Eine zentrale Frage war, ob mehr Daten automatisch zu weniger Bias führen würden und wie diese Daten ausgewählt werden sollten. Sollten die Daten die Realität in dem Land widerspiegeln, in dem das KI-Modell entwickelt wird, oder sollten sie einer repräsentativen Diversifizierung folgen, um eine idealisierte Welt darzustellen? Diese Diskussion berührte tiefgreifende Fragen über die Gestaltung solcher Systeme und die Herkunft der Daten.

Dr. Bath plädierte für weitergehende Konzepte und Initiativen, die über bestehende Ansätze hinausgehen. Sie betonte die Bedeutung der Geschlechterforschung für die Entwicklung von Technologien, die nicht nur effizient und effektiv, sondern auch gerecht und inklusiv sind. Ihre Arbeit und der anschließende Diskurs beleuchten, dass die Integration von Geschlechterforschung in die technischen Wissenschaften nicht nur ein akademisches Anliegen, sondern eine Notwendigkeit ist, um die Entwicklung von KI-Systemen in der Medizin und darüber hinaus zu leiten. Dieser Vortrag und die daraus resultierende Diskussion werfen ein Schlaglicht auf die dringende Notwendigkeit, intersektionale Perspektiven in die Entwicklung und Anwendung von KI-Technologien einzubeziehen. Sie zeigen, dass der Weg zu einer gerechteren und inklusiveren Zukunft in der Medizin nicht nur durch technologische Innovationen, sondern auch durch ein tiefes Verständnis sozialer Ungleichheiten und die aktive Arbeit zu deren Überwindung geprägt sein muss.