10.06.2025
Wie sexistisch sind KI und Wissenschaft?
Von Thilo Spahl
Eine neue Studie widerlegt das Vorurteil, Künstliche Intelligenz benachteilige Frauen. Außerdem zeigt die Forschungslage, dass Frauen in Hochschulkarrieren nicht diskriminiert werden.
„Von patriarchalen Strukturen durchdrungen benachteiligt künstliche Intelligenz oft Frauen und andere marginalisierte Gruppen“, erfahren wir in dem Beitrag „Warum wir feministische KI brauchen“ auf 3sat.
„Aufgrund des sogenannten Gender Data Gap, der beschreibt, dass Frauen und andere marginalisierte Gruppen in den Trainingsdatensätzen vielfach unterrepräsentiert sind, reproduziert und tradiert KI fortwährend bestehende Diskriminierungs- und Ausschlusssysteme“, wird in der Ankündigung des Seminars „Wenn KI – dann feministisch“ an der Uni Göttingen behauptet.
KI-Expertin Anna Rüde stellt in der Zeitschrift Elle fest: „Geschlechtsspezifische Vorurteile zeigen sich subtil – und knallhart. Von Recruiting-Algorithmen, die Männer für Führungspositionen bevorzugen, weil historische Daten ihnen das ‚zutrauen‘, über Chatbots die auf männlich geprägte Sprache besser reagieren, bis hin zu Sprachassistenten, die Frauenstimmen als ‚dienend‘ und Männerstimmen als ‚kompetent‘ codieren.“ Woran liegt das? „KI ist nicht einfach so vom Himmel gefallen – und auch nicht von sich aus sexistisch geworden. Sie wurde entwickelt. Von Menschen. Und diese Menschen sind nun mal zum Großteil männlich […]“, sagt Frau Rüde.
Stimmt das? Der Informatiker David Rozado wollte es genauer wissen und hat die KI getestet. Wie entscheiden sie, wenn sie männliche und weibliche Bewerber für Jobs beurteilen sollen?
Um das herauszufinden, führte er eine Studie durch, in der das Verhalten von Large Language Models (LLMs) bei der Bewertung von Job-Kandidaten auf der Grundlage ihrer Lebensläufe systematisch untersucht wurde. In einem Experiment mit 22 führenden LLMs wurde jedem Modell eine Stellenbeschreibung zusammen mit zwei beruflich passenden Lebensläufen vorgelegt, von denen einer einen männlichen und der andere einen weiblichen Vornamen enthielt. Die Modelle wurden gebeten, den besser geeigneten Kandidaten für die Stelle auszuwählen. Jedes Lebenslaufpaar wurde zweimal vorgelegt, wobei die Namen vertauscht wurden, um sicherzustellen, dass die beobachteten Präferenzen auf geschlechtsspezifische Namenshinweise zurückzuführen waren. Insgesamt wurden 30.800 Modellentscheidungen gemessen (22 Modelle × 70 Berufe × 10 verschiedene Stellenbeschreibungen pro Beruf × 2 Präsentationen pro Lebenslaufpaar).
„Obwohl die beruflichen Qualifikationen bei beiden Geschlechtern identisch waren, bevorzugten ausnahmslos alle LLMs in 70 verschiedenen Kandidaten mit weiblichem Namen.“
Das Ergebnis fiel eindeutig aus: Obwohl die beruflichen Qualifikationen bei beiden Geschlechtern identisch waren, bevorzugten ausnahmslos alle LLMs in 70 verschiedenen Berufen (Zahnarzt, Bauarbeiter, Dachdecker, Krankenpfleger, Finanzanalyst, Modedesigner, Physiotherapeut, Soldat, Webentwickler, Lkw-Fahrer, Mikrobiologe, Makler, Bauingenieur, Ökologe usw. usf.) Kandidaten mit weiblichem Namen. In 56,9 % der Fälle wurden weibliche Kandidaten ausgewählt, in 43,1 % der Fälle männliche. Noch deutlicher fiel die Präferenz aus, wenn ein explizites Geschlechtsfeld (männlich/weiblich) in den Lebensläufen angegeben wurde. Dann kamen die Frauen auf 58,9 %.
Abb. 1: Prozentualer Anteil von Kandidaten, die als qualifizierter ausgewählt wurden. Quelle: David Rozado
Wurden die LLMs gebeten, Lebensläufe isoliert zu bewerten, statt Paare zu vergleichen, vergaben sie ebenfalls insgesamt geringfügig höhere Durchschnittsnoten für weibliche Lebensläufe; die Unterschiede waren jedoch vernachlässigbar. Wurden die Lebensläufe jeweils mit „bevorzugten Pronomen“ (he/him oder she/her) versehen, erhöhte sich, unabhängig vom Geschlecht, die Wahrscheinlichkeit, dass der Bewerber ausgewählt wurde, leicht. Die KI zeigten also auch eine leichte Präferenz für Bewerber, die sich selbst als woke markierten.
Keine Benachteiligung von Frauen in Männerdomänen
Die Tendenz der KI, Frauen zu bevorzugen, bestätigt, was sich auch in vielen Bereichen der realen Welt seit Langem zeigt. Insbesondere im akademischen Betrieb ist die Zeit der Männerdominanz vorbei. Das gilt auch für die oft noch als Männerdomäne bezeichneten Fachgebiete. Zwar hört man immer noch sehr häufig, dass Frauen, die sich für eine Karriere in den Bereichen Wissenschaft, Technologie, Ingenieurwesen und Mathematik (Mint) entscheiden, auf ihrem Weg ständig mit Benachteiligungen konfrontiert seien. Eine neue, umfassende Analyse zeigt jedoch, dass davon keine Rede mehr sein kann.
Ein Team von Forschern hat sich der Mammutaufgabe gestellt, die widersprüchliche Literatur zu Geschlechtervorurteilen in der akademischen Wissenschaft der Jahre 2000 bis 2020 auszuwerten. In den angesehensten Fachzeitschriften und Medien, die die öffentliche Meinung stark prägen, wird das Geschlechtervorurteil oft als allgegenwärtiger Faktor dargestellt, der den beruflichen Fortschritt von Frauen begrenzt.
„Die Tendenz der KI, Frauen zu bevorzugen, bestätigt, was sich auch in vielen Bereichen der realen Welt seit Langem zeigt. Insbesondere im akademischen Betrieb ist die Zeit der Männerdominanz vorbei.“
Entgegen dieser Darstellung haben die Autoren die empirische Evidenz in sechs zentralen Bereichen der wissenschaftlichen Laufbahn im Tenure Track untersucht, also der Zeit, in der promovierte Wissenschaftler an Universitäten oder Forschungseinrichtungen darauf hinarbeiten, eine unbefristete Professur (Tenure) zu erhalten. Dazu gehören: die Besetzung von Tenure-Track-Stellen, die Bewilligung von Forschungsgeldern, die Bewertung von Lehrveranstaltungen, die Annahme von Artikeln durch Fachzeitschriften, das Gehalt sowie Empfehlungsschreiben. Zusätzlich betrachteten sie einen siebten Bereich, die wissenschaftliche Produktivität (Publikationen), da diese andere Evaluationsbereiche beeinflussen kann.
Die Autoren, darunter zwei Wissenschaftlerinnen, die selbst in ihrer früheren Karriere erhebliche Diskriminierung erlebt haben, gingen diese Analyse als – wie sie es formulieren – „gegnerische Zusammenarbeit“ an. Über viereinhalb Jahre hinweg forderten sie sich gegenseitig heraus und stützten sich dabei auf empirische Daten, um ein sehr umfangreiches Konsensdokument („Exploring Gender Bias in Six Key Domains of Academic Science: An Adversarial Collaboration") zu erstellen, das die vielen widersprüchlichen Ansichten und Erkenntnisse integriert. Sie konzentrierten sich auf die Zeit seit 2000, da sich die Situation für Frauen in der Gesellschaft und Wissenschaft seitdem dramatisch verändert hat.
Was fanden sie heraus? Konkret stellten sie fest, dass
- in drei Bereichen Frauen im Tenure Track gleichauf mit Männern liegen: bei der Bewilligung von Forschungsgeldern, der Annahme von Artikeln durch Fachzeitschriften und bei Empfehlungsschreiben.
- in einem vierten Bereich Frauen sogar Vorteile gegenüber Männern haben, nämlich bei der Besetzung von Tenure-Track-Stellen.
- beim Gehalt und bei Bewertung durch Studenten Männer im Vorteil sind.
Schauen wir uns die einzelnen Bereiche im Detail an:
Besetzung von Tenure-Track-Stellen
Die Ergebnisse, auch neue Studien und eigene Analysen der Autoren, zeigen ziemlich eindeutig, dass Frauen bei Einstellungen im Tenure Track seit etwa 2009 einen klaren Vorteil haben. Und das hat sich auch nach 2020 nicht geändert.
Die folgende Abbildung zeigt das Ergebnis einer USA-weiten Studie von 2015. Im Hauptversuch haben 363 Angehörige des wissenschaftlichen Hochschulpersonals fiktive Bewerbungen von weiblichen und männlichen Bewerbern für eine Festanstellung als Assistenzprofessor bewertet. Die Bewerbungen waren so verfasst, dass sie denselben Lebensstil (z. B. ledig ohne Kinder, verheiratet mit Kindern) sowie die gleiche Qualifikation beinhalteten. Die Profile der Bewerber wurden systematisch variiert, um identisch bewertete wissenschaftliche Leistungen zu verschleiern. Die Ergebnisse zeigten eine 2:1-Präferenz für Frauen durch wissenschaftliches Hochschulpersonal beider Geschlechter sowohl in mathematikintensiven als auch in nicht-mathematikintensiven Fachbereichen, mit der einzigen Ausnahme männlicher Ökonomen, die keine Geschlechterpräferenz zeigten.
Abb. 2: Prozentsatz der Angehörigen des wissenschaftlichen Hochschulpersonals das den Bewerber oder die Bewerberin an die erste Stelle gestezt hat. Quelle: Williams / Ceci 2015
Bewilligung von Forschungsgeldern
Männer haben tendenziell etwas mehr Erfolg beim Einwerben von Forschungsgeldern. Die niedrigere Bewilligungsrate bei Frauen lässt sich durch die geringere durchschnittliche Produktivität (siehe unten) und dadurch erklären, dass Frauen seltener Anträge stellen. Die Autoren führten eigene Meta-Analysen durch, die Studien von 2000 bis 2020 umfassten. Sowohl ihre Meta-Analysen als auch neuere, große Studien sowie ihre narrative Analyse stützen die Behauptung weit verbreiteter Benachteiligung von Frauen im Begutachtungsprozess von Fördermittelanträgen in den USA in den letzten 20 Jahren nicht.
Bewertung von Lehrveranstaltungen
Die qualitative Analyse von studentischen Kommentaren auf Plattformen wie „Rate My Professors“ ergab, dass negative Begriffe häufiger für weibliche Dozenten verwendet werden, während positive Begriffe oder Zuschreibungen wie „Genie" häufiger männlichen Dozenten zugeschrieben werden. Frauen werden eher als „Lehrer" und Männer als „Professoren" bezeichnet. Wörter wie „herrisch" werden häufiger für Frauen verwendet, „durchsetzungsfähig" für Männer. Frauen schneiden also bei der Bewertung durch Studenten schlechter ab als ihre männlichen Kollegen. Es ist zumindest möglich, dass Vorurteile hierfür verantwortlich sind.
Annahme von Artikeln durch Fachzeitschriften
Die Autoren führten eine Meta-Analyse von Studien durch, die Daten zu über 410.000 Einreichungen lieferten. Männer schnitten etwas besser ab, die Unterschiede waren jedoch sehr gering. Wichtig ist, dass sich eine signifikante Tendenz zur Bevorzugung von Frauen im Laufe der Zeit zeigte, so dass im Jahr 2020 Schätzungen nahelegten, dass Einreichungen von Frauen eher angenommen werden, insbesondere in den Sozialwissenschaften außerhalb der Wirtschaftswissenschaften. Studien, die die geringere Produktivität der weiblichen Autoren berücksichtigten, zeigten keinen Vorteil für Männer, sondern für Frauen.
Gehalt
Die Autoren kommen zum Schluss, dass es zwar einen Bias gegen Frauen bei den Gehältern gibt, dieser jedoch wesentlich geringer ist als oft behauptet. Neuere Daten deuten darauf hin, dass eine signifikante Gehaltslücke möglicherweise auf den Non-Tenure-Track-Bereich beschränkt ist oder je nach Fachbereich variiert, wobei Frauen in Mint-Fächern im Verhältnis zu ihrer Produktivität schlechter bezahlt werden als Männer, während dies in sozialwissenschaftlichen Fächern nicht der Fall ist.
Empfehlungsschreiben
Die Autoren analysierten neun Studien. Bei der Auswertung fanden sie keine systematischen Beweise für die Behauptung, dass Frauen in Empfehlungsschreiben schlechter wegkommen. Die größte Studie mit über 2200 Schreiben fand nur wenige Geschlechterunterschiede, von denen die meisten Frauen begünstigten (z. B. mehr positive Emotionswörter, weniger negative, tendenziell längere Schreiben). Eine detailliertere Wortanalyse in dieser Studie ergab, dass Männer zwar häufiger mit Wörtern wie „Physiker", „Intellekt" und „kreativ" in Verbindung gebracht wurden, Frauen aber dreimal häufiger das Schlüsselwort „brillant" zugeschrieben wurde.
Geschlechterunterschiede in der Produktivität (Publikationen)
Dieser Bereich ist kein Evaluationskontext im eigentlichen Sinne, beeinflusst aber die Beurteilung in anderen Bereichen. Der dominierende Befund in der Literatur ist, dass Frauen tendenziell geringere Publikationsraten als Männer haben. Die überwältigende Mehrheit der Studien findet signifikante Produktivitätsunterschiede zugunsten von Männern. Die Autoren weisen darauf hin, dass dies durch Faktoren wie Karriereunterbrechungen (oft aufgrund von Familienverpflichtungen) bedingt ist. Studien, die nur aktive Forscher in einem bestimmten Zeitraum betrachten, zeigen geringere Unterschiede. Die geringere Produktivität von Frauen wird als ein Grund für die geschlechtsspezifischen Unterschiede bei Forschungsgeldern und Gehalt gesehen.
Fazit
Frauen mögen da und dort noch benachteiligt sein. Männer allerdings auch. Eine spezielle Förderung von Frauen in Hinblick auf das berufliche Vorankommen mag im letzten Jahrtausend noch eine gewisse Berechtigung gehabt haben. Heute ist sie in modernen westlichen Gesellschaften obsolet, und Institutionen, die an der Behauptung einer systematischen Benachteiligung festhalten, sind kontraproduktiv.
