Romy Stühmeier sieht große Unterschiede bei der digitalen Kompetenz nach Geschlecht, Alter und Bildungsstand. Die Algorithmus-Expertin plädiert im Interview für mehr Diversität bei der Entwicklung und Prüfung von Künstlicher Intelligenz (KI). Sie fordert mehr Sensibilität für Diskriminierungen und dass Perspektiven von Frauen eingebracht werden.
Warum ist es wichtig, beim Thema Künstliche Intelligenz Genderfragen mit einzubeziehen?
Einmal geht es um das Thema digitale Mündigkeit. Alle müssen die Chance haben, sich in der digitalen Welt einbringen zu können. Zum anderen gibt es aber eine Kluft bei der Kompetenz. Der jährlich erhobene Digital-Index der Initiative D21 und auch die Sonderauswertungen zum Digital Gender Gap, die gemeinsam mit dem Kompetenzzentrum Technik-Diversity-Chancengleichheit e.V. entstanden sind, belegen, dass wir große Unterschiede je nach Geschlecht, Alter und Bildungsstand haben. Die aktuelle Studie zeigt zwar, dass die Frauen gegenüber den Männern aufholen. Da ist aber noch Potenzial nach oben.
Die Unterschiede haben verschiedene Ursachen. Arbeitsplätze von Frauen sind häufig digital schlechter ausgestattet, weil sie anderen Tätigkeiten nachgehen. Die Frage ist also: Wer kann sich die Kompetenz wie aneignen? Männer sagen zudem eher, ich weiß was Künstliche Intelligenz ist, auch wenn die Kenntnis nicht wirklich groß ist. Ein Smartphone nutzt heute fast jede und jeder. Die wenigsten würden aber sagen, dass sie mit der Spracherkennung auch Künstliche Intelligenz nutzen. Fast die Hälfte der Nutzer und Nutzerinnen von Diensten wie Whatsapp und Facebook vertrauen diesen eigentlich nicht. Frauen sind da im Durchschnitt noch skeptischer.
Wie verhält sich das zu Vorstellungen, die Technik sei neutral?
Die Technik allein gibt es nicht. Dahinter stehen immer Menschen, die sie entwickeln. Damit ist sie auch nicht neutral. Ein Beispiel ist die Google-Suche. Wer 2020 nach Biontech suchte, bekam in einem Info-Kasten Uğur Şahin als Vorstandvorsitzenden angezeigt, Özlem Türeci dagegen als „Ehefrau von Uğur Şahin“. Dabei ist sie die Entwicklerin des Impfstoffs.
Menschen trainieren die Systeme. Die Maschinen arbeiten mit den Daten, die zur Verfügung stehen. Der Mensch gibt es ein und wendet es an. Deshalb ist es wichtig, dass auch Daten von Frauen berücksichtigt werden. Wie kann ich Systeme so trainieren, dass ein Bias, eine Verzerrung, ausgebremst wird? Wir brauchen Teams, die Datenanwendung prüfen.
Gibt es weitere Beispiele, wie sich durch den Einsatz von KI diskriminierende Stereotype verstärken?
Einige Beispiele gingen durch die Medien. Bei der Apple Card zeigte sich, dass Ehepaare bei gleichem Verdienst von Mann und Frau unterschiedliche Kreditrahmen zugewiesen bekamen, Männer einen deutlich höheren. Bei einer Studie zur Arbeitsmarktentwicklung in Österreich zeigte sich, dass viele Daten zum Nachteil von Frauen bewertet werden, etwa Care-Arbeit oder Teilzeitbeschäftigungen. Dadurch seien sie schlechter in den Arbeitsmarkt zu integrieren, schloss man daraus. Positiv gewendet können wir sagen, jetzt wissen wir, was wir vorher nur vermutet haben, und können es ändern.
Wie sieht es auf anderen Seite mit Chancen aus, durch KI Diskriminierungen zu überwinden?
Es gibt Bereiche wie die Diagnostik. Da können digitale Systeme mehr Bilddaten verarbeiten als ein Mensch im ganzen Leben sehen kann. In der Medizin allgemein und in der Pharmazeutik sind sie hilfreich. Sie führen zu größerer Vergleichbarkeit. Männer und Frauen haben verschiedene Körper, die eine unterschiedliche Behandlung erfordern. Auch Inklusion können Entwicklungen der Künstlichen Intelligenz fördern. Sie helfen mit sensorischen Systemen wie Blicksteuerung, Menschen in den 1. Arbeitsmarkt zu integrieren. Chancen gibt es überall in der Gesellschaft, wenn Entwicklungen zu mehr Diversität führen.
Wie präsent sind Frauen heute in den Forschungseinrichtungen und Entscheidungsgremien?
Wer ist in entsprechenden Studiengängen und hat dann noch die Chance in entsprechende Gremien zu kommen? Nur 17,5 Prozent der Studierenden in den Fächern Elektrotechnik und Informatik sind Frauen. In der Betriebswirtschaftslehre gibt es inzwischen zwar mehr Absolventinnen als Absolventen. Aber nur fünf Prozent der CEO und 32 Prozent in den Unternehmensvorständen sind Frauen. Ein gutes KI-System könnte durchaus helfen, mehr Frauen zu rekrutieren. Am Ende muss immer der Mensch entscheiden. Das Verfahren muss transparent sein und es muss einen Rechtsrahmen geben, in dem ich mich gegebenenfalls wehren kann. Noch gilt in vielen Bereichen: Ich hole mir lieber Menschen, die so ähnlich sind wie ich. Dabei führt Diversität zu besseren Ergebnissen. Wo sich eine kritische Masse von Frauen in Führungspositionen gebildet hat, wächst der Frauenanteil weiter.
Welche Bedeutung hat Vielfalt bei der weiteren Entwicklung von KI?
Diversität ist die ideale Vorstellung. Das wird aber nicht von heute auf morgen kommen. Deshalb muss geprüft werden, welche Daten genutzt werden und wie der Algorithmus arbeitet. Gleichstellungsbeauftragte und Betriebsräte müssen in die Prozesse miteinbezogen werden. Sie lassen sich inzwischen schulen, um zu wissen: Welche Fragen muss ich stellen, damit ein System diskriminierungsfrei ist? Wir müssen sensibler werden für Diskriminierungen und dafür sorgen, dass Perspektiven von Frauen eingebracht werden.
Zur Person
Romy Stühmeier ist seit 2016 Mitarbeiterin im Kompetenzzentrum Technik-Diversity-Chancengleichheit in Bielefeld. Die studierte Erziehungswissenschaftlerin arbeitet unter anderem an politischen und strategischen Prozessen zur Digitalen Bildung und Teilhabe.
Die Bertelsmann Stiftung zeichnete sie als Algorithmus-Expertin im deutschsprachigen Raum aus. Sie ist als Speakerin auf Podien und Veranstaltungen aktiv und setzt sich für eine diskriminierungsfreie Technologieentwicklung ein. Sie leitet die Bundeskoordinierungsstelle der Programme „Girls’Day – Mädchen-Zukunftstag“ und „Boys’Day – Jungen-Zukunftstag“.
