Sie ist hübsch. Er ist stark. Er ist Lehrer. Sie ist Kindergärtnerin

Tippt man bei Google Translate ins erste Feld the nurse, so erscheint im zweiten: die Kranken­schwester. Und nicht: der Kranken­pfleger. Obwohl das englische Wort nurse beides bezeichnen kann, eine Frau oder einen Mann.

Klischiert, aber gerade noch so erträglich? Schauen wir noch ein Beispiel an.

Stellt man das erste Feld auf Deutsch um und tippt dort «der Kranken­pfleger», so erscheint im zweiten auf Französisch: l’infirmière. Die Krankenpflegerin.

Das ist nun erstens wirklich falsch und zweitens sexistisch – denken Menschen. Anders funktionieren die Algorithmen, die mit Daten – vielen Millionen Texten aus dem Internet – trainiert wurden. Sie reproduzieren die Muster und damit auch die Verzerrungen, biases, die sie in den Daten vorfinden. Und ein solches Muster ist eben: Pflege­personal, das sind häufiger Frauen. So entsteht der Gender-Bias.

Google Translate und andere Algorithmen übersetzen immer schneller und besser. Wie gut sind sie aber mittlerweile darin, diesen Bias loszuwerden?

Der Algorithmus tut, als wüsste er es

Besonders leicht lässt sich das an Übersetzungen aus dem Finnischen nachzeichnen. Denn diese Sprache kennt nur ein einziges Pronomen, um in der Einzahl über Drittpersonen zu sprechen: hän. Das Wort steht für er, sie, es, kann also Frauen, Männer, Buben, Mädchen bezeichnen.

Finninnen unterläuft deshalb oft ein typischer Fehler: Sie sagen auf Englisch etwa she und zeigen dabei auf einen Mann. Oder sprechen von him, meinen dabei aber eine Freundin, weil sie es nicht gewohnt sind, dass sie im Personal­pronomen ein Geschlecht ausdrücken müssen.

Auch automatische Übersetzer müssen hän ein Geschlecht zuweisen, wenn sie das Wort in eine Sprache wie Deutsch übertragen. Und auch sie treffen oft seltsame Entscheidungen.

Eine Kostprobe aus Google Translate:

Dabei funktionieren opettaja und lastentarhanopettaja ähnlich wie nurse auf Englisch: Weder das Wort selbst noch seine grammatischen Eigenschaften weisen auf ein bestimmtes Geschlecht hin. Wird es nicht aus dem Kontext klar, weiss man schlicht nicht, ob es einen Mann oder eine Frau bezeichnet.

Aber der Übersetzungs­algorithmus tut so, als wüsste man es.

Und er tut auch so – das zeigen weitere Übersetzungs­versuche –, als wäre stets klar, dass er Athlet ist, sie Tänzerin. Er Tierarzt, sie Tiersitterin. Er Zahnarzt, sie Dental­hygienikerin. Er Busfahrer, sie Psychologin.

Wie umfassend ist dieser Gender-Bias?

Um dies herauszufinden, haben wir hundert finnische Sätze nach dem obigen Schema – Hän on oppetaja – bei Google Translate eingegeben. Die 100 Sätze umfassen in der Schweiz häufig ausgeübte Berufe und ein paar weitere Beschäftigungen. Das Ergebnis: Nur bei 20 Berufen spuckte der Algorithmus auf Deutsch ein weibliches Personal­pronomen aus. 80 Berufe und damit der Grossteil wurden in der Übersetzung dagegen als männlich eingestuft.

Wie entsteht der Gender-Bias bei Google Translate? Streng genommen ist nicht der Algorithmus das Problem – sondern das Material, mit dem er gefüttert wird. Also die Daten, mit denen das Übersetzungs­programm «trainiert» wird. Dieses Material besteht aus Texten, die eben nicht genderneutral sind, sondern Stereotype, Klischees, Verzerrungen enthalten.

In der Folge ist auch die Übersetzung biased: Ihr Output orientiert sich an dem, was die Trainings­daten als «Standard-Mensch» kennen (etwa: weiss, männlich, heterosexuell). Und nicht zwingend an dem, was man als Nutzerin eingegeben hatte oder als wünschbares Ergebnis erachten würde.

Deshalb kommt «Sie ist …» in den übersetzten Sätzen nicht nur viel seltener vor als «Er ist …». Die weibliche Form steht auch neben ganz bestimmten Berufs­bezeichnungen. Nicht beim Ingenieur, dem Schriftsteller, dem Professor. Auch nicht neben dem Metzger, Maurer oder Polizei­beamten. Sondern neben der Logopädin, der Bibliothekarin, der Friseurin.

Nur sporadisch weichen die Übersetzungen von den Berufs­stereotypen ab. Zum Beispiel übersetzt Google Translate aus dem Finnischen: Sie ist Ärztin. Er ist Kranken­pfleger. Und nicht: Er ist Arzt. Sie ist Krankenpflegerin.

Wie dies zustande kommt, ist unklar. Interessanter­weise kehren sich die Geschlechter um, wenn man den Ausgangs­satz nicht in der dritten Person, sondern in der ersten Person formuliert: mit minä (ich) statt mit hän (er, sie).

Frauen betreuen, assistieren und putzen

Es gibt Statistiken, die den Übersetzungen von Google-Translate eine gewisse Plausibilität verleihen. So zeigt sich etwa: Die meisten Berufe, denen der Algorithmus ein weibliches Pronomen zuteilt, werden in der Schweiz effektiv häufiger von Frauen ausgeübt. Beispiels­weise sind 99 Prozent aller Dental­hygienikerinnen tatsächlich Frauen, und auch der Beruf Bibliothekarin weist einen Frauen­anteil von 66 Prozent auf.

Das ist ein Erklärungs­ansatz – aber keine Ausrede für grosse Tech-Firmen, solchen Verzerrungen nicht aktiv gegenzusteuern. Dies sollten sie aus zwei Gründen tun.

Einerseits um der Qualität der Übersetzung selbst willen: Wenn der deutsche «Kranken­pfleger» zur französischen infirmière wird, ist das schlicht falsch. Und dass geschlechts­neutrale Begriffe – opettaja, nurse, Pflege­personal – in der Ziel­sprache ein Geschlecht tragen, ist ebenfalls nicht korrekt.

Ein Beispiel dazu: Übergab man Google Translate vor zwei Jahren «Pflege­personal», so spuckte es auf Französisch aus: infirmières. Der Algorithmus wählte dabei die weibliche Form nicht nur aus dem Repertoire einer männlichen und einer weiblichen aus (infirmiers, infirmières), sondern übersah auch, dass es eigentlich gender­neutrale Entsprechungen gegeben hätte: personnel de soin oder personnel soignant. Dies wäre auch Wort für Wort viel naheliegender gewesen.

Zur Übersetzung gehört auch die Übertragung des Geschlechts, ob weiblich, männlich, nicht binär oder gender­neutral. Statistische Rollen­verteilungen in der Bevölkerung haben dabei selbst­verständlich keine Rolle zu spielen.

Andererseits ist es wichtig, solchen Biases entgegenzusteuern, um stereotype, häufig veraltete Rollen­bilder nicht zu zementieren.

Textkorpora, die zum Training von Übersetzungs­algorithmen verwendet werden, widerspiegeln nicht unbedingt reale oder aktuelle Verteilungen zwischen Männern und Frauen in bestimmten Rollen, Berufen oder Ämtern. (Zum Beispiel erbringen Frauen auf dem Schweizer Arbeits­markt knapp 40 Prozent der geleisteten, bezahlten Arbeits­stunden – nicht einen Fünftel, wie unser kleiner Übersetzungs­datensatz suggerieren könnte.) Zudem verschärfen Algorithmen typischer­weise die verzerrten Verhältnisse aus Trainings­daten. Klischees werden also nicht nur wiedergegeben, sie werden geradezu potenziert.

Das zeigt auch Teil zwei unseres Übersetzungsexperiments.

Frauen sind schön – und depressiv

Hier haben wir den Algorithmus nicht mit Berufs­bezeichnungen, sondern mit persönlichen Eigenschaften, also mit Adjektiven gefüttert.

Eine kleine Kostprobe dazu:

Ähnlich wie bei den Berufen zeigt sich, dass Google Translate viel häufiger männliche als weibliche Übersetzungen wählt. Von den 50 Adjektiven, die wir getestet haben, wurden 45 in Kombination mit «Er ist …» übersetzt. Nur bei 5 Adjektiven kam die weibliche Form zum Zug: «Sie ist …».

Die Geschichte der weiblichen Eigenschaften ist schnell erzählt: «Sie» ist schön (wahlweise auch hübsch oder attraktiv), locker oder depressiv.

«Er» hingegen ist gut, böse, wichtig, irrelevant, stark, schwach, intelligent, dumm, erfolgreich oder mutig – und vieles mehr. Und auch bei komplexeren Sätzen produziert der Algorithmus ein Klischee nach dem anderen:

Das sind nun alles, gelinde ausgedrückt, ziemlich krasse Verzerrungen.

Sie kommen dadurch zustande, dass Algorithmen statistische Prinzipien auswerten: Sie ermitteln in Trainings­texten, wie häufig ein Wort in der Nähe anderer Wörter auftritt – etwa «Kinder­garten» oder «Hochschule» neben männlichen Vornamen oder Formen wie «Vater», «er», «Mann».

Sie kommen auch durch methodische Entscheide, etwa die Verwendung sogenannter Pivot-Sprachen, zustande. Für manche Sprachen­paare wie Englisch und Deutsch gibt es viele Texte, die im Netz in beiden Sprachen vorliegen und sich als Trainings­material verwenden lassen. Für andere Sprachen­paare – etwa Ungarisch und Swahili – gibt es viel weniger solcher Parallel­korpora. Hier kommen die Pivot-Sprachen ins Spiel: Für eine Übersetzung von Ungarisch zu Swahili übersetzt man zuerst das Ungarische in eine Pivot-Sprache und anschliessend die Pivot-Sprache ins Swahili.

Als Pivot verwendet man häufig: Englisch. Und da Englisch in grossen Teilen des Wort­schatzes nicht zwischen Geschlechtern unterscheidet, gelangt so vermutlich zumindest ein Teil des Gender-Bias in Übersetzungen: An die Stelle des Geschlechts, das in der Ausgangs­sprache verwendet wurde, tritt das stereotype Geschlecht, das ausgehend vom Englischen gewählt wird.

Auf diese Weise gelangt Gender-Bias via sehr, sehr viele Augen­paare in die Köpfe der Menschen, die Google Translate benutzen, um sich zu informieren, zu unterhalten, sich mit anderen auszutauschen. Nicolas Kayser-Bril von Algorithm Watch nennt solche Methoden «digitalen Kolonialismus».

Wie man es richten könnte

Welche Daten man verwendet, um Algorithmen zu trainieren, ist also bedeutsam:

• Man kann relativ wahllos im Internet Texte zusammen­suchen (vielleicht geraten dabei als Beifang auch automatisch übersetzte und damit extra­verzerrte Texte mit ins Textkorpus).

• Man kann Textdaten sorgfältig danach auswählen, von wem sie wie übersetzt wurden.

• Oder man kann Texte selber erstellen, ergänzen, anpassen, um dem Algorithmus mehrere Optionen zu gleichen Anteilen zu verfüttern: Er ist Ingenieur. Sie ist Ingenieurin. Sie/er ist Ingenieur/-in.

Einer der Lösungs­ansätze für Debiasing zielt darauf ab, stereotype statistische Verknüpfungen, etwa zwischen «Kinder­garten» und «Frau», maschinell zu entfernen und Trainings­daten damit ausgeglichener zu gestalten.

Ein weiterer ist die neue Methode, die der Internet­gigant vor einem Jahr als «dramatisch andersartiges Paradigma» beschrieb. Für manche Sprachenpaare:

1. produziert Google Translate eine defaultmässige Übersetzung;

2. überprüft, ob die ausgangs­sprachliche Form gender­neutral war und ob die zielsprachliche Übersetzung ein spezifisches Geschlecht trägt;

3. und stellt in diesem Fall eine zweite Übersetzung mit dem jeweils anderen Geschlecht dazu.

Ein Beispiel dafür (mit der Zielsprache Deutsch funktioniert es nicht):

Google Research versprach im April 2020, Gender-Bias in englischen Sätzen werde nun bei Übersetzungen aus dem Ungarischen, Finnischen, Türkischen und Persischen um 90 Prozent oder mehr niedriger ausfallen.

Lässt man Google Translate heute «Pflege­personal» auf Französisch übersetzen, erhält man tatsächlich: personnel infirmier. Unser Experiment mit 150 übersetzten Sätzen zeigt aber: Im Zweifelsfall ist der Mensch ein Mann. Wenn er eine Frau ist, dann meist dort, wo es zum althergebrachten Klischee passt. Ein Google-Medien­sprecher wollte sich zu unserer Frage nach Debiasing für Zielprachen wie Deutsch und Französisch nicht öffentlich äussern. Auch wie es seine Übersetzungen künftig weiter debiasen will, beantwortet das Unternehmen auf Anfrage nicht.

Klar ist: Die Technik allein wird es nicht richten – es wird Menschen mit dem entsprechenden Augen­merk brauchen, die mit der Maschine zusammen­arbeiten. Sprach­wissenschaftlerinnen werden die Big-Data-Modelle vermutlich wieder vermehrt an die Hand nehmen müssen, zusammen mit Genderforschern, Entwicklerinnen und mit Menschen verschiedenen Geschlechts, Alters sowie verschiedener Hautfarbe, geografischer und kultureller Herkunft.