Was hilft gegen Bias?
Wegbekommen kann man ihn nicht ganz. Aber man kann ihn messen, verkleinern und sichtbar machen.
Auf Seite der Entwickler:innen
Bessere und breitere DatenMehr Sprachen, mehr Regionen, mehr Stimmen. Dokumentieren, was drin ist (Datasheets, Model Cards).
Messen statt hoffenStandardisierte Tests auf Stereotype (zum Beispiel BBQ, WinoBias) und Tests mit verschiedenen Dialekten, Namen und Sprachen. Ohne Messung gibt es keinen Fortschritt.
Vielfältige Teams und BewertendeWer testet, bestimmt, was auffällt. Mehr Perspektiven finden mehr Fehler.
TransparenzSystemanweisungen, Richtlinien für Bewertende und Testergebnisse veröffentlichen. Dann kann man Entscheidungen kritisieren.
Unabhängige PrüfungExterne Audits und Red-Teaming mit echten Zugriffsrechten, nicht nur von der Firma selbst.
Warum es nicht ganz geht
- Fairness hat mehrere Definitionen, die sich gegenseitig ausschließen können (COMPAS ist das bekannte Beispiel).
- Wer ein Vorurteil abtrainiert, kann ein anderes erzeugen (Gemini-Bilder).
- Oberflächliches Nachtrainieren versteckt manchmal nur die Antwort, das Muster bleibt (Hofmann 2024).
- Die Welt, aus der die Daten stammen, ist selbst nicht gerecht.
Auf deiner Seite
- Frag nach der Gegenseite. „Gib mir die stärksten Argumente der anderen Seite.“ Siehst du einen Unterschied in Tonfall und Qualität?
- Wechsle Namen und Gruppen. Stell dieselbe Frage mit anderem Namen, Geschlecht oder Herkunft. Verändert sich die Antwort?
- Frag in zwei Sprachen. Dieselbe Frage auf Deutsch und Englisch kann andere Antworten bringen.
- Vergleiche Modelle. Ein US-Modell, ein chinesisches, ein europäisches. Unterschiede zeigen die Prägung.
- Verlange Belege. Und prüfe sie. Quellen kann ein Modell erfinden.
- Lass es nicht allein entscheiden. Bei Bewerbungen, Noten, Gesundheit oder Recht gehört ein Mensch dazwischen.
Eine Unterrichtsidee dazu steht auf der Seite Für Lehrkräfte.