← Alle Kapitel

Woher kommt Bias?

Er schleicht sich an jeder Stelle ein, an der Menschen etwas auswählen oder bewerten.

Ein Sprachmodell entsteht in mehreren Schritten. In jedem steckt eine Quelle für Schieflage.

1. Die Trainingsdaten

Das Internet ist kein Querschnitt der Menschheit. Es ist überwiegend englisch, überwiegend westlich, überwiegend von jüngeren Männern mit Internetzugang geschrieben. Wer wenig online schreibt, kommt kaum vor. Das gilt für viele Sprachen, für ältere Menschen und für Menschen ohne stabiles Internet.

Dazu kommt: Die Daten enthalten echte Diskriminierung. Wenn Texte über Jahrzehnte Frauen eher mit Haushalt verbinden, lernt das Modell diese Verbindung. Schon 2016 zeigten Forschende an Wortvektoren, dass „Mann zu Programmierer“ wie „Frau zu Hausfrau“ gerechnet wurde (Bolukbasi et al.).

2. Die Auswahl und das Filtern

Niemand trainiert auf dem ganzen Netz. Firmen filtern: Was ist „Qualität“? Oft zählt, was auf Wikipedia verlinkt ist oder was gut bewertete Seiten zitieren. Das bevorzugt etablierte Quellen und benachteiligt alles am Rand. Wer filtert, entscheidet mit.

3. Die Menschen, die bewerten

Nach dem Vortraining wird das Modell mit menschlichem Feedback nachgeschärft (RLHF und Verwandte): Menschen vergleichen Antworten und sagen, welche besser ist. Diese Gruppe ist klein, bekommt Richtlinien von der Firma und hat eigene Prägungen. Ein Teil dieser Arbeit läuft über Dienstleister in Ländern mit niedrigen Löhnen. TIME berichtete 2023, dass Beschäftigte in Kenia für OpenAI-Aufträge weniger als 2 US-Dollar pro Stunde bekamen, um verstörende Inhalte zu markieren.

„Gut“ heißt dabei oft: höflich, selbstsicher, zustimmend. Modelle lernen so auch Schmeichelei: Sie sagen eher, was du hören willst.

4. Die Regeln der Firma

Zum Schluss kommen Systemanweisungen, Sicherheitsfilter und Unternehmensrichtlinien. Hier wird Bias zur Absicht: Was darf das Modell sagen, was nicht, und in welchem Ton? Diese Schicht sieht man als Nutzer:in nicht, außer die Firma veröffentlicht sie. xAI hat die Systemanweisungen von Grok teils auf GitHub gestellt, die meisten Anbieter tun das nicht.

5. Gesetze und Politik

Ein Modell, das in China angeboten wird, muss sich an die dortigen Regeln zur Generativen KI halten, die unter anderem verlangen, dass Inhalte „sozialistische Kernwerte“ achten. In den USA drängte die Regierung 2025 per Verfügung auf „ideologisch neutrale“ KI für den Staatsgebrauch, was wiederum eine politische Definition von neutral ist. Auch Recht ist eine Quelle von Bias.