Was ist Bias in der KI?

Ein Sprachmodell hat keine Meinung. Es hat Muster. Und die Muster sind nicht neutral.

Eine kurze Definition

Bias heißt: Ein System bevorzugt oder benachteiligt bestimmte Menschen, Sichtweisen oder Antworten, ohne dass es dafür einen guten Grund gibt. Bei KI ist das meist keine Absicht. Es ist ein Nebenprodukt davon, wie das System entsteht.

Ein Sprachmodell lernt aus riesigen Textmengen, welches Wort wahrscheinlich als nächstes kommt. Es lernt dabei alles mit, was in diesen Texten steckt: Wissen, Fehler, Vorurteile, Mehrheitsmeinungen und Lücken.

Merksatz: Ein Modell spiegelt wider, was in seinen Daten häufig vorkommt und was seine Entwickler:innen für richtig halten. Es spiegelt nicht, was wahr oder fair ist.

Drei Arten, die man unterscheiden sollte

Statistischer BiasDie Daten bilden die Welt schief ab. Beispiel: Es gibt viel mehr englische als isländische Texte, also ist das Modell auf Englisch besser.

Sozialer BiasDas Modell übernimmt Stereotype. Beispiel: Ärzt:innen werden eher männlich, Pflegekräfte eher weiblich beschrieben.

Gewollter BiasJemand baut eine Haltung absichtlich ein, zum Beispiel per Systemanweisung, Zensur oder Trainingsauswahl. Das ist kein Unfall, sondern eine Entscheidung.

Warum „neutral“ schwer ist

Viele Fragen haben keine neutrale Antwort. Wie nennt man ein Gebiet, über das zwei Staaten streiten? Welche Quelle gilt als seriös? Auch „keine Meinung“ ist eine Entscheidung, nur eine, die man schlechter sieht.

Deshalb ist die ehrlichere Frage nicht „Ist das Modell neutral?“, sondern „Wessen Sicht steckt drin, und kann ich das prüfen?“

Bias ist nicht dasselbe wie Halluzination

Eine Halluzination ist ein erfundener Fakt. Bias ist eine systematische Schieflage. Ein Modell kann alle Fakten richtig haben und trotzdem immer dieselbe Seite einer Debatte zuerst und am freundlichsten darstellen.

Dazu passt

Woher kommt Bias? →