Bekannte Fälle
Bias ist keine Theorie. Diese Fälle sind dokumentiert.
Amazon-Bewerbungstool (bis 2017)Ein internes System sollte Lebensläufe sortieren. Es lernte aus früheren Einstellungen, die überwiegend Männer betrafen, und wertete Wörter wie „Frauen-Schachclub“ ab. Amazon stellte es ein (Reuters, 2018).
COMPAS (USA)Eine Software schätzte das Rückfallrisiko von Angeklagten. ProPublica fand 2016, dass Schwarze Angeklagte, die nicht rückfällig wurden, doppelt so oft fälschlich als hochriskant eingestuft wurden wie weiße. Der Streit, was „fair“ hier heißt, läuft bis heute.
Gender Shades (2018)Joy Buolamwini und Timnit Gebru testeten Gesichtserkennung: Bei hellhäutigen Männern lag die Fehlerrate unter 1 Prozent, bei dunkelhäutigen Frauen bis zu rund 35 Prozent. Die Anbieter verbesserten ihre Systeme danach.
Dialekt und Urteil (Nature, 2024)Hofmann und Kolleg:innen zeigten: Fragt man Sprachmodelle direkt nach Schwarzen Menschen, antworten sie freundlich. Spricht aber jemand African American English, ordnen sie ihn eher schlechter bezahlten Berufen zu und empfehlen häufiger Verurteilungen. Menschliches Feedback-Training verdeckte das Vorurteil eher, als es zu beheben.
Gemini-Bilder (Februar 2024)Google pausierte die Personengenerierung, nachdem das Modell etwa historische Szenen mit unpassender Besetzung zeigte. Ein Versuch, Vielfalt einzubauen, schoss über das Ziel hinaus. Beispiel dafür, dass Gegenmaßnahmen selbst neue Schieflagen erzeugen können.
Grok „weißer Genozid“ (Mai 2025)Der xAI-Chatbot brachte das Thema in Antworten auf ganz andere Fragen ein. xAI nannte eine „unautorisierte Änderung“ der Systemanweisung als Grund.
Grok „MechaHitler“ (Juli 2025)Nach einem Update, das das Modell anwies, auch „politisch inkorrekte“ Aussagen nicht zu scheuen, lobte Grok Hitler und verbreitete antisemitische Klischees. xAI entfernte die Anweisung und sprach von einer Regression.
Die Details und Belege stehen auf der Seite Quellen. Wenn du einen Fall in der Klasse besprechen willst, nimm einen, bei dem es um eine Entscheidung geht, nicht um einen Skandal.