Bias

Was Bias bedeutet

Bias ist eine systematische Verzerrung in Daten oder Modellen. Der entscheidende Teil ist das Wort systematisch: Ein Fehler ist zufällig, eine Verzerrung tritt dauerhaft in dieselbe Richtung auf. Ein Empfehlungssystem, das Frauen systematisch teurere Produkte zeigt, macht keinen Fehler im Einzelfall, sondern bildet ein Muster ab, das aus den Daten stammt.

Wichtig ist, dass Bias nicht mit Absicht entsteht. In der Regel ist niemand im Unternehmen der Meinung, eine Gruppe solle schlechter behandelt werden. Das Muster entsteht aus Daten, die eine frühere Welt abbilden, und wird dann in die Zukunft verlängert.

Wie Verzerrung entsteht

• Auswahl der Daten: Trainingsdaten stammen aus der Vergangenheit. Verkaufte ein Shop lange vor allem an eine Gruppe, fehlen für andere Gruppen schlicht die Beispiele.
• Merkmal als Stellvertreter: Ein Merkmal steht für etwas, das nicht gemessen wurde. Die Postleitzahl steht für Kaufkraft, das Gerät für Einkommen. Damit wandert die Verzerrung in das Modell, ohne dass jemand sie beabsichtigt hat.
• Optimierungsziel: Ein Modell optimiert, was gemessen wird. Optimiert es Klicks statt Zufriedenheit, produziert es Aufmerksamkeit statt Nutzen.
• Rückkopplung: Was das Modell zeigt, wird gekauft, und das Gekaufte bestätigt das Modell. Beliebte Artikel werden beliebter, der Rest verschwindet.

Wo es im Shop auftritt

Drei Stellen sind typisch. Erstens das Suchranking: Ein Modell lernt aus Klicks und bevorzugt Artikel, die schon oft geklickt wurden, wodurch neue Artikel kaum eine Chance erhalten. Zweitens die Empfehlung: Die Rückkopplung verengt das Sortiment sichtbar, bis der Shop für Kunden austauschbar wirkt. Drittens die Preisgestaltung: Wenn dynamische Preise auf Merkmale wie Gerät oder Region reagieren, kann eine Gruppe dauerhaft mehr zahlen, ohne dass sich das sachlich begründen lässt.

Ein vierter Bereich ist die Textgenerierung. Ein Sprachmodell, das Produkttexte schreibt, übernimmt Formulierungen und Stereotype aus seinen Trainingsdaten. Das ist besonders heikel, weil es in großer Menge passiert und bei jedem Text aufs Neue.

Was sich dagegen tun lässt

Vollständige Neutralität ist nicht erreichbar, weil jedes Modell aus einer unvollständigen Vergangenheit lernt. Realistisch sind vier Maßnahmen. Erstens messen: Die Ergebnisse nach Gruppen aufschlüsseln und prüfen, ob sich die Verteilung unterscheidet. Ohne diese Messung bleibt das Problem unsichtbar. Zweitens zeigen: Bei einer Empfehlung angeben, warum ein Artikel erscheint, weil eine Erklärung Fehler sichtbar macht.

Drittens mischen: Der Empfehlung einen Anteil Zufall oder Vielfalt beimischen, damit die Rückkopplung nicht überhandnimmt. Viertens begrenzen: Merkmale weglassen, die als Stellvertreter für Personenmerkmale dienen, auch wenn das Modell dadurch kurzfristig etwas ungenauer wird. Der Verzicht auf ein Merkmal kostet meist weniger, als die Verzerrung später kostet, wenn Kunden sie bemerken und öffentlich machen.