Halluzination

Was eine Halluzination ist

Eine Halluzination ist eine erfundene Aussage eines Sprachmodells, die flüssig und überzeugend formuliert ist, aber nicht auf einer Quelle beruht. Der Begriff beschreibt nicht einen technischen Fehler, sondern eine Eigenschaft des Verfahrens: Ein Sprachmodell sagt wahrscheinliche Fortsetzungen voraus, und eine wahrscheinliche Fortsetzung ist nicht dasselbe wie eine wahre Aussage.

Deshalb ist eine Halluzination auch nicht am Ton erkennbar. Erfundene Angaben wirken genauso sicher wie belegte. Wer die Ausgabe prüft, muss den Inhalt prüfen, nicht die Formulierung. Genau das ist in der Praxis der aufwendige Teil.

Wo es im Shop teuer wird

• Produktangaben: Technische Werte, Maße, Material und Verträglichkeiten. Ein erfundenes Maß führt zu Retouren und Beschwerden.
• Preis-Aussagen: Aussagen zu Rabatten, Fristen oder Garantien, die nicht stimmen, sind rechtlich problematisch und binden unter Umständen.
• Rechtliche Auskünfte: Antworten zu Widerruf, Gewährleistung oder Datenschutz. Eine falsche Auskunft ist keine Hilfestellung, sondern ein Risiko.
• Übersetzungen: Eine erfundene Bedeutung eines Fachbegriffs verändert den Inhalt, ohne dass es auffällt.
• Interne Auswertungen: Eine erfundene Zahl in einem Bericht wird zur Entscheidungsgrundlage.

Warum es dazu kommt

Drei Ursachen sind typisch. Erstens fehlendes Wissen: Das Modell hat keine Information zum konkreten Artikel oder zum aktuellen Preis und füllt die Lücke mit einer plausiblen Annahme. Zweitens widersprüchliche Quellen: Liegen mehrere Angaben vor, werden sie gemischt, statt eine auszuwählen. Drittens die Form der Frage: Wer eine Antwort erzwingt, erhält eine Antwort, auch wenn keine vorliegt.

Die Ursachen bestimmen die Gegenmaßnahmen. Wo Wissen fehlt, hilft das Bereitstellen der Quelle. Wo Quellen widersprüchlich sind, hilft eine feste Reihenfolge. Wo die Frage eine Antwort erzwingt, hilft eine Regel, die eine Ausweichantwort ausdrücklich erlaubt.

Was wirkt

Vier Maßnahmen sind wirksam und ohne großen technischen Aufwand umsetzbar. Erstens Quellenbindung: Das Modell darf nur aus dem bereitgestellten Material antworten, und wenn dort nichts steht, muss es das sagen. Diese Anweisung ist die stärkste einzelne Maßnahme, weil sie die Ursache adressiert.

Zweitens die Erlaubnis zur Ausweichantwort. Ein Modell, das "dazu liegt keine Information vor" sagen darf, erfindet seltener als eines, das immer eine Antwort liefern soll. Drittens Prüfung der kritischen Felder, also Preise, Fristen, Maße und rechtliche Angaben, gegen das eigene System statt gegen den Text. Diese Felder dürfen nie aus einer generierten Antwort stammen, sondern nur aus der Datenquelle.

Viertens Anwendungsgrenzen. Für Aufgaben mit hohem Risiko und vollständig bekannten Regeln ist ein festes Regelwerk besser geeignet als ein Sprachmodell: Versandkostenberechnung, Steuersätze und Verfügbarkeiten gehören ins System, nicht in eine Formulierung. Ein Sprachmodell ist dort sinnvoll, wo Text formuliert wird, nicht wo Werte bestimmt werden.