Embeddings

Was Embeddings sind

Embeddings sind Zahlenfolgen, die die Bedeutung eines Textes abbilden. Ein Absatz wird dabei in eine feste Anzahl von Zahlen umgerechnet, oft mehrere hundert. Diese Zahlen haben einzeln keine Bedeutung, aber ihre Lage zueinander schon: Texte mit ähnlichem Inhalt liegen nahe beieinander, Texte mit unterschiedlichem Inhalt weit auseinander.

Der Nutzen liegt genau darin. Zwei Sätze können dasselbe meinen, ohne ein gemeinsames Wort zu haben. Versandkosten und Liefergebühr teilen keine Silbe und liegen als Embedding trotzdem dicht beieinander. Eine Volltextsuche findet diesen Zusammenhang nicht, eine Vektorsuche schon.

Wie Ähnlichkeit berechnet wird

Um zu prüfen, wie nah zwei Embeddings liegen, wird der Winkel zwischen ihnen berechnet. Ein kleiner Winkel bedeutet hohe Ähnlichkeit. Die Länge der Zahlenfolge spielt dabei keine Rolle, nur die Richtung. Das ist der Grund, warum ein kurzer Satz und ein langer Absatz zum selben Thema trotzdem als ähnlich erkannt werden können.

Die Qualität des Ergebnisses hängt am Modell, das die Umrechnung vornimmt. Ein Modell, das auf allgemeinen Texten trainiert wurde, erkennt Fachbegriffe schlechter als eines, das auf dem eigenen Fachwortschatz gearbeitet hat. Deshalb ist die Wahl des Modells eine Entscheidung mit Folgen und kein Detail.

Wofür sie im Handel genutzt werden

• Suche im Shop: Eine Suche über Embeddings findet Artikel, deren Beschreibung die Suchanfrage nicht wörtlich enthält. Das hebt die Trefferquote bei umgangssprachlichen Anfragen.
• Ähnliche Artikel: Empfehlungen lassen sich über inhaltliche Nähe bauen, statt über gemeinsame Kategorien.
• Doppelte Artikel: Zwei Einträge mit unterschiedlichem Titel und gleichem Inhalt fallen über Embeddings auf.
• Wissensabruf: Im RAG-Aufbau sind Embeddings der Weg, auf dem die passenden Stellen gefunden werden.
• Sortierung von Anfragen: Kundenanfragen lassen sich nach Thema gruppieren, ohne für jedes Thema Regeln zu schreiben.

Wo die Grenzen liegen

Die erste Grenze sind Zahlen, Codes und Eigennamen. Zwei ähnliche Artikelnummern liegen als Embedding oft dicht beieinander, obwohl sie verschiedene Produkte bezeichnen. Für exakte Kennungen braucht es eine zweite Suche nach Zeichenfolgen.

Die zweite Grenze ist die Aktualität. Ein Embedding entsteht zum Zeitpunkt der Umrechnung und ändert sich nicht. Wird ein Artikel umbenannt oder umbeschrieben, muss das Embedding neu berechnet werden, sonst beschreibt es den alten Stand. Der dritte Punkt ist die Sprache: Ein einsprachiges Modell erkennt deutsche und englische Texte nicht als ähnlich. Für zweisprachige Shops braucht es ein mehrsprachiges Modell.

Die vierte Grenze ist die Nachvollziehbarkeit. Ein Embedding erklärt nicht, warum zwei Inhalte als ähnlich gelten. Für Entscheidungen, die begründet werden müssen, ist das ein Problem, weil die Ähnlichkeit berechnet und nicht belegt wird.

Häufige Fragen

• Kann ich Embeddings speichern und wiederverwenden? Ja, das ist der Normalfall. Sie werden einmal berechnet und dann abgelegt.
• Wie lang ist ein Embedding? Je nach Modell einige hundert bis einige tausend Zahlen.
• Muss ich das Modell wechseln können? Ja, sonst sind alle gespeicherten Werte bei einem Wechsel unbrauchbar.