Vektordatenbank

Was eine Vektordatenbank leistet

Eine Vektordatenbank speichert Textstellen als Zahlenfolgen, sogenannte Vektoren, und findet zu einer Anfrage die inhaltlich ähnlichsten Stellen. Sie sucht damit nach Bedeutung, nicht nach Wörtern. Das ist der Unterschied zur klassischen Volltextsuche: Wer nach Rechnung fragt, findet auch eine Stelle, die von Zahlungsbeleg spricht, weil beide in derselben Bedeutungsecke liegen.

Im Aufbau von RAG ist sie der Abrufteil. Das Sprachmodell formuliert die Antwort, die Datenbank liefert den Inhalt. Fällt die Suche aus oder liefert sie das Falsche, kann die Antwort nur falsch sein.

Wie das Suchen nach Bedeutung funktioniert

Der Ablauf hat drei Schritte. Beim Einlesen wird jede Textstelle in einen Vektor umgerechnet, ein Embedding. Die Vektoren werden gespeichert, zusammen mit einem Verweis auf die Originalstelle. Bei einer Anfrage wird die Frage ebenfalls in einen Vektor umgerechnet, und die Datenbank sucht die Vektoren, die diesem am nächsten liegen. Nähe bedeutet dabei Ähnlichkeit der Bedeutung.

Die Qualität hängt deshalb an zwei Stellen: an der Güte des Embedding-Modells und an der Zerlegung der Inhalte. Ein gutes Modell mit schlecht zerlegten Abschnitten liefert schlechte Treffer.

Wann sich eine Datenbank lohnt

• Ab einigen tausend Abschnitten: Darunter reicht eine Datei mit Einträgen, die im Arbeitsspeicher durchsucht wird. Der Unterschied zeigt sich erst bei Menge.
• Bei ständigen Änderungen: Wenn Inhalte laufend hinzukommen, braucht es eine Lösung, die einzelne Einträge austauschen kann.
• Bei mehreren Nutzern: Sobald mehrere Abfragen gleichzeitig laufen, ist ein eigenständiger Dienst sinnvoll.
• Bei Rechtevergabe: Wenn Nutzer nur auf ihre eigenen Inhalte zugreifen dürfen, braucht es Filter auf Dokumentebene.

Welche Fehler die Trefferquote senken

Der erste Fehler ist die falsche Abschnittsgröße. Zu große Abschnitte enthalten viel Unwichtiges, das den Vektor verwässert. Zu kleine verlieren den Zusammenhang, sodass ein Satz ohne Bezug gefunden wird. Eine Zwischengröße mit einer Überlappung zwischen benachbarten Abschnitten funktioniert am besten.

Der zweite Fehler ist das Fehlen von Metadaten. Ohne Angaben zu Produktgruppe, Sprache und Gültigkeit findet die Suche Text ohne Zusammenhang oder liefert veraltete Stellen. Der dritte Fehler ist die fehlende Pflege. Eine Vektordatenbank mit zwei widersprüchlichen Stellen liefert beide und damit eine Antwort, die sich selbst widerspricht.

Der vierte Fehler ist die Suche nach Wörtern, wenn Zahlen gefragt sind. Ein Vektor versteht Nähe in der Bedeutung, aber nicht den Unterschied zwischen zwei ähnlichen Modellnummern. Für exakte Angaben braucht es eine zusätzliche Suche nach Zeichenfolgen, die mit dem Ergebnis der Vektorsuche kombiniert wird.

Häufige Fragen

• Brauche ich eine eigene Datenbank? Für den Start nicht. Eine Datei mit Einträgen und eine Berechnung im Arbeitsspeicher genügen.
• Was kostet das Einlesen? Jeder Abschnitt muss einmal in einen Vektor umgerechnet werden, und das ist ein Aufruf beim Embedding-Dienst.
• Kann ich dieselbe Datenbank für mehrere Sprachen nutzen? Ja, wenn das Embedding-Modell mehrsprachig arbeitet.