Fine-Tuning

Was Fine-Tuning bedeutet

Beim Fine-Tuning wird ein bereits trainiertes Sprachmodell mit eigenen Beispielen weiter trainiert. Das Modell ist also nicht leer am Anfang, sondern kennt Sprache bereits und bekommt nun eine Ausrichtung. Man unterscheidet das Training von Grund auf, das enorme Datenmengen und Rechenleistung braucht, vom Fine-Tuning, das mit einigen hundert bis einigen tausend Beispielen auskommt.

In der Praxis läuft es meist über eine Schnittstelle des Anbieters: Beispieldateien hochladen, einen Lauf starten, ein eigenes Modell erhalten. Das Ergebnis ist ein Modell, das nur der Auftraggeber nutzt.

Was es lernt und was nicht

Fine-Tuning ist gut darin, Form und Verhalten beizubringen. Es lernt Tonalität, Satzbau, den typischen Aufbau einer Produktbeschreibung, ein Ausgabeformat und die Art, wie ein Unternehmen spricht. Es lernt auch Muster in der Aufgabe: welche Art von Frage wie beantwortet wird.

Weniger zuverlässig ist es für Fakten. Ein Modell, das mit Preisen aus dem letzten Monat weiter trainiert wurde, gibt diese Preise auch dann noch aus, wenn sie überholt sind, und es kann sie mit anderen Werten vermischen. Für Wissen, das sich ändern kann, ist das ungeeignet. Die Regel lautet deshalb: Fine-Tuning für die Form, ein Abruf aus einer Quelle für die Fakten.

Wann es die richtige Wahl ist

• Gleichbleibende Formate: Wenn hunderte Ausgaben exakt gleich aufgebaut sein sollen, lernt das Modell das besser als eine lange Anweisung.
• Kurze Anweisungen: Ein fein abgestimmtes Modell braucht weniger Kontext im Prompt, weil das Format schon im Modell liegt. Das senkt die Kosten pro Anfrage.
• Spezielle Tonalität: Ein sehr eigener Sprachstil lässt sich mit Beispielen besser zeigen als beschreiben.
• Feste Klassifikation: Wenn Anfragen in Kategorien sortiert werden sollen, kann ein kleines fein abgestimmtes Modell günstiger und schneller sein als ein großes.

Was es mit sich bringt

Der Vorteil ist erkauft. Ein eigenes Modell muss gepflegt werden: Ändert sich der Stil, ist ein neuer Lauf nötig. Fehler in den Beispieldaten werden übernommen, deshalb ist die Auswahl der Beispiele die eigentliche Arbeit und nicht der technische Vorgang. Hinzu kommt der Datenschutz: Wer Beispieldaten hochlädt, gibt Inhalte aus dem Unternehmen aus der Hand. Das gehört vorher vertraglich geklärt. Und schließlich die Nachvollziehbarkeit: Ein fein abgestimmtes Modell mit einem Fehler lässt sich nicht reparieren, indem man eine Zeile in einem Dokument ändert. Bei RAG genügt genau das.

Häufige Fragen

• Ersetzt Fine-Tuning RAG? Nein, meist ergänzt es. Beide lösen verschiedene Aufgaben.
• Wie viele Beispiele braucht es? Für ein Format oft einige hundert, für ein Verhalten mehr. Weniger Beispiele führen zu Überanpassung.
• Kann ich das Modell danach noch ändern? Nur durch einen neuen Lauf. Das ist der wesentliche Unterschied zum Abruf aus einer Quelle.