Begriffe
6 Minuten

Fine-Tuning von KI-Modellen: Wann lohnt es sich und wie unterscheidet es sich von RAG?

Dieser Text wurde mit Hilfe von KI erstellt.

Ein KI-Modell kann viel. Doch manchmal reicht „viel“ nicht aus. Ein Unternehmen möchte, dass das Modell einen bestimmten Schreibstil verwendet, immer ein bestimmtes Ausgabeformat liefert oder eine spezielle Aufgabe zuverlässig erledigt.

Dann stellt sich eine wichtige Frage: Soll das Modell etwas Neues lernen oder soll es auf neue Informationen zugreifen?

Für das erste Problem kommt Fine-Tuning infrage. Für das zweite ist RAG oft die bessere Lösung. Beide Ansätze verfolgen unterschiedliche Ziele. Sie können sich aber auch ergänzen.

Was ist Fine-Tuning?

Fine-Tuning passt ein bereits trainiertes KI-Modell mit zusätzlichen Beispielen an eine bestimmte Aufgabe an. Das Modell lernt dabei nicht von Grund auf neu. Es verändert vorhandene Gewichte so, dass es bestimmte Eingaben und Ausgaben besser miteinander verknüpft.

Als Ausgangspunkt dient ein bereits trainiertes Foundation Model. Dazu kommen eigene Trainingsdaten. Diese bestehen meist aus Beispielen für gewünschtes Verhalten.

Ein stark vereinfachtes Beispiel sieht so aus:

Eingabe:
Erkläre dem Kunden, warum sich seine Lieferung verspätet.

Gewünschte Ausgabe:
Hallo Frau Müller,

Ihre Bestellung verspätet sich leider um zwei Tage.
Der Grund ist eine Verzögerung in unserem Versandzentrum.

Viele Grüße
Ihr Kundenservice

Mit vielen solchen Beispielen kann das Modell lernen, wie es auf bestimmte Situationen reagieren soll.

Was lernt ein Modell beim Fine-Tuning?

Fine-Tuning eignet sich vor allem für Veränderungen am Verhalten des Modells.

Dazu gehören zum Beispiel:

  • ein bestimmter Schreibstil

  • ein festes Antwortformat

  • eine bestimmte Tonalität

  • Klassifikationsaufgaben

  • spezielle Fachaufgaben

  • strukturierte Ausgaben

  • bestimmte Arbeitsabläufe

  • die zuverlässige Anwendung eigener Regeln

Der entscheidende Punkt lautet: Fine-Tuning verändert das Verhalten des Modells.

Es ist deshalb nicht automatisch die beste Methode, um dem Modell große Mengen an Unternehmenswissen beizubringen.

Wie funktioniert Fine-Tuning?

Ein Basismodell wurde bereits mit sehr großen Datenmengen trainiert. Beim Fine-Tuning wird dieses Modell mit einem kleineren, gezielt zusammengestellten Datensatz weitertrainiert.

Die Trainingsdaten zeigen dem Modell, welche Antworten gewünscht sind.

Vereinfacht sieht der Prozess so aus:

Basismodell
    ↓
Eigene Trainingsdaten
    ↓
Fine-Tuning
    ↓
angepasstes Modell

Die Qualität der Trainingsdaten spielt dabei eine große Rolle. Schlechte Beispiele führen nicht automatisch zu einem besseren Modell. Sie können das Modell sogar in die falsche Richtung lenken.

Welche Daten braucht Fine-Tuning?

Für Fine-Tuning brauchst du Beispiele, die das gewünschte Verhalten möglichst genau zeigen.

Bei einem Kundenservice-Modell könnten die Daten zum Beispiel so aussehen:

{
  "input": "Meine Bestellung ist noch nicht angekommen.",
  "output": "Gerne prüfe ich den Status Ihrer Bestellung. Bitte nennen Sie mir Ihre Bestellnummer."
}

Viele hochwertige Beispiele sind dabei meist wertvoller als eine große Menge beliebiger Daten.

Die Daten sollten möglichst:

  • korrekt sein

  • konsistent formuliert sein

  • typische Anwendungsfälle abdecken

  • gewünschtes Verhalten zeigen

  • unerwünschtes Verhalten vermeiden

  • möglichst wenig Widersprüche enthalten

Was ist RAG?

RAG steht für Retrieval-Augmented Generation. Das Verfahren kombiniert die Suche nach Informationen mit der anschließenden Antwortgenerierung durch ein KI-Modell.

Das Modell bekommt relevante Informationen erst dann, wenn eine Anfrage gestellt wird.

Vereinfacht funktioniert RAG so:

Benutzerfrage
     ↓
Suche nach relevanten Informationen
     ↓
passende Dokumente / Textstellen
     ↓
KI-Modell
     ↓
Antwort

Ein Unternehmen kann damit zum Beispiel seine Produktdokumentation, Handbücher oder interne Wissensdatenbanken durchsuchen lassen.

Das Modell muss diese Informationen nicht dauerhaft in seinen Gewichten speichern. Es bekommt sie bei der Anfrage als Kontext.

Warum ist RAG für Unternehmenswissen interessant?

Unternehmenswissen verändert sich ständig.

Preise ändern sich. Produkte werden eingestellt. Prozesse ändern sich. Neue Dokumente kommen hinzu.

Mit Fine-Tuning müsstest du das Modell regelmäßig neu trainieren, wenn du solche Informationen dauerhaft aktualisieren möchtest.

Bei RAG reicht es dagegen meist, die Wissensbasis zu aktualisieren.

Das macht RAG besonders interessant für:

  • Produktdokumentationen

  • Handbücher

  • interne Richtlinien

  • Wissensdatenbanken

  • Support-Dokumente

  • Verträge

  • technische Dokumentation

  • aktuelle Unternehmensinformationen

Fine-Tuning oder RAG: Was ist der Unterschied?

Der wichtigste Unterschied lässt sich mit einer einfachen Frage erklären:

Soll das Modell etwas anders machen oder soll es auf andere Informationen zugreifen?

Fine-Tuning verändert das Modell.

RAG liefert dem Modell zusätzliche Informationen.

Diese Unterscheidung verhindert viele falsche Architekturentscheidungen.

Kriterium

Fine-Tuning

RAG

Verhalten verändern

Sehr gut

Eingeschränkt

Schreibstil anpassen

Sehr gut

Eingeschränkt

Neues Wissen bereitstellen

Bedingt geeignet

Sehr gut

Aktuelle Informationen

Schlecht geeignet

Sehr gut

Unternehmensdokumente

Möglich

Sehr gut

Informationen aktualisieren

Aufwendig

Einfacher

Modell dauerhaft verändern

Ja

Nein

Zugriff auf externe Daten

Nicht direkt

Ja

Trainingsdaten erforderlich

Ja

Nein

Typischer Aufwand

Höher

Meist geringer

Fine-Tuning ist nicht dasselbe wie Wissen hinzufügen

Ein häufiger Denkfehler lautet:

„Ich möchte, dass das Modell unsere internen Dokumente kennt. Also muss ich es mit diesen Dokumenten trainieren.“

Das klingt logisch. Ist aber oft nicht die beste Lösung.

Wenn sich die Dokumente ändern, veraltet das trainierte Wissen. Außerdem kann es schwierig sein, später nachzuvollziehen, woher eine Antwort stammt.

RAG löst dieses Problem anders.

Das Modell erhält die relevanten Informationen erst während der Anfrage. Dadurch kann es mit einer aktuellen Wissensbasis arbeiten.

Fine-Tuning eignet sich dagegen besser, wenn du möchtest, dass das Modell ein bestimmtes Verhalten dauerhaft übernimmt.

Wann solltest du Fine-Tuning verwenden?

Fine-Tuning lohnt sich vor allem dann, wenn Prompting allein nicht zuverlässig genug funktioniert.

Ein typisches Beispiel ist ein Modell, das immer ein bestimmtes Ausgabeformat erzeugen soll.

Angenommen, dein System muss Kundenanfragen kategorisieren:

{
  "category": "retoure",
  "priority": "high",
  "sentiment": "negative"
}

Wenn das Modell trotz guter Prompts häufig vom gewünschten Format abweicht, kann Fine-Tuning helfen.

Auch bei einem sehr spezifischen Schreibstil kann Fine-Tuning sinnvoll sein. Das Modell lernt dann anhand vieler Beispiele, wie es formulieren soll.

Gute Anwendungsfälle für Fine-Tuning

Fine-Tuning passt besonders gut zu Aufgaben wie:

  • Klassifikation

  • Extraktion

  • strukturierte Antworten

  • spezifische Textstile

  • bestimmte Fachaufgaben

  • wiederkehrende Aufgaben mit klaren Eingaben und Ausgaben

  • Anpassung an ein bestimmtes Antwortverhalten

Wann solltest du RAG verwenden?

RAG ist die bessere Wahl, wenn das Modell auf Informationen zugreifen muss, die außerhalb seines ursprünglichen Trainings liegen oder sich häufig ändern.

Ein Support-Chatbot könnte beispielsweise auf eine Wissensdatenbank zugreifen.

Der Ablauf sieht dann so aus:

Kunde:
"Kann ich Produkt X innerhalb von 30 Tagen zurückgeben?"

        ↓

RAG:
Suche in den aktuellen Rückgabebedingungen

        ↓

Gefundene Information:
"Produkte können innerhalb von 30 Tagen zurückgegeben werden."

        ↓

KI-Modell:
formuliert daraus die Antwort

Das Modell muss die Rückgabefrist nicht selbst „wissen“. Es erhält die relevante Information aus der Wissensbasis.

Gute Anwendungsfälle für RAG

RAG eignet sich besonders für:

  • aktuelle Informationen

  • Unternehmenswissen

  • Produktinformationen

  • Dokumente

  • interne Wissensdatenbanken

  • technische Dokumentation

  • häufig aktualisierte Inhalte

  • Quellen, die in Antworten berücksichtigt werden sollen

Fine-Tuning und RAG können zusammenarbeiten

Fine-Tuning und RAG sind keine Gegenspieler.

In vielen Anwendungen ergänzen sie sich.

Eine gute Faustregel lautet:

Fine-Tuning bestimmt, wie das Modell arbeitet. RAG liefert ihm die Informationen, mit denen es arbeitet.

Ein Kundenservice-Modell könnte beispielsweise per Fine-Tuning lernen, freundlich und präzise zu antworten. Gleichzeitig greift es per RAG auf die aktuellen Produkt- und Versandinformationen des Unternehmens zu.

Der Ablauf könnte so aussehen:

Kundenfrage
     ↓
RAG sucht relevante Unternehmensinformationen
     ↓
Informationen + Kundenfrage
     ↓
Fine-tuned Modell
     ↓
Antwort im gewünschten Stil

Das Fine-Tuning kümmert sich dabei um das Verhalten. RAG kümmert sich um das Wissen.

Ein Beispiel aus dem Kundenservice

Stell dir einen Online-Shop vor.

Der Shop möchte einen KI-Assistenten entwickeln. Der Assistent soll freundlich antworten, kurze Sätze verwenden und immer eine bestimmte Struktur einhalten.

Gleichzeitig muss er aktuelle Informationen kennen:

  • Lieferzeiten

  • Preise

  • Lagerbestand

  • Rückgabebedingungen

  • Produktinformationen

Fine-Tuning kann das gewünschte Antwortverhalten trainieren.

RAG kann die aktuellen Informationen bereitstellen.

Damit entsteht eine klare Arbeitsteilung:

Aufgabe

Geeignete Methode

Freundlicher Schreibstil

Fine-Tuning

Bestimmtes Antwortformat

Fine-Tuning

Kundenanfragen klassifizieren

Fine-Tuning

Aktuelle Rückgabebedingungen

RAG

Produktdokumentation

RAG

Aktuelle Lieferinformationen

RAG

Verhalten + aktuelles Wissen

Fine-Tuning + RAG

Was ist aufwendiger: Fine-Tuning oder RAG?

In der Regel ist Fine-Tuning aufwendiger.

Du brauchst geeignete Trainingsdaten, musst diese aufbereiten und einen Trainingsprozess durchführen. Anschließend musst du die Qualität des Modells testen und das Ergebnis überwachen.

Bei RAG entfällt das zusätzliche Training des Modells. Dafür musst du eine funktionierende Retrieval-Pipeline aufbauen.

Dazu gehören unter anderem:

  • Dokumente erfassen

  • Dokumente aufbereiten

  • Inhalte in Abschnitte zerlegen

  • Embeddings erzeugen

  • Inhalte speichern

  • relevante Inhalte suchen

  • Suchergebnisse bewerten

  • Kontext an das Modell übergeben

RAG ist deshalb nicht automatisch simpel. Es verschiebt den Aufwand von Modelltraining zu Datenaufbereitung und Suche.

Was solltest du zuerst ausprobieren?

Bevor du ein Modell Fine-Tuning unterziehst, solltest du prüfen, ob ein guter Prompt das Problem bereits löst.

Eine sinnvolle Reihenfolge ist:

Prompting
   ↓
RAG
   ↓
Fine-Tuning
   ↓
RAG + Fine-Tuning

Diese Reihenfolge ist keine feste Regel. Sie hilft aber bei der Entscheidungsfindung.

Wenn lediglich Informationen fehlen, solltest du zuerst RAG prüfen.

Wenn das Modell trotz guter Prompts immer wieder dasselbe unerwünschte Verhalten zeigt, kann Fine-Tuning der nächste Schritt sein.

Wenn du aktuelles Wissen und ein sehr spezifisches Verhalten brauchst, kann die Kombination aus beiden Methoden sinnvoll sein.

Fine-Tuning und RAG auf einen Blick

Die Entscheidung lässt sich auf wenige Fragen reduzieren.

Braucht das Modell neues Wissen?

Dann ist RAG häufig die bessere Wahl.

Soll das Modell sein Verhalten verändern?

Dann ist Fine-Tuning interessant.

Ändert sich das Wissen häufig?

Dann spricht viel für RAG.

Muss das Modell immer dasselbe Format oder denselben Stil verwenden?

Dann kann Fine-Tuning helfen.

Brauchst du aktuelles Wissen und ein spezifisches Verhalten?

Dann solltest du RAG und Fine-Tuning kombinieren.

Das Wichtigste zum Mitnehmen

Fine-Tuning und RAG lösen unterschiedliche Probleme.

Fine-Tuning verändert das Modell. RAG erweitert den Kontext des Modells.

Fine-Tuning eignet sich deshalb vor allem für Verhalten, Stil und spezialisierte Aufgaben. RAG eignet sich für Wissen, Dokumente und Informationen, die sich ändern können.

Die wichtigste Frage lautet daher nicht:

„Fine-Tuning oder RAG?“

Sondern:

„Was fehlt meinem KI-System: das richtige Verhalten oder die richtigen Informationen?“

Fehlt das Wissen, liefert RAG häufig die bessere Lösung. Fehlt das gewünschte Verhalten, kann Fine-Tuning helfen. Fehlen beide Dinge, lassen sich beide Methoden kombinieren.

Damit wird aus zwei vermeintlichen Alternativen ein Werkzeugkasten: RAG bringt das Wissen, Fine-Tuning prägt das Verhalten.