Wer ein Sprachmodell an eigene Anforderungen anpassen will, hat drei Wege. Sie schließen sich nicht aus, lösen aber unterschiedliche Probleme.
- Prompting: Sie steuern das Verhalten über Anweisungen und Beispiele. Das ist der schnellste und günstigste Weg und genügt für Ton, Format und viele Aufgaben.
- RAG: Sie geben dem Modell zur Laufzeit passende Dokumente mit. Das ist die richtige Wahl, wenn es um aktuelles oder internes Wissen geht, das sich ändert und nachvollziehbar zitiert werden soll.
- Fine-Tuning: Sie trainieren das Modell mit eigenen Beispielen nach. Das lohnt sich bei stabilen, wiederkehrenden Aufgaben mit festem Stil oder Format, etwa Klassifikation in firmeneigene Kategorien, und wenn ein kleineres Modell eine große Aufgabe übernehmen soll.
Fine-Tuning ist schlecht geeignet, um Fakten zuverlässig zu verankern. Wissen veraltet, und Quellen lassen sich nicht angeben. Es erfordert zudem saubere Trainingsdaten und Pflege.
Faustregel für die Reihenfolge: Erst Prompting ausreizen, dann RAG ergänzen, und Fine-Tuning nur prüfen, wenn Messungen zeigen, dass die ersten beiden nicht genügen.
