Ein Sprachmodell kennt nur das, womit es trainiert wurde. Ihre Preislisten, Handbücher und Verträge gehören nicht dazu. RAG schließt diese Lücke, ohne das Modell neu zu trainieren.
Der Ablauf in drei Schritten:
- Ihre Dokumente werden in kleine Abschnitte zerlegt und so abgelegt, dass man nach Bedeutung suchen kann.
- Bei einer Frage werden die passendsten Abschnitte herausgesucht.
- Das Modell formuliert die Antwort anhand dieser Abschnitte und nennt die Fundstellen.
Der Vorteil: Antworten stützen sich auf Ihren aktuellen Stand und lassen sich nachprüfen. Wenn sich ein Dokument ändert, aktualisieren Sie die Wissensbasis, ein neues Training ist nicht nötig. Auch Zugriffsrechte lassen sich berücksichtigen, sodass jede Person nur Inhalte sieht, die sie sehen darf.
Die Grenze: RAG ist nur so gut wie die Dokumente und die Suche. Veraltete, widersprüchliche oder schlecht strukturierte Unterlagen führen zu schwachen Antworten. Die Pflege der Wissensbasis ist deshalb Teil des Betriebs.