RAG

Retrieval-Augmented Generation (RAG) verbindet ein Sprachmodell mit einer Wissensquelle. Vor der Antwort sucht das System passende Dokumente, und das Modell stützt seine Antwort auf diese Inhalte.

So funktioniert es

Dokumente werden in kleine Abschnitte zerlegt und als Vektoren in einer Datenbank gespeichert. Bei einer Frage sucht das System die inhaltlich passendsten Abschnitte. Diese werden zusammen mit der Frage an das Sprachmodell übergeben. Das Modell formuliert daraus eine Antwort und kann die Quellen nennen. So lassen sich aktuelle und interne Informationen nutzen, ohne das Modell neu zu trainieren.

Ein Beispiel aus der Praxis

Ein Analyst untersucht einen Alert auf einem Server. Das System sucht in früheren Cases, Playbooks und der Asset-Dokumentation nach passenden Einträgen. Es zeigt, dass derselbe Alert vor drei Monaten durch ein Wartungsskript ausgelöst wurde. Der Analyst prüft den Hinweis und schliesst den Case schneller.

Worauf Sie achten sollten

• Die Qualität hängt von den Quellen ab. Veraltete Dokumente führen zu falschen Antworten.
• Zugriffsrechte müssen auch im RAG gelten. Sonst sieht jemand Inhalte, die er nicht sehen dürfte.
• Antworten sollten die Quellen nennen, damit sie überprüfbar sind.
• Dokumente können versteckte Anweisungen enthalten. Schützen Sie das System gegen Prompt Injection.
• Messen Sie die Qualität mit festen Testfragen.

Schweiz und Regulierung

Wenn ein RAG-System Personendaten oder vertrauliche Dokumente verarbeitet, gilt das revDSG. Zu klären ist besonders, wo Modell und Datenbank betrieben werden und ob Daten ins Ausland gelangen.

Typische Fehler

Häufig werden alle verfügbaren Dokumente ohne Auswahl eingelesen. Das verschlechtert die Treffer und erhöht das Risiko, vertrauliche Inhalte offenzulegen. Ein zweiter Fehler ist fehlende Pflege: Die Wissensbasis veraltet, und niemand merkt es.

So setzen wir es um

Unsere Agents nutzen RAG über Case-Historie, Playbooks und das Wissen zu Ihrer Umgebung. Jeder Kunde ist technisch getrennt, und jede Einschätzung wird mit Belegen am Case abgelegt.