Guardrail

Ein Guardrail ist eine technische Grenze, die festlegt, was ein KI-System tun darf und was nicht. Guardrails verhindern schädliche Ausgaben, unerlaubte Aktionen und den Abfluss vertraulicher Daten.

So funktioniert es

Guardrails wirken an mehreren Stellen. Vor dem Modell prüfen sie Eingaben, etwa auf versteckte Anweisungen. Nach dem Modell prüfen sie Ausgaben, zum Beispiel auf Personendaten oder unzulässige Inhalte. Bei Agents begrenzen sie zudem die Aktionen: welche Werkzeuge erlaubt sind, mit welchen Parametern und ab wann eine menschliche Freigabe nötig ist. Wirksame Guardrails sind im Code verankert und nicht nur in der Anweisung an das Modell.

Ein Beispiel aus der Praxis

Ein Agent im SOC schlägt vor, einen Server zu isolieren. Ein Guardrail prüft, ob der Server als geschäftskritisch markiert ist. Ist das der Fall, wird die Aktion nicht ausgeführt, sondern einem Analysten zur Freigabe vorgelegt. Bei einem normalen Laptop darf der Agent innerhalb des Mandats direkt handeln.

Worauf Sie achten sollten

• Verlassen Sie sich nicht allein auf Anweisungen im Prompt. Diese lassen sich umgehen.
• Legen Sie für jede Aktion fest, ob sie automatisch, mit Freigabe oder gar nicht erlaubt ist.
• Protokollieren Sie jede Entscheidung eines Guardrails im Audit Trail.
• Testen Sie Guardrails regelmässig mit gezielten Angriffen.

Typische Fehler

Häufig werden Guardrails einmal eingerichtet und dann nicht mehr geprüft. Neue Werkzeuge oder Datenquellen erweitern aber die Möglichkeiten des Agents. Ein zweiter Fehler sind zu grosszügige Rechte für den technischen Zugang des Agents.

Schweiz und Regulierung

Konkrete Vorgaben für Guardrails gibt es in der Schweiz nicht. Das revDSG verlangt aber angemessene Massnahmen zum Schutz von Personendaten. Guardrails, die den Abfluss solcher Daten verhindern, tragen dazu bei.

So setzen wir es um

Unsere Agents arbeiten innerhalb der Grenzen Ihres Mandats. Denkschritte und Belege werden am Case abgelegt.