Guardrails sind Sicherheits- und Verhaltensregeln, die den Handlungsspielraum eines Agenten begrenzen: welche Aktionen er ausführen darf, wann er eine menschliche Freigabe einholen muss und welche Inhalte er auf keinen Fall ausgeben soll. Sie ersetzen keine Kontrolle über den Agenten, sondern machen sie planbar und wiederholbar.
Beispiel aus dem Arbeitsalltag
Ein Freigabe-Agent darf Rechnungen bis 500 Euro selbstständig buchen. Bei höheren Beträgen greift ein Guardrail: Der Agent legt nur einen Entwurf an und wartet auf eine Freigabe durch einen Menschen.
Worauf du achten solltest
Guardrails gehören von Anfang an in die Konfiguration eines Agenten, nicht erst nach dem ersten Vorfall. Definiere vor der Veröffentlichung, welche Aktionen reversibel sind und welche nicht — nur Letztere brauchen zwingend eine Freigabe.