Guardrails sind Sicherheits- und Verhaltensregeln, die den Handlungsspielraum eines Agenten begrenzen: welche Aktionen er ausführen darf, wann er eine menschliche Freigabe einholen muss und welche Inhalte er auf keinen Fall ausgeben soll. Sie ersetzen keine Kontrolle über den Agenten, sondern machen sie planbar und wiederholbar.
Wofür nutzt man Guardrails?
Ein Freigabe-Agent darf Rechnungen bis 500 Euro selbstständig buchen. Bei höheren Beträgen greift ein Guardrail: Der Agent legt nur einen Entwurf an und wartet auf eine Freigabe durch einen Menschen.
Worauf solltest du bei Guardrails achten?
Guardrails gehören von Anfang an in die Konfiguration eines Agenten, nicht erst nach dem ersten Vorfall. Definiere vor der Veröffentlichung, welche Aktionen reversibel sind und welche nicht – nur Letztere brauchen zwingend eine Freigabe.