Zum Inhalt springen
Copilot Coaching Copilot Coaching Copilot Coaching
Menü Schließen
Governance und AdministrationCopilot Agents

Was bedeutet Human in the Loop bei KI? Einfach erklärt

Human in the Loop bedeutet, dass ein Mensch an einem wichtigen Punkt prüft, entscheidet oder eine Aktion ausdrücklich freigibt.

Von , Microsoft MVP Stand:

Der Begriff

Beim Human in the Loop bleibt der Mensch verantwortlich, auch wenn Copilot oder ein Agent die Vorarbeit erledigt.

Wofür nutzt man Human in the Loop?

Ein Agent erstellt eine Antwort auf eine Kundenbeschwerde und schlägt einen Lösungstext vor. Eine zuständige Person prüft Ton, Fakten und Zusage, bevor die Nachricht versendet wird.

Wie funktioniert Human in the Loop in Microsoft-Produkten?

Das Grundmuster ist überall gleich: Die KI bereitet vor, ein Mensch entscheidet an einer festgelegten Stelle, und erst danach geht der Ablauf weiter. Die Microsoft-Dokumentation beschreibt das an mehreren Stellen:

  • Copilot Cowork: Vor sensiblen Aktionen wie dem Senden einer E-Mail, dem Posten in Teams oder dem Planen eines Termins hält Cowork an. Der Dialog zeigt, was geschehen soll, und kennzeichnet mittleres und hohes Risiko. Du kannst die Aktion abbrechen, die Sitzung pausieren oder, mit „Immer erlauben“, Nachfragen für ähnliche Aktionen in der laufenden Unterhaltung abschalten.
  • Agent Flows in Copilot Studio: Die Aktion „Request for information“ aus dem Bereich Human review hält den Ablauf an und schickt eine Anfrage per Outlook-E-Mail an benannte Personen. Es zählt die Antwort der ersten Person, die reagiert. Anfragen an Personen außerhalb deines Tenants sind nicht möglich. Dazu kommen mehrstufige Genehmigungen (Preview): Der Ablauf pausiert an jeder Stufe, bis die benannte Person entschieden hat, und lässt sich mit KI-Stufen kombinieren, deren Entscheidung ein Mensch in einer späteren Stufe bestätigen kann. Bei besonders sensiblen Fällen wie Finanzen, Recht oder Personal rät die Doku, immer eine menschliche Stufe vorzusehen. Mehr dazu unter Agent Flows.
  • Computer Use: Ein Agent, der eine Oberfläche bedient, kann bei Unklarheit eine Prüfanfrage per E-Mail oder in der Aktivitätsansicht an eine benannte Person schicken. Kommt keine Antwort, bleibt der Ablauf pausiert und endet nach der angegebenen Frist. Siehe Computer Use.
  • Texte aus Prompts in Automationen: Die Dokumentation empfiehlt, solche Ergebnisse von einem Menschen prüfen zu lassen, bevor sie veröffentlicht, an Kundschaft geschickt oder für eine Geschäftsentscheidung genutzt werden. Die Automation selbst solltest du vorher gründlich testen.

Wann braucht es eine Freigabe?

Unsere Faustregel, nicht die der Dokumentation: Je größer und unumkehrbarer die Wirkung, desto eher gehört eine Freigabe davor.

  • Mit Freigabe: Alles mit Außenwirkung – senden, löschen, freigeben, buchen, veröffentlichen. Auch Entscheidungen über Geld, Personen oder Recht, und alles, was ein Fehler nicht mehr zurückholbar macht. Wie weit ein Fehler reichen kann, beschreibt der Blast Radius.
  • Ohne Freigabe: Lesende, umkehrbare, interne Schritte, etwa Entwürfe in einem privaten Bereich oder eine Zusammenfassung zur eigenen Kontrolle.
  • Davor und daneben: Eine Freigabe ersetzt nicht, den Zugriff eng zu halten. Dafür sind Least Privilege und Guardrails zuständig, die festlegen, wann überhaupt eine Freigabe nötig ist.
  • Bei autonomen Abläufen: Läuft ein Autonomous Agent ohne dich, ist niemand im Moment der Aktion da. Dort entscheiden Berechtigungen und Leitplanken im Voraus, und eine Freigabe sitzt an den Stellen, die du bewusst einbaust.

Worauf solltest du bei Human in the Loop achten?

Eine Freigabe ist nur wirksam, wenn die prüfende Person genug Zeit, Kontext und klare Kriterien hat. Automatisiere unkritische Schritte, aber halte menschliche Kontrolle bei Außenwirkung und Risiko ein.

  • Nicht blind bestätigen: Wer jede Kleinigkeit freigeben muss, bestätigt irgendwann ohne zu lesen. Frage nur dort, wo ein Fehler wehtut. Mit Pauschalfreigaben wie „Immer erlauben“ bei Cowork nimmst du dem Prozess ein Stück Kontrolle.
  • Auf die Aufsicht ist kein Verlass: Bei Computer Use beschreibt die Doku, dass die Anfragen selbst vom Verhalten eines KI-Modells abhängen. Sie können unnötig kommen, in manchen Lagen ausbleiben oder nach Daten fragen, die nicht herausgegeben werden sollen. Verlass dich nicht darauf, dass sie immer erscheinen. Trage in solche Antworten keine Passwörter, PINs, Kartendaten oder ähnliche Angaben ein.
  • Antworten bleiben sichtbar: Je nach Konfiguration können Antworten auf Prüfanfragen in Dataverse oder in Purview-Auditprotokollen landen und für berechtigte Personen sichtbar sein.
  • Zuständigkeit klären: Lege fest, wer prüft, in welcher Frist und was bei Schweigen passiert. In den beschriebenen Abläufen pausiert der Ablauf, bis eine Antwort kommt oder die Frist endet.

Quellen

Häufige Fragen zu Human in the Loop (Mensch in der Prüfung)

Was bedeutet Human in the Loop?

Human in the Loop heißt, dass ein Mensch an einer wichtigen Stelle eines KI-Ablaufs prüft, entscheidet oder freigibt. Die KI bereitet vor, der Mensch bleibt verantwortlich, bevor etwas Wirkung hat.

Wann sollte ein Mensch eine KI-Aktion freigeben?

Immer dann, wenn eine Aktion nach außen wirkt oder sich schwer zurücknehmen lässt, etwa beim Senden an Kundschaft, Veröffentlichen oder bei einer Geschäftsentscheidung. Die Microsoft-Dokumentation empfiehlt eine menschliche Prüfung, bevor generierte Inhalte online gehen, an Kundschaft verschickt oder für Entscheidungen genutzt werden.

Wie baue ich eine Freigabe in Copilot Studio ein?

Du nimmst in einem Agent Flow eine Human-Review-Aktion auf, etwa „Request for information“ oder, als Vorschau, eine mehrstufige Genehmigung. Der Ablauf pausiert dann, bis die benannte Person per Outlook geantwortet hat. Anfragen sind nur an Personen im eigenen Tenant möglich.

Reicht eine Freigabe als Schutz vor Fehlern?

Nein. Eine Freigabe fängt Fehler ab, bevor sie Wirkung haben, begrenzt aber nicht, worauf der Agent zugreifen darf. Dafür brauchst du enge Berechtigungen und Guardrails. Bei Computer Use warnt die Dokumentation außerdem ausdrücklich davor, Prüfanfragen als Garantie zu verstehen, dass der Mensch immer gefragt wird.

Wie du das im eigenen Tenant prüfst und absicherst, gehört zum Copilot-Coaching für IT und Admins.