Human-in-the-Loop (HITL)
Definition
Human-in-the-Loop bedeutet: Ein Mensch entscheidet, bevor ein automatisiertes System eine kritische Aktion ausführt - nicht danach. Bei AI-Agenten heißt das konkret, dass definierte Tool-Calls angehalten werden, bis eine berechtigte Person sie freigibt oder ablehnt. Der Unterschied zu reiner Protokollierung: Der Mensch kann eingreifen, bevor etwas passiert.
Wirksames Human-in-the-Loop hat drei Bausteine: Regeln, die kritische Aktionen erkennen (Beträge, Löschungen, ungewöhnliche Zeiten), einen Freigabekanal, der Entscheider dort erreicht, wo sie sind (allen voran signierte E-Mail-Links, ergänzt um Push, SMS, WhatsApp oder Slack), und einen Nachweis, der jede Entscheidung dauerhaft dokumentiert.
Der EU AI Act macht aus dem Prinzip in Artikel 14 eine Pflicht für Hochrisiko-Systeme: menschliche Aufsicht muss wirksam sein - Eingreifen können, nicht nur zusehen.
Verwandte Begriffe
tokyn.trail bringt Tracking, Regeln und menschliche Freigaben vor Ihren MCP-Server - in 10 Minuten, ohne Code-Änderung.
Mehr erfahren