Das Problem, das wir lösen

AI-Agenten antworten nicht mehr nur — sie handeln: Sie lösen Zahlungen aus, löschen Datensätze, verschicken E-Mails im Namen des Unternehmens. Zwischen dem Vorschlag des Modells und einer irreversiblen Aktion in der echten Welt steht heute meist — nichts. Wenn Ihr Agent im Pilotbetrieb überzeugt, aber Security und Compliance die Produktion nicht freigeben, ist diese Seite für Sie.

Das Szenario#

So laufen Agenten heute in Unternehmen — drei Architekturen, dasselbe Muster:

Konkret: Freitagabend, 23:41. Ihr Billing-Agent arbeitet den Rechnungs-Backlog ab. Eine Lieferantenrechnung steckt doppelt im System — gleicher Betrag, neue Nummer. send_payment läuft dreimal durch, dreimal status=ok:

Die drei Probleme#

1 — Ausführung ohne Zustimmung#

Eine Halluzination, eine manipulierte Eingabe (Prompt Injection) oder ein upstream ausgetauschtes Tool genügt — und selbst der beste Agent skaliert seine Fehler: 99,9 % Genauigkeit bei 10.000 Calls pro Woche sind zehn Vorfälle pro Woche, und anders als ein Mensch macht ein Agent denselben Fehler dreimal in derselben Minute. Die üblichen Werkzeuge beantworten das nicht: Rollen und Scopes sind binär („Tool ja/nein" — nicht „Zahlung bis 500 € ja, darüber ein Mensch"), Guardrails im Prompt sind probabilistisch und hinterlassen keinen Beleg, Observability zeigt den Schaden erst hinterher.

2 — Kein belastbarer Nachweis#

Selbst wenn alles protokolliert wird: Ein Log ist ein technisches Nebenprodukt der Ausführung. Ein Nachweis ist eine bewusste, einer Person zurechenbare Entscheidung — mit Begründung, Zeitpunkt und Schutz vor nachträglicher Änderung. Das eine entsteht automatisch, das andere muss erzwungen werden:

3 — Die Compliance-Wand#

Die meisten Agenten-Projekte scheitern nicht an der Technik, sondern am Review: Der EU AI Act (Art. 14) verlangt für Hochrisiko-Systeme wirksame menschliche Aufsicht — die dokumentierte Möglichkeit einzugreifen, nicht bloß zuzusehen; die Übergangsfristen laufen bereits. ISO 42001 und die interne Revision fragen nach einem lückenlosen, prüfbaren Entscheidungspfad. Die DSGVO verlangt Kontrolle darüber, wer was mit personenbezogenen Daten tun darf. Ohne nachweisbare Aufsicht bleibt der Agent im Pilotbetrieb stecken.

So lösen wir sie#

1 — Ein Gate vor der Aktion#

tokyn.trail setzt sich zwischen Agent und Ausführung. Regeln entscheiden pro Tool und Kontext: durchlassen (Allow), auf einen Menschen warten (Approve— mit Betragsgrenzen, Zeitfenstern, Vier-Augen, Fristen) oder blockieren (Deny). Entschieden wird, wo der Entscheider gerade ist: Inbox, E-Mail-Link, SMS, Slack oder eingebettet im eigenen Portal. Die Verbindung des Agenten blockiert dabei nie — er bekommt sofort eine Referenz und fragt den Status ab.

2 — Evidenz statt Logs#

Jede Zustandsänderung — Hold, Freigabe, Ablehnung, Regeländerung — wird an eine SHA-256-Hash-Chain angehängt. Jede Entscheidung trägt Person, Kanal, Zeitpunkt und Begründung; Manipulation bricht die Kette an exakt der betroffenen Stelle und ist per GET /audit/verify maschinell prüfbar.

3 — Der Compliance-Baustein#

Der Oversight-Report (PDF/CSV) listet jede menschliche Entscheidung mit Regel, Kanal und Begründung — das Deckblatt enthält das Verifikationsergebnis der Kette. Er ist als Anlage für Security-Reviews, ISO-42001-Audits und den Nachweis menschlicher Aufsicht nach EU AI Act Art. 14 gebaut — ohne Nachbearbeitung.

Und der Freitagabend von oben? Sieht mit Gate so aus — die Regel „Zahlungen über 500 € halten" existiert nach dem Onboarding in einem Klick:

Der Einstieg ist risikofrei: Im Monitor-Mode wird nichts geblockt — Sie tauschen eine URL (MCP) oder rufen hold() auf (SDK), schauen zwei Tage zu, was Ihre Agenten tun, und legen dann den Schalter um. Wie das konkret aussieht, zeigt der Guide „So funktioniert tokyn.trail".