Tool-Poisoning
Definition
Tool-Poisoning ist ein Angriff, bei dem bösartige Anweisungen in der Beschreibung eines MCP-Tools versteckt werden. Das KI-Modell liest Tool-Beschreibungen als vertrauenswürdigen Kontext - eine präparierte Beschreibung kann es anweisen, Daten weiterzugeben oder andere Tools zu missbrauchen, ohne dass der Nutzer davon etwas sieht.
Tool-Poisoning ist eine Spielart der Prompt Injection auf MCP-Ebene. Gegenmittel sind die Prüfung von Tool-Beschreibungen bei der Aufnahme, Versionierung mit Freigabepflicht bei Änderungen - und eine letzte Verteidigungslinie vor der Ausführung: Kritische Tool-Calls warten auf einen Menschen, egal wie sie zustande kamen.
Verwandte Begriffe
tokyn.trail bringt Tracking, Regeln und menschliche Freigaben vor Ihren MCP-Server - in 10 Minuten, ohne Code-Änderung.
Mehr erfahren