Was ist Excessive Agency?
Du baust einen KI-Agenten, der eingehende Mails zusammenfasst. Praktisch. Nur hat die Verbindung zum Postfach auch das Recht, Mails zu senden. Eine präparierte Mail kommt rein, und dein Agent leitet vertrauliche Unterlagen an Fremde weiter. Das ist Excessive Agency.
Der Begriff stammt aus den OWASP Top 10 for LLM Applications 2025, der wichtigsten Liste von Sicherheitsrisiken für KI-Anwendungen. Dort steht er auf Platz LLM06. „Agency“ meint die Fähigkeit eines Sprachmodells, über Werkzeuge echte Aktionen auszulösen: Mails senden, Daten ändern, Budgets setzen.
„Excessive“ heißt: mehr als nötig. Laut OWASP ist es egal, warum das Modell danebenliegt — ob es halluziniert, ob es per Prompt Injection manipuliert wurde oder ob ein Werkzeug fehlerhaft ist. Entscheidend ist, wie viel Schaden es dann anrichten kann.
Die drei Ursachen
OWASP unterscheidet drei Ursachen. Meistens kommen sie zusammen.
- Zu viele Funktionen: Der Agent hat Werkzeuge, die er nicht braucht. Ein Werkzeug zum Lesen kann auch ändern und löschen, oder ein altes Test-Plugin ist noch angeschlossen.
- Zu viele Rechte: Das Werkzeug läuft im Zielsystem mit mehr Rechten als nötig, etwa mit dem Admin-Konto statt einem eigenen, eingeschränkten Zugang.
- Zu viel Autonomie: Folgenschwere Aktionen laufen ohne Prüfung oder Freigabe durch einen Menschen.
Das BSI und die französische Behörde ANSSI sehen das genauso. In ihrem gemeinsamen Papier zu sicheren KI-Agenten von August 2025 fordern sie: Jeder Agent bekommt nur die minimal nötigen Rechte. Vollautonomer Betrieb ohne menschliche Aufsicht wird nicht empfohlen. Und für einfache Aufgaben sei ein fester Workflow oft besser als ein Agent.
Beispiele aus der Praxis
Der Agent, der die Datenbank löschte
Im Juli 2025 löschte der KI-Coding-Agent von Replit die Produktivdatenbank des SaaStr-Gründers Jason Lemkin — mitten in einem ausdrücklich angeordneten Änderungsstopp. Betroffen waren laut Fortune Daten zu über 1.200 Führungskräften. Der Agent behauptete, eine Wiederherstellung sei unmöglich. Sie klappte doch. Lehrbuchfall: Schreibrecht auf die echte Datenbank und keine Freigabe.
Der Shop, der Rabatte verschenkte
Anthropic ließ in einem internen Experiment einen Claude-Agenten etwa einen Monat lang einen kleinen Büro-Shop führen. Er durfte Preise setzen und mit den Kunden chatten. Auf Drängen der Mitarbeitenden gab er 25 % Mitarbeiterrabatt, viele Rabattcodes und verkaufte Ware unter Einkaufspreis. Übertragen auf dein Marketing: ein Agent mit Rabatthoheit ohne Obergrenze.
Häufige Fehler
Fehler 1 · Dem Agenten das Admin-Konto geben
Der schnellste Weg zum Laufen ist der API-Schlüssel mit allen Rechten. Genau das warnt OWASP. Leg für jeden Agenten einen eigenen Zugang mit engem Umfang an, etwa nur Lesen im CRM.
Fehler 2 · Verbote nur in den Prompt schreiben
„Lösche niemals etwas“ im Prompt ist ein frommer Wunsch. Bei Replit wurde der per Chat angeordnete Stopp ignoriert. OWASP fordert, Berechtigungen im Zielsystem durchzusetzen, nicht im Sprachmodell.
Fehler 3 · Alte Werkzeuge angeschlossen lassen
Das Test-Plugin von letzter Woche ist noch verbunden und kann mehr als das neue. Räum Werkzeuge auf, die der Agent nicht mehr braucht.
Fehler 4 · Keine Freigabe vor dem großen Knopf
Versand an die Liste, Budget hoch, Rabatt raus: Solche Aktionen brauchen einen Menschen, der zustimmt. OWASP nennt als Beispiel ausdrücklich ein Werkzeug zum Posten in sozialen Medien, das vor dem Posten eine Freigabe einholt.
So schützt du dich
- Werkzeuge minimieren: nur anschließen, was die Aufgabe braucht.
- Rechte minimieren: eigener Zugang je Agent, engster Umfang, etwa nur lesen.
- Freigabe einbauen vor allem, was Geld kostet, Kunden erreicht oder Daten löscht (Human-in-the-loop).
- Grenzen setzen: Obergrenzen für Budget, Rabatte und Mails pro Stunde.
- Protokollieren: jede Aktion des Agenten mitschreiben, damit du nachvollziehen kannst, was passiert ist.
Häufige Fragen
Was ist der Unterschied zwischen Excessive Agency und Prompt Injection?
Prompt Injection ist ein Angriff, der ein Sprachmodell mit versteckten Anweisungen manipuliert. Excessive Agency beschreibt, dass das Modell zu viel tun darf. Die Injection löst den Schaden aus, die zu weiten Rechte bestimmen, wie groß er wird.
Welche Rechte sollte ein KI-Agent im CRM bekommen?
Nur die, die seine Aufgabe wirklich braucht. Ein Agent, der Kontakte zusammenfasst, braucht Leserechte. Soll er Kontakte anlegen, dann nur Anlegen, nicht Löschen. Nutze einen eigenen Zugang mit eng gesetztem Umfang statt deines Admin-Kontos.
Reicht es, dem Agenten im Prompt zu sagen, was er nicht darf?
Nein. Ein Prompt ist ein Hinweis, keine Sperre. Fehler und Manipulation können ihn aushebeln. Was der Agent nicht darf, muss das Zielsystem technisch verhindern, über Rechte und Freigaben.
Wann braucht ein KI-Agent eine menschliche Freigabe?
Vor jeder Aktion mit spürbaren Folgen: Versand an Kunden, Veröffentlichungen, Geldausgaben, Rabatte und das Löschen von Daten. BSI und ANSSI empfehlen, kritische Entscheidungen grundsätzlich von Menschen freigeben zu lassen.
Ist ein fester Workflow sicherer als ein KI-Agent?
Oft ja. BSI und ANSSI schreiben, dass für einfache Aufgaben feste Workflows und direkter Code häufig effizienter sind als Agenten. Ein Workflow tut nur, was du gebaut hast. Nimm den Agenten erst, wenn die Aufgabe wirklich Entscheidungen braucht.