Was ist Abuse Monitoring?
Du schickst über eine API Kundenmails an ein Sprachmodell, damit es Antworten vorschlägt. Der Anbieter verspricht: kein Training mit deinen Daten. Gut. Aber wo liegen die Mails danach? Oft noch eine Weile beim Anbieter — wegen Abuse Monitoring.
Gemeint ist die Missbrauchsüberwachung: Der KI-Anbieter prüft, ob jemand sein Modell gegen die Nutzungsregeln einsetzt, etwa für Betrug, Schadsoftware oder Hetze. Microsoft beschreibt für Azure OpenAI vier Bausteine:
- Einstufung: Klassifikatoren bewerten Prompts und Antworten.
- Muster erkennen: Das System sucht wiederkehrende Auffälligkeiten über die Zeit.
- Prüfen: automatisch, im Ausnahmefall durch Menschen.
- Handeln: Hinweis an den Kunden, im Ernstfall Sperre.
Was die großen Anbieter speichern
Die Regeln unterscheiden sich deutlich. Stand November 2026, laut den Dokumentationen der Anbieter:
Anbieter
Speicherdauer
OpenAI
bis zu 30 Tage
Anthropic
bis zu 30 Tage, markiert bis 2 Jahre
Google Vertex AI
nur Auffälliges, bis 90 Tage
Microsoft Azure
keine Frist genannt
OpenAI hebt Abuse-Monitoring-Protokolle mit Prompts und Antworten bis zu 30 Tage auf, außer ein Gesetz verlangt länger. Mit API-Daten trainiert OpenAI seit März 2023 nur, wenn du ausdrücklich zustimmst.
Anthropic löscht Ein- und Ausgaben bei kommerzieller Nutzung innerhalb von 30 Tagen. Markieren die Sicherheitssysteme eine Unterhaltung, bleiben die Inhalte bis zu zwei Jahre gespeichert, die Bewertungen der Klassifikatoren bis zu sieben Jahre.
Google protokolliert bei Vertex AI Prompts nur, wenn die Klassifikatoren anschlagen, und speichert sie bei Standardmodellen bis zu 90 Tage in der gewählten Region. Kunden mit einem Google Cloud Master Agreement sind davon standardmäßig ausgenommen.
Microsoft lässt markierte Inhalte bei Azure zuerst von KI-Modellen prüfen. Menschen schauen nur hin, wenn die automatische Prüfung unsicher ist. Für Bereitstellungen im Europäischen Wirtschaftsraum sitzen diese Prüfer im EWR, die Daten bleiben in der Region der Kundenressource.
Lässt sich das abschalten?
Ja, aber nicht per Klick. Alle großen Anbieter haben Ausnahmen, und alle verlangen einen Antrag oder einen passenden Vertrag:
- Zero Data Retention (ZDR): OpenAI und Anthropic bieten an, Inhalte nach der Antwort gar nicht zu speichern. Freigeschaltet wird das über den Vertrieb, und nicht jede Funktion ist abgedeckt — Datei-Uploads und Batch-Verarbeitung etwa nicht.
- Modified Abuse Monitoring: Bei Microsoft für Kunden mit eigenem Account-Team per Formular. Danach entfallen Speicherung und menschliche Prüfung, die automatische Prüfung in Echtzeit bleibt. Laut Microsoft fällt diese Option für Modelle, die ab November 2026 erscheinen, künftig weg.
- Vertrag: Bei Google reicht das Master Agreement, bei Grounding mit der Google-Suche bleiben trotzdem Protokolle bis zu drei Tage.
Auch ZDR ist kein Freifahrtschein: Anthropic behält Inhalte, die als Verstoß markiert wurden, auch mit ZDR bis zu zwei Jahre.
Was das für die DSGVO heißt
Die Datenschutzkonferenz, das Gremium der deutschen Datenschutzbehörden, schreibt in ihrer Orientierungshilfe zu KI vom Mai 2024: Wer eine KI-Cloud-Lösung für eigene Zwecke nutzt, hat mit dem Anbieter häufig ein Auftragsverarbeitungsverhältnis nach Art. 28 DSGVO. Dann brauchst du einen Vertrag zur Auftragsverarbeitung. Die großen Anbieter bieten solche Verträge an.
Die DSK empfiehlt außerdem, KI-Konten datenschutzfreundlich einzustellen, also ohne Training und ohne gespeicherten Verlauf. Abuse Monitoring nennt sie nicht ausdrücklich. Für dich heißt das: Die Speicherfristen des Anbieters gehören in dein Verzeichnis der Verarbeitungstätigkeiten und in deine Datenschutzerklärung.
Häufige Fehler
Fehler 1 · „Kein Training“ mit „keine Speicherung“ verwechseln
OpenAI, Microsoft und Anthropic trainieren nicht mit API-Daten, speichern aber für die Missbrauchsüberwachung. Das sind zwei getrennte Zwecke mit getrennten Regeln.
Fehler 2 · Für Azure „30 Tage“ annehmen
Ältere Fassungen der Microsoft-Doku nannten 30 Tage, die aktuelle nennt keine Frist mehr. Wer in seiner Datenschutzerklärung eine Zahl angibt, sollte sie aus der aktuellen Doku haben.
Fehler 3 · Sensible Daten ungefiltert schicken
Gesundheitsdaten, Bankverbindungen oder Personalakten haben in einem Prompt meist nichts verloren. Was nicht beim Anbieter ankommt, muss auch niemand überwachen.
Häufige Fragen
Speichern OpenAI, Azure oder Claude meine Prompts, obwohl nicht trainiert wird?
Ja, für die Missbrauchsüberwachung meist schon: OpenAI bis zu 30 Tage, Anthropic in der Regel bis zu 30 Tage und markierte Inhalte bis zu zwei Jahre. Microsoft nennt für Azure keine feste Frist mehr. Stand November 2026.
Liest bei Microsoft ein Mensch meine Prompts mit?
Nur im Ausnahmefall. Markierte Inhalte prüfen zuerst KI-Modelle. Menschen schauen nur hin, wenn diese Prüfung unsicher ist. Bei Bereitstellungen im EWR sitzen die Prüfer laut Microsoft im EWR.
Kann ich Abuse Monitoring abschalten?
Nur auf Antrag oder per Vertrag: Zero Data Retention bei OpenAI und Anthropic über den Vertrieb, Modified Abuse Monitoring bei Microsoft über das Account-Team, bei Google über das Master Agreement. Eine Schaltfläche für jeden gibt es nicht.
Was ist der Unterschied zwischen Zero Data Retention und Modified Abuse Monitoring?
Zero Data Retention heißt: Der Anbieter speichert Prompts und Antworten nach der Verarbeitung gar nicht. Modified Abuse Monitoring heißt bei Microsoft: keine Speicherung und keine menschliche Prüfung, die automatische Prüfung in Echtzeit läuft aber weiter.
Reicht ein Auftragsverarbeitungsvertrag mit dem KI-Anbieter?
Er ist laut Datenschutzkonferenz häufig nötig, aber nicht alles. Du brauchst zusätzlich datenschutzfreundliche Einstellungen, klare Regeln, welche Daten in Prompts dürfen, und die Speicherfristen in deiner Dokumentation.