Startseite > Lexikon > KI im Marketing > Abuse Monitoring

Bleistiftskizze: Umschläge auf einem Förderband, eine Lupe über dem orange markierten Umschlag, am Ende eine offene Schublade, als Bild für Abuse Monitoring
KI im Marketing

Abuse Monitoring

„Wir trainieren nicht mit deinen Daten“ heißt nicht „wir speichern sie nicht“. Abuse Monitoring ist der Grund, warum deine Prompts bei OpenAI, Microsoft, Google oder Anthropic oft noch eine Weile liegen bleiben.

Auch bekannt alsMissbrauchsüberwachung

6 Min

Lesezeit

21.11.2026

Letzte Aktualisierung

Was ist Abuse Monitoring?

Du schickst über eine API Kundenmails an ein Sprachmodell, damit es Antworten vorschlägt. Der Anbieter verspricht: kein Training mit deinen Daten. Gut. Aber wo liegen die Mails danach? Oft noch eine Weile beim Anbieter — wegen Abuse Monitoring.

Gemeint ist die Missbrauchsüberwachung: Der KI-Anbieter prüft, ob jemand sein Modell gegen die Nutzungsregeln einsetzt, etwa für Betrug, Schadsoftware oder Hetze. Microsoft beschreibt für Azure OpenAI vier Bausteine:

  • Einstufung: Klassifikatoren bewerten Prompts und Antworten.
  • Muster erkennen: Das System sucht wiederkehrende Auffälligkeiten über die Zeit.
  • Prüfen: automatisch, im Ausnahmefall durch Menschen.
  • Handeln: Hinweis an den Kunden, im Ernstfall Sperre.

Was die großen Anbieter speichern

Die Regeln unterscheiden sich deutlich. Stand November 2026, laut den Dokumentationen der Anbieter:

Anbieter

Speicherdauer

OpenAI

bis zu 30 Tage

Anthropic

bis zu 30 Tage, markiert bis 2 Jahre

Google Vertex AI

nur Auffälliges, bis 90 Tage

Microsoft Azure

keine Frist genannt

OpenAI hebt Abuse-Monitoring-Protokolle mit Prompts und Antworten bis zu 30 Tage auf, außer ein Gesetz verlangt länger. Mit API-Daten trainiert OpenAI seit März 2023 nur, wenn du ausdrücklich zustimmst.

Anthropic löscht Ein- und Ausgaben bei kommerzieller Nutzung innerhalb von 30 Tagen. Markieren die Sicherheitssysteme eine Unterhaltung, bleiben die Inhalte bis zu zwei Jahre gespeichert, die Bewertungen der Klassifikatoren bis zu sieben Jahre.

Google protokolliert bei Vertex AI Prompts nur, wenn die Klassifikatoren anschlagen, und speichert sie bei Standardmodellen bis zu 90 Tage in der gewählten Region. Kunden mit einem Google Cloud Master Agreement sind davon standardmäßig ausgenommen.

Microsoft lässt markierte Inhalte bei Azure zuerst von KI-Modellen prüfen. Menschen schauen nur hin, wenn die automatische Prüfung unsicher ist. Für Bereitstellungen im Europäischen Wirtschaftsraum sitzen diese Prüfer im EWR, die Daten bleiben in der Region der Kundenressource.

Lässt sich das abschalten?

Ja, aber nicht per Klick. Alle großen Anbieter haben Ausnahmen, und alle verlangen einen Antrag oder einen passenden Vertrag:

  • Zero Data Retention (ZDR): OpenAI und Anthropic bieten an, Inhalte nach der Antwort gar nicht zu speichern. Freigeschaltet wird das über den Vertrieb, und nicht jede Funktion ist abgedeckt — Datei-Uploads und Batch-Verarbeitung etwa nicht.
  • Modified Abuse Monitoring: Bei Microsoft für Kunden mit eigenem Account-Team per Formular. Danach entfallen Speicherung und menschliche Prüfung, die automatische Prüfung in Echtzeit bleibt. Laut Microsoft fällt diese Option für Modelle, die ab November 2026 erscheinen, künftig weg.
  • Vertrag: Bei Google reicht das Master Agreement, bei Grounding mit der Google-Suche bleiben trotzdem Protokolle bis zu drei Tage.

Auch ZDR ist kein Freifahrtschein: Anthropic behält Inhalte, die als Verstoß markiert wurden, auch mit ZDR bis zu zwei Jahre.

Was das für die DSGVO heißt

Die Datenschutzkonferenz, das Gremium der deutschen Datenschutzbehörden, schreibt in ihrer Orientierungshilfe zu KI vom Mai 2024: Wer eine KI-Cloud-Lösung für eigene Zwecke nutzt, hat mit dem Anbieter häufig ein Auftragsverarbeitungsverhältnis nach Art. 28 DSGVO. Dann brauchst du einen Vertrag zur Auftragsverarbeitung. Die großen Anbieter bieten solche Verträge an.

Die DSK empfiehlt außerdem, KI-Konten datenschutzfreundlich einzustellen, also ohne Training und ohne gespeicherten Verlauf. Abuse Monitoring nennt sie nicht ausdrücklich. Für dich heißt das: Die Speicherfristen des Anbieters gehören in dein Verzeichnis der Verarbeitungstätigkeiten und in deine Datenschutzerklärung.

Häufige Fehler

Fehler 1 · „Kein Training“ mit „keine Speicherung“ verwechseln

OpenAI, Microsoft und Anthropic trainieren nicht mit API-Daten, speichern aber für die Missbrauchsüberwachung. Das sind zwei getrennte Zwecke mit getrennten Regeln.

Fehler 2 · Für Azure „30 Tage“ annehmen

Ältere Fassungen der Microsoft-Doku nannten 30 Tage, die aktuelle nennt keine Frist mehr. Wer in seiner Datenschutzerklärung eine Zahl angibt, sollte sie aus der aktuellen Doku haben.

Fehler 3 · Sensible Daten ungefiltert schicken

Gesundheitsdaten, Bankverbindungen oder Personalakten haben in einem Prompt meist nichts verloren. Was nicht beim Anbieter ankommt, muss auch niemand überwachen.

Häufige Fragen

Speichern OpenAI, Azure oder Claude meine Prompts, obwohl nicht trainiert wird?

Ja, für die Missbrauchsüberwachung meist schon: OpenAI bis zu 30 Tage, Anthropic in der Regel bis zu 30 Tage und markierte Inhalte bis zu zwei Jahre. Microsoft nennt für Azure keine feste Frist mehr. Stand November 2026.

Liest bei Microsoft ein Mensch meine Prompts mit?

Nur im Ausnahmefall. Markierte Inhalte prüfen zuerst KI-Modelle. Menschen schauen nur hin, wenn diese Prüfung unsicher ist. Bei Bereitstellungen im EWR sitzen die Prüfer laut Microsoft im EWR.

Kann ich Abuse Monitoring abschalten?

Nur auf Antrag oder per Vertrag: Zero Data Retention bei OpenAI und Anthropic über den Vertrieb, Modified Abuse Monitoring bei Microsoft über das Account-Team, bei Google über das Master Agreement. Eine Schaltfläche für jeden gibt es nicht.

Was ist der Unterschied zwischen Zero Data Retention und Modified Abuse Monitoring?

Zero Data Retention heißt: Der Anbieter speichert Prompts und Antworten nach der Verarbeitung gar nicht. Modified Abuse Monitoring heißt bei Microsoft: keine Speicherung und keine menschliche Prüfung, die automatische Prüfung in Echtzeit läuft aber weiter.

Reicht ein Auftragsverarbeitungsvertrag mit dem KI-Anbieter?

Er ist laut Datenschutzkonferenz häufig nötig, aber nicht alles. Du brauchst zusätzlich datenschutzfreundliche Einstellungen, klare Regeln, welche Daten in Prompts dürfen, und die Speicherfristen in deiner Dokumentation.

Begriff teilenHat dir die Definition geholfen? Schick sie weiter.