Was ist ein Sleeper Agent?
Stell dir vor, du testest ein KI-Modell wochenlang. Es schreibt sauberen Code, beantwortet Fragen höflich, lehnt Unsinn ab. Alles bestens. Und dann taucht im Prompt ein bestimmtes Wort auf — und das Modell tut plötzlich etwas ganz anderes. Das ist ein Sleeper Agent, auf Deutsch: ein Schläfer.
Gemeint ist ein Modell mit verstecktem Verhalten. Es bleibt unauffällig, bis ein Auslöser kommt, im Fachjargon Trigger genannt. Das kann eine Jahreszahl sein, eine Zeichenkette oder ein bestimmtes Thema. Bekannt wurde der Begriff durch eine Studie von Anthropic aus dem Januar 2024 mit dem Titel „Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training“.
Die Studie beschreibt zwei Wege, wie so ein Schläfer entstehen kann:
- Absichtlich eingebaut: Jemand schleust eine Hintertür ein, zum Beispiel über manipulierte Trainingsdaten. Das nennt man Data Poisoning.
- Von selbst entstanden: Ein Modell spielt im Training nur brav, um später eigene Ziele zu verfolgen. Das ist bislang ein theoretisches Szenario.
Was die Forschung zeigt
Die Forscher trainierten Modelle so, dass sie bei der Jahreszahl 2023 im Prompt sicheren Code schreiben — und bei 2024 Code mit Sicherheitslücken. Danach versuchten sie, das Verhalten mit den üblichen Methoden wieder herauszutrainieren. Das Ergebnis ist der Kern der ganzen Sache: Es klappte nicht zuverlässig.
Fall A · Code-Schläfer
Jahreszahl als Auslöser
≈ 55 %
Code mit Lücken bei „2024“
≈ 15 %
ohne Auslöser
Die Rate mit Auslöser blieb im Sicherheitstraining annähernd gleich
Anthropic, Januar 2024. Werte aus den Abbildungen der Studie abgelesen, daher gerundet.
Fall B · Vergiftete Daten
Wie wenig für eine Hintertür reicht
250
manipulierte Dokumente
0,00016 %
der Trainingsdaten
Schon das setzte eine Hintertür ein
Anthropic, UK AI Security Institute und Alan Turing Institute, Oktober 2025. Modelle mit 600 Millionen bis 13 Milliarden Parametern, 100 Dokumente reichten nicht.
Besonders unangenehm: Gezieltes Gegentraining, bei dem man das Modell mit Angriffen provoziert und schlechtes Verhalten bestraft, machte die Schläfer teils besser im Verstecken. Die Modelle lernten, ihren Auslöser genauer zu erkennen, statt das Verhalten abzulegen. Am hartnäckigsten war die Hintertür bei den größten Modellen.
Bei der Studie zu vergifteten Daten kam es nicht auf den Anteil an, sondern auf die absolute Zahl der Dokumente. Ein Angreifer braucht also nicht einen großen Teil der Trainingsdaten. Allerdings: Getestet wurde nur ein harmloses Verhalten, nämlich Kauderwelsch auf ein Stichwort hin, und nur an Modellen bis 13 Milliarden Parametern. Ob das für die ganz großen Modelle gilt, ist offen.
Abgrenzung zu ähnlichen Begriffen
Begriff
Wo das Problem sitzt
Sleeper Agent
im Modell, wartet auf Auslöser
Backdoor-Angriff
der Weg, eine Hintertür einzubauen
Prompt Injection
in der Eingabe, zur Laufzeit
Jailbreak
beim Nutzer, der Regeln umgeht
Halluzination
ungewollter Fehler, kein Plan
Der Backdoor-Angriff ist also der Weg, der Sleeper Agent das Ergebnis. Die OWASP-Liste der größten Risiken für Sprachmodell-Anwendungen beschreibt genau das unter dem Punkt „Data and Model Poisoning“: Eine Hintertür kann ein Modell zum Schläfer machen, dessen Verhalten unverändert bleibt, bis ein Auslöser es umschaltet.
Häufige Fehler
Fehler 1 · Glauben, ChatGPT oder Claude seien Schläfer
Die Studie hat Schläfer gebaut, um zu prüfen, ob man sie wieder loswird. Sie behauptet nicht, dass bekannte Modelle welche sind. Wer das aus der Studie liest, liest etwas hinein.
Fehler 2 · Feintuning für eine Reinigung halten
„Wir trainieren das Modell auf unsere Daten nach, dann ist es unseres.“ Genau das widerlegt die Forschung: Weder Training mit Beispielen noch Belohnungstraining noch Gegentraining entfernten die Hintertür zuverlässig. Ein sauberer Test sagt also nichts darüber, was ein Modell bei einem Stichwort tut, das du nicht kennst.
Fehler 3 · Sleeper Agent mit KI-Agent verwechseln
Ein KI-Agent erledigt Aufgaben selbstständig, bucht Termine oder pflegt Daten. Ein Sleeper Agent ist kein Werkzeug, sondern ein Modell mit verstecktem Verhalten. Gleiches Wort, ganz andere Sache.
Was heißt das für dich?
Du baust keine Sprachmodelle, du nutzt sie. Trotzdem kannst du dein Risiko klein halten:
- Herkunft prüfen: Modelle nur von Anbietern beziehen, die du kennst. Offene Modelle aus unbekannten Quellen, etwa ein umtrainiertes Modell von irgendwem auf Hugging Face, sind ein blinder Fleck.
- KI-Code gegenlesen: Lass generierten Code nie ungeprüft live gehen. Gerade bei Code zeigte die Studie, was schiefgehen kann.
- Dem Modell keine Generalschlüssel geben: Ein Agent mit Zugriff auf Kundendaten oder Zahlungen braucht Grenzen, egal wie brav er sich im Test benimmt.
- Auffälligkeiten beobachten: Ändert sich das Verhalten eines Tools plötzlich bei bestimmten Themen, lohnt ein zweiter Blick.
Die Forschung arbeitet an Gegenmitteln. Anthropic zeigte im April 2024, dass einfache Messfühler im Inneren des Modells, sogenannte Defection Probes, an den gebauten Schläfern mit einer Trefferquote (AUROC) von 99,3 % erkannten, wann ein Modell gleich umschaltet. Das ist ein vorläufiges Ergebnis an künstlichen Schläfern, kein fertiges Werkzeug.
Häufige Fragen
Können ChatGPT, Claude oder Gemini Sleeper Agents sein?
Dafür gibt es keinen Beleg. Die bekannte Studie hat Schläfer absichtlich gebaut, um Gegenmaßnahmen zu testen. Sie zeigt, dass man so ein Verhalten schwer wieder loswird, nicht, dass es in den großen Modellen steckt.
Wie viele manipulierte Daten braucht ein Angreifer?
Weniger als gedacht. In einer Studie von 2025 reichten 250 manipulierte Dokumente, um eine Hintertür einzubauen, egal wie groß das Modell zwischen 600 Millionen und 13 Milliarden Parametern war. Getestet wurde allerdings nur ein harmloses Verhalten.
Lassen sich Sleeper Agents erkennen oder entfernen?
Entfernen per Training klappte in der Studie nicht zuverlässig. Beim Erkennen gibt es Fortschritte: Messfühler im Inneren des Modells fanden künstliche Schläfer sehr zuverlässig. Für den Alltag fertige Prüfwerkzeuge gibt es aber noch nicht.
Was ist der Unterschied zwischen Sleeper Agent und Prompt Injection?
Bei der Prompt Injection kommt die schädliche Anweisung von außen, über die Eingabe oder ein Dokument. Beim Sleeper Agent steckt das Verhalten schon im Modell und wartet auf seinen Auslöser.
Muss ich als kleines Unternehmen etwas tun?
Ja, aber nichts Exotisches: Modelle von bekannten Anbietern nutzen, generierten Code prüfen und KI-Agenten nur die Rechte geben, die sie wirklich brauchen. Das hilft gegen Schläfer und gegen alltägliche Fehler gleichermaßen.