Startseite > Lexikon > KI im Marketing > Adversarial Attack

Bleistiftskizze: Verwirrter Roboter mit Lupe vor einer Katzenzeichnung mit orangem Sticker auf der Staffelei, als Bild für Adversarial Attack
KI im Marketing

Adversarial Attack

Ein paar unsichtbar veränderte Pixel, und die KI hält einen Panda für einen Gibbon. Adversarial Attacks zeigen, wie leicht sich Maschinen täuschen lassen — und warum das auch deinen Spamfilter, deine Bilderkennung und deinen Chatbot betrifft.

Auch bekannt alsAdversarial AttacksAdversarial Example

6 Min

Lesezeit

21.11.2026

Letzte Aktualisierung

Was ist ein Adversarial Attack?

Du zeigst einer Bilderkennung ein Foto von einem Panda. Sie sagt: Panda. Dann veränderst du das Bild so minimal, dass du selbst keinen Unterschied siehst. Die KI sagt jetzt: Gibbon, und ist sich sicherer als vorher. Das ist ein Adversarial Attack, ein Angriff mit gezielt manipulierter Eingabe.

Das US-Standardinstitut NIST beschreibt das so: Der Angreifer erzeugt sogenannte Adversarial Examples, also Eingaben, die das Modell einer vom Angreifer gewählten Klasse zuordnet, oft mit nur minimaler Veränderung. Bei Bildern kann sie so klein sein, dass ein Mensch sie nicht bemerkt.

Manipuliert werden kann fast alles, was eine KI verarbeitet:

  • Bilder: berechnete Störungen in Pixeln oder Aufkleber auf echten Gegenständen.
  • Texte: Wörter, Tippfehler oder Zeichenketten, die einen Spam- oder Betrugsfilter austricksen.
  • Prompts: scheinbar sinnlose Zeichen am Ende einer Anfrage, die Sicherheitsregeln eines Chatbots aushebeln.
  • Trainingsdaten: vergiftete Beispiele, die ein Modell schon beim Lernen verbiegen.

Berühmte Beispiele

Fall A · Bilderkennung

Der Panda, der zum Gibbon wurde

57,7 %

sicher: Panda (Original)

99,3 %

sicher: Gibbon (manipuliert)

Die Störung lag in der Größenordnung des kleinsten Bits eines Pixels

Goodfellow, Shlens, Szegedy, Google, 2014/2015 — das Lehrbuchbeispiel des Feldes.

Fall B · echte Welt

Aufkleber auf Stoppschildern

100 %

Fehlerkennung im Labor

84,8 %

aus dem fahrenden Auto

Ein paar Aufkleber reichten, um die Erkennung gezielt in die Irre zu führen

Eykholt u. a., CVPR 2018. Der Mensch sieht weiter ein Stoppschild.

Es geht noch kleiner: In einer Studie von 2017 reichte die Änderung eines einzigen Pixels, um gut zwei Drittel der Testbilder eines kleinen Bilddatensatzes (CIFAR-10) falsch einordnen zu lassen. Bei größeren Bildern (ImageNet) klappte das immerhin noch bei 16 %.

Für Marketing spannend: Die ersten Opfer waren laut NIST Spamfilter. Schon 2004 zeigten Forscher, wie sich lernende Filter mit gezielt gewählten Wörtern umgehen lassen. Und bei einem kommerziellen Phishing-Erkenner fanden Forscher unter 4.600 markierten Proben 100 echte Angriffe — gebaut nicht mit Mathematik, sondern mit Zuschneiden, Abdecken und Weichzeichnen.

Abgrenzung zu ähnlichen Begriffen

Begriff

Was dahintersteckt

Adversarial Attack

manipulierte Eingabe täuscht KI

Prompt Injection

Befehle im Text kapern ein LLM

Jailbreak

Nutzer umgeht Schutzregeln

Data Poisoning

Angriff schon beim Training

Deepfake

täuscht Menschen, nicht Maschinen

Das BSI, das Bundesamt für Sicherheit in der Informationstechnik, unterscheidet bei Sprachmodellen nach dem Zeitpunkt: Angriffe im laufenden Betrieb heißen Evasion, das Modell bleibt dabei unverändert. Dazu zählt es Prompt Injections, Jailbreaks und Adversarial Attacks. Angriffe auf die Trainingsdaten sind etwas anderes.

Häufige Fehler

Fehler 1 · Glauben, ein guter Filter schützt sicher

Das NIST schreibt ehrlich, dass Gegenmaßnahmen für viele Aufgaben behelfsmäßig und fehlbar sind. Das BSI sagt, Maßnahmen können Angriffe erschweren und den Schaden verringern. Von einer Garantie spricht niemand.

Fehler 2 · Denken, Angreifer bräuchten das Modell

Viele Angriffe funktionieren als Black Box, also nur über normale Anfragen. Oft baut der Angreifer an einem Ersatzmodell und überträgt den Trick. Eine 2023 automatisch erzeugte Zeichenkette gegen offene Modelle wirkte auch bei ChatGPT, Bard und Claude.

Fehler 3 · Vergiftung für teuer halten

Forscher zeigten 2023, dass sich 0,01 % großer Bilddatensätze für das KI-Training für rund 60 US-Dollar hätten vergiften lassen. 2025 reichten in einer Studie von Anthropic und dem britischen AI Security Institute 250 manipulierte Dokumente für eine Hintertür in Sprachmodellen — getestet allerdings nur mit einem harmlosen Verhalten.

Was du konkret tust

  • Fremde Inhalte filtern: Lässt du einen Chatbot Webseiten, Mails oder Dokumente lesen, behandle diese als nicht vertrauenswürdig. Das BSI empfiehlt, Drittinhalte zu filtern.
  • Bestätigen lassen: Bevor ein KI-Agent etwas ausführt, etwa Mails verschickt oder Daten ändert, fragt er den Menschen.
  • Präzise System-Prompts: klare Rolle, klare Grenzen, keine Geheimnisse im Prompt.
  • Selbst testen: Werkzeuge wie garak von NVIDIA, PyRIT von Microsoft oder die Adversarial Robustness Toolbox greifen dein System probeweise an.
  • Bilder schützen: Kreative nutzen Glaze oder Nightshade von der University of Chicago, um eigene Bilder für KI-Training unbrauchbar zu machen. Laut Studie können schon unter 100 so veränderte Bilder einen Begriff in Stable Diffusion verderben.

Häufige Fragen

Was ist ein Adversarial Attack, einfach erklärt?

Eine gezielt veränderte Eingabe, die eine KI täuscht. Für Menschen sieht das Bild oder der Text oft normal aus, das Modell zieht aber falsche Schlüsse, etwa hält es einen Panda für einen Gibbon.

Was ist der Unterschied zu Prompt Injection?

Prompt Injection ist eine Form davon bei Sprachmodellen: Versteckte Anweisungen im Text bringen das Modell dazu, etwas anderes zu tun. Klassische Adversarial Attacks arbeiten oft mit berechneten Störungen, etwa in Bildern, und gibt es auch gegen Spam-, Betrugs- und Gesichtserkennung.

Kann man KI mit einem Aufkleber oder einem Pixel austricksen?

Ja, das ist belegt. Aufkleber auf Stoppschildern führten in einem Feldtest bei 84,8 % der Videobilder zu einer gezielten Fehlerkennung. Ein einzelnes Pixel reichte bei gut zwei Dritteln der Bilder eines kleinen Testdatensatzes.

Betrifft das kleine Unternehmen?

Ja, sobald deine KI fremde Inhalte liest: Webseiten, Kundenmails, hochgeladene Dateien. Dann kann ein Angreifer dort Befehle oder Störungen verstecken. Wer nur selbst mit ChatGPT schreibt, hat ein deutlich kleineres Risiko.

Wie schütze ich meinen Chatbot?

Mit mehreren Schichten: fremde Inhalte filtern, klare System-Prompts, wenige Rechte für den Bot und eine Bestätigung durch einen Menschen vor jeder wichtigen Aktion. Dazu regelmäßig selbst testen, etwa im Rahmen von Red Teaming.

Begriff teilenHat dir die Definition geholfen? Schick sie weiter.