Was ist Automation Bias?
Hast du schon mal einen KI-Text veröffentlicht, ohne jede Zahl darin zu prüfen? Dann kennst du Automation Bias: die Neigung, automatischen Systemen mehr zu vertrauen, als sie verdienen. Statt selbst nachzudenken, nehmen wir das Ergebnis der Maschine als Abkürzung.
Die Forschung unterscheidet zwei Fehler:
- Auslassungsfehler: Du handelst nicht, weil das System nichts gemeldet hat — etwa wenn der Report keinen Einbruch zeigt, weil das Tracking ausgefallen ist.
- Begehungsfehler: Du folgst einer falschen Empfehlung — etwa wenn du einen KI-Vorschlag für Anzeigentexte übernimmst, obwohl er nicht zu deinem Angebot passt.
Das Phänomen ist älter als ChatGPT. Erforscht wurde es zuerst in Cockpits und Kliniken. Mit generativer KI ist es aber im Büroalltag angekommen — und im Marketing, wo täglich Texte, Bilder und Auswertungen aus der Maschine kommen.
Was zeigen Studien?
Eine Übersichtsarbeit von Goddard und Kollegen sichtete 2012 rund 13.800 Studien und wertete 74 aus. Ergebnis einer Teilauswertung: Gibt ein Entscheidungssystem falschen Rat, steigt das Risiko einer falschen Entscheidung um 26 %. In mehreren Studien änderten Ärztinnen und Ärzte 6 bis 11 % ihrer zuvor richtigen Antworten in falsche, nachdem sie das System gefragt hatten.
Case A · Studie Microsoft Research 2023
Kaufentscheidung mit KI-Suche
47 %
richtig, wenn die KI falsch lag
93 %
richtig mit klassischer Suche
Die KI-Suche halbierte die Zeit — und verdoppelte die Fehler, wenn sie danebenlag
90 Teilnehmende in den USA, Vorabveröffentlichung. Bei Routinefragen lagen beide Gruppen gleichauf.
Case B · Gegenmittel aus derselben Studie
Unsichere Stellen farbig markieren
26 %
richtig ohne Markierung
58 %
richtig mit Markierung
Wer sieht, wo die KI unsicher ist, prüft gezielter
Zweites Experiment mit 120 Teilnehmenden, schwierige Aufgabe. Markiert waren sichere und unsichere Passagen.
Die Psychologen Parasuraman und Manzey kamen schon 2010 zu einem unbequemen Schluss: Automation Bias trifft Laien wie Fachleute, Einzelne wie Teams. Und er lässt sich durch Schulung oder Anweisungen allein nicht abstellen.
Was sagt die KI-Verordnung?
Die KI-Verordnung der EU nennt den Begriff wörtlich. Nach Art. 14 Abs. 4 lit. b müssen Menschen, die ein Hochrisiko-KI-System beaufsichtigen, sich der Neigung zu automatischem oder übermäßigem Vertrauen in dessen Ergebnisse bewusst bleiben können.
Die typische Marketing-KI ist kein Hochrisiko-System, die Pflicht gilt also meist nicht direkt. Der Gedanke dahinter passt aber genau: Ein Mensch, der nur abnickt, ist keine Aufsicht.
Häufige Fehler
Fehler 1 · „Einer schaut nochmal drüber“ reicht
Human in the Loop schützt nur, wenn der Mensch wirklich prüft. Wer unter Zeitdruck zwanzig KI-Texte freigibt, nickt ab. Plane Prüfzeit ein, sonst ist die Kontrolle Kulisse.
Fehler 2 · Quellenangaben für Beweise halten
Microsoft warnt in seinem Leitfaden zu übermäßigem KI-Vertrauen: Erklärungen und Quellen können das Vertrauen auch dann erhöhen, wenn sie falsch sind. Eine verlinkte Quelle ist erst geprüft, wenn du sie geöffnet hast.
Fehler 3 · „Das passiert nur Anfängern“
Gerade Erfahrene sind gefährdet, weil sie schneller arbeiten und dem Tool nach vielen guten Ergebnissen trauen. Der Bias trifft alle — die Frage ist nur, ob dein Ablauf ihn auffängt.
Fehler 4 · Automation Bias mit KI-Bias verwechseln
Ein algorithmischer Bias steckt in Daten oder Modell, etwa wenn ein Bildgenerator immer dieselben Klischees zeigt. Automation Bias steckt im Kopf der Person, die das Ergebnis übernimmt.
Was hilft gegen Automation Bias?
- Prüfliste statt Bauchgefühl: Zahlen, Namen, Zitate, Links und Rechtsaussagen in jedem KI-Text einzeln abhaken.
- Bremse im Ablauf: In Automatisierungen eine Freigabe einbauen, bevor etwas veröffentlicht oder verschickt wird.
- Unsicherheit sichtbar machen: Bitte die KI, Stellen zu kennzeichnen, bei denen sie sich nicht sicher ist.
- Erst selbst denken, dann fragen: Bei wichtigen Entscheidungen zuerst die eigene Einschätzung notieren, dann die KI-Antwort lesen.
- Stichproben bei Routine: Auch bei Reports und Gebotsempfehlungen regelmäßig nachrechnen.
Häufige Fragen
Was ist der Unterschied zwischen Automation Bias und Halluzination?
Eine Halluzination ist ein Fehler der KI: Sie erfindet Fakten. Automation Bias ist ein Fehler des Menschen: Er übernimmt das Ergebnis, ohne den Fehler zu bemerken. Erst beides zusammen führt zu falschen Inhalten in der Veröffentlichung.
Gilt die Regel aus der KI-Verordnung für mein Marketing-Team?
Meist nicht direkt. Art. 14 betrifft Hochrisiko-KI-Systeme, etwa in Personalauswahl oder Kreditvergabe. Typische Marketing-Tools gehören nicht dazu. Als Maßstab für gute Kontrolle taugt die Regel trotzdem.
Hilft es, wenn die KI ihre Quellen nennt?
Nur, wenn du die Quellen öffnest. Studien und Microsofts Leitfaden zeigen, dass schon das Vorhandensein von Quellen das Vertrauen erhöht — auch wenn die Quelle die Aussage gar nicht stützt.
Wie erkenne ich, dass ich der KI zu sehr vertraue?
Wenn du Ergebnisse nicht mehr liest, sondern nur noch überfliegst. Wenn du bei Zahlen nicht mehr fragst, woher sie kommen. Und wenn dir Fehler erst auffallen, nachdem jemand anderes sie gefunden hat.
Lässt sich Automation Bias wegtrainieren?
Nicht vollständig. Laut Forschung helfen Schulungen und Anweisungen allein wenig. Wirksamer sind Abläufe, die Prüfen erzwingen oder erleichtern: Freigabeschritte, Prüflisten und sichtbare Unsicherheit.
