Was ist Appropriate Reliance?
ChatGPT liefert dir eine Wettbewerbsanalyse in 30 Sekunden. Übernimmst du sie? Prüfst du jede Zeile? Oder wirfst du sie weg und machst es selbst? Die richtige Antwort heißt Appropriate Reliance, auf Deutsch angemessenes Vertrauen.
Microsoft Research beschreibt das Ziel so: Nutzer sollen richtige KI-Ausgaben annehmen und falsche ablehnen. Zwei Abweichungen gibt es:
- Overreliance: Du übernimmst falsche oder unvollständige Ergebnisse. Meist, weil die Fehler schwer zu erkennen sind.
- Underreliance: Du verwirfst richtige Ergebnisse und verschenkst Zeit und Qualität.
Die Idee ist älter als ChatGPT. Die Forscher Lee und See prägten sie 2004 für Automatisierung allgemein: Das Vertrauen soll zu dem passen, was das System wirklich kann. Man spricht von kalibriertem Vertrauen.
Was Studien zeigen
Das bekannteste Experiment stammt von Harvard und der Boston Consulting Group: 758 Berater bearbeiteten Aufgaben mit und ohne GPT-4. Das Ergebnis gab dem Bild von der „gezackten Grenze“ seinen Namen: Manche Aufgaben kann die KI hervorragend, andere scheinbar ähnliche überhaupt nicht.
Case A · Innerhalb der Grenze
Aufgaben, die der KI liegen
+12,2 %
mehr erledigte Aufgaben
25,1 %
schneller
KI nutzen lohnt sich deutlich
18 Aufgaben wie Ideen entwickeln, Texte schreiben, Konzepte strukturieren — bei deutlich besserer Qualität.
Case B · Außerhalb der Grenze
Eine Analyse mit versteckten Fakten
84,5 %
richtig ohne KI
60–71 %
richtig mit KI
Rund 19 Prozentpunkte seltener richtig
Und das Tückische: Gutachter fanden die Begründungen der KI-Nutzer überzeugender — auch wenn die Antwort falsch war.
Wie oft wir überhaupt prüfen, hat eine Studie von Microsoft und der Carnegie Mellon University (2025) abgefragt: 319 Wissensarbeiter nannten 936 Beispiele aus ihrem Alltag mit KI. Nur bei rund 60 % gaben sie an, kritisch geprüft zu haben. Und je mehr sie der KI zutrauten, desto weniger prüften sie. Je sicherer sie sich selbst im Thema fühlten, desto mehr.
Häufige Fehler
Fehler 1 · Angemessen heißt weniger
Wer der KI grundsätzlich misstraut, ist nicht vorsichtig, sondern langsam. In der BCG-Studie hätte er auf 12 % mehr Ergebnis und ein Viertel Zeitersparnis verzichtet. Underreliance ist auch ein Fehler.
Fehler 2 · Quellen und Erklärungen für Prüfung halten
Microsoft warnt: Schon das Vorhandensein von Quellen erhöht das Vertrauen — egal, ob sie stimmen. In einem Experiment von Schemmer und Kollegen (2023) halfen Erklärungen zwar, richtige Ratschläge anzunehmen, aber nicht, falsche abzulehnen.
Fehler 3 · Gut formuliert gleich richtig
KI schreibt flüssig, strukturiert und selbstbewusst. Genau das macht falsche Antworten so überzeugend. Ob ein Text gut klingt, sagt nichts darüber, ob die Zahl darin stimmt.
Fehler 4 · Der Mensch am Ende reicht
Ein Human in the Loop, der nur abnickt, sichert nichts ab. Kontrolle wirkt nur, wenn der Mensch weiß, wo er hinschauen muss — und sich die Zeit dafür nimmt.
So triffst du das richtige Maß
Aufgabe
Prüfung
Ideen, Entwürfe, Gliederungen
leicht: lesen, auswählen
Social Posts, Newsletter-Text
mittel: Ton und Fakten
Zahlen, Zitate, Namen
immer gegen die Quelle
Preise, Rechtliches, Werbeaussagen
Vier-Augen-Prinzip
- Erst selbst denken, dann fragen: Notier dir deine Einschätzung, bevor du die KI fragst. In einer Studie von Buçinca und Kollegen (2021) senkte solches „Cognitive Forcing“ blindes Übernehmen stärker als jede Erklärung — auch wenn es den Teilnehmenden lästig war.
- Nach Unsicherheit fragen: „Wie sicher bist du? Was sollte ich prüfen?“ Sagt die KI „Ich bin nicht sicher“, liegen Nutzer laut einer Microsoft-Studie von 2024 öfter richtig.
- Stärken kennen: Texte, Ideen und Strukturen kann die KI gut. Bei Analysen mit versteckten Details, aktuellen Zahlen und Fakten zu kleinen Firmen liegt sie öfter daneben.
Häufige Fragen
Was bedeutet Appropriate Reliance auf Deutsch?
Angemessenes Vertrauen oder angemessenes Verlassen auf KI. Gemeint ist, richtige Ergebnisse anzunehmen und falsche abzulehnen — nicht blind zu glauben und nicht pauschal zu misstrauen.
Woran merke ich, dass ich mich zu sehr auf KI verlasse?
Wenn du KI-Texte mit Zahlen oder Fakten ungeprüft weitergibst, wenn du dich an die letzte Prüfung nicht erinnerst oder wenn dir Fehler erst auffallen, nachdem Kunden sie gefunden haben.
Ist es nicht sicherer, KI grundsätzlich zu misstrauen?
Nein. Pauschales Misstrauen kostet Zeit und Qualität bei den Aufgaben, die KI gut kann. Sicherer ist, je nach Aufgabe unterschiedlich genau zu prüfen.
Helfen Quellenangaben gegen Fehler?
Nur, wenn du sie öffnest. Quellenangaben erhöhen das Vertrauen schon durch ihr Dasein, und KI kann Quellen falsch zusammenfassen oder erfinden. Prüf bei wichtigen Aussagen die Originalseite.
Was ist der Unterschied zu Automation Bias?
Automation Bias ist die Neigung, automatischen Empfehlungen zu viel zu folgen — die Ursache von Overreliance. Appropriate Reliance ist das Ziel, das du trotz dieser Neigung erreichen willst.
