Was ist Chain of Thought?
Rechne mal im Kopf: 23 Äpfel, 20 verbraucht, 6 dazugekauft. Wie viele sind da? Die meisten Menschen gehen das in Schritten durch. Genau das bringt Chain of Thought einer KI bei — sie schreibt ihre Zwischenschritte auf, bevor sie antwortet.
Der Begriff stammt aus einem Google-Paper von 2022. Wei und Kollegen beschrieben dort eine „Reihe von Zwischenschritten“, die das Modell vor der Antwort erzeugt. Es gibt zwei Spielarten:
- Few-Shot-CoT: Du zeigst dem Modell ein paar Beispielaufgaben mit ausgeschriebenem Lösungsweg. Es macht es dann genauso.
- Zero-Shot-CoT: Du hängst einfach einen Satz wie „Denk Schritt für Schritt“ an die Frage. Kein Beispiel nötig.
Wie viel bringt Chain of Thought?
Bei den Modellen von 2022 war der Effekt riesig. Bei heutigen ist er deutlich kleiner. Zwei Beispiele mit echten Zahlen:
Fall A · Der Durchbruch 2022
Ein Satz im Prompt
17,7 %
Rechenaufgaben richtig ohne CoT
78,7 %
mit „Schritt für Schritt“
Mehr als viermal so viele richtige Lösungen
Kojima und Kollegen 2022 mit InstructGPT im Test MultiArith. Das Modell gibt es heute so nicht mehr.
Fall B · Heute
CoT bei Reasoning-Modellen
+3 Punkte
Genauigkeit bei o3-mini und o4-mini
20–80 %
längere Antwortzeit
Kleiner Gewinn, spürbar mehr Wartezeit
Wharton-Studie 2025 (Preprint) mit schweren Wissensfragen. Gemini 2.5 Flash wurde mit CoT sogar schlechter.
Bei Modellen ohne Denkmodus hilft CoT weiter: In derselben Wharton-Studie legten Gemini 2.0 Flash und Claude 3.5 Sonnet um 13,5 und 11,7 Prozentpunkte zu. Gleichzeitig machten drei von fünf Modellen mehr Fehler bei leichten Fragen. Eine Auswertung von über 100 Studien kam 2024 zu einem klaren Bild: CoT hilft vor allem bei Mathe und Logik, bei anderen Aufgaben kaum.
Häufige Fehler
Fehler 1 · „Schritt für Schritt“ immer dazuschreiben
OpenAI schreibt in seinen Empfehlungen für Reasoning-Modelle wörtlich: Vermeide Chain-of-Thought-Prompts. Die Modelle denken ohnehin intern, die Anweisung bringt dort wenig und kann sogar schaden. Bei einfachen Aufgaben gilt das schon seit 2022.
Fehler 2 · Der Gedankenkette blind vertrauen
Die aufgeschriebenen Schritte sehen aus wie eine Begründung. Sie sind es nicht unbedingt. Anthropic schob Modellen 2025 heimlich Hinweise unter: Claude 3.7 Sonnet erwähnte den Hinweis nur in 25 % der Fälle in seiner Gedankenkette, DeepSeek R1 in 39 %. Die Kette zeigt also nicht zuverlässig, wie die Antwort zustande kam.
Fehler 3 · „Nur die Antwort, sonst nichts“
Das Gegenteil geht auch schief. Bei Modellen ohne Denkmodus nimmt diese Anweisung ihnen den Raum zum Mitdenken. Die Wharton-Forscher halten sie deshalb für wahrscheinlich schädlich, vor allem bei Rechen- und Logikaufgaben.
Fehler 4 · Die Kosten vergessen
Jeder Denkschritt sind Token, und Token kosten Geld und Zeit. Google weist darauf hin, dass auch die versteckten Denk-Token von Gemini berechnet werden. Bei tausend Produkttexten am Tag merkst du das auf der Rechnung.
Wann CoT im Marketing hilft
Für einen Social Post oder eine Betreffzeile brauchst du keine Gedankenkette. Sinnvoll ist sie bei Aufgaben mit Rechnung oder Logik:
- Budget verteilen: „Rechne erst aus, was jeder Kanal pro Lead kostet, dann schlag die Aufteilung vor.“
- Daten auswerten: Kampagnenzahlen vergleichen, Ausreißer finden, Ursachen abwägen.
- Pläne prüfen: Eine Kampagnenlogik Schritt für Schritt auf Lücken abklopfen lassen.
Häufige Fragen
Muss ich bei ChatGPT, Claude oder Gemini noch „Denk Schritt für Schritt“ schreiben?
Meist nicht. Die aktuellen Modelle denken mit eingeschaltetem Denkmodus von selbst nach, OpenAI rät bei Reasoning-Modellen sogar davon ab. Nur bei schnellen Modellen ohne Denkmodus kann der Satz bei Rechen- oder Logikaufgaben noch helfen.
Was ist der Unterschied zwischen Chain of Thought und einem Reasoning-Modell?
Chain of Thought ist die Technik, das Modell per Prompt zum Aufschreiben von Zwischenschritten zu bringen. Ein Reasoning-Modell hat dieses Nachdenken antrainiert und macht es von selbst, oft versteckt. Gesteuert wird es dann über einen Regler für den Denkaufwand.
Kann ich der Gedankenkette der KI trauen?
Nur begrenzt. Studien von Anthropic und anderen zeigen, dass die aufgeschriebenen Schritte wichtige Einflüsse oft verschweigen. Die Kette hilft dir, Fehler im Lösungsweg zu finden, ist aber kein Beweis dafür, wie die Antwort wirklich entstand.
Kostet Chain of Thought mehr?
Ja. Jeder Denkschritt verbraucht Token, die bezahlt werden, und verlängert die Wartezeit. In der Wharton-Studie dauerten Anfragen mit CoT je nach Modell 20 % bis ein Mehrfaches länger. Bei Massenaufgaben lohnt sich ein Test mit und ohne.
Wie sieht ein guter CoT-Prompt aus?
Bei einem Modell ohne Denkmodus: Bitte es, das Problem erst durchzudenken und die Antwort danach getrennt auszugeben, etwa unter einer eigenen Überschrift. Bei Modellen mit Denkmodus reicht eine klare Beschreibung von Ziel und Ausgabeformat.
Quellen
- Wei et al.: Chain-of-Thought Prompting Elicits Reasoning
- Kojima et al.: Large Language Models are Zero-Shot Reasoners
- Wharton Generative AI Labs: The Decreasing Value of Chain of Thought
- Sprague et al.: To CoT or not to CoT?
- OpenAI: Best Practices für Reasoning-Modelle
- Anthropic-Doku: Prompting Best Practices
- Google AI Studio: Thinking
- Anthropic: Reasoning models don't always say what they think
