Was ist eine Batch-API?
Musst du 10.000 Produkttexte wirklich in dieser Sekunde haben? Nein? Dann ist die Batch-API dein Sparschwein. Eine API ist die Schnittstelle, über die Software mit einem KI-Modell spricht. „Batch“ heißt Stapel.
Statt jede Anfrage einzeln zu schicken und auf die Antwort zu warten, packst du alle zusammen in einen Stapel. Du gibst ihn ab, der Anbieter arbeitet ihn ab, wenn er Kapazität hat, und du holst die Ergebnisse später ab. Das Modell ist das gleiche, nur der Zeitpunkt ist offen.
Die Anbieter nennen es unterschiedlich: Message Batches API bei Anthropic, Batch API bei OpenAI, Batch Mode bei Google. Der Kern ist derselbe: 50 % Rabatt auf den Standardpreis.
Die drei großen Anbieter im Vergleich
Anbieter
Frist · Stapel · Abruf
Anthropic
24 Std. · 100.000 Anfragen · 29 Tage
OpenAI
24 Std. · 50.000 Anfragen · 30 Tage
Ziel 24 Std. · bis 2 GB · 6 Wochen
Laut Anthropic sind die meisten Stapel in unter einer Stunde fertig. Die Frist ist aber keine Zusage: Was nicht rechtzeitig läuft, läuft ab. Bei Google endet ein Auftrag erst nach 48 Stunden, 24 Stunden sind dort ein Ziel. Abgerechnet wird nur, was fertig wurde. Stand aller Werte ist November 2026.
Was du konkret sparst
Eine Modellrechnung mit Annahmen von mir: 10.000 Produkttexte mit je 500 Tokens Eingabe und 300 Tokens Ausgabe, also 5 Millionen rein und 3 Millionen raus. Tokens sind die Wortbausteine, nach denen abgerechnet wird. Preise laut Anbieterseiten im November 2026:
Modell
Standard
Batch
Claude Haiku 5.5
2,00 $
1,00 $
Gemini 3.1 Flash-Lite
5,75 $
2,88 $
gpt-5.4-mini
17,25 $
8,63 $
Claude Sonnet 5.5
40,00 $
20,00 $
Bei einem Einzelprojekt sind das eher Peanuts. Spannend wird es, wenn du regelmäßig große Mengen bewegst oder teurere Modelle brauchst. Dazu lässt sich der Rabatt bei Anthropic mit Prompt Caching kombinieren. Das hilft, wenn alle Anfragen denselben langen Anweisungstext teilen.
Wofür taugt das im Marketing?
Anthropic nennt selbst Produktbeschreibungen und Zusammenfassungen von Artikeln. Weitere Kandidaten liegen auf der Hand, auch wenn dazu keine belegten Kostenzahlen vorliegen:
- Meta-Descriptions für einen ganzen Shop
- Keywords nach Suchabsicht sortieren
- Kundenbewertungen oder Support-Anfragen klassifizieren
- Alt-Texte für Bilder, sofern das Modell Bilder im Stapel kann
- Alte Blogartikel zusammenfassen oder auf Fehler prüfen
Nichts für die Batch-API sind Chatbots, Live-Personalisierung und alles, worauf ein Mensch wartet. Dort zählt die Time to First Token, nicht der Preis.
Häufige Fehler
Fehler 1 · Reihenfolge annehmen
Ergebnisse kommen in beliebiger Reihenfolge zurück. Gib jeder Anfrage eine eigene Kennung (custom_id), sonst steht die Beschreibung am falschen Produkt.
Fehler 2 · Nur auf den Stapel schauen
Der Stapel ist „fertig“, aber 300 Anfragen sind gescheitert. Prüfe immer die einzelnen Ergebnisse und schick die Fehler erneut.
Fehler 3 · Doppelt absenden
Bei Google ist die Erstellung nicht idempotent, also nicht gegen Wiederholung geschützt. Zweimal abgeschickt heißt zwei Aufträge und zweimal Kosten.
Fehler 4 · Kundendaten sorglos mitschicken
Bei Anthropic und OpenAI ist die Batch-Verarbeitung nicht für Zero Data Retention geeignet, die Daten bleiben also eine Weile gespeichert. Kläre vor dem Einsatz Auftragsverarbeitung und Region.
Fehler 5 · Ungeprüft live stellen
10.000 Texte heißen 10.000 mögliche Fehler. Zieh Stichproben, bevor irgendetwas online geht.
So startest du
- Prompt testen: Erst an 20 Beispielen normal ausprobieren und nachschärfen.
- Daten vorbereiten: Eine Anfrage je Zeile, jede mit eigener Kennung.
- Kleinen Stapel schicken: 100 Stück zeigen, ob alles passt.
- Ganzen Stapel abgeben: Über Skript, n8n oder die Konsole des Anbieters.
- Ergebnisse sichern: Sie bleiben nicht ewig liegen, also rechtzeitig abholen.
Häufige Fragen
Wie viel spart die Batch-API?
Bei Anthropic, OpenAI und Google rund 50 % gegenüber dem Standardpreis, auf Eingabe und Ausgabe. Ob sich das lohnt, hängt von Menge und Modell ab. Bei wenigen Anfragen ist der Aufwand oft größer als die Ersparnis.
Wie lange dauert ein Batch?
Laut Anthropic sind die meisten Stapel in unter einer Stunde fertig. Garantiert ist das nicht. Anthropic und OpenAI setzen eine Frist von 24 Stunden, bei Google ist das ein Ziel, die Grenze liegt bei 48 Stunden.
Was passiert, wenn ein Batch nicht rechtzeitig fertig wird?
Anfragen laufen dann ab. Fertige Antworten bleiben erhalten und werden berechnet, der Rest nicht. Die abgelaufenen Anfragen schickst du einfach in einem neuen Stapel.
Kann ich Batch und Prompt Caching kombinieren?
Bei Anthropic ja, die Rabatte lassen sich stapeln. Treffer sind aber nicht garantiert. Wegen der langen Laufzeiten empfiehlt Anthropic die 1-Stunden-Cache-Dauer. Bei OpenAI und Google hängt es vom Modell ab.
Wie lange bleiben meine Daten gespeichert?
Ergebnisse liegen bei Anthropic 29 Tage, bei OpenAI 30 Tage und bei Google 6 Wochen zum Abruf bereit. Schau zusätzlich in die Datenschutzregeln deines Anbieters, gerade bei Kundendaten.
