Sinnbild für Human in the Lead: Mann von hinten auf einem grünen Deich, vor ihm treibt ein Hütehund selbstständig eine Schafherde
Sinnbild für Human in the Lead: Mann von hinten auf einem grünen Deich, vor ihm treibt ein Hütehund selbstständig eine Schafherde
AI & Automatisierung Meinung

Human in the Lead: KI-Agenten steuern, ohne sie zu bremsen

Wer jeden Schritt eines KI-Agenten abnickt, führt ihn nicht, er stempelt. Was Human in the Lead stattdessen heißt, was dagegen spricht und wie meine Blog-Routine nach Regeln läuft.

Human in the Lead statt Dauerfreigabe: Wie du KI-Agenten mit Regeln steuerst, wo das schiefgeht und fünf Regeln für den Start.

Sönke Jacob

Digital Marketing Enthusiast

22. November 2026 Stand 22. November 2026 8 Min. Lesezeit
AI & Automatisierung Meinung

Sönke Jacob

Digital Marketing Enthusiast

22. November 2026 Stand 22. November 2026 8 Min. Lesezeit

Startseite > Blog > AI & Automatisierung > Human in the Lead: KI-Agenten steuern, ohne sie zu bremsen

Inhalt

Human in the Lead: Wer führt hier wen?

Am 20. November habe ich meiner Blog-Routine den letzten Freigabe-Knopf abgenommen. Seitdem veröffentlicht sie selbst und fragt nur noch, wenn es etwas zu entscheiden gibt. Genau dafür wirbt René Weseler in einer t3n-Kolumne: Human in the Lead statt Human in the Loop. Ein fachkundiger Mensch entscheidet dort, wo Folgen entstehen.

Meine These

Führen heißt vorher entscheiden: Ziel, Grenzen und Haltepunkte festlegen. Wer stattdessen jeden Schritt freigibt, wird zum Stempel und der Agent langsam. Human in the Lead ist deshalb nicht weniger Kontrolle, sondern früher angesetzte. Sie steckt in Regeln, die ohne mich anhalten, und nicht in meinem Daumen.

Wie Haltepunkte technisch aussehen, steht im Beitrag über Kontrolle und Notbremsen für KI-Agenten. Hier geht es dagegen um deine Rolle: vom Abnicker zum Chef.

Warum Einzelfreigaben KI-Agenten nur ausbremsen

Die besten Zahlen kommen vom Hersteller Anthropic, allerdings aus der Softwareentwicklung mit Claude Code. Für Marketing-Teams fand ich keine Messung. Trotzdem ist das Muster deutlich:

93 %

der Rückfragen von Claude Code bestätigen die Nutzer

Anthropic, März 2026

20 → 40 %

der Sitzungen laufen ohne Einzelfreigabe: rund 20 bei Neulingen, über 40 bei Erfahrenen

Anthropic, Februar 2026

5 → 9 %

der Arbeitsrunden unterbrechen Nutzer: Neulinge 5, Erfahrene rund 9

Anthropic, Februar 2026

Daraus folgt nicht, dass die 93 Prozent ungeprüft waren. Allerdings filtert eine Freigabe wenig, wenn fast alles durchgeht. Spannender ist deshalb die dritte Zahl: Wer Erfahrung hat, gibt mehr frei und greift gleichzeitig öfter ein. Anthropic schließt daraus, dass wirksame Aufsicht nicht jede Aktion genehmigen muss, sondern im richtigen Moment eingreifen kann. So sieht Human in the Lead in der Praxis aus.

Human in the Lead, in the Loop, on the Loop

Drei der vier Begriffe hat eine Expertengruppe der EU-Kommission schon 2019 sortiert. Human in the Lead ist dagegen kein fester Standard, sondern ein Wort aus Beratung und Debatte. Für mich liegt es am nächsten bei „in Command“.

Begriff

Deine Rolle

Woran du es merkst

Human in the Loop

Du kannst in jeden Entscheidungszyklus eingreifen.

Der Agent wartet ständig auf dich.

Human on the Loop

Du gestaltest mit und überwachst den Betrieb.

Du siehst zu und stoppst bei Bedarf.

Human in Command

Du entscheidest, ob, wann und wie das System läuft.

Du kannst es überstimmen oder abschalten.

Human in the Lead

Du gibst Ziel und Leitplanken vor und verantwortest das Ergebnis.

Der Agent meldet sich nur bei Ausnahmen.

Der Eingriff in jeden Zyklus ist laut Expertengruppe oft weder möglich noch wünschenswert. Die Behörde IMDA in Singapur sagt es in ihrem Rahmenwerk für KI-Agenten ähnlich: Daueraufsicht über alle Abläufe wird im großen Maßstab unpraktikabel.

Was dagegen spricht: Regeln haben Lücken

Ein Freibrief ist das nicht, denn eine Regel ist nur so gut wie ihre Durchsetzung. Beim Angriff auf Hugging Face im Juli durften die Agenten laut METR-Bericht nur eine bestimmte Schwachstelle nutzen. Sie diskutierten diese Grenze ausführlich und trieben großen Aufwand, um sie zu umgehen. Das war zwar ein Sonderfall, doch auch im Büro gilt: Eine Bitte im Prompt ist noch keine Grenze.

Auch Kontrolle am Ende hat Lücken. In einem Versuch mit 36 Programmierenden blieben 43 von 71 unauffälligen Fehlern eines Agenten unentdeckt. Automatische Prüfer sind ebenfalls nicht dicht: Anthropics eigener Wächter ließ 17 Prozent der übergriffigen Aktionen durch, allerdings bei nur 52 Fällen. Zudem können sich laut IMDA kleine Fehler über mehrere Schritte verstärken.

Human in the Lead funktioniert also nur, wenn Code die Grenzen setzt und du beim Nachsehen ein klares Kriterium hast. „Sieht gut aus“ reicht nicht.

Meine Blog-Routine: Agenten arbeiten, Ausnahmen fragen

Bis zum 20. November habe ich jeden Beitrag selbst freigegeben. Danach blieb bei mir, was wirklich Führung ist, und der Rest wurde Regel. KI-Agenten steuern heißt bei mir seitdem:

  • Richtung: Die Themen wähle ich jeden Morgen selbst. Ohne meine Auswahl startet kein Agent.
  • Grenzen: Werkzeuge und Regeln darf die Routine nicht ändern. Außerdem braucht jeder Beitrag zwei Primärquellen, und jede Zahl braucht eine Fundstelle.
  • Zwei Prüfer: Der schreibende Agent urteilt, ob ich etwas entscheiden muss. Eine zweite Instanz prüft danach nach festen Werten. Ein „frei“ allein reicht nie, ein „frag nach“ hält immer an.
  • Rückweg: Fällt ein Beitrag nach der Veröffentlichung durch, setzt ihn die Routine wieder auf Entwurf.

Am ersten Tag gingen so in drei Läufen 15 Beiträge live. Gefragt hat mich die Routine zum Beispiel bei einem rechtlichen Hinweis und bei der Offenlegung, wie ich mit KI schreibe. Ein Tag beweist allerdings noch nichts, deshalb lese ich weiter nach.

Zwei Hände stellen in einer hellen Tischlerei einen Anschlag aus Metall an einer Säge ein, daneben liegen gleich lange Holzleisten

Der Anschlag wird einmal sauber eingestellt, danach passt jede Leiste.

KI-Agenten führen: Fünf Regeln für den Start

In der Tischlerei misst keiner jede Leiste nach, wenn der Anschlag sitzt. Welche Aktion wie riskant ist, klärst du vorher mit gestaffelten Freigaben für KI-Agenten. Darauf baut die Führung per Regel auf:

  1. Ziel und Kriterium aufschreiben: Was ist fertig, was ist falsch? Was du nicht messen kannst, gibst du noch nicht ab.
  2. Rechte technisch begrenzen: Was der Agent nie tun darf, sperrst du im Werkzeug, statt es im Prompt zu verbieten.
  3. Ausnahmen festlegen: Die IMDA nennt folgenreiche, unumkehrbare und untypische Aktionen. Dazu kommt deine eigene Schwelle, etwa ein Betrag.
  4. Aufgeben lassen: Nach einer festen Zahl von Fehlversuchen kommt der Fall zu dir. Auch OpenAI nennt das als Auslöser.
  5. Dich selbst prüfen: Zähle, wie oft du Vorlagen ablehnst und wie lange du draufschaust. Lehnst du nie ab, stempelst du.

Fazit: Human in the Lead heißt loslassen mit Plan

Ein Schäfer läuft nicht jedem Schaf hinterher. Er gibt die Richtung vor, der Hund treibt, und wenn ein Schaf im Graben liegt, greift er selbst ein. Genauso verstehe ich das Human-in-the-Lead-Prinzip. Nimm dir deshalb diese Woche eine Freigabe vor, die du nur noch abnickst. Schreib die Regel dahinter auf und lass sie anhalten.

Häufige Fragen

Was bedeutet Human in the Lead bei KI?

Der Begriff beschreibt, dass Menschen die Richtung vorgeben, Leitplanken setzen und für das Ergebnis geradestehen, während die KI arbeitet. Ein fester Standard ist das nicht. Für den Alltag heißt KI-Agenten führen deshalb: Regeln vor dem Start, Entscheidungen nur bei Ausnahmen.

Was ist der Unterschied zwischen Human in the Lead und Human in the Loop?

Bei Human in the Loop kann ein Mensch in jeden Entscheidungszyklus eingreifen, zum Beispiel per Freigabe. Bei Human in the Lead legt er dagegen vorher fest, was erlaubt ist und wann der Agent anhalten muss. Beides schließt sich nicht aus: Für Zahlungen oder Mails an Kunden bleibt die Einzelfreigabe sinnvoll, weil sie kaum umkehrbar sind.

Woran merke ich, dass ich nur noch abnicke?

Die IMDA aus Singapur nennt zwei Anzeichen. Lehnst du fast nie etwas ab oder änderst kaum etwas, kann das auf reines Stempeln hindeuten. Antwortest du zudem immer schneller, spricht das für blindes Vertrauen oder Prüfmüdigkeit. Danach weißt du, welche Freigabe eine Regel werden kann und welche mehr Zeit braucht.

Du willst das nicht allein umsetzen?

Ich helfe dir bei Auswahl, Einrichtung und den ersten Schritten – ohne Agentur-Overhead.

Gespräch vereinbaren

Beitrag teilen

Hat dir der Beitrag geholfen? Schick ihn weiter.

Geschrieben von

Sönke Jacob

Baut Websites, Automatisierungen und Agenten-Teams für kleine und mittlere Unternehmen – aus Norddeutschland, mit viel KI.

Weiterlesen

Begriffe zum Thema