Was ist ein Hochrisiko-KI-System?
Die EU-KI-Verordnung (auch AI Act) teilt KI nach Risiko ein: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und der große Rest ohne besondere Auflagen. Ein Hochrisiko-KI-System ist erlaubt, unterliegt aber den strengsten Regeln.
Entscheidend ist nicht, wie schlau die Technik ist, sondern wofür du sie einsetzt. Dasselbe Sprachmodell kann harmlos Produkttexte schreiben — oder als Bewerberfilter hochriskant sein.
Wann ist KI hochriskant?
Artikel 6 der Verordnung kennt zwei Wege:
- Weg 1 · Produkte (Anhang I): Die KI ist ein Sicherheitsbauteil eines Produkts oder selbst ein Produkt, das nach EU-Recht von einer unabhängigen Stelle geprüft werden muss — etwa in Medizinprodukten, Aufzügen oder Spielzeug.
- Weg 2 · Einsatzbereiche (Anhang III): Die KI wird in einem von acht Bereichen eingesetzt, zum Beispiel Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wichtigen Diensten wie Krediten, Strafverfolgung, Migration und Justiz.
Für Weg 2 gibt es eine Ausnahme: Ein System ist nicht hochriskant, wenn es nur eine eng begrenzte oder vorbereitende Aufgabe erledigt und die menschliche Entscheidung nicht wesentlich beeinflusst. Diese Ausnahme gilt nie, wenn das System Profile von Personen erstellt (Profiling). Und wer sich darauf beruft, muss das dokumentieren und das System registrieren.
Was das fürs Marketing heißt
Einsatz
Hochrisiko?
Produktempfehlungen im Shop
nein
Werbe-Targeting
nein
KI-Texte und KI-Bilder
nein, aber Kennzeichnung
Stellenanzeigen gezielt ausspielen
ja
Bewerbungen filtern
ja
Bonität von Privatkunden bewerten
ja
Der Fallstrick steht in Anhang III Nummer 4: Er nennt ausdrücklich KI für die Einstellung und Auswahl, auch das gezielte Schalten von Stellenanzeigen, das Sichten und Filtern von Bewerbungen und das Bewerten von Bewerbern. Wer also Recruiting-Kampagnen mit KI aussteuert, ist mitten im Hochrisiko-Bereich.
Für Chatbots und KI-Inhalte gelten nur die Transparenzpflichten aus Artikel 50: Hinweis, dass man mit einer KI spricht, und Kennzeichnung künstlich erzeugter Inhalte.
Pflichten und Fristen
Die meisten KMU sind nicht Anbieter (wer das System entwickelt), sondern Betreiber: Sie kaufen ein Tool und setzen es ein. Auch Betreiber haben eigene Pflichten nach Artikel 26:
- das System nach der Gebrauchsanweisung des Anbieters einsetzen
- die menschliche Aufsicht an kompetente Personen geben — siehe Human in the Loop
- den Betrieb überwachen und bei Risiken melden und stoppen
- automatisch erzeugte Protokolle mindestens 6 Monate aufbewahren
- Beschäftigte vorab informieren und Betroffene, wenn über sie entschieden wird
Bei Verstößen gegen Betreiberpflichten drohen Bußgelder bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes. Für KMU und Start-ups gilt jeweils der niedrigere der beiden Beträge. In Deutschland überwacht seit Juli 2026 grundsätzlich die Bundesnetzagentur, für KI bei Banken und Versicherern die BaFin.
Häufige Fehler
Fehler 1 · Mit den alten Fristen planen
„Seit August 2026 gilt alles.“ Nicht mehr. Für Hochrisiko-Systeme hast du bis Dezember 2027 Zeit. Die Transparenzpflichten und die KI-Kompetenz gelten dagegen schon.
Fehler 2 · „Wir entwickeln ja nichts“
Auch wer nur einkauft, ist als Betreiber verantwortlich. Der Anbieter liefert Dokumentation und Gebrauchsanweisung, aber Aufsicht, Protokolle und Information der Betroffenen bleiben bei dir.
Fehler 3 · Jede Marketing-KI für hochriskant halten
Personalisierung, Werbe-Targeting und Texte aus dem Sprachmodell stehen nicht in Anhang III. Hier zählen eher DSGVO und Transparenzpflichten. Panik ist fehl am Platz, ein Blick auf Recruiting und Kreditprüfung nicht.
Fehler 4 · Die Ausnahme als Hintertür sehen
„Unsere KI bereitet ja nur vor.“ Erstellt sie Profile von Bewerbern, greift die Ausnahme nicht. Und wer sie nutzt, muss seine Einschätzung schriftlich festhalten — die Behörde kann sie anfordern.
Was du jetzt tun kannst
- Inventur: Liste alle KI-Tools auf, die du einsetzt, und wofür.
- Einordnen: Der KI-Compliance-Kompass der Bundesnetzagentur gibt eine erste, unverbindliche Einschätzung.
- Recruiting prüfen: Filtert ein Tool Bewerbungen oder steuert es Stellenanzeigen? Dann frag den Anbieter nach seinen Unterlagen zur KI-Verordnung.
- Verantwortliche benennen: Wer prüft die Ergebnisse, wer hebt die Protokolle auf?
Häufige Fragen
Ab wann gelten die Pflichten für Hochrisiko-KI?
Nach dem KI-Omnibus ab 2. Dezember 2027 für die Einsatzbereiche aus Anhang III, etwa Recruiting oder Bonitätsprüfung, und ab 2. August 2028 für KI in regulierten Produkten aus Anhang I.
Ist mein KI-Bewerbertool ein Hochrisiko-KI-System?
Sehr wahrscheinlich. Anhang III nennt das Sichten, Filtern und Bewerten von Bewerbungen ausdrücklich. Du bist dann Betreiber mit eigenen Pflichten, auch wenn du das Tool nur gekauft hast.
Sind Werbe-Targeting oder Produktempfehlungen hochriskant?
In der Regel nicht, sie stehen nicht in Anhang III. Ausnahme: KI, die gezielt Stellenanzeigen ausspielt. Für Chatbots und KI-Inhalte gelten die Transparenzpflichten.
Wer kontrolliert das in Deutschland?
Seit dem KI-Marktüberwachungsgesetz vom Juli 2026 grundsätzlich die Bundesnetzagentur. Für KI im regulierten Finanzbereich, also etwa Kreditscoring durch Banken, ist die BaFin zuständig.
Wie hoch sind die Bußgelder für kleine Unternehmen?
Bei Verstößen gegen Betreiberpflichten bis 15 Mio. € oder 3 % des weltweiten Umsatzes. KMU und Start-ups zahlen jeweils den niedrigeren Betrag.
