Was ist eine Grundrechte-Folgenabschätzung?
Bevor eine Bank per KI über deinen Kredit entscheidet, soll sie sich eine Frage stellen: Wen kann das treffen, und wie schlimm? Genau dafür gibt es die Grundrechte-Folgenabschätzung, auf Englisch Fundamental Rights Impact Assessment, kurz FRIA.
Sie steht in Artikel 27 der KI-Verordnung. Bestimmte Betreiber einer Hochrisiko-KI müssen sie vor der ersten Nutzung durchführen. Betreiber ist, wer ein KI-System einsetzt — nicht, wer es entwickelt.
Das Ziel laut Erwägungsgrund 96: konkrete Risiken für Einzelne oder Gruppen erkennen und vorher festlegen, was passiert, wenn sie eintreten.
Wer muss sie machen?
Nicht jeder Betreiber von Hochrisiko-KI. Artikel 27 nennt drei Gruppen:
- Öffentliche Stellen, etwa Behörden und Kommunen.
- Private Anbieter öffentlicher Dienste, zum Beispiel in Bildung, Gesundheit oder Wohnen.
- Banken und Versicherer, wenn sie KI für Bonitätsscores von Privatpersonen oder für Risiko und Preis in Lebens- und Krankenversicherungen einsetzen.
Kritische Infrastruktur ist ausdrücklich ausgenommen. Eine private Agentur, die KI für Stellenanzeigen nutzt, betreibt zwar Hochrisiko-KI, muss aber keine FRIA machen. Die übrigen Betreiberpflichten aus Artikel 26 gelten trotzdem.
Was gehört hinein?
Artikel 27 schreibt sechs Bestandteile vor:
Baustein
Frage dahinter
Prozess
Wofür setzt du die KI ein?
Zeitraum
Wie lange und wie oft?
Betroffene
Welche Gruppen trifft es?
Risiken
Welche Schäden drohen?
Aufsicht
Wer prüft die KI?
Notfallplan
Was, wenn es schiefgeht?
Zum Notfallplan gehören interne Zuständigkeiten und ein Beschwerdeweg für Betroffene. Das Ergebnis meldest du der Marktüberwachungsbehörde, zusammen mit einem ausgefüllten Muster. Ändert sich etwas Wesentliches, musst du die FRIA aktualisieren.
Das Muster erarbeitet das KI-Büro der EU-Kommission gemeinsam mit der EU-Grundrechteagentur. Ein Entwurf mit Fragebogen ging im November 2026 in die öffentliche Konsultation.
FRIA und DSFA: Was ist der Unterschied?
Die Datenschutz-Folgenabschätzung (DSFA) nach Artikel 35 DSGVO schützt personenbezogene Daten. Die FRIA blickt weiter: auf alle Grundrechte, also auch Diskriminierung, Zugang zu Leistungen und das Recht, sich zu wehren.
Laut Artikel 27 ergänzt die FRIA die DSFA. Seit dem KI-Omnibus darfst du auf eine bestehende DSFA verweisen oder Teile übernehmen. Wer beides braucht, macht es am besten in einem Rutsch.
Häufige Fehler
Fehler 1 · „Jede Hochrisiko-KI braucht eine FRIA“
Nein. Pflicht ist sie nur für die drei Gruppen aus Artikel 27. Ein Mittelständler mit KI im Recruiting gehört in der Regel nicht dazu.
Fehler 2 · Mit der alten Frist planen
August 2026 ist überholt. Für Anhang-III-Systeme gilt jetzt der 2. Dezember 2027.
Fehler 3 · Die Pflicht beim Anbieter sehen
Die FRIA macht der Betreiber. Eine Abschätzung des Anbieters darfst du nur in vergleichbaren Fällen übernehmen — und musst sie trotzdem auf deinen Einsatz prüfen.
Fehler 4 · Normale Marketing-KI für betroffen halten
Chatbots, Textgeneratoren und Bild-KI sind meist kein Hochrisiko. Für sie gelten Transparenzpflichten nach Artikel 50, keine FRIA.
Was solltest du tun?
- Prüfen, ob du betroffen bist: öffentliche Stelle, öffentlicher Dienst, Bonität oder Versicherungspreise? Wenn nein, ist die FRIA für dich kein Thema.
- Wenn ja: DSFA und FRIA zusammen planen und das offizielle Muster nutzen, sobald es final ist.
- Melden: In Deutschland ist grundsätzlich die Bundesnetzagentur Marktüberwachungsbehörde, für Banken und Versicherer in der Regel die BaFin.
Wer die Abschätzung nicht durchführt oder die Meldung nicht, falsch oder zu spät übermittelt, handelt nach dem deutschen KI-Marktüberwachungsgesetz ordnungswidrig. Es drohen bis zu 50.000 Euro, Behörden selbst sind ausgenommen.
Häufige Fragen
Muss mein KMU eine Grundrechte-Folgenabschätzung machen?
Wahrscheinlich nicht. Pflicht ist sie nur für öffentliche Stellen, private Anbieter öffentlicher Dienste und für Bonitäts- oder Versicherungs-KI. Normales Marketing mit KI fällt nicht darunter.
Ab wann gilt die Pflicht?
Für Hochrisiko-Systeme aus Anhang III ab dem 2. Dezember 2027. So regelt es der KI-Omnibus von 2026, der den ursprünglichen Termin im August 2026 verschoben hat.
Was ist der Unterschied zwischen FRIA und DSFA?
Die DSFA nach DSGVO schützt personenbezogene Daten. Die FRIA prüft alle Grundrechte, etwa auch Diskriminierung. Sie ergänzt die DSFA, und du darfst auf eine bestehende DSFA verweisen.
An wen melde ich das Ergebnis?
An die Marktüberwachungsbehörde. In Deutschland ist das grundsätzlich die Bundesnetzagentur, bei Banken und Versicherern in der Regel die BaFin.
Gibt es eine offizielle Vorlage?
Sie ist in Arbeit. Das KI-Büro der EU-Kommission hat im November 2026 den Entwurf eines Musters mit Fragebogen zur Konsultation gestellt. Das Muster soll auch als digitales Werkzeug kommen.