EU AI Act

Der EU AI Act (Verordnung (EU) 2024/1689) ist das europäische Gesetz für Künstliche Intelligenz. Es teilt KI-Anwendungen nach ihrem Risiko in Klassen ein: verbotene Einsätze (etwa Social Scoring durch Behörden), Hochrisiko-Systeme (zum Beispiel im Recruiting oder bei Kredit-Entscheidungen), Systeme mit Kennzeichnungspflicht (etwa Chatbots) und allgemein nutzbare KI-Modelle (englisch: General-Purpose AI, kurz GPAI, also die großen Basismodelle wie GPT oder Gemini). Für jede Klasse gelten andere Pflichten und Strafen.

Was ist der EU AI Act?

Der EU AI Act ist das erste umfassende KI-Gesetz weltweit. Er ist eine Verordnung (im EU-Recht ein Gesetz, das in allen Mitgliedstaaten direkt gilt und nicht erst in nationales Recht übersetzt werden muss) und ist seit dem 1. August 2024 in Kraft. Das Gesetz wirkt auch über die EU-Grenzen hinaus: Es greift, sobald ein KI-System auf dem EU-Markt angeboten wird oder seine Ergebnisse in der EU verwendet werden, auch bei Anbietern außerhalb der EU. Der [Volltext bei EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng) ist die Rechtsgrundlage; die EU-Kommission betreibt den [AI Act Service Desk](https://digital-strategy.ec.europa.eu/en/policies/ai-act-service-desk) für Auslegungsfragen.

Der Act adressiert zwei Hauptrollen. Provider bringen KI-Systeme oder GPAI-Modelle auf den EU-Markt. Deployer setzen ein KI-System unter eigener Verantwortung ein. Beide Rollen haben unterschiedliche Pflichten und können im selben Unternehmen zusammenfallen: Wer ein Modell einkauft und in einer eigenen Anwendung produktiv betreibt, ist regelmäßig Downstream Provider und Deployer zugleich.

Das Pflichtenprogramm folgt einer Risiko-Klassifizierung mit fünf Klassen. Verbotene Praktiken nach Artikel 5 (Social Scoring durch Behörden, manipulative Systeme, ungezielte Gesichtsbild-Scrapes, biometrische Echtzeit-Identifizierung im öffentlichen Raum mit engen Ausnahmen). Hochrisiko-Systeme nach Artikel 6 in Verbindung mit Annex III (Recruiting, Bildung, Kreditscoring, Versicherung, kritische Infrastruktur, Strafverfolgung, Migration, Justiz) mit vollem Pflichtenkatalog aus Kapitel III. Systeme mit Transparenzpflicht nach Artikel 50 (Chatbots, generative KI mit Deep-Fake-Risiko, Emotionserkennung, biometrische Kategorisierung). Minimalrisiko-Anwendungen ohne harte Pflichten. Und GPAI-Modelle nach Artikel 51–55 mit eigener Regulierungslogik für Foundation Models und allgemein nutzbare KI-Modelle.

Die Anwendbarkeit ist gestaffelt nach Artikel 113. Vier Fristen strukturieren die Umsetzung:

Artikel 99 staffelt die Bußgelder nach Schwere. Falsche Auskünfte gegenüber der Marktüberwachung sind mit bis zu 7,5 Mio. EUR oder 1 Prozent des weltweiten Jahresumsatzes belegt (der höhere Betrag gilt jeweils). KMU-Erleichterungen sind in Artikel 99 vorgesehen. Die Durchsetzung liegt bei nationalen Marktüberwachungsbehörden; in Deutschland wird die Bundesnetzagentur als zentrale Stelle aufgebaut, in Österreich fungiert die RTR als AI-Servicestelle.

Abgrenzung zu DSGVO, GPAI Code of Practice, Responsible AI und AI-Governance

Vier verwandte Rahmenwerke sitzen im gleichen Themenfeld und werden im Markt regelmäßig vermischt. Sie decken unterschiedliche Ebenen ab.

Die DSGVO regelt personenbezogene Daten, der AI Act regelt KI-Systeme als Produkt. Beide gelten additiv: Beim Betrieb eines Hochrisiko-KI-Systems mit personenbezogenen Daten sind eine DPIA nach Artikel 35 DSGVO und eine Grundrechte-Folgenabschätzung (FRIA) nach Artikel 27 AI Act nebeneinander Pflicht. Die beiden Bewertungen überlappen in der Methodik, decken aber unterschiedliche Schutzgüter ab.

Der [GPAI Code of Practice](https://digital-strategy.ec.europa.eu/en/policies/ai-code-practice) ist ein Instrument der EU-Kommission zur Operationalisierung der Provider-Pflichten aus Artikel 51 bis 55. Unterzeichnende GPAI-Anbieter liefern technische Dokumentation, Trainingsdaten-Zusammenfassung, Copyright-Policy und Sicherheits-Reporting im standardisierten Format. Der Code ist freiwillig, der AI Act ist der bindende Rechtsakt. Ohne Unterschrift bleibt die Aufbereitung Eigeninitiative des Vendors, das Haftungsrisiko liegt höher.

Responsible AI beschreibt eine Werte-Disziplin (Fairness, Erklärbarkeit, Robustheit) und liefert Prinzipien und Reviews, die über die gesetzliche Pflicht hinausgehen. Sie ersetzt den AI Act nicht und wird durch ihn nicht ersetzt. AI-Governance schließlich ist die Operating-Model-Schicht: Wer trägt Risiko-Tiering, Konformitätsbewertung, FRIA-Prozess und Vendor-Pflichten-Matrix? Der AI Act schreibt Pflichten vor, das Operating Model entscheidet, wie sie im Unternehmen erfüllt werden.

Nationale KI-Gesetze regeln nur die Zuständigkeiten der Marktüberwachung und Sanktionsverfahren, nicht das Pflichtenprogramm. Als EU-Verordnung ist der AI Act unmittelbar geltendes Recht; anders als eine Richtlinie braucht er keine Umsetzung in nationales Recht.

Beispiel: Klassifizierung in einer DACH-KI-Landschaft

Ein DACH-Konzern betreibt zwölf KI-Systeme in unterschiedlichen Fachbereichen: einen Chatbot auf der Service-Seite, ein CV-Screening-Tool im Recruiting, ein Bonitäts-Scoring-Modell für Kredit-Entscheidungen, mehrere generative KI-Assistenten mit GPAI-Bezug aus US-Vendoren, ein Bild-Generator im Marketing. Der AI Act klassifiziert diese Systeme unterschiedlich, und aus jeder Klasse folgen andere Pflichten.

Der Chatbot fällt ab dem 2. August 2026 unter die Kennzeichnungspflicht aus Artikel 50: Nutzende müssen erkennen können, dass sie mit einem KI-System interagieren. CV-Screening und Bonitäts-Scoring gelten als Hochrisiko-Anwendungen nach Annex III (Nr. 4 Beschäftigung, Nr. 5b Kreditwürdigkeitsprüfung) mit vollem Pflichtenkatalog ab dem 2. August 2027: Risiko-Management-System, Daten-Governance, technische Dokumentation, Logging über die gesamte Lebensdauer, menschliche Aufsicht, Konformitätsbewertung, Registrierung in der EU-Datenbank. Die GPAI-Bezüge lösen Downstream-Provider-Pflichten aus: Model Card, Trainingsdaten-Zusammenfassung, Copyright-Policy und Sicherheits-Bewertung des Vendors gehören in die Beschaffungs-Unterlagen. Der Bild-Generator fällt zusätzlich unter die Watermarking-Pflicht nach Artikel 50: KI-generierte Inhalte müssen maschinenlesbar als künstlich markiert sein.

Aus dieser Klassifizierung folgt ein zentrales KI-Register mit Risiko-Klasse, verantwortlichem Provider oder Deployer, FRIA-Status, Vendor-Dokumentation und Aufbewahrungsfristen für jedes System. Es ist die Grundlage jedes Audits und jeder späteren Konformitätsbewertung.