Briefing · Künstliche Intelligenz & Regulierung
Der EU AI Act,
klar
erklärt.
Das weltweit erste umfassende KI-Gesetz verändert, wie Unternehmen Künstliche Intelligenz entwickeln und einsetzen. Dieses Briefing erklärt Systematik, Pflichten und Fristen, ohne Juristendeutsch. Lesezeit: 15 Minuten.
Stand: 23. Juli 2026 · berücksichtigt die Digital-Omnibus-Änderungen (Juni 2026)
Kapitel 01 · Grundlagen
Was der AI Act ist, und was er nicht ist
Der AI Act, offiziell Verordnung (EU) 2024/1689 und auf Deutsch KI-Verordnung, ist das erste Gesetz, das KI in ganzer Breite reguliert statt nur einzelne Branchen. Es gilt seit dem 1. August 2024 und wird seither stufenweise wirksam. Es soll KI nicht verhindern. Es soll ihren Einsatz dort absichern, wo Menschen ernsthaft zu Schaden kommen können.
Die Analogie
Als Anfang des 20. Jahrhunderts die ersten Automobile auf die Straßen kamen, gab es weder Ampeln noch Sicherheitsgurte noch Führerscheine. Verboten hat man Autos deshalb nicht. Man hat Verkehrsregeln erfunden.
Der AI Act folgt derselben Logik: KI bleibt erlaubt und politisch erwünscht, riskante Einsätze bekommen Prüfpflichten. Und einige Dinge sind schlicht tabu.
Eine Verordnung, kein Rahmenwerk
Der AI Act gilt unmittelbar und wortgleich in allen 27 Mitgliedstaaten, ohne nationale Umsetzungsgesetze für die Inhalte. Deutschland regelt lediglich Zuständigkeiten und Vollzug selbst.
Reguliert wird die Anwendung
Reguliert wird der konkrete Einsatzzweck, nicht die Technologie dahinter. Dieselbe Bilderkennung kann unkritisch sein (Fotoarchiv) oder hochriskant (Notaufnahme-Triage).
Wirksam in Etappen
Die Pflichten greifen gestaffelt von 2025 bis 2028, die strengsten zuletzt. Welche Frist wann zählt, zeigt der Zeitplan in Kapitel 08.
Kapitel 02 · Geltungsbereich
Wen das Gesetz bindet, und wen nicht
Das Gesetz unterscheidet im Kern zwei Rollen. Und es endet nicht an der EU-Grenze: Auch Anbieter aus den USA oder Asien sind gebunden, sobald ihre Systeme in Europa eingesetzt werden oder ihre Ergebnisse hier ankommen. Derselbe „Brüssel-Effekt", der schon die DSGVO zum globalen Standard gemacht hat.
Anbieter (Provider)
Wer ein KI-System entwickelt und in Verkehr bringt, vom Tech-Konzern bis zum Start-up mit einer HR-Software. Anbieter tragen die meisten Pflichten: Sie müssen ihr System vor dem Marktstart prüfen lassen und lückenlos dokumentieren.
Der Hersteller. Er verantwortet, dass das Produkt sicher auf den Markt kommt.
Betreiber (Deployer)
Wer ein KI-System in beruflichem Kontext einsetzt: die Bank im Kreditgeschäft, der Mittelständler im Recruiting, die Behörde im Bürgerservice. Betreiber müssen das System bestimmungsgemäß und unter Aufsicht verwenden.
Der Fahrer. Er muss das Produkt regelkonform nutzen.
Wichtige Ausnahmen
Die private, nicht-berufliche Nutzung fällt nicht unter den AI Act: Wer KI-Werkzeuge persönlich verwendet, ist kein „Betreiber" im Sinne des Gesetzes. Ebenfalls ausgenommen sind Militär und nationale Sicherheit, Forschung vor der Markteinführung und, mit Einschränkungen, Open-Source-Modelle.
Kapitel 03 · Die Systematik
Ein Gedanke trägt das ganze Gesetz: das Risikoprinzip
Der gesamte AI Act beruht auf einer einzigen Grundentscheidung: Je stärker ein KI-System in Lebenschancen und Grundrechte eingreifen kann, desto strenger die Anforderungen. Jede Anwendung wird dazu einer von vier Stufen zugeordnet. Wer diese Pyramide versteht, versteht das Gesetz.
Die Analogie
Die Logik ist aus dem Arzneimittelrecht vertraut: Ein Vitaminpräparat ist frei verkäuflich. Ein Schmerzmittel gibt es nur in der Apotheke, mit Beipackzettel. Ein starkes Medikament erfordert Rezept, Zulassungsstudien und ärztliche Aufsicht. Und manche Substanzen sind schlicht verboten. Alles ist Chemie; die Auflagen richten sich nach dem Risiko. Genau so behandelt der AI Act die KI.
Stufe anklicken, um Details zu sehen
Kapitel 04 · Unannehmbares Risiko
Acht Praktiken, die Europa vollständig untersagt
Diese Anwendungen gelten als unvereinbar mit Menschenwürde und Grundrechten. Keine Prüfung, keine Auflage kann sie legalisieren. Seit dem 2. Februar 2025 sind sie EU-weit verboten, bewehrt mit den höchsten Bußgeldern des Gesetzes.
Verboten seit 02.02.2025 · Art. 5Unterschwellige Manipulation
Systeme, die Menschen mit verdeckten oder täuschenden Techniken zu Entscheidungen bewegen, die ihnen erheblich schaden können.
KI darf Verhalten nicht heimlich steuern.
Ausnutzen von Schutzbedürftigkeit
Systeme, die gezielt Alter, Behinderung oder soziale Notlagen ausnutzen, um Verhalten zum Schaden der Betroffenen zu verzerren.
Die Schwächsten sind besonders geschützt.
Social Scoring
Bewertungssysteme, die Alltagsverhalten in eine Punktzahl mit kontextfremden Nachteilen übersetzen: schlechtes „Sozialverhalten", kein Kredit, kein Ticket. International real erprobt, in Europa illegal.
Kein Punktesystem für Lebensführung.
Straftat-Prognosen allein aus Profilen
Systeme, die ausschließlich aus Persönlichkeitsmerkmalen ableiten, ob jemand künftig straffällig wird, ohne einen einzigen überprüfbaren Anhaltspunkt.
Niemand ist verdächtig allein aufgrund seines Profils.
Ungezieltes Gesichtsbild-Scraping
Das massenhafte Abgreifen von Gesichtsbildern aus dem Internet oder von Überwachungskameras zum Aufbau von Erkennungsdatenbanken. Genau das war das Geschäftsmodell hinter dem Fall Clearview AI.
Kein heimliches Gesichtsarchiv der Bevölkerung.
Emotionserkennung in Job und Bildung
Am Arbeitsplatz und in Bildungseinrichtungen ist das maschinelle Auslesen von Emotionen untersagt. Ausnahmen bestehen nur für medizinische und Sicherheitszwecke.
Keine Stimmungsüberwachung von Belegschaft oder Lernenden.
Biometrische Kategorisierung sensibler Merkmale
Systeme, die aus Gesicht, Stimme oder Gang Religion, sexuelle Orientierung oder politische Überzeugung ableiten wollen.
Äußere Merkmale sind keine Weltanschauungs-Diagnose.
Biometrische Echtzeit-Fernidentifizierung
Live-Gesichtserkennung im öffentlichen Raum durch Behörden ist grundsätzlich verboten; eng begrenzte Ausnahmen erfordern eine richterliche oder behördliche Genehmigung.
Der öffentliche Raum wird nicht flächendeckend gescannt.
Ergänzung ab 2. Dezember 2026: Der Digital Omnibus fügt ein ausdrückliches Verbot sogenannter „Nudifier"-Anwendungen hinzu: KI, die ohne Einwilligung sexualisierte Darstellungen realer Personen erzeugt. Anbieter generativer Systeme müssen Missbrauch technisch vorbeugen.
Kapitel 05 · Hohes Risiko
Erlaubt, aber nur mit Prüfung, Dokumentation und Aufsicht
Hochrisiko-KI entscheidet über Lebenschancen: Beschäftigung, Kredit, Bildung, Gesundheit, Recht. Solche Systeme sind ausdrücklich zulässig; kaum ein Punkt am AI Act wird häufiger missverstanden. Sie müssen aber vor dem Einsatz nachweisen, dass sie zuverlässig arbeiten und ein Mensch die Kontrolle behält.
Die Analogie
Ein Fahrzeug kommt erst nach der Hauptuntersuchung auf die Straße: Bremsen geprüft, Papiere vollständig, Plakette erteilt. Am Steuer sitzt trotzdem jemand, der jederzeit eingreifen kann. Hochrisiko-KI folgt demselben Muster: Konformitätsprüfung und CE-Kennzeichnung vor dem Marktstart, menschliche Aufsicht im Betrieb.
Die Einsatzfelder nach Anhang III
Biometrie
Zulässige Fernidentifizierung und Emotionserkennung außerhalb der Verbotszonen
Kritische Infrastruktur
Steuerung von Energie-, Wasser- und Verkehrsnetzen
Bildung
Zulassung, Prüfungsbewertung, Verhaltensüberwachung bei Prüfungen
Beschäftigung & HR
Bewerbungsauswahl, Beförderung, Kündigung, Leistungsbewertung
Essenzielle Dienste
Kredit-Scoring, Risikoprüfung in Lebens-/Krankenversicherung, Sozialleistungen, Notruf-Priorisierung
Strafverfolgung
Beweisbewertung, Rückfallprognosen, Ermittlungsunterstützung
Migration & Grenzen
Prüfung von Visa- und Asylanträgen, Risikobewertungen
Justiz & Demokratie
Unterstützung richterlicher Entscheidungen, Systeme mit Wahlbezug
Hinzu kommt Anhang I, KI als Sicherheitskomponente regulierter Produkte: Medizinprodukte, Maschinen, Aufzüge, Spielzeug, Fahrzeuge.
Der Pflichtenkatalog für Anbieter
Risikomanagement über den gesamten Lebenszyklus: Gefahren finden, bewerten, verringern
Daten-Governance: Trainingsdaten müssen repräsentativ und möglichst fehlerfrei sein, um Diskriminierung vorzubeugen
Technische Dokumentation und automatische Protokollierung aller relevanten Ereignisse
Menschliche Aufsicht: Eine qualifizierte Person muss das System verstehen, überwachen und jederzeit stoppen können
Genauigkeit, Robustheit, Cybersicherheit auf nachweisbarem Niveau
Konformitätsbewertung, CE-Kennzeichnung, Registrierung in der EU-Datenbank. Erst dann darf das System auf den Markt
Fristen verschoben: Diese Pflichten sollten ursprünglich ab dem 2. August 2026 gelten. Der Digital Omnibus hat sie verlegt: Anhang III auf den 2. Dezember 2027, Anhang I (Produkte) auf den 2. August 2028. Hintergrund: Die harmonisierten Prüfnormen und Werkzeuge sind noch nicht fertig. Man hatte den TÜV eröffnet, bevor die Prüfgeräte geliefert waren.
Kapitel 06 · Begrenztes Risiko
Die Transparenzpflichten: wirksam ab 2. August 2026
Manche KI ist nicht gefährlich, aber täuschungsanfällig. Für sie gilt eine einfache Grundregel: KI muss sich zu erkennen geben. Diese Pflichten aus Artikel 50 greifen zum 2. August 2026, von allen Verschiebungen unberührt. In der Praxis betreffen sie die meisten Unternehmen, auch kleine.
Wirksam ab 02.08.2026 · Art. 50Die Analogie
Auf Lebensmitteln ist die Zutatenliste Pflicht. Nicht weil Zutaten verboten wären, sondern damit jeder weiß, was drin ist. Dieselbe Idee gilt künftig für Inhalte und Dialoge: Was maschinell erzeugt ist, muss als solches erkennbar sein.
Dialogsysteme müssen sich offenbaren
Wer mit einem KI-System chattet oder telefoniert, muss das klar erfahren, es sei denn, es ist aus dem Kontext offensichtlich. Ein Service-Chatbot darf nicht als menschliche Mitarbeiterin auftreten.
Synthetische Inhalte werden markiert
KI-erzeugte Bilder, Videos, Audio und Texte müssen maschinenlesbar gekennzeichnet sein, sodass Software sie als künstlich erkennen kann. Das ist die technische Basis gegen Desinformation.
Deepfakes werden sichtbar ausgewiesen
Täuschend echte Darstellungen realer Personen oder Ereignisse erfordern eine deutliche Kennzeichnung. Für Kunst und Satire genügt ein zurückhaltender Hinweis; offensichtliche Fiktion fällt nicht darunter.
KI-Texte zu öffentlichen Themen
Maschinell erstellte Texte, die die Öffentlichkeit informieren, sind zu kennzeichnen, außer ein Mensch hat sie redaktionell geprüft und trägt die Verantwortung.
Übergangsregeln: Generative Systeme, die vor dem 2. August 2026 auf dem Markt waren, haben für die maschinenlesbare Markierung eine Nachfrist bis zum 2. Dezember 2026. Ältere Inhalte müssen nicht rückwirkend gekennzeichnet werden. Ausgenommen sind auch reine Assistenzfunktionen ohne inhaltliche Veränderung, etwa KI-gestützte Korrektur.
Und die unterste Stufe? Die große Mehrheit aller KI-Systeme (Spamfilter, Navigation, Empfehlungsdienste, Prozessautomatisierung) gilt als minimales Risiko: keine Pflichten. Wer behauptet, Brüssel reguliere jede KI, hat das Gesetz nicht gelesen.
Kapitel 07 · Basismodelle
Eigene Regeln für ChatGPT, Gemini & Co.
Große Sprach- und Basismodelle passen in keine einzelne Risikoklasse, weil sie universell einsetzbar sind. Das Gesetz führt sie deshalb als eigene Kategorie: KI-Modelle mit allgemeinem Verwendungszweck („General Purpose AI", GPAI). Diese Pflichten gelten bereits seit dem 2. August 2025.
Die Analogie
Ein Motorenhersteller liefert an Dutzende Branchen: Fahrzeuge, Boote, Baumaschinen. Weil ganze Wertschöpfungsketten von seiner Komponente abhängen, liefert er Datenblatt und Spezifikationen mit. Genau das verlangt die EU von den Herstellern großer Basismodelle: Ihre „Motoren" stecken in Tausenden Anwendungen.
Pflichten für alle GPAI-Anbieter
Technische Dokumentation führen · Integrationsinformationen für nachgelagerte Entwickler bereitstellen · eine Strategie zur Einhaltung des EU-Urheberrechts vorweisen · eine Zusammenfassung der Trainingsinhalte veröffentlichen.
Offenlegen, was im Modell steckt. Und fremdes geistiges Eigentum respektieren.
Zusatzpflichten bei systemischem Risiko
Für Modelle, deren Training mehr als 1025 Rechenoperationen erforderte: Modell-Evaluierungen und Angriffssimulationen (Red-Teaming), Meldung schwerer Vorfälle an die EU, erhöhte Cybersicherheit.
Wer die leistungsfähigsten Modelle baut, testet am gründlichsten.
Aufsicht und Praxis: GPAI-Anbieter werden zentral vom EU AI Office in Brüssel beaufsichtigt, nicht von nationalen Behörden. Ein freiwilliger Code of Practice konkretisiert die Pflichten; die großen Anbieter sind beigetreten. Open-Source-Modelle genießen Erleichterungen; Modelle, die vor August 2025 auf dem Markt waren, hatten Übergangsfrist bis zum 2. August 2027.
Kapitel 08 · Zeitplan
Welche Frist wann zählt (Stand Juli 2026)
Der AI Act wird stufenweise wirksam. Der folgende Fahrplan berücksichtigt bereits die im Juni 2026 beschlossenen Verschiebungen („Digital Omnibus").
Inkrafttreten
Der Rechtsrahmen steht; die Übergangsfristen beginnen zu laufen.
Verbote wirksam
Social Scoring, manipulative Systeme, Emotionserkennung am Arbeitsplatz: Die acht untersagten Praktiken sind seither illegal.
GPAI-Pflichten und EU-Governance
Dokumentations-, Urheberrechts- und Offenlegungspflichten für Basismodelle; das EU AI Office nimmt die Arbeit auf.
Heute: 23. Juli 2026.
Transparenzpflichten und volle Durchsetzung
Artikel 50 wird wirksam: Dialogsysteme legen sich offen, synthetische Inhalte werden markiert. Nationale Aufsichtsbehörden nehmen den Vollzug auf, Bußgelder werden durchsetzbar, jeder Mitgliedstaat stellt eine regulatorische Sandbox bereit.
Nudifier-Verbot · Ende der Markierungs-Nachfrist
Das ergänzte Verbot greift; Bestandssysteme müssen spätestens jetzt maschinenlesbar kennzeichnen.
Hochrisiko-Pflichten, Anhang III verschoben · zuvor 08/2026
Der volle Pflichtenkatalog für eigenständige Hochrisiko-Systeme (Recruiting, Kredit, Bildung, Strafverfolgung) wird verbindlich.
Hochrisiko in Produkten, Anhang I verschoben · zuvor 08/2027
KI-Sicherheitskomponenten in Medizinprodukten, Maschinen und Fahrzeugen müssen die vollen Anforderungen erfüllen.
Letzte Übergangsfrist
Auch langlebige IT-Großsysteme öffentlicher Stellen müssen konform sein.
Kapitel 09 · Sanktionen
Bußgelder, die auch Konzernbilanzen bewegen
Die Sanktionen sind bewusst empfindlich bemessen. Es gilt immer der höhere der beiden Werte: Festbetrag oder Prozentsatz des weltweiten Jahresumsatzes.
Einsatz untersagter Systeme: Social Scoring, Manipulation, verbotene Biometrie
Verletzung von Hochrisiko-Auflagen oder Transparenzpflichten
Unrichtige oder irreführende Auskünfte gegenüber Behörden
Zur Einordnung
Sieben Prozent vom Weltumsatz: Bei einem Konzern mit 100 Milliarden Euro Umsatz sind das bis zu 7 Milliarden. Zum Vergleich: Die DSGVO endet bei 4 Prozent. Der AI Act setzt die Obergrenze bewusst darüber. Für KMU und Start-ups gilt eine Erleichterung: Bei ihnen greift jeweils der niedrigere der beiden Werte.
Zuständigkeit in Deutschland: Die Bundesnetzagentur wird zentrale KI-Aufsicht, mit einem eigenen Koordinierungs- und Kompetenzzentrum (KoKIVO) und einem KI-Service-Desk als Anlaufstelle für Unternehmen. Das Durchführungsgesetz wurde im Juni 2026 vom Bundestag beschlossen.
Kapitel 10 · Update 2026
Der Digital Omnibus: Was sich im Juni 2026 geändert hat
2025 wuchs die Kritik an Bürokratielast und fehlenden Prüfnormen. Die EU reagierte mit einem Änderungspaket: vorgeschlagen im November 2025, final beschlossen im Juni 2026 (Parlament 16.06., Rat 29.06.). Die fünf wichtigsten Änderungen:
Hochrisiko-Fristen verschoben
Anhang III: 2. August 2026 → 2. Dezember 2027 · Anhang I: 2. August 2027 → 2. August 2028. Begründung: Harmonisierte Normen und Prüfwerkzeuge liegen noch nicht vor.
Neues Verbot: „Nudifier"-Anwendungen
KI zur Erzeugung nicht-einvernehmlicher sexualisierter Darstellungen wird ausdrücklich untersagt (ab 2. Dezember 2026); Anbieter müssen Missbrauch technisch vorbeugen.
Erleichterte Bias-Korrektur
Anbieter dürfen sensible Daten (etwa Gesundheitsdaten) leichter verarbeiten, wenn dies erforderlich ist, um Verzerrungen zu erkennen und zu beheben.
KI-Kompetenzpflicht entschärft
Die eigenständige Rechtspflicht der Unternehmen, KI-Kompetenz der Beschäftigten sicherzustellen, entfällt; die Förderung liegt nun bei EU und Mitgliedstaaten. Schulung lohnt sich trotzdem.
Weniger Doppelprüfung für Produkthersteller
Wer bereits strenge sektorale Produktvorschriften erfüllt (Medizinprodukte, Maschinen), soll sich stärker daran orientieren dürfen. Die Kommission definiert die Äquivalenz bis August 2027.
Für Unternehmen ist das eine zweischneidige Nachricht. Mehr Luft für die Vorbereitung, aber auch mehr Zeit, das Thema wieder liegen zu lassen. Erfahrungsgemäß gewinnt die zweite Variante.
Verschoben heißt nicht abgeschafft. Die Richtung bleibt, nur der Fahrplan wurde realistischer.
Kapitel 11 · Konsequenzen
Was Unternehmen jetzt tun sollten
Drei Schritte, geordnet nach Dringlichkeit.
KI-Inventur durchführen
Verschaffen Sie sich einen vollständigen Überblick: Welche KI-Systeme sind im Einsatz, auch in Fachabteilungen, in eingekaufter Software und über Dienstleister? Ordnen Sie jedes System einer Risikostufe zu. Erfahrungsgemäß wird die Liste länger als erwartet: Die meiste KI kommt nicht als KI-Projekt ins Haus, sondern als Feature-Update einer Software, die längst läuft.
Transparenzpflichten umsetzen (Frist: 2. August 2026)
Prüfen Sie Chatbots mit Kundenkontakt und alle generativen Inhalte: Wird der KI-Einsatz offengelegt? Sind Ausgaben maschinenlesbar markiert, Deepfakes sichtbar gekennzeichnet? Das ist die Pflicht mit der kürzesten Frist und zugleich der einfachste Weg zu einem vermeidbaren Bußgeld.
Hochrisiko-Vorlauf nutzen (Zielmarke: Dezember 2027)
Fällt ein System unter Anhang III (etwa Recruiting oder Kredit-Scoring), starten Sie die Gap-Analyse jetzt: Datenqualität, Dokumentation, menschliche Aufsicht, Zuständigkeiten. Die Verschiebung ist Vorlauf, kein Freibrief. Erste Anlaufstelle für Fragen ist der KI-Service-Desk der Bundesnetzagentur.
Kapitel 12 · Selbsttest
Acht Praxisfälle: Welche Stufe trifft zu?
Prüfen Sie Ihr Verständnis der Systematik. Ordnen Sie jeden Fall der zutreffenden Stufe zu.
Kapitel 13 · Fazit
Das Wesentliche
Der AI Act in sieben Sätzen
- Der AI Act ist das weltweit erste umfassende KI-Gesetz, unmittelbar gültig in der gesamten EU und in der Praxis auch für Anbieter von außerhalb.
- Seine Grundlogik ist das Risikoprinzip: Je stärker ein System in Lebenschancen eingreift, desto strenger die Anforderungen.
- Verboten sind seit Februar 2025 Praktiken wie Social Scoring, manipulative Systeme und Emotionserkennung am Arbeitsplatz.
- Hochrisiko-Systeme (Recruiting, Kredit, Bildung, Justiz) bleiben zulässig, brauchen aber Prüfung, Dokumentation und menschliche Aufsicht; verbindlich ab Dezember 2027 bzw. August 2028.
- Transparenzpflichten gelten ab dem 2. August 2026: Dialogsysteme und KI-Inhalte müssen als solche erkennbar sein.
- Für Basismodelle wie ChatGPT gelten seit August 2025 eigene Pflichten: Dokumentation, Urheberrecht, Offenlegung der Trainingsinhalte. Die größten Modelle unterliegen zusätzlichen Sicherheitstests.
- Verstöße kosten bis zu 35 Mio. € oder 7 % des Weltjahresumsatzes, beaufsichtigt vom EU AI Office und in Deutschland von der Bundesnetzagentur.
„Rot ist tabu. Orange nur mit Prüfung. Gelb muss ehrlich sein. Grün darf machen."