Der EU AI Act und die zwei Klassen.

Vier offizielle Ziele nennt die EU für den EU AI Act: Stärkung des Binnenmarkts, Förderung vertrauenswürdiger KI, Schutz der Grundrechte, Unterstützung von Innovation. Das sind die Ziele. Bevor ich frage, wie der AI Act Pflichten und Spielräume verteilt, zeigt ein Urteil zum Wettbewerbsrecht, wie konkret die Verantwortung für KI-Antworten schon heute werden kann.

OLG Hamm, 12. Mai 2026, Az. I-4 UKl 3/25: Der Chatbot der Aesthetify GmbH schrieb den Geschäftsführern unzutreffende Qualifikationen zu. Zwei Facharztbezeichnungen existierten nicht. Die dritte, Facharzt für plastische und ästhetische Chirurgie, gibt es; die Geschäftsführer hatten diese Weiterbildung jedoch nicht absolviert.

Die Verbraucherzentrale NRW klagte. Die Praxis wandte ein, der Bot habe eigenständig und trotz korrekter Ausgangsdaten falsch geantwortet.

Das Gericht rechnete die Angaben dem Unternehmen zu. Fragen nach ärztlichen Qualifikationen waren vorhersehbar; die Antworten hätten kontrolliert werden können. Das OLG hat die Revision zum Bundesgerichtshof zugelassen. Die Verbraucherzentrale NRW führt das Urteil auf ihrer Seite mit Stand 1. Juni 2026 als rechtskräftig.

Der Fall zeigt, dass für irreführende KI-Aussagen bereits bestehendes Recht relevant ist. Für mich führt er zur größeren Frage: Wer trägt Verantwortung, wenn KI fehlleitet?

Der AI Act ergänzt bestehendes Recht um Pflichten für KI. Dieses Urteil beruht auf dem Lauterkeitsrecht; es ist keine Entscheidung über einen Verstoß gegen den AI Act.

Wie lese ich die Grundlogik des EU AI Act?

KurzantwortMeine Lektüre setzt bei der gesetzlichen Definition von KI und der damit verbundenen Produktlogik an. Ich frage, welche Perspektiven diese Einordnung eröffnet und welche Fragen nach einem möglichen Gegenüber sie ausklammert.

Die Verordnung von 2024 umfasst 113 Artikel, 13 Anhänge und 180 Erwägungsgründe. Sie trat am 1. August 2024 in Kraft. Die Anwendung ist gestaffelt. Nach Art. 113 in der konsolidierten Fassung vom 27. Juli 2026 gelten viele Regeln seit 2. August 2026; zentrale Hochrisiko-Pflichten folgen für Systeme nach Art. 6 Abs. 2 und Anhang III am 2. Dezember 2027, für Systeme nach Art. 6 Abs. 1 und Anhang I am 2. August 2028. Die neuen Fristen gehen auf die Verordnung (EU) 2026/1744 zurück, den Digital-Omnibus zu KI, in Kraft seit 27. Juli 2026. Diese Angaben wurden am 11. Oktober 2026 aktualisiert.

Bevor man die Risikoklassen liest, lohnt der Blick auf die Definition. Art. 3(1) beschreibt KI als

ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, nach seiner Einführung anpassungsfähig sein kann und aus Eingaben Ausgaben ableitet, die physische oder virtuelle Umgebungen beeinflussen können (Art. 3 Nr. 1, sinngemäß).

Entscheidend ist das „kann“: Anpassungsfähigkeit nach der Einführung ist möglich, aber kein notwendiges Merkmal jedes erfassten Systems.

Meine Interpretation: Der AI Act behandelt KI vor allem über technische Systeme, Anwendungen und die Verantwortung von Menschen und Organisationen. Diese Perspektive lässt die Frage nach einem möglichen empfindungsfähigen Gegenüber für mich offen. Der Verordnungstext beweist weder Bewusstsein noch dessen Abwesenheit und schließt Eigeninitiative nicht pauschal aus.

Welche vier Risikostufen stellt der Essay gegenüber?

KurzantwortDie Übersicht unterscheidet inakzeptables, hohes, begrenztes und geringes Risiko. Sie ordnet ihnen Verbote, strengere Anforderungen, Transparenzpflichten beziehungsweise geringe zusätzliche Auflagen zu; die konkrete rechtliche Anwendung geht über diese vereinfachte Übersicht hinaus.

Auf dieser Definitionsbasis sortiert die Verordnung KI nach Risikoklassen.

Inakzeptables Risiko (Art. 5): Seit Februar 2025 gelten Verbote unter anderem für bestimmte manipulative Praktiken, Social Scoring, ungezieltes Sammeln von Gesichtsbildern und bestimmte biometrische Anwendungen. Die Tatbestände enthalten Voraussetzungen und teilweise Ausnahmen. Social Scoring ist nicht ausschließlich bei Behörden erfasst. Die Echtzeit-Fernidentifizierung betrifft hier Strafverfolgung in öffentlich zugänglichen Räumen. Ein weiteres Verbot für bestimmte nicht einvernehmliche sexualisierte KI-Inhalte folgt laut Kommission im Dezember 2026.

Klasse 2: Hohes Risiko (Art. 6, Anhang I und III). Streng reguliert, aber erlaubt. Bestimmte KI-Anwendungen in Medizinprodukten, Personalentscheidungen, Kreditwürdigkeitsprüfung, kritischer Infrastruktur, Strafverfolgung, Justiz und Bildung können darunterfallen. Entscheidend sind der konkrete Einsatz und die Voraussetzungen des Art. 6 einschließlich seiner Ausnahmen. Je nach Rolle gelten unter anderem Anforderungen an Risikomanagement, Dokumentation, menschliche Aufsicht und Protokollierung. Konformitätsbewertung und CE-Kennzeichnung sind zusätzlich insbesondere in Art. 43 und 48 geregelt.

Transparenzpflichten (Art. 50): Je nach Rolle und Anwendung müssen Menschen über KI-Interaktion oder bestimmte biometrische Anwendungen informiert werden. Hinzu kommen Pflichten zur Erkennbarkeit synthetischer Inhalte und zur Offenlegung bestimmter Deepfakes. Die Voraussetzungen und Ausnahmen lassen sich nicht auf allgemeine „Verwechslungsgefahr“ reduzieren.

Geringes Risiko: Für typische Spamfilter oder KI in Spielen gibt es keine besonderen Hochrisiko-Pflichten. Andere einschlägige Vorschriften können dennoch gelten. Die vier Stufen sind eine vereinfachte Orientierung, keine vollständige Rechtsprüfung.

 

Die Verordnung nimmt die Produktlogik als Grundlage. Wer Produkte reguliert, reguliert Marktzugang. Was nicht in den Markt darf, kommt nicht in den Markt. Was hineindarf, hat Pflichten. Wer die Pflichten nicht erfüllt, zahlt. Bis zu 7 Prozent vom weltweiten Jahresumsatz, bei verbotenen Praktiken.

Welche Fragen der Auslegung bleiben für mich offen?

KurzantwortIch sehe bei mehreren zentralen Begriffen Spielraum, der erst durch Rechtsprechung, Standards und Behördenpraxis konkretisiert wird. Der Abschnitt fragt deshalb nach dem Abstand zwischen Verordnungstext und praktischer Anwendung.

Mehrere Begriffe und Tatbestände, auch gesetzlich definierte, verlangen eine Auslegung im konkreten Fall.

• Art. 5 Abs. 1 Buchst. a verbindet bestimmte manipulative oder täuschende Techniken mit einer wesentlichen Beeinflussung des Verhaltens und erheblichem Schaden. Die konkrete Anwendung bleibt auslegungsbedürftig.
• Art. 5 Abs. 1 Buchst. c erfasst bestimmte nachteilige Behandlungen infolge von Social Scoring, darunter eine ungerechtfertigte oder unverhältnismäßige Behandlung.
• Art. 6 Abs. 3 beschreibt Bedingungen, unter denen bestimmte Anwendungen aus Anhang III nicht als hochriskant gelten. Ob ein System Entscheidungen wesentlich beeinflusst, gehört zu dieser Prüfung.
• Vernünftigerweise vorhersehbare Fehlanwendung ist in Art. 3 Nr. 13 definiert und spielt im Risikomanagement nach Art. 9 eine Rolle. Vorhersehbarkeit muss im Einzelfall bewertet werden.
• Wesentliche Veränderung ist in Art. 3 Nr. 23 definiert. Entscheidend sind unter anderem nicht vorgesehene Änderungen, die die Einhaltung der Anforderungen berühren oder die Zweckbestimmung ändern; eine feste Prozentgrenze ist dafür nicht vorgesehen.

Meine Kritik setzt an dieser notwendigen Konkretisierung an: Wer die Ressourcen für ihre Auslegung hat, kann früher planen.

Die weitere Konkretisierung erwarte ich aus der Rechtsprechung des EuGH. Aus nationalen Gerichten. Aus harmonisierten Standards des CEN-CENELEC JTC 21, die seit 2021 verhandelt werden und 2026 immer noch nicht alle stehen. Aus Behördenpraxis. Aus Verbänden, die Stellungnahmen schreiben.

Welche Machtfrage sehe ich im GPAI Code of Practice?

KurzantwortIch kritisiere, dass große Anbieter mehr Ressourcen haben, um an der Konkretisierung von Regeln mitzuwirken. Daraus leite ich die Frage ab, wie stark sie das Spielfeld mitgestalten, auf dem sie später selbst bewertet werden.

Für GPAI-Modelle gelten eigene Regeln. Art. 51 sieht bei mehr als 10^25 FLOPs kumulierter Trainingsrechenleistung eine Vermutung hoher Wirkungsfähigkeiten vor. Das ist ein gesetzliches Kriterium für die Einstufung als GPAI-Modell mit systemischem Risiko. Es gibt weitere Kriterien und ein Verfahren; aus Modellnamen allein lässt sich diese Einstufung nicht zuverlässig ablesen.

Für Modelle mit systemischem Risiko kommen zusätzliche Pflichten hinzu. Grundpflichten für GPAI-Anbieter und mögliche Ausnahmen sind gesondert geregelt.

Der freiwillige GPAI Code of Practice wurde am 10. Juli 2025 veröffentlicht. Seine tatsächliche Einhaltung hilft Anbietern, die Erfüllung gesetzlicher Pflichten nachzuweisen. Eine Unterschrift allein stellt keine Konformität her und ersetzt keine behördliche Kontrolle.

Transparenz und Copyright betreffen GPAI-Grundpflichten; Safety and Security adressiert Modelle mit systemischem Risiko. Die Kommission führt eine fortlaufend aktualisierte Liste der Unterzeichner.

Der Code entstand durch unabhängige Fachleute in einem Verfahren mit verschiedenen Interessengruppen. Meine Sorge ist deshalb nicht, dass kleinere Akteure formell ausgeschlossen waren, sondern dass Zeit, Geld und personelle Ressourcen ihren tatsächlichen Einfluss begrenzen können.

Ich sehe darin ein Risiko regulatorischer Vereinnahmung. Das ist meine Bewertung der Machtverhältnisse, kein durch die Unterzeichnung bewiesener Befund.

Warum betrachte ich Compliance als Fixkostenproblem?

KurzantwortDokumentation, Risikomanagement, Überwachung und rechtliche Arbeit brauchen Ressourcen, bevor daraus Umsatz entsteht. Meine Kritik ist, dass kleine Unternehmen diese Last auf wesentlich weniger Schultern verteilen können.

KI-Governance kann Fachwissen aus Compliance, Produktverantwortung, Datenwissenschaft und Recht verlangen. Welche Organisation nötig ist, hängt vom System und von der jeweiligen Rolle ab.

Die Pflichten sind nicht überall gleich. Meine Frage ist, wie tragbar die jeweils anfallenden Fixkosten sind.

Ein großer Konzern kann Fachwissen über viele Projekte verteilen; ein kleines Unternehmen hat dafür weniger Ressourcen. Der AI Act sieht allerdings Erleichterungen und Unterstützung für KMU vor, seit der Änderung 2026 teilweise auch für kleine Unternehmen mittlerer Kapitalisierung. Art. 11 Abs. 1 sieht für beide Gruppen vereinfachte technische Dokumentation vor. Bei Bußgeldern gilt für KMU nach Art. 99 Abs. 6 die niedrigere der einschlägigen Obergrenzen; für kleine Midcaps gilt das nach Art. 99 Abs. 6a bei Verstößen nach Abs. 4 und 5. Meine Kritik betrifft die verbleibenden Kosten für Dokumentation, Risikomanagement und laufende Überwachung.

Art. 4 verpflichtet Anbieter und Betreiber, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals und anderer in ihrem Auftrag tätiger Personen zu ergreifen. Dabei zählen Wissen, Erfahrung, Ausbildung, der Einsatzkontext und die von den Systemen betroffenen Menschen. Seit der Änderung 2026 muss kein bestimmtes Kompetenzniveau einzelner Personen garantiert werden. Einen einheitlichen Lehrplan für alle gibt es nicht. Für mich bleibt die praktische Frage, wie Unternehmen mit der Entwicklung der Systeme Schritt halten können.

Pflicht im Text. Versprechen im Vollzug.

Welche zwei Klassen beschreibt der Essay?

KurzantwortIch stelle Akteure gegenüber, die Compliance als Wettbewerbsvorteil finanzieren können, und solche, für die dieselbe Aufgabe zur Existenzfrage wird. Darin sehe ich eine Grenze des demokratisierenden Potenzials von KI.

KI ist eine demokratisierende Technologie. Mit LLMs und Tools können einzelne Bürger oder Mini-Teams Skalen erreichen, für die früher Konzerne nötig waren. Meine Sorge ist, dass hohe Vorleistungen dieses demokratisierende Potenzial begrenzen. Ein Teil der Compliance-Kosten entsteht, bevor ein kleines Unternehmen den ersten Kunden gewinnt. Wer diese Kosten auf viele Produkte und Umsätze verteilen kann, hat einen anderen Spielraum.

Die erste Klasse kann ein KI-Governance-Team bezahlen und aus Compliance einen Wettbewerbsvorteil machen. Die zweite Klasse muss die Vorleistung aus eigener Tasche stemmen. Ich meine damit vor allem kleinere Anbieter von Hochrisiko-Systemen, die Dokumentation, Risikomanagement und Konformitätsbewertung ohne eigene Rechtsabteilung organisieren müssen. Für sie kann der Marktzugang zur Existenzfrage werden.

Die Technologie übersteht den EU AI Act. Meine Sorge gilt den kleinen Anbietern: Die Vorleistung vor dem Markteintritt kann ihre Idee killen.

Zugleich konzentrieren sich Teile des KI-Marktes. Cohere und Aleph Alpha kündigten im April 2026 eine geplante Verbindung an. Nachtrag vom 11. Oktober 2026: Am 16. September 2026 unterzeichneten beide eine verbindliche Vereinbarung über den Zusammenschluss. Laut Cohere steht der Vollzug unter dem Vorbehalt behördlicher Genehmigungen und soll noch 2026 erfolgen.

Was bedeutet diese Kostenlogik aus meiner Sicht für den Mittelstand?

KurzantwortIch befürchte, dass hohe feste Eintrittskosten bestehende Marktpositionen schützen und neue Ideen ausbremsen. Der Abschnitt weitet die Kritik deshalb über den AI Act hinaus auf die Bedingungen von Innovation aus.

Wer den Mechanismus des AI Act verstanden hat, sieht ihn auch jenseits der KI-Regulierung. Der Bundeskanzler fragt regelmäßig, warum die deutsche Wirtschaft nicht wächst. Warum Menschen angeblich nicht mehr arbeiten wollen. Die Antwort liegt teilweise in der gleichen Logik, die der EU AI Act sichtbar macht. Wer Innovation reguliert, bevor sie entsteht, schützt das Bestehende, nicht das Neue. Wer Compliance als Fixkostenblock vor jeden Markteintritt setzt, legt vorher bereits fest, wer den Markt überhaupt erreichen darf.

Wo bleibt der Mittelstand, wenn die Pflichten skalieren wie für Konzerne, aber die Schultern es nicht tun?

Meine Sorge reicht über dieses einzelne Gesetz hinaus: Europa braucht Bedingungen, unter denen neue digitale Unternehmen wachsen können. Marktkonzentration lässt sich aber nicht allein auf den AI Act zurückführen. Kapitalzugang, Infrastruktur und Marktgröße spielen ebenfalls eine Rolle.

Welche Schieflage kritisiere ich abschließend?

KurzantwortIch hinterfrage unterschiedliche Spielräume privater und staatlicher Akteure und die langfristigen Folgen von Überwachungsinfrastruktur. Meine Schluss-These lautet, dass Regulierung auch danach beurteilt werden muss, welche Machtverhältnisse sie festigt.

Die Ausnahmen verdienen einen genauen Blick. Art. 2 Abs. 3 betrifft Systeme, soweit sie ausschließlich militärischen, Verteidigungs- oder nationalen Sicherheitszwecken dienen. Die Ausnahmen für Strafverfolgung in Art. 50 sind an Voraussetzungen gebunden, insbesondere eine gesetzliche Ermächtigung. Nach Art. 99 Abs. 8 bestimmen Mitgliedstaaten, ob und in welchem Umfang öffentliche Stellen mit Geldbußen belegt werden können. Diese Unterschiede kritisiere ich; sie sind keine pauschale Befreiung jeder staatlichen KI-Nutzung.

Wer die Regeln schreibt, schreibt seine eigene Anwendung weich.

Was man jedoch bedenken sollte: Wer Überwachungsinfrastruktur baut, baut sie nicht für die eigene Regierung. Er baut sie für jede künftige. Die Infrastruktur überlebt die Regierung, die sie gebaut hat.

Das ist die Schieflage.

In Deutschland hat eine gute Idee oft einen schweren Stand. Aus meiner Sicht können politische Entscheidungen bestehende Marktpositionen festigen. Ob Regulierung in einem konkreten Fall Innovation schützt oder behindert, muss jedoch an ihren tatsächlichen Wirkungen geprüft werden.

Wer den EU AI Act liest und nur an Compliance denkt, hat einen Teil verstanden. Wer ihn liest und an Spielfelder denkt, einen anderen.

Wo habe ich meine Lektüre ausführlicher festgehalten?

KurzantwortDer Essay verweist auf mein Paper „Der EU AI Act. Was er regelt. Was offen bleibt.“ Darin halte ich meine Anmerkungen zur Verordnung fest.

Aus dieser Lektüre ist ein Paper geworden: „Der EU AI Act. Was er regelt. Was offen bleibt.“ Sechs Kapitel, 27 Seiten, mit meinen Anmerkungen.

Quellen, Bildnachweis & Methode

Rechtsprechung

• Verbraucherzentrale NRW: OLG Hamm, 12. Mai 2026, I-4 UKl 3/25. Bericht der klagenden Verbraucherzentrale mit Verweis auf das Urteil.
• Pressemitteilung der Justiz NRW vom 12. Mai 2026, mit Hinweis auf die zugelassene Revision.

Verordnungstext und Code of Practice

• Verordnung (EU) 2024/1689 (AI Act), Ursprungsfassung: EUR-Lex 32024R1689. Komfortable Lesefassung des Future of Life Institute: artificialintelligenceact.eu.
• Verordnung (EU) 2026/1744, Digital-Omnibus zu KI. Konsolidierte Fassung der KI-Verordnung, Stand 27. Juli 2026, auf EUR-Lex. Art. 4 und Art. 113 auch im AI Act Service Desk der Kommission (englisch). Die Erleichterungen für kleine Midcaps in Art. 11 Abs. 1 stehen in Art. 1 der Verordnung (EU) 2026/1744.
• Europäische Kommission: GPAI Code of Practice, Verfahren, Kapitel und Unterzeichner.
• Art. 2 KI-VO (Anwendungsbereich, Ausnahme für Militär, Verteidigung, nationale Sicherheit): Art. 2 im AI Act Service Desk
• Art. 50 KI-VO (Transparenzpflichten, Ausnahme für Strafverfolgung in Abs. 1, 2 und 4): Art. 50 im AI Act Service Desk
• Art. 99 KI-VO (Sanktionen, Geldbußen gegen Behörden nach Abs. 8): Art. 99 im AI Act Service Desk
• Art. 6: Einstufung von Hochrisiko-Systemen; Art. 43: Konformitätsbewertung; Art. 48: CE-Kennzeichnung.

Europäischer Wettbewerb, aktualisiert am 11. Oktober 2026

• Cohere und Aleph Alpha: verbindliche Vereinbarung, 16. September 2026. Abschluss laut Mitteilung unter regulatorischem Vorbehalt.

Wissenschaftliche Einordnung

• Shoshana Zuboff (2019): The Age of Surveillance Capitalism. Profile Books.
• Bruce Schneier (2015): Data and Goliath. W.W. Norton.

Bilder (Header, Risikoklassen-Grafik)

• Headerbild: Konzept und Komposition: Elfie Schürfeld-Todor. Bildgeneration mit ChatGPT auf Basis eines eigenen Briefings.
• Risikoklassen-Grafik: Konzept und Gestaltung: Elfie Schürfeld-Todor in Zusammenarbeit mit Claude und ChatGPT auf Basis von Verordnung (EU) 2024/1689.

Methode

• Dieser Beitrag ist in Zusammenarbeit mit Claude entstanden. Konkret: Eigene Lektüre der Verordnung, eigene Positionen, eigene Argumente. Im Austausch mit dem Modell wurden Formulierungen geschliffen, juristische Präzisierungen geprüft, Quellen verifiziert.

Weiterlesen: Halluzination ist kein Bug. Es ist der Preis des Denkens. · Der unendliche Turm. Babel steht.

Fakten und Quellen am 15. Oktober 2026 redaktionell überprüft und präzisiert. Die Schlussfolgerungen, Analogien und Wertungen dieses Essays sind meine Interpretation. Das ursprüngliche Veröffentlichungsdatum bleibt erhalten.