Der entscheidende Gedanke ist ein risikobasierter Ansatz: Nicht jede KI wird gleich behandelt. Eine Spamfilter-KI im E-Mail-Postfach trägt ein anderes Risiko als ein KI-System, das über Kreditvergabe oder die Auswahl von Bewerber:innen mitentscheidet. Der AI Act staffelt seine Anforderungen deshalb entlang von vier Risikoklassen – von verbotenen Praktiken über Hochrisiko-Systeme und Systeme mit begrenztem Risiko bis hin zu KI mit minimalem Risiko, die weitgehend unreguliert bleibt. Je höher das Risiko für Gesundheit, Sicherheit und Grundrechte, desto höher die Anforderungen an Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht und Konformitätsbewertung.
Als EU-Verordnung – und nicht als Richtlinie – gilt der AI Act unmittelbar in allen Mitgliedstaaten, ohne dass er erst in nationales Recht umgesetzt werden müsste. Für Unternehmen in Deutschland und Österreich bedeutet das: Die Pflichten wirken direkt. Schweizer Anbieter sind über den Marktzugang faktisch betroffen, sobald sie KI-Systeme in der EU in Verkehr bringen oder deren Ergebnisse in der EU verwendet werden. Genau diese extraterritoriale Wirkung macht den AI Act zu einem De-facto-Standard, der weit über die EU-Grenzen hinaus Beachtung findet.
Der europäische Gesetzgeber verfolgt mit der Verordnung mehrere ineinandergreifende Ziele. Erstens soll ein einheitlicher Binnenmarkt für vertrauenswürdige KI entstehen, statt eines Flickenteppichs aus 27 nationalen Regelwerken. Zweitens sollen Grundrechte und Sicherheit geschützt werden – also etwa der Schutz vor Diskriminierung, vor intransparenten automatisierten Entscheidungen und vor manipulativen Systemen. Drittens soll Rechtssicherheit für Anbieter und Anwender geschaffen werden, damit Investitionen in KI auf einer planbaren Grundlage erfolgen können. Und viertens soll europäische KI-Innovation gefördert werden, unter anderem durch Reallabore (regulatory sandboxes), in denen Unternehmen neue Systeme unter behördlicher Aufsicht erproben können.
Wichtig ist die Abgrenzung: Der AI Act ist ein Produktsicherheits- und Grundrechtegesetz, kein reines Datenschutzgesetz. Er regelt, unter welchen Bedingungen ein KI-System überhaupt in Verkehr gebracht und betrieben werden darf. Datenschutzfragen, also der Umgang mit personenbezogenen Daten, bleiben Sache der DSGVO – beide Regime gelten parallel und ergänzen sich (mehr dazu in Kapitel 06).
Der AI Act knüpft an einen weit gefassten KI-Begriff an, der sich an internationalen Definitionen orientiert: Gemeint sind maschinengestützte Systeme, die mit einem gewissen Grad an Autonomie arbeiten und aus Eingaben Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen ableiten, die ihr Umfeld beeinflussen. Klassische, vollständig regelbasierte Software fällt in der Regel nicht darunter – die Grenze ist im Einzelfall aber nicht immer trivial und sollte fachlich geprüft werden.
Für die Praxis folgt daraus eine wichtige Konsequenz: Es kommt nicht auf das Etikett „KI“ im Marketing an, sondern auf die tatsächliche Funktionsweise. Ein in eine HR-Software eingebettetes Lernverfahren kann ein KI-System im Sinne der Verordnung sein, auch wenn es nicht prominent als „KI“ beworben wird. Deshalb ist die nüchterne Bestandsaufnahme der eingesetzten Systeme – inklusive eingebetteter Funktionen in Standardsoftware – der unverzichtbare erste Schritt. Welche Pflichten sich daraus konkret ergeben, ist nach aktuellem Stand und mit Blick auf den Einzelfall fachjuristisch zu bewerten.
An der Spitze der Risikopyramide stehen Praktiken, die der Gesetzgeber für inakzeptabel hält. Dazu zählen nach aktuellem Stand unter anderem KI-Systeme, die menschliches Verhalten in schädlicher Weise manipulieren oder Schwächen besonders schutzbedürftiger Gruppen ausnutzen, bestimmte Formen des Social Scoring durch Behörden sowie unzulässige Formen biometrischer Kategorisierung oder Identifizierung. Der genaue Zuschnitt dieser Verbote – samt eng gefasster Ausnahmen, etwa im Bereich der Strafverfolgung – ist juristisch komplex und im Einzelfall mit einer Fachjurist:in zu klären.
Für die meisten mittelständischen Unternehmen sind die verbotenen Praktiken in der Praxis selten unmittelbar relevant – kaum ein typisches Geschäfts-Tool fällt darunter. Dennoch sollte die Frage „Setzen wir irgendwo eine verbotene Praktik ein?“ bewusst und dokumentiert beantwortet werden, denn die Verbote gelten nach aktuellem Stand bereits seit Februar 2025 und sind damit der am frühesten wirksame Teil der Verordnung.
Die praktisch bedeutsamste Klasse für viele Unternehmen ist die Hochrisiko-KI. Der AI Act benennt zwei große Wege in diese Klasse: Erstens KI als Sicherheitskomponente in bereits regulierten Produkten (etwa Maschinen, Medizinprodukten oder Fahrzeugen). Zweitens KI-Anwendungen in den in Anhang III genannten sensiblen Bereichen – darunter nach aktuellem Stand unter anderem Beschäftigung und Personalauswahl, Zugang zu wesentlichen privaten und öffentlichen Diensten (etwa Kreditwürdigkeitsprüfung), bestimmte Bereiche kritischer Infrastruktur sowie Bildung. Gerade die HR- und Bonitäts-Anwendungsfälle treffen viele KMU unmittelbar, weil entsprechende Funktionen oft in eingekaufter Standardsoftware stecken.
Für Hochrisiko-Systeme greift das volle Pflichtenprogramm: Risikomanagementsystem, Daten- und Daten-Governance-Anforderungen, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht, Genauigkeit/Robustheit/Cybersicherheit sowie eine Konformitätsbewertung mit anschließender CE-ähnlicher Kennzeichnung und Registrierung. Ob ein konkretes System tatsächlich als Hochrisiko einzustufen ist, hängt von Details der Zweckbestimmung ab – diese Einordnung sollte fachlich abgesichert werden.
Unterhalb der Hochrisiko-Schwelle steht das begrenzte Risiko. Hier steht die Transparenz im Vordergrund: Wer mit einem Chatbot kommuniziert, soll erkennen können, dass das Gegenüber eine Maschine ist; KI-generierte oder -manipulierte Inhalte – etwa Deepfakes – sollen als solche gekennzeichnet werden. Diese Pflichten sind in der Umsetzung meist überschaubar, betreffen aber sehr viele Unternehmen, weil Chatbots und generative Inhalte heute weit verbreitet sind.
Die vierte Klasse, das minimale Risiko, umfasst den Großteil der eingesetzten KI. Hier sieht der AI Act keine spezifischen Verpflichtungen vor. Der Gesetzgeber ermutigt aber zu freiwilligen Verhaltenskodizes – etwa um auch bei unkritischen Systemen Qualität, Fairness und Transparenz zu fördern. Für Unternehmen ist das eine Chance, Vertrauen aufzubauen, ohne formalen Zwang.
Die gestaffelte Anwendung folgt einer inneren Logik: Was am gefährlichsten ist, wird zuerst untersagt. Deshalb gelten die Verbote als Erstes – nach aktuellem Stand seit Februar 2025. Anschließend folgen die Pflichten für General-Purpose-AI-Modelle, weil diese als Basistechnologie vielen nachgelagerten Anwendungen zugrunde liegen. Die komplexeren Hochrisiko-Pflichten mit ihrem aufwendigen Konformitätsregime greifen zuletzt, damit Unternehmen, Behörden und benannte Stellen Zeit haben, die nötigen Strukturen, Normen und Prüfkapazitäten aufzubauen.
Für die Praxis bedeutet das: Es gibt kein einheitliches „Stichtag-Datum“, an dem alles gilt. Stattdessen sollten Unternehmen die für ihre konkreten Systeme relevanten Fristen identifizieren und rückwärts planen. Wer ein Hochrisiko-System einsetzt, dessen Pflichten nach aktuellem Stand ab 2026 greifen, sollte nicht erst 2026 mit der Vorbereitung beginnen – Datenaufbereitung, Dokumentation und Konformitätsbewertung brauchen Vorlauf.
Der AI Act enthält nach aktuellem Stand verschiedene Übergangsregelungen, etwa für Systeme, die bereits vor den jeweiligen Stichtagen in Verkehr waren, sowie für GPAI-Modelle, die vor dem Wirksamwerden der entsprechenden Pflichten auf dem Markt waren. Diese Bestandsregelungen sind im Detail komplex und enthalten Bedingungen – etwa dass wesentliche Änderungen an einem System die Privilegierung entfallen lassen können. Ob und wie eine Übergangsregelung für ein konkretes System greift, ist eine Frage des Einzelfalls und sollte mit einer Fachjurist:in geklärt werden.
Bei Hochrisiko-Systemen liegt die Hauptlast nach aktuellem Stand beim Anbieter – also bei der Stelle, die das System entwickelt oder unter eigenem Namen in Verkehr bringt. Der Anbieter muss insbesondere ein fortlaufendes Risikomanagementsystem betreiben, die Qualität und Repräsentativität der Trainings-, Validierungs- und Testdaten sicherstellen (Daten-Governance), eine umfassende technische Dokumentation erstellen und aktuell halten, automatische Protokolle ermöglichen, menschliche Aufsicht vorsehen sowie ein angemessenes Niveau an Genauigkeit, Robustheit und Cybersicherheit gewährleisten. Vor dem Inverkehrbringen steht die Konformitätsbewertung; danach folgen Kennzeichnung, Registrierung und eine Beobachtung nach dem Inverkehrbringen.
Auch Betreiber (im AI Act „Deployer“) haben Pflichten, wenn sie ein Hochrisiko-System einsetzen – etwa die Nutzung gemäß den Anbieter-Vorgaben, die Sicherstellung menschlicher Aufsicht im Betrieb, die Überwachung des Betriebs und in bestimmten Fällen Informations- und Dokumentationspflichten. Die genaue Abgrenzung der Verantwortlichkeiten zwischen Anbieter und Betreiber ist ein zentrales Praxisthema und wird in Kapitel 05 vertieft.
Eine Besonderheit des AI Act ist das eigene Regime für General-Purpose-AI-Modelle – also für Basismodelle, die nicht für einen einzigen Zweck, sondern breit einsetzbar sind und die vielen nachgelagerten Anwendungen zugrunde liegen. Anbieter solcher Modelle treffen nach aktuellem Stand insbesondere Transparenz- und Dokumentationspflichten: Sie müssen technische Unterlagen bereitstellen, nachgelagerten Anbietern hinreichende Informationen für die rechtskonforme Integration geben und Vorgaben im Zusammenhang mit dem Urheberrecht beachten, etwa zu einer ausreichend detaillierten Zusammenfassung der Trainingsinhalte.
Für GPAI-Modelle mit systemischem Risiko – also besonders leistungsfähige Modelle oberhalb bestimmter Schwellen – gelten nach aktuellem Stand zusätzliche Pflichten, etwa zur Modellbewertung, zum Management systemischer Risiken, zur Vorfallberichterstattung und zur Cybersicherheit. Für die meisten Mittelständler ist die wichtigere Perspektive jedoch die des nachgelagerten Nutzers: Wer ein GPAI-Modell oder einen darauf aufbauenden Dienst in eigene Produkte integriert, sollte die vom Anbieter bereitgestellten Informationen und Auflagen sorgfältig auswerten und vertraglich absichern.
Unabhängig von der Risikoklasse kennt der AI Act bestimmte Transparenzpflichten, die viele Unternehmen direkt betreffen. Dazu gehört nach aktuellem Stand, dass Menschen darüber informiert werden, wenn sie mit einem KI-System interagieren (etwa einem Chatbot), und dass KI-generierte oder -manipulierte Inhalte erkennbar gekennzeichnet werden. Diese Pflichten sind organisatorisch meist gut beherrschbar, sollten aber bewusst in Prozesse, Benutzeroberflächen und Redaktionsrichtlinien eingebaut werden, statt sie dem Zufall zu überlassen.
Der AI Act adressiert mehrere Akteursrollen, von denen für mittelständische Unternehmen zwei zentral sind. Der Anbieter (im Verordnungstext „Provider“) ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Der Betreiber (im Verordnungstext „Deployer“) ist, wer ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit einsetzt. Die meisten Mittelständler sind in erster Linie Betreiber – sie kaufen fertige KI-Werkzeuge ein und nutzen sie, statt eigene KI-Systeme zu entwickeln und am Markt anzubieten.
Wichtig ist jedoch eine Stolperfalle: Unter bestimmten Umständen kann ein Betreiber rechtlich zum Anbieter werden – etwa wenn er ein bestehendes Hochrisiko-System unter eigenem Namen vermarktet, dessen Zweckbestimmung wesentlich verändert oder ein nicht als Hochrisiko eingestuftes System so umbaut, dass es zum Hochrisiko-System wird. Wo genau diese Schwelle liegt, ist juristisch heikel und sollte im Zweifel mit einer Fachjurist:in geklärt werden – dies ist keine Rechtsberatung.
Die Lastenverteilung ist klar gewichtet: Beim Hochrisiko-System trägt der Anbieter das umfassende Pflichtenprogramm, während der Betreiber „nur“ eine Reihe von Betriebspflichten erfüllt. Diese Asymmetrie ist für den Mittelstand eine gute Nachricht – sie bedeutet aber nicht, dass Betreiber sorgenfrei sind.
Der gefährlichste Trugschluss im Mittelstand lautet, dass nur KI-Hersteller betroffen seien. Tatsächlich treffen Betreiberpflichten jedes Unternehmen, das ein Hochrisiko-System einsetzt – und solche Systeme stecken oft unsichtbar in eingekaufter Standardsoftware. Ein Beispiel: Eine HR-Software, die Bewerbungen automatisiert vorsortiert oder Kandidat:innen bewertet, kann nach aktuellem Stand ein Hochrisiko-System sein. Wer sie einsetzt, ist Betreiber – mit allen daraus folgenden Pflichten, etwa der Sicherstellung menschlicher Aufsicht und der Nutzung gemäß den Anbieter-Vorgaben.
Hinzu kommt eine übergreifende Pflicht, die nahezu alle Unternehmen betrifft: die KI-Kompetenz der eigenen Beschäftigten (dazu ausführlich in Kapitel 07). Selbst bei minimalem Risiko bleibt also eine organisatorische Grundpflicht. Aus unserer Beratungspraxis ergibt sich daher ein klarer Rat: Die Frage ist nicht „ob“, sondern „in welchem Umfang“ ein Unternehmen betroffen ist – und das lässt sich nur durch eine nüchterne Bestandsaufnahme beantworten.
Ein verbreitetes Missverständnis lautet, der AI Act sei eine Art „DSGVO für KI“. Das trifft nicht zu. Der AI Act ist im Kern ein Produktsicherheits- und Grundrechtegesetz: Er regelt, unter welchen Bedingungen ein KI-System in Verkehr gebracht und betrieben werden darf, welche Sicherheits-, Transparenz- und Governance-Anforderungen gelten und wie die Konformität nachzuweisen ist. Die DSGVO regelt demgegenüber den Umgang mit personenbezogenen Daten – Rechtsgrundlagen, Betroffenenrechte, Datenschutz-Folgenabschätzung und vieles mehr. Beide Regime gelten parallel und ergänzen sich; sie verdrängen einander nicht.
In der Praxis berühren sich beide Welten an mehreren Stellen. Verarbeitet ein KI-System personenbezogene Daten, gelten zusätzlich zu den AI-Act-Pflichten die Anforderungen der DSGVO – etwa eine tragfähige Rechtsgrundlage, der Grundsatz der Datenminimierung und gegebenenfalls eine Datenschutz-Folgenabschätzung. Die Daten-Governance-Anforderungen des AI Act an Hochrisiko-Systeme (Qualität und Repräsentativität von Daten) wiederum laufen teilweise parallel zu datenschutzrechtlichen Grundsätzen. Wer also bereits ein Verzeichnis von Verarbeitungstätigkeiten führt und Folgenabschätzungen durchführt, kann viele dieser Strukturen auf die AI-Act-Anforderungen ausweiten – statt bei null zu beginnen.
Ein wichtiger Punkt der Abgrenzung: Eine Datenschutz-Folgenabschätzung nach DSGVO und das Risikomanagement nach AI Act sind nicht dasselbe und decken nicht denselben Gegenstand ab. Die DSGVO blickt auf Risiken für die Rechte und Freiheiten betroffener Personen aus Sicht der Datenverarbeitung; der AI Act blickt zusätzlich auf Sicherheits- und Grundrechtsrisiken des KI-Systems als Produkt. Ob im konkreten Fall beide Prüfungen nötig sind und wie sie ineinandergreifen, ist eine Frage des Einzelfalls und sollte fachjuristisch geklärt werden.
Der AI Act setzt – wie das europäische Produktrecht generell – stark auf harmonisierte Normen. Werden solche Normen im Amtsblatt veröffentlicht, kann ihre Anwendung nach aktuellem Stand eine Konformitätsvermutung auslösen: Wer normkonform arbeitet, darf darauf vertrauen, die entsprechenden Anforderungen zu erfüllen. Diese Normen werden derzeit erarbeitet und konkretisiert; ihr finaler Zuschnitt steht in Teilen noch aus.
Bereits heute verfügbar und praktisch hochrelevant ist die ISO/IEC 42001 – die internationale Norm für KI-Managementsysteme (AI Management System, AIMS). Sie beschreibt, wie eine Organisation ein systematisches Managementsystem für den verantwortungsvollen Umgang mit KI aufbaut: mit Rollen, Richtlinien, Risikobetrachtung, Kontrollen und kontinuierlicher Verbesserung – analog zu ISO/IEC 27001 im Bereich Informationssicherheit. Die ISO/IEC 42001 ist kein gesetzlicher Ersatz für den AI Act und garantiert für sich genommen keine Konformität. Sie ist aber ein hervorragendes Gerüst, um die organisatorischen Anforderungen des AI Act strukturiert umzusetzen und nachweisbar zu machen.
KI-Governance bedeutet, dass eine Organisation klar regelt, wer für KI-Systeme verantwortlich ist, nach welchen Regeln sie eingeführt, betrieben und überwacht werden und wie Risiken erkannt und behandelt werden. In der Praxis bewährt sich ein schlankes, aber verbindliches Rahmenwerk – nicht eine Bürokratie um ihrer selbst willen. Für mittelständische Unternehmen heißt das meist: eine verantwortliche Stelle oder ein kleines Gremium benennen, eine interne KI-Richtlinie verabschieden, ein KI-Inventar führen und einen einfachen Prozess für die Klassifizierung und Freigabe neuer KI-Anwendungen etablieren.
Eine Besonderheit des AI Act, die viele Unternehmen überrascht, ist die ausdrückliche Pflicht zur KI-Kompetenz. Nach aktuellem Stand müssen Anbieter und Betreiber dafür sorgen, dass die Personen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen – angemessen zu ihren Aufgaben, ihrem Wissensstand und dem Kontext, in dem die KI eingesetzt wird. Diese Pflicht ist bemerkenswert, weil sie unabhängig von der Risikoklasse greift und damit nahezu jedes Unternehmen betrifft, das KI einsetzt.
Konkret bedeutet KI-Kompetenz nicht, dass alle Beschäftigten zu KI-Expert:innen werden müssen. Gemeint ist ein angemessenes Grundverständnis: Was kann ein KI-System, wo liegen seine Grenzen, welche Risiken bestehen (etwa Fehlausgaben oder Verzerrungen), wie geht man verantwortungsvoll mit Ergebnissen um und welche internen Regeln gelten? Aus unserer Beratungspraxis empfehlen wir, KI-Kompetenz rollenbasiert aufzubauen – mit Grundlagenschulungen für alle und vertiefenden Inhalten für Personen in sensiblen Funktionen.
Wie schon die DSGVO setzt der AI Act auf abschreckende Geldbußen, die sich nach aktuellem Stand an Höchstbeträgen oder einem Prozentsatz des weltweiten Jahresumsatzes orientieren – je nachdem, welcher Betrag höher ist. Die Höhe ist nach der Schwere des Verstoßes gestaffelt: Verstöße gegen die verbotenen Praktiken werden am härtesten geahndet, gefolgt von Verstößen gegen sonstige Pflichten und – mit geringerem Rahmen – der Bereitstellung falscher oder irreführender Informationen gegenüber Behörden. Für GPAI-Anbieter gelten eigene Sanktionsregelungen.
Die Verordnung sieht nach aktuellem Stand zudem vor, dass bei der Bemessung von Geldbußen die Lage kleiner und mittlerer Unternehmen sowie von Start-ups berücksichtigt wird. Das mindert das Risiko, ändert aber nichts am Grundsatz: Verstöße können teuer werden, und die Durchsetzung liegt bei nationalen Aufsichtsbehörden, die in den Mitgliedstaaten benannt werden.
Die Geldbuße ist nur eine Dimension. Mindestens ebenso bedeutsam sind die mittelbaren Folgen eines Verstoßes oder einer mangelhaften Compliance. Dazu zählen nach aktuellem Stand insbesondere:
