Die entscheidende Beobachtung des Gesetzgebers lautet: Ein Basismodell ist selbst noch keine Anwendung, sondern ein Baustein, aus dem sehr unterschiedliche Anwendungen entstehen können – vom Kundenservice-Chatbot über die automatische Dokumentenzusammenfassung bis zur Codegenerierung. Wenn ein einzelnes Modell auf diese Weise hunderten oder tausenden nachgelagerten Diensten zugrunde liegt, konzentrieren sich Chancen und Risiken an einem Punkt in der Wertschöpfungskette. Genau deshalb setzt der AI Act bereits auf der Modellebene an – und nicht erst bei der einzelnen Anwendung, die daraus gebaut wird.
Typische Merkmale eines GPAI-Modells sind ein Training auf sehr großen Datenmengen, eine ausgeprägte Fähigkeit zur Bewältigung ganz unterschiedlicher Aufgaben („allgemeine Verwendbarkeit“) sowie die Möglichkeit, das Modell in eine Vielzahl von Systemen und Diensten zu integrieren. Große Sprachmodelle sind das prominenteste Beispiel, aber auch multimodale Modelle für Bild, Audio oder Video fallen dem Grundgedanken nach in diese Kategorie. Ob ein konkretes Modell im Sinne der Verordnung als GPAI-Modell gilt, ist eine Frage des Einzelfalls und der offiziellen Auslegung – die genauen Kriterien sind im Gesetzestext bzw. bei der zuständigen Behörde zu prüfen.
Für das Verständnis der GPAI-Regeln ist eine begriffliche Trennung unverzichtbar. Das Modell ist der trainierte Kern – die „Maschine“, die aus Eingaben Ausgaben erzeugt. Ein KI-System entsteht, wenn ein Modell mit weiteren Komponenten (Benutzeroberfläche, Schnittstellen, Sicherheitslogik) zu einem nutzbaren Produkt zusammengefügt wird. Die Anwendung schließlich ist der konkrete Einsatzzweck im Unternehmen. Der AI Act adressiert Modell und System mit unterschiedlichen Pflichtenkatalogen: Für GPAI-Modelle gelten die Regeln dieses Kapitels; sobald daraus ein KI-System für einen konkreten – womöglich hochriskanten – Zweck wird, greifen zusätzlich die Regeln der jeweiligen Risikoklasse.
Diese Schichtung erklärt, warum ein und dieselbe Technologie mehreren Regelwerken zugleich unterliegen kann. Ein Sprachmodell als Modell trägt GPAI-Pflichten; wird es in ein Bewerbervorauswahl-System eingebaut, kommen für dieses System die Hochrisiko-Pflichten hinzu. Für Unternehmen ist es deshalb wichtig, in ihrem KI-Inventar nicht nur Anwendungen, sondern auch die zugrunde liegenden Modelle und Dienste zu erfassen.
Das GPAI-Kapitel wurde erst im Laufe des Gesetzgebungsverfahrens ergänzt – als Reaktion auf den rasanten Aufstieg generativer Modelle. Der Gedanke dahinter: Eine rein anwendungsbezogene Regulierung würde die Basistechnologie ausblenden, obwohl sich dort viele Eigenschaften entscheiden, die später in jeder abgeleiteten Anwendung wiederkehren – etwa Verzerrungen in den Trainingsdaten, Sicherheitslücken oder die Frage, ob urheberrechtlich geschützte Inhalte einbezogen wurden. Der AI Act verlagert deshalb einen Teil der Verantwortung dorthin, wo sie technisch am wirksamsten adressiert werden kann: auf die Modellebene und ihre Anbieter.
Der AI Act kennt für KI-Systeme die vier bekannten Risikoklassen – verboten, hochriskant, begrenztes und minimales Risiko. Für GPAI-Modelle existiert daneben eine eigene, zweistufige Systematik: Basispflichten für alle GPAI-Modelle und zusätzliche Pflichten für GPAI-Modelle mit systemischem Risiko. Diese beiden Ordnungen greifen ineinander, sind aber nicht identisch. Ein GPAI-Modell wird nicht automatisch in eine der vier Systemklassen eingeordnet; erst die konkrete Verwendung entscheidet, ob ein daraus abgeleitetes System als hochriskant, begrenzt oder minimal gilt.
Ein verbreitetes Missverständnis ist, GPAI sei „die fünfte Risikoklasse“. Das trifft nicht zu. Die GPAI-Regeln bilden eine eigene Achse, die orthogonal zur Risikopyramide steht. Ein GPAI-Modell ist zunächst weder hochriskant noch minimal – es ist ein Modell, für das eigene Anbieterpflichten gelten. Erst wenn es in ein System mit konkretem Zweck eingebaut wird, entsteht ein einordenbares KI-System. Diese Unterscheidung ist mehr als akademisch: Sie bestimmt, wer welche Pflichten trägt und welche Unterlagen zwischen Modell-Anbieter, nachgelagertem Anbieter und Betreiber fließen müssen.
Die praktisch wichtigste Abgrenzung betrifft das Verhältnis zwischen GPAI-Modell und Hochrisiko-System. Wird ein GPAI-Modell in eine hochriskante Anwendung integriert – etwa in ein System zur Bewertung von Bewerbungen oder zur Kreditwürdigkeitsprüfung –, so bleiben die GPAI-Pflichten des Modell-Anbieters bestehen, während für das System zusätzlich das umfassende Hochrisiko-Programm greift. Die Verordnung sieht nach aktuellem Stand vor, dass GPAI-Anbieter nachgelagerten Anbietern die Informationen bereitstellen, die diese benötigen, um ihre eigenen – gegebenenfalls Hochrisiko- – Pflichten zu erfüllen. Genau hier liegt der Schnittpunkt: Der Modell-Anbieter liefert die Bausteine, der System-Anbieter baut daraus ein konformes Produkt. Wie die Verantwortung im Einzelfall genau verteilt ist, hängt von der konkreten Konstellation ab und sollte fachjuristisch geklärt werden.
Der Grundgedanke der Basispflichten ist Transparenz in zwei Richtungen: gegenüber der Aufsicht und gegenüber den nachgelagerten Anbietern, die auf dem Modell aufbauen. Der Modell-Anbieter soll dokumentieren, was sein Modell ist, wie es entstanden ist und wie es sicher und rechtskonform weiterverwendet werden kann. Ohne diese Informationen könnte ein Unternehmen, das ein Modell in ein eigenes Produkt integriert, seine eigenen Pflichten kaum erfüllen – es wüsste schlicht zu wenig über den Baustein, den es verwendet.
Zur ersten Säule gehört eine technische Dokumentation, die der Modell-Anbieter erstellt und aktuell hält. Sie beschreibt nach aktuellem Stand insbesondere die allgemeinen Eigenschaften und Fähigkeiten des Modells, seine Grenzen, den Trainings- und Testprozess in ausreichender Tiefe sowie Informationen, die für ein Verständnis der Funktionsweise nötig sind. Diese Unterlagen sind so anzulegen, dass sie der zuständigen Behörde – dem AI Office – auf Anfrage zur Verfügung gestellt werden können. Der genaue Umfang und die geforderten Inhalte ergeben sich aus den Anhängen der Verordnung und den begleitenden Leitlinien und sind dort bzw. bei der Behörde zu prüfen.
Die zweite Säule betrifft die Informationen, die der Modell-Anbieter nachgelagerten Anbietern bereitstellen muss – also den Unternehmen, die das Modell in ihre eigenen KI-Systeme integrieren. Diese Informationen sollen es dem Integrator ermöglichen, die Fähigkeiten und Grenzen des Modells zu verstehen und seinen eigenen Pflichten aus dem AI Act nachzukommen. In der Praxis fließt das häufig in Form von Modell-Dokumentation, Nutzungsrichtlinien und technischen Hinweisen. Wichtig für den Mittelstand: Genau diese Unterlagen sollten Sie als Integrator aktiv anfordern und auswerten – sie sind die Grundlage Ihrer eigenen Compliance.
Der AI Act sieht nach aktuellem Stand für bestimmte frei und offen lizenzierte Modelle Erleichterungen bei einzelnen Basispflichten vor – allerdings unter Bedingungen und mit wichtigen Ausnahmen, insbesondere dann nicht, wenn ein Modell ein systemisches Risiko aufweist. Ebenso bleiben die urheberrechtsbezogenen Anforderungen und die Pflicht zur Zusammenfassung der Trainingsinhalte auch bei offenen Modellen von besonderer Bedeutung. Ob und in welchem Umfang eine Erleichterung für ein konkretes Modell greift, ist eine Frage des Einzelfalls und der genauen Lizenz- und Veröffentlichungsbedingungen – dies ist im Gesetzestext bzw. bei der Behörde zu prüfen und sollte fachjuristisch abgesichert werden.
Große Modelle werden auf enormen Mengen von Text, Bild und weiterem Material trainiert – und ein Teil dieses Materials ist urheberrechtlich geschützt. Der AI Act adressiert dies auf der Modellebene, statt die Frage allein den nachgelagerten Anwendungen zu überlassen. Zwei Anforderungen stehen nach aktuellem Stand im Mittelpunkt: eine Strategie zur Einhaltung des Urheberrechts und eine ausreichend detaillierte Zusammenfassung der zum Training verwendeten Inhalte.
GPAI-Anbieter sollen nach aktuellem Stand eine Strategie einführen, mit der sie das Unionsrecht zum Urheberrecht und verwandten Schutzrechten einhalten. Ein zentraler Bezugspunkt ist dabei der sogenannte Text- und Data-Mining-Vorbehalt: Nach europäischem Urheberrecht können Rechteinhaber die Nutzung ihrer Werke für Text und Data Mining unter bestimmten Voraussetzungen vorbehalten (Opt-out). GPAI-Anbieter sollen diese Vorbehalte erkennen und respektieren. Für die Praxis bedeutet das: Der Umgang eines Anbieters mit Rechtevorbehalten ist ein qualitatives Auswahlkriterium – auch wenn die genaue rechtliche Reichweite dieser Pflichten Gegenstand laufender Diskussion und Auslegung ist und im Einzelfall fachjuristisch zu bewerten bleibt.
Die zweite Säule ist eine öffentlich verfügbare, ausreichend detaillierte Zusammenfassung der zum Training des Modells verwendeten Inhalte. Ziel ist es, Rechteinhabern und der Öffentlichkeit ein Grundverständnis darüber zu geben, welche Art von Daten in das Modell eingeflossen ist – ohne dass damit jede einzelne Quelle offengelegt werden müsste. Das AI Office stellt hierfür nach aktuellem Stand ein Muster bzw. Vorgaben bereit, an denen sich Anbieter orientieren können. Wie detailliert diese Zusammenfassung sein muss und welches Format gilt, ergibt sich aus den offiziellen Vorgaben und ist dort zu prüfen.
Für Unternehmen, die GPAI-gestützte Werkzeuge nutzen, ergeben sich zwei Blickrichtungen. Als Nutzer generierter Inhalte sollten Sie klären, welche Rechte Sie an den Ausgaben haben, welche Nutzungsbedingungen der Dienst vorsieht und ob es Einschränkungen für die kommerzielle Verwendung gibt. Als Rechteinhaber eigener Werke kann umgekehrt der Text- und Data-Mining-Vorbehalt relevant werden, wenn Sie nicht möchten, dass Ihre Inhalte ungefragt zum Training verwendet werden. Beide Perspektiven berühren Vertrags- und Urheberrecht und sollten fachjuristisch begleitet werden. Der AI Act liefert hier den Transparenzrahmen; die konkrete rechtliche Bewertung bleibt Sache des Einzelfalls.
Der Begriff des systemischen Risikos zielt auf Modelle, deren hohe Leistungsfähigkeit („high-impact capabilities“) potenziell weitreichende Auswirkungen auf den Binnenmarkt, die öffentliche Sicherheit oder Grundrechte haben kann. Der AI Act knüpft die Einstufung nach aktuellem Stand an Kriterien wie die Fähigkeiten und die Reichweite eines Modells; als ein Indikator dient dabei unter anderem der Umfang der für das Training aufgewendeten Rechenleistung. Die konkreten Schwellenwerte und ihre Fortschreibung sind Gegenstand der Verordnung und delegierter Rechtsakte – sie können sich weiterentwickeln und sind daher im Gesetzestext bzw. beim AI Office zu verifizieren. Wir nennen hier bewusst keine festen Zahlen, weil sie sich ändern können.
Ein Modell kann nach aktuellem Stand auf zwei Wegen als GPAI mit systemischem Risiko gelten: Entweder es erreicht bestimmte, im Gesetz bzw. durch die Behörde definierte Schwellen (etwa in Bezug auf die Rechenleistung des Trainings), oder es wird durch eine Entscheidung der zuständigen Stelle als solches eingestuft. Anbieter, deren Modelle die Kriterien erfüllen, treffen zudem nach aktuellem Stand Melde- bzw. Notifizierungspflichten gegenüber dem AI Office. Ob ein Modell diese Stufe erreicht, ist eine Frage der offiziellen Kriterien und ihrer Anwendung – und für die allermeisten Mittelständler ohnehin nur mittelbar relevant, da sie solche Modelle nicht selbst bauen, sondern nutzen.
Der AI Act arbeitet – wie das europäische Recht generell – mit dem Zusammenspiel aus verbindlicher Norm und konkretisierenden Instrumenten. Für GPAI ist das prominenteste dieser Instrumente der Code of Practice. Er ist ein von Stakeholdern unter Federführung des AI Office erarbeitetes Regelwerk, das die abstrakten GPAI-Pflichten in praktikable Umsetzungsschritte übersetzt. Anbieter, die sich an einem anerkannten Code of Practice orientieren, können damit nach aktuellem Stand die Einhaltung ihrer Pflichten nachweisen bzw. eine Vermutung der Regelkonformität begründen – bis harmonisierte Normen verfügbar sind, die dieselbe Funktion übernehmen können.
Der Code of Practice ist kein Gesetz, sondern ein freiwilliges, aber praktisch bedeutsames Instrument. Sein Nutzen liegt darin, Anbietern einen konkreten, abgestimmten Weg zur Erfüllung ihrer Pflichten zu zeigen – etwa in Bezug auf Dokumentation, Transparenz, Urheberrecht und, für Modelle mit systemischem Risiko, auf Sicherheit und Risikomanagement. Für die Praxis heißt das: Ob und wie sich ein Modell-Anbieter am Code of Practice orientiert, ist ein aussagekräftiges Signal über seine Compliance-Reife. Wer keinen Code of Practice zeichnet, muss die Einhaltung der Pflichten auf andere Weise nachweisen. Der genaue Inhalt und Status des Code of Practice entwickelt sich weiter und ist bei der Behörde bzw. im offiziellen Text zu prüfen.
Auf der Modellebene übernimmt das AI Office – eine bei der Europäischen Kommission angesiedelte Stelle – eine Schlüsselrolle. Anders als bei KI-Systemen, deren Überwachung stark bei den nationalen Aufsichtsbehörden der Mitgliedstaaten liegt, ist die Aufsicht über GPAI-Modelle nach aktuellem Stand auf europäischer Ebene beim AI Office gebündelt. Zu seinen Aufgaben gehören unter anderem die Konkretisierung der GPAI-Regeln, die Erarbeitung und Pflege des Code of Practice, die Bereitstellung von Mustern (etwa für die Zusammenfassung der Trainingsinhalte), die Entgegennahme von Meldungen sowie Durchsetzungs- und Untersuchungsbefugnisse gegenüber Modell-Anbietern.
Die meisten mittelständischen Unternehmen sind im Verhältnis zu GPAI in einer von zwei Rollen unterwegs. Als Betreiber nutzen sie GPAI-gestützte Dienste – etwa einen Assistenten für Texterstellung oder Recherche – im eigenen Haus. Als Integrator (im AI Act ein nachgelagerter Anbieter) bauen sie ein GPAI-Modell oder einen darauf basierenden Dienst in ein eigenes Produkt ein, das sie ihren Kund:innen anbieten. Beide Rollen tragen nicht die Anbieterpflichten des Modell-Herstellers – wohl aber eigene Verpflichtungen aus dem System- und Transparenzteil des AI Act.
Besonders wichtig ist die Schwelle vom bloßen Nutzer zum nachgelagerten Anbieter. Wer ein GPAI-Modell in ein eigenes KI-System integriert und dieses unter eigenem Namen anbietet, wird für dieses System zum Anbieter im Sinne der Verordnung – mit den Pflichten, die sich aus der Risikoklasse des Systems ergeben. Baut das nachgelagerte System etwa eine hochriskante Funktion (zum Beispiel im Personal- oder Kreditbereich), können die vollen Hochrisiko-Pflichten greifen. Hier wird der Empfang der Anbieter-Informationen zur praktischen Voraussetzung: Ohne die Modell-Dokumentation und die Nutzungsvorgaben lässt sich ein konformes System kaum bauen.
Aus unserer Beratungspraxis ergeben sich für Betreiber und Integratoren einige wiederkehrende Aufgaben. Sie sollten die vom Modell- bzw. Dienst-Anbieter bereitgestellten Informationen und Nutzungsvorgaben systematisch einholen und auswerten. Sie sollten die übergreifenden Transparenzpflichten beachten – also Menschen darüber informieren, wenn sie mit einem KI-System interagieren, und KI-generierte oder -manipulierte Inhalte kennzeichnen. Sie sollten die KI-Kompetenz ihrer Beschäftigten sicherstellen, da diese Pflicht nach aktuellem Stand unabhängig von der Risikoklasse greift. Und sie sollten vertraglich absichern, dass der Anbieter die für die eigene Compliance nötigen Informationen liefert.
GPAI-Dienste unterscheiden sich erheblich – nicht nur in Leistung und Preis, sondern in genau den Eigenschaften, die für die AI-Act- und DSGVO-Konformität zählen: in der Transparenz der Modell-Dokumentation, im Umgang mit Urheberrecht, in den vertraglichen Zusicherungen und im Ort der Datenverarbeitung. Eine bewusste Auswahl entlang klarer Kriterien verhindert, dass später aufwendig nachgebessert werden muss.
Neben der Auswahl braucht es einen einfachen, aber verbindlichen Rahmen für den laufenden Einsatz. Bewährt hat sich ein schlankes Set aus wenigen Bausteinen: eine interne Nutzungsrichtlinie, die regelt, welche GPAI-Dienste zugelassen sind und welche Daten eingegeben werden dürfen; ein Inventar der genutzten Modelle und Dienste inklusive Verarbeitungsort; ein Freigabeprozess für neue Dienste; und eine klare Regelung zur menschlichen Kontrolle der Ausgaben. Für Integratoren kommt die vertragliche und dokumentarische Absicherung gegenüber dem Modell-Anbieter hinzu. Wer bereits DSGVO- oder ISO/IEC-42001-Strukturen betreibt, kann diese als Fundament nutzen und auf GPAI ausweiten.
Der EU AI Act ist nach aktuellem Stand im August 2024 in Kraft getreten und wird gestaffelt anwendbar. Die GPAI-Pflichten gehören zu den früher wirksamen Teilen der Verordnung – sie greifen nach aktuellem Stand ab August 2025 schrittweise, weil GPAI-Modelle als Basistechnologie vielen nachgelagerten Anwendungen vorausgehen. Für Modelle, die bereits vor dem Wirksamwerden der Pflichten auf dem Markt waren, sieht der AI Act nach aktuellem Stand Übergangsregelungen mit eigenen Bedingungen vor. Die genauen Zeitpunkte und ihre Fortschreibung ergeben sich aus der Verordnung und offiziellen Leitlinien und sind dort zu prüfen; wir nennen bewusst keine tagesgenauen Daten, weil sich Auslegungen konkretisieren können.
Die GPAI-Regeln funktionieren als Kette von Verantwortlichkeiten. Am Anfang steht der Modell-Anbieter mit seinen Dokumentations-, Transparenz- und Urheberrechtspflichten. Er reicht die nötigen Informationen an den nachgelagerten Anbieter weiter, der daraus ein konkretes System baut und dafür die Pflichten der jeweiligen Risikoklasse trägt. Am Ende steht der Betreiber, der das System einsetzt und die Betriebs- und Transparenzpflichten erfüllt. Übergreifend gilt für Anbieter und Betreiber die Pflicht zur KI-Kompetenz. Für den Mittelstand ist das eine gute Nachricht: Die schwersten Lasten liegen an einem Ende der Kette, das die meisten Unternehmen gar nicht besetzen.
GPAI und Datenschutz berühren sich an mehreren Stellen. Der AI Act ist im Kern ein Produktsicherheits- und Grundrechtegesetz und regelt die Modell- und Systemebene; die DSGVO regelt den Umgang mit personenbezogenen Daten. Beide gelten parallel. Beim GPAI-Einsatz wird die DSGVO vor allem an zwei Punkten relevant: bei den Trainingsdaten, wenn personenbezogene Daten in das Modell eingeflossen sind, und bei den Eingaben der Nutzer, wenn diese personenbezogene Daten enthalten. Für Betreiber ist der zweite Punkt der praktisch bedeutsamere – hier entscheiden Verarbeitungsort, Drittlandtransfer und vertragliche Zusicherungen über die Datenschutzkonformität. Verarbeitet ein GPAI-gestütztes System personenbezogene Daten, sind neben den AI-Act-Anforderungen die DSGVO-Grundsätze einzuhalten, etwa Rechtsgrundlage, Datenminimierung und gegebenenfalls eine Datenschutz-Folgenabschätzung. Wie beide Regime im Einzelfall ineinandergreifen, ist fachjuristisch zu klären.
