Der Grundgedanke ist aus anderen Feldern vertraut: Wie ein Jahresabschluss durch eine Wirtschaftsprüfung oder ein Managementsystem durch ein Zertifizierungsaudit geprüft wird, so wird beim KI-Audit ein KI-System gegen einen zuvor festgelegten Maßstab abgeglichen. Das Besondere an KI ist, dass sich der Prüfgegenstand nicht auf Programmzeilen beschränkt. Ein KI-System besteht aus Daten, Modell, Software, Prozessen und menschlichen Entscheidungen – und sein Verhalten kann sich mit neuen Daten oder veränderter Nutzung wandeln. Ein KI-Audit muss deshalb breiter ansetzen als ein klassischer Softwaretest: Es betrachtet nicht nur, ob der Code funktioniert, sondern ob das System im vorgesehenen Einsatzkontext zuverlässig, fair, sicher und nachvollziehbar arbeitet.
Der Anlass für ein KI-Audit kann sehr unterschiedlich sein. Manche Unternehmen prüfen freiwillig, um Vertrauen aufzubauen und Qualität abzusichern. Andere reagieren auf Anforderungen von Kunden, die in Ausschreibungen oder Lieferantenbewertungen Nachweise verlangen. Wieder andere bereiten sich auf regulatorische Anforderungen vor, etwa im Umfeld des EU AI Act, oder wollen ein Managementsystem nach ISO/IEC 42001 zertifizieren lassen. Und schließlich gibt es den klassischen Anlass „nach einem Vorfall“: Wenn ein KI-System unerwartete oder problematische Ergebnisse geliefert hat, hilft ein Audit, Ursachen zu finden und Wiederholungen zu vermeiden.
Die Begriffe werden oft synonym verwendet, meinen aber Unterschiedliches. Ein Test prüft eine konkrete Eigenschaft gegen eine erwartete Ausgabe – etwa ob ein Modell auf einem Testdatensatz eine bestimmte Trefferquote erreicht. Ein Assessment ist eine breitere Bewertung, oft ohne strengen Nachweischarakter, etwa eine Risikoeinschätzung zu Beginn eines Projekts. Ein Audit geht darüber hinaus: Es ist eine systematische, unabhängige und dokumentierte Prüfung gegen definierte Kriterien mit dem Ziel, festzustellen, in welchem Maß diese Kriterien erfüllt sind. Der Nachweischarakter und die Unabhängigkeit sind die entscheidenden Merkmale.
Für die Praxis bedeutet das: Ein Audit setzt voraus, dass vorher klar ist, woran gemessen wird. Ohne definierten Prüfmaßstab – sei es ein Gesetz, eine Norm, eine interne Richtlinie oder ein Kundenvertrag – lässt sich kein belastbares Audit durchführen. Deshalb ist die Festlegung der Kriterien (Kapitel 05) einer der wichtigsten Schritte überhaupt.
Klassische IT-Audits konzentrieren sich auf Kontrollen wie Zugriffsrechte, Änderungsmanagement und Verfügbarkeit. Diese bleiben wichtig, reichen bei KI aber nicht aus. Denn KI-Systeme bringen Eigenschaften mit, die besondere Aufmerksamkeit verlangen: Ihr Verhalten ist datengetrieben und damit sensibel gegenüber der Qualität und Repräsentativität der zugrunde liegenden Daten. Sie können systematische Verzerrungen enthalten, die einzelne Personengruppen benachteiligen. Ihre Entscheidungen sind nicht immer unmittelbar nachvollziehbar. Und sie können durch neue Angriffsformen wie manipulierte Eingaben beeinflusst werden. Ein KI-Audit ergänzt das klassische Prüfrepertoire deshalb um Dimensionen wie Daten-Governance, Fairness, Erklärbarkeit und KI-spezifische Sicherheit – ausführlich in Kapitel 03.
Das interne Audit – in der Normensprache das „Erste-Partei-Audit“ – wird von der Organisation selbst durchgeführt, idealerweise durch eine Stelle, die vom geprüften Bereich unabhängig genug ist, um ehrlich zu urteilen. Für mittelständische Unternehmen ist es der praktisch wichtigste Einstiegspunkt: Es kostet vergleichsweise wenig, schafft schnell Transparenz und legt die Grundlage für jede weitere Prüfung. Interne Audits eignen sich hervorragend, um vor einem externen Audit die eigenen Hausaufgaben zu machen, um Verbesserungspotenziale zu erkennen und um die Wirksamkeit der KI-Governance regelmäßig zu überprüfen. Sie sind allerdings nicht dazu geeignet, gegenüber Dritten volle Unabhängigkeit zu belegen – dafür braucht es eine externe Prüfung.
Zwischen der reinen Selbstprüfung und dem vollständig unabhängigen Audit steht das Zweite-Partei-Audit: Hier prüft eine Partei mit eigenem Interesse, typischerweise ein Kunde seinen Lieferanten. Solche Audits nehmen zu, weil Unternehmen zunehmend Nachweise über die KI-Systeme ihrer Zulieferer verlangen. Das Dritte-Partei-Audit schließlich wird von einer neutralen Stelle durchgeführt, die weder Anbieter noch Abnehmer ist. Diese Unabhängigkeit verleiht dem Ergebnis eine besondere Glaubwürdigkeit und ist die Voraussetzung für Zertifizierungen, etwa nach ISO/IEC 42001. Für den Mittelstand lohnt sich ein externes Audit vor allem dann, wenn ein Zertifikat angestrebt wird, wenn wichtige Kunden es verlangen oder wenn ein System besonders kritisch ist.
Eine eigene Kategorie bildet die Konformitätsbewertung. Sie ist keine freiwillige Qualitätsprüfung, sondern der gesetzlich vorgesehene Nachweis, dass ein Produkt die geltenden Anforderungen erfüllt. Im KI-Kontext ist sie nach aktuellem Stand vor allem für Hochrisiko-Systeme nach dem EU AI Act relevant. Je nach Systemtyp kann die Bewertung als interne Kontrolle durch den Anbieter selbst erfolgen oder die Einbindung einer benannten Stelle erfordern. Ob und in welcher Form eine Konformitätsbewertung für ein konkretes System nötig ist, hängt von seiner Einstufung ab und sollte fachjuristisch geklärt werden. Wichtig für die Abgrenzung: Ein freiwilliges Qualitätsaudit ersetzt keine gesetzlich vorgeschriebene Konformitätsbewertung – und umgekehrt.
Die erste Dimension, die Governance, prüft die organisatorische Verankerung: Gibt es klare Verantwortlichkeiten für das KI-System, eine gültige interne Richtlinie, ein aktuelles KI-Inventar und einen funktionierenden Freigabe- und Review-Prozess? Governance ist die Klammer, die alle anderen Dimensionen zusammenhält – ohne sie bleiben technische Prüfergebnisse folgenlos. Die zweite Dimension, die Daten und Daten-Governance, richtet den Blick auf die Grundlage jedes KI-Systems: Woher stammen die Daten, wie wurde ihre Qualität gesichert, sind sie für den Einsatzzweck repräsentativ und wurden bekannte Verzerrungen berücksichtigt? Fehler in den Daten setzen sich unweigerlich im Modellverhalten fort.
Die dritte Dimension, das Modell, betrachtet das eigentliche KI-Verfahren: Ist es angemessen dokumentiert – etwa in Form von Modellkarten? Wurde es systematisch evaluiert, und zwar nicht nur auf durchschnittliche Genauigkeit, sondern auch auf sein Verhalten in Randfällen? Wird seine Leistung im laufenden Betrieb überwacht, damit ein schleichender Qualitätsverlust – etwa durch veränderte Datenlage – rechtzeitig auffällt? Diese drei Dimensionen bilden das technisch-organisatorische Rückgrat eines KI-Audits.
Zwei Dimensionen machen den besonderen Charakter eines KI-Audits aus. Die Fairness prüft, ob ein System bestimmte Personengruppen systematisch benachteiligt. Solche Verzerrungen entstehen selten aus böser Absicht, sondern meist aus unausgewogenen Daten oder ungünstigen Modellannahmen – und sie sind besonders heikel, wenn das System über Menschen entscheidet, etwa im Personalwesen oder bei der Bonitätsprüfung. Ein Audit prüft, ob Fairness-Risiken erkannt, gemessen und behandelt wurden. Die Sicherheit geht über die klassische IT-Sicherheit hinaus: Sie betrachtet die Robustheit gegenüber fehlerhaften oder gezielt manipulierten Eingaben sowie den Schutz vor KI-spezifischen Angriffen wie manipulierten Trainingsdaten oder unzulässiger Beeinflussung über Eingabeaufforderungen. Auch die Widerstandsfähigkeit gegen Diebstahl des Modells oder unbefugtes Auslesen von Trainingsinhalten gehört hierher.
Die sechste Dimension, der Datenschutz, ist immer dann relevant, wenn ein KI-System personenbezogene Daten verarbeitet – was in der Praxis häufig der Fall ist. Hier prüft ein Audit, ob eine tragfähige Rechtsgrundlage besteht, ob der Grundsatz der Datenminimierung eingehalten wird, ob Betroffenenrechte gewahrt bleiben und ob gegebenenfalls eine Datenschutz-Folgenabschätzung durchgeführt wurde. Datenschutz ist eng mit der Daten-Dimension verzahnt, aber nicht mit ihr identisch: Die Daten-Dimension fragt nach Qualität und Repräsentativität, die Datenschutz-Dimension nach Rechtmäßigkeit und Schutz der betroffenen Personen. Das Verhältnis zur DSGVO vertieft Kapitel 09.
Die Qualität eines Audits entscheidet sich in der ersten Phase. Wird der Prüfgegenstand zu weit gefasst, verliert sich das Audit in Details und wird teuer; wird er zu eng gefasst, bleiben Risiken unentdeckt. Ebenso wichtig ist die Klärung der Kriterien: Ein Audit gegen den EU AI Act prüft andere Dinge als ein Audit gegen eine interne Qualitätsrichtlinie. Gutes Scoping beantwortet vorab die Fragen: Welches System in welcher Version und welchem Einsatzkontext? Gegen welchen Maßstab? Mit welcher Prüftiefe? Und welche Belege gelten als ausreichend? Diese Festlegungen sollten schriftlich fixiert werden, damit am Ende niemand über die Reichweite des Ergebnisses streitet.
Das Herzstück jedes Audits ist die Evidenz. Ein Audit stützt sich nicht auf gute Absichten oder mündliche Zusicherungen, sondern auf nachprüfbare Belege. Diese lassen sich grob in drei Arten gliedern: dokumentarische Nachweise (Richtlinien, Protokolle, Berichte), Aussagen aus Interviews und Beobachtungen sowie technische Prüfergebnisse (etwa Testläufe, Auswertungen von Betriebsprotokollen oder eigene Stichproben). Ein erfahrener Auditor gleicht diese Quellen gegeneinander ab: Deckt sich, was in Dokumenten steht, mit dem, was Verantwortliche berichten und was das System tatsächlich tut? Widersprüche zwischen diesen Ebenen sind oft die wertvollsten Erkenntnisse eines Audits.
In der Bewertungsphase werden die Belege systematisch gegen die Kriterien gehalten. Wichtig ist eine nachvollziehbare Klassifizierung der Feststellungen: Nicht jede Abweichung wiegt gleich schwer. Eine fehlende Unterschrift auf einem Freigabedokument ist etwas anderes als das vollständige Fehlen einer Fairness-Prüfung bei einem System, das über Menschen entscheidet. Der abschließende Bericht sollte deshalb nicht nur auflisten, was fehlt, sondern die Feststellungen priorisieren und konkrete, umsetzbare Empfehlungen geben. Ein gutes Audit endet nicht mit dem Bericht, sondern mit vereinbarten Maßnahmen und – bei wesentlichen Lücken – einer Nachverfolgung ihrer Umsetzung.
Bevor ein Audit beginnt, muss klar sein, woran gemessen wird. Der Prüfmaßstab kann aus verschiedenen Quellen stammen: aus gesetzlichen Anforderungen, aus Normen, aus international anerkannten Rahmenwerken, aus branchenspezifischen Vorgaben oder aus internen Richtlinien und Kundenverträgen. In der Praxis kombinieren viele Unternehmen mehrere Quellen – etwa die rechtlichen Anforderungen des EU AI Act mit der organisatorischen Struktur der ISO/IEC 42001. Wichtig ist, dass die gewählten Kriterien zum Zweck des Audits passen und vollständig genug sind, um ein aussagekräftiges Ergebnis zu liefern.
Der EU AI Act ist der wichtigste verbindliche Bezugspunkt für KI-Audits in Europa. Für Hochrisiko-Systeme definiert er nach aktuellem Stand konkrete Anforderungen an Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Diese Anforderungen lassen sich unmittelbar in Prüfkriterien übersetzen: Ein Audit gegen den AI Act prüft, ob die geforderten Elemente vorhanden, angemessen und wirksam sind. Die formale Konformitätsbewertung ist dabei die regulatorisch vorgeschriebene Sonderform des Audits. Da sich die konkreten Anforderungen durch harmonisierte Normen und Leitlinien weiter konkretisieren, sollte der maßgebliche Stand für den Einzelfall fachjuristisch abgesichert werden.
Die ISO/IEC 42001 beschreibt, wie eine Organisation ein Managementsystem für den verantwortungsvollen Umgang mit KI aufbaut – analog zur ISO/IEC 27001 in der Informationssicherheit. Sie ist besonders wertvoll für Audits, weil sie ein klares, prüfbares Raster liefert: Rollen, Richtlinien, Risikobetrachtung, Kontrollen und kontinuierliche Verbesserung. Und sie ist durch akkreditierte Stellen zertifizierbar, was sie zur natürlichen Grundlage für externe Audits macht. Wichtig bleibt die Abgrenzung: Eine ISO/IEC-42001-Zertifizierung belegt ein funktionierendes Managementsystem, ist aber kein gesetzlicher Ersatz für die Anforderungen des EU AI Act. Beide adressieren unterschiedliche Ebenen und ergänzen sich.
Das NIST AI Risk Management Framework stammt aus den USA, wird aber international breit genutzt. Es ist kein Gesetz und nicht zertifizierbar, liefert aber eine strukturierte, praxisnahe Methodik, um KI-Risiken zu erkennen, zu bewerten, zu behandeln und zu steuern. Für Audits ist es vor allem als methodischer Rahmen wertvoll, um die Risikodimension systematisch zu durchdringen. In der Praxis lassen sich die drei Rahmenwerke gut kombinieren: Der EU AI Act liefert die verbindlichen Muss-Anforderungen, die ISO/IEC 42001 die organisatorische Struktur und das NIST-Rahmenwerk die methodische Tiefe im Risikomanagement. Welche Kombination im Einzelfall sinnvoll ist, hängt von Ziel, Branche und Reifegrad ab.
Die zentrale Anforderung an jeden Auditor ist Unabhängigkeit und Objektivität: Wer prüft, sollte nicht dasselbe sein, wer entwickelt oder betreibt. Bei internen Audits lässt sich diese Trennung durch organisatorische Distanz erreichen – etwa indem eine unabhängige Fachstelle oder die interne Revision prüft, nicht das Entwicklungsteam selbst. Bei externen Audits ist die Unabhängigkeit durch die neutrale Drittstelle gegeben. Neben der Unabhängigkeit braucht es fachliche Kompetenz in mehreren Feldern, denn ein KI-Audit berührt Datenwissenschaft, Softwarearchitektur, Governance, Ethik und Recht zugleich.
In der Praxis vereint ein gutes KI-Audit mehrere Kompetenzbereiche, die sich selten in einer Person finden. Deshalb arbeiten größere Audits häufig im Team. Zu den wichtigsten Feldern zählen:
Ein KI-Audit betrifft viele Stellen im Unternehmen. Neben dem Auditor oder Auditteam werden typischerweise die für das KI-System fachlich Verantwortlichen einbezogen, die Auskunft über Zweck und Betrieb geben, die technischen Verantwortlichen aus Entwicklung oder IT, die Datenschutz- und gegebenenfalls Rechtsfunktion sowie – bei relevanter Betroffenheit von Beschäftigten – die Perspektive der Mitbestimmung. Die Geschäftsführung trägt die Letztverantwortung und sollte über wesentliche Ergebnisse informiert werden. Eine klare Rollenverteilung im Vorfeld verhindert Reibung während des Audits und stellt sicher, dass die richtigen Personen zum richtigen Zeitpunkt Auskunft geben können.
Nicht jedes mittelständische Unternehmen kann oder will ein vollständiges Auditteam vorhalten. Ein bewährter Weg ist der schrittweise Aufbau: zunächst eine oder wenige Personen mit Auditmethodik und KI-Grundverständnis befähigen, die interne Audits durchführen und externe Prüfungen begleiten können. Für spezialisierte Fragen – etwa tiefe technische Modellprüfungen oder komplexe Rechtsfragen – kann punktuell externe Expertise hinzugezogen werden. So entsteht eine tragfähige Grundkompetenz im Haus, ergänzt um gezielte Unterstützung dort, wo Spezialwissen nötig ist. Diese Auditkompetenz zahlt zugleich auf die im EU AI Act verankerte allgemeine KI-Kompetenzpflicht ein.
Der Leitgedanke lautet: Was nicht dokumentiert ist, gilt im Audit als nicht vorhanden. Ein Auditor kann nur bewerten, was er nachvollziehen kann. Eine sorgfältig durchgeführte Fairness-Prüfung, die nirgends festgehalten wurde, ist im Audit wertlos. Umgekehrt beschleunigt eine gute Dokumentation das Audit erheblich, weil sie Belege sofort verfügbar macht und Nachfragen reduziert. Deshalb ist der Aufbau einer geordneten Dokumentation nicht bürokratischer Selbstzweck, sondern die effizienteste Vorbereitung auf jede Prüfung.
Die konkret erforderlichen Nachweise hängen von Prüfmaßstab und Systemtyp ab. In der Praxis wiederholen sich jedoch bestimmte Dokumentgruppen. Die folgende Übersicht ordnet sie den Prüfdimensionen zu:
Ein besonders wertvolles Nachweisformat sind Modellkarten – kompakte, strukturierte Beschreibungen eines Modells: sein Zweck, die verwendeten Daten, seine Leistung, seine bekannten Grenzen und die Bedingungen seines sinnvollen Einsatzes. Sie machen ein Modell für Prüfer nachvollziehbar und bündeln zentrale Informationen an einem Ort. Ergänzt werden sie durch übergreifende Systembeschreibungen, die das KI-System in seinem organisatorischen und technischen Umfeld verorten. Wer solche Artefakte schon während der Entwicklung pflegt, statt sie nachträglich für ein Audit zu rekonstruieren, spart erheblichen Aufwand und erhöht die Qualität der Prüfung.
Der häufigste Fehler ist, Dokumentation erst kurz vor einem Audit zu erstellen. Das ist aufwendig, fehleranfällig und liefert oft lückenhafte Belege, weil sich vergangene Entscheidungen nicht mehr vollständig rekonstruieren lassen. Weit effizienter ist es, Dokumentation als begleitenden Prozess zu verstehen: Entscheidungen, Tests und Änderungen werden festgehalten, wenn sie geschehen. Eine einfache, gut zugängliche Ablagestruktur und klare Zuständigkeiten sorgen dafür, dass Nachweise nicht verloren gehen. Für viele Mittelständler genügt zu Beginn ein pragmatisches Vorgehen mit vorhandenen Werkzeugen – wichtiger als das perfekte Tool ist die Disziplin, konsequent mitzudokumentieren.
Der wichtigste Rat vorweg: Beginnen Sie nicht mit dem externen Audit, sondern mit der internen Selbstbewertung. Sie schafft Transparenz, deckt die offensichtlichen Lücken auf und macht ein späteres externes Audit deutlich effizienter. Viele Mittelständler überschätzen den Aufwand eines KI-Audits, weil sie es sich als vollständige technische Durchleuchtung jedes Modells vorstellen. In der Realität konzentriert sich der Aufwand auf wenige kritische Systeme und auf die organisatorische Grundstruktur – und beides lässt sich schrittweise aufbauen.
Die Selbstbewertung ist das wichtigste Werkzeug des Mittelstands. Sie muss nicht perfekt sein, um wertvoll zu sein: Schon eine strukturierte Checkliste, die die sechs Prüfdimensionen abfragt, deckt die meisten offensichtlichen Lücken auf. Für jede Dimension werden einfache Fragen beantwortet – etwa: Gibt es für dieses System eine benannte verantwortliche Person? Ist die Datenherkunft bekannt? Existiert eine Modellbeschreibung? Wurde Fairness betrachtet, wo Menschen betroffen sind? Ist die menschliche Aufsicht geregelt? Sind Datenschutzfragen geklärt? Die ehrliche Beantwortung dieser Fragen liefert eine erste Landkarte des Handlungsbedarfs, ohne dass externe Kosten entstehen.
Der Gesamtaufwand hängt stark von Zahl und Kritikalität der Systeme ab. Ein Unternehmen mit wenigen, unkritischen KI-Anwendungen kommt mit einer schlanken Selbstbewertung und leichter Dokumentation weit. Ein Unternehmen mit mehreren entscheidungsrelevanten Systemen sollte mehr investieren – vor allem in Fairness, Datenschutz und menschliche Aufsicht. In beiden Fällen gilt: Der Aufwand ist beherrschbar, wenn früh und strukturiert begonnen wird. Wer erst unter dem Druck einer Kundenanforderung oder einer nahenden Frist startet, zahlt in Hektik und Nacharbeit drauf. Konkrete Kosten oder Zeitangaben lassen sich seriös nur nach einer Bestandsaufnahme des jeweiligen Unternehmens nennen.
Der größte Wert eines KI-Audits liegt oft nicht im Zertifikat am Ende, sondern im Erkenntnisgewinn unterwegs. Ein sorgfältiges Audit zwingt die Organisation, ihre KI-Systeme systematisch zu betrachten – und dabei treten regelmäßig Dinge zutage, die im Alltag untergegangen waren: undokumentierte Systeme, unklare Verantwortlichkeiten, veraltete Modelle oder ungeprüfte Datenquellen. Dieser Transparenzgewinn ist der eigentliche Motor der Verbesserung. Hinzu kommt der Vertrauenseffekt: Wer belegen kann, dass seine KI geprüft wurde, stärkt seine Position gegenüber Kunden, Partnern und der eigenen Belegschaft.
Ebenso wichtig ist, die Grenzen nicht zu verschweigen. Ein Audit ist eine Momentaufnahme: Es bewertet ein System zu einem bestimmten Zeitpunkt gegen einen bestimmten Maßstab. Ändert sich danach die Datenlage, die Nutzung oder das Umfeld, kann sich das Verhalten des Systems verschieben, ohne dass das alte Auditergebnis dies abbildet. Deshalb ist ein einmaliges Audit nie genug – erst die Wiederholung bei wesentlichen Änderungen und in sinnvollen Abständen macht die Prüfung zu einem verlässlichen Instrument. Und ein Audit prüft immer nur gegen die gewählten Kriterien: Wurde eine wichtige Dimension nicht in den Prüfmaßstab aufgenommen, bleibt sie auch im Ergebnis unsichtbar. Ein bestandenes Audit bedeutet daher nicht Fehlerfreiheit, sondern belegt angemessene Sorgfalt zum Prüfzeitpunkt.
Sobald ein KI-System personenbezogene Daten verarbeitet, greift zusätzlich zur KI-spezifischen Prüfung die DSGVO. Beide Perspektiven überschneiden sich, sind aber nicht identisch. Die Datenschutz-Perspektive fragt nach Rechtsgrundlage, Datenminimierung, Betroffenenrechten und – bei hohem Risiko – nach einer Datenschutz-Folgenabschätzung. Die KI-Audit-Perspektive fragt zusätzlich nach Qualität und Repräsentativität der Daten, nach Fairness, Robustheit und menschlicher Aufsicht. In der Praxis lohnt es sich, beide Blickwinkel zu verzahnen: Eine Datenschutz-Folgenabschätzung liefert wertvolle Vorarbeit für ein KI-Audit, und umgekehrt schärft ein KI-Audit den Blick für datenschutzrechtliche Risiken. Sie ersetzen einander jedoch nicht – die konkrete Verzahnung im Einzelfall sollte fachjuristisch geklärt werden.
