Um zu verstehen, warum das bemerkenswert ist, hilft ein Blick auf frühere Lösungen. Ein klassischer Sprachassistent bestand aus einer Kette: Eine Spracherkennung wandelte gesprochene Worte in Text um, ein Sprachmodell formulierte eine Antwort, und eine Sprachsynthese las diese Antwort vor. Jede Station kostete Zeit, und unterwegs ging Information verloren – etwa der Tonfall, eine Pause, Ironie oder Hintergrundgeräusche. Ähnlich bei Bildern: Früher wurde ein Foto erst durch eine Texterkennung oder ein Bildbeschreibungsmodell geschickt, und erst dessen Ergebnis landete beim Sprachmodell. Bei GPT-4o entfällt diese Übersetzungskette weitgehend. Das Modell nimmt das Bild oder die Audiospur direkt auf und kann darüber im selben Denkschritt schlussfolgern.
In der Praxis zeigt sich das an drei Fähigkeitsbereichen. Erstens Vision: Das Modell beschreibt Fotos, liest Text aus Bildern, interpretiert Diagramme, Screenshots und technische Zeichnungen und beantwortet Fragen dazu. Zweitens Dokumentenanalyse: Rechnungen, Formulare, Lieferscheine oder mehrseitige PDF-Dokumente lassen sich auslesen, zusammenfassen und in strukturierte Daten überführen. Drittens Audio und Voice: Das Modell versteht gesprochene Sprache und kann in Echtzeit mit einer natürlich klingenden Stimme antworten – inklusive der Möglichkeit, einem Gesprächspartner ins Wort zu fallen oder unterbrochen zu werden, wie es in menschlichen Gesprächen üblich ist.
GPT-4o ist weniger ein einzelnes, eingefrorenes Produkt als vielmehr eine Modellgeneration mit mehreren Ausprägungen. Neben dem Hauptmodell gab und gibt es kleinere, günstigere Varianten für hohe Volumina sowie spezialisierte Ableger für Audio, Echtzeit-Dialoge, Transkription und Sprachausgabe. OpenAI hat seither weitere Modellgenerationen veröffentlicht, die die multimodalen Fähigkeiten fortführen und in vielen Bereichen ausbauen. Welche Modelle aktuell angeboten, welche abgekündigt und welche als Standard in ChatGPT hinterlegt sind, ändert sich regelmäßig. Wir beschreiben deshalb das Fähigkeitsprofil, das mit GPT-4o eingeführt wurde und in den Nachfolgern fortlebt – konkrete Modellnamen, Versionen und Laufzeiten sind stets in der aktuellen Modellübersicht des Anbieters zu prüfen.
Ein großer Teil der Information in Unternehmen liegt nicht als sauberer Text vor. Sie steckt in eingescannten Belegen, in Fotos von Baustellen und Maschinen, in Präsentationsfolien, in Telefonaten mit Kunden und in Sprachnotizen aus dem Außendienst. Bisher war diese Information für Automatisierung schwer zugänglich. Multimodale Modelle wie GPT-4o senken diese Hürde erheblich: Ein Mitarbeiter fotografiert ein defektes Bauteil, und der Assistent identifiziert es und schlägt das passende Ersatzteil vor. Ein Eingangsdokument wird automatisch gelesen und in die Warenwirtschaft übertragen. Ein Anrufer schildert sein Anliegen und erhält sofort eine qualifizierte erste Antwort. Solche Szenarien sind heute keine Science-Fiction mehr, sondern mit vertretbarem Aufwand umsetzbar – vorausgesetzt, Datenschutz, Qualitätssicherung und Prozessanbindung werden sauber gelöst.
Wir gehen herstellerneutral vor. Konkrete Preise, Parameterzahlen, Kontextfenster oder Benchmark-Werte nennen wir bewusst nicht, weil sich diese Angaben laufend ändern und nur beim Anbieter verlässlich zu prüfen sind. Stattdessen beschreiben wir Fähigkeiten qualitativ, zeigen typische Einsatzmuster, grenzen GPT-4o gegen Alternativen wie Claude Vision, Gemini, offene Vision-Language-Modelle und klassische Texterkennung ab und widmen dem Thema Datenhoheit ein eigenes Kapitel. Der Artikel richtet sich an Geschäftsführung, IT-Verantwortliche und Fachabteilungen, die einschätzen wollen, ob und wie sie multimodale KI sinnvoll einsetzen.
Für die meisten Menschen ist ChatGPT der erste Kontakt mit den multimodalen Fähigkeiten. Wer ein Foto hochlädt und fragt, was darauf zu sehen ist, oder im Sprachmodus mit dem Assistenten spricht, nutzt genau diese Technologie. OpenAI bietet ChatGPT in mehreren Stufen an – von einer kostenlosen Variante über Abonnements für Einzelpersonen bis zu Plänen für Teams, Unternehmen und Bildungseinrichtungen. Die Pläne unterscheiden sich in Nutzungsgrenzen, verfügbaren Modellen, Verwaltungsfunktionen, Sicherheitszusagen und vertraglichen Regelungen zur Datennutzung. Für den betrieblichen Einsatz ist ein entscheidender Punkt: Bei privaten Konten gelten andere Standards zur Verwendung von Eingaben für das Training als bei Geschäftsplänen. Wer Mitarbeitende mit privaten Konten arbeiten lässt, verliert die Kontrolle darüber, was mit hochgeladenen Belegen, Fotos und Sprachaufnahmen geschieht. Die genauen Planbezeichnungen, Funktionsumfänge und Konditionen ändern sich häufig und sind direkt beim Anbieter zu prüfen.
Für eigene Anwendungen, Automatisierungen und Integrationen führt der Weg über eine Programmierschnittstelle. Hier gibt es zwei Optionen. Die OpenAI-API wird direkt vom Hersteller betrieben, erhält neue Modelle und Funktionen in der Regel zuerst und bietet die breiteste Palette an Werkzeugen. OpenAI hat für bestimmte Unternehmensangebote inzwischen auch Optionen zur Datenresidenz in Europa eingeführt; welche Modelle, Funktionen und Datenarten davon erfasst sind, ist im Einzelfall zu prüfen. Azure OpenAI stellt die Modelle über die Microsoft-Cloud bereit. Der Vorteil liegt in der Einbettung in bestehende Microsoft-Verträge, in Azure-Rechteverwaltung, privaten Netzwerkanbindungen, Protokollierung und in der Möglichkeit, Bereitstellungen gezielt in europäischen Regionen beziehungsweise einer EU-Datenzone zu betreiben. Dafür kommen neue Modelle und Vorschaufunktionen mitunter etwas später oder zunächst nur in bestimmten Regionen an.
Im Wettbewerb positioniert sich die GPT-4o-Familie als vielseitiger Generalist. Sie ist nicht in jeder Einzeldisziplin das spezialisierteste Werkzeug, deckt aber ein ungewöhnlich breites Spektrum in hoher Qualität ab: Bild, Dokument, Diagramm, Sprache und Echtzeit-Dialog aus einer Hand, mit einem großen Ökosystem an Bibliotheken, Integrationen und Fachkräften, die die Schnittstellen kennen. Besonders ausgeprägt ist die Stärke bei Echtzeit-Sprachanwendungen, wo OpenAI früh eine durchgängige Lösung angeboten hat. Für Unternehmen bedeutet diese Positionierung: GPT-4o und seine Nachfolger sind ein naheliegender Ausgangspunkt für multimodale Projekte – aber nicht automatisch die beste Wahl für jeden Einzelfall, insbesondere wenn Datenhoheit, Kosten bei sehr hohen Volumina oder spezielle Dokumentenformate im Vordergrund stehen.
Die Bildfähigkeiten reichen weit über eine einfache Bildbeschreibung hinaus. Das Modell kann Szenen erfassen, Objekte benennen, Zustände einschätzen und Zusammenhänge erklären. Ein Foto einer Maschine mit Typenschild wird zum Ausgangspunkt einer Ersatzteilrecherche, ein Bild eines Lagerregals zur Grundlage einer Bestandsabschätzung, ein Foto einer Baustelle zum Anlass für eine Mängelnotiz. Bei Diagrammen und Charts erkennt GPT-4o in der Regel Achsen, Legenden und Trends und kann diese in Worte fassen – etwa die Aussage eines Umsatzdiagramms in einer Präsentation. Screenshots sind ein besonders dankbarer Anwendungsfall: Fehlermeldungen in Software, Konfigurationsdialoge oder Webseiten werden zuverlässig gelesen und erläutert, was Support-Prozesse spürbar beschleunigt.
Grenzen gibt es dennoch. Exaktes Zählen vieler kleiner Objekte, präzises Ablesen von Messwerten aus Skalen, räumliches Schlussfolgern über Abstände und die Interpretation sehr feiner Details bleiben fehleranfällig. Auch die Bildauflösung spielt eine Rolle: Die Schnittstellen erlauben, zwischen einer gröberen, günstigeren und einer detaillierteren, aufwendigeren Bildverarbeitung zu wählen. Für Texterkennung in kleinen Schriftgrößen ist die detaillierte Variante meist nötig. Aus Gründen der Fairness und des Datenschutzes ist das Modell zudem so eingestellt, dass es reale Personen auf Fotos nicht anhand ihres Gesichts identifiziert – für Unternehmen eher ein Vorteil als ein Nachteil.
Für viele Mittelständler ist die Dokumentenanalyse der wirtschaftlich interessanteste Teil. GPT-4o kann Seiten aus Rechnungen, Lieferscheinen, Bestellungen, Formularen oder Verträgen lesen und deren Inhalt nicht nur abschreiben, sondern verstehen: Welche Zahl ist die Rechnungssumme, welches Datum das Fälligkeitsdatum, welcher Absatz enthält die Kündigungsfrist? PDF-Dateien lassen sich je nach Zugangsweg direkt oder als Bildfolge übergeben; dabei werden sowohl der eingebettete Text als auch das visuelle Erscheinungsbild genutzt, sodass Tabellen, Stempel und Layout in die Auswertung einfließen. Kombiniert mit strukturierten Ausgaben (siehe Kapitel 04) wird daraus eine flexible Erfassungslösung, die mit wechselnden Layouts besser zurechtkommt als starre Vorlagen-OCR.
Wichtig ist eine realistische Erwartung: Ein Sprachmodell gibt immer eine Antwort, auch wenn es unsicher ist. Bei unleserlichen Stellen kann es plausibel klingende, aber falsche Werte erzeugen. Für Beträge, IBAN, Artikelnummern oder Fristen braucht es deshalb Plausibilitätsprüfungen, Abgleich mit Stammdaten und bei Unsicherheit eine menschliche Kontrolle. Bei sehr hohen Volumina gleichförmiger Dokumente kann zudem eine spezialisierte Dokumenten-KI wirtschaftlicher sein – dazu mehr in Kapitel 06.
Auf der Audioseite verarbeitet die GPT-4o-Familie gesprochene Sprache auf zwei Arten. Zum einen gibt es spezialisierte Varianten für Transkription und Sprachausgabe, die Aufnahmen in Text umwandeln oder Text mit natürlich klingenden Stimmen vorlesen. Zum anderen gibt es Modelle, die Audio direkt als Eingabe verstehen und gesprochene Antworten erzeugen – die Grundlage für echte Sprachdialoge. Dabei werden nicht nur die Worte, sondern in gewissem Umfang auch Betonung und Gesprächsdynamik erfasst. Deutsch wird gut unterstützt; dennoch lohnt ein Test mit branchenspezifischen Fachbegriffen, regionalen Dialekten und realistischen Störgeräuschen, etwa aus Werkhalle, Fahrzeug oder Telefonleitung. Video wird in der Regel nicht als durchgehender Strom, sondern über einzelne Standbilder plus Tonspur verarbeitet – für lange Videoanalysen sind andere Modelle teils besser aufgestellt.
Für Automatisierung ist Fließtext wenig hilfreich. Ein Buchhaltungssystem braucht kein „Die Rechnung stammt vermutlich von Firma Müller und beläuft sich auf …“, sondern klar benannte Felder: Lieferant, Rechnungsnummer, Datum, Nettobetrag, Steuersatz, Positionen. Mit Structured Outputs lässt sich der Modellausgabe ein festes Schema vorgeben, typischerweise im JSON-Format. Das Modell wird dann so gesteuert, dass seine Antwort diesem Schema entspricht – mit genau den vorgesehenen Feldern und Datentypen. Für die Dokumentenverarbeitung ist das der entscheidende Schritt vom Experiment zum Prozess: Das Ergebnis kann ohne Nachbearbeitung an ERP, DMS oder Warenwirtschaft übergeben werden.
Wichtig ist aber die Unterscheidung zwischen formaler und inhaltlicher Korrektheit. Structured Outputs stellen sicher, dass die Struktur stimmt – nicht, dass der eingetragene Wert richtig ist. Ein Feld „Rechnungssumme“ wird zuverlässig befüllt, ob mit dem richtigen Betrag, muss die nachgelagerte Prüflogik klären. Bewährt hat sich, im Schema zusätzlich Felder für Unsicherheit oder fehlende Informationen vorzusehen, damit das Modell nicht zum Raten gezwungen wird.
Mit Function Calling – auch Tool Use genannt – beschreiben Entwickler dem Modell eine Reihe von Funktionen, etwa „Artikel im Katalog suchen“, „Kundendaten abrufen“, „Ticket anlegen“ oder „Termin buchen“. Das Modell entscheidet anhand der Eingabe selbst, ob und welche Funktion mit welchen Parametern aufgerufen werden soll. Die eigentliche Ausführung übernimmt Ihre Anwendung, die das Ergebnis an das Modell zurückgibt. In Kombination mit Vision ergeben sich interessante Abläufe: Ein Servicetechniker fotografiert ein Typenschild, das Modell liest Hersteller und Seriennummer, ruft die Funktion zur Ersatzteilsuche auf und präsentiert passende Teile mit Verfügbarkeit. Dieselben Mechanismen bilden die Grundlage für KI-Agenten, die mehrere Schritte selbstständig hintereinander ausführen. Gerade hier gilt: Berechtigungen eng fassen, schreibende Aktionen absichern und kritische Schritte von Menschen freigeben lassen.
Die Realtime-Schnittstelle ist der Baustein, mit dem sich GPT-4o am deutlichsten von älteren Ansätzen abhebt. Statt Sprache erst zu transkribieren, dann zu verarbeiten und schließlich vorzulesen, wird Audio fortlaufend gestreamt und die Antwort ebenso fortlaufend als Sprache zurückgegeben. Das Ergebnis sind Dialoge mit kurzer Reaktionszeit, in denen Nutzer das System unterbrechen können und in denen auch während des Gesprächs Werkzeuge aufgerufen werden – etwa um einen Liefertermin nachzuschlagen. Technisch erfolgt die Anbindung über Streaming-Verbindungen, die sich sowohl in Web- und Mobil-Apps als auch über geeignete Zwischenschichten in Telefonie-Umgebungen einbinden lassen.
Für Unternehmen eröffnet das Szenarien wie die Vorqualifizierung von Anrufen in der Hotline, sprachgesteuerte Assistenten für Mitarbeitende mit vollen Händen in Lager oder Werkstatt oder interaktive Schulungs- und Rollenspiele. Gleichzeitig steigen die Anforderungen: Sprachaufnahmen sind personenbezogene Daten, Anrufer müssen erkennen können, dass sie mit einer KI sprechen, und Gesprächsverläufe brauchen klare Regeln zur Speicherung. Echtzeit-Audio ist zudem in der Regel deutlich teurer als reine Textverarbeitung.
Für Entwickler stellt OpenAI offizielle Bibliotheken für gängige Programmiersprachen bereit, Microsoft entsprechende Pakete für Azure. Bilder werden entweder als Link oder direkt als kodierte Daten übergeben, Audio als Datei oder als Datenstrom. Darüber hinaus haben sich Open-Source-Frameworks für KI-Anwendungen etabliert, die GPT-4o-Modelle ebenso wie Alternativen ansprechen. Das erleichtert ein wichtiges Architekturprinzip: Wer seine Anwendung über eine solche Abstraktionsschicht baut, kann das Modell später mit überschaubarem Aufwand austauschen – etwa gegen ein Nachfolgemodell, ein Modell eines anderen Anbieters oder ein selbst betriebenes offenes Modell. Für eine langfristig tragfähige Strategie ist diese Austauschbarkeit mindestens so wichtig wie die aktuelle Modellqualität.
Nicht jedes Projekt erfordert Programmierung. Automatisierungsplattformen wie n8n, Make, Zapier oder Microsoft Power Automate bieten Bausteine, mit denen sich Bild- und Dokumentenanalysen per GPT-4o in Abläufe einbinden lassen: Ein E-Mail-Anhang landet im Postfach, wird an das Modell übergeben, die extrahierten Daten werden in eine Tabelle oder ein CRM geschrieben. Im Microsoft-Umfeld lassen sich Azure-OpenAI-Modelle mit weiteren Azure-Diensten für Suche, Speicher und Dokumentenverarbeitung kombinieren. Darüber hinaus haben viele Softwarehersteller – von Helpdesk über CRM bis zu Dokumentenmanagement – Funktionen integriert, die im Hintergrund auf OpenAI-Modelle zurückgreifen. Hier lohnt der genaue Blick in die Vertragsunterlagen: Welches Modell wird genutzt, in welcher Region, mit welchen Unterauftragsverarbeitern?
In der Praxis haben sich einige wiederkehrende Muster herausgebildet. Beim Dokumenten-Pipeline-Muster werden Eingangsdokumente klassifiziert, vom Modell ausgelesen, über Structured Outputs in ein Schema gebracht, automatisch geprüft und erst dann weitergeleitet. Beim Assistenten-Muster kombiniert eine Chat- oder Sprachoberfläche Bild- und Spracheingaben mit einer Wissensdatenbank, aus der das Modell relevante Informationen nachlädt, etwa Handbücher oder Produktdaten. Beim Agenten-Muster arbeitet das Modell mehrere Schritte mit Werkzeugen ab. In allen Mustern gilt: Das Modell ist ein Baustein, nicht die Lösung. Datenaufbereitung, Prüflogik, Rechtekonzept, Protokollierung und Fehlerbehandlung machen den Großteil der Arbeit aus – und entscheiden über die Qualität im Betrieb.
Claude von Anthropic verarbeitet ebenfalls Bilder und PDF-Dokumente und wird in der Praxis häufig für sorgfältiges Lesen, Zusammenfassen und Schlussfolgern über umfangreiche Dokumente, Diagramme und Tabellen eingesetzt. Eine Echtzeit-Sprachschnittstelle in der Form, wie sie OpenAI anbietet, steht bei Claude weniger im Mittelpunkt. Gemini von Google ist von Grund auf multimodal angelegt und eignet sich besonders für sehr lange Eingaben, einschließlich Video und längerer Audioaufnahmen, sowie für Unternehmen, die stark im Google-Ökosystem arbeiten. Alle drei sind US-Anbieter, alle drei bieten über Cloud-Plattformen europäische Regionen an. In vielen Vergleichstests liegen die Spitzenmodelle eng beieinander; Unterschiede zeigen sich eher bei spezifischen Dokumententypen, Sprachen und Aufgaben als in pauschalen Ranglisten. Unser Rat: nicht nach Benchmark entscheiden, sondern nach eigenem Testdatensatz, Integrationsumfeld und Datenschutzweg.
Neben den großen Cloud-Modellen gibt es eine wachsende Zahl leistungsfähiger Vision-Language-Modelle mit offenen Gewichten, unter anderem aus den Familien Llama, Qwen, Mistral oder GLM, sowie auf Dokumente spezialisierte Modelle. Ihr großer Vorteil: Sie lassen sich auf eigener Hardware im eigenen Rechenzentrum oder bei einem europäischen Hosting-Partner betreiben. Bilder, Dokumente und Sprachaufnahmen verlassen dann das eigene Umfeld nicht – das Drittstaaten-Thema entfällt weitgehend. Dem stehen Aufwand für Hardware, Betrieb und Pflege gegenüber; zudem erreichen offene Modelle je nach Aufgabe nicht immer das Niveau der Spitzenmodelle, holen aber stetig auf. Lizenzbedingungen und Herkunft des Modells sind sorgfältig zu prüfen. Für datensensible Anwendungen mit klar umrissener Aufgabe ist Self-Hosting oft die DSGVO-konformere Wahl.
Schließlich lohnt der Blick auf etablierte Lösungen. Klassische Texterkennung und spezialisierte Plattformen für Intelligent Document Processing verarbeiten große Mengen gleichförmiger Dokumente – etwa Eingangsrechnungen – sehr effizient, oft mit Konfidenzwerten pro Feld, Validierungsoberflächen und revisionssicherer Protokollierung. Sie sind weniger flexibel bei unbekannten Layouts, aber nachvollziehbarer und in hohen Volumina häufig günstiger. In der Praxis setzt sich zunehmend eine Kombination durch: Bewährte Dokumentenverarbeitung für den Standardfall, ein multimodales Modell wie GPT-4o für Sonderfälle, unstrukturierte Dokumente, Rückfragen oder Zusammenfassungen. Die Frage ist also selten „entweder – oder“, sondern „was übernimmt welcher Baustein?“.
Der wichtigste Erfolgsfaktor ist ein eigener Testdatensatz. Sammeln Sie einige Dutzend bis einige Hundert typische Bilder, Dokumente oder Audioaufnahmen aus Ihrem Alltag – bewusst auch die schlechten: verwackelte Fotos, schiefe Scans, Handschrift, Rauschen im Hintergrund. Legen Sie für jedes Beispiel fest, was das korrekte Ergebnis wäre. Damit lässt sich objektiv messen, wie gut eine Lösung arbeitet, und jede Änderung – an Prompt, Schema oder Modell – wird überprüfbar. Ergänzend gilt Prompt-Disziplin: klare Anweisungen, Beispiele für die erwartete Ausgabe, explizite Regeln für den Umgang mit unleserlichen oder fehlenden Angaben. Viele Qualitätsprobleme entstehen nicht durch das Modell, sondern durch unklare Aufgabenstellungen.
Im laufenden Betrieb verdienen drei Themen besondere Aufmerksamkeit. Erstens Modell-Lebenszyklen: Anbieter führen neue Versionen ein und kündigen ältere ab. Wer ein bestimmtes Modell fest verdrahtet, muss Umstellungen einplanen; ein Nachfolgemodell kann besser sein, verhält sich aber nie exakt gleich. Pinnen Sie Modellversionen, wo möglich, und testen Sie Umstellungen vorab. Zweitens Kostenkontrolle: Bild- und besonders Audioverarbeitung verbrauchen deutlich mehr Ressourcen als Text. Budgets, Limits und Monitoring gehören von Anfang an dazu. Drittens Sicherheit: Bilder und Dokumente können versteckte Anweisungen enthalten, die das Modell manipulieren sollen – sogenannte Prompt-Injection. Wer das Modell mit Werkzeugen verbindet, muss Berechtigungen strikt begrenzen und schreibende Aktionen absichern.
Erfahrungsgemäß liefern zwei Arten von Projekten den schnellsten Nutzen. Zum einen Abläufe mit viel manueller Übertragung: Überall, wo Menschen Informationen von Papier, PDF oder Foto in ein System abtippen, ist das Einsparpotenzial gut messbar. Zum anderen Wissensarbeit mit visuellen Inhalten: Wer täglich Screenshots, technische Zeichnungen oder Diagramme interpretieren muss, profitiert von einem Assistenten, der diese Inhalte erklärt und zusammenfasst. Sprachanwendungen haben ein hohes Potenzial, sind aber anspruchsvoller in Umsetzung, Datenschutz und Akzeptanz – ein guter zweiter Schritt, selten der erste.
Weniger geeignet sind Aufgaben, die absolute Präzision ohne menschliche Kontrolle verlangen – etwa das vollautomatische Freigeben von Zahlungen auf Basis ausgelesener Belege oder sicherheitskritische Prüfentscheidungen anhand von Bildern. Zurückhaltung gilt ebenso für besondere Kategorien personenbezogener Daten wie Gesundheitsinformationen, für Videoüberwachung von Beschäftigten oder für biometrische Auswertungen; hier sind die rechtlichen Hürden hoch und der Einsatz in vielen Fällen nicht vertretbar. Auch bei sehr hohen Volumina gleichförmiger Dokumente kann eine spezialisierte, lokal betriebene Lösung wirtschaftlicher und datenschutzfreundlicher sein. Gute Projekte beginnen deshalb mit der Frage, wo KI unterstützen soll – und wo der Mensch die Entscheidung behält.
Bei API-Nutzung hängt die Rechnung von der Menge der verarbeiteten Daten ab. Bilder werden intern in eine Anzahl von Einheiten umgerechnet, die mit Auflösung und Detailgrad steigt; Audio – besonders im Echtzeit-Dialog – ist im Verhältnis teurer als Text. Drei Hebel senken die Kosten deutlich: Bilder vor dem Versand sinnvoll zuschneiden und verkleinern, für einfache Aufgaben kleinere Modellvarianten nutzen und Ergebnisse, die sich wiederholen, zwischenspeichern. Für Massenverarbeitung ohne Zeitdruck bieten Anbieter teils günstigere Stapelverfahren an. Verlässliche Zahlen entstehen nur aus einer Hochrechnung mit Ihrem realen Volumen und einem kurzen Pilotbetrieb – nicht aus Listenpreisen.
OpenAI ist ein US-Unternehmen. Wer die Modelle über die Standard-API oder private ChatGPT-Konten nutzt, muss davon ausgehen, dass Daten in den USA verarbeitet werden können. Damit greifen die Regeln der DSGVO für Übermittlungen in Drittländer: Es braucht eine tragfähige Rechtsgrundlage, etwa über ein Angemessenheitsinstrument wie das EU-US Data Privacy Framework – sofern der jeweilige Anbieter zertifiziert ist – oder über Standardvertragsklauseln mit ergänzender Risikobewertung. Ob und wie lange diese Instrumente Bestand haben, ist rechtlich immer wieder umstritten. Hinzu kommt die Souveränitätsfrage: US-Anbieter unterliegen US-Gesetzen, die Behörden unter bestimmten Voraussetzungen Zugriff auf Daten erlauben – grundsätzlich auch dann, wenn diese auf Servern in Europa liegen. Eine EU-Region verbessert die Lage deutlich, löst dieses strukturelle Thema aber nicht vollständig auf.
Für die meisten Mittelständler ist Azure OpenAI mit Bereitstellung in einer europäischen Region beziehungsweise EU-Datenzone der pragmatische Weg zu einer DSGVO-konformeren Nutzung. Microsoft bietet hierfür einen etablierten Vertragsrahmen mit Auftragsverarbeitung, Regelungen zur Datenverarbeitung innerhalb der EU und Unternehmensfunktionen für Zugriffsschutz und Protokollierung. Zu prüfen sind insbesondere: welche Modelle und Funktionen in der gewählten Region tatsächlich verfügbar sind, ob Eingaben zur Missbrauchsüberwachung vorübergehend gespeichert werden und ob dafür Ausnahmen beantragt werden können, sowie welche Unterauftragsverarbeiter beteiligt sind. Auch OpenAI selbst bietet für bestimmte Geschäftskunden Optionen zur europäischen Datenresidenz an; hier gilt dieselbe sorgfältige Prüfung. Wo besonders sensible Daten verarbeitet werden – Gesundheitsdaten, Personalakten, Geschäftsgeheimnisse – ist das Self-Hosting offener Vision-Language-Modelle in eigener oder europäischer Infrastruktur die Option mit der größten Datenhoheit.
Unabhängig vom gewählten Weg bleiben die Pflichten des Verantwortlichen bestehen: Verarbeitungsverzeichnis aktualisieren, Rechtsgrundlage festlegen, Betroffene informieren, bei risikoreichen Verarbeitungen eine Datenschutz-Folgenabschätzung durchführen, technische und organisatorische Maßnahmen dokumentieren. Bei Sprachaufnahmen und Fotos von Beschäftigten ist der Betriebsrat einzubeziehen. Zusätzlich ist die europäische KI-Verordnung zu beachten, etwa mit Transparenzpflichten, wenn Menschen mit einem KI-System sprechen, und mit Anforderungen an die KI-Kompetenz der Mitarbeitenden. Eingaben sollten so datensparsam wie möglich sein: nur der relevante Bildausschnitt, geschwärzte Gesichter und Kennzeichen, keine vollständigen Personalakten, wenn nur ein Datum gebraucht wird.