Technisch gehört Voice-Cloning zur Familie der Sprachsynthese, im Englischen Text-to-Speech genannt. Ein Sprachsynthesesystem erhält Text und erzeugt daraus ein Audiosignal. Früher geschah das durch das Aneinanderreihen kleiner, vorab aufgenommener Lautbausteine – das Ergebnis klang verständlich, aber hörbar maschinell. Heute erzeugen neuronale Netze das Audiosignal direkt und lernen dabei, wie menschliche Sprache in ihrer ganzen Variabilität klingt. Voice-Cloning ist die konsequente Weiterentwicklung: Das Modell lernt nicht nur, wie Sprache allgemein klingt, sondern wie eine ganz bestimmte Person spricht.
Damit verschiebt sich die Fragestellung grundlegend. Bei einer generischen KI-Stimme geht es um Verständlichkeit und Natürlichkeit. Bei einer geklonten Stimme geht es zusätzlich um Persönlichkeitsrechte, Einwilligung, Vertrauen und Missbrauchsschutz. Wer die Stimme der Geschäftsführerin klont, um eine Weihnachtsbotschaft in fünf Sprachen zu produzieren, nutzt dieselbe Technologie, mit der Betrüger eine täuschend echte Sprachnachricht des vermeintlichen Chefs an die Buchhaltung schicken. Genau diese Doppelnatur macht das Thema für Unternehmen so anspruchsvoll.
Um die Möglichkeiten realistisch einzuschätzen, hilft eine einfache Unterscheidung. Erstens gibt es Stock-Stimmen: fertige, von Anbietern bereitgestellte KI-Stimmen, die meist auf lizenzierten Aufnahmen professioneller Sprecherinnen und Sprecher beruhen. Zweitens gibt es geklonte Stimmen, die aus Aufnahmen einer konkreten Person erzeugt werden – etwa der eigenen Mitarbeiterin, des Geschäftsführers oder einer beauftragten Sprecherin. Drittens gibt es gestaltete Stimmen, die per Beschreibung oder Parametern neu entworfen werden und keiner realen Person gehören. Jede dieser Varianten hat eigene Stärken und eigene rechtliche Implikationen.
Daneben existiert eine zweite Achse: Voice-Cloning kann aus Text sprechen (Text-to-Speech mit Klonstimme) oder eine vorhandene Sprachaufnahme in eine andere Stimme umwandeln (Speech-to-Speech oder Voice-Conversion). Bei der zweiten Variante bleiben Betonung, Pausen und Emotion der Originalaufnahme erhalten, nur die Klangfarbe wird ausgetauscht. Für Dubbing, Hörspiele oder die Korrektur einzelner Sätze in einem bestehenden Video ist das oft die natürlichere Lösung.
In den vergangenen Jahren ist die Menge an Audiomaterial, die für einen überzeugenden Klon nötig ist, drastisch gesunken, während die Qualität deutlich gestiegen ist. Gleichzeitig sind die Werkzeuge in Videoplattformen, Präsentationssoftware, Telefonsystemen und Kundenservice-Lösungen angekommen. Für den Mittelstand bedeutet das: Was früher ein Tonstudio, Sprecherhonorare und Wochen an Abstimmung erforderte, lässt sich heute in Stunden umsetzen. Damit steigt aber auch die Wahrscheinlichkeit, dass Mitarbeitende Stimmen klonen, ohne die rechtlichen Folgen zu kennen – oder dass Kriminelle öffentlich verfügbare Aufnahmen von Führungskräften missbrauchen.
Wir arbeiten herstellerneutral und verzichten bewusst auf exakte Preise, Minutenangaben, Benchmark-Werte oder Nutzerzahlen. Der Markt verändert sich in kurzen Zyklen, Funktionsumfänge und Konditionen werden laufend angepasst. Wo wir Anbieter nennen, beschreiben wir ihre Positionierung qualitativ. Konkrete Angaben zu Leistungsumfang, Datenverarbeitung und Preisen sollten Sie unmittelbar vor einer Entscheidung beim jeweiligen Anbieter prüfen.
Moderne Sprachsynthesesysteme bestehen vereinfacht aus zwei Teilen. Ein Teil verwandelt Text in eine innere Darstellung von Sprache: Welche Laute folgen aufeinander, wo wird betont, wie lang sind Pausen? Ein zweiter Teil erzeugt daraus das hörbare Audiosignal. Die Stimme einer Person fließt als eine Art akustischer Fingerabdruck in diesen Prozess ein. Wie dieser Fingerabdruck gewonnen wird, unterscheidet die Verfahren.
Beim Zero-Shot-Verfahren wird das zugrunde liegende Modell vorab mit enormen Mengen an Sprachaufnahmen vieler Menschen trainiert. Es lernt dabei, welche Merkmale eine Stimme ausmachen und wie sie sich auf neue Sätze übertragen lassen. Erhält es nun eine kurze Referenzaufnahme, extrahiert es daraus die Stimmmerkmale und spricht neue Texte in einer ähnlichen Klangfarbe – ohne dass ein eigenes Training nötig wäre. Für Anwender wirkt das fast magisch: Aufnahme hochladen, Text eingeben, fertig.
Die Grenzen zeigen sich im Detail. Zero-Shot-Klone übernehmen die Klangfarbe oft überzeugend, verfehlen aber individuelle Sprechgewohnheiten, regionale Färbungen oder den typischen Rhythmus einer Person. Bei längeren Texten kann die Stimme leicht driften, Emotionen wirken mitunter aufgesetzt, und die Qualität hängt stark von der Referenzaufnahme ab: Hall, Hintergrundgeräusche oder ein Telefonmikrofon werden mitgelernt. Gerade weil das Verfahren so wenig Material braucht, ist es auch das Einfallstor für Missbrauch – wenige Sekunden aus einem öffentlichen Video können genügen.
Beim Fine-Tuning wird ein vortrainiertes Modell mit einer größeren Menge hochwertiger Aufnahmen der Zielstimme gezielt nachtrainiert. Das erfordert eine strukturierte Aufnahmesitzung, mehr Rechenzeit und meist auch eine Verifikation, dass die aufgenommene Person tatsächlich zugestimmt hat. Dafür entsteht ein Modell, das die Stimme deutlich treuer wiedergibt, stabiler über lange Passagen bleibt und Fachbegriffe, Zahlen und Satzmelodien sicherer beherrscht. Für eine Markenstimme, die über Jahre in Schulungen, Ansagen und Videos eingesetzt werden soll, ist dieser Aufwand in aller Regel gerechtfertigt.
Qualität bei Voice-Cloning lässt sich in mehrere Dimensionen zerlegen, die man bei einem Test getrennt bewerten sollte. Ähnlichkeit beschreibt, wie sehr der Klon nach der Originalperson klingt. Natürlichkeit fragt, ob die Sprache menschlich wirkt oder maschinelle Artefakte enthält. Prosodie umfasst Betonung, Satzmelodie und Pausen – oft der Bereich, in dem Klone zuerst auffallen. Stabilität bezeichnet die Konsistenz über lange Texte und viele Generierungen hinweg. Hinzu kommen Aussprachegenauigkeit bei Fachbegriffen, Eigennamen und Abkürzungen sowie die Latenz, die für Echtzeitanwendungen entscheidend ist. Ein Anbieter, der in einer Dimension glänzt, kann in einer anderen schwächeln – deshalb sollte immer mit eigenen, praxisnahen Texten getestet werden.
ElevenLabs gilt als einer der bekanntesten Anbieter und hat die öffentliche Wahrnehmung von KI-Stimmen stark geprägt. Die Plattform deckt Sprachsynthese, Stimmklone in unterschiedlichen Qualitätsstufen, automatisches Dubbing, Soundeffekte und zunehmend auch Gesprächsagenten ab. Resemble AI positioniert sich stärker im Unternehmensumfeld und betont Sicherheitsfunktionen wie unhörbare Wasserzeichen und Erkennung synthetischer Sprache; für Organisationen mit hohem Schutzbedarf ist zudem die Option interessant, Modelle in eigener Infrastruktur zu betreiben. PlayHT hat sich besonders bei Entwicklern und Echtzeitanwendungen einen Namen gemacht. Bei allen gilt: Produktlinien und Unternehmensstrukturen ändern sich in diesem Markt schnell, weshalb der aktuelle Stand vor einer Entscheidung geprüft werden sollte.
WellSaid richtet sich an Unternehmen, die Schulungs- und Kommunikationsinhalte mit verlässlichen, rechtlich sauberen Stimmen produzieren wollen, und setzt auf kuratierte Sprecherstimmen mit klaren Lizenzbedingungen. Murf AI verbindet Sprachsynthese mit einer Studio-Oberfläche, in der sich Texte, Pausen, Betonungen und Bildmaterial auf einem Zeitstrahl anordnen lassen – praktisch für Marketing- und HR-Teams ohne Audioerfahrung. Cartesia mit seiner Modellreihe Sonic adressiert vor allem Echtzeit-Szenarien, in denen jede Verzögerung im Gespräch spürbar wäre, etwa bei telefonischen Voice-Agents.
Hinzu kommen Videoplattformen wie Synthesia, HeyGen oder Descript, die Stimmklone direkt in ihre Avatar- oder Schnittwerkzeuge integrieren. Für viele Unternehmen ist das der pragmatischste Einstieg, weil Stimme und Video in einem Arbeitsschritt entstehen. Die Stimmqualität ist dort aber nicht immer auf dem Niveau der spezialisierten Anbieter, und die Datenverarbeitung muss für jede Plattform separat bewertet werden.
Parallel zum kommerziellen Markt hat sich eine lebendige Open-Source-Szene entwickelt. Verschiedene Forschungsgruppen und Unternehmen veröffentlichen Sprachsynthese- und Klonmodelle, deren Gewichte heruntergeladen und auf eigener Hardware betrieben werden können. Der große Vorteil liegt in der Datenhoheit: Stimmproben und erzeugte Audios verlassen das eigene Haus nicht. Dem stehen Nachteile gegenüber. Die Qualität im Deutschen schwankt stark zwischen Modellen, Lizenzbedingungen schließen kommerzielle Nutzung teilweise aus, Schutzmechanismen wie Wasserzeichen oder Einwilligungsprüfungen fehlen meist, und Betrieb, Aktualisierung und Absicherung liegen vollständig beim Unternehmen. Für Pilotprojekte und besonders sensible Szenarien ist der Weg dennoch eine ernsthafte Alternative.
Für exportorientierte Mittelständler ist die mehrsprachige Ausgabe einer der stärksten Hebel. Ein Schulungsvideo, das bislang nur auf Deutsch existierte, kann mit vertretbarem Aufwand auf Englisch, Polnisch, Spanisch oder Tschechisch bereitgestellt werden – und zwar in der Stimme der Person, die die Schulung ursprünglich gehalten hat. Das stärkt Wiedererkennung und Vertrauen bei Mitarbeitenden an internationalen Standorten. Automatisches Dubbing geht noch einen Schritt weiter, indem es Transkription, Übersetzung und Vertonung in einem Prozess bündelt.
Realistisch betrachtet ersetzt das allerdings keine sorgfältige Lokalisierung. Maschinelle Übersetzungen enthalten Fehler, Fachbegriffe werden falsch übertragen, und die Satzlänge ändert sich zwischen Sprachen erheblich, was das Timing im Video beeinflusst. Ein muttersprachliches Review der übersetzten Texte und eine Hörprobe des fertigen Ergebnisses gehören deshalb in jeden Produktionsprozess. Der Akzent einer geklonten Stimme in einer Fremdsprache kann zudem charmant oder irritierend wirken – das sollte bewusst entschieden werden.
Während Schulungs- und Marketinginhalte vorab produziert werden, verlangen Voice-Agents und Telefonsysteme Sprachsynthese in Echtzeit. Hier zählt jede Verzögerung: Wenn zwischen Frage und Antwort eine spürbare Pause entsteht, wirkt das Gespräch unnatürlich. Anbieter mit Fokus auf niedrige Latenz streamen das Audio deshalb, während das Sprachmodell den Antworttext noch formuliert. In Kombination mit Spracherkennung und einem Sprachmodell entsteht so ein vollständiger Sprachdialog. Die emotionale Steuerung ergänzt das: Eine Serviceansage sollte ruhig und freundlich klingen, eine Sicherheitsunterweisung klar und bestimmt. Wie fein sich der Ausdruck steuern lässt, unterscheidet sich stark zwischen Anbietern und sollte im konkreten Anwendungsfall getestet werden.
Nahezu alle professionellen Anbieter stellen eine API bereit, über die Texte übergeben und Audiodateien oder Audioströme zurückgeliefert werden. Damit lassen sich Vertonungen automatisieren: Ein neues Kapitel im Learning-Management-System wird angelegt, ein Workflow erzeugt automatisch die Audiospur in mehreren Sprachen und legt sie ab. Ebenso lassen sich Produktbeschreibungen, Sicherheitshinweise oder interne Nachrichten vertonen, ohne dass jemand eine Studio-Oberfläche öffnen muss. Für die Integration in Automatisierungsplattformen bieten viele Anbieter fertige Bausteine an; bei individueller Entwicklung sollten Themen wie Fehlerbehandlung, Kostenkontrolle, Versionierung der Stimme und Protokollierung von Anfang an mitgedacht werden.
Wichtig ist eine saubere Rechteverwaltung auf API-Ebene. Ein API-Schlüssel, mit dem sich die Stimme der Geschäftsführung erzeugen lässt, ist ein schützenswertes Gut. Er gehört nicht in Skripte auf privaten Rechnern, sondern in einen geschützten Schlüsselspeicher, mit klar begrenzten Berechtigungen und regelmäßiger Rotation.
Im Telefonumfeld reicht der Einsatz von statischen Ansagen bis zu vollautomatischen Gesprächsagenten. Für Warteschleifen, Menüansagen und Abwesenheitsnachrichten genügt es, Audiodateien vorab zu erzeugen und in die Telefonanlage einzuspielen – ein einfacher Weg, die Markenstimme konsistent zu halten und Änderungen schnell umzusetzen. Anspruchsvoller sind Voice-Agents, die Anrufe entgegennehmen, Anliegen verstehen und Antworten in Echtzeit sprechen. Dafür werden Spracherkennung, ein Sprachmodell und Echtzeit-Sprachsynthese über Telefonie-Schnittstellen verbunden. Viele Plattformen bieten hierfür vorgefertigte Integrationen mit gängigen Cloud-Telefonieanbietern und Kontaktcenter-Lösungen.
Gerade hier wird die Kennzeichnung relevant: Anrufende müssen erkennen können, dass sie mit einem KI-System sprechen. Eine geklonte Stimme einer realen Mitarbeiterin in einem Voice-Agent einzusetzen, ohne dies offenzulegen, ist nicht nur rechtlich heikel, sondern kann auch das Vertrauen von Kundinnen und Kunden nachhaltig beschädigen.
Zahlreiche Werkzeuge haben Voice-Cloning direkt integriert. Avatar-Plattformen wie Synthesia oder HeyGen kombinieren geklonte Stimmen mit digitalen Abbildern, Schnittwerkzeuge wie Descript erlauben es, Versprecher im Transkript zu korrigieren und den Satz in der eigenen Stimme neu erzeugen zu lassen, und Podcast-Werkzeuge erzeugen komplette Episoden aus Textvorlagen. Für Unternehmen ist das bequem, bringt aber eine Herausforderung mit sich: Die Stimme liegt dann bei mehreren Dienstleistern, jeweils mit eigenen Bedingungen. Eine zentrale Übersicht, bei welchen Plattformen welche Stimmen hinterlegt sind und wer Zugriff hat, sollte deshalb Teil der Governance sein.
Für interne Erklärvideos, Prozessanleitungen, Barrierefreiheit auf der Website oder automatisch erzeugte Benachrichtigungen ist eine hochwertige Stock-Stimme oft völlig ausreichend. Die Qualität aktueller Stock-Stimmen ist sehr hoch, die Auswahl an deutschen Stimmen wächst, und es gibt keine reale Person, deren Persönlichkeitsrechte berührt werden – vorausgesetzt, der Anbieter hat die zugrunde liegenden Aufnahmen sauber lizenziert. Der Nachteil liegt in der fehlenden Exklusivität: Dieselbe Stimme kann auch im Werbespot eines Wettbewerbers oder in einem fragwürdigen Social-Media-Video auftauchen. Einige Anbieter bieten deshalb exklusiv lizenzierte Stimmen an, was eine interessante Mittelposition darstellt.
Ein Klon lohnt sich dort, wo eine bestimmte Person identitätsstiftend ist: die Geschäftsführerin, die regelmäßig Botschaften an die Belegschaft richtet; der erfahrene Trainer, dessen Stimme in allen Schulungen vertraut ist; die Markenstimme, die über Jahre in Ansagen, Videos und Podcasts präsent sein soll. Auch bei hohem Aktualisierungsbedarf – etwa bei Produktschulungen, die sich mit jeder Softwareversion ändern – spielt ein Klon seine Stärken aus, weil einzelne Sätze ohne neue Aufnahme angepasst werden können. Voraussetzung ist eine tragfähige vertragliche Grundlage mit der betroffenen Person.
Bei emotional anspruchsvollen Inhalten, hochwertigen Imagefilmen, Werbespots mit großer Reichweite oder sensibler Krisenkommunikation bleibt der professionelle Sprecher oft die beste Wahl. Menschen interpretieren Texte, setzen Akzente, die kein Prompt beschreiben kann, und bringen Authentizität mit, die Zuhörende spüren. Eine sinnvolle Arbeitsteilung sieht häufig so aus: Der Sprecher produziert die Kernversion, ein mit seiner ausdrücklichen und vergüteten Zustimmung erstellter Klon übernimmt Aktualisierungen und Sprachversionen. Viele Sprecherinnen und Sprecher bieten solche Modelle inzwischen aktiv an – mit klar geregelten Nutzungsrechten.
Ein Klon kann nie besser sein als das Material, aus dem er entsteht. Für eine belastbare Markenstimme empfehlen wir eine strukturierte Aufnahmesitzung in einer akustisch ruhigen Umgebung – idealerweise in einem kleinen Studio oder zumindest in einem gedämpften Raum mit einem hochwertigen Mikrofon. Die sprechende Person sollte ausgeruht sein, in ihrer natürlichen Sprechweise bleiben und Texte lesen, die der späteren Verwendung ähneln: Fachbegriffe, Zahlen, unterschiedliche Satzarten, verschiedene Stimmungen. Hintergrundgeräusche, Hall, Musik oder Raschelgeräusche werden vom Modell mitgelernt und tauchen später als Artefakte auf. Die konkrete Menge an benötigtem Material hängt vom Anbieter und Verfahren ab und sollte dort geprüft werden.
Bewährt hat sich, die Aufnahme zu dokumentieren: Wer hat wann, wo und wofür aufgenommen, welche Einwilligung liegt vor, wo werden die Rohdaten gespeichert? Diese Dokumentation ist nicht nur rechtlich hilfreich, sondern erleichtert auch spätere Neuaufnahmen, etwa wenn ein Anbieter gewechselt oder ein Modell verbessert werden soll.
Ein Stimmklon sollte niemals frei im Unternehmen verfügbar sein. Bewährt hat sich ein Vier-Augen-Prinzip: Inhalte, die mit einer personengebundenen Stimme erzeugt werden, durchlaufen vor der Veröffentlichung eine Freigabe – bei besonders sensiblen Stimmen wie der Geschäftsführung idealerweise durch die betroffene Person selbst oder eine benannte Vertretung. Rollen und Berechtigungen werden im Werkzeug technisch abgebildet: Wer darf die Stimme nutzen, wer darf Inhalte freigeben, wer darf die Stimme verwalten oder löschen?
Für den Betrieb stehen grundsätzlich drei Modelle zur Wahl. Die SaaS-Nutzung bei einem spezialisierten Anbieter ist am schnellsten eingerichtet und bietet die höchste Qualität sowie fertige Schutzfunktionen, bedeutet aber, dass Stimmproben und Klonmodell beim Anbieter liegen – häufig in den USA. Enterprise- oder Private-Cloud-Varianten einiger Anbieter erlauben es, Verarbeitungsort und Datenhaltung stärker zu steuern; Verfügbarkeit und Bedingungen sind individuell zu prüfen. Das Self-Hosting offener Modelle auf eigener Hardware oder bei einem europäischen Hoster bietet maximale Datenhoheit, verlangt aber eigenes Know-how für Betrieb, Updates, Absicherung und Qualitätskontrolle. Gerade für biometrisch sensible Stimmdaten, etwa der Geschäftsführung, kann Self-Hosting eine überlegenswerte Option sein – sofern die Qualität im Deutschen für den jeweiligen Zweck ausreicht.
Unabhängig vom Modell gehört ein regelmäßiger Qualitätscheck dazu. Anbieter aktualisieren ihre Modelle, und damit kann sich der Klang einer Stimme subtil verändern. Eine kleine Sammlung von Referenztexten, die nach jedem Update erneut erzeugt und verglichen werden, schützt vor unbemerkten Qualitätsverschiebungen.
Die Szenarien klingen eingängig, doch der Erfolg hängt weniger von der Stimme als vom Prozess ab. Ein geklonter Trainer, der fehlerhafte Texte vorliest, bleibt eine schlechte Schulung. Eine perfekt klingende Telefonansage nützt wenig, wenn das Menü dahinter unübersichtlich ist. Und ein Voice-Agent, der Anliegen nicht versteht, frustriert Anrufende unabhängig davon, wie angenehm seine Stimme klingt. Planen Sie deshalb neben der Stimmerstellung ausreichend Zeit für Textqualität, Aussprache-Lexika, Hörproben und Rückmeldungen der Zielgruppe ein. Rechnen Sie zudem damit, dass einzelne Sätze manuell nachgebessert werden müssen – etwa wenn ein Fachbegriff falsch betont wird.
Ein guter Einstieg ist klar abgegrenzt, erzeugt sichtbaren Nutzen und birgt ein überschaubares Risiko. Telefonansagen und interne Schulungsvideos mit einer exklusiv lizenzierten oder einer vertraglich sauber geregelten Sprecherstimme sind häufig ideale Startpunkte. Sie zeigen schnell, wie viel Produktionsaufwand entfällt, und lassen sich gut kontrollieren. Den Klon der Geschäftsführung oder einen Voice-Agent mit Kundenkontakt sollten Unternehmen erst angehen, wenn Einwilligungen, Freigabeprozesse, Kennzeichnung und Schutzmaßnahmen gegen Missbrauch etabliert sind.
Wenn Stimmen von Mitarbeitenden geklont werden, ist Transparenz unverzichtbar. Die Betroffenen sollten genau verstehen, wofür ihre Stimme genutzt wird, wer Zugriff hat und wie sie ihre Zustimmung zurückziehen können – ohne Nachteile befürchten zu müssen. Da die Einwilligung im Arbeitsverhältnis besonderen Anforderungen an die Freiwilligkeit unterliegt, ist besondere Sorgfalt geboten. Zudem kann je nach Ausgestaltung eine Mitbestimmung des Betriebsrats berührt sein, etwa wenn Systeme eingeführt werden, die zur Leistungs- oder Verhaltenskontrolle geeignet sein könnten. Eine frühzeitige Einbindung schafft Akzeptanz und vermeidet spätere Konflikte.
Eine Stimmaufnahme, die einer Person zugeordnet werden kann, ist ein personenbezogenes Datum im Sinne der DSGVO. Werden aus der Stimme Merkmale extrahiert, um die Person eindeutig zu identifizieren oder ihre Stimme nachzubilden, kann es sich zudem um biometrische Daten handeln, die als besondere Kategorie personenbezogener Daten einem erhöhten Schutz unterliegen. Ob die Schwelle zur besonderen Kategorie im konkreten Fall überschritten ist, wird in der Fachdiskussion unterschiedlich bewertet; vorsichtige Unternehmen behandeln Stimmklone so, als ob sie es wären. In der Praxis bedeutet das: Eine ausdrückliche, informierte und freiwillige Einwilligung ist die naheliegende Rechtsgrundlage, eine Datenschutz-Folgenabschätzung ist in vielen Fällen angezeigt, und technische Schutzmaßnahmen müssen dem hohen Risiko entsprechen.
Neben dem Datenschutz greift das allgemeine Persönlichkeitsrecht. Die Stimme ist Teil der Persönlichkeit, und ihre Nachbildung ohne Zustimmung kann Unterlassungs- und Schadensersatzansprüche auslösen – unabhängig davon, ob die DSGVO im Einzelfall anwendbar ist. Bei Sprecherinnen und Sprechern kommen zudem Leistungsschutzrechte an ihren Aufnahmen hinzu. Ein schriftlicher Vertrag, der Zweck, Umfang, Dauer, Vergütung, Sprachen, Plattformen, Widerruf und Löschung regelt, ist deshalb unverzichtbar.
Die europäische KI-Verordnung (AI Act) sieht Transparenzpflichten für synthetische Inhalte vor. Anbieter von Systemen, die synthetische Audioinhalte erzeugen, sollen dafür sorgen, dass diese maschinenlesbar als künstlich erzeugt erkennbar sind. Betreiber, die sogenannte Deepfakes erstellen – also Inhalte, die realen Personen täuschend ähneln und fälschlich als echt erscheinen könnten –, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Zudem müssen Menschen, die mit einem KI-System interagieren, darüber informiert werden, sofern dies nicht offensichtlich ist – ein zentraler Punkt für Voice-Agents. Die Pflichten gelten gestaffelt; den genauen Anwendungsbeginn, Ausnahmen etwa für erkennbar künstlerische oder satirische Inhalte und die Konkretisierung durch Leitlinien und Verhaltenskodizes sollten Sie aktuell prüfen. Pragmatisch empfehlen wir, schon heute einheitliche Kennzeichnungstexte für Videos, Ansagen und Agents einzuführen.
Die Kehrseite der Technologie betrifft jedes Unternehmen – auch solche, die selbst keine Stimmen klonen. Beim sogenannten CEO-Fraud geben sich Betrüger als Führungskraft aus und fordern Mitarbeitende zu dringenden Überweisungen oder zur Herausgabe vertraulicher Informationen auf. Mit geklonten Stimmen wird diese Masche deutlich überzeugender: Ein Anruf oder eine Sprachnachricht, die genau wie die Geschäftsführung klingt, setzt Mitarbeitende unter Druck. Öffentliche Interviews, Messevideos oder Podcast-Auftritte liefern Angreifern das nötige Material.
Werden Stimmproben an einen Anbieter mit Sitz außerhalb der EU übermittelt, ist der Drittlandbezug zu bewerten. Transfermechanismen wie Angemessenheitsbeschlüsse oder Standardvertragsklauseln können den Transfer absichern, ändern aber nichts daran, dass ein außereuropäischer Anbieter grundsätzlich dem Recht seines Sitzlandes unterliegt. Für biometrisch sensible Daten wie eine Stimmidentität sollte diese Abhängigkeit bewusst abgewogen werden. Einige Anbieter bieten Datenverarbeitung in der EU, dedizierte Instanzen oder On-Premise-Varianten an – Verfügbarkeit und genaue Zusagen sind individuell zu prüfen. Die souveränste Option ist das Self-Hosting offener Modelle in eigener Infrastruktur oder bei einem europäischen Hoster, verbunden mit höherem Eigenaufwand und je nach Modell geringerer Qualität im Deutschen. Viele Unternehmen kombinieren die Wege: Stock-Stimmen und unkritische Inhalte über SaaS, besonders sensible Stimmen in kontrollierter Umgebung.