Wer sich mit offenen KI-Modellen beschäftigt, stößt schnell auf zwei sehr unterschiedliche Dinge, die leicht verwechselt werden: das Basismodell (das eigentliche, aufwendig vortrainierte Foundation-Modell eines großen Anbieters) und den Fine-Tune (eine darauf aufbauende, nachtrainierte Spezialisierung). Nous Hermes gehört eindeutig in die zweite Kategorie. Nous Research nimmt offene Basismodelle und trainiert sie mit kuratierten Anweisungs- und Dialogdaten nach, um das Verhalten zu verbessern – insbesondere die Fähigkeit, Aufgaben sauber, strukturiert und ohne überflüssige Ausweichmanöver zu erledigen.
Drei Eigenschaften prägen Nous Hermes und erklären, warum die Familie im Open-Source-Umfeld einen Namen hat:
Damit besetzt Hermes eine klar umrissene Nische: Es ist eine pragmatische Brücke zwischen einem rohen offenen Basismodell, das oft schwer zu steuern ist, und einem fertigen, geschlossenen Cloud-Dienst, bei dem man wenig Kontrolle über Betrieb und Datenfluss hat. Für Unternehmen, denen Datenhoheit, Unabhängigkeit und Anpassbarkeit wichtig sind, ist das ein interessanter Mittelweg.
Hinter der Hermes-Familie steht Nous Research, ein im Open-Source-Umfeld bekanntes Forschungs- und Entwicklerkollektiv. Der Charakter ist deutlich stärker community-getrieben als bei den großen kommerziellen Anbietern: Modelle, Diskussionen und Beschreibungen werden offen geteilt, und die Weiterentwicklung orientiert sich an dem, was die offene KI-Community braucht. Das bringt Stärken mit sich – Transparenz, Offenheit, schnelle Iteration – aber auch Eigenheiten, etwa beim Support und bei der Frage, wer im Zweifelsfall haftet. Auf diese Punkte gehen wir in den Kapiteln zu Betrieb, Kosten und Datenschutz noch genauer ein.
Dieser Beitrag richtet sich an Entscheiderinnen und Entscheider im DACH-Mittelstand, die offene KI-Modelle realistisch einschätzen wollen – ohne Marketing und ohne übertriebene technische Tiefe. Wir bewerten Hermes herstellerneutral, ordnen die Familie in das Gesamtbild offener und geschlossener Modelle ein und benennen ehrlich, wo die Grenzen liegen. Konkrete technische Kennzahlen – etwa Parameterzahlen, Kontextfenster oder Lizenzdetails einzelner Varianten – ändern sich häufig und sollten immer direkt beim Anbieter beziehungsweise im jeweiligen Modell-Repositorium geprüft werden.
Ein Basismodell (auch Foundation-Modell genannt) ist das eigentliche Fundament: Es wird mit enormem Rechenaufwand auf riesigen Textmengen vortrainiert und bildet das Sprach- und Weltwissen ab. Solche Modelle stammen von Organisationen mit entsprechender Rechenleistung. Ein Fine-Tune wie Hermes setzt darauf auf: Er nimmt ein fertiges offenes Basismodell und trainiert es mit deutlich kleinerem Aufwand auf kuratierten Daten nach, um Verhalten und Brauchbarkeit zu verbessern. Bildlich gesprochen baut Nous Research nicht das Haus von Grund auf, sondern richtet ein vorhandenes, solides Gebäude für einen bestimmten Zweck ein.
Diese Abgrenzung ist für die Praxis zentral: Wer Hermes nutzt, erbt Eigenschaften des zugrunde liegenden Basismodells – etwa dessen grundsätzliche Fähigkeiten, dessen Sprachabdeckung und auch dessen Lizenzbedingungen. Der Fine-Tune verändert vor allem das Verhalten, nicht das Fundament. Das bedeutet auch: Hermes ist nur so gut wie das offene Basismodell, auf dem es aufsetzt, plus die Qualität des Nachtrainings.
Hermes ist keine einzelne Datei, sondern eine fortlaufend weiterentwickelte Familie. Über die Zeit sind mehrere Generationen und Varianten entstanden, die jeweils auf unterschiedlichen offenen Basismodellen aufbauen und sich in Größe und Schwerpunkt unterscheiden. Statt einzelne Versionsnummern und Kennzahlen zu nennen – die sich ohnehin laufend ändern – ist es sinnvoller, die typischen Ausprägungen zu verstehen, in denen solche Fine-Tunes erscheinen.
In der Landschaft der Sprachmodelle besetzt Hermes eine klare Position: offen statt geschlossen, anpassbar statt fertig verpackt, community-getrieben statt konzerngesteuert. Damit grenzt sich die Familie bewusst von den großen kommerziellen Plattformen ab. Während ein Anbieter wie OpenAI oder Microsoft ein rundum betriebenes Produkt liefert, liefert Nous Research ein Modell, das man selbst in die Hand nimmt. Der Mehrwert liegt nicht in einer fertigen Oberfläche, sondern in der Kontrolle und Freiheit über das Modell selbst.
Gleichzeitig ist Hermes nicht der einzige Akteur in dieser Nische. Es gibt zahlreiche weitere Fine-Tunes und auch die rohen offenen Basismodelle selbst. Hermes hat sich vor allem einen Ruf für brauchbare Instruktionsfolge und ein pragmatisches, wenig ausweichendes Antwortverhalten erarbeitet – das ist der eigentliche Markenkern der Familie. Ob eine konkrete Hermes-Variante zu einem Projekt passt, hängt jedoch immer vom zugrunde liegenden Basismodell und vom konkreten Anwendungsfall ab.
Bei aller Stärke in der Instruktionsfolge gilt: Hermes-Modelle bewegen sich im Rahmen dessen, was ihr offenes Basismodell hergibt. Sie sind in der Regel nicht mit den jeweils stärksten kommerziellen Spitzenmodellen der großen Anbieter gleichzusetzen, vor allem bei sehr komplexem Schlussfolgern, langen Kontexten oder Spezialwissen. Wer Hermes einsetzt, sollte den Anwendungsfall daher auf das ausrichten, was offene Modelle gut können – und nicht erwarten, einen Spitzen-Cloud-Dienst eins zu eins zu ersetzen.
Die Qualität in deutscher Sprache hängt maßgeblich vom zugrunde liegenden Basismodell ab. Viele offene Modelle sind primär englischsprachig optimiert; Deutsch funktioniert oft gut, ist aber nicht immer auf dem Niveau der englischen Ausgaben. Für DACH-Unternehmen lohnt sich daher ein konkreter Test mit den eigenen, typischen Aufgaben in deutscher Sprache, bevor eine Variante produktiv gesetzt wird. Pauschale Aussagen über die Sprachqualität sind wenig belastbar – hier zählt der eigene Praxistest.
Offene Gewichte (Open Weights) heißt: Die trainierten Modellparameter werden öffentlich bereitgestellt und lassen sich herunterladen und lokal ausführen. Das ist ein großer Unterschied zu einem geschlossenen Cloud-Modell, bei dem man nur über eine Schnittstelle auf ein Modell zugreift, das man weder sieht noch besitzt. Mit offenen Gewichten erhält man eine deutlich höhere Kontrolle über Betrieb und Datenfluss.
Wichtig ist allerdings die Abgrenzung: „Open Weights“ ist nicht automatisch dasselbe wie „freie Software“ oder „uneingeschränkt nutzbar“. Offen verfügbare Gewichte können trotzdem an Lizenzbedingungen geknüpft sein, die bestimmte Nutzungen einschränken – etwa bei sehr großen kommerziellen Einsätzen oder bestimmten Verwendungszwecken. Offen heißt also „zugänglich und betreibbar“, nicht zwangsläufig „bedingungslos erlaubt“.
Weil Hermes auf einem fremden Basismodell aufbaut, übernimmt es dessen lizenzrechtliche Rahmenbedingungen mit. Wenn das Basismodell zum Beispiel bestimmte kommerzielle Nutzungen einschränkt, betrifft das auch den darauf basierenden Fine-Tune – unabhängig davon, wie offen der Fine-Tune selbst formuliert ist. Für die Praxis heißt das: Es genügt nicht, nur die Hermes-Beschreibung zu lesen. Man muss bis zum Basismodell zurückverfolgen, welche Lizenz gilt und welche Pflichten oder Einschränkungen daraus folgen.
Der große Vorteil bleibt dabei bestehen: Im Vergleich zu vielen geschlossenen Diensten bietet ein offenes Modell wie Hermes deutlich mehr Transparenz und Selbstbestimmung. Man weiß, was man betreibt, kann es prüfen und ist nicht von der Verfügbarkeit oder den Preisentscheidungen eines einzelnen Anbieters abhängig. Diese Unabhängigkeit ist für viele Mittelständler ein gewichtiges Argument – sie muss aber mit der Verantwortung erkauft werden, die Lizenz- und Betriebsfragen selbst sauber zu klären.
Aus unserer Beratungspraxis ergeben sich klare Muster. Hermes – oder ein vergleichbarer offener Fine-Tune – ist sinnvoll, wenn Datenhoheit und Self-Hosting zentral sind, etwa weil sensible Daten die eigene Umgebung nicht verlassen dürfen. Ebenso, wenn Anpassbarkeit und Unabhängigkeit wichtiger sind als maximale Bequemlichkeit, oder wenn ein Unternehmen ohnehin eigene KI-Infrastruktur betreibt und diese sinnvoll auslasten möchte. Auch für Forschung, Experimente und interne Werkzeuge mit überschaubarem Risiko sind offene Fine-Tunes attraktiv.
Ein rohes Basismodell kann die bessere Wahl sein, wenn man ohnehin ein sehr eigenes Nachtraining plant und volle Kontrolle über den gesamten Anpassungsprozess will – dann ist der Fine-Tune nur ein Zwischenschritt. Ein kommerzieller Cloud-Dienst ist meist überlegen, wenn schnelle Einsatzbereitschaft, garantierter Support, planbare Wartung und Spitzenleistung bei sehr komplexen Aufgaben im Vordergrund stehen – und wenn die Auslagerung der Daten an einen externen Anbieter vertretbar ist. Viele Mittelständler fahren am Ende eine Misch-Strategie: kommerzielle Dienste für breite, unkritische Produktivität und ein selbst gehostetes offenes Modell wie Hermes für datensensible oder stark angepasste Anwendungsfälle.
Offene Modelle wie Hermes werden typischerweise über öffentliche Modell-Repositorien bereitgestellt, aus denen sich die Gewichte herunterladen lassen. Von dort führen verschiedene Wege in den Betrieb:
Self-Hosting von Sprachmodellen ist kein Selbstläufer. Die wichtigsten Voraussetzungen, die wir in Projekten immer wieder prüfen:
Self-Hosting wird oft als reine Kostenfrage diskutiert, ist aber vor allem eine Frage der Fähigkeiten und der Verantwortung. Der Reiz ist groß: volle Datenhoheit, Unabhängigkeit, freie Anpassung. Der Preis dafür ist, dass alles, was ein kommerzieller Anbieter sonst übernimmt – Betrieb, Verfügbarkeit, Sicherheit, Aktualisierung – nun in der eigenen Verantwortung liegt. Für Unternehmen mit vorhandenem Infrastruktur- und Betriebs-Know-how ist das gut machbar. Für Organisationen ohne entsprechende Kapazitäten empfiehlt sich entweder ein erfahrener Partner oder ein bewusster Einstieg über Managed Hosting, bevor man in vollständigen Eigenbetrieb investiert.
Nicht jeder Anwendungsfall passt zu einem selbst gehosteten Fine-Tune. Bei geschäftskritischen Anwendungen mit hohen Verfügbarkeitsanforderungen, ohne eigenes Betriebs-Know-how, ist der Eigenbetrieb riskant. Bei Aufgaben, die echte Spitzenleistung verlangen, kann ein offenes Modell an Grenzen stoßen. Und wo schnelle, breite Verfügbarkeit über fertige Oberflächen gefragt ist, sind kommerzielle Dienste meist die pragmatischere Wahl. Die ehrliche Empfehlung lautet daher: Hermes dort einsetzen, wo seine Stärken – Datenhoheit, Anpassbarkeit, Unabhängigkeit – tatsächlich gebraucht werden, und nicht als Universalwerkzeug für alles.
Dass die Gewichte eines Modells offen verfügbar sind, bedeutet nicht, dass der Einsatz kostenlos ist. Die wesentlichen Kostentreiber liegen woanders – und sie werden in Eigenbetriebsprojekten regelmäßig unterschätzt:
Im Vergleich zu einem kommerziellen Cloud-Dienst verschiebt sich die Kostenstruktur grundlegend. Beim Cloud-Dienst zahlt man laufend pro Nutzung oder pro Nutzer und bekommt Betrieb, Wartung und Support inklusive. Beim Eigenbetrieb eines offenen Modells entfallen die nutzungsabhängigen Anbietergebühren, dafür trägt man Infrastruktur-, Betriebs- und Personalkosten selbst. Ob sich das rechnet, hängt stark vom Nutzungsvolumen, von der vorhandenen Infrastruktur und vom internen Know-how ab. Für hohe, gleichmäßige Lasten und vorhandenes Betriebs-Know-how kann Eigenbetrieb wirtschaftlich attraktiv werden; für geringe oder schwankende Nutzung ohne eigenes Team ist ein Cloud-Dienst oft günstiger und einfacher.
Die entscheidende Kennzahl ist nicht der Preis des Modells, sondern die gesamten Betriebskosten über die Nutzungsdauer (Total Cost of Ownership). Dazu gehören Infrastruktur, Betrieb, Personal, Integration und der laufende Aufwand für Aktualisierung und Sicherheit. Erst diese Gesamtbetrachtung erlaubt einen fairen Vergleich mit einem kommerziellen Dienst. In unserer Beratungspraxis empfehlen wir, vor einer Grundsatzentscheidung beide Szenarien durchzurechnen – mit realistischen Annahmen statt mit dem verlockenden, aber irreführenden Wort „kostenlos“.
Der größte datenschutzrechtliche Vorteil eines selbst gehosteten Modells liegt auf der Hand: Wenn Hermes vollständig in der eigenen Umgebung läuft, verlassen die verarbeiteten Daten diese Umgebung nicht zwangsläufig. Es gibt keinen externen KI-Anbieter, an den Eingaben übermittelt werden, und damit auch keine Auftragsverarbeitung durch einen Dritten für die eigentliche Modellnutzung. Das reduziert eine ganze Klasse von Risiken, die bei Cloud-Diensten zu betrachten sind – insbesondere die Frage des Datentransfers an Anbieter außerhalb des eigenen Einflussbereichs.
Self-Hosting verlagert die Verantwortung nicht weg, sondern hin zu Ihnen. Bei einem Cloud-Dienst kann man sich auf vertragliche Zusicherungen, Zertifizierungen und etablierte Auftragsverarbeitungsverträge des Anbieters stützen. Beim Eigenbetrieb gibt es keinen solchen Anbieter, der diese Pflichten übernimmt – Sie müssen Rechtsgrundlage, technische und organisatorische Maßnahmen, Zugriffskontrolle, Protokollierung und Löschkonzepte selbst sicherstellen. Das ist machbar, erfordert aber bewusste Arbeit und sollte nicht unterschätzt werden, nur weil „die Daten ja im Haus bleiben“.
Wer Hermes nicht selbst, sondern über einen Hosting-Dienstleister betreibt, sollte beachten: In diesem Fall gibt man einen Teil der Datenhoheit wieder ab. Dann gelten dieselben Fragen wie bei jedem Cloud-Dienst – wo werden die Daten verarbeitet, gibt es einen Auftragsverarbeitungsvertrag, welche Subunternehmer sind beteiligt, findet eine Verarbeitung außerhalb der EU statt? Ein in der EU betriebenes Hosting kann hier helfen, das Risiko zu begrenzen, ersetzt aber nicht die sorgfältige vertragliche und technische Prüfung. Auch hier gilt: Die konkrete Bewertung gehört in fachkundige Hände.
Für datensensible Anwendungen kann ein selbst gehostetes Hermes-Modell ein sehr starkes Datenschutzargument sein – vorausgesetzt, der Betrieb wird sauber aufgesetzt und die eigenen Pflichten als Verantwortlicher werden ernst genommen. Wir empfehlen, Datenschutz und Sicherheit von Beginn an mitzudenken, den Datenschutzbeauftragten früh einzubinden und die geplante Verarbeitung sorgfältig zu dokumentieren. So wird aus dem theoretischen Vorteil der Datenhoheit ein belastbarer, prüffähiger Zustand.
