Moderne KI-Suche beruht auf einem einfachen Prinzip: Embedding-Modelle übersetzen Texte, Bilder, Audiodateien oder andere Inhalte in lange Zahlenreihen, sogenannte Vektoren. Inhalte mit ähnlicher Bedeutung erhalten Vektoren, die im mathematischen Raum nah beieinanderliegen. Eine Frage wie „Welche Wartungsintervalle gelten für die Hydraulikpresse?“ findet so die passende Stelle im Wartungshandbuch, auch wenn dort von „Inspektionszyklen der Pressenhydraulik“ die Rede ist. Die Aufgabe einer Vektordatenbank besteht darin, zu einem Anfragevektor möglichst schnell die nächsten Nachbarn zu finden – und das nicht nur bei einigen Tausend, sondern bei Millionen oder Milliarden von Vektoren, gefiltert nach Metadaten, mit laufenden Aktualisierungen und vielen gleichzeitigen Nutzern.
Genau für dieses Problem wurde Milvus konzipiert. Die Datenbank organisiert Vektoren in Collections, vergleichbar mit Tabellen, die ein festes oder dynamisches Schema besitzen. Neben einem oder mehreren Vektorfeldern enthält jeder Datensatz skalare Felder wie Quelle, Datum, Sprache, Abteilung oder Dokumenttyp sowie gegebenenfalls JSON-Felder und Arrays. Auf die Vektorfelder werden spezialisierte Indizes gelegt, die eine näherungsweise, aber sehr schnelle Nachbarsuche ermöglichen. Abfragen kombinieren diese Suche mit Filtern auf den skalaren Feldern und liefern die ähnlichsten Datensätze zurück.
Milvus wurde Ende der 2010er-Jahre vom Unternehmen Zilliz ins Leben gerufen und als Open-Source-Projekt veröffentlicht. Später wurde das Projekt an die LF AI & Data Foundation übergeben, eine Stiftung unter dem Dach der Linux Foundation, und hat dort den Status eines etablierten, sogenannten graduierten Projekts erreicht. Das hat praktische Bedeutung: Markenrechte und Projekt-Governance liegen bei einer neutralen Stiftung, der Quellcode steht unter der freizügigen Apache-2.0-Lizenz, und Beiträge kommen neben Zilliz auch von anderen Unternehmen und Einzelpersonen. Zilliz bleibt dennoch der mit Abstand wichtigste Treiber der Entwicklung und betreibt mit Zilliz Cloud das kommerzielle, gemanagte Angebot rund um Milvus.
Mit der zweiten Hauptversion wurde Milvus grundlegend neu entworfen. Aus einer eher monolithischen Anwendung wurde eine cloudnative, verteilte Architektur, die Speicherung und Berechnung trennt und einzelne Komponenten unabhängig voneinander skalieren lässt. Diese Neuausrichtung erklärt bis heute das Profil des Systems: Milvus ist darauf ausgelegt, mit wachsenden Datenmengen und Lasten mitzuwachsen, ohne dass die Anwendung umgebaut werden muss. Die Entwicklung ist ausgesprochen aktiv; neue Versionen bringen regelmäßig zusätzliche Indextypen, Such- und Filterfunktionen sowie Vereinfachungen im Betrieb. Welche Funktion in welcher Version verfügbar ist, sollte stets in der offiziellen Dokumentation und den Versionshinweisen geprüft werden.
In einer Retrieval-Augmented-Generation-Architektur ist Milvus das Langzeitgedächtnis des Systems. Dokumente werden in Abschnitte zerlegt, von einem Embedding-Modell vektorisiert und als Datensätze in einer Collection gespeichert – mit Text, Quelle, Berechtigungsinformationen und weiteren Metadaten. Stellt eine Nutzerin eine Frage, wird diese ebenfalls vektorisiert, Milvus liefert die ähnlichsten Abschnitte unter Berücksichtigung der Filter, und ein Sprachmodell formuliert daraus eine Antwort mit Quellenangaben.
Im Unterschied zu einer Vektorsuche, die in eine bestehende relationale Datenbank eingebaut ist, ist Milvus ein zusätzliches, spezialisiertes System. Das bringt Vorteile bei Leistung, Skalierung und Funktionsumfang für die Vektorsuche, bedeutet aber auch eine eigene Datenhaltung, die mit den führenden Quellsystemen synchron gehalten werden muss, und eigene Betriebsprozesse. Die zentrale Frage für mittelständische Unternehmen lautet daher nicht, ob Milvus technisch leistungsfähig ist – das ist unstrittig –, sondern ob die eigenen Anforderungen diese Leistungsfähigkeit tatsächlich benötigen und ob die Organisation den Betrieb tragen kann.
Milvus Lite senkt die Einstiegshürde erheblich. Die Variante wird wie jede andere Python-Bibliothek installiert und speichert ihre Daten in einer lokalen Datei. Es braucht weder Container noch Server, und Entwicklerinnen können innerhalb weniger Minuten erste Collections anlegen, Dokumente vektorisieren und Suchanfragen ausprobieren. Weil dieselbe Client-Bibliothek verwendet wird wie für die größeren Varianten, lässt sich der Code später weitgehend unverändert gegen einen Server richten – meist genügt es, die Verbindungsadresse zu ändern. Milvus Lite eignet sich für Prototypen, automatisierte Tests, Schulungen und Edge-Szenarien mit kleinen Datenmengen. Für den Produktivbetrieb mit vielen Nutzern ist die Variante nicht gedacht, und nicht alle Index- und Betriebsfunktionen stehen dort in vollem Umfang zur Verfügung.
Milvus Standalone bündelt alle Komponenten in einem einzigen Dienst, der auf einem Server läuft. Typischerweise wird er mit Docker oder Docker Compose gestartet, zusammen mit den benötigten Hilfsdiensten für Metadaten und Objektspeicher. Diese Variante ist für viele mittelständische Szenarien der eigentliche Sweet Spot: Sie bietet die vollständige Funktionsbreite der Milvus-Abfragesprache, die gängigen Indextypen und Hybrid-Suche, ohne dass ein Kubernetes-Cluster betrieben werden muss. Die Grenze ist die Kapazität eines einzelnen Servers – sowohl beim Arbeitsspeicher für die Indizes als auch bei der Rechenleistung für Abfragen und Indexaufbau – sowie die fehlende Ausfallsicherheit eines Einzelknotens. Wer Hochverfügbarkeit braucht, muss entweder auf die verteilte Variante wechseln oder ein Konzept mit schneller Wiederherstellung aus Backups etablieren.
Milvus Distributed entfaltet die volle Architektur des Systems. Auf Kubernetes laufen getrennte Rollen für die Annahme von Anfragen, die Ausführung von Suchen, die Aufnahme neuer Daten und den Aufbau von Indizes, koordiniert von zentralen Steuerungskomponenten. Jede Rolle kann unabhängig skaliert werden: Steigt das Abfragevolumen, kommen weitere Abfrageknoten hinzu; wächst der Datenbestand schnell, werden mehr Ressourcen für Datenaufnahme und Indexierung bereitgestellt. Die Installation erfolgt über Helm-Charts oder einen eigenen Kubernetes-Operator. Diese Variante ist leistungsfähig, aber anspruchsvoll im Betrieb und setzt ein Team mit belastbarer Kubernetes-Erfahrung voraus.
Zilliz Cloud ist der gemanagte Dienst des Hauptentwicklers. Er nimmt Kunden Installation, Skalierung, Updates, Backups und Überwachung ab und bietet zusätzlich eigene Komfort- und Leistungsfunktionen, etwa eine proprietäre, auf den Cloudbetrieb optimierte Suchengine, Werkzeuge für Datenmigration und Pipelines zur Vektorisierung. Das Angebot gliedert sich in mehrere Ausprägungen – von einem kostenlosen Einstiegstarif über Serverless-Varianten mit nutzungsabhängiger Abrechnung bis zu dedizierten Clustern. Hinzu kommt eine sogenannte Bring-your-own-Cloud-Variante, bei der die Datenebene im Cloud-Konto des Kunden läuft, während Zilliz die Steuerungsebene verantwortet. Zilliz Cloud läuft auf Infrastruktur großer Hyperscaler; welche Regionen – auch europäische – für welche Ausprägung verfügbar sind und welche Konditionen gelten, ist beim Anbieter zu prüfen, da sich das Angebot regelmäßig weiterentwickelt.
Die zentrale Organisationseinheit ist die Collection. Sie besitzt ein Schema mit einem Primärschlüssel, einem oder mehreren Vektorfeldern und beliebig vielen skalaren Feldern. Unterstützt werden unter anderem Ganzzahlen, Gleitkommazahlen, Zeichenketten, boolesche Werte, JSON-Felder und Arrays. Wahlweise kann ein dynamisches Schema aktiviert werden, bei dem zusätzliche, nicht vorab definierte Felder gespeichert werden – praktisch in frühen Projektphasen, in denen sich die Metadaten noch ändern. Bei den Vektorfeldern unterscheidet Milvus zwischen dichten Gleitkommavektoren in voller und reduzierter Genauigkeit, Binärvektoren und dünnbesetzten Sparse-Vektoren. Dass eine Collection mehrere Vektorfelder tragen kann, ist ein wichtiges Merkmal: Ein Dokumentabschnitt kann so gleichzeitig ein dichtes Embedding, einen Sparse-Vektor und etwa ein Bild-Embedding besitzen.
Innerhalb einer Collection lassen sich Daten in Partitionen gliedern, etwa nach Jahr, Standort oder Datenquelle. Für Anwendungen mit vielen Mandanten bietet Milvus das Konzept des Partition Key: Ein skalares Feld – zum Beispiel die Mandanten- oder Kunden-ID – bestimmt automatisch, in welcher Partition ein Datensatz landet, und Suchanfragen mit Filter auf dieses Feld durchsuchen nur die relevanten Teile. Für Mandantentrennung stehen damit mehrere Muster zur Wahl: eigene Datenbanken, eigene Collections, eigene Partitionen oder Partition Keys. Welches Muster passt, hängt von der Zahl der Mandanten, dem Isolationsbedarf und dem Verwaltungsaufwand ab. Wichtig für Sicherheitskonzepte: Ein Filter in der Abfrage ist eine logische Trennung, keine physische; wo strikte Isolation gefordert ist, sind getrennte Collections oder Datenbanken mit Rechtevergabe die belastbarere Lösung.
Milvus unterstützt eine große Bandbreite an Indexverfahren. Neben der exakten Suche ohne Index, die perfekte Trefferqualität bei kleinen Beständen liefert, gibt es Verfahren der IVF-Familie, die den Vektorraum in Gruppen aufteilen und nur die vielversprechendsten Gruppen durchsuchen – in Varianten ohne Kompression sowie mit skalarer Quantisierung oder Produktquantisierung zur Speicherersparnis. Der graphbasierte HNSW-Index bietet eine sehr gute Balance aus Geschwindigkeit und Trefferquote und ist für viele RAG-Anwendungen die naheliegende Standardwahl; auch zu HNSW existieren Varianten mit Kompression. Für Bestände, deren Indizes nicht mehr in den Arbeitsspeicher passen, steht mit DiskANN ein auf schnelle SSDs ausgelegtes Verfahren bereit, das große Teile des Index auf dem Datenträger hält. Ergänzt wird das Angebot durch weitere Verfahren, etwa auf Basis neuerer Quantisierungsansätze, sowie durch eigene Indizes für Binär- und Sparse-Vektoren.
Eine Besonderheit ist die GPU-Unterstützung. Milvus kann Indizes auf NVIDIA-Grafikkarten aufbauen und durchsuchen, unter anderem mit graphbasierten Verfahren, die speziell für die massive Parallelität von GPUs entwickelt wurden. Das lohnt sich vor allem bei sehr hohem Abfragedurchsatz oder wenn große Bestände schnell neu indexiert werden müssen. Für die meisten mittelständischen Projekte sind GPUs in der Vektordatenbank allerdings nicht erforderlich; die vorhandenen Grafikkarten sind dort meist besser für Embedding- und Sprachmodelle eingesetzt.
Bei den Distanzmetriken unterstützt Milvus für dichte Vektoren die euklidische Distanz, das Skalarprodukt und die Kosinus-Ähnlichkeit, für Binärvektoren unter anderem Hamming- und Jaccard-Distanz und für Sparse-Vektoren das Skalarprodukt. Die Metrik wird beim Indexaufbau festgelegt und sollte zum Embedding-Modell passen; viele Textmodelle sind auf Kosinus-Ähnlichkeit trainiert. Welche Kombinationen aus Index, Datentyp und Metrik in der eingesetzten Version unterstützt werden und welche Dimensionsgrenzen gelten, ist der Dokumentation zu entnehmen.
Neben der reinen Nachbarsuche bietet Milvus eine ausdrucksstarke Filtersprache für skalare Felder: Vergleiche, Bereichsabfragen, Mengenoperatoren, Mustervergleiche bei Zeichenketten sowie Operatoren für JSON-Felder und Arrays. Für häufig gefilterte Felder können eigene skalare Indizes angelegt werden, die die Filterung beschleunigen. Daneben gibt es reine Abfragen ohne Vektor, um Datensätze anhand von Metadaten abzurufen oder zu zählen. Ergänzende Suchmodi wie die Bereichssuche innerhalb eines Ähnlichkeitsintervalls, die gruppierte Suche, die pro Dokument nur den besten Abschnitt zurückgibt, und Iteratoren zum schrittweisen Abrufen großer Ergebnismengen erleichtern typische RAG-Aufgaben. Gerade die gruppierte Suche ist praxisrelevant: Sie verhindert, dass ein einzelnes langes Dokument alle Trefferplätze belegt und andere relevante Quellen verdrängt.
Weil Milvus ein verteiltes System ist, spielt die Konsistenz eine Rolle. Die Datenbank bietet mehrere Konsistenzstufen – von strenger Konsistenz, bei der eine Suche garantiert alle zuvor geschriebenen Daten sieht, bis zu abgeschwächten Stufen, die zugunsten der Geschwindigkeit eine kurze Verzögerung in Kauf nehmen. Für RAG-Anwendungen genügt meist eine abgeschwächte Stufe, da es selten darauf ankommt, ob ein gerade erst indexiertes Dokument sofort oder erst wenige Augenblicke später gefunden wird. Bei Anwendungen, die unmittelbar nach dem Schreiben lesen, etwa beim Gedächtnis von KI-Agenten, sollte die Stufe bewusst gewählt werden.
Reine semantische Suche hat bekannte Schwächen: Artikelnummern, Normbezeichnungen, Produktnamen oder seltene Fachbegriffe werden von dichten Embeddings oft unzuverlässig erfasst. Bewährt hat sich deshalb die Hybrid-Suche, die semantische Ähnlichkeit mit Schlüsselwortrelevanz kombiniert. Milvus unterstützt dieses Muster nativ. Eine Collection kann neben dem dichten Vektorfeld ein Sparse-Vektorfeld tragen, und eine einzige Hybrid-Abfrage durchsucht beide Felder parallel. Die Ergebnislisten werden anschließend mit einem eingebauten Ranker zusammengeführt – entweder über Reciprocal Rank Fusion, die nur die Rangpositionen berücksichtigt, oder über eine gewichtete Kombination der Ähnlichkeitswerte.
Ein wichtiger Schritt war die Einführung einer nativen Volltextsuche auf Basis des BM25-Verfahrens. Statt Sparse-Vektoren außerhalb der Datenbank zu berechnen, kann Milvus Texte selbst in Tokens zerlegen und daraus intern Sparse-Repräsentationen erzeugen. Für die Zerlegung stehen konfigurierbare Analyzer zur Verfügung. Für deutschsprachige Inhalte sollte genau geprüft werden, wie gut der gewählte Analyzer mit Komposita, Umlauten und Flexionen umgeht – die Suche nach „Druckluftkompressor“ soll schließlich auch Abschnitte zu „Kompressoren für Druckluft“ finden. Alternativ lassen sich weiterhin gelernte Sparse-Modelle wie SPLADE oder die Sparse-Ausgabe multifunktionaler Embedding-Modelle verwenden, deren Vektoren extern berechnet und in Milvus gespeichert werden.
Weil Milvus mehrere Vektorfelder pro Datensatz erlaubt, sind auch multimodale Szenarien gut abbildbar. Ein Produktdatensatz kann ein Text-Embedding der Beschreibung, ein Bild-Embedding des Produktfotos und einen Sparse-Vektor für Schlüsselwörter tragen; die Hybrid-Abfrage durchsucht alle drei und fusioniert die Ergebnisse. Für Ersatzteilkataloge, technische Dokumentation mit Zeichnungen oder Bildarchive eröffnet das interessante Möglichkeiten.
Traditionell erzeugt die Anwendung die Embeddings und übergibt fertige Vektoren an die Datenbank. Neuere Milvus-Versionen bieten zusätzlich die Möglichkeit, Embedding-Funktionen im Schema zu hinterlegen: Die Anwendung schreibt Text, und Milvus ruft ein konfiguriertes Embedding-Modell auf, um den Vektor zu erzeugen; bei der Suche gilt das gleiche für die Anfrage. Angebunden werden können sowohl externe Modellanbieter als auch selbst betriebene Modellserver. Das vereinfacht Pipelines, hat aber eine wichtige Datenschutzkonsequenz: Wird ein externer Cloud-Anbieter konfiguriert, verlassen die Texte bei jedem Schreib- und Suchvorgang die eigene Infrastruktur. Für datenschutzsensible Projekte sollte die Funktion deshalb mit einem selbst betriebenen Modell genutzt oder bewusst auf die Vektorisierung in der Anwendung gesetzt werden. Ähnliche Mechanismen bestehen für das Reranking, bei dem die Treffer der ersten Stufe von einem spezialisierten Modell neu sortiert werden. Welche Modellanbieter und Funktionen konkret unterstützt werden, ist der aktuellen Dokumentation zu entnehmen.
Zilliz Cloud ergänzt diese Bausteine um eigene, gemanagte Pipelines für das Einlesen, Zerlegen und Vektorisieren von Dokumenten sowie um Werkzeuge für Datenimport und Migration aus anderen Vektordatenbanken. Für Teams ohne eigene Datenplattform kann das den Weg zum ersten Prototyp verkürzen. Die Kehrseite ist eine stärkere Bindung an den Dienst, denn diese Komfortfunktionen gehören nicht zum Open-Source-Kern. Wer langfristig zwischen gemanagtem und selbst betriebenem Milvus wechseln möchte, sollte die Datenaufbereitung in einer eigenen, portablen Pipeline halten – etwa mit Werkzeugen wie Unstructured, LlamaIndex oder Haystack.
Mit dem Aufkommen von KI-Agenten wächst eine weitere Rolle von Vektordatenbanken: das Agentengedächtnis. Agenten speichern Gesprächsverläufe, Zwischenergebnisse, Werkzeugausgaben und Nutzerpräferenzen und rufen sie später semantisch wieder ab. Milvus eignet sich dafür durch schnelle Einfügungen, Filter auf Sitzungs- und Nutzerkennungen, Partition Keys für viele parallele Nutzer und die Möglichkeit, alte Einträge über Ablaufzeiten automatisch zu entfernen. Zudem existieren Anbindungen an verbreitete Agenten-Frameworks und an das Model Context Protocol, über die Sprachmodelle Milvus direkt als Werkzeug nutzen können. In Automatisierungsszenarien dient Milvus außerdem als Baustein für Duplikaterkennung, Klassifikation anhand ähnlicher Beispiele oder das automatische Zuordnen eingehender Dokumente zu Vorgängen.
Milvus bietet offizielle SDKs für Python, Java, Go und Node.js sowie weitere Clients, etwa für C#, und eine REST-Schnittstelle für Umgebungen, in denen kein SDK verfügbar ist. Intern kommunizieren die Clients über gRPC. Die Python-Bibliothek ist dabei der am weitesten verbreitete Zugang und bietet neben der vollständigen Schnittstelle einen vereinfachten Client für die häufigsten Aufgaben. Für die Verwaltung im Betrieb stehen Kommandozeilenwerkzeuge und mit Attu eine grafische Oberfläche zur Verfügung, mit der sich Collections, Indizes, Datensätze, Rollen und Systemzustand im Browser einsehen und verwalten lassen. Für Analyse und Fehlersuche existieren zudem Diagnosewerkzeuge, die tiefer in den Zustand des Clusters blicken.
Alle wichtigen Frameworks für RAG und Agenten unterstützen Milvus als Vektorspeicher. Dazu gehören LangChain und LlamaIndex, die in der Praxis am häufigsten eingesetzt werden, ebenso wie Haystack aus Deutschland, Semantic Kernel aus dem Microsoft-Umfeld und weitere Bibliotheken für Agenten und strukturierte Sprachmodellprogrammierung. Die Integrationen umfassen meist das Schreiben und Suchen von Dokumenten mit Metadaten, Filter, teilweise auch Hybrid-Suche und Volltext. Wie weit eine Integration die Spezialfunktionen von Milvus ausnutzt, unterscheidet sich je nach Framework und Version; für fortgeschrittene Funktionen wie Partition Keys oder gruppierte Suche ist mitunter ein direkter Zugriff über das SDK sinnvoll. Für die Datenaufbereitung lassen sich Werkzeuge wie Unstructured einsetzen, für die Erzeugung von Embeddings offene Modelle aus der Familie von BGE und Sentence-Transformers oder kommerzielle Anbieter.
Für den Datenfluss aus Unternehmenssystemen gibt es Konnektoren zu verbreiteten Datenplattformen und Streaming-Systemen, etwa zu Apache Spark, Apache Kafka und gängigen Werkzeugen für die Datenintegration. Große Datenmengen lassen sich per Massenimport aus Dateien im Objektspeicher laden, was beim Erstbefüllen deutlich effizienter ist als zeilenweises Einfügen. Für den Umzug zwischen Milvus-Installationen oder aus anderen Vektordatenbanken stellt Zilliz Migrationswerkzeuge bereit. Für Backups existiert ein eigenes Werkzeug, das Collections samt Metadaten sichert und wiederherstellt. Im Betrieb liefert Milvus Metriken im Prometheus-Format, die sich mit Grafana-Dashboards visualisieren lassen; Logs können in bestehende Logging-Plattformen eingespeist werden. Damit fügt sich Milvus gut in eine moderne, cloudnative Betriebslandschaft ein.
Qdrant ist eine in Rust geschriebene Open-Source-Vektordatenbank eines Berliner Unternehmens. Sie überzeugt durch effiziente Filterung, sparsamen Ressourcenverbrauch, native Hybrid-Suche und einen vergleichsweise einfachen Betrieb, auch im Cluster. Gegenüber Milvus wirkt Qdrant schlanker: weniger Komponenten, weniger externe Abhängigkeiten, schnellere Einarbeitung. Milvus bietet dafür eine größere Auswahl an Indextypen, GPU-Beschleunigung und eine Architektur, die konsequent auf die Trennung von Speicher und Rechenleistung ausgelegt ist. Für Bestände im Bereich weniger Millionen Vektoren liefern beide Systeme in der Regel mehr als ausreichende Leistung; die Entscheidung fällt dann eher über Betriebsmodell, Team-Know-how und Herkunft des Anbieters. Für Organisationen, die einen europäischen Hersteller bevorzugen, spricht Qdrant zusätzlich der Unternehmenssitz in Deutschland.
Weaviate, ebenfalls quelloffen und aus Europa stammend, setzt stark auf integrierte Module für Vektorisierung, Generierung und Reranking sowie auf eine GraphQL-nahe Abfrageschnittstelle. Viele KI-Schritte lassen sich direkt in der Datenbank konfigurieren. Milvus hat sich mit Embedding-Funktionen in diese Richtung bewegt, bleibt aber stärker ein Infrastrukturbaustein, der auf Leistung und Skalierung optimiert ist. Wer eine möglichst integrierte Plattform mit wenig eigener Pipeline-Logik sucht, findet in Weaviate oft den kürzeren Weg; wer maximale Kontrolle über Indexierung und Skalierung braucht, eher in Milvus.
pgvector erweitert PostgreSQL um Vektorsuche und vermeidet damit ein zusätzliches System. Vektoren liegen neben den Geschäftsdaten, Joins und Transaktionen funktionieren wie gewohnt, und Backup sowie Rechteverwaltung sind bereits etabliert. Für moderate Datenmengen ist das oft die wirtschaftlichste Lösung. Milvus spielt seine Stärken dort aus, wo pgvector an Grenzen kommt: bei sehr großen Beständen, hohem Abfragevolumen, Bedarf an speziellen Indexverfahren oder GPU-Beschleunigung. Der Preis ist ein eigenständiges System mit eigener Datenhaltung und Synchronisationslogik.
Pinecone ist ein proprietärer, vollständig gemanagter Vektordienst aus den USA ohne Selbsthosting-Option für den Datenbankkern. Er punktet mit minimalem Betriebsaufwand. Milvus bietet mit Zilliz Cloud ein vergleichbares Managed-Erlebnis, hat aber den entscheidenden Vorteil, dass derselbe Kern als Open Source verfügbar ist. Wer mit Zilliz Cloud startet, kann bei Bedarf auf selbst betriebenes Milvus wechseln – bei Pinecone ist dieser Ausweg nicht vorgesehen. Für den Vergleich mit anderen Bibliotheken lohnt zudem ein Blick auf FAISS: Die Bibliothek bietet hochoptimierte Indexverfahren, ist aber keine Datenbank – Persistenz, Filter, Mandanten und Betrieb müssen selbst gebaut werden. Milvus kann man vereinfacht als die Datenbank verstehen, die solche Indexverfahren in ein vollständiges, verteiltes System einbettet.
Die Kernbotschaft der Abgrenzung: Milvus ist für Wachstum und Großmaßstab gebaut. Wer heute mit wenigen Hunderttausend Dokumentabschnitten startet und keine klare Perspektive auf ein Vielfaches davon hat, bekommt mit schlankeren Lösungen oft mehr Einfachheit bei gleicher Antwortqualität. Wer dagegen große Bild-, Produkt- oder Dokumentarchive erschließt, viele Mandanten bedient oder hohe Lastspitzen erwartet, findet in Milvus eine der ausgereiftesten Open-Source-Optionen.
Milvus folgt einer Architektur mit getrennten Schichten. Eine Zugangsschicht nimmt Anfragen der Clients entgegen und verteilt sie. Koordinationskomponenten verwalten Metadaten, Datenverteilung und Aufgaben. Arbeitsknoten führen Suchen aus, nehmen neue Daten auf und bauen Indizes. Die dauerhafte Speicherung erfolgt in einem Objektspeicher – typischerweise MinIO im eigenen Rechenzentrum oder ein S3-kompatibler Dienst –, Metadaten liegen in etcd, und neue Schreibvorgänge werden über ein Protokoll- beziehungsweise Nachrichtensystem geführt. In älteren Versionen kamen dafür externe Systeme wie Apache Pulsar oder Kafka zum Einsatz; neuere Versionen setzen zunehmend auf eigene, integrierte Komponenten, um die Zahl externer Abhängigkeiten zu verringern. Welche Komponenten in der eingesetzten Version erforderlich sind, ist der Dokumentation zu entnehmen.
Diese Architektur ist der Schlüssel zur Skalierbarkeit, erklärt aber auch den Betriebsaufwand. Im verteilten Modus betreibt man nicht eine Datenbank, sondern ein Ensemble von Diensten, die jeweils überwacht, gesichert und aktualisiert werden wollen. Der Objektspeicher braucht ausreichend Kapazität und eine Sicherungsstrategie, etcd ist empfindlich gegenüber langsamen Datenträgern, und alle Komponenten müssen bei Updates kompatibel bleiben. Der Kubernetes-Operator und die Helm-Charts nehmen viel Arbeit ab, ersetzen aber kein Verständnis des Systems. Für die Standalone-Variante ist der Aufwand deutlich geringer, da alle Milvus-Rollen in einem Prozess laufen und die Hilfsdienste per Docker Compose mitgestartet werden.
Wie bei allen Vektordatenbanken ist der Arbeitsspeicher der wichtigste Kostentreiber. Graphbasierte Indizes wie HNSW liefern die beste Leistung, wenn sie vollständig im Speicher liegen. Milvus bietet mehrere Hebel, um den Bedarf zu senken: komprimierende Indexvarianten mit skalarer oder Produktquantisierung, Vektoren in reduzierter Genauigkeit, den festplattenbasierten DiskANN-Index für sehr große Bestände sowie Mechanismen, selten genutzte Daten nur bei Bedarf in den Speicher zu laden. Welche Kombination passt, ergibt sich aus Messungen mit eigenen Daten; Zilliz stellt zudem Hilfsmittel zur Abschätzung des Ressourcenbedarfs bereit.
Updates verdienen besondere Aufmerksamkeit. Milvus entwickelt sich schnell, und größere Versionssprünge können Konfigurationsänderungen, neue Komponenten oder Migrationsschritte mit sich bringen. Ein Testsystem mit realistischem Datenbestand, auf dem Updates vor dem Produktivsystem durchgespielt werden, ist deshalb dringend zu empfehlen. Für Backups stellt das Projekt ein eigenes Sicherungswerkzeug bereit, das Collections samt Metadaten in einen Objektspeicher sichert und wiederherstellt. Zusätzlich sollten Objektspeicher und etcd in das Sicherungskonzept aufgenommen und die Wiederherstellung regelmäßig geübt werden. Ein pragmatischer Grundsatz aus der Praxis: Die Quelldokumente bleiben das führende System. Lässt sich der Vektorbestand jederzeit aus den Quellen neu erzeugen, wird die Vektordatenbank zu einem wiederherstellbaren Index – das entschärft viele Betriebsrisiken.
Der gemeinsame Nenner: Viele mittelständische Unternehmen besitzen über Jahrzehnte gewachsene Bestände an technischer Dokumentation, Zeichnungen, Prüfberichten, Serviceberichten, Produktdaten und Korrespondenz. Werden diese Bestände vollständig erschlossen – womöglich mehrsprachig, mit Bildern und in feiner Zerlegung –, wachsen die Vektorzahlen schnell in Größenordnungen, in denen eine dedizierte, skalierbare Vektordatenbank sinnvoll wird.
Ein typisches Mittelstandsprojekt mit Milvus sieht in unserer Praxis etwa so aus: Milvus Standalone läuft auf einem dedizierten Server im eigenen Rechenzentrum oder auf einer virtuellen Maschine bei einem deutschen Hoster, zusammen mit einem lokalen Objektspeicher. Eine Collection enthält Dokumentabschnitte mit Text, dichtem Vektor, Volltext- beziehungsweise Sparse-Feld, Quelle, Datum, Sprache und Berechtigungsgruppen. Ein Hintergrunddienst liest neue und geänderte Dokumente aus Dateiablagen, Dokumentenmanagement und Ticketsystem, zerlegt sie und lässt sie von einem selbst betriebenen Embedding-Modell vektorisieren. Die Suchschicht führt eine Hybrid-Abfrage mit Berechtigungsfilter aus, gruppiert die Treffer nach Dokument, sortiert sie mit einem Reranker nach und übergibt die besten Abschnitte an ein Sprachmodell. Fragen, Treffer und Nutzerfeedback werden protokolliert, um die Qualität fortlaufend zu messen.
Wächst der Bestand später stark, etwa weil weitere Standorte, Sprachen oder Bildarchive hinzukommen, kann die Installation auf Milvus Distributed in einem Kubernetes-Cluster umziehen, ohne dass Datenmodell, Pipeline oder Benutzeroberfläche grundlegend umgebaut werden müssen. Genau diese Wachstumsreserve ist für viele Unternehmen das stärkste Argument für Milvus: Man startet klein und einfach, behält aber den Weg in den Großmaßstab offen.
So leistungsfähig Milvus ist: Die Datenbank ist selten der Engpass eines RAG-Projekts. Die größten Qualitätshebel liegen in der Datenaufbereitung, im Chunking, in der Wahl des Embedding-Modells, in einer sauberen Hybrid-Suche mit Reranking und in einer systematischen Evaluierung. Wer zu früh in einen verteilten Cluster investiert, bindet Betriebskapazität, die an anderer Stelle mehr Wirkung hätte. Unsere Empfehlung lautet daher: Mit einem klar umrissenen Anwendungsfall und Milvus Standalone oder einer schlankeren Alternative starten, die Qualität anhand realer Testfragen messen und die Architektur erst dann ausbauen, wenn Datenmenge und Last es tatsächlich verlangen.
Beim Selbstbetrieb von Milvus auf eigener Hardware verbleiben Vektoren, Texte, Metadaten und Suchanfragen vollständig im eigenen Verantwortungsbereich. Milvus ist quelloffene Software unter neutraler Stiftungs-Governance; für die Software selbst ist kein Auftragsverarbeitungsvertrag mit einem Hersteller erforderlich. Zu prüfen ist, ob und welche Telemetrie- oder Update-Funktionen in den eingesetzten Komponenten aktiv sind, und ob Container-Images aus vertrauenswürdigen Quellen stammen; beides lässt sich in abgeschotteten Umgebungen kontrollieren. Das ist der direkteste Weg zu einer sauberen Datenschutzarchitektur – vorausgesetzt, Betrieb, Absicherung und Löschprozesse werden professionell umgesetzt.
Bei einem deutschen oder europäischen Hoster, der Server, virtuelle Maschinen oder einen gemanagten Kubernetes-Dienst bereitstellt, ist der Hoster Auftragsverarbeiter. Ein entsprechender Vertrag ist abzuschließen, und dessen Unterauftragnehmer sind zu prüfen. Liegen Unternehmenssitz und Rechenzentren im europäischen Rechtsraum und gibt es keine Muttergesellschaft außerhalb der EU, vereinfacht das die Bewertung erheblich. Für viele mittelständische Unternehmen ist Milvus Standalone oder Distributed auf deutscher Infrastruktur die beste Balance aus Leistungsfähigkeit und Souveränität.
Bei Zilliz Cloud ist eine differenzierte Betrachtung nötig. Zilliz wurde in China gegründet, hat seinen Hauptsitz heute in den USA und unterhält Entwicklungsteams in mehreren Ländern. Der Dienst läuft auf der Infrastruktur großer US-Hyperscaler. Daraus ergeben sich mehrere Prüfpunkte: Erstens sollte, sofern verfügbar, eine EU-Region gewählt werden, damit die Daten physisch in Europa liegen. Zweitens unterliegen US-Unternehmen dem US CLOUD Act, der US-Behörden unter bestimmten Voraussetzungen Zugriff auf Daten ermöglichen kann, die von US-Unternehmen kontrolliert werden – unabhängig vom Speicherort. Drittens sind wegen der Unternehmensherkunft die Konzernstruktur, mögliche Zugriffswege von Support- und Entwicklungsteams außerhalb der EU sowie die Liste der Unterauftragsverarbeiter genau zu prüfen; Zugriffe aus Drittländern ohne Angemessenheitsbeschluss sind datenschutzrechtlich besonders kritisch. Die Bring-your-own-Cloud-Variante, bei der die Datenebene im eigenen Cloud-Konto läuft, kann Risiken reduzieren, beseitigt sie aber nicht vollständig, da die Steuerungsebene beim Anbieter verbleibt.
Für personenbezogene oder geschäftskritische Daten empfehlen wir daher klar den Selbstbetrieb des Open-Source-Kerns auf eigener oder deutscher Infrastruktur. Zilliz Cloud kann für Prototypen mit unkritischen Daten, für öffentlich verfügbare Inhalte oder nach sorgfältiger Prüfung durch die Datenschutzbeauftragten eine Option sein. Unabhängig vom Betriebsmodell gilt: Vektoren sind keine anonymen Daten. Aus Embeddings lassen sich unter Umständen Rückschlüsse auf die Ursprungstexte ziehen, und neben dem Vektor liegt in der Regel ohnehin der Klartext. Löschkonzepte müssen deshalb auch die Vektordatenbank, ihre Backups und den Objektspeicher umfassen. Milvus unterstützt das durch Löschung per Primärschlüssel oder Filterausdruck, Ablaufzeiten für Datensätze sowie Authentifizierung, rollenbasierte Zugriffskontrolle und TLS-Verschlüsselung. Und nicht zuletzt gehört die gesamte Pipeline auf den Prüfstand: Embedding-Modell, Reranker und Sprachmodell entscheiden mindestens so sehr über den Datenschutz wie die Datenbank – insbesondere, wenn Embedding-Funktionen in Milvus externe Cloud-Modelle aufrufen.
Milvus selbst verursacht keine Lizenzkosten. Die Kosten entstehen im Betrieb: Server oder virtuelle Maschinen mit ausreichend Arbeitsspeicher, schneller Speicherplatz für Objektspeicher und gegebenenfalls DiskANN-Indizes, Backup-Speicher, Monitoring sowie die Arbeitszeit für Einrichtung, Tuning, Updates und Störungsbehebung. Im verteilten Modus kommen der Kubernetes-Cluster und die zugehörigen Kompetenzen hinzu, die häufig den größten Kostenblock bilden. Der wichtigste technische Kostenhebel ist der Arbeitsspeicher: Komprimierende Indizes, reduzierte Genauigkeit, festplattenbasierte Indizes und eine bewusste Modellwahl mit moderater Vektordimension sind deshalb auch wirtschaftliche Stellschrauben.
Bei Zilliz Cloud wird je nach Ausprägung nach bereitgestellter Kapazität, nach Nutzung – etwa gespeicherten Daten und ausgeführten Operationen – oder nach individuell vereinbarten Konditionen abgerechnet. Aktuelle Preise, Tarifgrenzen und Konditionen sind beim Anbieter zu prüfen, da sie sich regelmäßig ändern. Als Faustregel gilt: Bei kleinen bis mittleren Beständen und vorhandenem Container-Know-how ist Milvus Standalone auf eigener oder deutscher Infrastruktur meist die wirtschaftlichste Variante. Bei sehr großen Beständen mit stark schwankender Last kann ein gemanagter Dienst wirtschaftlich attraktiv sein – sofern die Datenschutzbewertung das zulässt. Ein ehrlicher Vergleich bezieht dabei immer die internen Personalkosten und die Ausfallrisiken ein, nicht nur die Infrastrukturrechnung.