Wissensdatenbank · Vektordatenbanken · Such- und Serving-Engine

Vespa – Vektor-, Text- und Hybrid-Suche mit Ranking auf Suchmaschinen-Niveau.

Vespa ist eine quelloffene Engine, die Suche, Ranking und Empfehlungen über große Datenbestände in Echtzeit ausliefert. Sie vereint Vektorsuche, klassische Volltextsuche, strukturierte Filter und frei programmierbares Ranking mit Machine-Learning-Modellen in einem verteilten System. Entstanden aus norwegischer Suchtechnologie und jahrelang bei Yahoo im Großeinsatz, wird Vespa heute von Vespa.ai weiterentwickelt und auch als Vespa Cloud angeboten. Dieser Fachartikel ordnet Architektur, Funktionen, Ökosystem, Wettbewerb, Betrieb und die DSGVO-Frage herstellerneutral ein.

Dieser Artikel wurde mithilfe künstlicher Intelligenz erstellt und redaktionell geprüft.

28 Min. Lesezeit
Aktualisiert · Oktober 2026
Fachartikel · Expertenbeitrag
Vespa
Vespa.ai · Open Source & Vespa Cloud
Typ
Such- & Serving-Engine
Suche
Vektor, BM25, Hybrid
Lizenz
Apache 2.0, Stand prüfen
Herkunft
Yahoo, heute Norwegen
Betrieb
Self-Hosted & Cloud
Stärke
Ranking, Skalierung
INAGRO Eignung souveränes RAG im Mittelstand
★★★★★
Kapitel 01 · Überblick

Was ist Vespa – und warum ist es mehr als eine Vektordatenbank?

Vespa ist eine verteilte Open-Source-Engine, die große Datenmengen speichert, indexiert, durchsucht und die Ergebnisse mit beliebig komplexen Ranking-Modellen in Echtzeit bewertet. Sie verbindet Vektorsuche, Volltextsuche, strukturierte Abfragen, Gruppierung und Machine-Learning-Inferenz in einem einzigen System. Damit adressiert Vespa genau die Lücke, die entsteht, wenn eine reine Vektordatenbank für eine anspruchsvolle Such- oder Empfehlungsanwendung nicht mehr ausreicht.

Um Vespa einzuordnen, lohnt ein Blick auf die Grundlagen moderner KI-Suche. Ein Embedding-Modell übersetzt Texte, Bilder oder Produktbeschreibungen in Vektoren, also lange Zahlenreihen. Inhaltlich ähnliche Inhalte liegen im Vektorraum nah beieinander. Eine Vektordatenbank findet zu einem Anfragevektor die nächsten Nachbarn und liefert so die semantisch passenden Dokumente. Für viele RAG-Prototypen ist das bereits ausreichend. In der Praxis zeigt sich aber schnell, dass gute Suche mehr braucht: exakte Treffer bei Artikelnummern und Fachbegriffen, Filter nach Verfügbarkeit, Region oder Berechtigung, Facetten für die Navigation, Personalisierung, Aktualität, Geschäftsregeln und vor allem ein Ranking, das all diese Signale sinnvoll zu einer Reihenfolge verdichtet.
Genau hier setzt Vespa an. Statt die Vektorsuche als isolierte Funktion zu betrachten, behandelt Vespa sie als eines von vielen Signalen innerhalb eines Ranking-Prozesses. Dokumente werden in einem verteilten Cluster gespeichert, Abfragen werden parallel auf allen Knoten ausgeführt, und jede Kandidatenmenge durchläuft mehrere Ranking-Phasen – von einer schnellen, groben Vorauswahl bis zu teuren Modellen, die nur noch die besten Kandidaten bewerten. Diese Berechnung findet dort statt, wo die Daten liegen, und nicht in einer nachgelagerten Anwendung. Das ist der zentrale architektonische Unterschied zu den meisten Vektordatenbanken und auch zu vielen klassischen Suchplattformen.

Von der norwegischen Suchmaschine über Yahoo zu Vespa.ai

Die Geschichte von Vespa reicht weit zurück. Ihre technischen Wurzeln liegen in der norwegischen Suchtechnologie rund um Trondheim, die nach Übernahmen in den Besitz von Yahoo gelangte. Dort wurde die Engine über viele Jahre weiterentwickelt und für Anwendungen eingesetzt, bei denen sehr große Datenmengen mit sehr vielen gleichzeitigen Anfragen und strengen Latenzvorgaben verarbeitet werden müssen: Nachrichten-Personalisierung, Suche, Empfehlungen und Werbeausspielung. Ein Großteil der Entwicklung blieb dabei in Trondheim verankert.
Yahoo hat Vespa später unter der Apache-2.0-Lizenz als Open Source veröffentlicht. Einige Jahre danach wurde das Vespa-Team als eigenständiges Unternehmen ausgegründet: Vespa.ai entwickelt die Engine seitdem weiter, betreibt den gemanagten Dienst Vespa Cloud und bietet Unterstützung für Unternehmenskunden. Das Unternehmen hat seinen Ursprung und einen Entwicklungsschwerpunkt in Norwegen; Details zu Firmensitz, Gesellschaftsstruktur und Standorten sollten für vertragliche und datenschutzrechtliche Bewertungen stets aktuell beim Anbieter geprüft werden. Für die Einordnung genügt: Vespa ist kein junges Start-up-Produkt, sondern eine über lange Zeit im Großeinsatz gereifte Technologie mit europäischem Entwicklungszentrum.

Die Rolle von Vespa in Such-, Empfehlungs- und RAG-Architekturen

Vespa wird für drei große Anwendungsklassen eingesetzt, die sich in der Praxis oft überschneiden. Die erste ist die Suche im engeren Sinn: Produktsuche im E-Commerce, Dokumentsuche in Wissensportalen, Suche in Medienarchiven. Die zweite sind Empfehlungen und Personalisierung: Zu einem Nutzerprofil oder einem gerade angesehenen Artikel werden passende Inhalte ermittelt und nach Relevanz, Aktualität und Geschäftszielen sortiert. Die dritte und jüngste Klasse ist Retrieval für generative KI: Vespa liefert einem Sprachmodell die relevantesten Textabschnitte, auf deren Basis es Antworten formuliert. Gerade bei RAG zeigt sich, dass die Qualität der Antworten maßgeblich von der Qualität des Retrievals abhängt – und damit von genau den Ranking-Fähigkeiten, auf die Vespa spezialisiert ist.
In einer RAG-Architektur übernimmt Vespa typischerweise die gesamte Retrieval-Schicht: Speicherung der Dokumentabschnitte samt Metadaten, Berechnung der Embeddings direkt beim Einspielen, Hybrid-Suche aus Text- und Vektorsignalen, Filterung nach Berechtigungen und schließlich ein mehrstufiges Reranking. Was in anderen Architekturen auf mehrere Dienste verteilt ist – Vektordatenbank, Suchmaschine, Embedding-Service, Reranking-Service –, kann in Vespa in einem System zusammenlaufen. Das reduziert Netzwerkwege und Latenz, erhöht aber auch die Anforderungen an das Verständnis der Plattform.
INAGRO-Einschätzung

Vespa ist aus unserer Sicht die erste Wahl, wenn Suchqualität und Ranking geschäftskritisch sind – etwa bei großen Produktkatalogen, anspruchsvoller Wissenssuche über viele Quellen oder Empfehlungssystemen mit Echtzeitdaten. Die Kombination aus Hybrid-Suche, Multi-Phase-Ranking und Modellinferenz in der Engine ist im Open-Source-Umfeld außergewöhnlich. Der Preis dafür ist eine steilere Lernkurve. Für einen kleinen RAG-Prototyp ist Vespa oft mehr, als man braucht; für eine Suchplattform, die über Jahre wachsen soll, ist es eine der souveränsten Optionen am Markt.

Kapitel 02 · Editionen & Positionierung

Open Source und Vespa Cloud: zwei Wege zur selben Engine

Vespa gibt es im Kern in zwei Ausprägungen: als frei verfügbare Open-Source-Engine zum Selbstbetrieb und als gemanagten Dienst Vespa Cloud. Beide basieren auf derselben Codebasis, unterscheiden sich aber deutlich in Betriebsaufwand, Verantwortung und Zusatzfunktionen. Die Übersicht ist bewusst qualitativ; Funktionsumfang, Konditionen und Regionen sind stets beim Anbieter zu prüfen.

Vespa Open Source
Self-Hosted

Die vollständige Engine unter Apache-2.0-Lizenz, betrieben auf eigener Hardware, in VMs, als Container oder auf Kubernetes. Volle Kontrolle über Version, Standort und Konfiguration.

Betriebvollständig selbst
Datenstandortfrei wählbar
Lizenzkostenkeine
Vespa Cloud
Managed

Der gemanagte Dienst von Vespa.ai. Bereitstellung, Skalierung, Upgrades und Überwachung übernimmt der Anbieter; Entwicklungs- und Produktionsumgebungen werden über Application Packages ausgerollt.

Betriebdurch Anbieter
DatenstandortRegion beim Anbieter prüfen
Kostenressourcenbasiert
Vespa Cloud Enterprise
Enterprise

Unternehmensvarianten mit erweitertem Support, Sicherheitsfunktionen und Betriebsmodellen, bei denen Infrastruktur im eigenen Cloud-Konto des Kunden laufen kann. Umfang beim Anbieter prüfen.

Betriebgemeinsam
Infrastrukturje nach Modell
Kostenindividuell
Partner & Eigenbetrieb
Alternativen

Betrieb der Open-Source-Engine durch einen Dienstleister oder europäischen Hoster, etwa auf Kubernetes. Kombiniert Datenhoheit mit ausgelagerter Betriebsverantwortung.

Betriebdurch Partner
Datenstandortvertraglich festgelegt
Know-howbeim Partner prüfen

Vespa Open Source: die vollständige Engine ohne Funktionsbeschnitt

Eine Besonderheit von Vespa im Vergleich zu manchen anderen Anbietern ist, dass die Open-Source-Variante die vollständige Engine umfasst. Verteilung über viele Knoten, automatische Datenumverteilung beim Hinzufügen oder Entfernen von Knoten, Replikation, Echtzeit-Updates, Hybrid-Suche, Multi-Phase-Ranking, Embedder und ONNX-Inferenz sind nicht hinter einer kommerziellen Lizenz versteckt. Wer die Engine selbst betreibt, bekommt technisch dasselbe System, das auch in der Cloud läuft. Das ist für die Frage der Datenhoheit und für die langfristige Planung ein gewichtiges Argument: Ein späterer Wechsel zwischen Cloud und Eigenbetrieb ist grundsätzlich möglich, weil die Anwendung in beiden Fällen über dasselbe Application Package beschrieben wird.
Der Preis des Selbstbetriebs liegt im Betriebsaufwand. Vespa ist ein verteiltes System mit mehreren Rollen: Config-Server, die die Konfiguration des Clusters verwalten, Container-Knoten, die Abfragen und Schreibzugriffe entgegennehmen und Embeddings berechnen, sowie Content-Knoten, die Daten speichern, indexieren und das Ranking ausführen. Diese Rollen müssen dimensioniert, überwacht, aktualisiert und gesichert werden. Für kleine Installationen kann alles auf wenigen Knoten laufen; für hochverfügbare Produktionssysteme braucht es ein durchdachtes Setup und Erfahrung mit verteilten Systemen.

Vespa Cloud: Positionierung und Zusatznutzen

Vespa Cloud nimmt Teams genau diesen Aufwand ab. Entwickler beschreiben ihre Anwendung in einem Application Package mit Schemas, Rank-Profilen und Diensten, und die Plattform übernimmt Bereitstellung, Skalierung, Upgrades ohne Ausfallzeit, Überwachung und Sicherheitsupdates. Hinzu kommen Komfortfunktionen wie getrennte Entwicklungs- und Produktionsumgebungen, automatisierte Deployment-Pipelines mit Tests und eine integrierte Konsole. Die Infrastruktur läuft auf großen Hyperscalern; welche Cloud-Anbieter und Regionen zur Verfügung stehen, insbesondere Regionen innerhalb der Europäischen Union, ist beim Anbieter zu prüfen.
Positioniert ist Vespa insgesamt nicht als Einsteigerwerkzeug für den schnellen Vektorspeicher, sondern als Plattform für anspruchsvolle Such- und Ranking-Anwendungen im Produktionsmaßstab. Der Anbieter adressiert explizit Unternehmen, für die Relevanz, Latenz und Skalierbarkeit geschäftskritisch sind, und zunehmend auch Anwendungen der generativen KI, bei denen hochwertiges Retrieval den Unterschied macht. Für den Mittelstand bedeutet das: Vespa spielt seine Stärken dort aus, wo Suche ein Kernbestandteil des Geschäftsmodells oder eines zentralen Prozesses ist.
Lizenz und Angebote regelmäßig prüfen

Vespa wird unter der Apache-2.0-Lizenz entwickelt, die eine freie Nutzung auch in kommerziellen Produkten erlaubt. Angebotsformen, Funktionsumfang der Cloud-Varianten, Supportmodelle und Regionen von Vespa Cloud entwickeln sich jedoch weiter. Vor einer Architekturentscheidung sollte der aktuelle Stand beim Anbieter und in der offiziellen Dokumentation geprüft werden.

Kapitel 03 · Funktionsumfang

Tensoren, HNSW, BM25 und Multi-Phase-Ranking

Der Funktionsumfang von Vespa ist breit und tief. Wer die Engine verstehen will, sollte drei Ebenen unterscheiden: das Datenmodell mit Schemas und Tensoren, die Abfrage- und Retrieval-Ebene mit Text-, Vektor- und Filtersuche sowie die Ranking-Ebene, auf der Vespa sich am deutlichsten von anderen Systemen abhebt.

Datenmodell: Schemas, Felder und Tensoren

Eine Vespa-Anwendung wird in einem Application Package beschrieben. Es enthält eine Dienstebeschreibung, die festlegt, welche Cluster es gibt und wie viele Knoten sie haben, sowie ein oder mehrere Schemas. Ein Schema definiert die Dokumenttypen mit ihren Feldern – Text, Zahlen, Datumswerte, Listen, Strukturen, Referenzen auf andere Dokumente und Tensoren. Für jedes Feld wird festgelegt, ob es indexiert, als Attribut im Arbeitsspeicher gehalten oder nur gespeichert und zurückgegeben wird. Textfelder werden mit linguistischer Verarbeitung indexiert, Attributfelder eignen sich für schnelle Filter, Sortierung und Gruppierung.
Das zentrale Konzept für Vektoren und Machine Learning ist der Tensor. Ein Tensor ist eine verallgemeinerte Zahlenstruktur: ein Skalar, ein Vektor, eine Matrix oder ein höherdimensionales Gebilde. Vespa unterscheidet dabei zwischen indizierten Dimensionen mit fester Größe – etwa ein Embedding mit einer bestimmten Dimension – und zugeordneten Dimensionen mit benannten Einträgen, etwa eine Liste von Vektoren für jeden Absatz eines Dokuments oder eine Gewichtung je Kategorie. Mit gemischten Tensoren lassen sich so mehrere Embeddings pro Dokument abbilden, ohne das Dokument künstlich in viele Einzeldokumente zu zerlegen. Für Vektoren stehen neben Gleitkommaformaten auch kompaktere Typen bis hin zu binären Repräsentationen zur Verfügung, die den Speicherbedarf erheblich senken.
Ein weiterer Baustein sind Echtzeit-Updates. Vespa nimmt Schreibzugriffe kontinuierlich entgegen und macht neue oder geänderte Dokumente sehr schnell durchsuchbar, ohne dass Indizes in Batches neu aufgebaut werden müssen. Besonders wichtig sind partielle Updates: Ein einzelnes Feld – etwa Preis, Lagerbestand oder ein Popularitätszähler – kann geändert werden, ohne das ganze Dokument neu zu schreiben. Für E-Commerce-Szenarien mit häufig wechselnden Preisen und Beständen ist das ein entscheidender Vorteil gegenüber Systemen, die bei jeder Änderung ein vollständiges Neuschreiben erfordern.

Retrieval: ANN mit HNSW, BM25, WAND und Filter

Für die Vektorsuche nutzt Vespa einen Nearest-Neighbor-Operator, der entweder exakt oder näherungsweise über einen HNSW-Index arbeitet. HNSW ist ein graphbasiertes Verfahren, das ein sehr gutes Verhältnis aus Geschwindigkeit und Trefferqualität bietet und laufende Einfügungen gut verkraftet. Bemerkenswert ist die Kombination mit Filtern: Vespa kann Vektorsuche und strukturierte Bedingungen in einer Abfrage verbinden und wählt je nach Filterstärke automatisch eine geeignete Strategie, um auch bei sehr restriktiven Filtern noch vollständige Ergebnislisten zu liefern. Unterstützt werden gängige Distanzmetriken wie Kosinus, Skalarprodukt, euklidische Distanz und für binäre Vektoren die Hamming-Distanz.
Für die Volltextsuche bringt Vespa eine vollwertige Suchmaschine mit: Tokenisierung, Normalisierung, Stemming über linguistische Module, Phrasensuche, Nähe-Operatoren und Relevanzmaße wie BM25 sowie eigene Text-Matching-Signale, die Position und Nähe von Begriffen berücksichtigen. Für effizientes Retrieval über große Textmengen stehen Operatoren wie WAND und weakAnd zur Verfügung, die nicht jedes passende Dokument vollständig bewerten, sondern früh die aussichtsreichsten Kandidaten bestimmen. Die Abfragesprache ist YQL, eine an SQL angelehnte Syntax, in der sich Text-, Vektor- und Filterbedingungen frei kombinieren lassen.
Hinzu kommen Gruppierung und Aggregation, mit denen sich Facetten für die Navigation erzeugen lassen – etwa Anzahl der Treffer je Marke, Preisspanne oder Kategorie –, sowie ein Streaming-Modus, der für Daten gedacht ist, die stets nur innerhalb eines Benutzers oder Mandanten durchsucht werden, zum Beispiel persönliche E-Mails oder Dokumente. Der Streaming-Modus verzichtet auf globale Indizes und kann dadurch bei vielen kleinen, getrennten Datenbeständen deutlich wirtschaftlicher sein.

Multi-Phase-Ranking und Skalierung

Das Herzstück von Vespa ist das Ranking. In Rank-Profilen definiert man, wie Dokumente bewertet werden. Dazu stehen Hunderte eingebaute Ranking-Merkmale zur Verfügung – Textrelevanz, Vektornähe, Attributwerte, Aktualität, geografische Nähe –, die mit mathematischen Ausdrücken und Tensor-Operationen frei kombiniert werden können. Entscheidend ist das Konzept der Ranking-Phasen: Eine erste, günstige Phase bewertet alle Treffer auf jedem Content-Knoten. Eine zweite Phase wendet ein aufwendigeres Modell nur auf die besten Kandidaten je Knoten an. Eine globale Phase kann schließlich über alle Knoten hinweg die Spitzenkandidaten mit besonders teuren Modellen neu bewerten, etwa mit einem Cross-Encoder. So bleibt die Latenz kontrollierbar, obwohl anspruchsvolle Modelle zum Einsatz kommen.
Bei der Skalierung folgt Vespa einem klaren Prinzip: Daten werden automatisch auf die Content-Knoten verteilt und repliziert, Abfragen werden parallel an alle relevanten Knoten gesendet, und die Ergebnisse werden zusammengeführt. Kommen Knoten hinzu oder fallen weg, verteilt Vespa die Daten selbstständig neu, ohne dass der Betrieb unterbrochen werden muss. Für mehr Abfragedurchsatz lassen sich Gruppen von Content-Knoten bilden, die jeweils eine vollständige Kopie der Daten halten. Diese Architektur ist auf Datenbestände in Größenordnungen ausgelegt, die weit über das hinausgehen, was ein typisches Mittelstandsprojekt benötigt – ein Sicherheitspolster, das aber auch Komplexität mitbringt.
Baustein Funktion in Vespa Praxisnutzen
Tensoren Einzel-, Multi- und gemischte Vektoren, Gewichtungen Mehrere Embeddings pro Dokument, Personalisierung
ANN / HNSW Nearest-Neighbor-Operator, exakt oder näherungsweise Semantische Suche auch mit strengen Filtern
BM25 & Text Linguistik, Phrasen, Nähe, WAND, weakAnd Exakte Begriffe, Artikelnummern, Fachsprache
Hybrid Text- und Vektorsignale in einer Abfrage Robuste Treffer für alle Anfragetypen
Ranking Rank-Profile, erste, zweite und globale Phase Hohe Relevanz bei kontrollierter Latenz
Updates Echtzeit, partielle Feldänderungen Aktuelle Preise, Bestände, Signale
Skalierung Automatische Verteilung, Replikation, Gruppen Wachstum ohne Architekturwechsel
Kapitel 04 · KI-, RAG- und Automatisierungsfunktionen

Embedder, ColBERT und Modellinferenz direkt in der Engine

Viele Vektordatenbanken speichern Vektoren, die anderswo berechnet wurden. Vespa geht einen Schritt weiter: Embeddings können beim Einspielen und bei der Abfrage in der Engine selbst erzeugt werden, und Machine-Learning-Modelle laufen direkt im Ranking. Damit wird Vespa zu einer Plattform, auf der Retrieval und KI-Modelle eng verzahnt sind.

Embedder in der Engine: Vektoren ohne externen Dienst

Vespa erlaubt es, Embedding-Modelle als Komponenten in den Container-Knoten zu konfigurieren. Wird ein Dokument eingespielt, berechnet Vespa die Embeddings für die definierten Felder automatisch; wird eine Anfrage gestellt, wird auch der Anfragetext in der Engine vektorisiert. Unterstützt werden unter anderem gängige Modelle aus dem Hugging-Face-Umfeld im ONNX-Format, Modelle für Sparse-Repräsentationen nach dem SPLADE-Ansatz sowie ColBERT-Modelle für Multi-Vektor-Repräsentationen. Welche Embedder-Typen und Modelle konkret unterstützt und vorkonfiguriert sind, sollte in der aktuellen Dokumentation geprüft werden.
Für die Praxis hat das mehrere Vorteile. Die Architektur wird schlanker, weil kein separater Embedding-Service betrieben, skaliert und abgesichert werden muss. Die Gefahr, dass Dokumente und Anfragen versehentlich mit unterschiedlichen Modellversionen vektorisiert werden, sinkt, weil das Modell Teil des Application Packages ist. Und aus Datenschutzsicht ist besonders wichtig: Wenn Vespa selbst betrieben wird und das Embedding-Modell lokal in der Engine läuft, verlassen weder Dokumentinhalte noch Anfragen die eigene Infrastruktur. Wer lieber externe Embedding-Dienste nutzt, kann Vektoren aber selbstverständlich auch von außen anliefern. Für rechenintensive Modelle lassen sich Container-Knoten mit GPUs ausstatten; ob und wie das im gewählten Betriebsmodell möglich ist, ist im Einzelfall zu prüfen.

ColBERT, Multi-Vektor und Modellinferenz im Ranking

Klassische Embeddings verdichten einen ganzen Textabschnitt zu einem einzigen Vektor. Dabei gehen Details verloren. ColBERT und verwandte Late-Interaction-Ansätze erzeugen stattdessen einen Vektor pro Token und vergleichen Anfrage und Dokument auf Token-Ebene. Das liefert oft deutlich präzisere Ergebnisse, insbesondere bei längeren, fachlichen Texten, kostet aber viel Speicher und Rechenzeit. Vespa ist eine der wenigen Engines, die solche Multi-Vektor-Repräsentationen nativ über Tensoren abbilden und effizient im Ranking auswerten kann – zum Beispiel, indem in der ersten Phase günstige Einzelvektoren oder BM25 die Kandidaten bestimmen und erst in der zweiten Phase die ColBERT-Bewertung greift. Komprimierte und binarisierte Varianten senken dabei den Speicherbedarf. Derselbe Mechanismus eignet sich für visuelle Dokumentsuche, bei der Seitenbilder von PDFs mit Multi-Vektor-Modellen eingebettet werden.
Noch einen Schritt weiter geht die Modellinferenz im Ranking. Vespa kann Machine-Learning-Modelle im ONNX-Format sowie Gradient-Boosted-Decision-Trees aus verbreiteten Bibliotheken direkt in Rank-Profilen ausführen. Damit lassen sich Learning-to-Rank-Modelle, die auf Klick- und Kaufdaten trainiert wurden, ebenso einsetzen wie Cross-Encoder, die Anfrage und Dokument gemeinsam bewerten. Weil diese Berechnung auf den Content-Knoten oder in der globalen Phase stattfindet, müssen keine großen Kandidatenmengen über das Netzwerk zu einem separaten Reranking-Dienst transportiert werden. Mehr zu diesem Prinzip findet sich in unserem Artikel zum Reranking.

RAG mit Vespa: Retrieval, Chunking und Generierung

Für RAG-Anwendungen bringt Vespa mehrere Bausteine mit. Lange Dokumente müssen nicht zwingend in viele Einzeldokumente zerlegt werden: Ein Dokument kann eine Liste von Abschnitten samt zugehörigen Embeddings enthalten, und das Ranking bewertet sowohl das Dokument als Ganzes als auch die besten Abschnitte darin. So bleiben Metadaten, Berechtigungen und Kontext zusammen, und die Anwendung kann gezielt die relevantesten Abschnitte eines Dokuments an das Sprachmodell übergeben. Hybrid-Suche aus BM25 und Vektorähnlichkeit sorgt dafür, dass sowohl semantische Fragen als auch exakte Fachbegriffe zuverlässig gefunden werden – ein Thema, das wir im Artikel zur Hybrid Search ausführlich behandeln.
Darüber hinaus bietet Vespa Komponenten, um aus den Suchergebnissen direkt eine Anfrage an ein Sprachmodell zu formulieren und die generierte Antwort auszuliefern, entweder über externe Modell-APIs oder über lokal betriebene Modelle. Ob man diese Funktion nutzt oder die Generierung bewusst in einer separaten Anwendungsschicht mit einem Framework orchestriert, ist eine Architekturentscheidung. In den meisten Projekten empfehlen wir, Vespa für das Retrieval und Ranking zu nutzen und die Generierung, Prompt-Logik und Agentensteuerung in einer eigenen Schicht zu halten. Das schafft klare Verantwortlichkeiten und erleichtert den Austausch von Sprachmodellen.
Retrieval-Qualität als Hebel

In RAG-Projekten liegt der größte Qualitätshebel fast immer im Retrieval, nicht im Sprachmodell. Wer die Möglichkeit hat, Text- und Vektorsignale zu kombinieren, Metadaten wie Aktualität und Quelle zu gewichten und die besten Kandidaten mit einem stärkeren Modell neu zu bewerten, erzielt spürbar bessere Antworten. Vespa bündelt genau diese Werkzeuge – vorausgesetzt, man investiert in eine saubere Evaluierung mit realen Fragen.

Kapitel 05 · Integrationen & Ökosystem

pyvespa, CLI und KI-Frameworks

Vespa ist im Kern eine Java- und C++-Plattform mit HTTP-Schnittstellen. Rund um diese Schnittstellen hat sich ein Ökosystem aus offiziellen Werkzeugen, Client-Bibliotheken und Framework-Integrationen entwickelt. Es ist kleiner als das von Elasticsearch, aber für die typischen Such- und RAG-Szenarien gut ausgebaut.

pyvespa, Vespa CLI und HTTP-Schnittstellen

Für Data-Science- und KI-Teams ist pyvespa der wichtigste Einstiegspunkt. Die Python-Bibliothek erlaubt es, Schemas, Felder, Rank-Profile und Embedder direkt in Python zu definieren, daraus ein Application Package zu erzeugen und es lokal in einem Container oder in Vespa Cloud auszurollen. Dokumente lassen sich einspielen, Abfragen absetzen und Ranking-Varianten vergleichen – alles aus einem Notebook heraus. Für Experimente mit Embedding-Modellen, Hybrid-Ranking oder Evaluierung ist das ein sehr produktiver Arbeitsmodus.
Die Vespa CLI ist das Kommandozeilenwerkzeug für Entwickler und Betrieb. Mit ihr werden Application Packages erzeugt, validiert und ausgerollt, Dokumente eingespielt, Abfragen getestet und Logs abgerufen, sowohl gegen lokale Instanzen als auch gegen Vespa Cloud. Unter der Haube kommunizieren alle Werkzeuge über dokumentierte HTTP-Schnittstellen: eine Dokument-API zum Schreiben, Lesen und Aktualisieren, eine Query-API für Abfragen in YQL sowie Schnittstellen für Deployment und Betrieb. Für hohe Schreiblasten gibt es optimierte Feed-Clients. Für Java-Entwickler steht zudem die Möglichkeit offen, eigene Komponenten, sogenannte Searcher und Document Processors, direkt in den Container-Knoten auszuführen und Abfragen oder Dokumente programmatisch zu verändern.

LangChain, LlamaIndex und weitere Frameworks

In den großen RAG-Frameworks ist Vespa vertreten. LangChain bietet eine Integration, mit der Vespa als Retriever beziehungsweise Vektorspeicher genutzt werden kann; LlamaIndex stellt einen Vespa-Vektorspeicher bereit, der Hybrid-Abfragen unterstützt. Auch in Frameworks wie Haystack und in verschiedenen Agenten- und Orchestrierungsplattformen finden sich Anbindungen. Ausführliche Einordnungen zu den Frameworks selbst finden Sie in unseren Artikeln zu LangChain und LlamaIndex.
Bei Vespa gilt allerdings noch stärker als bei anderen Systemen: Die Framework-Integrationen bilden meist nur einen kleinen Teil der Möglichkeiten ab. Rank-Profile mit mehreren Phasen, gemischte Tensoren, Gruppierung, partielle Updates oder die Feinsteuerung des Nearest-Neighbor-Operators sind über generische Vektorspeicher-Schnittstellen kaum erreichbar. In produktiven Projekten empfehlen wir deshalb, das Schema und die Rank-Profile bewusst selbst zu entwerfen – etwa mit pyvespa – und Frameworks für Orchestrierung, Prompting und Agentenlogik einzusetzen. Wer Vespa nur als austauschbaren Vektorspeicher hinter einem Framework nutzt, verschenkt den größten Teil seines Nutzens.

ONNX, Modell-Ökosystem und Datenzufuhr

Für Machine Learning setzt Vespa auf offene Formate. Über ONNX lassen sich Modelle aus PyTorch, TensorFlow und anderen Bibliotheken exportieren und in Vespa für Embeddings oder Ranking ausführen. Gradient-Boosted-Trees aus verbreiteten Bibliotheken können ebenfalls importiert werden. Damit ist Vespa an das große Modell-Ökosystem rund um Hugging Face angeschlossen, ohne an einen bestimmten Modellanbieter gebunden zu sein. Für die Datenzufuhr gibt es neben den Feed-Clients Anbindungen an Streaming- und Messaging-Systeme sowie die Möglichkeit, Dokumente in der Engine selbst mit eigenen Verarbeitungsschritten anzureichern. Für Monitoring stellt Vespa Metriken bereit, die sich in verbreitete Überwachungssysteme übernehmen lassen.
Ebene Typische Werkzeuge Bemerkung
Python pyvespa Schemas, Deployment, Abfragen, Evaluierung
Entwicklung & Betrieb Vespa CLI, HTTP-APIs, Feed-Clients Lokal und gegen Vespa Cloud nutzbar
Erweiterung Java-Komponenten im Container Searcher, Document Processors
Frameworks LangChain, LlamaIndex, Haystack Basisfunktionen, Spezialfunktionen meist direkt
Modelle ONNX, Hugging-Face-Modelle, GBDT Embeddings und Ranking in der Engine
Monitoring Metrik-Schnittstellen, Konsole in der Cloud Latenz, Durchsatz, Speicher im Blick
Kapitel 06 · Abgrenzung zu Wettbewerbern

Vespa vs. Elasticsearch, Milvus, Qdrant, Weaviate und Pinecone

Vespa konkurriert sowohl mit klassischen Suchplattformen als auch mit dedizierten Vektordatenbanken und gemanagten Vektordiensten. Die Übersicht ist herstellerneutral und qualitativ – Leistungsangaben müssen stets im eigenen Szenario mit eigenen Daten geprüft werden.

Kriterium Vespa Elasticsearch / OpenSearch Milvus Qdrant Weaviate Pinecone
Typ Such- und Serving-Engine Such- und Analyseplattform Dedizierte Vektor-DB Dedizierte Vektor-DB Vektor-DB mit Modulen
Hybrid Search Kernstärke Kernstärke vorhanden nativ nativ
Ranking-Tiefe Multi-Phase, ML in Engine umfangreich, Plugins einfacher einfacher einfacher
Multi-Vektor / ColBERT nativ über Tensoren Stand prüfen Stand prüfen vorhanden Stand prüfen
Self-Hosting vollständig möglich möglich einfach möglich
Lernkurve steil mittel mittel flach flach
Lizenz Apache 2.0 Mehrere Optionen, prüfen Apache 2.0 Apache 2.0 BSD-3, prüfen
Typisches Profil Relevanzkritische Suche & Empfehlung Volltext, Logs, Unternehmenssuche Sehr große Vektorbestände Effizienz, Filter, Souveränität Schneller Einstieg, Module

Elasticsearch und OpenSearch: der naheliegendste Vergleich

Funktional liegt Elasticsearch und sein Fork OpenSearch am nächsten an Vespa. Beide sind ausgereifte Suchplattformen mit starker Volltextsuche, Facetten, Vektorsuche und Hybrid-Abfragen. Elasticsearch bringt zudem eigene Sparse-Modelle für semantische Schlüsselwortsuche mit, die wir im Artikel zu Elasticsearch und ELSER beschreiben. Der wesentliche Unterschied liegt im Ranking-Modell: Vespa wurde von Anfang an darauf ausgelegt, komplexe Ranking-Ausdrücke und Machine-Learning-Modelle über Tensoren direkt auf den Datenknoten auszuführen, und bietet ein durchgängiges Phasenkonzept. Elasticsearch und OpenSearch bieten ebenfalls Rescoring und Learning-to-Rank, häufig aber über Erweiterungen und mit weniger Flexibilität bei Tensoren. Umgekehrt punkten Elasticsearch und OpenSearch mit einem deutlich größeren Ökosystem, mehr verfügbaren Fachkräften, umfangreichen Analyse- und Log-Funktionen und einer flacheren Lernkurve. Echtzeit-Teilupdates sind eine weitere Stärke von Vespa, die bei häufig wechselnden Feldern ins Gewicht fällt.

Milvus, Qdrant und Weaviate: spezialisierte Vektordatenbanken

Milvus ist eine quelloffene, auf sehr große Vektorbestände ausgelegte Datenbank mit Cloud-nativer Architektur und vielen Indextypen. Qdrant, eine in Rust geschriebene Vektordatenbank eines Berliner Unternehmens, überzeugt mit effizienter Filterung, Quantisierung, nativer Hybrid-Suche und einem sehr einfachen Betrieb. Weaviate aus den Niederlanden setzt auf einen schnellen Einstieg mit Modulen für Embeddings und Generierung sowie einer GraphQL-ähnlichen Schnittstelle. Alle drei sind für typische RAG-Szenarien hervorragend geeignet und in Betrieb und Lernkurve meist zugänglicher als Vespa. Was ihnen im Vergleich fehlt, ist die Tiefe des Rankings: frei programmierbare Ausdrücke über Tensoren, mehrere Ranking-Phasen mit Modellinferenz, Gruppierung für Facetten und eine vollwertige Textsuchmaschine. Wer vor allem semantische Suche mit Filtern braucht, ist mit einer dedizierten Vektordatenbank oft schneller am Ziel. Vertiefungen finden Sie in unseren Artikeln zu Milvus, Qdrant und Weaviate.
Pinecone ist ein vollständig gemanagter, proprietärer Vektordienst aus den USA ohne Selbsthosting-Option für den Datenbankkern. Er punktet mit minimalem Betriebsaufwand und einem schnellen Einstieg. Für Unternehmen mit hohem Souveränitätsanspruch ist die fehlende Möglichkeit des Eigenbetriebs jedoch ein strukturelles Hindernis. Vespa bietet hier das Gegenmodell: dieselbe Engine wahlweise in der Cloud oder vollständig im eigenen Rechenzentrum.
Die Kernbotschaft der Abgrenzung: Vespa ist keine Abkürzung zum schnellen Vektorspeicher, sondern eine Plattform für Anwendungen, bei denen Relevanz und Ranking über den Geschäftserfolg mitentscheiden. Je mehr Signale in das Ranking einfließen sollen, je größer und dynamischer der Datenbestand ist und je wichtiger Latenz unter Last wird, desto stärker spielt Vespa seine Vorteile aus. Für einfache Wissensassistenten mit überschaubarem Bestand sind schlankere Systeme meist die pragmatischere Wahl.
Kapitel 07 · Einführung & Betrieb

Self-Hosting, Kubernetes oder Cloud: Vespa stabil einführen

Eine lokale Vespa-Instanz ist mit einem Container schnell gestartet. Der Weg zu einem stabilen, gut rankenden Produktivsystem führt jedoch über mehrere Schritte: Datenmodell, Rank-Profile, Evaluierung, Dimensionierung und Betriebsmodell. Wer diese Schritte bewusst plant, reduziert die Lernkurve erheblich.

01
Anwendungsfall und Erfolgskriterien klären
Festlegen, welche Suche oder welches Retrieval verbessert werden soll, welche Signale relevant sind und woran Relevanz gemessen wird – etwa mit einer Liste realer Anfragen und erwarteter Treffer.
02
Prototyp mit pyvespa
Schema, Embedder und ein erstes hybrides Rank-Profil in Python definieren, lokal per Container ausrollen und einen repräsentativen Datenausschnitt einspielen.
03
Ranking iterativ verbessern
Varianten von Text-, Vektor- und Metadatengewichtung vergleichen, zweite Phase oder Reranker ergänzen und Ergebnisse systematisch gegen die Erfolgskriterien messen.
04
Betriebsmodell und Dimensionierung festlegen
Vespa Cloud, Self-Hosting auf VMs oder Kubernetes beziehungsweise Betrieb durch einen Partner – abhängig von Datenschutz, Last, Know-how und Budget. Knotenrollen und Ressourcen ableiten.
05
Absichern, überwachen, ausrollen
Zugriffsschutz und TLS einrichten, Backups und Wiederherstellung testen, Metriken ins Monitoring übernehmen und Deployments über eine Pipeline mit Tests automatisieren.

Self-Hosted auf VMs oder Kubernetes vs. Vespa Cloud

Beim Selbstbetrieb wird Vespa als Container oder Paket auf eigenen Servern installiert. Eine Produktionsumgebung besteht typischerweise aus mehreren Config-Servern für die Ausfallsicherheit der Konfiguration, einem oder mehreren Container-Clustern für Abfragen, Feeds und Embeddings sowie einem Content-Cluster mit replizierten Daten. Diese Rollen lassen sich auf virtuellen Maschinen oder in Kubernetes betreiben; für Kubernetes gibt es Beispielkonfigurationen und Erfahrungsberichte, wobei Vespa mit seinen eigenen Konfigurations- und Verteilungsmechanismen nicht in allen Punkten dem typischen Kubernetes-Muster folgt. Wie der Betrieb auf Kubernetes aktuell unterstützt wird, sollte vor der Planung in der Dokumentation geprüft werden. Für Upgrades, Knotenwechsel und Wiederherstellung braucht das Team Erfahrung mit verteilten Systemen.
Vespa Cloud nimmt diese Aufgaben ab. Entwickler rollen ihr Application Package aus, und die Plattform kümmert sich um Knoten, Verteilung, Upgrades und Überwachung. Für Teams ohne eigene Plattform-Kompetenz ist das häufig der wirtschaftlichere Weg, zumal Entwicklungsumgebungen mit geringem Ressourcenbedarf schnelle Experimente ermöglichen. Die Abwägung lautet daher weniger Technik gegen Technik als Datenhoheit und Kontrolle gegen Betriebsaufwand – ein Thema, das wir in Kapitel 09 aus Datenschutzsicht vertiefen. Eine Zwischenlösung ist der Betrieb der Open-Source-Engine durch einen spezialisierten Dienstleister oder europäischen Hoster.

Lernkurve, Kompetenzen und typische Stolpersteine

Die Lernkurve ist der am häufigsten genannte Nachteil von Vespa, und sie ist real. Teams müssen Konzepte verstehen, die es in einfachen Vektordatenbanken nicht gibt: Application Packages, die Unterscheidung von Index-, Attribut- und Summary-Feldern, Tensor-Typen und Tensor-Ausdrücke, Rank-Profile mit mehreren Phasen, die Abfragesprache YQL und das Zusammenspiel von Config-, Container- und Content-Knoten. Die Dokumentation ist umfangreich und es gibt viele Beispielanwendungen, aber der Einstieg verlangt Zeit. Wir planen in Projekten bewusst eine Lern- und Experimentierphase ein, in der das Team mit realen Daten und realen Anfragen arbeitet.
Typische Stolpersteine sind ein zu frühes Optimieren der Infrastruktur statt des Rankings, Felder, die versehentlich nicht als Attribut definiert sind und dadurch langsame Filter verursachen, sowie Rank-Profile, die ohne Evaluierung immer komplexer werden. Auch der Speicherbedarf von Multi-Vektor-Repräsentationen und HNSW-Indizes wird häufig unterschätzt; Attributfelder und Indizes liegen größtenteils im Arbeitsspeicher. Vor dem Produktivstart sollte deshalb ein Lasttest mit realistischer Datenmenge und realistischem Abfragemuster stehen.
Stärken
  • Automatische Datenverteilung und Replikation ohne Ausfallzeit
  • Echtzeit-Updates inklusive partieller Feldänderungen
  • Ein System für Text-, Vektor-, Hybrid-Suche und Ranking
  • Volle Engine auch in der Open-Source-Variante
  • Wahl zwischen Eigenbetrieb und gemanagter Cloud
Einschränkungen
  • Steile Lernkurve, spezialisiertes Wissen erforderlich
  • Verteiltes System mit mehreren Knotenrollen im Selbstbetrieb
  • Kleineres Fachkräfte- und Dienstleister-Ökosystem
  • Speicherbedarf von Indizes und Multi-Vektoren planen
  • Für kleine Prototypen oft überdimensioniert
Kapitel 08 · Einsatz im Mittelstand

Wo Vespa im Mittelstand Wirkung entfaltet – und wo nicht

Vespa ist im Mittelstand kein Standardwerkzeug, sondern eine gezielte Wahl für Anwendungen, bei denen Suche und Relevanz über Umsatz, Effizienz oder Kundenzufriedenheit mitentscheiden. Für diese Fälle bietet die Engine Möglichkeiten, die sonst nur großen Plattformen zur Verfügung stehen.

Der Mehrwert entsteht vor allem dort, wo viele Signale zusammenkommen. Ein Onlineshop mit großem Sortiment möchte Suchbegriffe exakt treffen, Synonyme und Umschreibungen verstehen, nur verfügbare Artikel zeigen, Marge und Saisonalität berücksichtigen und Ergebnisse personalisieren. Ein technischer Großhändler möchte, dass Kunden über Artikelnummern, Normbezeichnungen und Freitext gleichermaßen fündig werden. Ein Industrieunternehmen möchte sein verteiltes Wissen aus Handbüchern, Serviceberichten und Konstruktionsdokumenten so durchsuchbar machen, dass ein Sprachmodell belastbare Antworten mit Quellenangabe formuliert.

Typische Anwendungsfälle

E-Commerce-Suche

Hybride Produktsuche aus Begriffen und Bedeutung, Facetten nach Marke und Preis, Ranking nach Relevanz, Verfügbarkeit und Geschäftszielen – mit Echtzeit-Updates für Preise und Bestände.

Höhere Konversion
Produktkatalog im B2B

Technische Kataloge mit vielen Varianten und Attributen werden über Artikelnummern, Normen und Freitext gleichermaßen durchsuchbar, inklusive kundenspezifischer Sortimente und Preise.

Weniger Suchabbrüche
Wissenssuche & RAG

Handbücher, Serviceberichte und Richtlinien werden hybrid durchsucht und mehrstufig gerankt, bevor ein Sprachmodell daraus Antworten mit Quellen formuliert – mit Berechtigungsfiltern.

Belastbare Antworten
Empfehlungen & Personalisierung

Ähnliche Produkte, Zubehör oder Inhalte werden anhand von Nutzerprofilen und Verhalten in Echtzeit ermittelt und nach Relevanz und Aktualität sortiert.

Mehr Warenkorbwert
Medien- und Dokumentarchive

Große Archive mit Texten, Bildern und gescannten Dokumenten werden über Multi-Vektor-Modelle und Volltext erschlossen, auch für visuelle Inhalte von PDF-Seiten.

Erschlossenes Wissen
Souveräne Suchplattform

Unternehmen, die ihre Suche langfristig unabhängig von US-Diensten betreiben wollen, erhalten mit der Open-Source-Engine eine skalierbare Basis im eigenen Rechenzentrum.

Datenhoheit

Eine realistische Referenzarchitektur

Ein typisches Mittelstandsprojekt mit Vespa sieht in unserer Praxis etwa so aus: Produktdaten aus dem PIM- oder ERP-System und Inhalte aus dem CMS werden über eine Ingestion-Pipeline nach Vespa übertragen. Preise und Bestände kommen als partielle Updates in kurzen Abständen hinzu. Ein lokal in der Engine betriebenes Embedding-Modell vektorisiert Produktbeschreibungen beim Einspielen. Das Rank-Profil kombiniert in der ersten Phase BM25 auf Titel und Beschreibung mit der Vektorähnlichkeit, ergänzt Verfügbarkeit und Popularität und bewertet die besten Kandidaten in einer zweiten Phase mit einem stärkeren Modell. Die Shop-Anwendung fragt Vespa über die Query-API ab und nutzt Gruppierung für die Facetten. Für einen ergänzenden Beratungsassistenten liefert dieselbe Vespa-Instanz die Kontexte für ein Sprachmodell, das idealerweise ebenfalls in Europa oder selbst betrieben wird.
Für Wissensanwendungen sieht das Muster ähnlich aus: Dokumente aus Dateiablagen, Wikis und Ticketsystemen werden aufbereitet, in Abschnitte gegliedert und mit Berechtigungsinformationen versehen. Vespa speichert die Dokumente mit ihren Abschnitten, führt Hybrid-Suche mit Berechtigungsfilter aus und liefert die relevantesten Abschnitte an die RAG-Schicht. Grundlagen dazu finden Sie in unseren Artikeln zu RAG und semantischer Suche.

Wann Vespa überdimensioniert ist

Ehrlich betrachtet ist Vespa für viele Mittelstandsprojekte mehr, als nötig ist. Ein interner Wissensassistent über einige tausend Dokumente mit wenigen hundert Anfragen pro Tag lässt sich mit pgvector, Qdrant oder einer vergleichbaren Lösung schneller und mit weniger Spezialwissen umsetzen. Auch wenn kein Team vorhanden ist, das sich mit Ranking und Evaluierung beschäftigen will, verpufft ein großer Teil des Vespa-Nutzens. Vespa lohnt sich typischerweise, wenn mindestens einer der folgenden Punkte zutrifft: Suche ist umsatz- oder prozesskritisch, der Datenbestand ist groß oder ändert sich ständig, viele Signale sollen ins Ranking einfließen, die Lösung soll über Jahre ohne Architekturwechsel wachsen, oder Datenhoheit mit voller Funktionalität im Eigenbetrieb ist Pflicht. Treffen diese Punkte nicht zu, empfehlen wir, mit einer schlankeren Lösung zu starten und Vespa als Option für die nächste Ausbaustufe im Blick zu behalten.
Konkrete Preise nennen wir bewusst nicht

Der Aufwand für ein Vespa-basiertes Such- oder RAG-Projekt hängt stark von Datenmenge, Abfragevolumen, Quellsystemen, Ranking-Anforderungen, Berechtigungsmodell und Betriebsmodell ab. Pauschale Festpreise wären irreführend. Was wir verlässlich anbieten: einen kompakten Discovery-Workshop, in dem wir Ihre Ausgangslage analysieren, die passende Architektur herstellerneutral bewerten und einen transparenten Umsetzungsweg schätzen.

Kapitel 09 · Kosten & DSGVO

Ressourcen, Betriebsmodell und Datenhoheit

Für Unternehmen im DACH-Raum ist die Frage nach Datenschutz und Datenhoheit bei Such- und KI-Projekten mindestens so wichtig wie die Technik. Vespa bietet hier eine gute Ausgangslage: Die vollständige Engine ist quelloffen und selbst betreibbar, und der Anbieter hat seinen Ursprung im europäischen Wirtschaftsraum.

Keine Rechtsberatung

Die folgenden Ausführungen sind eine praxisorientierte Einordnung aus IT- und Projektsicht – keine Rechtsberatung. Für die rechtssichere Bewertung Ihres konkreten Einsatzes, für Auftragsverarbeitungsverträge, Datenschutz-Folgenabschätzungen und die Bewertung möglicher Drittlandbezüge ziehen Sie bitte Ihre Datenschutzbeauftragten oder eine spezialisierte Kanzlei hinzu.

Self-Hosting, Vespa Cloud und die Frage des Datenstandorts

Der Selbstbetrieb der Open-Source-Engine im eigenen Rechenzentrum oder bei einem deutschen beziehungsweise europäischen Hoster ist die souveränste Option. Dokumente, Embeddings, Suchanfragen und Logs verbleiben vollständig im eigenen Verantwortungsbereich. Wird zusätzlich das Embedding-Modell in der Engine und das Sprachmodell lokal oder bei einem europäischen Anbieter betrieben, entsteht eine durchgängig kontrollierbare Verarbeitungskette. Bei einem Hoster ist dieser Auftragsverarbeiter; ein entsprechender Vertrag ist abzuschließen, und dessen Unterauftragnehmer sind zu prüfen.
Bei Vespa Cloud ist zunächst der Anbieter selbst zu betrachten. Vespa.ai hat seinen Ursprung und Entwicklungsschwerpunkt in Norwegen. Norwegen ist zwar kein EU-Mitglied, aber Teil des Europäischen Wirtschaftsraums und wendet die DSGVO an; Datenübermittlungen dorthin gelten datenschutzrechtlich nicht als Drittlandtransfer. Gesellschaftsstruktur, Vertragspartner und Sitz sollten für die Bewertung trotzdem aktuell beim Anbieter geprüft werden. Zu berücksichtigen ist außerdem, dass Vespa Cloud auf der Infrastruktur großer Hyperscaler läuft, die ihren Hauptsitz in den USA haben. Welche Regionen in der Europäischen Union zur Verfügung stehen, welche Unterauftragsverarbeiter eingesetzt werden, wie Supportzugriffe geregelt sind und wie mögliche Zugriffsrechte nach dem US CLOUD Act auf Infrastrukturebene zu bewerten sind, gehört in die Prüfung durch Datenschutzbeauftragte. Varianten, bei denen die Infrastruktur im eigenen Cloud-Konto des Kunden läuft, können die Kontrolle erhöhen; ihr Umfang ist beim Anbieter zu prüfen.
Unabhängig vom Betriebsmodell gilt: Suchindizes enthalten oft genau die Daten, die besonders schützenswert sind – Kundendaten, Vertragsinhalte, interne Dokumente, Suchanfragen von Mitarbeitenden und Kunden. Embeddings sind keine anonymen Daten; aus ihnen lassen sich unter Umständen Rückschlüsse auf die Ursprungstexte ziehen. Wichtig sind deshalb ein Berechtigungskonzept, das Dokumente bereits im Retrieval filtert, ein Löschkonzept für Auskunfts- und Löschersuchen, das Repliken und Backups einschließt, sowie eine Protokollierung, die Suchanfragen nicht länger als nötig speichert. Der Streaming-Modus kann bei streng mandantengetrennten Daten zusätzlich helfen, weil Daten je Benutzer oder Mandant getrennt verarbeitet werden.
Empfehlung: Self-Hosting oder EU-Region – mit klarer Dokumentation

Für datenschutzsensible Anwendungen empfehlen wir Vespa im eigenen Rechenzentrum oder bei einem deutschen beziehungsweise europäischen Hoster – mit Embedding-Modell in der Engine. Wer Vespa Cloud nutzt, wählt eine Region in der EU, bewertet Anbieter, Hyperscaler-Infrastruktur und Unterauftragsverarbeiter sorgfältig und dokumentiert die Entscheidung. In allen Fällen gehört die gesamte Pipeline auf den Prüfstand, insbesondere auch das Sprachmodell.

Betrieb
Self-Hosting oder europäischer Hoster bevorzugen
Anbieter
Ursprung Norwegen, EWR – Sitz aktuell prüfen
Cloud
EU-Regionen und Hyperscaler beim Anbieter prüfen
Embeddings
Modell lokal in der Engine betreiben
Zugriff
Berechtigungsfilter im Retrieval, TLS
Löschung
Löschkonzept inklusive Repliken und Backups

Kosten: Ressourcen, Know-how und Betriebsmodell

Die Kostenstruktur von Vespa wird von drei Faktoren bestimmt. Erstens von den Ressourcen: Arbeitsspeicher für Attribute und HNSW-Indizes, Festplatte für Dokumente und Textindizes, Rechenleistung für Embeddings und Ranking-Modelle. Multi-Vektor-Repräsentationen und große Modelle in der zweiten Ranking-Phase treiben den Bedarf, kompakte Vektorformate und binäre Repräsentationen senken ihn. Zweitens vom Betriebsmodell: Beim Selbstbetrieb fallen keine Lizenzgebühren an, wohl aber Kosten für Server, Replikate, Backups, Monitoring und die Arbeitszeit des Betriebsteams. Vespa Cloud wird ressourcenbasiert abgerechnet, abhängig von den bereitgestellten Knoten und deren Ausstattung; aktuelle Preise und Konditionen sind beim Anbieter zu prüfen.
Drittens – und oft unterschätzt – vom Know-how. Die Lernkurve von Vespa bedeutet, dass Einarbeitung, Ranking-Entwicklung und Evaluierung einen relevanten Anteil am Projektbudget ausmachen. Dem steht gegenüber, dass Vespa mehrere Komponenten ersetzen kann, die sonst separat betrieben werden müssten: Suchmaschine, Vektordatenbank, Embedding-Service und Reranking-Dienst. In der Wirtschaftlichkeitsbetrachtung sollte man deshalb nicht Vespa gegen eine einzelne Vektordatenbank rechnen, sondern Vespa gegen die gesamte Kette, die es ersetzt – und gegen den Geschäftswert einer besseren Suche, etwa höhere Konversion oder kürzere Suchzeiten im Service.
Kapitel 10 · Häufige Fragen

Häufig gestellte Fragen zu Vespa

Diese Fragen tauchen in unseren Beratungsgesprächen rund um Vespa als Such-, Ranking- und RAG-Plattform am häufigsten auf – kurz und sachlich beantwortet.

Grundlagen und Technik

Ist Vespa eine Vektordatenbank?
Vespa ist mehr als eine Vektordatenbank: Es ist eine Such- und Serving-Engine, die Vektorsuche mit HNSW, Volltextsuche mit BM25, strukturierte Filter, Gruppierung und frei programmierbares Ranking mit Tensoren und Machine-Learning-Modellen in einem System vereint. Vektorsuche ist ein Baustein unter mehreren – allerdings ein sehr leistungsfähiger.
Woher kommt Vespa und wer steht dahinter?
Vespa hat seine Wurzeln in der norwegischen Suchtechnologie, die später bei Yahoo weiterentwickelt und dort für große Such-, Empfehlungs- und Werbesysteme eingesetzt wurde. Yahoo veröffentlichte die Engine als Open Source. Heute wird sie von Vespa.ai, einem aus Yahoo ausgegründeten Unternehmen mit Ursprung in Trondheim, entwickelt und als Vespa Cloud angeboten. Aktuelle Unternehmensangaben bitte beim Anbieter prüfen.
Unterstützt Vespa Hybrid-Suche?
Ja, Hybrid-Suche ist eine Kernstärke von Vespa. Volltextsignale wie BM25 und Vektorähnlichkeit können in einer Abfrage kombiniert und in Rank-Profilen frei gewichtet, normalisiert oder per Rangfusion zusammengeführt werden. In späteren Ranking-Phasen lassen sich zusätzlich Machine-Learning-Modelle und Reranker einsetzen.
Was bringt Multi-Phase-Ranking in der Praxis?
Multi-Phase-Ranking erlaubt es, teure Modelle nur auf die aussichtsreichsten Kandidaten anzuwenden. Eine günstige erste Phase bewertet alle Treffer, eine zweite Phase und eine globale Phase verfeinern die Spitzengruppe mit stärkeren Modellen wie Cross-Encodern. So steigt die Relevanz, ohne dass die Latenz aus dem Ruder läuft.
Ist Vespa für mittelständische Unternehmen geeignet?
Vespa lohnt sich vor allem, wenn Suchqualität und Ranking geschäftskritisch sind, etwa bei großen Produktkatalogen im E-Commerce, technischen B2B-Katalogen oder anspruchsvoller Wissenssuche. Für einen kleinen RAG-Prototyp mit wenigen tausend Dokumenten ist Vespa oft überdimensioniert; dann sind schlankere Lösungen wie pgvector oder Qdrant meist wirtschaftlicher.
Wie schwer ist der Einstieg in Vespa?
Die Lernkurve ist steiler als bei einfachen Vektordatenbanken. Teams müssen Konzepte wie Application Packages, Schemas, Rank-Profile, Tensor-Ausdrücke und Content-Cluster verstehen. Mit pyvespa, den Beispielanwendungen und einem klar abgegrenzten Pilotprojekt mit realen Daten ist ein produktiver Einstieg aber gut planbar.
Kann man Vespa DSGVO-konform betreiben?
Vespa ist quelloffen und lässt sich vollständig selbst oder bei einem europäischen Hoster betreiben – die souveränste Option. Vespa.ai hat seinen Ursprung in Norwegen, das als EWR-Staat die DSGVO anwendet. Bei Vespa Cloud sind EU-Regionen, die zugrunde liegende Hyperscaler-Infrastruktur und Unterauftragsverarbeiter beim Anbieter zu prüfen. Ob Ihr konkreter Einsatz DSGVO-konform ist, hängt von der gesamten Verarbeitung ab; die rechtliche Bewertung gehört zu Ihren Datenschutzbeauftragten – dies ist keine Rechtsberatung.
Was kostet Vespa?
Die Open-Source-Engine ist lizenzkostenfrei; es fallen Kosten für Infrastruktur, Betrieb und Know-how an. Vespa Cloud wird ressourcenbasiert abgerechnet. Aktuelle Preise und Konditionen sind beim Anbieter zu prüfen. In die Wirtschaftlichkeitsrechnung gehört auch, welche Komponenten Vespa ersetzt und welchen Geschäftswert eine bessere Suche bringt.

Einführung, Kosten und Datenschutz

Souveräne KI-Suche aufbauen

Bereit für eine Suche, die wirklich findet?

Von der herstellerneutralen Entscheidung zwischen Vespa, Suchplattform und dedizierter Vektordatenbank über Hybrid-Suche und mehrstufiges Ranking bis zum souverän betriebenen, DSGVO-konformen RAG-System – INAGRO begleitet Sie auf jedem Schritt. Mit Retrieval-Expertise, Datenschutz-Fokus und tiefem Verständnis für den Mittelstand. Pragmatisch, herstellerneutral und mit messbarem Ergebnis.

Seit 2006 am Markt

Erfahrung aus über 100 Digitalprojekten

DSGVO & Souveränität

Datenschutz von Anfang an mitgedacht

Rückmeldung in 24 h

Schnell, direkt, unverbindlich