Wissensdatenbank · RAG-Konzepte · Retrieval

Hybrid Search – Schlüsselwort und Bedeutung in einer Suche.

Hybrid Search verbindet die klassische lexikalische Suche, etwa nach dem BM25-Verfahren, mit semantischer Vektorsuche und führt beide Trefferlisten zu einem gemeinsamen Ranking zusammen. Für RAG-Systeme und Unternehmenssuche im Mittelstand ist das oft der entscheidende Schritt von „findet manchmal etwas Passendes“ zu „findet zuverlässig das Richtige“ – gerade bei Artikelnummern, Normen und Fachbegriffen. Dieser Fachartikel erklärt Konzept, Bausteine, Fusionsverfahren, Werkzeuge, Betrieb mit deutscher Sprache sowie Kosten und DSGVO – herstellerneutral und praxisnah.

Dieser Artikel wurde mithilfe künstlicher Intelligenz erstellt und redaktionell geprüft.

28 Min. Lesezeit
Aktualisiert · Oktober 2026
Fachartikel · Expertenbeitrag
Hybrid Search
Konzept · herstellerneutral
Typ
Retrieval-Konzept
Kerntechnik
BM25 + Vektorsuche
Fusion
RRF, gewichtete Scores
Einsatz
RAG, Enterprise Search
Betrieb
Cloud, EU-Cloud, Self-Hosted
Stärke
Exakte Begriffe und Semantik
INAGRO Relevanz für den Mittelstand
★★★★★
Kapitel 01 · Überblick

Was ist Hybrid Search – und warum reicht Vektorsuche allein nicht?

Hybrid Search bezeichnet ein Suchverfahren, das zwei grundverschiedene Arten des Findens kombiniert: die lexikalische Suche, die auf übereinstimmende Wörter achtet, und die semantische Vektorsuche, die auf übereinstimmende Bedeutung achtet. Beide liefern eigene Trefferlisten, die anschließend zu einem gemeinsamen Ranking verschmolzen werden.

Mit dem Aufkommen von Retrieval-Augmented Generation hat die Vektorsuche eine erstaunliche Karriere gemacht. Plötzlich schien die Suche gelöst: Texte werden mit einem Embedding-Modell in Vektoren übersetzt, eine Anfrage ebenso, und die Datenbank liefert die inhaltlich nächstgelegenen Abschnitte. Wer „Wie beantrage ich Urlaub?“ fragt, findet die Urlaubsrichtlinie, auch wenn dort nur von „Abwesenheitsantrag“ die Rede ist. Diese Fähigkeit, Umschreibungen, Synonyme und sogar andere Sprachen zu überbrücken, ist ein echter Fortschritt gegenüber der klassischen Stichwortsuche.
In der Praxis zeigt sich jedoch schnell eine Kehrseite. Ein Servicetechniker sucht nach dem Fehlercode „E-417“, und die Vektorsuche liefert ihm Abschnitte über „E-471“, „E-41“ oder allgemein über Fehlermeldungen – semantisch ähnlich, sachlich falsch. Ein Einkäufer sucht nach einer konkreten Artikelnummer und bekommt ähnlich klingende Produkte. Eine Qualitätsmanagerin fragt nach einer bestimmten DIN-Norm und erhält Abschnitte über verwandte Normen. Das liegt nicht an einem schlechten Modell, sondern am Prinzip: Embeddings verdichten Bedeutung, und genau dabei gehen exakte Zeichenketten, seltene Bezeichner und feine Unterschiede verloren. Für das Embedding-Modell ist eine Artikelnummer bestenfalls ein Muster aus Ziffern, schlimmstenfalls Rauschen.
Hybrid Search setzt genau an dieser Lücke an. Sie lässt die lexikalische Suche das tun, was sie seit Jahrzehnten zuverlässig kann – exakte Begriffe, Codes, Namen und Fachwörter finden –, und lässt die Vektorsuche das tun, worin sie stark ist: Bedeutung erkennen, auch wenn die Wörter nicht übereinstimmen. Das Ergebnis ist eine Suche, die beide Fehlerbilder deutlich abmildert. Sie ist kein exotisches Spezialverfahren, sondern hat sich in vielen produktiven RAG-Systemen und Unternehmenssuchen als sinnvoller Standard etabliert.

Zwei Arten des Findens: lexikalisch und semantisch

Die lexikalische Suche arbeitet mit einem invertierten Index: Für jedes Wort ist gespeichert, in welchen Dokumenten es vorkommt. Eine Anfrage wird in Wörter zerlegt, die passenden Dokumente werden nachgeschlagen und nach einer Relevanzformel bewertet, heute meist nach BM25. Seltene Wörter zählen dabei mehr als häufige, und ein Dokument, in dem ein Suchbegriff mehrfach vorkommt, gilt als relevanter – allerdings mit abnehmendem Zusatznutzen. Das Verfahren ist schnell, gut verstanden, erklärbar und benötigt keine KI-Modelle. Seine Schwäche: Es findet nur, was wörtlich (oder nach Wortstamm-Reduktion) übereinstimmt. Wer „Kühlmittel“ sucht, findet kein Dokument, in dem nur „Kühlschmierstoff“ steht.
Die semantische Suche arbeitet mit dichten Vektoren, englisch Dense Vectors. Ein Embedding-Modell bildet jeden Textabschnitt auf einen Punkt in einem hochdimensionalen Raum ab; inhaltlich ähnliche Texte liegen nah beieinander. Gesucht wird über Nächste-Nachbarn-Verfahren, meist mit approximativen Indizes wie HNSW. Die Stärke liegt im Verständnis von Bedeutung, Kontext und Umschreibung. Die Schwäche liegt bei allem, was sich der Bedeutung entzieht: Seriennummern, Eigennamen, Abkürzungen, neue Fachbegriffe, die das Modell im Training nicht gesehen hat, und Anfragen, bei denen ein einziges Zeichen den Unterschied macht.

Warum die Kombination mehr ist als die Summe

Der Clou der Hybrid Search liegt darin, dass die Fehler beider Verfahren weitgehend unkorreliert sind. Wo die Vektorsuche danebenliegt, trifft die lexikalische Suche oft, und umgekehrt. Ein Dokument, das in beiden Listen weit oben steht, ist mit hoher Wahrscheinlichkeit relevant. Ein Dokument, das nur in einer Liste auftaucht, bekommt trotzdem eine Chance, wenn es dort sehr gut platziert ist. Diese Logik bilden Fusionsverfahren wie Reciprocal Rank Fusion ab, auf die wir in Kapitel 03 im Detail eingehen.
Für RAG-Systeme ist das besonders wichtig, weil das Sprachmodell nur mit dem arbeiten kann, was die Suche ihm übergibt. Fehlt der entscheidende Abschnitt im Kontext, formuliert das Modell eine plausible, aber falsche oder unvollständige Antwort. In vielen Fehleranalysen von RAG-Projekten liegt die Ursache nicht im Sprachmodell, sondern im Retrieval. Hybrid Search ist daher häufig der Hebel mit dem besten Verhältnis aus Aufwand und Wirkung, bevor man über größere Modelle, aufwendigere Pipelines oder Feintuning nachdenkt.
Kriterium Lexikalisch (BM25) Semantisch (Vektor) Hybrid Search
Exakte Begriffe, Codes sehr stark schwach stark
Synonyme, Umschreibungen schwach sehr stark stark
Natürliche Fragen eingeschränkt stark stark
Erklärbarkeit hoch gering mittel
Infrastrukturbedarf gering mittel mittel
INAGRO-Einschätzung

Für Unternehmensdaten im Mittelstand – mit Artikelnummern, Normen, Kundennamen, Fehlercodes und gewachsener Fachsprache – ist Hybrid Search in unseren Projekten der empfehlenswerte Ausgangspunkt, nicht die Kür. Reine Vektorsuche wirkt in Demos überzeugend, stößt im Alltag mit echten Dokumenten aber schnell an Grenzen. Wer von Beginn an hybrid plant, spart sich spätere Umbauten.

Kapitel 02 · Varianten & Lösungslandschaft

Wo Hybrid Search heute steckt: Suchmaschinen, Vektordatenbanken, Cloud-Dienste

Hybrid Search ist kein eigenes Produkt, sondern eine Fähigkeit, die viele Such- und Datenbanksysteme inzwischen nativ mitbringen. Die Ansätze unterscheiden sich allerdings deutlich – je nachdem, ob ein System aus der Volltextsuche oder aus der Vektorsuche kommt.

Grob lassen sich drei Herkunftslinien unterscheiden. Klassische Suchmaschinen wie Elasticsearch, OpenSearch oder Vespa haben eine lange Tradition in der Volltextsuche und haben Vektorsuche nachgerüstet. Vektordatenbanken wie Weaviate, Qdrant oder Milvus sind für die Vektorsuche gebaut und haben lexikalische beziehungsweise Sparse-Verfahren ergänzt. Allgemeine Datenbanken wie PostgreSQL bieten beides als Erweiterung an. Hinzu kommen gemanagte Cloud-Dienste wie Azure AI Search, die Hybrid Search als Konfigurationsoption bereitstellen. Die folgende Übersicht ist qualitativ und herstellerneutral; Funktionsumfang und Details ändern sich mit jeder Version und sollten im konkreten Projekt geprüft werden.
Elasticsearch & OpenSearch
Suchmaschine

Reife Volltextsuche mit BM25, umfangreicher Sprachanalyse und Vektorfeldern. Elasticsearch bietet RRF-basierte Kombination und das Learned-Sparse-Modell ELSER; OpenSearch nutzt Such-Pipelines mit Normalisierung und Kombination.

StärkeTextanalyse
BetriebSelf-Hosted, Cloud
HerkunftVolltextsuche
Azure AI Search
Managed

Gemanagter Suchdienst von Microsoft mit Hybrid-Abfragen, die Volltext- und Vektortreffer per RRF zusammenführen, plus optionalem semantischem Reranking. Eng integriert in das Azure-Ökosystem.

Stärkewenig Betrieb
Betriebnur Cloud
AnbieterUSA
Weaviate
Open Source

Vektordatenbank mit eingebauter Hybrid-Abfrage, die BM25 und Vektorsuche über einen Gewichtungsparameter kombiniert und zwischen rangbasierter und scorebasierter Fusion wählen lässt.

Stärkeeinfache API
BetriebSelf-Hosted, Cloud
HerkunftNiederlande
Qdrant
Open Source

Vektordatenbank mit Unterstützung für Dense- und Sparse-Vektoren in einer Collection. Hybride Abfragen kombinieren mehrere Vorab-Suchen und fusionieren sie, etwa per RRF.

StärkeSparse + Dense
BetriebSelf-Hosted, Cloud
HerkunftDeutschland
Milvus
Open Source

Skalierbare Vektordatenbank mit Sparse-Vektoren und Volltextfunktion. Hybride Suchen über mehrere Vektorfelder werden mit rangbasierten oder gewichteten Rankern zusammengeführt.

Stärkegroße Datenmengen
BetriebSelf-Hosted, Cloud
Managedüber Zilliz
Vespa
Suchmaschine

Such- und Ranking-Engine mit frei programmierbaren, mehrstufigen Ranking-Ausdrücken, in denen BM25, Vektornähe und Metadaten beliebig kombiniert werden können. Sehr mächtig, aber anspruchsvoll.

StärkeRanking-Kontrolle
BetriebSelf-Hosted, Cloud
HerkunftNorwegen
PostgreSQL mit pgvector
Pragmatisch

Vektorsuche per pgvector plus eingebaute Volltextsuche mit tsvector und deutscher Sprachkonfiguration. Die Fusion wird in SQL selbst formuliert – ideal, wenn PostgreSQL ohnehin im Haus ist.

Stärkeeine Datenbank
Betriebüberall
Fusionselbst in SQL

Suchmaschinen mit Vektor-Erweiterung

Elasticsearch und sein Fork OpenSearch sind in vielen Unternehmen bereits als Volltextsuche, Log-Plattform oder Produktsuche im Einsatz. Ihre besondere Stärke ist die ausgereifte Textanalyse: Tokenizer, Stemmer, Synonymlisten, Komposita-Zerlegung, Feldgewichtungen und Abfragesprachen, die über viele Jahre gewachsen sind. Beide Systeme speichern inzwischen Vektoren und unterstützen approximative Nächste-Nachbarn-Suche. Elasticsearch, entwickelt von Elastic mit operativem Hauptsitz in den USA, bietet Hybrid-Abfragen mit Reciprocal Rank Fusion sowie mit ELSER ein eigenes Learned-Sparse-Modell. OpenSearch, ursprünglich von AWS initiiert und inzwischen unter dem Dach der Linux Foundation weiterentwickelt, setzt auf Such-Pipelines, in denen Scores normalisiert und kombiniert werden; neuere Versionen unterstützen ebenfalls rangbasierte Fusion.
Vespa geht einen anderen Weg. Die ursprünglich bei Yahoo entstandene, heute von einem eigenständigen Unternehmen mit Wurzeln in Norwegen weiterentwickelte Engine lässt Ranking als programmierbaren Ausdruck formulieren. BM25-Werte, Vektornähe, Metadaten wie Aktualität oder Dokumenttyp und sogar Machine-Learning-Modelle werden in mehreren Phasen kombiniert. Das bietet maximale Kontrolle, verlangt aber Erfahrung im Ranking-Design. Für den typischen Mittelständler ist Vespa eher die Wahl bei sehr großen Datenbeständen oder besonders anspruchsvollen Relevanzanforderungen.

Vektordatenbanken mit lexikalischer Komponente

Die Vektordatenbanken der jüngeren Generation haben erkannt, dass reine Vektorsuche nicht genügt. Weaviate, entwickelt von einem Unternehmen aus den Niederlanden, bietet eine Hybrid-Abfrage, bei der ein einzelner Parameter steuert, wie stark Vektorsuche und Schlüsselwortsuche gewichtet werden. Qdrant, ein Open-Source-Projekt aus Berlin, behandelt lexikalische Signale als Sparse-Vektoren und erlaubt es, mehrere Teilabfragen zu kombinieren und zu fusionieren. Milvus, ein Projekt unter dem Dach der LF AI & Data Foundation mit dem kommerziellen Anbieter Zilliz, unterstützt mehrere Vektorfelder pro Datensatz, darunter Sparse-Vektoren, und bringt Ranker für die Zusammenführung mit.
Allen gemeinsam ist, dass die lexikalische Komponente historisch jünger ist als bei klassischen Suchmaschinen. Für Englisch funktioniert sie meist problemlos, bei deutscher Sprache lohnt ein genauer Blick: Welche Tokenizer und Stemmer stehen zur Verfügung, werden Komposita zerlegt, wie werden Umlaute behandelt? Hier kann es sinnvoll sein, die lexikalische Aufbereitung teilweise vor die Datenbank zu verlagern oder eine Suchmaschine mit ausgereifter Sprachanalyse zu ergänzen.

Datenbank-Erweiterungen und gemanagte Dienste

PostgreSQL mit pgvector ist der pragmatischste Einstieg, wenn ohnehin eine PostgreSQL-Datenbank betrieben wird. Die Vektorsuche liefert pgvector, die lexikalische Suche die eingebaute Volltextsuche mit tsvector und tsquery inklusive deutscher Sprachkonfiguration. Die Fusion schreibt man selbst, typischerweise als SQL-Abfrage mit zwei Teilergebnissen und einer RRF-Berechnung. Die eingebaute Rangfunktion entspricht nicht exakt BM25; für anspruchsvollere Anforderungen gibt es Erweiterungen, die BM25-ähnliche Bewertung nachrüsten. Der große Vorteil: Daten, Rechte und Transaktionen bleiben in einem System.
Azure AI Search von Microsoft ist ein vollständig gemanagter Dienst, bei dem Hybrid Search im Wesentlichen eine Abfrageoption ist. Volltext- und Vektortreffer werden per RRF zusammengeführt, ein optionaler semantischer Ranker sortiert die besten Kandidaten nach. Für Unternehmen, die bereits stark auf Microsoft setzen, ist das bequem; zu beachten sind die Bindung an den US-Anbieter und an dessen Preis- und Funktionsentwicklung. Vergleichbare Angebote existieren bei anderen großen Cloud-Anbietern und als gemanagte Varianten der genannten Open-Source-Systeme.
Kapitel 03 · Technische Kernbausteine

BM25, Dense, Learned Sparse und Fusion: wie Hybrid Search funktioniert

Hinter dem Begriff Hybrid Search stecken einige wenige, gut verständliche Bausteine. Wer sie kennt, kann Systeme sinnvoll konfigurieren, Fehler eingrenzen und Angebote kritisch hinterfragen – ohne tief in die Mathematik einsteigen zu müssen.

01
Anfrage aufbereiten
Die Nutzeranfrage wird für die lexikalische Suche tokenisiert und normalisiert und für die Vektorsuche mit demselben Embedding-Modell wie die Dokumente in einen Vektor übersetzt.
02
Lexikalische Suche
Der invertierte Index liefert eine nach BM25 bewertete Kandidatenliste – stark bei exakten Begriffen, Codes, Namen und seltenen Fachwörtern.
03
Vektorsuche
Der Vektor-Index liefert die inhaltlich nächsten Nachbarn – stark bei Umschreibungen, Synonymen und frei formulierten Fragen.
04
Filter anwenden
Metadatenfilter wie Berechtigung, Gültigkeit, Produktlinie oder Sprache greifen in beiden Teilsuchen, damit keine unzulässigen Treffer in die Fusion gelangen.
05
Fusion
Beide Listen werden zu einem gemeinsamen Ranking zusammengeführt – rangbasiert per Reciprocal Rank Fusion oder scorebasiert nach Normalisierung und Gewichtung.
06
Optionales Reranking
Ein Reranker bewertet die besten Kandidaten erneut im direkten Vergleich mit der Anfrage, bevor sie an das Sprachmodell oder die Trefferliste gehen.

BM25: der robuste Klassiker der lexikalischen Suche

BM25 ist eine Bewertungsformel aus der Familie der probabilistischen Retrieval-Modelle und seit Jahrzehnten der Standard in Suchmaschinen. Sie berücksichtigt drei Faktoren. Erstens die Termfrequenz: Wie oft kommt ein Suchbegriff im Dokument vor? Mehr Vorkommen bedeuten mehr Relevanz, aber mit Sättigung – das zehnte Vorkommen bringt deutlich weniger als das zweite. Zweitens die inverse Dokumentfrequenz: Wie selten ist der Begriff in der gesamten Sammlung? Ein Wort wie „Pumpe“ in einem Pumpenhersteller-Index ist wenig aussagekräftig, eine bestimmte Typbezeichnung dagegen sehr. Drittens die Längennormalisierung: Lange Dokumente enthalten zufällig mehr Begriffe und werden daher etwas abgewertet.
Zwei Parameter steuern das Verhalten: einer für die Sättigung der Termfrequenz, einer für die Stärke der Längennormalisierung. Die Standardwerte der gängigen Systeme funktionieren in den meisten Fällen ordentlich; Feintuning lohnt sich erst mit einem belastbaren Testset. Wichtiger als die Parameter ist die Textanalyse davor: Wie wird zerlegt, normalisiert, auf Wortstämme reduziert? Für die deutsche Sprache entscheidet das maßgeblich über die Qualität, wie Kapitel 07 zeigt. Eine Variante, BM25F, bewertet mehrere Felder wie Titel, Überschrift und Fließtext getrennt und gewichtet sie – nützlich, weil ein Treffer im Titel meist mehr aussagt als einer im Fließtext.

Dense Vectors und Learned Sparse: zwei Wege zur Semantik

Dense Retrieval ist die bekannte Vektorsuche: Ein Embedding-Modell, häufig ein mehrsprachiges Transformer-Modell, erzeugt für jeden Abschnitt einen Vektor mit einigen hundert bis einigen tausend Dimensionen. Jede Dimension trägt ein Stück Bedeutung, aber keine ist für Menschen interpretierbar. Die Qualität hängt stark vom Modell ab: Ist es für Deutsch trainiert, kennt es Fachsprache, passt seine maximale Eingabelänge zur Chunk-Größe? Wichtig ist, dass Dokumente und Anfragen mit demselben Modell und gegebenenfalls mit den vom Modell vorgesehenen Präfixen für Anfrage und Dokument kodiert werden.
Learned Sparse Retrieval ist ein Mittelweg. Modelle wie SPLADE oder Elastics ELSER erzeugen keine dichten Vektoren, sondern gewichtete Wortlisten – ähnlich einem invertierten Index, aber mit gelernten Gewichten und ergänzten Begriffen. Ein Abschnitt über „Kühlschmierstoff“ erhält so beispielsweise auch ein Gewicht für „Kühlmittel“, obwohl das Wort nicht vorkommt. Das verbindet Erklärbarkeit und Indexeffizienz der lexikalischen Suche mit einem Teil der semantischen Fähigkeiten. Ein wichtiger Vorbehalt für den deutschsprachigen Raum: Viele Learned-Sparse-Modelle sind primär auf Englisch trainiert. Ihre Qualität für deutsche Fachtexte sollte daher immer mit eigenen Testanfragen geprüft werden, bevor man sich darauf verlässt. In manchen Architekturen wird Learned Sparse als dritte Liste neben BM25 und Dense eingesetzt, in anderen ersetzt es BM25.

Fusion: Reciprocal Rank Fusion oder gewichtete Scores

Die zentrale Frage jeder Hybrid Search lautet: Wie werden zwei Listen zusammengeführt, deren Bewertungen nicht vergleichbar sind? Ein BM25-Wert kann je nach Anfrage und Index sehr unterschiedliche Größenordnungen haben, eine Kosinus-Ähnlichkeit bewegt sich in einem engen Bereich. Beide einfach zu addieren, ergibt keinen Sinn. Es haben sich zwei Ansätze durchgesetzt.
Reciprocal Rank Fusion, kurz RRF, ignoriert die Scores und betrachtet nur die Platzierungen. Jedes Dokument erhält aus jeder Liste einen Beitrag von eins geteilt durch die Summe aus einer Konstante und seinem Rang; die Beiträge werden addiert. Die Konstante dämpft den Vorsprung der allerersten Plätze und wird in der Praxis häufig auf 60 gesetzt, wie in der ursprünglichen Veröffentlichung vorgeschlagen. Ein Dokument auf Platz 1 in beiden Listen gewinnt klar, ein Dokument auf Platz 1 in nur einer Liste kann aber ein Dokument schlagen, das in beiden Listen nur mittelmäßig platziert ist. RRF ist robust, braucht kaum Tuning und ist deshalb in vielen Systemen der Standard.
Gewichtete Score-Fusion, auch konvexe Kombination genannt, normalisiert zunächst die Scores beider Listen auf einen gemeinsamen Bereich, etwa per Min-Max-Normalisierung oder anhand der statistischen Verteilung, und bildet dann eine gewichtete Summe. Ein Parameter, oft Alpha genannt, legt fest, wie viel Gewicht die Vektorsuche gegenüber der lexikalischen Suche bekommt. Dieser Ansatz nutzt mehr Information als RRF – nämlich wie deutlich ein Treffer vorne liegt –, ist aber empfindlicher gegenüber Ausreißern und erfordert Tuning mit einem Testset. Mit sauber gewählten Gewichten kann er RRF übertreffen; ohne Tuning ist RRF meist die sicherere Wahl.
RRF in einem Satz

Für jedes Dokument wird über alle Ergebnislisten die Summe aus 1 / (k + Rang) gebildet, mit einer Konstante k, die häufig bei 60 liegt; sortiert wird nach dieser Summe. Dokumente, die in mehreren Listen weit oben stehen, steigen auf – ohne dass die Scores der Einzelverfahren vergleichbar sein müssen.

Fusionsverfahren Prinzip Tuning-Bedarf Geeignet für
Reciprocal Rank Fusion Nur Platzierungen zählen gering Robuster Standard, Start ohne Testdaten
Gewichtete Scores (Min-Max) Normalisieren, gewichtet addieren mittel Feinsteuerung mit Testset
Verteilungsbasierte Fusion Normalisierung anhand der Score-Verteilung mittel Listen mit sehr unterschiedlicher Streuung
Gelerntes Ranking Modell kombiniert viele Signale hoch Große Systeme mit Klickdaten
Kapitel 04 · KI-Erweiterungen

Reranking, Query Rewriting, Filter und Agenten: die nächste Stufe

Hybrid Search ist ein solides Fundament, aber selten das letzte Wort. Rund um die Fusion haben sich KI-Bausteine etabliert, die die Präzision weiter erhöhen – mit jeweils eigenen Kosten bei Latenz, Rechenleistung und Komplexität.

Reranking mit Cross-Encodern

Sowohl BM25 als auch die Vektorsuche bewerten Anfrage und Dokument unabhängig voneinander: Der Dokumentvektor wird einmal vorab berechnet, der Anfragevektor zur Laufzeit, verglichen wird nur das Ergebnis. Ein Cross-Encoder dagegen liest Anfrage und Dokumentabschnitt gemeinsam und beurteilt direkt, wie gut sie zusammenpassen. Das ist deutlich genauer, aber auch deutlich rechenintensiver – für Millionen Dokumente pro Anfrage wäre es zu langsam. Deshalb kombiniert man beides: Hybrid Search liefert schnell eine Kandidatenmenge, etwa einige Dutzend Abschnitte, und der Reranker sortiert diese neu.
Reranker gibt es als Open-Source-Modelle zum Selbstbetrieb, darunter mehrsprachige Varianten, die auch Deutsch gut beherrschen, sowie als API-Dienste verschiedener Anbieter. Einige Suchdienste bringen einen integrierten semantischen Ranker mit. In vielen Projekten ist die Kombination aus Hybrid Search und Reranking der größte einzelne Qualitätssprung im Retrieval. Die Kehrseite: zusätzliche Latenz, zusätzliche Infrastruktur oder API-Kosten und bei externen Diensten eine weitere Stelle, an der Unternehmensdaten verarbeitet werden. Mehr dazu in unserem Artikel zum Reranking.

Query Rewriting und Metadaten-Filter

Viele Anfragen sind kurz, unpräzise oder Teil eines Dialogs. „Und wie ist das bei der großen Variante?“ ist ohne Gesprächskontext nicht suchbar. Query Rewriting lässt ein Sprachmodell die Anfrage vor der Suche umformulieren: Kontext aus dem Dialog ergänzen, Abkürzungen ausschreiben, mehrere Teilfragen bilden oder alternative Formulierungen erzeugen. Jede Variante läuft durch die Hybrid Search, die Ergebnisse werden wiederum fusioniert. Eine verwandte Technik erzeugt zunächst eine hypothetische Antwort und sucht mit deren Vektor nach echten Dokumenten. Wichtig dabei: Codes und Artikelnummern aus der Originalanfrage müssen unverändert erhalten bleiben – ein Sprachmodell, das eine Nummer „korrigiert“, sabotiert genau die Stärke der lexikalischen Suche.
Metadaten-Filter sind unspektakulär, aber oft wirkungsvoller als jedes Modell. Wenn klar ist, dass sich eine Frage auf eine bestimmte Produktlinie, ein Baujahr, einen Standort oder eine Dokumentart bezieht, schränkt ein Filter den Suchraum drastisch ein. Filter können explizit aus der Oberfläche kommen oder von einem Sprachmodell aus der Anfrage abgeleitet werden. Technisch entscheidend ist, dass Filter in beiden Teilsuchen und vor der Fusion greifen. Das gilt insbesondere für Berechtigungsfilter: Ein Dokument, das die fragende Person nicht sehen darf, darf weder in der lexikalischen noch in der Vektorliste auftauchen.

Agentic Retrieval: Suche als Werkzeug

Beim Agentic Retrieval entscheidet ein Sprachmodell selbst, wann, wie und wie oft gesucht wird. Es kann eine Anfrage zerlegen, nacheinander mehrere Suchen ausführen, Zwischenergebnisse bewerten, gezielt nach einem fehlenden Detail nachsuchen oder zwischen verschiedenen Indizes und Werkzeugen wählen – etwa einer Hybrid Search über Handbücher und einer strukturierten Abfrage im ERP. Hybrid Search wird dabei zu einem Werkzeug unter mehreren, das der Agent aufruft. Manche Implementierungen lassen den Agenten sogar wählen, ob eine eher lexikalische oder eher semantische Suche sinnvoller ist.
Das Potenzial ist groß, gerade bei komplexen Fragen, die Informationen aus mehreren Quellen erfordern. Gleichzeitig steigen Latenz, Kosten und die Zahl möglicher Fehlerpfade. Für die meisten mittelständischen Anwendungsfälle empfehlen wir, zunächst eine saubere, gut evaluierte Hybrid Search mit Reranking aufzubauen. Agentische Erweiterungen lohnen sich, wenn ein klarer Bedarf an mehrstufigen Fragen besteht und die Grundlage verlässlich funktioniert.
Erweiterung Nutzen Aufwand / Latenz Empfehlung
Cross-Encoder-Reranking Deutlich präzisere Reihenfolge mittel Meist lohnend
Metadaten-Filter Kleinerer, passender Suchraum gering Immer nutzen
Query Rewriting Bessere Treffer bei Dialogen mittel Bei Chat-Oberflächen
Multi-Query-Fusion Mehr Abdeckung bei vagen Fragen mittel bis hoch Gezielt einsetzen
Agentic Retrieval Mehrstufige, quellenübergreifende Fragen hoch Nach solider Basis
Kapitel 05 · Integration in RAG-Pipelines & Frameworks

Hybrid Search im RAG-Stack: Indexierung, Retrieval, Frameworks

In einer RAG-Pipeline ist Hybrid Search die Retrieval-Stufe zwischen Indexierung und Generierung. Damit sie ihre Stärken ausspielt, muss sie bereits bei der Indexierung mitgedacht werden – und sauber in das gewählte Framework eingebunden sein.

Indexierung: zwei Repräsentationen, eine Wahrheit

Für Hybrid Search braucht jeder Textabschnitt zwei Repräsentationen: einen lexikalischen Eintrag im invertierten Index oder als Sparse-Vektor und einen Dense-Vektor. Beide müssen sich auf exakt denselben Abschnitt mit derselben ID beziehen, sonst kann die Fusion nicht zusammenführen, was zusammengehört. In Systemen, die beides nativ in einer Collection speichern, ist das automatisch gegeben. Werden zwei getrennte Systeme kombiniert, etwa eine Suchmaschine und eine Vektordatenbank, ist die Synchronisation eine eigene Aufgabe: Neue, geänderte und gelöschte Dokumente müssen in beiden Indizes konsistent nachgezogen werden.
Auch das Chunking wirkt sich unterschiedlich aus. Die Vektorsuche profitiert von inhaltlich geschlossenen, nicht zu langen Abschnitten. Für die lexikalische Suche ist es hilfreich, wenn wichtige Kontextinformationen wie Dokumenttitel, Produktname oder Kapitelüberschrift im Abschnitt selbst oder in eigenen Feldern stehen. Ein Abschnitt „Drehmoment 25 Nm anziehen“ ohne Hinweis auf das Bauteil ist für beide Verfahren schwer zu finden. Bewährt hat sich, Titel und Überschriftenpfad als eigene Felder mitzuführen, in der lexikalischen Suche höher zu gewichten und dem Abschnittstext für das Embedding voranzustellen.

Frameworks: LangChain, LlamaIndex, Haystack und Co.

Die gängigen RAG-Frameworks unterstützen Hybrid Search auf zwei Arten. Entweder sie delegieren an die Datenbank: Wenn die gewählte Datenbank Hybrid Search nativ beherrscht, reicht das Framework die Anfrage mit den passenden Parametern durch. Oder sie fusionieren selbst: Ein BM25-Retriever und ein Vektor-Retriever liefern getrennte Listen, die eine Komponente des Frameworks per RRF oder gewichteter Fusion zusammenführt. In LangChain übernimmt diese Rolle ein Ensemble-Retriever, LlamaIndex bietet einen Fusion-Retriever mit mehreren Modi, und in Haystack führt eine Joiner-Komponente die Ergebnisse verschiedener Retriever in einer Pipeline zusammen.
Welcher Weg besser ist, hängt von den Anforderungen ab. Die native Hybrid Search der Datenbank ist meist effizienter, weil Filter und Fusion dort stattfinden, wo die Daten liegen. Die Fusion im Framework ist flexibler, etwa wenn Quellen aus unterschiedlichen Systemen kombiniert werden sollen. Ein Hinweis aus der Praxis: Framework-eigene BM25-Implementierungen, die den gesamten Index im Arbeitsspeicher halten, eignen sich gut für Prototypen, aber selten für produktive Datenmengen mit laufenden Aktualisierungen.

Von der Trefferliste zum Kontext

Nach Fusion und gegebenenfalls Reranking entscheidet die Pipeline, wie viele Abschnitte in den Kontext des Sprachmodells gelangen. Zu wenige, und eine relevante Information fehlt. Zu viele, und das Modell wird durch Nebensächliches abgelenkt, Kosten und Latenz steigen. Bewährt haben sich eine großzügige Kandidatenmenge für den Reranker und eine knappe, sorgfältig ausgewählte Menge für das Sprachmodell. Ergänzend kann der Kontext um benachbarte Abschnitte erweitert werden, wenn ein Treffer mitten in einer Anleitung liegt. Für Quellenangaben ist wichtig, dass jede Antwort auf die konkreten Abschnitte und Dokumente verweist, die Hybrid Search geliefert hat – das schafft Vertrauen und erleichtert die Fehleranalyse.
Integrationsweg Vorteil Nachteil Typischer Einsatz
Native Hybrid Search der Datenbank Effizient, Filter vor Ort An Datenbankfunktionen gebunden Ein Index für alle Inhalte
Fusion im Framework Flexibel, quellenübergreifend Mehr Komponenten, mehr Latenz Mehrere Systeme kombinieren
Eigene Fusion in SQL oder Code Volle Kontrolle Eigener Pflegeaufwand PostgreSQL, Spezialfälle
Gemanagter Suchdienst Wenig Betrieb Anbieterbindung, Datenstandort Cloud-zentrierte Umgebungen
Kapitel 06 · Abgrenzung & Entscheidungsmatrix

Vektor, Keyword oder hybrid? Eine Entscheidungsmatrix

Hybrid Search ist in vielen Fällen die beste Wahl, aber nicht in allen. Es gibt Szenarien, in denen eine reine Schlüsselwortsuche völlig genügt, und solche, in denen reine Vektorsuche ausreicht. Die folgende Matrix hilft bei der Einordnung.

Kriterium Nur Keyword Nur Vektor Hybrid Hybrid + Reranking
Artikelnummern, Codes sehr gut unzuverlässig gut sehr gut
Frei formulierte Fragen schwach gut gut sehr gut
Fachsprache, Jargon mit Synonymen modellabhängig gut sehr gut
Mehrsprachige Inhalte schwach gut gut gut
Latenz sehr niedrig niedrig niedrig höher
Betriebsaufwand gering mittel mittel höher
Eignung für RAG begrenzt ordentlich gut sehr gut

Wann reine Keyword- oder reine Vektorsuche genügt

Eine reine Schlüsselwortsuche ist ausreichend, wenn Nutzer genau wissen, wonach sie suchen, und es in Form fester Bezeichner ausdrücken: Bestellnummern, Kundennummern, Vertragsnummern, Dateinamen. Eine Suche im Teilekatalog nach exakter Artikelnummer braucht keine Semantik. Auch dort, wo Erklärbarkeit im Vordergrund steht – etwa bei Recherchen, deren Vollständigkeit nachgewiesen werden muss –, ist die lexikalische Suche wegen ihrer Nachvollziehbarkeit im Vorteil.
Eine reine Vektorsuche genügt, wenn Inhalte und Anfragen überwiegend aus natürlicher Sprache bestehen, kaum Codes oder Eigennamen vorkommen und Ungenauigkeiten tolerierbar sind. Beispiele sind Empfehlungen ähnlicher Artikel in einem Blog, das Gruppieren von Kundenfeedback oder ein Prototyp, der schnell zeigen soll, was möglich ist. Sobald jedoch Unternehmensdokumente mit Fachbezeichnern ins Spiel kommen, zeigt sich in unseren Projekten fast immer Bedarf an der lexikalischen Komponente.

Wann Hybrid Search Pflicht ist

Hybrid Search sollte gesetzt sein, wenn ein RAG-System oder eine Unternehmenssuche mit gemischten Anfragen umgehen muss – mal eine Frage in ganzen Sätzen, mal eine Artikelnummer, mal eine Mischung aus beidem wie „Lieferzeit Dichtungssatz 4711-B“. Das ist im Mittelstand der Normalfall: Technische Dokumentation, Servicewissen, Produktdaten, Normen und Verträge enthalten immer beides. Ebenso wichtig ist Hybrid Search bei Inhalten mit vielen Eigennamen, etwa Kunden-, Projekt- oder Lieferantennamen, die ein Embedding-Modell nicht kennt.
Reranking als zusätzliche Stufe lohnt sich vor allem dann, wenn die Ergebnisse direkt in die Antwort eines Sprachmodells einfließen und Fehler teuer sind, wenn Anfragen komplex sind oder wenn viele ähnliche Dokumente existieren, deren feine Unterschiede zählen – etwa mehrere Versionen einer Anleitung für verschiedene Baureihen.

Leitfragen für die Entscheidung

  • Wie suchen die Nutzer? Eher mit Nummern und Stichworten oder eher mit ganzen Fragen – oder mit beidem?
  • Wie viele Fachbezeichner enthalten die Inhalte? Artikelnummern, Normen, Fehlercodes und Eigennamen sprechen klar für hybrid.
  • Wie teuer ist ein Fehltreffer? Je höher das Risiko, desto mehr lohnt Hybrid Search mit Reranking.
  • Welche Infrastruktur existiert? Eine vorhandene Suchmaschine oder PostgreSQL kann oft erweitert werden, statt ein neues System einzuführen.
  • Gibt es ein Testset? Ohne Messung lässt sich weder die Wahl des Verfahrens noch das Tuning seriös begründen.
Kapitel 07 · Einführung & Betrieb

Deutsche Sprache, Evaluation und kontinuierliches Tuning

Eine Hybrid Search einzuschalten, ist in vielen Systemen eine Sache von Minuten. Sie so zu betreiben, dass sie mit deutschen Fachtexten zuverlässig funktioniert und messbar besser wird, ist ein Projekt. Drei Themen entscheiden: Sprachaufbereitung, Evaluation und Tuning.

01
Anfragen sammeln
Reale Suchanfragen aus Logs, Service-Tickets und Interviews mit Fachabteilungen zusammentragen – inklusive Nummern, Abkürzungen und Tippfehlern.
02
Testset aufbauen
Zu jeder Anfrage festhalten, welche Dokumente oder Abschnitte relevant sind. Fachexperten bewerten, das Team pflegt das Testset als lebendes Artefakt.
03
Baseline messen
Lexikalische Suche, Vektorsuche und Hybrid Search getrennt messen, um zu verstehen, welche Komponente welche Fälle löst.
04
Sprachaufbereitung optimieren
Analyzer, Komposita-Zerlegung, Synonyme und Feldgewichtungen anpassen; Embedding-Modell und Chunking prüfen.
05
Fusion und Reranking tunen
Fusionsverfahren, Gewichte, Kandidatenmengen und Reranker anhand des Testsets einstellen – keine Änderung ohne Messung.
06
Betrieb und Monitoring
Suchanfragen ohne Treffer, Nutzerfeedback und Qualitätsmetriken laufend beobachten und das Testset regelmäßig erweitern.

Deutsche Sprache: Komposita, Stemming, Synonyme

Die deutsche Sprache ist für die lexikalische Suche eine besondere Herausforderung. Das größte Thema sind Komposita: „Hydraulikpumpendichtung“, „Kundendienstvereinbarung“, „Brandschutzklappe“. Wer nach „Dichtung Hydraulikpumpe“ sucht, findet ohne Zerlegung das zusammengesetzte Wort nicht. Suchmaschinen wie Elasticsearch und OpenSearch bieten Decompounder auf Basis von Wörterbüchern oder Silbentrennungsregeln, die zusammengesetzte Wörter in ihre Bestandteile zerlegen und zusätzlich indexieren. Das erhöht die Trefferquote deutlich, kann aber auch Fehlzerlegungen erzeugen; ein gepflegtes Fachwörterbuch hilft. In Systemen ohne eingebaute Zerlegung kann man Komposita in der Vorverarbeitung auflösen.
Das Stemming reduziert Wörter auf einen Stamm, damit „Pumpen“, „Pumpe“ und „gepumpt“ zusammenfinden. Für Deutsch gibt es etablierte Stemmer, die mehr oder weniger aggressiv vorgehen. Zu aggressives Stemming lässt unterschiedliche Begriffe zusammenfallen, zu vorsichtiges verschenkt Treffer. Ergänzend sorgt eine Normalisierung dafür, dass Umlaute und ß einheitlich behandelt werden – „Strasse“, „Straße“, „Groesse“ und „Größe“ sollen sich finden. Eine bewährte Praxis ist, Text in mehreren Feldern mit unterschiedlicher Analyse zu indexieren: einmal sprachlich aufbereitet für natürliche Wörter, einmal möglichst unverändert für exakte Treffer bei Codes und Nummern.
Synonyme schließen Lücken, die weder Stemming noch Zerlegung schließen können: „KSS“ und „Kühlschmierstoff“, „AU“ und „Arbeitsunfähigkeitsbescheinigung“, interne Produktnamen und offizielle Bezeichnungen. Eine Synonymliste aus der Fachabteilung ist oft eines der wirksamsten Werkzeuge überhaupt. Zwar überbrückt die Vektorsuche viele Synonyme automatisch, aber unternehmensspezifische Abkürzungen kennt kein Embedding-Modell. Die lexikalische Synonymliste und die semantische Suche ergänzen sich hier ideal. Auch beim Embedding-Modell selbst lohnt der Blick auf die Sprachqualität: Ein mehrsprachiges Modell mit nachweislich guter Leistung auf Deutsch ist Pflicht, und für sehr spezielle Fachsprache kann ein Test mehrerer Modelle sinnvoll sein.

Evaluation mit Testsets

Ohne Messung ist jede Optimierung einer Hybrid Search Bauchgefühl. Grundlage ist ein Testset: eine Sammlung realistischer Anfragen, zu denen bekannt ist, welche Dokumente oder Abschnitte relevant sind. Für den Start genügen oft einige Dutzend bis wenige hundert gut gewählte Anfragen, die das Spektrum abdecken – Nummernsuchen, natürliche Fragen, Abkürzungen, Tippfehler, mehrdeutige Begriffe. Wichtig ist, dass Fachexperten die Relevanz beurteilen und nicht nur das Projektteam.
Gemessen wird mit etablierten Retrieval-Metriken. Recall@k beantwortet, ob die relevanten Abschnitte unter den ersten k Treffern sind – für RAG besonders wichtig, weil fehlende Abschnitte nicht in den Kontext gelangen. MRR misst, wie weit oben der erste relevante Treffer steht. nDCG bewertet die Reihenfolge insgesamt und berücksichtigt abgestufte Relevanz. Für RAG kommen Metriken zur Kontextqualität und zur Antworttreue hinzu, wie sie Werkzeuge zur RAG-Evaluation bereitstellen. Entscheidend ist, die Komponenten getrennt zu messen: Wie gut ist BM25 allein, wie gut die Vektorsuche, wie gut die Fusion? So wird sichtbar, wo Verbesserungen ansetzen sollten.

Tuning und laufender Betrieb

Mit Testset lässt sich gezielt tunen: Fusionsverfahren vergleichen, Gewichte zwischen lexikalischer und semantischer Suche variieren, Kandidatenmengen vor Fusion und Reranking anpassen, Feldgewichtungen für Titel und Überschriften ausprobieren, Analyzer und Synonyme verbessern. Jede Änderung wird gegen das Testset gemessen, bevor sie live geht. Dabei zeigt sich häufig, dass unterschiedliche Anfragetypen unterschiedliche Einstellungen bevorzugen – ein Grund, warum manche Systeme die Gewichtung abhängig vom Anfragetyp anpassen, etwa stärker lexikalisch, sobald eine Nummer erkannt wird.
Im Betrieb sind Suchanfragen ohne Treffer und Anfragen mit negativem Nutzerfeedback die wertvollsten Signale. Sie zeigen fehlende Synonyme, Lücken im Bestand oder Schwächen der Aufbereitung. Ein Wechsel des Embedding-Modells erfordert eine vollständige Neuindexierung aller Vektoren und sollte als eigenes Vorhaben mit Vorher-Nachher-Messung geplant werden. Ebenso wichtig: Index-Aktualität, Synchronisation von Löschungen und Berechtigungen sowie Monitoring von Latenz und Ressourcenverbrauch.
Praxistipp

Indexieren Sie Codes, Artikelnummern und Normbezeichnungen zusätzlich in einem Feld ohne Stemming und mit großzügiger Behandlung von Trennzeichen. So findet „4711 0815“ auch „4711-0815“, und „DIN EN ISO 9001“ bleibt als zusammenhängender Begriff erhalten. Diese unscheinbare Maßnahme verbessert die Trefferqualität bei Nummernsuchen oft spürbarer als jede Modelloptimierung.

Kapitel 08 · Einsatz im Mittelstand

Artikelnummern, Normen, Fachbegriffe: wo Hybrid Search den Unterschied macht

Mittelständische Unternehmen haben selten riesige, aber fast immer sehr spezifische Datenbestände. Gerade dort spielt Hybrid Search ihre Stärken aus – weil Fachbezeichner und natürliche Sprache untrennbar gemischt sind.

Technischer Service

Fehlercodes werden exakt gefunden, Symptombeschreibungen semantisch – in einer einzigen Suche über Handbücher, Servicemitteilungen und gelöste Tickets.

Treffsichere Fehlersuche
Ersatzteile & Produktdaten

Artikelnummern, Typbezeichnungen und Beschreibungen wie „Dichtung für die große Kreiselpumpe“ führen gleichermaßen zum richtigen Teil.

Weniger Fehlbestellungen
Qualität & Normen

Normbezeichnungen und Kapitelnummern werden exakt getroffen, inhaltliche Fragen zu Anforderungen semantisch beantwortet – mit Verweis auf die gültige Fassung.

Schnellere Audits
Verträge & Ausschreibungen

Vertragsnummern, Klauselbezeichnungen und Kundennamen lexikalisch, Fragen wie „Wo haben wir Vertragsstrafen vereinbart?“ semantisch.

Bessere Übersicht
Interne Wissenssuche

Interne Abkürzungen, Projektnamen und Systembezeichnungen werden zuverlässig gefunden, auch wenn kein Sprachmodell sie je gesehen hat.

Weniger Rückfragen
Sicherheit & Arbeitsschutz

Stoffnamen, Gefahrstoffnummern und Betriebsanweisungen werden exakt gefunden; Fragen zum richtigen Verhalten werden mit Quellenbeleg beantwortet.

Verlässliche Auskunft

Artikelnummern, Typbezeichnungen und Fehlercodes

Ein typischer Maschinen- oder Anlagenbauer hat zehntausende Artikel, viele mit ähnlichen Nummern, Varianten und Nachfolgern. Im Service fragen Techniker nach „Ersatzteil für 4711-0815, wurde abgekündigt, was ist der Nachfolger?“. Diese Anfrage enthält einen exakten Bezeichner und eine semantische Frage. Reine Vektorsuche verfehlt die Nummer oder verwechselt sie mit einer ähnlichen; reine Keyword-Suche findet die Nummer, versteht aber „Nachfolger“ nicht, wenn im Dokument „ersetzt durch“ steht. Hybrid Search findet Dokumente, die beides abdecken, und stellt sie nach oben.
Ähnlich verhält es sich mit Fehlercodes. Steuerungen und Geräte melden Codes, die sich oft nur in einer Stelle unterscheiden, aber völlig unterschiedliche Ursachen haben. Hier ist die exakte lexikalische Übereinstimmung unverzichtbar, ergänzt um die semantische Suche für die Symptombeschreibung des Technikers. Zusätzlich helfen Metadatenfilter auf Gerätetyp oder Baureihe, damit eine Lösung nicht für das falsche Modell angezeigt wird.

Normen, Richtlinien und regulatorische Dokumente

Qualitätsmanagement, Arbeitsschutz und Produktsicherheit arbeiten mit Normen und Richtlinien, deren Bezeichnungen exakt sein müssen: DIN, EN, ISO, VDI, VDE mit Nummer, Teil und Ausgabejahr. Gleichzeitig wollen Mitarbeitende wissen, was eine Norm inhaltlich fordert, oft ohne die Nummer zu kennen. „Welche Anforderungen gelten für die Dokumentation von Schulungen?“ ist eine semantische Frage; „Kapitel 7.2 der ISO 9001“ eine lexikalische. Eine gute Hybrid Search beantwortet beides und berücksichtigt über Metadaten die jeweils gültige Fassung. Bei urheberrechtlich geschützten Normtexten ist zu klären, in welchem Umfang sie überhaupt indexiert werden dürfen.

Fachbegriffe, Hausjargon und Mehrsprachigkeit

Jedes Unternehmen hat seine eigene Sprache. Produktfamilien heißen intern anders als im Katalog, Abteilungen haben Kürzel, Projekte Codenamen. Embedding-Modelle kennen diese Begriffe nicht, und selbst ein feinjustiertes Modell lernt sie nur unzuverlässig. Die lexikalische Suche mit einer gepflegten Synonymliste schließt diese Lücke pragmatisch. Gleichzeitig bewegen sich viele Mittelständler international: Dokumente liegen auf Deutsch, Englisch und weiteren Sprachen vor. Hier spielt die mehrsprachige Vektorsuche ihre Stärke aus und findet ein englisches Datenblatt auch zu einer deutschen Frage. In Kombination entsteht eine Suche, die Hausjargon, Fachnormen und Mehrsprachigkeit gleichermaßen beherrscht – genau das, was sich Anwender unter einer „intelligenten Suche“ vorstellen.
Kapitel 09 · Kosten & DSGVO

Kostentreiber, Betriebsmodelle und Datenschutz

Hybrid Search verursacht zusätzliche Komponenten und Rechenleistung gegenüber einer einfachen Suche – und verarbeitet dieselben sensiblen Unternehmensdaten wie jede RAG-Lösung. Kosten und Datenschutz gehören deshalb von Anfang an in die Architekturentscheidung.

Keine Rechtsberatung

Die folgenden Ausführungen sind eine praxisorientierte Einordnung aus IT- und Projektsicht – keine Rechtsberatung. Für die rechtssichere Bewertung Ihres konkreten Einsatzes, für Auftragsverarbeitungsverträge, Datenschutz-Folgenabschätzungen, Drittlandtransfers und Pflichten aus dem EU AI Act ziehen Sie bitte Ihre Datenschutzbeauftragten oder eine spezialisierte Kanzlei hinzu.

Kostentreiber qualitativ betrachtet

Die Mehrkosten einer Hybrid Search gegenüber reiner Vektorsuche sind in der Regel moderat. Ein invertierter Index für die lexikalische Suche ist vergleichsweise sparsam bei Speicher und Rechenleistung; in vielen Systemen ist er ohnehin vorhanden. Der größere Kostenblock liegt meist bei der Vektorsuche selbst: Speicher für die Vektoren und den Index, Rechenleistung für die Erzeugung der Embeddings und – bei gemanagten Diensten – nutzungs- oder kapazitätsabhängige Gebühren. Kommt ein Reranker hinzu, steigen Rechenbedarf und Latenz pro Anfrage, bei API-Diensten auch die variablen Kosten.
  • Embeddings: Einmalige Berechnung bei der Indexierung, erneut bei jedem Modellwechsel und laufend für neue Inhalte und Anfragen.
  • Index und Speicher: Vektor-Index und invertierter Index wachsen mit dem Datenbestand; Vektor-Indizes benötigen oft viel Arbeitsspeicher.
  • Reranking: Zusätzliche Rechenleistung pro Anfrage, bei Selbstbetrieb oft GPU-gestützt, bei APIs nutzungsabhängig abgerechnet.
  • Sprachaufbereitung: Pflege von Synonymen, Wörterbüchern und Analyzern ist laufender, aber gut planbarer Aufwand.
  • Evaluation und Tuning: Aufbau und Pflege des Testsets sowie regelmäßige Messung erfordern Zeit von Fachexperten.
Konkrete Preise nennen wir bewusst nicht, weil sie von Anbieter, Datenmenge, Anfragevolumen und Betriebsmodell abhängen und sich laufend ändern. Aktuelle Konditionen sind stets beim jeweiligen Anbieter zu prüfen. Als Faustregel gilt: Wer bereits eine Suchmaschine oder PostgreSQL betreibt, kann Hybrid Search oft mit überschaubarem Zusatzaufwand ergänzen. Ein neuer gemanagter Dienst ist schneller startklar, bindet aber dauerhaft an dessen Preismodell.

Self-Hosting, EU-Cloud oder US-Anbieter

Für den Datenschutz ist entscheidend, wo Dokumente, Indizes, Embeddings, Anfragen und Protokolle verarbeitet werden. Bei Hybrid Search sind das mehrere Stellen: der Suchindex, das Embedding-Modell, gegebenenfalls der Reranker und bei RAG das Sprachmodell. Jede dieser Komponenten kann lokal, bei einem europäischen oder bei einem US-amerikanischen Anbieter laufen. Unter den hier genannten Systemen sind etwa Microsoft mit Azure AI Search, Amazon Web Services mit seinem gemanagten OpenSearch-Angebot und Elastic mit seiner Cloud US-amerikanische Anbieter beziehungsweise Anbieter mit US-Hauptsitz; auch viele Embedding- und Reranking-APIs kommen aus den USA. Gemanagte Cloud-Angebote der Vektordatenbanken laufen häufig auf der Infrastruktur großer US-Hyperscaler, selbst wenn der Anbieter europäisch ist.
Bei US-Anbietern – auch mit Rechenzentren in der EU – sind Auftragsverarbeitungsverträge, Unterauftragsverarbeiter, Garantien für Drittlandtransfers und mögliche Zugriffsrechte ausländischer Behörden zu bewerten. Self-Hosting mit Open-Source-Komponenten wie OpenSearch, Qdrant, Weaviate, Milvus, Vespa oder PostgreSQL mit pgvector sowie selbst betriebenen Embedding- und Reranking-Modellen bietet die größte Kontrolle: Keine Daten verlassen den eigenen Verantwortungsbereich. Dafür steigen Betriebsaufwand und Know-how-Bedarf. Eine Zwischenlösung sind europäische Cloud- und Hosting-Anbieter, auf denen die Open-Source-Komponenten betrieben werden.
Empfehlung: die gesamte Suchkette bewerten

Für datenschutzsensible Bestände empfehlen wir, alle Komponenten der Hybrid Search – Suchindex, Embedding-Modell, Reranker und Protokollierung – auf EU-Infrastruktur oder im Self-Hosting zu betreiben, Berechtigungen als Filter in beiden Teilsuchen durchzusetzen und Löschungen in allen Indizes konsequent umzusetzen.

Betrieb
EU-Cloud oder Self-Hosting für sensible Inhalte
Modelle
Embedding und Reranking lokal oder EU-gehostet
Berechtigungen
Filter in lexikalischer und Vektorsuche
Löschung
Beide Indizes und Protokolle bereinigen
Verträge
AVV, Unterauftragnehmer, Drittlandtransfer prüfen
Protokolle
Suchanfragen sparsam und zweckgebunden speichern

Berechtigungen, Löschung und Protokollierung

Hybrid Search verdoppelt gewissermaßen die Stellen, an denen Daten liegen: Inhalte stehen im invertierten Index, Bedeutungsrepräsentationen im Vektor-Index. Beide müssen dieselben Berechtigungen respektieren und bei Löschanfragen gleichermaßen bereinigt werden. Vektoren gelten dabei nicht automatisch als anonym, denn aus ihnen lassen sich unter Umständen Rückschlüsse auf den Ursprungstext ziehen. Auch Zwischenspeicher, Sicherungen und Testsets mit echten Anfragen gehören in das Löschkonzept.
Suchanfragen selbst können personenbezogene oder vertrauliche Informationen enthalten. Für Tuning und Evaluation sind sie wertvoll, sollten aber nur so lange und so detailliert gespeichert werden, wie es für Betrieb und Qualitätssicherung erforderlich ist, idealerweise pseudonymisiert. Wo ein Betriebsrat besteht, ist zu prüfen, ob die Protokollierung zur Leistungs- oder Verhaltenskontrolle geeignet ist und eine Vereinbarung erfordert. Der EU AI Act stuft eine Unternehmenssuche in typischen Szenarien nicht als Hochrisikosystem ein; Pflichten etwa zur KI-Kompetenz der Mitarbeitenden können dennoch greifen. Die konkrete Einstufung sollte im Einzelfall rechtlich geprüft werden.
Kapitel 10 · Häufige Fragen

Häufig gestellte Fragen zu Hybrid Search

Diese Fragen begegnen uns in Beratungsgesprächen rund um Hybrid Search, Vektorsuche und RAG am häufigsten – kurz und sachlich beantwortet.

Was ist Hybrid Search in einem Satz?
Hybrid Search kombiniert eine lexikalische Suche, die auf übereinstimmende Wörter achtet, mit einer semantischen Vektorsuche, die auf übereinstimmende Bedeutung achtet, und führt beide Trefferlisten etwa per Reciprocal Rank Fusion zu einem gemeinsamen Ranking zusammen.
Warum reicht Vektorsuche allein für RAG oft nicht?
Embeddings verdichten Bedeutung und verlieren dabei exakte Zeichenketten. Artikelnummern, Fehlercodes, Normbezeichnungen, Eigennamen und unternehmensspezifische Abkürzungen werden deshalb unzuverlässig gefunden oder mit ähnlichen verwechselt. Die lexikalische Komponente einer Hybrid Search fängt genau diese Fälle auf.
Was ist Reciprocal Rank Fusion?
Reciprocal Rank Fusion ist ein Verfahren, das mehrere Ergebnislisten allein anhand der Platzierungen zusammenführt. Jedes Dokument erhält aus jeder Liste einen Beitrag, der mit schlechterem Rang abnimmt; die Beiträge werden addiert. Da die Scores der Einzelverfahren nicht vergleichbar sein müssen, ist RRF robust und braucht kaum Tuning.
Sollten wir RRF oder gewichtete Scores verwenden?
Ohne Testset ist RRF meist die sicherere Wahl, weil es ohne Feinjustierung zuverlässig funktioniert. Gewichtete Score-Fusion kann besser abschneiden, wenn die Gewichte anhand realer Anfragen eingestellt werden. Empfehlenswert ist, mit RRF zu starten und mit wachsendem Testset beide Varianten zu vergleichen.
Brauchen wir zusätzlich einen Reranker?
Nicht zwingend, aber häufig lohnend. Ein Cross-Encoder-Reranker bewertet die besten Kandidaten der Hybrid Search im direkten Vergleich mit der Anfrage und verbessert die Reihenfolge spürbar. Das kostet zusätzliche Latenz und Rechenleistung. Ob sich das lohnt, zeigt eine Messung mit dem eigenen Testset.
Funktioniert Hybrid Search gut mit deutscher Sprache?
Ja, wenn die lexikalische Komponente sauber konfiguriert ist: deutscher Stemmer, Zerlegung von Komposita, Normalisierung von Umlauten und eine gepflegte Synonymliste. Für die Vektorsuche ist ein Embedding-Modell mit guter Leistung auf Deutsch nötig. Ohne diese Sprachaufbereitung verschenkt man einen großen Teil des Potenzials.
Müssen wir dafür eine neue Datenbank einführen?
Oft nicht. Viele Suchmaschinen und Datenbanken bringen Hybrid Search nativ mit, darunter Elasticsearch, OpenSearch, Weaviate, Qdrant, Milvus und Vespa. Wer PostgreSQL betreibt, kann pgvector mit der eingebauten Volltextsuche kombinieren. Entscheidend sind Datenmenge, Sprachunterstützung, Betriebsmodell und vorhandenes Know-how.
Ist Hybrid Search DSGVO-konform betreibbar?
Ja, mit passender Architektur: Suchindex, Embedding-Modell und Reranker auf EU-Infrastruktur oder im Self-Hosting, Auftragsverarbeitungsverträge mit allen beteiligten Dienstleistern, Berechtigungsfilter in beiden Teilsuchen und Löschkonzepte für alle Indizes und Protokolle. Die rechtliche Bewertung des konkreten Einsatzes ist im Einzelfall vorzunehmen – dies ist keine Rechtsberatung.

Suchqualität messbar verbessern

Bereit für eine Suche, die Nummern und Bedeutung versteht?

Von der Analyse realer Suchanfragen über den Aufbau eines Testsets bis zur souverän betriebenen Hybrid Search mit deutscher Sprachaufbereitung und Reranking – INAGRO begleitet Sie auf jedem Schritt. Mit Retrieval-Expertise, Datenschutz-Fokus und tiefem Verständnis für den Mittelstand. Pragmatisch, herstellerneutral und mit messbarem Ergebnis.

Seit 2006 am Markt

Erfahrung aus über 100 Digitalprojekten

DSGVO & Souveränität

Datenschutz von Anfang an mitgedacht

Rückmeldung in 24 h

Schnell, direkt, unverbindlich