Mit dem Aufkommen von Retrieval-Augmented Generation hat die Vektorsuche eine erstaunliche Karriere gemacht. Plötzlich schien die Suche gelöst: Texte werden mit einem Embedding-Modell in Vektoren übersetzt, eine Anfrage ebenso, und die Datenbank liefert die inhaltlich nächstgelegenen Abschnitte. Wer „Wie beantrage ich Urlaub?“ fragt, findet die Urlaubsrichtlinie, auch wenn dort nur von „Abwesenheitsantrag“ die Rede ist. Diese Fähigkeit, Umschreibungen, Synonyme und sogar andere Sprachen zu überbrücken, ist ein echter Fortschritt gegenüber der klassischen Stichwortsuche.
In der Praxis zeigt sich jedoch schnell eine Kehrseite. Ein Servicetechniker sucht nach dem Fehlercode „E-417“, und die Vektorsuche liefert ihm Abschnitte über „E-471“, „E-41“ oder allgemein über Fehlermeldungen – semantisch ähnlich, sachlich falsch. Ein Einkäufer sucht nach einer konkreten Artikelnummer und bekommt ähnlich klingende Produkte. Eine Qualitätsmanagerin fragt nach einer bestimmten DIN-Norm und erhält Abschnitte über verwandte Normen. Das liegt nicht an einem schlechten Modell, sondern am Prinzip: Embeddings verdichten Bedeutung, und genau dabei gehen exakte Zeichenketten, seltene Bezeichner und feine Unterschiede verloren. Für das Embedding-Modell ist eine Artikelnummer bestenfalls ein Muster aus Ziffern, schlimmstenfalls Rauschen.
Hybrid Search setzt genau an dieser Lücke an. Sie lässt die lexikalische Suche das tun, was sie seit Jahrzehnten zuverlässig kann – exakte Begriffe, Codes, Namen und Fachwörter finden –, und lässt die Vektorsuche das tun, worin sie stark ist: Bedeutung erkennen, auch wenn die Wörter nicht übereinstimmen. Das Ergebnis ist eine Suche, die beide Fehlerbilder deutlich abmildert. Sie ist kein exotisches Spezialverfahren, sondern hat sich in vielen produktiven RAG-Systemen und Unternehmenssuchen als sinnvoller Standard etabliert.
Die lexikalische Suche arbeitet mit einem invertierten Index: Für jedes Wort ist gespeichert, in welchen Dokumenten es vorkommt. Eine Anfrage wird in Wörter zerlegt, die passenden Dokumente werden nachgeschlagen und nach einer Relevanzformel bewertet, heute meist nach BM25. Seltene Wörter zählen dabei mehr als häufige, und ein Dokument, in dem ein Suchbegriff mehrfach vorkommt, gilt als relevanter – allerdings mit abnehmendem Zusatznutzen. Das Verfahren ist schnell, gut verstanden, erklärbar und benötigt keine KI-Modelle. Seine Schwäche: Es findet nur, was wörtlich (oder nach Wortstamm-Reduktion) übereinstimmt. Wer „Kühlmittel“ sucht, findet kein Dokument, in dem nur „Kühlschmierstoff“ steht.
Die semantische Suche arbeitet mit dichten Vektoren, englisch Dense Vectors. Ein Embedding-Modell bildet jeden Textabschnitt auf einen Punkt in einem hochdimensionalen Raum ab; inhaltlich ähnliche Texte liegen nah beieinander. Gesucht wird über Nächste-Nachbarn-Verfahren, meist mit approximativen Indizes wie HNSW. Die Stärke liegt im Verständnis von Bedeutung, Kontext und Umschreibung. Die Schwäche liegt bei allem, was sich der Bedeutung entzieht: Seriennummern, Eigennamen, Abkürzungen, neue Fachbegriffe, die das Modell im Training nicht gesehen hat, und Anfragen, bei denen ein einziges Zeichen den Unterschied macht.
Der Clou der Hybrid Search liegt darin, dass die Fehler beider Verfahren weitgehend unkorreliert sind. Wo die Vektorsuche danebenliegt, trifft die lexikalische Suche oft, und umgekehrt. Ein Dokument, das in beiden Listen weit oben steht, ist mit hoher Wahrscheinlichkeit relevant. Ein Dokument, das nur in einer Liste auftaucht, bekommt trotzdem eine Chance, wenn es dort sehr gut platziert ist. Diese Logik bilden Fusionsverfahren wie Reciprocal Rank Fusion ab, auf die wir in Kapitel 03 im Detail eingehen.
Für RAG-Systeme ist das besonders wichtig, weil das Sprachmodell nur mit dem arbeiten kann, was die Suche ihm übergibt. Fehlt der entscheidende Abschnitt im Kontext, formuliert das Modell eine plausible, aber falsche oder unvollständige Antwort. In vielen Fehleranalysen von RAG-Projekten liegt die Ursache nicht im Sprachmodell, sondern im Retrieval. Hybrid Search ist daher häufig der Hebel mit dem besten Verhältnis aus Aufwand und Wirkung, bevor man über größere Modelle, aufwendigere Pipelines oder Feintuning nachdenkt.
Grob lassen sich drei Herkunftslinien unterscheiden. Klassische Suchmaschinen wie Elasticsearch, OpenSearch oder Vespa haben eine lange Tradition in der Volltextsuche und haben Vektorsuche nachgerüstet. Vektordatenbanken wie Weaviate, Qdrant oder Milvus sind für die Vektorsuche gebaut und haben lexikalische beziehungsweise Sparse-Verfahren ergänzt. Allgemeine Datenbanken wie PostgreSQL bieten beides als Erweiterung an. Hinzu kommen gemanagte Cloud-Dienste wie Azure AI Search, die Hybrid Search als Konfigurationsoption bereitstellen. Die folgende Übersicht ist qualitativ und herstellerneutral; Funktionsumfang und Details ändern sich mit jeder Version und sollten im konkreten Projekt geprüft werden.
Elasticsearch und sein Fork OpenSearch sind in vielen Unternehmen bereits als Volltextsuche, Log-Plattform oder Produktsuche im Einsatz. Ihre besondere Stärke ist die ausgereifte Textanalyse: Tokenizer, Stemmer, Synonymlisten, Komposita-Zerlegung, Feldgewichtungen und Abfragesprachen, die über viele Jahre gewachsen sind. Beide Systeme speichern inzwischen Vektoren und unterstützen approximative Nächste-Nachbarn-Suche. Elasticsearch, entwickelt von Elastic mit operativem Hauptsitz in den USA, bietet Hybrid-Abfragen mit Reciprocal Rank Fusion sowie mit ELSER ein eigenes Learned-Sparse-Modell. OpenSearch, ursprünglich von AWS initiiert und inzwischen unter dem Dach der Linux Foundation weiterentwickelt, setzt auf Such-Pipelines, in denen Scores normalisiert und kombiniert werden; neuere Versionen unterstützen ebenfalls rangbasierte Fusion.
Vespa geht einen anderen Weg. Die ursprünglich bei Yahoo entstandene, heute von einem eigenständigen Unternehmen mit Wurzeln in Norwegen weiterentwickelte Engine lässt Ranking als programmierbaren Ausdruck formulieren. BM25-Werte, Vektornähe, Metadaten wie Aktualität oder Dokumenttyp und sogar Machine-Learning-Modelle werden in mehreren Phasen kombiniert. Das bietet maximale Kontrolle, verlangt aber Erfahrung im Ranking-Design. Für den typischen Mittelständler ist Vespa eher die Wahl bei sehr großen Datenbeständen oder besonders anspruchsvollen Relevanzanforderungen.
Die Vektordatenbanken der jüngeren Generation haben erkannt, dass reine Vektorsuche nicht genügt. Weaviate, entwickelt von einem Unternehmen aus den Niederlanden, bietet eine Hybrid-Abfrage, bei der ein einzelner Parameter steuert, wie stark Vektorsuche und Schlüsselwortsuche gewichtet werden. Qdrant, ein Open-Source-Projekt aus Berlin, behandelt lexikalische Signale als Sparse-Vektoren und erlaubt es, mehrere Teilabfragen zu kombinieren und zu fusionieren. Milvus, ein Projekt unter dem Dach der LF AI & Data Foundation mit dem kommerziellen Anbieter Zilliz, unterstützt mehrere Vektorfelder pro Datensatz, darunter Sparse-Vektoren, und bringt Ranker für die Zusammenführung mit.
Allen gemeinsam ist, dass die lexikalische Komponente historisch jünger ist als bei klassischen Suchmaschinen. Für Englisch funktioniert sie meist problemlos, bei deutscher Sprache lohnt ein genauer Blick: Welche Tokenizer und Stemmer stehen zur Verfügung, werden Komposita zerlegt, wie werden Umlaute behandelt? Hier kann es sinnvoll sein, die lexikalische Aufbereitung teilweise vor die Datenbank zu verlagern oder eine Suchmaschine mit ausgereifter Sprachanalyse zu ergänzen.
PostgreSQL mit pgvector ist der pragmatischste Einstieg, wenn ohnehin eine PostgreSQL-Datenbank betrieben wird. Die Vektorsuche liefert pgvector, die lexikalische Suche die eingebaute Volltextsuche mit tsvector und tsquery inklusive deutscher Sprachkonfiguration. Die Fusion schreibt man selbst, typischerweise als SQL-Abfrage mit zwei Teilergebnissen und einer RRF-Berechnung. Die eingebaute Rangfunktion entspricht nicht exakt BM25; für anspruchsvollere Anforderungen gibt es Erweiterungen, die BM25-ähnliche Bewertung nachrüsten. Der große Vorteil: Daten, Rechte und Transaktionen bleiben in einem System.
Azure AI Search von Microsoft ist ein vollständig gemanagter Dienst, bei dem Hybrid Search im Wesentlichen eine Abfrageoption ist. Volltext- und Vektortreffer werden per RRF zusammengeführt, ein optionaler semantischer Ranker sortiert die besten Kandidaten nach. Für Unternehmen, die bereits stark auf Microsoft setzen, ist das bequem; zu beachten sind die Bindung an den US-Anbieter und an dessen Preis- und Funktionsentwicklung. Vergleichbare Angebote existieren bei anderen großen Cloud-Anbietern und als gemanagte Varianten der genannten Open-Source-Systeme.
BM25 ist eine Bewertungsformel aus der Familie der probabilistischen Retrieval-Modelle und seit Jahrzehnten der Standard in Suchmaschinen. Sie berücksichtigt drei Faktoren. Erstens die Termfrequenz: Wie oft kommt ein Suchbegriff im Dokument vor? Mehr Vorkommen bedeuten mehr Relevanz, aber mit Sättigung – das zehnte Vorkommen bringt deutlich weniger als das zweite. Zweitens die inverse Dokumentfrequenz: Wie selten ist der Begriff in der gesamten Sammlung? Ein Wort wie „Pumpe“ in einem Pumpenhersteller-Index ist wenig aussagekräftig, eine bestimmte Typbezeichnung dagegen sehr. Drittens die Längennormalisierung: Lange Dokumente enthalten zufällig mehr Begriffe und werden daher etwas abgewertet.
Zwei Parameter steuern das Verhalten: einer für die Sättigung der Termfrequenz, einer für die Stärke der Längennormalisierung. Die Standardwerte der gängigen Systeme funktionieren in den meisten Fällen ordentlich; Feintuning lohnt sich erst mit einem belastbaren Testset. Wichtiger als die Parameter ist die Textanalyse davor: Wie wird zerlegt, normalisiert, auf Wortstämme reduziert? Für die deutsche Sprache entscheidet das maßgeblich über die Qualität, wie Kapitel 07 zeigt. Eine Variante, BM25F, bewertet mehrere Felder wie Titel, Überschrift und Fließtext getrennt und gewichtet sie – nützlich, weil ein Treffer im Titel meist mehr aussagt als einer im Fließtext.
Dense Retrieval ist die bekannte Vektorsuche: Ein Embedding-Modell, häufig ein mehrsprachiges Transformer-Modell, erzeugt für jeden Abschnitt einen Vektor mit einigen hundert bis einigen tausend Dimensionen. Jede Dimension trägt ein Stück Bedeutung, aber keine ist für Menschen interpretierbar. Die Qualität hängt stark vom Modell ab: Ist es für Deutsch trainiert, kennt es Fachsprache, passt seine maximale Eingabelänge zur Chunk-Größe? Wichtig ist, dass Dokumente und Anfragen mit demselben Modell und gegebenenfalls mit den vom Modell vorgesehenen Präfixen für Anfrage und Dokument kodiert werden.
Learned Sparse Retrieval ist ein Mittelweg. Modelle wie SPLADE oder Elastics ELSER erzeugen keine dichten Vektoren, sondern gewichtete Wortlisten – ähnlich einem invertierten Index, aber mit gelernten Gewichten und ergänzten Begriffen. Ein Abschnitt über „Kühlschmierstoff“ erhält so beispielsweise auch ein Gewicht für „Kühlmittel“, obwohl das Wort nicht vorkommt. Das verbindet Erklärbarkeit und Indexeffizienz der lexikalischen Suche mit einem Teil der semantischen Fähigkeiten. Ein wichtiger Vorbehalt für den deutschsprachigen Raum: Viele Learned-Sparse-Modelle sind primär auf Englisch trainiert. Ihre Qualität für deutsche Fachtexte sollte daher immer mit eigenen Testanfragen geprüft werden, bevor man sich darauf verlässt. In manchen Architekturen wird Learned Sparse als dritte Liste neben BM25 und Dense eingesetzt, in anderen ersetzt es BM25.
Die zentrale Frage jeder Hybrid Search lautet: Wie werden zwei Listen zusammengeführt, deren Bewertungen nicht vergleichbar sind? Ein BM25-Wert kann je nach Anfrage und Index sehr unterschiedliche Größenordnungen haben, eine Kosinus-Ähnlichkeit bewegt sich in einem engen Bereich. Beide einfach zu addieren, ergibt keinen Sinn. Es haben sich zwei Ansätze durchgesetzt.
Reciprocal Rank Fusion, kurz RRF, ignoriert die Scores und betrachtet nur die Platzierungen. Jedes Dokument erhält aus jeder Liste einen Beitrag von eins geteilt durch die Summe aus einer Konstante und seinem Rang; die Beiträge werden addiert. Die Konstante dämpft den Vorsprung der allerersten Plätze und wird in der Praxis häufig auf 60 gesetzt, wie in der ursprünglichen Veröffentlichung vorgeschlagen. Ein Dokument auf Platz 1 in beiden Listen gewinnt klar, ein Dokument auf Platz 1 in nur einer Liste kann aber ein Dokument schlagen, das in beiden Listen nur mittelmäßig platziert ist. RRF ist robust, braucht kaum Tuning und ist deshalb in vielen Systemen der Standard.
Gewichtete Score-Fusion, auch konvexe Kombination genannt, normalisiert zunächst die Scores beider Listen auf einen gemeinsamen Bereich, etwa per Min-Max-Normalisierung oder anhand der statistischen Verteilung, und bildet dann eine gewichtete Summe. Ein Parameter, oft Alpha genannt, legt fest, wie viel Gewicht die Vektorsuche gegenüber der lexikalischen Suche bekommt. Dieser Ansatz nutzt mehr Information als RRF – nämlich wie deutlich ein Treffer vorne liegt –, ist aber empfindlicher gegenüber Ausreißern und erfordert Tuning mit einem Testset. Mit sauber gewählten Gewichten kann er RRF übertreffen; ohne Tuning ist RRF meist die sicherere Wahl.
Sowohl BM25 als auch die Vektorsuche bewerten Anfrage und Dokument unabhängig voneinander: Der Dokumentvektor wird einmal vorab berechnet, der Anfragevektor zur Laufzeit, verglichen wird nur das Ergebnis. Ein Cross-Encoder dagegen liest Anfrage und Dokumentabschnitt gemeinsam und beurteilt direkt, wie gut sie zusammenpassen. Das ist deutlich genauer, aber auch deutlich rechenintensiver – für Millionen Dokumente pro Anfrage wäre es zu langsam. Deshalb kombiniert man beides: Hybrid Search liefert schnell eine Kandidatenmenge, etwa einige Dutzend Abschnitte, und der Reranker sortiert diese neu.
Reranker gibt es als Open-Source-Modelle zum Selbstbetrieb, darunter mehrsprachige Varianten, die auch Deutsch gut beherrschen, sowie als API-Dienste verschiedener Anbieter. Einige Suchdienste bringen einen integrierten semantischen Ranker mit. In vielen Projekten ist die Kombination aus Hybrid Search und Reranking der größte einzelne Qualitätssprung im Retrieval. Die Kehrseite: zusätzliche Latenz, zusätzliche Infrastruktur oder API-Kosten und bei externen Diensten eine weitere Stelle, an der Unternehmensdaten verarbeitet werden. Mehr dazu in unserem Artikel zum Reranking.
Viele Anfragen sind kurz, unpräzise oder Teil eines Dialogs. „Und wie ist das bei der großen Variante?“ ist ohne Gesprächskontext nicht suchbar. Query Rewriting lässt ein Sprachmodell die Anfrage vor der Suche umformulieren: Kontext aus dem Dialog ergänzen, Abkürzungen ausschreiben, mehrere Teilfragen bilden oder alternative Formulierungen erzeugen. Jede Variante läuft durch die Hybrid Search, die Ergebnisse werden wiederum fusioniert. Eine verwandte Technik erzeugt zunächst eine hypothetische Antwort und sucht mit deren Vektor nach echten Dokumenten. Wichtig dabei: Codes und Artikelnummern aus der Originalanfrage müssen unverändert erhalten bleiben – ein Sprachmodell, das eine Nummer „korrigiert“, sabotiert genau die Stärke der lexikalischen Suche.
Metadaten-Filter sind unspektakulär, aber oft wirkungsvoller als jedes Modell. Wenn klar ist, dass sich eine Frage auf eine bestimmte Produktlinie, ein Baujahr, einen Standort oder eine Dokumentart bezieht, schränkt ein Filter den Suchraum drastisch ein. Filter können explizit aus der Oberfläche kommen oder von einem Sprachmodell aus der Anfrage abgeleitet werden. Technisch entscheidend ist, dass Filter in beiden Teilsuchen und vor der Fusion greifen. Das gilt insbesondere für Berechtigungsfilter: Ein Dokument, das die fragende Person nicht sehen darf, darf weder in der lexikalischen noch in der Vektorliste auftauchen.
Beim Agentic Retrieval entscheidet ein Sprachmodell selbst, wann, wie und wie oft gesucht wird. Es kann eine Anfrage zerlegen, nacheinander mehrere Suchen ausführen, Zwischenergebnisse bewerten, gezielt nach einem fehlenden Detail nachsuchen oder zwischen verschiedenen Indizes und Werkzeugen wählen – etwa einer Hybrid Search über Handbücher und einer strukturierten Abfrage im ERP. Hybrid Search wird dabei zu einem Werkzeug unter mehreren, das der Agent aufruft. Manche Implementierungen lassen den Agenten sogar wählen, ob eine eher lexikalische oder eher semantische Suche sinnvoller ist.
Das Potenzial ist groß, gerade bei komplexen Fragen, die Informationen aus mehreren Quellen erfordern. Gleichzeitig steigen Latenz, Kosten und die Zahl möglicher Fehlerpfade. Für die meisten mittelständischen Anwendungsfälle empfehlen wir, zunächst eine saubere, gut evaluierte Hybrid Search mit Reranking aufzubauen. Agentische Erweiterungen lohnen sich, wenn ein klarer Bedarf an mehrstufigen Fragen besteht und die Grundlage verlässlich funktioniert.
Für Hybrid Search braucht jeder Textabschnitt zwei Repräsentationen: einen lexikalischen Eintrag im invertierten Index oder als Sparse-Vektor und einen Dense-Vektor. Beide müssen sich auf exakt denselben Abschnitt mit derselben ID beziehen, sonst kann die Fusion nicht zusammenführen, was zusammengehört. In Systemen, die beides nativ in einer Collection speichern, ist das automatisch gegeben. Werden zwei getrennte Systeme kombiniert, etwa eine Suchmaschine und eine Vektordatenbank, ist die Synchronisation eine eigene Aufgabe: Neue, geänderte und gelöschte Dokumente müssen in beiden Indizes konsistent nachgezogen werden.
Auch das Chunking wirkt sich unterschiedlich aus. Die Vektorsuche profitiert von inhaltlich geschlossenen, nicht zu langen Abschnitten. Für die lexikalische Suche ist es hilfreich, wenn wichtige Kontextinformationen wie Dokumenttitel, Produktname oder Kapitelüberschrift im Abschnitt selbst oder in eigenen Feldern stehen. Ein Abschnitt „Drehmoment 25 Nm anziehen“ ohne Hinweis auf das Bauteil ist für beide Verfahren schwer zu finden. Bewährt hat sich, Titel und Überschriftenpfad als eigene Felder mitzuführen, in der lexikalischen Suche höher zu gewichten und dem Abschnittstext für das Embedding voranzustellen.
Die gängigen RAG-Frameworks unterstützen Hybrid Search auf zwei Arten. Entweder sie delegieren an die Datenbank: Wenn die gewählte Datenbank Hybrid Search nativ beherrscht, reicht das Framework die Anfrage mit den passenden Parametern durch. Oder sie fusionieren selbst: Ein BM25-Retriever und ein Vektor-Retriever liefern getrennte Listen, die eine Komponente des Frameworks per RRF oder gewichteter Fusion zusammenführt. In LangChain übernimmt diese Rolle ein Ensemble-Retriever, LlamaIndex bietet einen Fusion-Retriever mit mehreren Modi, und in Haystack führt eine Joiner-Komponente die Ergebnisse verschiedener Retriever in einer Pipeline zusammen.
Welcher Weg besser ist, hängt von den Anforderungen ab. Die native Hybrid Search der Datenbank ist meist effizienter, weil Filter und Fusion dort stattfinden, wo die Daten liegen. Die Fusion im Framework ist flexibler, etwa wenn Quellen aus unterschiedlichen Systemen kombiniert werden sollen. Ein Hinweis aus der Praxis: Framework-eigene BM25-Implementierungen, die den gesamten Index im Arbeitsspeicher halten, eignen sich gut für Prototypen, aber selten für produktive Datenmengen mit laufenden Aktualisierungen.
Nach Fusion und gegebenenfalls Reranking entscheidet die Pipeline, wie viele Abschnitte in den Kontext des Sprachmodells gelangen. Zu wenige, und eine relevante Information fehlt. Zu viele, und das Modell wird durch Nebensächliches abgelenkt, Kosten und Latenz steigen. Bewährt haben sich eine großzügige Kandidatenmenge für den Reranker und eine knappe, sorgfältig ausgewählte Menge für das Sprachmodell. Ergänzend kann der Kontext um benachbarte Abschnitte erweitert werden, wenn ein Treffer mitten in einer Anleitung liegt. Für Quellenangaben ist wichtig, dass jede Antwort auf die konkreten Abschnitte und Dokumente verweist, die Hybrid Search geliefert hat – das schafft Vertrauen und erleichtert die Fehleranalyse.
Eine reine Schlüsselwortsuche ist ausreichend, wenn Nutzer genau wissen, wonach sie suchen, und es in Form fester Bezeichner ausdrücken: Bestellnummern, Kundennummern, Vertragsnummern, Dateinamen. Eine Suche im Teilekatalog nach exakter Artikelnummer braucht keine Semantik. Auch dort, wo Erklärbarkeit im Vordergrund steht – etwa bei Recherchen, deren Vollständigkeit nachgewiesen werden muss –, ist die lexikalische Suche wegen ihrer Nachvollziehbarkeit im Vorteil.
Eine reine Vektorsuche genügt, wenn Inhalte und Anfragen überwiegend aus natürlicher Sprache bestehen, kaum Codes oder Eigennamen vorkommen und Ungenauigkeiten tolerierbar sind. Beispiele sind Empfehlungen ähnlicher Artikel in einem Blog, das Gruppieren von Kundenfeedback oder ein Prototyp, der schnell zeigen soll, was möglich ist. Sobald jedoch Unternehmensdokumente mit Fachbezeichnern ins Spiel kommen, zeigt sich in unseren Projekten fast immer Bedarf an der lexikalischen Komponente.
Hybrid Search sollte gesetzt sein, wenn ein RAG-System oder eine Unternehmenssuche mit gemischten Anfragen umgehen muss – mal eine Frage in ganzen Sätzen, mal eine Artikelnummer, mal eine Mischung aus beidem wie „Lieferzeit Dichtungssatz 4711-B“. Das ist im Mittelstand der Normalfall: Technische Dokumentation, Servicewissen, Produktdaten, Normen und Verträge enthalten immer beides. Ebenso wichtig ist Hybrid Search bei Inhalten mit vielen Eigennamen, etwa Kunden-, Projekt- oder Lieferantennamen, die ein Embedding-Modell nicht kennt.
Reranking als zusätzliche Stufe lohnt sich vor allem dann, wenn die Ergebnisse direkt in die Antwort eines Sprachmodells einfließen und Fehler teuer sind, wenn Anfragen komplex sind oder wenn viele ähnliche Dokumente existieren, deren feine Unterschiede zählen – etwa mehrere Versionen einer Anleitung für verschiedene Baureihen.
Die deutsche Sprache ist für die lexikalische Suche eine besondere Herausforderung. Das größte Thema sind Komposita: „Hydraulikpumpendichtung“, „Kundendienstvereinbarung“, „Brandschutzklappe“. Wer nach „Dichtung Hydraulikpumpe“ sucht, findet ohne Zerlegung das zusammengesetzte Wort nicht. Suchmaschinen wie Elasticsearch und OpenSearch bieten Decompounder auf Basis von Wörterbüchern oder Silbentrennungsregeln, die zusammengesetzte Wörter in ihre Bestandteile zerlegen und zusätzlich indexieren. Das erhöht die Trefferquote deutlich, kann aber auch Fehlzerlegungen erzeugen; ein gepflegtes Fachwörterbuch hilft. In Systemen ohne eingebaute Zerlegung kann man Komposita in der Vorverarbeitung auflösen.
Das Stemming reduziert Wörter auf einen Stamm, damit „Pumpen“, „Pumpe“ und „gepumpt“ zusammenfinden. Für Deutsch gibt es etablierte Stemmer, die mehr oder weniger aggressiv vorgehen. Zu aggressives Stemming lässt unterschiedliche Begriffe zusammenfallen, zu vorsichtiges verschenkt Treffer. Ergänzend sorgt eine Normalisierung dafür, dass Umlaute und ß einheitlich behandelt werden – „Strasse“, „Straße“, „Groesse“ und „Größe“ sollen sich finden. Eine bewährte Praxis ist, Text in mehreren Feldern mit unterschiedlicher Analyse zu indexieren: einmal sprachlich aufbereitet für natürliche Wörter, einmal möglichst unverändert für exakte Treffer bei Codes und Nummern.
Synonyme schließen Lücken, die weder Stemming noch Zerlegung schließen können: „KSS“ und „Kühlschmierstoff“, „AU“ und „Arbeitsunfähigkeitsbescheinigung“, interne Produktnamen und offizielle Bezeichnungen. Eine Synonymliste aus der Fachabteilung ist oft eines der wirksamsten Werkzeuge überhaupt. Zwar überbrückt die Vektorsuche viele Synonyme automatisch, aber unternehmensspezifische Abkürzungen kennt kein Embedding-Modell. Die lexikalische Synonymliste und die semantische Suche ergänzen sich hier ideal. Auch beim Embedding-Modell selbst lohnt der Blick auf die Sprachqualität: Ein mehrsprachiges Modell mit nachweislich guter Leistung auf Deutsch ist Pflicht, und für sehr spezielle Fachsprache kann ein Test mehrerer Modelle sinnvoll sein.
Ohne Messung ist jede Optimierung einer Hybrid Search Bauchgefühl. Grundlage ist ein Testset: eine Sammlung realistischer Anfragen, zu denen bekannt ist, welche Dokumente oder Abschnitte relevant sind. Für den Start genügen oft einige Dutzend bis wenige hundert gut gewählte Anfragen, die das Spektrum abdecken – Nummernsuchen, natürliche Fragen, Abkürzungen, Tippfehler, mehrdeutige Begriffe. Wichtig ist, dass Fachexperten die Relevanz beurteilen und nicht nur das Projektteam.
Gemessen wird mit etablierten Retrieval-Metriken. Recall@k beantwortet, ob die relevanten Abschnitte unter den ersten k Treffern sind – für RAG besonders wichtig, weil fehlende Abschnitte nicht in den Kontext gelangen. MRR misst, wie weit oben der erste relevante Treffer steht. nDCG bewertet die Reihenfolge insgesamt und berücksichtigt abgestufte Relevanz. Für RAG kommen Metriken zur Kontextqualität und zur Antworttreue hinzu, wie sie Werkzeuge zur RAG-Evaluation bereitstellen. Entscheidend ist, die Komponenten getrennt zu messen: Wie gut ist BM25 allein, wie gut die Vektorsuche, wie gut die Fusion? So wird sichtbar, wo Verbesserungen ansetzen sollten.
Mit Testset lässt sich gezielt tunen: Fusionsverfahren vergleichen, Gewichte zwischen lexikalischer und semantischer Suche variieren, Kandidatenmengen vor Fusion und Reranking anpassen, Feldgewichtungen für Titel und Überschriften ausprobieren, Analyzer und Synonyme verbessern. Jede Änderung wird gegen das Testset gemessen, bevor sie live geht. Dabei zeigt sich häufig, dass unterschiedliche Anfragetypen unterschiedliche Einstellungen bevorzugen – ein Grund, warum manche Systeme die Gewichtung abhängig vom Anfragetyp anpassen, etwa stärker lexikalisch, sobald eine Nummer erkannt wird.
Im Betrieb sind Suchanfragen ohne Treffer und Anfragen mit negativem Nutzerfeedback die wertvollsten Signale. Sie zeigen fehlende Synonyme, Lücken im Bestand oder Schwächen der Aufbereitung. Ein Wechsel des Embedding-Modells erfordert eine vollständige Neuindexierung aller Vektoren und sollte als eigenes Vorhaben mit Vorher-Nachher-Messung geplant werden. Ebenso wichtig: Index-Aktualität, Synchronisation von Löschungen und Berechtigungen sowie Monitoring von Latenz und Ressourcenverbrauch.
Ein typischer Maschinen- oder Anlagenbauer hat zehntausende Artikel, viele mit ähnlichen Nummern, Varianten und Nachfolgern. Im Service fragen Techniker nach „Ersatzteil für 4711-0815, wurde abgekündigt, was ist der Nachfolger?“. Diese Anfrage enthält einen exakten Bezeichner und eine semantische Frage. Reine Vektorsuche verfehlt die Nummer oder verwechselt sie mit einer ähnlichen; reine Keyword-Suche findet die Nummer, versteht aber „Nachfolger“ nicht, wenn im Dokument „ersetzt durch“ steht. Hybrid Search findet Dokumente, die beides abdecken, und stellt sie nach oben.
Ähnlich verhält es sich mit Fehlercodes. Steuerungen und Geräte melden Codes, die sich oft nur in einer Stelle unterscheiden, aber völlig unterschiedliche Ursachen haben. Hier ist die exakte lexikalische Übereinstimmung unverzichtbar, ergänzt um die semantische Suche für die Symptombeschreibung des Technikers. Zusätzlich helfen Metadatenfilter auf Gerätetyp oder Baureihe, damit eine Lösung nicht für das falsche Modell angezeigt wird.
Qualitätsmanagement, Arbeitsschutz und Produktsicherheit arbeiten mit Normen und Richtlinien, deren Bezeichnungen exakt sein müssen: DIN, EN, ISO, VDI, VDE mit Nummer, Teil und Ausgabejahr. Gleichzeitig wollen Mitarbeitende wissen, was eine Norm inhaltlich fordert, oft ohne die Nummer zu kennen. „Welche Anforderungen gelten für die Dokumentation von Schulungen?“ ist eine semantische Frage; „Kapitel 7.2 der ISO 9001“ eine lexikalische. Eine gute Hybrid Search beantwortet beides und berücksichtigt über Metadaten die jeweils gültige Fassung. Bei urheberrechtlich geschützten Normtexten ist zu klären, in welchem Umfang sie überhaupt indexiert werden dürfen.
Jedes Unternehmen hat seine eigene Sprache. Produktfamilien heißen intern anders als im Katalog, Abteilungen haben Kürzel, Projekte Codenamen. Embedding-Modelle kennen diese Begriffe nicht, und selbst ein feinjustiertes Modell lernt sie nur unzuverlässig. Die lexikalische Suche mit einer gepflegten Synonymliste schließt diese Lücke pragmatisch. Gleichzeitig bewegen sich viele Mittelständler international: Dokumente liegen auf Deutsch, Englisch und weiteren Sprachen vor. Hier spielt die mehrsprachige Vektorsuche ihre Stärke aus und findet ein englisches Datenblatt auch zu einer deutschen Frage. In Kombination entsteht eine Suche, die Hausjargon, Fachnormen und Mehrsprachigkeit gleichermaßen beherrscht – genau das, was sich Anwender unter einer „intelligenten Suche“ vorstellen.
Die Mehrkosten einer Hybrid Search gegenüber reiner Vektorsuche sind in der Regel moderat. Ein invertierter Index für die lexikalische Suche ist vergleichsweise sparsam bei Speicher und Rechenleistung; in vielen Systemen ist er ohnehin vorhanden. Der größere Kostenblock liegt meist bei der Vektorsuche selbst: Speicher für die Vektoren und den Index, Rechenleistung für die Erzeugung der Embeddings und – bei gemanagten Diensten – nutzungs- oder kapazitätsabhängige Gebühren. Kommt ein Reranker hinzu, steigen Rechenbedarf und Latenz pro Anfrage, bei API-Diensten auch die variablen Kosten.
Konkrete Preise nennen wir bewusst nicht, weil sie von Anbieter, Datenmenge, Anfragevolumen und Betriebsmodell abhängen und sich laufend ändern. Aktuelle Konditionen sind stets beim jeweiligen Anbieter zu prüfen. Als Faustregel gilt: Wer bereits eine Suchmaschine oder PostgreSQL betreibt, kann Hybrid Search oft mit überschaubarem Zusatzaufwand ergänzen. Ein neuer gemanagter Dienst ist schneller startklar, bindet aber dauerhaft an dessen Preismodell.
Für den Datenschutz ist entscheidend, wo Dokumente, Indizes, Embeddings, Anfragen und Protokolle verarbeitet werden. Bei Hybrid Search sind das mehrere Stellen: der Suchindex, das Embedding-Modell, gegebenenfalls der Reranker und bei RAG das Sprachmodell. Jede dieser Komponenten kann lokal, bei einem europäischen oder bei einem US-amerikanischen Anbieter laufen. Unter den hier genannten Systemen sind etwa Microsoft mit Azure AI Search, Amazon Web Services mit seinem gemanagten OpenSearch-Angebot und Elastic mit seiner Cloud US-amerikanische Anbieter beziehungsweise Anbieter mit US-Hauptsitz; auch viele Embedding- und Reranking-APIs kommen aus den USA. Gemanagte Cloud-Angebote der Vektordatenbanken laufen häufig auf der Infrastruktur großer US-Hyperscaler, selbst wenn der Anbieter europäisch ist.
Bei US-Anbietern – auch mit Rechenzentren in der EU – sind Auftragsverarbeitungsverträge, Unterauftragsverarbeiter, Garantien für Drittlandtransfers und mögliche Zugriffsrechte ausländischer Behörden zu bewerten. Self-Hosting mit Open-Source-Komponenten wie OpenSearch, Qdrant, Weaviate, Milvus, Vespa oder PostgreSQL mit pgvector sowie selbst betriebenen Embedding- und Reranking-Modellen bietet die größte Kontrolle: Keine Daten verlassen den eigenen Verantwortungsbereich. Dafür steigen Betriebsaufwand und Know-how-Bedarf. Eine Zwischenlösung sind europäische Cloud- und Hosting-Anbieter, auf denen die Open-Source-Komponenten betrieben werden.
Hybrid Search verdoppelt gewissermaßen die Stellen, an denen Daten liegen: Inhalte stehen im invertierten Index, Bedeutungsrepräsentationen im Vektor-Index. Beide müssen dieselben Berechtigungen respektieren und bei Löschanfragen gleichermaßen bereinigt werden. Vektoren gelten dabei nicht automatisch als anonym, denn aus ihnen lassen sich unter Umständen Rückschlüsse auf den Ursprungstext ziehen. Auch Zwischenspeicher, Sicherungen und Testsets mit echten Anfragen gehören in das Löschkonzept.
Suchanfragen selbst können personenbezogene oder vertrauliche Informationen enthalten. Für Tuning und Evaluation sind sie wertvoll, sollten aber nur so lange und so detailliert gespeichert werden, wie es für Betrieb und Qualitätssicherung erforderlich ist, idealerweise pseudonymisiert. Wo ein Betriebsrat besteht, ist zu prüfen, ob die Protokollierung zur Leistungs- oder Verhaltenskontrolle geeignet ist und eine Vereinbarung erfordert. Der EU AI Act stuft eine Unternehmenssuche in typischen Szenarien nicht als Hochrisikosystem ein; Pflichten etwa zur KI-Kompetenz der Mitarbeitenden können dennoch greifen. Die konkrete Einstufung sollte im Einzelfall rechtlich geprüft werden.