Eksaktong salita ang hinahanap ng keyword search. Kahulugan naman ang hinahanap ng vector search. Pinapatakbo ng hybrid search ang dalawa at pinagsasama ang mga resulta.
Paano ito gumagana
Sabay na napupunta ang query sa dalawang retriever:
- Keyword: BM25 sa isang inverted index. Malakas sa mga pangalan, code at bihirang termino.
- Vector: nearest neighbours sa embeddings sa loob ng isang vector database. Malakas sa paraphrase at kasingkahulugan.
Magkaiba ang scale ng dalawang score, kaya karamihan ng system ay nagsasama batay sa rank o sa normalized score.
Reciprocal rank fusion (RRF), mula kina Cormack, Clarke at Büttcher (SIGIR 2009), ay nagdadagdag ng isang term para sa bawat list na kinalalabasan ng isang dokumento. Ganito idinodokumento ng Elasticsearch ang loop: score += 1.0 / (k + rank(result(q), d)), at 60 ang default ng rank constant na k. Sabi ng docs nito: “RRF requires no tuning.” (Salin ng BroadRouter: “Walang kailangang tuning ang RRF.”)
Isang halimbawang kuwenta na k = 60:
| Dokumento | Rank sa BM25 | Rank sa vector | RRF score |
|---|---|---|---|
| A | 1 | 3 | 1/61 + 1/63 = 0.0323 |
| B | 2 | 1 | 1/62 + 1/61 = 0.0325 |
| C | hindi nakita | 2 | 1/62 = 0.0161 |
Panalo ang B dahil mataas ang rank nito sa parehong retriever.
Weighted fusion ang isa pang karaniwang paraan. Ang default ng Weaviate mula v1.24, ang relativeScoreFusion, ay nino-normalize ang score ng bawat search at pinagsasama ang mga ito bilang scaled sum. Tinitimbang ng setting na alpha ang dalawa: keyword lang ang 0, vector lang ang 1, at 0.75 ang default ng server. Inirerekomenda ng docs na i-set nang tahasan ang alpha: nalalapat lang ang default na 0.75 kapag umabot sa server ang request nang walang alpha, at hindi lahat ng client library ay nag-iiwan dito na naka-unset, kaya puwedeng iba ang aktuwal na timbang.
Pagkatapos ng fusion, maraming pipeline ang nagdadagdag ng reranker sa mga nangungunang resulta.
Bakit ito mahalaga
- Recall. Pinaghahalo ng totoong query ang eksaktong termino at maluwag na pananalita. Kapag iisang retriever lang, may bahaging nalalaktawan.
- Arabic. Nag-iiba-iba ang spelling sa Arabic (mga anyo ng alef, ta marbuta, diacritics), kaya humihina ang eksaktong keyword matching kung hindi nino-normalize ang text. Nagbibigay ang vector search ng pangalawang daan papunta sa tamang chunk. Tingnan ang Arabic RAG search at Arabic text normalization para sa search.
- Mas kaunting token. Kapag mas maayos ang retrieval, mas kaunting chunk ang ipinapadala sa LLM kada tanong.
Sa BroadNet Inference
Sa search stack mo tumatakbo ang hybrid search: Elasticsearch, OpenSearch, Weaviate o katulad. Walang embeddings o rerank endpoint ang BroadNet, kaya gumawa ng embeddings gamit ang ibang provider o isang local na model. Ipadala ang pinagsamang mga nangungunang chunk sa isang chat model ng BroadNet gaya ng Qwen3.8 27B o GLM 5.3 sa Chat Completions API. Para sa maliliit na corpus, ikumpara ito sa paglalagay ng mga dokumento sa mahabang context; tingnan ang long context vs RAG.