面對生成式 AI 帶來的超大規模向量需求,Redis 8 向量搜索實測輕松支持 10 億向量,依舊保持低延遲與高吞吐表現。本篇文章詳細介紹了 Redis 如何通過 HNSW 算法擴展至十億級別,并提供完整測試配置與性能數據。無論是 AI 檢索、推薦系統還是多模態生成應用,Redis 8 都是你構建高效向量服務的可靠選擇。
隨著越來越多的公司把生成式人工智能(GenAI)應用投入生產,我們看到客戶對更大向量數據庫的需求不斷增長。我們發現了一些需要 10 億個或更多向量的使用場景,很高興能分享我們在這一規模上的基準測試結果。
在測試中,我們在中位延遲為 200 毫秒的情況下達到了 90% 的精確度,而在處理 50 個并發搜索請求時,對于前 100 個最近鄰(nearest neighbors),在中位延遲為 1.3 秒的情況下達到了 95% 的精確度。
將向量搜索擴展到 10 億個向量并非易事,但 Redis 8 的發布讓這一過程顯得輕松。今天,我們將通過展示 Redis 在實時搜索 10 億個 768 維向量時的處理能力,來說明它如何應對大規模應用程序。我們嚴格測試了索引與搜索的性能,證明了 Redis 不僅是最快的向量數據庫,還能從數百萬個向量擴展到數十億個向量,仍然提供極低的延遲。請查看下面的詳細信息。
測試配置詳解
我們使用了一個與 Intel? 合作準備的向量數據集,該數據集包含 10 億個 768 維向量,采用 FLOAT16 精度和 10K 查詢,每個查詢有 100 個真實值(精確鄰居,exact neighbors)。該數據集源自LAION-5B 數據集,這是一個用于訓練下一代圖生文模型(如 Stable Diffusion 和 OpenClip)的大規模數據集。
向量索引使用了歐幾里得距離度量和 FLOAT16 精度,并且在查詢時通過調整以下參數來實現不同的精確度:
EF_CONSTRUCTION(在索引創建時設置):在構建圖時,圖中每個節點允許的最大潛在出邊(potential outgoing edges candidates)候選數量。
M(在索引創建時設置):在圖的每一層中,每個節點允許的最大出邊數量。在第零層,最大出邊數量將是 2M。
EF_RUNTIME(在查詢時可變):在 KNN 搜索期間要保留的最大頂級候選數量(maximum top candidates)。更高的 EF_RUNTIME 值將導致更準確的結果,但也會增加運行時間。
使用數據集的 100 個最近鄰的真實值來評估每個回復的準確性(召回率),并且我們對 M 在 4、8、16 和 32 個出邊之間,EF_CONSTRUCTION 在 4、8、16 和 32 之間,以及 EF_RUNTIME 在 4、8、16、32、64、128、256、512、1024、2048、4096 和 8192 之間進行了調整。為確保結果可重現,每個配置都運行了 3 次,選擇了最好的結果。
Redis 8 Community Edition 十億規模基準測試
數據集:laion-img-emb-768-1G-cosine
客戶端數量:501
繪制值:每秒請求數(RPS)| 平均延遲(秒)| 95百分位延遲(秒)| 索引時間(秒)

在我們之前的向量數據庫基準測試博客中,我們專注于證明 Redis 是最快的向量數據庫。現在我們證明,對于需要保持實時性延遲的使用場景,我們不僅是最快的向量數據庫,我們還可以將向量數量從數百萬擴展到數十億。
測試結果
在十億向量規模下,使用實時索引,Redis 8 社區版可以維持每秒 66K 向量插入,對于允許至少 95% 精確度(M 16 和 EF_CONSTRUCTION 32)的索引配置。對于導致較低精確度(M 4 和 EF_CONSTRUCTION 4)的索引配置,Redis 8 社區版可以支持高達每秒 160K 向量插入的速率。通過使用更多服務器可以進一步增加吞吐量。
對于高精確度查詢,我們可以看到更大的 HNSW 索引(更高的 M 和 EF_CONSTRUCT)會提高搜索質量,但會增加延遲。在處理 50 個并發搜索請求時,我們在中位延遲(包括往返時間)為 200 毫秒的情況下達到 90% 精確度,而在中位延遲(包括往返時間)為 1.3 秒的情況下達到 95% 精確度。
由于所需的精確度和延遲權衡因使用場景而異,因此根據上面的圖表調整 HNSW 參數非常重要。
Redis 8 證明了實時向量搜索不僅適用于數百萬個向量,還能擴展到數十億個向量,同時保持高性能。通過正確的 HNSW 調優,你可以在精確度、延遲和吞吐量之間取得平衡,以適應你的使用場景,實現高達 95% 的召回率和實時查詢。無論你是在構建人工智能驅動的搜索、推薦引擎還是任何基于向量的應用程序,Redis 都能為你提供所需的快速、可擴展性能。
“
Redis
艾體寶是Redis企業版數據庫的中國區戰略合作伙伴,持續關注各行業當下急切需求,專注于為企業解答疑問,制定專屬服務,提供一站式解決方案,艾體寶提供的Redis企業版數據庫是無數企業數據安全保護路上的最佳合作選擇!為企業的數據安全保駕護航!
審核編輯 黃宇
-
AI
+關注
關注
91文章
39755瀏覽量
301358 -
人工智能
+關注
關注
1817文章
50094瀏覽量
265276 -
Redis
+關注
關注
0文章
392瀏覽量
12185
發布評論請先 登錄
京東拍立淘API開發指南:從零開始構建圖像搜索應用
用哪吒D1開發板體驗riscv向量底層編程
Vector向量指令集簡介(一)
Vector向量指令集簡介(三)
Vector向量指令集簡介(二)
按圖搜索1688商品的API接口
Vector向量指令集簡介(四)
RISC-V V擴展的指令代碼
基于蜂鳥E203架構的指令集K擴展
1688 多模態搜索從 0 到 1:逆向接口解析與 CLIP 特征匹配實踐
milvus向量數據庫的主要特性和應用場景
RISC-V架構下的編譯器自動向量化
Redis 8 向量搜索實測:輕松擴展至 10 億向量
評論