国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Redis 8 向量搜索實測:輕松擴展至 10 億向量

虹科技術 ? 來源:虹科技術 ? 作者:虹科技術 ? 2025-05-13 14:00 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

面對生成式 AI 帶來的超大規模向量需求,Redis 8 向量搜索實測輕松支持 10 億向量,依舊保持低延遲與高吞吐表現。本篇文章詳細介紹了 Redis 如何通過 HNSW 算法擴展至十億級別,并提供完整測試配置與性能數據。無論是 AI 檢索、推薦系統還是多模態生成應用,Redis 8 都是你構建高效向量服務的可靠選擇。

隨著越來越多的公司把生成式人工智能(GenAI)應用投入生產,我們看到客戶對更大向量數據庫的需求不斷增長。我們發現了一些需要 10 億個或更多向量的使用場景,很高興能分享我們在這一規模上的基準測試結果。

在測試中,我們在中位延遲為 200 毫秒的情況下達到了 90% 的精確度,而在處理 50 個并發搜索請求時,對于前 100 個最近鄰(nearest neighbors),在中位延遲為 1.3 秒的情況下達到了 95% 的精確度。

將向量搜索擴展到 10 億個向量并非易事,但 Redis 8 的發布讓這一過程顯得輕松。今天,我們將通過展示 Redis 在實時搜索 10 億個 768 維向量時的處理能力,來說明它如何應對大規模應用程序。我們嚴格測試了索引與搜索的性能,證明了 Redis 不僅是最快的向量數據庫,還能從數百萬個向量擴展到數十億個向量,仍然提供極低的延遲。請查看下面的詳細信息。

測試配置詳解

我們使用了一個與 Intel? 合作準備的向量數據集,該數據集包含 10 億個 768 維向量,采用 FLOAT16 精度和 10K 查詢,每個查詢有 100 個真實值(精確鄰居,exact neighbors)。該數據集源自LAION-5B 數據集,這是一個用于訓練下一代圖生文模型(如 Stable Diffusion 和 OpenClip)的大規模數據集。

向量索引使用了歐幾里得距離度量和 FLOAT16 精度,并且在查詢時通過調整以下參數來實現不同的精確度:

EF_CONSTRUCTION(在索引創建時設置):在構建圖時,圖中每個節點允許的最大潛在出邊(potential outgoing edges candidates)候選數量。

M(在索引創建時設置):在圖的每一層中,每個節點允許的最大出邊數量。在第零層,最大出邊數量將是 2M。

EF_RUNTIME(在查詢時可變):在 KNN 搜索期間要保留的最大頂級候選數量(maximum top candidates)。更高的 EF_RUNTIME 值將導致更準確的結果,但也會增加運行時間。

使用數據集的 100 個最近鄰的真實值來評估每個回復的準確性(召回率),并且我們對 M 在 4、8、16 和 32 個出邊之間,EF_CONSTRUCTION 在 4、8、16 和 32 之間,以及 EF_RUNTIME 在 4、8、16、32、64、128、256、512、1024、2048、4096 和 8192 之間進行了調整。為確保結果可重現,每個配置都運行了 3 次,選擇了最好的結果。

Redis 8 Community Edition 十億規模基準測試

數據集:laion-img-emb-768-1G-cosine

客戶端數量:501

繪制值:每秒請求數(RPS)| 平均延遲(秒)| 95百分位延遲(秒)| 索引時間(秒)

wKgZPGgi33-AD4ciAADd27A_1j8775.png

在我們之前的向量數據庫基準測試博客中,我們專注于證明 Redis 是最快的向量數據庫。現在我們證明,對于需要保持實時性延遲的使用場景,我們不僅是最快的向量數據庫,我們還可以將向量數量從數百萬擴展到數十億。

測試結果

在十億向量規模下,使用實時索引,Redis 8 社區版可以維持每秒 66K 向量插入,對于允許至少 95% 精確度(M 16 和 EF_CONSTRUCTION 32)的索引配置。對于導致較低精確度(M 4 和 EF_CONSTRUCTION 4)的索引配置,Redis 8 社區版可以支持高達每秒 160K 向量插入的速率。通過使用更多服務器可以進一步增加吞吐量。

對于高精確度查詢,我們可以看到更大的 HNSW 索引(更高的 M 和 EF_CONSTRUCT)會提高搜索質量,但會增加延遲。在處理 50 個并發搜索請求時,我們在中位延遲(包括往返時間)為 200 毫秒的情況下達到 90% 精確度,而在中位延遲(包括往返時間)為 1.3 秒的情況下達到 95% 精確度。

由于所需的精確度和延遲權衡因使用場景而異,因此根據上面的圖表調整 HNSW 參數非常重要。

Redis 8 證明了實時向量搜索不僅適用于數百萬個向量,還能擴展到數十億個向量,同時保持高性能。通過正確的 HNSW 調優,你可以在精確度、延遲和吞吐量之間取得平衡,以適應你的使用場景,實現高達 95% 的召回率和實時查詢。無論你是在構建人工智能驅動的搜索、推薦引擎還是任何基于向量的應用程序,Redis 都能為你提供所需的快速、可擴展性能。

Redis

艾體寶是Redis企業版數據庫的中國區戰略合作伙伴,持續關注各行業當下急切需求,專注于為企業解答疑問,制定專屬服務,提供一站式解決方案,艾體寶提供的Redis企業版數據庫是無數企業數據安全保護路上的最佳合作選擇!為企業的數據安全保駕護航!

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39755

    瀏覽量

    301358
  • 人工智能
    +關注

    關注

    1817

    文章

    50094

    瀏覽量

    265276
  • Redis
    +關注

    關注

    0

    文章

    392

    瀏覽量

    12185
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    在使用CW32L083系列微控制器時如何配置中斷向量表?

    在使用CW32L083系列微控制器時,如何配置中斷向量表?
    發表于 12-15 06:17

    京東拍立淘API開發指南:從零開始構建圖像搜索應用

    京東圖片識別搜索API(拍立淘)是基于深度學習的視覺搜索服務,通過卷積神經網絡提取圖像特征向量,結合近似最近鄰搜索算法實現商品精準匹配?。該技術解決了傳統文字
    的頭像 發表于 11-09 17:40 ?2156次閱讀

    用哪吒D1開發板體驗riscv向量底層編程

    1.前言 2.機器模式處理器狀態寄存器(MSTATUS) 3.編譯選項支持V擴展 4.RISCV向量計算的原理 5.通過實例分析RISCV V擴展的運作機制 6.RVV使用體驗 1.前言
    發表于 10-29 06:21

    Vector向量指令集簡介(一)

    RV32V將數據寄存器和長度與向量寄存器關聯而不是指令操作碼。程序在執行V指令之前會用數據類型和數據寬度來標記向量寄存器,因為每個V指令通常有8個整數版本和三個浮點版本。 這個編碼一共5位,低
    發表于 10-23 08:28

    Vector向量指令集簡介(三)

    VLEN/8; vstart寄存器可讀可寫,記錄向量指令執行的第一個元素的索引。 Vxrm寄存器:矢量定點攝入模式寄存器,它的最低有效位[1:0]中保存一個兩位讀寫舍入模式的字段。高位則都置為0
    發表于 10-23 06:23

    Vector向量指令集簡介(二)

    上次我們講vtype講到一般,今天把剩下的部分給講完。 Vma和vta表示的是向量尾部不可知與向量掩碼不可知的設置位。 這兩個位的值,都是在設置為0的時候表示未受干擾,設置為1的時候表示
    發表于 10-23 06:05

    按圖搜索1688商品的API接口

    服務(如ImageSearch)實現類似功能。本技術帖將逐步介紹原理、實現步驟和代碼示例,幫助你構建一個可用的API接口。 1. 圖像搜索原理 按圖搜索的核心是基于內容的圖像檢索(CBIR),它通過提取圖像特征向量并進行相似度計
    的頭像 發表于 10-22 15:05 ?602次閱讀
    按圖<b class='flag-5'>搜索</b>1688商品的API接口

    Vector向量指令集簡介(四)

    不同eew(有效元素位寬)的向量,在使用時具體區別如vle8或者vle32這樣指定。 Vm在之前說過,是掩碼。 Nf表示指令單次操作的向量個數。 Lumop/sumop所代表的是不同的尋址模式
    發表于 10-22 06:06

    使用MATLAB的支持向量機解決方案

    支持向量機 (SVM) 是一種有監督機器學習算法,它能找到分離兩個類的數據點的最佳超平面。
    的頭像 發表于 10-21 15:00 ?635次閱讀
    使用MATLAB的支持<b class='flag-5'>向量</b>機解決方案

    RISC-V V擴展的指令代碼

    執行指令,可以更加靈活地進行程序控制,提高了程序的可編程性和可擴展性。 2.指令代碼格式 VADD 指令 vadd.vv v1, v2, v3 這條指令將向量寄存器v2和v3中的對應元素相加,結果存儲
    發表于 10-21 13:11

    基于蜂鳥E203架構的指令集K擴展

    擴展指令集架構(RISC-V ISA)的K擴展。 K擴展是一種可選的指令集擴展,它增加了一些向量和矩陣操作的指令。這些指令可以利用硬件并行性
    發表于 10-21 09:38

    1688 多模態搜索從 0 到 1:逆向接口解析與 CLIP 特征匹配實踐

    本文分享基于CLIP模型與逆向工程實現1688圖片搜同款的實戰方案。通過抓包分析破解接口簽名,結合CLIP多模態特征提取與Faiss向量檢索,提升搜索準確率91%,單次響應低于80ms,日均選品效率提升4倍,全程合規可復現。
    的頭像 發表于 10-17 10:00 ?547次閱讀

    在中斷向量表中,數字較小的中斷向量能否以 larg 中斷中斷向量

    在中斷向量表中,數字較小的中斷向量能否以 larg 中斷中斷向量
    發表于 08-21 08:17

    milvus向量數據庫的主要特性和應用場景

    Milvus 是一個開源的向量數據庫,專門為處理和分析大規模向量數據而設計。它適用于需要高效存儲、檢索和管理向量數據的應用場景,如機器學習、人工智能、計算機視覺和自然語言處理等。
    的頭像 發表于 07-04 11:36 ?1067次閱讀
    milvus<b class='flag-5'>向量</b>數據庫的主要特性和應用場景

    RISC-V架構下的編譯器自動向量

    進迭時空專注于研發基于RISC-V的高性能新AICPU,對于充分發揮CPU核的性能而言,編譯器是不可或缺的一環,而在AI時代,毫無疑問向量算力將發揮越來越重要的作用。進迭時空非常重視RISC-V
    的頭像 發表于 06-06 16:59 ?1229次閱讀
    RISC-V架構下的編譯器自動<b class='flag-5'>向量</b>化