昨晚睡得好嗎？睡不好可以刷快手的《11 點(diǎn)睡吧》。這部當(dāng)代人睡眠困境的微綜藝，總曝光量達(dá)到 107 億，不但科普睡眠知識，更深度探討都市人的喜怒哀樂[1]。驚人的曝光量背后，是快手對用戶畫像數(shù)據(jù)的精準(zhǔn)分析，離不開強(qiáng)大技術(shù)支持下的推薦系統(tǒng)，得以讓優(yōu)質(zhì)的內(nèi)容被更多喜歡它的人看到。

作為超 3 億日活、日均千萬級短視頻上傳、強(qiáng)調(diào)社區(qū)普惠的短視頻 APP，快手推薦系統(tǒng)在大規(guī)模復(fù)雜業(yè)務(wù)中面臨著巨大性能挑戰(zhàn)。想要化解算力瓶頸，異構(gòu)計(jì)算是一個重要選項(xiàng)，這種使用不同類型指令集和體系架構(gòu)的計(jì)算單元組成系統(tǒng)的計(jì)算方式，能夠針對不同任務(wù)選擇最優(yōu)的計(jì)算架構(gòu)，從而充分揮各種計(jì)算機(jī)構(gòu)的優(yōu)勢，協(xié)同完成復(fù)雜的工作任務(wù)。

1

異構(gòu)計(jì)算助拳，緩解參數(shù)服務(wù)器瓶頸

快手作為短視頻內(nèi)容平臺，內(nèi)容生產(chǎn)、內(nèi)容理解、內(nèi)容分發(fā)、內(nèi)容消費(fèi)、用戶互動這些環(huán)節(jié)，構(gòu)成了大規(guī)模的復(fù)雜業(yè)務(wù)，對算力產(chǎn)生更多元的需求。舉例來說：在推薦業(yè)務(wù)場景中，需要根據(jù)用戶畫像推薦感興趣的內(nèi)容，就要從海量信息中選擇與用戶特征相關(guān)的結(jié)果，再通過“排序”來劃分內(nèi)容的優(yōu)先級別。在這一過程中，參數(shù)服務(wù)器的作用非常重要，它負(fù)責(zé)存儲、處理海量數(shù)據(jù)特征以及排序模型參數(shù)，保證任務(wù)高效、準(zhǔn)確地完成。

快手推薦系統(tǒng)采用計(jì)算與存儲分離的架構(gòu)模式

快手的推薦系統(tǒng)為了應(yīng)對海量數(shù)據(jù)沖擊，在架構(gòu)上分離了計(jì)算與存儲。參數(shù)服務(wù)器屬于存儲型服務(wù)，該服務(wù)要保存和實(shí)時更新上億規(guī)模的用戶畫像、數(shù)十億規(guī)模的短視頻特征、以及千億規(guī)模的排序模型參數(shù)。受限于容量和帶寬的參數(shù)服務(wù)器，還要支撐每秒數(shù)億次的 KV 請求，耗費(fèi)大量 CPU 資源。

要解決此類瓶頸，最佳方案是使用不同計(jì)算設(shè)備處理不同負(fù)載。快手的LaoFe NDP 近數(shù)據(jù)架構(gòu)，在計(jì)算體系結(jié)構(gòu)上實(shí)現(xiàn)創(chuàng)新，使用英特爾 至強(qiáng)可擴(kuò)展處理器、英特爾Agilex FPGA和英特爾傲騰 持久內(nèi)存，借助軟硬一體化、領(lǐng)域?qū)Ｓ眉铀倨髟O(shè)計(jì)，從而做到網(wǎng)絡(luò)、存儲、計(jì)算三重加速，為各個業(yè)務(wù)系統(tǒng)提供低延遲、高并發(fā)、高吞吐、低總體擁有成本的基礎(chǔ)資源。

快手LaoFe NDP異構(gòu)計(jì)算架構(gòu)

2

持久內(nèi)存+FGPA 專用硬件，

確保三重加速創(chuàng)新

在網(wǎng)絡(luò)層面，LaoFe NDP 架構(gòu)將 CPU的網(wǎng)絡(luò)數(shù)據(jù)處理轉(zhuǎn)移到英特爾 Stratix 10 FPGA 上，同時基于該 FPGA 實(shí)現(xiàn)了“軟件定義遠(yuǎn)程直接內(nèi)存訪問”協(xié)議（SD-RDMA），大幅降低了請求延時。

在存儲層面，該架構(gòu)打造了支持 SSD、英特爾 傲騰 持久內(nèi)存、以及 DRAM 的 Key-Value 存儲引擎，將 CPU 層面的存儲操作也轉(zhuǎn)移到 FPGA 中，最大程度發(fā)揮 FPGA 的能力，相比 CPU 方案，將存儲引擎的吞吐能力提升 5 倍以上。該引擎還利用英特爾 傲騰 持久內(nèi)存的特性，讓基于異構(gòu)存儲的索引系統(tǒng)幾乎達(dá)到純 DRAM 相同的性能指標(biāo)，成本降低 30%。同時相比之前小時級的故障恢復(fù)速度，異構(gòu)存儲的索引系統(tǒng)只需幾分鐘就能重新上線。

LaoFe NDP 的計(jì)算加速仰仗 FPGA 作為領(lǐng)域?qū)Ｓ锰幚恚梢愿行У夭⑿刑幚頂?shù)據(jù)，提供更高效的內(nèi)存層次結(jié)構(gòu)與定制化的執(zhí)行單元，從而支持機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和大數(shù)據(jù)等場景。英特爾 FPGA 具備富于彈性的可編程硬件能力，延時低且可精確控制，單位算力功耗低、片上內(nèi)存大，適合于快手延時要求高、批處理比較小、并發(fā)性和重復(fù)性強(qiáng)的應(yīng)用場景。

快手LaoFe NDP 架構(gòu)在英特爾軟硬件優(yōu)化下，最終實(shí)現(xiàn)了如下優(yōu)勢：

■系統(tǒng)吞吐顯著提升，延時顯著降低：參數(shù)服務(wù)器的吞吐性能提升了 5-6 倍，整體請求延時降低了 70%-80%，提供更好的用戶體驗(yàn)。

■更好地控制 TCO：FPGA 的強(qiáng)大性能提供遠(yuǎn)超傳統(tǒng)方案的吞吐能力，僅需部署少量的服務(wù)器就能滿足特性的性能指標(biāo)要求，替代比可達(dá)到1:5，有效降低 TCO。

■降低性能抖動：基于CPU的軟件方案常因需要進(jìn)行高頻率更新而出現(xiàn)性能抖動，而通過FPGA來處理負(fù)載，能大幅減少性能抖動。

通過快手的實(shí)踐能夠看出，以異構(gòu)計(jì)算加速不同負(fù)載，能夠顯著提升在推薦等場景下的系統(tǒng)吞吐與延時表現(xiàn)。未來，英特爾還會和快手等合作伙伴一起，推進(jìn)面向未來數(shù)據(jù)中心的異構(gòu)參考架構(gòu)，通過 CPU、IPU、XPU 的產(chǎn)品組合以及軟件堆棧，以及智能網(wǎng)絡(luò)結(jié)構(gòu)，提供跨越整個數(shù)據(jù)管道的解決方案，高效挖掘海量數(shù)據(jù)中的智慧，讓用戶與用戶、用戶與內(nèi)容、用戶與商品可及時按需建立高效、有溫度的連接互動。

審核編輯 ：李倩