“數據中心并不存在模板,因為其工作負載是持續動態變化的,并不存在單一應用主導數據中心,因此現在數據中心在需求和應用上面臨著持續的變化,在保持可擴展性的同時還必須保證敏捷性,可以不間斷運行變化的應用,而無需硬件的升級和擴展。”在賽靈思數據中心的春季媒體溝通會上,數據中心市場總監Ed Wright說道。
Ed Wright
賽靈思數據中心事業部市場營銷總監
本次溝通會上,賽靈思的主題是可組合性,著重介紹了可組合式的智能NIC、smart world AI視頻分析平臺以及加速交易算法。
可組合式的智能NIC
針對以上的需求,賽靈思推出了新型數據中心解決方案,業界首款硬件可組合式的智能NIC——Alveo SN1000。在10G以下的級別中,市面上多用標準的NIC,因為服務器、網絡到存儲都不需要精心加速,但是在10G到25G級別上,CPU的內核會開始出現一些卡頓,這才出現了卸載NIC減輕CPU負擔。但這類卸載NIC往往為ASIC,不能重新編程,而且對網絡數據的卸載也只能滿足10到25G這個級別,到了50G乃至100G這樣的端口速率下,CPU內核資源會被網絡數據包的處理大幅占用,這才是可編程智能NIC的設計目的。
賽靈思在超大規模數據中心客戶中發現,CPU和ASIC很難滿足他們差異化的需求,CPU和SoC的實現方案則無法滿足硬件加速的性能要求。SN1000是一個2x 100GB的智能NIC,基于UltraScale+ FPGA架構,另有多核ARM子系統和Vitis Networking功能。有了賽靈思FPGA的靈活應變能力,用戶可以通關軟件自定義硬件加速,而ARM和Vitis Networking則提供了控制面與數據面的分離和自定義編程。SN1000智能NIC支持開箱即用、即插即用,因為賽靈思已經預想對OVS、網絡虛擬化安全和存儲等應用進行了加速。
賽靈思數據中心事業部網絡與存儲產品管理總監Kartik Srinivasan提到,目前的行業預測下,預計2024年這種可編程式的智能NIC將占到整個市場的70%。目前的SN1000已經達到100G的速率,賽靈思也在積極研究下一代的協議和速率。除了數據中心之外,這些需求也會慢慢下沉到云服務供應商、電信運營商和企業等。
Kartik Srinivasan
賽靈思數據中心事業部網絡與存儲產品管理總監
用戶既可以采用RTL或是高級綜合等傳統的FPGA編程方法來對數據面處理,也可以借助第三方來實現,比如在賽靈思的應用商店中購買其他IP的硬件加速功能。賽靈思應用商店是賽靈思搭建的一套客戶方案推廣平臺,合作伙伴可以用這種全新的方式推給相關的客戶。該商店支持本地和云端部署,而且可供用戶進行評估,由此選擇按需付費或永久許可等靈活的部署選項。
賽靈思智能世界
近些年來,基于AI的視頻分析應用開始普及,尤其是在口罩識別、遠程會診等安全健康領域上。但這些應用日益增加復雜程度為其創造了挑戰,比如保證確定性的低時延,以及硬件擴充造成的空間和硬件成本。賽靈思為企業和開發者提供了一套名為“賽靈思智能世界”的AI分析平臺,既能滿足高復雜度/模型數等性能挑戰,又可以做到100毫秒以下的低時延。
以視頻分析常見的應用場景智能零售為例,零售業由于欺詐每年損失近一千億美元以上,因此多路攝像頭對成本和時延都提出了挑戰。而在同條件的測試場景中,賽靈思智能世界的總擁有成本(TCO)與英偉達的競品T4 GPU相比降低了近30%,比如當處理32個攝像頭的數據時,只需要兩套賽靈思Alveo卡,但英偉達的T4 GPU則需要用4張。與此同時,端到端的時延與該競品相比也提速了70%以上。
賽靈思的VMSS平臺是一個高度可擴展的視頻處理平臺,哪怕需要增加信道而擴充一張卡的情況下,也不會影響整體的時延。而且該平臺的設計非常靈活,在沒有視頻推斷任務的情況下,可以用作訓練、視頻處理和數據庫處理等。
賽靈思數據中心部亞太區數據中心的戰略營銷經理Guruprasad M. Parthasarathy給到了幾個采用智能世界解決方案的客戶案例。比如在智能樓宇的應用上,騰訊的WeLink是一套采用Aupera創新方案的物聯網操作系統,而Aupera正是賽靈思智能世界方案的合作伙伴之一。在采用Aupera的邊緣AI計算方案后,該系統節省了90%以上的帶寬成本,擺脫了全部交由云服務器處理的高成本和高時延。
Guruprasad M. Parthasarathy
賽靈思數據中心部亞太區數據中心戰略營銷經理
Guruprasad也提到VMSS集成了很多Alveo硬件方案,比如視頻編碼上用的Alveo U30,視頻推斷采用的是Alveo U50等等。
賽靈思加速算法交易
Ed Wright指出當今的算法交易主要分為硬件和軟件兩大交易路徑,而且兩者在性能和能力上都有著較大差異。硬件較算法需要尋求專業硬件開發商在IT系統上設計架構,然后再提供解決方案,不僅成本頗高,交期也非常長,帶來了極大的商業風險。尤其是對于高頻交易市場來說,突破微秒級時延壁壘的定制硬件是一條昂貴和耗時的開發路線。
而賽靈思加速算法交易給到了一套可組合的開源交易系統,交易者不僅可以享受毫秒級時延的即時交易。在賽靈思的Vitis軟件平臺上,開發者可以通過模塊化的方式來構建并且部署在基于FPGA的Alveo卡上。Vitis不僅支持各種庫的組合,還支持C和C++語言編程,方便將內部應用與第三方應用進行集成。
賽靈思的加速算法交易填補了算法交易中CPU或定制硬件開發中的市場空白,在時延和開發周期上做到了兩全其美。而且有了現成的Alveo卡,開發者可以免去硬件定制這一流程。只要借助賽靈思的Alveo U50和Alveo U250,就可快捷部署賽靈思的加速交易算法,而且無需許可費用。
Ed Wright
賽靈思數據中心事業部市場營銷總監
可組合式的智能NIC
賽靈思在超大規模數據中心客戶中發現,CPU和ASIC很難滿足他們差異化的需求,CPU和SoC的實現方案則無法滿足硬件加速的性能要求。SN1000是一個2x 100GB的智能NIC,基于UltraScale+ FPGA架構,另有多核ARM子系統和Vitis Networking功能。有了賽靈思FPGA的靈活應變能力,用戶可以通關軟件自定義硬件加速,而ARM和Vitis Networking則提供了控制面與數據面的分離和自定義編程。SN1000智能NIC支持開箱即用、即插即用,因為賽靈思已經預想對OVS、網絡虛擬化安全和存儲等應用進行了加速。
賽靈思數據中心事業部網絡與存儲產品管理總監Kartik Srinivasan提到,目前的行業預測下,預計2024年這種可編程式的智能NIC將占到整個市場的70%。目前的SN1000已經達到100G的速率,賽靈思也在積極研究下一代的協議和速率。除了數據中心之外,這些需求也會慢慢下沉到云服務供應商、電信運營商和企業等。
Kartik Srinivasan
賽靈思數據中心事業部網絡與存儲產品管理總監
賽靈思智能世界
Guruprasad M. Parthasarathy
賽靈思數據中心部亞太區數據中心戰略營銷經理
Guruprasad也提到VMSS集成了很多Alveo硬件方案,比如視頻編碼上用的Alveo U30,視頻推斷采用的是Alveo U50等等。
賽靈思加速算法交易
Ed Wright指出當今的算法交易主要分為硬件和軟件兩大交易路徑,而且兩者在性能和能力上都有著較大差異。硬件較算法需要尋求專業硬件開發商在IT系統上設計架構,然后再提供解決方案,不僅成本頗高,交期也非常長,帶來了極大的商業風險。尤其是對于高頻交易市場來說,突破微秒級時延壁壘的定制硬件是一條昂貴和耗時的開發路線。
賽靈思的加速算法交易填補了算法交易中CPU或定制硬件開發中的市場空白,在時延和開發周期上做到了兩全其美。而且有了現成的Alveo卡,開發者可以免去硬件定制這一流程。只要借助賽靈思的Alveo U50和Alveo U250,就可快捷部署賽靈思的加速交易算法,而且無需許可費用。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
FPGA
+關注
關注
1660文章
22411瀏覽量
636271 -
賽靈思
+關注
關注
33文章
1798瀏覽量
133426 -
Xilinx
+關注
關注
73文章
2200瀏覽量
131125 -
數據中心
+關注
關注
18文章
5649瀏覽量
75011 -
NIC
+關注
關注
0文章
24瀏覽量
13442
發布評論請先 登錄
相關推薦
熱點推薦
FPGA硬件加速卡設計原理圖:1-基于Xilinx XCKU115的半高PCIe x8 硬件加速卡 PCIe半高 XCKU115-3-FLVF1924-E芯片
FPGA硬件加速, PCIe半高卡, XCKU115, 光纖采集卡, 信號計算板, 硬件加速卡
常用硬件加速的方法
之前總結了一些常用硬件加速方法
1)面積換速度:也就是串轉并運算,可以多個模塊同時計算;
2)時間換空間:時序收斂下通過頻率提高性能,雖然面積可能稍微加大點;
3)流水線操作:流水線以面積換性能,以
發表于 10-29 06:20
軟硬件協同技術分享 - 任務劃分 + 自定義指令集
開發技術。分文將分享介紹硬件加速器與軟件結合的協同開發方式
軟硬件任務劃分
我們的硬件設計涉及到MFCC模塊。直接交由CPU的一次指令的五級流水線處理在麥克風
發表于 10-28 08:03
硬件加速模塊的時鐘設計
: 硬件加速模塊的每一層涉及到多位數定點數乘法的運算需要調用dsp這個ip核,dsp處理數據的時鐘信號為clk_c,dsp輸出數據需要四個clk_c的時鐘周期。
clk_n : clk_n為一般時鐘
發表于 10-23 07:28
賦能高效電池制造:圓柱電芯組合式雙面自動點焊技術
圓柱鋰電池因其結構穩定、能量密度高,被廣泛應用于各種電子產品與電動汽車中。在電池制造過程中,焊接是連接電芯與外部組件的重要環節。圓柱電芯的組合式雙面自動化焊接技術,通過自動點焊設備實現高效、可靠
物聯網數據中心是什么?有什么功能?
物聯網數據中心是集成和管理物聯網設備數據的核心平臺,具備數據采集、處理、存儲、分析、可視化及安全管控等功能,其本質是通過技術融合實現物理世界與數字世界的雙向交互與智能決策。以下從定義、
如何驗證硬件加速是否真正提升了通信協議的安全性?
驗證硬件加速是否真正提升通信協議的安全性,需從 安全功能正確性、抗攻擊能力增強、安全性能適配、合規一致性 等核心維度展開,結合實驗室測試與真實場景驗證,避免 “硬件參與即安全提升” 的表面判斷。以下
有哪些方法可以確保硬件加速與通信協議的兼容性?
? 確保硬件加速與通信協議的兼容性,核心是從 硬件選型、協議標準匹配、軟硬件接口適配、全場景測試驗證 四個維度建立閉環,避免因硬件功能缺失、接口不兼容或協議特性支持不全導致的性能損耗、
如何利用硬件加速提升通信協議的安全性?
產品實拍圖 利用硬件加速提升通信協議安全性,核心是通過 專用硬件模塊或可編程硬件 ,承接軟件層面難以高效處理的安全關鍵操作(如加密解密、認證、密鑰管理等),在提升性能的同時,通過
PCIe協議分析儀在數據中心中有何作用?
PCIe協議分析儀在數據中心中扮演著至關重要的角色,它通過深度解析PCIe總線的物理層、鏈路層、事務層及應用層協議,幫助運維人員、硬件工程師和系統架構師優化性能、診斷故障、驗證設計合規性,并提
發表于 07-29 15:02
易靈思與南京大學集成電路學院暑期課程圓滿結課
近日,由國產FPGA領軍企業易靈思與南京大學集成電路學院聯合舉辦的“深度學習與硬件加速”暑期課程圓滿結課。本次課程為期5天(7月7日至7月11日),面向大三本科生,旨在通過理論與實踐結合的方式,幫助學生掌握FPGA
組合式過電壓保護器原理及作用
組合式過電壓保護器通過多元件協同和多級能量泄放,實現對復雜過電壓的全方位防護。其設計兼顧快速響應、低殘壓和高可靠性,是電力系統及敏感設備不可或缺的安全屏障。實際應用中需根據系統電壓等級、絕緣水平及過電壓類型選型,并配合定期維護以確保長效保護。
介紹一下三相組合式過電壓保護器的特點
介紹一下三相組合式過電壓保護器的特點 1、三相組合式過電壓保護器采用氧化鋅非線性電阻和放電間隙相組合的結構,使二者互為保護。放電間隙使氧化鋅電阻的荷電率為零,氧化鋅的非線性特性又使放電間隙動作后立即
適用于數據中心和AI時代的800G網絡
和性能隔離能力,以保障不同用戶任務互不干擾。
分布式AI計算與網絡架構設計
分布式計算已成為AI訓練的主流方式,通過將工作負載分配到多個GPU節點并行處理,以加速模型訓練。這對數據中心網絡架構
發表于 03-25 17:35
軟件定義+硬件加速,賽靈思詮釋可組合式的數據中心
評論