基于FPGA的 IPU路線圖解析

大數據催生多元算力新計算架構，DPU 逢時而生，已成行業巨頭和初創公司的必爭之地。各家紛紛推出DPU相關解決方案，宣稱可以降低數據中心稅，助力數據中心更高效的應對多元化的算力需求。那么，DPU究竟是名不虛傳還是徒有虛名？本文將走進英特爾實驗室一探虛實。

DPU目前分為SoC（Arm與ASIC協同架構）、FPGA、ASIC三種主要技術形態。基于FPGA的DPU擁有最佳的靈活性，但吞吐量、功耗在一定程度上受到限制；隨著帶寬變高，基于ASIC的DPU需求將會增加；對于更復雜的、更廣泛的用例，基于SoC的DPU擁有良好的性價比、易于編程且高度靈活性。

2021 年 6 月，英特爾首次提出 IPU（基礎設施處理單元）?的概念，并在“Intel Vision 2022”大會上公布了最新路線圖，展示了IPU從2022年至2026年的整體規劃。IPU是一種可編程的網絡設備，旨在使云和通信服務提供商減少在CPU方面的開銷，并可充分釋放性能價值，由于其功能和應用場景與DPU有較大重合，也可以看作是DPU的一種嘗試。 ?

? 從上圖我們可以看到IPU的功能劃分，左側的Block design，Processor Complex and/or FPGA 提供軟硬件可編程性，運行ISP/CSP的特定服務，Infrastructure Acceleration加速存儲虛擬化、安全（加解密）、網路虛擬化等負載請求，Network提供高帶寬的包處理、包分析等能力。 ? ?

英特爾IPU路線圖

目前英特爾IPU有兩個主要的產品線，其一是基于FPGA的解決方案，另一個是基于ASIC的解決方案。 ? 英特爾第一個公開披露的IPU代號為 Big Springs Canyon。它基于 FPGA，具有 Xeon-D CPU 和以太網支持，提供硬件可編程數據路徑。Big Springs Canyon 的繼任者稱為 Oak Springs Canyon，它基于英特爾的 Agilex FPGA和 Xeon-D SoC，可為開放式虛擬交換機 (OVS) 等工作負載和 NVMe over Fabric 等存儲功能提供網絡虛擬化功能卸載。 ?

? 英特爾的第二個IPU代號為 Mount Evans，是英特爾首個ASIC IPU，與Google Cloud合作開發，目前針對高端和超大規模數據中心服務器。Mount Evans可提供可編程數據包處理引擎，支持防火墻和虛擬路由等用例，可利用高性能 Intel Quick Assist 技術部署高級加密和壓縮加速。預計將于 2022 年開始向谷歌和其他服務提供商發貨，預計在 2023 年進行廣泛部署。 ?

Intel Mount Evans Vision 2022 top3 ? 英特爾規劃的IPU路線圖如下：

2022年：推出200 Gbps IPU，代號為Mount Evans和Oak Springs Canyon。

2023/2024年：推出 400 Gbps IPU，代號為Mount Morgan和Hot Springs Canyon。

2025/2026 : 推出800 Gbps IPU。

? 下面我們一起看下英特爾首個FPGA IPU——Big Spring Canyon 的現場演示。 ?

Big Spring Canyon IPU現場演示

本次演示是在英特爾實驗室中搭建的，所用的IPU 位于2U Supermicro Ultra服務器機架上。 ?

? 演示所用的卡同時搭載了英特爾Stratix 10 FPGA和英特爾 Xeon D-1612。 ?

? 下面我們將散熱器組件拆除，可以看到中間的Stratix 10 FPGA和右側的Xeon D-1612處理器，它們都有自己的內存和本地存儲，Xeon D運行的是自己的操作系統。 ?

? Stratix 10 FPGA 對 PCIe 和以太網 IP 進行了強化，它可以在FPGA上運行數據包處理器、virtio、NVMeoF等功能。Xeon D 通過此卡上的 FPGA 進行連接。

Intel BSC IPU示例路徑 ? 接下來展示的是NVMeoF 演示，其中BSC IPU正在處理系統的RDMA NVMeoF，并由Xeon D SoC 管理。這里卸載了整個堆棧，因此主機服務器認為它正在與正常的NVMe設備進行交互，而IPU實際上是通過網絡直接進行遠程存儲，將 NVMe 塊設備模擬到系統。

Intel BSC IPU存儲和RDMA卸載 ? 將散熱器拆除后，卡的背面如下圖所示。 ?

? 登錄Xeon D-1612，我們可以看到一個16GB的內存系統，有4個內核和8個線程。此外，還連接了存儲和 FPGA。 ?

?Intel?BSC IPU Lshw ? 以下是從Xeon D SoC 查看的 IPU 拓撲結構： ?

?Intel?BSC IPU Xeon D 1612 Lstopo ? 下圖是Xeon D的lscpu輸出。 ?

BSC IPU?Xeon D 1612 Lscpu Output ? 接下來，演示正式開始。第一步啟動VirtIO和初始化卡，該過程使用腳本自動執行。我們將 IPU 安裝在 2U Supermicro Ultra服務器機架中，這些服務器既是 IPU 主機，也是 NVMeoF 目標系統。 ?

? 在存儲方面，總共在目標系統中安裝了 8 個 1.6TB 的英特爾 P4610 SSD。 ?

Intel IPU Intel DC P4610 SSD ? FPGA可以通過添加新功能來更改數據路徑，需要對其進行編程，可直接通過英特爾Xeon D 處理器執行此操作。完成上述步驟后，我們就可以在主機服務器上查找SSD，主機系統的驅動器看起來與目標服務器上的驅動器完全相同。主機服務器認為它具有標準的 NVMe 設備，但不知道這些設備是通過使用NVMeoF和IPU的100GbE fabric交付的。 ?

Intel BSC IPU通過RDMA NVMeoF連接到目標，驅動器安裝在主機上 ? 目標服務器位于圖中上方的兩個終端上，六個驅動器通過 IPU 連接，iostat顯示在右側。左下角是IPU的Xeon D-1612，右下角為主機服務器，具有8個 Intel P4610 1.6TB NVMe SSD。IPU的 Stratix 10 FPGA 連接到目標服務器，并將 NVMeoF 驅動器作為標準 NVMe 塊設備呈現給主機。 ? 現在我們已經在系統上安裝了這些驅動器，下面開始運行。 ?

性能表現

下圖左邊是fio測試，右邊是iostat監視器，左下為IPU卡上的Xeon D，右下是目標服務器上的iostat。 ?

? 首先，我們運行一個4K隨機讀取腳本，在1.2M到1.4M的4K隨機讀IOPS范圍內，可以在右側看到iostat數據。接下來運行一個順序讀取測試，在5.5-6GB/s的范圍。 ?

? 寫入IOPS在1.3-1.4M的范圍內。 ?

? 再次在 5.5-6GB/s 范圍內進行順序寫入。 ?

? 在iostats上，CPU利用率非常低，順序操作CPU利用率在3%的范圍內，隨機操作CPU利用率在10%的范圍內。此外，這里還包括了fio流量生成、以太網和NVMeoF的開銷。 ? 總的來說，這是一個不錯的數據表現。 ? 除了本次演示的內容外，還有更多 FPGA 邏輯區域可用于添加更多服務。對于云提供商來說，可以添加一個IPU跳過本地NVMe存儲和高速NIC。使用此解決方案，可以將存儲透明地交付給裸機或虛擬機。這使得基礎架構提供商可以從集中池動態地將存儲分配給每個客戶端，而無需使用平臺向第三方公開基礎架構的內部工作。 ?