Soc的發展與挑戰

自大數據問世以來，設計人員在用于超大規模數據中心、人工智能 （AI） 和網絡應用的片上系統 （SoC） 的設計過程中，一直面臨著不斷發展的挑戰。由于工作量需求和對于更快地移動數據的需求，此類具有先進功能的 SoC 變得更加復雜，也達到了最大光罩尺寸。因此，設計人員在多芯片模塊 （MCM） 封裝中將 SoC 劃分為較小的模塊。這些劃分的芯片需要超短和極短距離鏈路，以實現具有高數據速率的芯片間連接。除了帶寬之外，die-to-die 連接還必須確保是極低延遲和極低功耗的可靠鏈接。

本文介紹了 die-to-die 連接的幾種不同用例，以及在尋找用于 die-to-die 連接的高速 PHY IP 也可以使用基于有機基材的傳統低成本封裝。

Die-to-Die連接性用例

MCM 中 die-to-die 連接的新用例在不斷涌現，其中包括：

1、接近最大光罩尺寸的高性能計算和服務器 SoC

2、超過最大光罩尺寸的以太網交換機和網絡 SoC

3、可擴展復雜算法的具有分布式 SRAM 的人工智能 （AI） SoC

高性能計算和服務器 SoC 的尺寸越來越大，達到 550 平方毫米 （mm2） 至 800 mm2，從而降低了 SoC 的良率并提高了單位芯片成本。優化 SoC 良率的更好方法是將 SoC 分為兩個，或多個等效的同質芯片（如圖 1 所示），并使用 die-to-die PHY IP 連接芯片。在這種用例中，主要的要求是極低的延遲和零誤碼率，因為更小的多個芯片的表現和行為必須像單一芯片一樣。



圖 1：需要 die-to-die 連接的高性能計算和服務器 SoC 的示例?

以太網交換機 SoC 是數據中心的核心，必須以 12 Tbps 到 25 Tbps 的更快速率轉移數據，這需要 256 通道的 100G SerDes 接口，因此無法將 SoC 放入面積為 800 mm2 的光罩區域。為了克服這一挑戰，設計人員會將 SoC 拆分，重新進行配置，其中的內核芯片被 I/O 芯片包圍，如圖 2 所示。然后，使用 die-to-die 收發器將內核芯片連接到 I/O 芯片。

在這一用例中，僅當 die-to-die 收發器的帶寬密度遠遠優于 I/O 芯片中的長距離 SerDes 時，芯片拆分才有效。因此，關鍵參數是每毫米的芯片邊緣帶寬密度。



圖 2：需要 die-to-die 連接的以太網交換機 SoC 的示例

在 AI SoC 中，每個芯片都包含智能處理單元 （IPU） 和位于每個 IPU 附近的分布式 SRAM。在這種使用情況下，一個芯片中的 IPU 可能需要依賴于極低延遲的短距離 die-to-die 鏈路來訪問另一個芯片的 SRAM 中的數據。



圖 3：需要 die-to-die 連接的 AI SoC 示例

在所有這些用例中，如果為 die-to-die 連接選擇理想的高速 PHY，就可以簡化 MCM 封裝要求。由于每個通道的吞吐量高達 112 Gbps，因此在通道數量相對有限的情況下可以實現非常高的總吞吐量。在這種情況下，封裝走線的間距和堆疊可能比較保守（L/S 通常為 10u/10u）。在這些用例中，也可以使用基于有機基材的傳統低成本包裝。

高速PHY IP對于Die-to-Die連接的要求

光學互聯網絡論壇 （OIF） 正在定義電氣 I/O 標準，以在超短距離 （USR） 和極短距離 （XSR） 鏈路上以高達 112 Gbps 的數據速率進行傳輸。這些規范定義了 die-to-die 鏈路（即：在封裝內），以及芯片到芯片，到與 SoC 位于同一封裝內的光學模塊的鏈接，從而顯著降低了功耗和復雜性，并實現了極高的吞吐量密度。

在研究用于 MCM 的 die-to-die 連接的高速 PHY IP 解決方案時，SoC 設計人員必須考慮幾個基本功能，包括以千兆位或兆兆位每秒（Gbps 或 Tbps）衡量的數據吞吐量或帶寬、以每比特皮焦耳 （pJ/bit） 衡量的能源效率、以納秒 （ns） 衡量的延遲、以毫米 （mm） 衡量的最大鏈路范圍，以及誤碼率（無單位）。

數據吞吐量或帶寬

為了實現與其他收發器的互操作，die-to-die PHY IP 必須確保符合 USR 和 XSR 鏈路的相關 OIF 電氣規范。支持脈沖幅度調制 （PAM-4） 和不歸零 （NRZ） 信令，對于滿足兩種鏈路的要求，并實現每通道最大 112 Gbps 帶寬至關重要。這樣的信令產生了非常高的帶寬效率，這是一項關鍵要求，因為在 MCM 中的芯片之間傳輸的數據量非常大。數據移動的速率通常處于每秒兆兆字節的范圍，這限制了分配給 USR 和 XSR 鏈路的芯片邊緣的大小。但是，支持多種數據速率也同樣重要。通常，假設其數據速率與內部結構中使用的數據速率一致，或支持 die-to-die 協議所需的所有數據速率，就有望實現芯片到芯片鏈接。例如，即使在 32 Gbps 這樣的高速下，PCI Express 也必須支持低至 2.5 Gbps 的數據速率以進行協議初始化。

鏈路距離

在 die-to-die 的實現中，大量數據必須流經橋接芯片之間間隙的短數據路徑。為了保證將芯片放置在封裝基板上時的最大靈活性，PHY IP 必須支持 TX 和 RX 之間 50 毫米的最長距離。

能效

能效成為重要的因素，尤其是在將 SoC 功能劃分為多個同質芯片的用例中。在此類用例中，設計人員尋求在不影響 SoC 總功耗預算的情況下，在芯片之間推送大量數據的方法。理想的 die-to-die PHY IP 的能效好于每比特 1 皮焦耳 （1pJ/bit） 或同等的 1mW/Gbps。

延遲和BER

為了使芯片之間的連接“透明”，延遲必須維持得極低，同時必須優化誤碼率 （BER）。由于簡化了架構，die-to-die PHY IP 本身實現了超低延遲，BER 優于 10e-15。根據鏈路距離，可能需要使用前向糾錯 （FEC） 機制保護互連，以實現如此低的 BER。FEC 延遲會影響解決方案的整體延遲。

宏塊布局

除了這些與性能相關的參數外，PHY IP 還必須支持所有側面的放置芯片，以實現芯片和MCM 的有效布局。優化了宏的布局可實現低耦合的高效芯片間布線，優化芯片和 MCM 面積，并最終提高功耗效率。

選擇 die-to-die PHY IP 時，還有許多其他考慮因素，包括納入可測試性功能，以便能夠在封裝之前對芯片進行生產測試，但是上文所述的因素是最重要的。

結語

數據速率不斷提高，功能日趨復雜，使得超大規模數據中心、AI 和網絡應用程序的 SoC 大小與日俱增。隨著 SoC 尺寸接近占滿光罩尺寸，設計人員被迫將 SoC 分成較小的芯片，這些芯片封裝在多芯片模塊 （MCM） 中，以實現高產量并降低總體成本。然后，一個 MCM 中的多個較小芯片通過 die-to-die 互連進行鏈接，這些互連具有極低的功耗且每個芯片邊緣的帶寬都很高。在高性能計算和 AI 應用中，大型 SoC 被分為兩個或多個同質芯片，而在網絡應用中，I/O 和網絡內核被分為單獨的芯片。SoC 中的 die-to-die 互連必須不影響整體系統性能，并且要求低延遲、低功耗和高吞吐量。這些要求推動了對高吞吐量 die-to-die PHY 的需求。例如 新思科技（Synopsys） 的 DesignWare? USR/XSR PHY IP，該 IP 支持 MCM 設計中的 die-to-die 連接，每通道的數據速率高達 112 Gbps，而且能效非常高。DesignWare USR/XSR PHY IP 符合用于超短距離 （USR） 和極短距離 （XSR） 鏈路的 OIF CEI-112G 和 CEI-56G 標準。

新思科技（Synopsys） 高級產品營銷經理 Manuel Mota