在當前計算芯片的設計中，內存的不足已成為一個顯著的問題，隨著人工智能（AI）和高性能計算（HPC）等領域的工作負載不斷增加，迫切需要尋找一種更好的方法來平衡計算和內存之間的關系，以提高整體性能。

NuLink PHY技術通過雙向傳輸功能和靈活的設計，為構建更優越的計算引擎提供了新的途徑。相比傳統的硅中介層封裝技術，NuLink PHY能夠提高計算與內存之間的平衡，提高帶寬利用率，并降低制造成本。

Part 1

Eliyan的設計方案

在最近的MemCon 2024會議上，Eliyan公司的首席執行官Ramin Farjadrad展示了他們的創新產品NuLink PHY，展示了如何利用這一技術構建比當前基于硅中介層封裝技術更優越的計算引擎。

NuLink PHY是一種物理網絡傳輸設備，能夠鏈接交換芯片、網絡接口或計算引擎上的其他類型接口到物理介質上，如銅線、光纖或無線電信號。

傳統的2.5D封裝技術，如臺積電的CoWoS和英特爾的EMIB，雖然提供了高帶寬的芯片間連接，但存在諸如尺寸限制、生產周期長、成本高等問題。而Eliyan的NuLink技術通過修改的2D MCM流程，克服了這些局限性，提供了更大的設計靈活性和成本效益。

通過NuLink技術，可以構建更大的計算引擎，如包含24個或更多HBM堆棧的設備，這將顯著提升GPU的內存容量和帶寬。此外，NuLink技術還可以實現更大的設備尺寸，同時保持低成本和高性能。

UMI概念通過NuLink PHY實現了同步雙向流量，為構建更大、更平衡的Blackwell GPU復雜提供了可能。UMI的設計可以使計算和內存恢復平衡，并使這些設備變得更便宜。

對于更大的計算復合體，Eliyan的NuLink Switch技術可以提供更廣泛的連接選項，使得任何內存、任何共同封裝的光學器件、任何PCI-Express或其他控制器都可以連接到任何XPU，極大地擴展了系統架構的可能性。

通過去除硅中介層或等效物，并轉向有機基板和NuLink PHY，可以顯著降低制造成本。這種成本效益對于大規模部署高性能計算設備至關重要。

Part 2

NuLink PHY的主要特點

傳統的硅中介層是一種特殊電路橋，用于將HBM堆疊式DRAM內存連接到計算引擎。這種傳統方法受到尺寸限制，而NuLink PHY則通過創新的設計提供了更大的靈活性和性能。

通過NuLink PHY，Eliyan展示了一種修改后的2D多芯片模塊（MCM）流程，使得數據傳輸速率達到了傳統MCM封裝的10倍。此外，NuLink PHY之間的走線長度可以增加20到30倍，與其他2.5D封裝選項相比，為計算引擎的設計帶來了巨大的變化。

●?創新性： NuLink PHY是一種物理網絡傳輸設備，可以鏈接交換芯片、網絡接口或計算引擎上的其他類型的接口到物理介質上。傳統的硅中介層受到尺寸限制，而NuLink PHY通過創新的設計提供了更大的靈活性和性能。

●?雙向傳輸： 可以同時進行傳輸和接收數據，從而提高了帶寬利用率，對于在內存和ASIC之間進行數據傳輸的應用特別有益，可以最大程度地利用計算資源，提高整體性能。

●?性能提升和成本降低： 可以實現更大、更平衡的計算引擎，而無需依賴昂貴的硅中介層，使得更多的計算資源可以被納入同一塊芯片上，還降低了制造成本，并提高了設備的良率。

●?廣泛前景：不局限于GPU，還適用于各種類型的計算引擎，包括CPU、ASIC等。這意味著這項技術有著廣闊的應用前景，可以推動整個計算領域的發展。

小結

計算能力的顯著提升，內存帶寬和互連帶寬的提升速度相對較慢，這導致了數據移動和存儲的瓶頸。因此，未來的GPU設計需要重點關注內存層次結構和互連技術的優化。

Eliyan公司的NuLink PHY技術提供了一種創新的解決方案，在有機基板上使用更厚的凸塊和較長的連接距離，實現更高的數據傳輸速率和更遠的連接距離。可以嘗試和理解一下。

審核編輯：黃飛

?