當前信息技術的一個主要矛盾，是急劇增長的數據流與有限帶寬之間的矛盾，伴隨人工智能與5G技術發展，數據洪流時代將逐漸到來。據英特爾公司估算，在當下智能手機時代，每人平均產生的數據量約為1.5GB每天，而以后的人工智能物聯網時代，一家智能醫院每天產生3,000 GB（3TB）的數據量，一輛無人駕駛汽車每天產生4TB的數據量，一家智能制造工廠每天將產生1,000 TB的數據量。

急劇增長的數據量在改變人類生活方式的同時，也在深刻影響著技術走勢。高速接口、5G拓寬了系統之間的數據通道，但系統內部互連，特別是芯片內部互連，也需要創新的方式來實現更高帶寬。像自動駕駛這樣的應用，不僅需要高帶寬，還要保證信息傳遞的實時性與有效性，即要保證極佳的信息服務質量（QoS），“自動駕駛商用化，是人類第一次把身家性命大規模交給半導體來決斷，芯片內部互連將至關重要，設計師需要保證信號回路沒有任何阻斷，延遲滿足系統要求。”

NetSpeed Systems（以下簡稱NetSpeed）大中華區銷售總監黃啓弘對TechSugar表示。

將互聯網技術搬到芯片內部去

支持高水平自動駕駛功能的芯片均異常復雜，以Nvidia（英偉達）為例，其首款自動駕駛片上系統（SoC）Xavier集成了一個特別定制的8核CPU、一個512核Volta GPU、一個全新深度學習加速器、全新計算機視覺加速器、以及全新8K HDR視頻處理器，該芯片共集成超90億個晶體管，Nvidia投入2000多名工程師在這個項目上，總研發時間超過4年，總研發費用高達20億美元。

20億美元8000個工程年，是不是自動駕駛芯片都這樣高不可攀？當然不是，Mobileye、特斯拉以及中國的地平線機器人等公司，都在發展自動駕駛用SoC芯片，根據各自對自動駕駛的理解，系統復雜度會有較大區別，再利用成熟的IP與工具，研發成本與時間預算與Xavier相比可能會有數量級的差異。

以特斯拉的自動駕駛芯片為例，據黃啟弘介紹，從設計到流片只花了不到一年時間，NetSpeed相關解決方案力助特斯拉縮短研發周期，快速完成設計迭代。

當一顆芯片集成數百甚至上千個運算單元時，內部互連如何實現成為架構工程師與設計工程師面臨的最嚴峻考驗之一，傳統總線架構已經變成系統性能的主要瓶頸。總線架構適合簡單架構，但如果單芯片集成處理器核數越多，需要連接互通的模塊越多，總線架構在性能、功耗、全局時鐘同步、信號完整性及可靠性等方面面臨的挑戰將呈指數型增長。

NetSpeed Systems大中華區銷售總監黃啓弘

“能否不要用總線理論，把所有數據用橋接模塊分成數據包，用互聯網的方法分發出去，”黃啓弘將這種片上網絡（NoC）理念形象地比喻成在芯片上布一個互聯網。

片上網絡采用數據路由和分組交換技術替代傳統總線結構，從體系結構上解決了傳統總線結構由于地址空間有限導致的可擴展性差，分時通訊引起的通訊效率低下，以及全局時鐘同步引起的功耗和面積較大等問題。

與傳統的總線互連技術相比，NetSpeed的解決方案解除了總線架構帶來的數據吞吐量限制，片內帶寬可支持到萬億字節每秒（TB/s），接口位寬高達1024位，并可定制更高位寬。總線結構需要針對不同的系統需求單獨進行設計，當系統功能擴展時，需要對現有設計方案重新設計，研發成本與設計周期均比較長，NetSpeed的解決方案采用分層堆疊方式將網絡架構解耦，具有良好的可擴展性。當SoC片內網絡中節點數量增加時，僅需要按照相應拓撲結構規則繼續增大網絡規模即可，縮短了產品的設計周期，節約了研發成本。另外，傳統總線架構，每次信息交互都需要驅動全局互連線，因此總線結構所消耗的功耗將隨SoC規模增加而顯著增加，而NetSpeed方案中，可以將一部分信號通路關掉，從而實現低功耗。

為什么是NetSpeed？

NetSpeed成立于2011年，到現在規模并不大，在半導體行業資歷頗深的黃啓弘為何要選擇加入NetSpeed？用他自己的話來說，就是NetSpeed顯示了增長的潛力，過去幾年營業額都是100%以上的速度增長，也具備了成功的要素，“一家初創企業能否成功，主要看兩點，第一是高管團隊，第二是時機，能否在合適的時間，為市場上一個普遍難解的問題，提出合適的解決方案。”

NetSpeed核心技術團隊來自思科與華為，這是他們能夠將宏觀世界的網絡拓撲思想映射到芯片內部的基礎。而人工智能應用爆發帶來的數據洪流，讓SoC的計算單元數量暴漲，對SoC內部帶寬需求急劇增加，這正是黃啓弘所說的時機，在這個時間點上，NetSpeed解決方案為眾多專注人工智能芯片設計的公司所重視，NetSpeed首席執行官Sundari Mitra表示：“這些新SoC內部體現出的是一種新的數據流，一般來說，想實現快速有效的點對點數據交換，就需要大量的計算單元。傳統架構運行方式不同，采用中央存儲作為數據交換系統。而人工智能系統需要任意位置數據交換，這可以通過廣泛的接口而實現，并需要支持長突發傳輸。Orion AI的一個關鍵優勢就是能夠支持多重多播請求，并支持非阻塞傳輸。”

Orion AI由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監督學習來探索和優化SoC設計與架構，為優化對自動駕駛應用的支持，Orion AI通過了ISO 26262標準，可支持ASIL D級別安全要求。

除了這次發布的Orion AI，NetSpeed還提供其他互連和高速緩存IP，以及設計開發工具NoCStudio。利用NoCStudio，SoC 開發人員可快速、高效、可靠地生成高度定制化的解決方案，NoCStudio輸出的模塊具有無死鎖、緩存一致性以及確保服務質量的特性。

下一步計劃

人工智能應用在中美都是熱點，在NetSpeed列出的四家重要客戶中，有三家是中國公司。除了自動駕駛，在云計算、AR、VR等方面NetSpeed都有布局，NetSpeed也在與手機芯片公司展開合作。

“到了5G之后，數據量非常大，數據交換的負擔非常繁重。在NetSpeed看來，這也是在一個合適的時間點，進入一個合適的市場，因為下一代手機芯片的設計復雜度，一定是數量級上的飛躍，在這種情況下，工程師可能必須利用人工智能的方法，才能把設計做出來，在這方面，NetSpeed有優勢。”

除了拓展中國市場及團隊，黃啓弘表示，NetSpeed還在開發芯片間互連技術，以及進一步提升現有產品的性能，他最后強調，IP公司必須要以技術為本，NetSpeed成立8年以來，已經申請了130多項專利，技術實力逐漸得到了用戶的認可，“作為一家正在成長的IP公司，技術要有足夠的優勢，最重要是得到用戶認可。”