數據、設備的互通互聯在當今世界已經不足為奇，海量的數據每時每刻都在不斷產生。在數據背后，神經網絡通過處理數據獲取洞察，并以此識別模式對信息進行分類、推理。數據中心的大部分資源都來自IT架構或者需要通過IT架構傳遞，因此數據中心的基礎架構是實現IT架構功能的關鍵。

在新一代的數據應用中，機器學習是很重要的一環，因此可以說擁有正確的架構對于將機器學習功能完美地植入數據中心有著舉足輕重的作用。為數據中心開發機器學習時，從一開始就必須將影響性能、可擴展性和彈性的所有因素納入考慮。硬件層面的規劃不得當會導致數據架構效率低下。

機器學習需要的硬件層面連接到底是什么樣？

目前關于機器學習的設計配置中，正在從專用基礎架構轉向更靈活的基礎架構，目的是增加靈活性和多樣性。因此在配置過程中，硬件層面的連接有非常多的考量，比如配電如何優化、熱能級如何降低、互連的高速性如何實現以及低延遲通信如何實現等等。同時，因為數據中心的所有環節都處于互相連接狀態，系統連接元件還需要盡可能支持小的安裝空間以提供所需的靈活性，并在不增加熱輸出的情況下滿足預期的速度要求。

互連的高速和低延遲是很容易想到的，但是不能忘了熱性能同樣是一個不可忽視的考量。通常由于功率水平較高而導致的高溫可直接影響數據機架中元件的壽命。如果不對熱設計進行優化，敏感元件的故障率會急速上升。

所以機器學習所需的連接器部件，既要保證小，又要保證快，同時還必須兼顧熱、機械和電氣性能上的可靠。

小型可插拔高速I/O連接器在機器學習中的重要性

在機器學習硬件配置中，選擇以太網和InfiniBand等協議來支持網絡連接，通常需要OSFP、QSFP、QSFP-DD等高速I/O連接。再利用PCIe將存儲設備、網絡接口卡和硬件加速器連接到CPU。

作為一類插拔式的I/O連接器，QSFP連接器是完整的四通道、小型的插拔式高速I/O連接器。QSFP連接器單個可插拔接口中可以包含四個數據傳輸通道，與其他連接器配套部件組合，通道數據傳輸速度可從10 Gbps NRZ拔高到至28 Gbps NRZ和56 Gbps PAM-4。每個通道能夠以10至56 Gbps的速度傳輸數據，因此每個端口支持總計高達200 Gbps的速度，傳輸性能之高足以滿足機器學習架構所需要的速度。QSFP支持的通訊非常廣泛，從100 Gbps 以太網、200 Gbps 以太網、100 Gbps InfiniBand增強型數據速率、EDR到128G光纖信道、25G/50G聯盟、25G NRZ和56G PAM-4都能全覆蓋。

QSFP-DD連接器組件通過使用 PCB 前面的第二行觸點/墊位置，將通道增加一倍，達到8差分，實現了在QSFP連接器基礎上互連的密度的翻倍，支持28 Gbps NRZ或56Gbps以實現每端口200 或400 Gbps聚合。在信號完整性上的提升只是一方面，同樣重要的是QSFP-DD連接器能提供更多的散熱器和光導管選項，在散熱上的優化也不止一星半點，可以說實現了我們之前提到的降低熱能級同時提高互連的高速性能。

OSFP八通道小型可插拔連接器在熱性能和傳輸性能上與QSFP-DD連接器相似，OSFP連接器通過在插頭中運用集成散熱器技術，熱性能也相當優異，也能夠支持400 Gps數據速率所需的信號完整性。另外值得一提的是，OSFP連接器可以通過埋管校準實現堆疊式（Belly-to-Belly）安裝，降低PCB成本和噪聲。

小型的可插拔高速I/O連接器在整個數據中心架構的建立中的重要性可見一斑，既保證了“小”，又保證了“快”，最重要的還是足夠可靠。

SAS連接再縮小－Mini SAS

在器件內部金手指連接上，SAS連接器想必是大家耳熟能詳的。而Mini SAS連接器，則更為緊湊。高密度的Mini SAS連接器在高性能計算上，是既高速又緊湊的連接選擇。

高密度的Mini SAS連接器減小的互連尺寸可以節省額外30%到50%的PCB 空間，我們可以做一個對比，相同的小尺寸PCIe卡如果可以容納兩個SAS連接器，換成高密度Mini SAS連接器則可以容納四個（非高密度Mini SAS是三個）。用于內部連接的高密度Mini SAS連接器除了尺寸小巧能節省大量空間之外，還能夠（12G×4）48 Gbps的聚合數據傳輸速率，有些甚至能做到以192 Gbps的聚合速率傳輸數據。

小結

和機器學習相關的硬件連接也不止上面這些，超大型陣列XLA插槽、卡邊緣連接、背板連接也都在其中經常能見到的。數據中心各種機器學習類型配置的要求繁多，從超大規模配置到支持邊緣計算，每一種都需要連接元件給予可靠的性能和充足的靈活性。