實現(xiàn)PCIe Gen5光互連、CXL光互連

現(xiàn)場演示內存光互連擴展方案

榮獲2023全球閃存峰會大獎，入選峰會年度大事記

?
美國舊金山時間8月8日，全球光電混合計算領軍企業(yè)曦智科技（Lightelligence）攜全新光互連技術產品亮相2023全球閃存峰會（Flash Memory Summit，F(xiàn)MS），發(fā)布了曦智科技首款適用PCIe和CXL（Compute Express Link）協(xié)議的數(shù)據(jù)中心光互連硬件產品——Photowave，并現(xiàn)場演示了內存擴展光互連解決方案。
?
作為首個通過光互連實現(xiàn)CXL內存擴展的產品，Photowave在FMS峰會上一經(jīng)亮相即斬獲了大會最高榮譽（Best of Show），并因此被列入了FMS全球閃存峰會2023年度大事記。
?
Photowave采用曦智科技三大核心技術之一的片間光網(wǎng)絡技術（Optical Networking，oNET），借助光子技術低延遲和高能效的特性，實現(xiàn)遠距離間高效數(shù)據(jù)傳輸，提升數(shù)據(jù)中心內不同計算硬件的工作負載效率，從而賦能可重構解耦架構數(shù)據(jù)中心的資源池化和橫向擴展，實現(xiàn)算力網(wǎng)絡的最終愿景。
?
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示：“我們對這一重大突破非常興奮。Photowave會很快建立工作負載效率的標準，助力可擴展的計算卡和加速卡集群實現(xiàn)優(yōu)化配置。”
?

曦智科技的Photowave產品榮獲FMS Most Innovative Memory Technology獎項

?
對于獲得FMS2023大獎，沈亦晨博士又補充道：“這個獎項是對Photowave的極大認可，它肯定了光互連在資源池化和可擴展算力集群中的價值，并將成為新一輪算力基礎設施建設中的關鍵技術。我們非常高興能夠將這項技術推向市場，也期待通過曦智科技的光互連技術，提高數(shù)據(jù)中心算力基礎設施的性能和效率。”
?
“電子芯片的功耗、通信和內存等方面都在接近其物理極極限，隨著人工智能和大型語言模型將消耗越來越多的算力，我們需要新的方法和技術來支持算力的持續(xù)擴展，”FMS全球閃存峰會獎項計劃主席， Network Storage Advisors Inc.總裁Jay Kramer表示：“我們很榮幸將這一獎項頒給曦智科技的Photowave產品，它作為首款為CXL互連協(xié)議（Compute Express Link）設計的光互連硬件，提供了在機架內或跨機架擴展內存的高效解決方案，并體現(xiàn)出了光子在延遲和能效等方面的顯著優(yōu)勢。”
?
FMS全球閃存峰會大獎旨在表彰各個細分市場的行業(yè)創(chuàng)新技術領導者，以及他們?yōu)橥黄平鉀Q數(shù)據(jù)中心和企業(yè)基礎設施瓶頸的關鍵問題所研發(fā)的產品。
?
當前，數(shù)據(jù)中心為應對工作負載中計算資源和內存閑置問題所付出的成本正越來越高，因此，業(yè)界開始推動CXL協(xié)議標準，以解耦計算卡、加速卡和內存等硬件資源，減少閑置，從而提升基礎架構的使用效率。然而目前基于以太網(wǎng)的基礎架構延遲過高，難以滿足解耦數(shù)據(jù)中心的性能要求。Photowave光互連產品則提供了一種全新的解決方案。
?
在本次FMS峰會上，Ron Swartzentruber，曦智科技工程總監(jiān)、Photowave產品技術負責人還發(fā)表了專題演講，詳細介紹了Photowave的產品細節(jié)和曦智科技光互連解決方案的優(yōu)勢。
?

曦智科技工程總監(jiān)Ron Swartzentruber發(fā)表演講

?
Photowave產品系列有多種外觀尺寸類型，包括標準PCIe卡、OCP 3.0 SFF卡和有源光纜等形態(tài)，設計數(shù)據(jù)傳輸延遲低于20納秒，其中有源光纜延遲低至1納秒以下，功耗也降至15瓦以下。該產品系列適用于服務器平臺、CXL交換機、存儲應用以及xPU之間的互連。
?
Photowave通過光學器件實現(xiàn)CXL 2.0/PCIe Gen 5的連接，可配置x16、x8、x4、x2等不同通道數(shù)，覆蓋多種部署場景。除了高速數(shù)據(jù)信號，Photowave還可以傳輸邊帶信號，完美兼容標準協(xié)議，幫助數(shù)據(jù)中心實現(xiàn)更高效、更可靠的可重構解耦架構。
?

Photowave產品具有多種形態(tài)，通用性強

?
在FMS現(xiàn)場，曦智科技演示了如何通過Photowave顯著提升大語言模型（LLM）推理中的工作負載效率。在大語言模型OPT-66B推理中，當使用兩張Photowave PCIe Gen5 卡分別連接AMD Genoa CPU服務器和三星CXL可擴展內存時，CXL可擴展內存的LLM推理吞吐量相較于SSD/NVMe磁盤卸載體現(xiàn)出了2.4倍的穩(wěn)定優(yōu)勢。
?
今年以來，曦智科技不斷加快產品市場化進程，致力于建立完整的光電混合計算新生態(tài)。此次發(fā)布的全新光互連產品從用戶痛點出發(fā)，由發(fā)揮光電混合計算優(yōu)越性的場景切入，為客戶提供了低延時、低功耗的算力提升解決方案。
?