7月27日上午,燧原科技與中國電子信息產(chǎn)業(yè)發(fā)展研究院、人工智能產(chǎn)業(yè)工作委員會、上海市集成電路行業(yè)協(xié)會、上海市算力網(wǎng)絡(luò)協(xié)會、上海賽西科技發(fā)展有限責(zé)任公司共同舉辦“芯節(jié)點·新突破——協(xié)同創(chuàng)新聚力 加速智算破局”主題論壇。論壇上,燧原科技創(chuàng)始人、董事長、CEO趙立東,燧原科技創(chuàng)始人兼COO張亞林就產(chǎn)業(yè)發(fā)展趨勢與最新產(chǎn)品情況進行了分享和發(fā)布。
燧原科技創(chuàng)始人、董事長、CEO趙立東:今年是燧原科技連續(xù)第六年參加世界人工智能大會。這六年時間,我國人工智能產(chǎn)業(yè)經(jīng)歷了巨大的跨越。對于未來人工智能產(chǎn)業(yè)發(fā)展趨勢,有以下幾點觀察:
第一,當(dāng)前訓(xùn)練規(guī)模越來越大,但玩家越來越少。與此同時,高能效推理正在成為主流,模型開源需要更大規(guī)模、更高能效的推理算力支撐,驅(qū)動著AI應(yīng)用的爆發(fā)式增長。未來對推理算力的需求將是訓(xùn)練算力的百倍甚至千倍。
第二,算力基礎(chǔ)設(shè)施正在走向集群化、系統(tǒng)化。相關(guān)軟硬件技術(shù),包括超節(jié)點、網(wǎng)絡(luò)技術(shù)、全光互聯(lián)、低精度、分布式并行計算、虛擬化等,已不再是一家公司可以單獨完成,而是需要跨行業(yè)協(xié)作,多方聚力,構(gòu)建系統(tǒng)化的解決方案。
第三,開源開放是必經(jīng)之路。無論從打破壟斷的角度還是技術(shù)發(fā)展的角度,都應(yīng)進一步鼓勵開源發(fā)展。開源降低了門檻,讓更多開發(fā)者參與其中,在開源大模型基礎(chǔ)上進行二次、三次開發(fā),眾人拾柴、各盡所能,加速產(chǎn)品開發(fā)和產(chǎn)業(yè)落地的速度。
攀登科技高峰,從來沒有“容易之路”。燧原科技與眾多合作伙伴已在算力基建、算力調(diào)度、算力服務(wù)、算力應(yīng)用等多個方面開展了深入合作,將共同在國產(chǎn)智算關(guān)鍵領(lǐng)域?qū)で笃凭帧?/p>
燧原科技創(chuàng)始人兼COO張亞林:回首往昔,燧原經(jīng)歷了三代四顆芯片的“芯”路歷程:2020年發(fā)布了第一代產(chǎn)品,完成了千卡集群;2022年發(fā)布第二代的訓(xùn)練產(chǎn)品和推理產(chǎn)品;2024年發(fā)布第三代產(chǎn)品——燧原S60。
實現(xiàn)大規(guī)模商業(yè)化落地
第三代產(chǎn)品已實現(xiàn)大規(guī)模商業(yè)化落地。截至目前,僅燧原S60這一款產(chǎn)品,就實現(xiàn)了7萬卡的落地規(guī)模,在國產(chǎn)卡落地規(guī)模方面已進入第一梯隊;支持超過300個應(yīng)用場景,包括大語言模型、多模態(tài)大模型、搜索廣告推薦、傳統(tǒng)AI模型等;參與建設(shè)五大智算集群,支持頂流應(yīng)用,服務(wù)10億以上規(guī)模終端用戶;推出了DeepSeek一體機系統(tǒng)方案矩陣,全面覆蓋滿血版、蒸餾版不同尺寸大模型。
通過第三代產(chǎn)品的大規(guī)模商業(yè)化落地可以看出,泛互聯(lián)網(wǎng)場景是人工智能和數(shù)字經(jīng)濟深度融合的主戰(zhàn)場。燧原科技支持了騰訊很多互聯(lián)網(wǎng)應(yīng)用。燧原的算力,就在各位的手掌心上。大家用的很多騰訊應(yīng)用底層都有燧原算力的支持。同時,燧原也以超大規(guī)模集群支持騰訊產(chǎn)業(yè)互聯(lián)網(wǎng)客戶的業(yè)務(wù)拓展。
第三代產(chǎn)品大規(guī)模商業(yè)化落地的核心價值,是真正服務(wù)有黏性且可持續(xù)迭代的客戶,并持續(xù)為用戶產(chǎn)生真正商業(yè)價值。
AI邁入高速發(fā)展新階段
在超大規(guī)模參數(shù)模型的訓(xùn)練和推理方面,燧原科技也給出了自己的答案。燧原L600是燧原科技第四代訓(xùn)推一體產(chǎn)品,歷經(jīng)兩年半時間研發(fā),面向訓(xùn)練及推理場景,國內(nèi)首創(chuàng)原生FP8低精度算力,擁有144GB存儲容量、3.6TB/s存儲帶寬、800GB/s互聯(lián)帶寬。
基于燧原L600,燧原科技也推出了全新計算系統(tǒng)——云燧OGX系列產(chǎn)品。以O(shè)GX400為例,實現(xiàn)了單機八卡OAM全互聯(lián),擁有1152GB單機存儲容量、28.8TB/s單機存儲帶寬、2.8TB/s單機聚合帶寬,單機可支持DeepSeek滿血版。
同時,燧原科技云燧ESL超節(jié)點系統(tǒng)也正在測試中,單節(jié)點最高64卡全帶寬互聯(lián),采用液冷方案,實現(xiàn)高性價比、高密度、高能效,可實現(xiàn)9216GB單節(jié)點存儲容量、230TB/s單節(jié)點存儲帶寬、51.2TB/s單節(jié)點聚合帶寬、單節(jié)點可支持PD分離優(yōu)化。
加速夯實燧原生態(tài)厚度
在超節(jié)點生態(tài)方面,燧原從互聯(lián)網(wǎng)、國央企、“東數(shù)西算”三個維度進行推進。燧原和頭部互聯(lián)網(wǎng)企業(yè)聯(lián)合定制開發(fā)超節(jié)點,聯(lián)合定制打造萬卡訓(xùn)練集群;與中國移動聯(lián)合開發(fā)高密度節(jié)點,參與運營商集群建設(shè);與“東數(shù)西算”節(jié)點甘肅慶陽聯(lián)合推進萬卡集群項目,提供高效能國產(chǎn)化算力。燧原全新一代萬卡集群具備高密度、高效率、高穩(wěn)定、高集成等優(yōu)勢。
展望未來,燧原科技已在2025年迭代至第四代產(chǎn)品,正在推進從萬卡到十萬卡的集群建設(shè),我們相信“路雖遠行則將至,事雖難做則必成”,希望和所有合作伙伴一起開啟智算產(chǎn)業(yè)發(fā)展的新篇章。
-
集成電路
+關(guān)注
關(guān)注
5444文章
12415瀏覽量
372276 -
人工智能
+關(guān)注
關(guān)注
1813文章
49667瀏覽量
260780 -
燧原科技
+關(guān)注
關(guān)注
0文章
148瀏覽量
9620
原文標題:芯節(jié)點·新突破——燧原科技加速國產(chǎn)智算破局
文章出處:【微信號:gh_1222367b8780,微信公眾號:燧原科技Enflame】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
算力需求狂飆下的“效率競賽”,國產(chǎn)AI芯片有何破局之道?
燧弘華創(chuàng)與銳捷網(wǎng)絡(luò)簽署戰(zhàn)略合作協(xié)議
成都華微與燧原科技達成戰(zhàn)略合作
燧原科技DeepSeek一體機與S60卡:引領(lǐng)國產(chǎn)智算新潮流
燧原科技亮相2025世界人工智能大會
燧原科技亮相WAIC,以國產(chǎn)算力使能互聯(lián)網(wǎng)創(chuàng)新應(yīng)用

燧原科技加速國產(chǎn)智算破局
評論