隨著大模型應用步入“實用主義”階段,企業(yè)對AI應用需求愈發(fā)多樣,既追求效率與成本的優(yōu)化,又要精準切中場景痛點提供行業(yè)級解決方案,并做到“開箱即用”與“深度定制”兼顧。
作為“最懂大模型的AI基礎設施”,商湯大裝置憑借算力、平臺、場景方案及服務的端到端能力體系,直擊企業(yè)智能化升級痛點,將AI技術轉化為切實的生產力提升,實現(xiàn)大規(guī)模產業(yè)化應用。
01商湯大裝置x 產業(yè)智能化
多行業(yè)爆發(fā)式增長的助推劑
互聯(lián)網平臺:日均百億 API 調用,觸達數(shù)億用戶
為滿足某互聯(lián)網公司平臺高并發(fā)、高穩(wěn)定性、高安全性的算力需求,商湯大裝置依托彈性算力池和場景適應性的專家服務,高效助力模型訓練,成功支撐其實現(xiàn)百億日均API調用量,保障了智能客服、直播數(shù)字人等業(yè)務落地,為海量用戶帶來智能、高效的服務體驗。
交通基建:100% 國產底座,通吃28個行業(yè)專業(yè)知識
某基建行業(yè)頭部設計院通過構建工程勘察設計智能平臺,沉淀歷史經驗知識,更好地服務于多項重點核心工程設計工作。
商湯大裝置基于其過往經驗數(shù)據(jù)構建了覆蓋28個專業(yè)的高質量復雜數(shù)據(jù)集,并依托100%國產芯片及底座平臺,開發(fā)了工程勘察設計領域大語言模型、多模態(tài)大模型,最終實現(xiàn)了知識檢索、智能問答、文本生成、文本審核、多模態(tài)要素理解等業(yè)務功能,推動勘察設計智能化,有效解決了知識傳承困難、融合性差和應用程度低等難題。
電力設施:每分鐘判定100+張圖片,運維效率增10倍
南方電網通過技術升級,實現(xiàn)多區(qū)域巡檢智能化,全方位提升電力安全保障水平。商湯大裝置以涵蓋國產芯片、視覺CV模型與調度大模型算法平臺的全棧方案,實現(xiàn)從模型、平臺算法到底層算力的100%國產化,構建了全棧國產電力AI基礎設施。
在實際應用中,CV模型每分鐘可處理100+張圖片,人工替代率超 80%,使最終運維效率相較傳統(tǒng)算法提升 10 倍,為電力行業(yè)智能化注入強勁動力。
02商湯大裝置x AIGC
短短2月完成視頻生成DiT模型迭代
專注于生成式AI的人工智能企業(yè)智象未來依托高頻次的模型迭代,持續(xù)開拓新場景、新應用。
商湯大裝置靈活調度千卡算力資源,并以分鐘級的訓練容錯能力,助力實現(xiàn)了連續(xù)4周千卡不間斷訓練的超穩(wěn)表現(xiàn),資源利用率提升20%,僅用短短2個月時間便完成模型迭代沖刺,至今已服務千萬級用戶,實現(xiàn)商業(yè)價值轉化。
03商湯大裝置x具身智能
端到端能力,助力突破泛化能力瓶頸
國內某頭部具身智能和機器人企業(yè)用大模型能力,提升機器人抓取復雜目標的泛化能力。商湯大裝置憑借從數(shù)據(jù)管理、算力供給到模型訓練的端到端支持,賦能具身模型研發(fā)全流程。
通過多種異構算力池的無縫切換和穩(wěn)定供給,仿真數(shù)據(jù)生成平臺及萬象 MaaS 平臺開發(fā)輔助,商湯大裝置助力解決了機器人領域數(shù)據(jù)仿真難、模型泛化差的行業(yè)痛點,成功支撐全球首個端到端抓取基礎模型研發(fā),推動具身智能技術的場景突破。
04商湯大裝置x 科學研究
打造產業(yè)級AI蛋白質生成大模型
生物技術創(chuàng)新企業(yè)分子之心通過AI驅動實現(xiàn)蛋白質結構預測、功能優(yōu)化與工業(yè)級應用轉化,需要快速調用百卡至千卡的彈性資源,以支持產業(yè)級AI蛋白質生成大模型研發(fā)。
商湯大裝置以專屬云與公有云互動的彈性資源供給、7×24小時運維保障體系及專家平臺搭建支持,實現(xiàn)模型開發(fā)的全流程優(yōu)化,使訓練效率大幅提升,將模型迭代周期縮短至2個月內,成功支撐達爾文(NewOrigin)模型研發(fā),滿足產業(yè)級蛋白質生成全流程需求。
端到端賦能四大場景
打通AI落地最后一公里
高效、精準滿足不同行業(yè)差異化需求的背后,正是依托商湯大裝置算力、平臺、場景方案及服務的端到端能力體系,打通AI落地的最后一公里。
遍布全國的大規(guī)模彈性算力資源:商湯大裝置運營算力總規(guī)模達23,000 PetaFlops,可提供穩(wěn)定、高效、彈性的異構算力供給,優(yōu)于DeepSeek的訓練效率和高于頭部廠商15%的推理吞吐能力。
開發(fā)到應用的全鏈條模型開發(fā)平臺:預置500+高質量大模型,并提供從大模型開發(fā)到應用構建的全鏈條開發(fā)工具,以及領先的推理性能,讓客戶可以便捷、低成本地接入最先進的AI能力。
開箱即用的四大場景化解決方案:基于對行業(yè)共性需求與具體業(yè)務痛點的深度理解,商湯大裝置將平臺能力和算力資源,結合行業(yè)知識與業(yè)務流程,提供面向具身智能、AIGC、AI4S和產業(yè)智能化的四大場景化解決方案,既能“開箱即用”,也可“快速集成”。
覆蓋全生命周期的全流程服務:商湯大裝置可提供覆蓋咨詢、模型定制、模型部署、維護等,形成從需求分析、模型開發(fā)到產業(yè)化落地的完整閉環(huán),實現(xiàn)效率與成本的最優(yōu)化,助力企業(yè)高效實現(xiàn)AI 應用落地。
根據(jù)國際數(shù)據(jù)公司(IDC)發(fā)布的《中國模型即服務(MaaS)及AI大模型解決方案市場追蹤(2024H2)》報告顯示,商湯大裝置穩(wěn)居國內AI大模型解決方案市場第二位。
面向未來,商湯大裝置還將不斷完善行業(yè)級解決方案,強化從場景定義到業(yè)務落地的全鏈路賦能能力,以敏捷、靈活、可靠的服務能力,全棧賦能AI 技術的規(guī)模化落地。
-
AI
+關注
關注
91文章
39793瀏覽量
301424 -
商湯
+關注
關注
0文章
91瀏覽量
4363 -
大模型
+關注
關注
2文章
3650瀏覽量
5184
原文標題:支撐數(shù)億用戶,TA們都在用商湯大裝置
文章出處:【微信號:SenseTime2017,微信公眾號:商湯科技SenseTime】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
格陸博科技亮相EMB產業(yè)化落地專題研討會
加氫站和電力系統(tǒng),誰是AEM產業(yè)化破局的關鍵?
TensorRT-LLM的大規(guī)模專家并行架構設計
商湯大裝置與綠盟科技達成深度合作
使用Ansible實現(xiàn)大規(guī)模集群自動化部署
旭派動力斬獲“鈉電產業(yè)化先鋒獎”:硬核實力領跑新賽道!
商湯大裝置實現(xiàn)大規(guī)模產業(yè)化應用
評論