近日,中國信息通信研究院(以下簡稱“中國信通院”)完成可信AI《大模型推理平臺通用能力成熟度》首輪評估。
商湯大裝置萬象大模型開發平臺,獲得當前最高評級——4+級,并成為國內首家獲得最高評級的大模型推理平臺。
中國信通院依托人工智能關鍵技術和應用評測工業和信息化部重點實驗室、中國人工智能產業發展聯盟AI Infra工作組,聯合七十余家單位共同編制了《大模型推理平臺技術要求》標準,并依托該標準開展可信AI大模型推理平臺首批評估,是國內最具影響力和權威的大模型推理平臺評估之一。
該評估聚焦大模型推理平臺的功能、性能、穩定性,關注部署、推理、服務與管理環節,以實現低時延、高吞吐、可擴展、高易用、低成本目標。本次共評估88個能力項,其中基本功能34項,高級功能54項。
結果顯示,商湯大裝置的萬象大模型開發平臺在模型的部署、推理、服務環節均表現優異,可為開發者提供高性價比、靈活易用的服務,配備前沿模型、算法、推理引擎、知識庫等套件,助力開發者快速構建行業模型及應用編排。
商湯大裝置萬象大模型開發平臺提供從大模型開發到應用構建的全鏈條開發工具,為企業大模型落地提供一站式高效服務。萬象可兼容GPU、NPU等異構推理加速卡;其內置自研高效推理引擎,降低推理成本50%以上;同時,具備完整的安全機制,為企業大模型落地提供安全保障。
目前,商湯大裝置萬象大模型開發平臺已在交通、消費、政務、自動駕駛、智能家居、醫療等多個行業多種業務場景中落地:
交通領域,基于萬象,我們為某客戶構建了工程勘察設計領域智能平臺,可實現知識檢索、智能問答、報告輔助生成等功能,有效解決了客戶在知識傳承困難、融合性差和應用程度低等方面的痛點。
消費領域,某企業希望為員工配備AI助理,改變依賴查閱文檔獲取知識的低效方式。通過萬象平臺的調用大模型、檢索增強生成(RAG)技術、文檔插件及工程化優化,提升了知識獲取效率。
政務領域,某政府機構計劃打造小型AI創新平臺,基于萬象模型開發平臺及其配套的模型優化、API調用、部署和監控服務,大大簡化了復雜的部署工程,實現了企業開箱即用。
日前,國際數據公司(IDC)發布《中國模型即服務(MaaS)及AI大模型解決方案市場追蹤(2024H2)》,報告顯示,商湯大裝置萬象平臺憑借13%的市場份額穩居國內AI大模型解決方案市場第二位,再次領跑行業第一梯隊。
未來,商湯大裝置將繼續依托AI原生技術棧和行業級解決方案,結合專家服務體系,持續致力企業突破大模型落地“最后一公里”,驅動企業智能化轉型與創新增長。
-
人工智能
+關注
關注
1817文章
50094瀏覽量
265291 -
商湯科技
+關注
關注
8文章
609瀏覽量
37555 -
大模型
+關注
關注
2文章
3648瀏覽量
5179
原文標題:首個!商湯大裝置萬象,獲信通院最高等級“大模型推理平臺”認證
文章出處:【微信號:SenseTime2017,微信公眾號:商湯科技SenseTime】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
華為獲得中國信通院最高評級證書
2025瑞芯微開發者大會萬象奧科展出RK3506郵票孔核心板
中興通訊智研開發智能體榮獲信通院最高評級
中國中車通過中國信通院可信AI人工智能數據集質量四級評估
理想汽車連續三年獲得MSCI ESG全球最高評級
萬象奧科亮相2025瑞芯微開發者大會
燧原科技國產萬卡集群通過中國信通院權威認證
爆款應用背后的商湯大裝置
商湯日日新SenseNova融合模態大模型 國內首家獲得最高評級的大模型
芯盾時代多款產品獲得中國信通院權威認可
中科采象與您共研“精采萬象”的數據采集前沿科技
商湯大裝置萬象大模型開發平臺獲得中國信通院最高評級
評論