北京2025年7月30日 /美通社/ -- 近日，北京積算科技有限公司（以下簡稱"積算科技"）宣布其算力服務平臺上線赤兔推理引擎。積算科技PowerFul-AI應用開發平臺與赤兔合作，打造高性價比的模型輕量化部署方案。用戶通過遠程算力平臺預置的模型鏡像與AI工具，僅需50%的GPU算力即可解鎖大模型推理、企業知識庫搭建、智能體開發，加速大模型在智能問答、報告生成、客服助手、智能體等典型行業場景的落地。

赤兔推理引擎由北京清程極智科技有限公司（以下簡稱"清程極智"）開發，并聯合清華大學團隊發布開源版本。其核心價值在于，打破了FP8模型原生部署時GPU必須支持FP8精度的要求。通過底層算子優化（如GeMM、MoE的指令級重構）和編譯技術創新，赤兔早在今年三月即首次實現在非FP8精度卡上原生運行FP8高精度模型，并確保推理過程幾乎零精度損失。

積算科技聯合清程極智，完成了赤兔推理引擎在積算科技PowerFul-AI應用開發平臺上的驗證測試。測試結果表明，赤兔推理引擎在積算科技PowerFul-AI平臺上運行穩定、性能表現優異，滿足雙方兼容性認證的各項標準，能夠快速完成DeepSeek、Qwen等大模型推理部署，并支持基于非FP8精度GPU卡實現FP8模型部署，相比于使用BF16精度部署，GPU算力需求減半。以部署DeepSeek-R1-671B為例，原需4臺8卡機2560GB顯存，現僅需2臺8卡機1280GB顯存即可滿足要求。

積算科技PowerFul-AI平臺攜手赤兔推理引擎，將為AI大模型應用開發打造"成本減半、零性能損耗"的解決方案，提供構建企業知識庫開發、智能體搭建等功能，助力企業用戶靈活快速構建大模型通用應用及個性化端到端解決方案。

PowerFul-AI是積算科技的大模型應用落地解決方案，能夠為AI大模型落地應用提供高效、易用、安全的端到端開發平臺，幫助企業及科研機構高效開發部署AI大模型應用。目前，PowerFul-AI已經全面適配DeepSeek R1、DeepSeek V3等模型。用戶只需選擇鏡像和模型文件，并配置模型所需的算力資源，即可快速完成模型部署，實現DeepSeek的"分鐘級"上線。

積算科技誕生于全球生成式AI浪潮，專注于智能算力服務市場，致力于成為中國最具價值的智能算力服務商，聚焦互聯網、運營商、高校、新能源汽車等領域的多家頭部客戶提供算力服務。公司擁有萬卡級先進智能算力資源池，提供裸金屬、智能算力系統、專屬智能算力系統等算力服務產品，適用于大模型訓練與推理、算法研究、大數據分析、自動駕駛、智能科學計算等多元場景。其運維和服務團隊具備大規模智能算力系統設計建設、大模型開發應用及性能優化能力，可提供全棧大模型應用開發服務支持，并根據客戶需求提供靈活服務模式。

審核編輯 黃宇