近日，瀚博半導(dǎo)體正式宣布深度參與百度飛槳主辦的黑客松生態(tài)活動。面向全球開發(fā)者開放旗下載天系列加速卡開發(fā)環(huán)境，支持部署百度文心ERNIE-4.5 系列開源模型與PP-OCRv4 文檔理解模型，打造高性能應(yīng)用 Demo，全方位展示了國產(chǎn) AI 芯片與大模型的協(xié)同推理實力，共促國產(chǎn)化 AI 技術(shù)生態(tài)繁榮。

作為國產(chǎn)高性能全功能GPU代表，瀚博半導(dǎo)體載天系列加速卡搭載自研 SV 系列芯片，具備高能效、低時延、高吞吐核心優(yōu)勢，專為云端推理與視頻處理場景定制。其中，載天 VA16 加速卡原生支持FP8數(shù)據(jù)精度和128GB超大顯存，整體推理性能對標(biāo)同功耗主流 GPU，并支持高密度視頻編解碼，可完美適配大模型推理、多模態(tài)理解、文檔解析等復(fù)雜 AI 任務(wù)需求。

瀚博半導(dǎo)體與文心大模型

本次黑客松活動中，開發(fā)者可基于載天系列加速卡，快速完成 ERNIE-4.5 系列開源模型的部署與優(yōu)化。文心 ERNIE-4.5 系列作為百度旗艦級開源大模型，具備強(qiáng)大的文本生成、知識問答、多模態(tài)理解能力，在主流基準(zhǔn)評測中表現(xiàn)優(yōu)異。通過瀚博完善的軟件棧與工具鏈，開發(fā)者可實現(xiàn)模型高效遷移，充分釋放載天加速卡硬件算力，顯著提升模型推理速度與響應(yīng)效率，直觀體驗國產(chǎn)芯片支撐頂尖大模型的卓越性能。

同時，載天系列加速卡全面支持PP-OCRv4文檔理解模型部署。該模型依托飛槳框架，融合視覺解析與語義理解能力，可精準(zhǔn)識別文本、表格、公式等復(fù)雜文檔元素，支持多種語言解析。結(jié)合載天加速卡的高并發(fā)處理能力，可實現(xiàn)文檔處理吞吐量的大幅提升，為金融、政務(wù)、法律等行業(yè)的智能文檔處理場景，提供高效、穩(wěn)定的國產(chǎn)化解決方案。

百度黑客松作為匯聚全球開發(fā)者的創(chuàng)新平臺，持續(xù)推動 AI 技術(shù)開源共享與生態(tài)共建。本次瀚博半導(dǎo)體的深度參與，將加速 "國產(chǎn)芯片 + 國產(chǎn)大模型" 全棧技術(shù)方案的普及。