希姆計(jì)算的RISC-V矩陣擴(kuò)展開源項(xiàng)目已升級(jí)至0.5版本

-----支持向量+矩陣的實(shí)現(xiàn)

范福杰博士&陳煒博士

項(xiàng)目背景

Background

為了解決RISC-V在人工智能領(lǐng)域中指令碎片化的問(wèn)題，推動(dòng)加速人工智能行業(yè)的發(fā)展，自2021年開始，希姆計(jì)算啟動(dòng)了針對(duì)RISC-V矩陣指令集和支持工具的開源工作，工作的目標(biāo)是提高人工智能應(yīng)用的兼容性、降低軟件開發(fā)成本，并實(shí)現(xiàn)新一代的標(biāo)準(zhǔn)和可擴(kuò)展的領(lǐng)域特定架構(gòu)。

2022年9月，完成了RISC-V矩陣ISA規(guī)范0.1版本，并向RISC-V國(guó)際基金會(huì)提交了開源提案和支持工具。

2023年5月，與達(dá)摩院建立了協(xié)商機(jī)制，共同探索RISC-V矩陣指令集。

2024年8月，完成了RISC-V矩陣ISA規(guī)范0.5版本。

2024年10月，完成了RISC-V矩陣ISA規(guī)范0.5版本支持工具鏈的開發(fā)。

今天，希姆計(jì)算正式發(fā)布了RISC-V矩陣指令集0.5版本及其支持工具，成為首家向全球社區(qū)提交完整RISC-V矩陣指令集及其支持工具的公司。這將推動(dòng)RISC-V矩陣指令集國(guó)際標(biāo)準(zhǔn)的快速形成，并推動(dòng)整個(gè)RISC-V生態(tài)系統(tǒng)的發(fā)展。

項(xiàng)目亮點(diǎn)

Highlights

最新的RISC-V矩陣指令集采用Tile-based的矩陣乘法架構(gòu)設(shè)計(jì)，在原有基礎(chǔ)上進(jìn)一步完善了編程模型和類型支持。

同時(shí)提供了基本版32位指令編碼(https://github.com/riscv-stc/riscv-matrix-spec) 和擴(kuò)展版64位長(zhǎng)指令編碼(https://github.com/riscv-stc/riscv-matrix-spec/tree/matrix64) 。

通過(guò)參數(shù)化寄存器架構(gòu)和模塊化類型系統(tǒng)，它能夠適應(yīng)從邊緣到云端的各種應(yīng)用場(chǎng)景。

為了推動(dòng)標(biāo)準(zhǔn)化和商業(yè)實(shí)施，提供了以下工具并進(jìn)行了更新：

基于LLVM的編譯器 (https://github.com/riscv-stc/llvm-project/tree/matrix)

基于Spike的模擬器 (https://github.com/riscv-stc/riscv-isa-sim)

基于GDB的調(diào)試器 (https://github.com/riscv-stc/riscv-openocd-matrix/tree/matrix)

基于SCOOP（Stream Computing Out-of-Order Processor）平臺(tái)的開源核心實(shí)現(xiàn)，包含RVV和RV Matrix支持(https://github.com/riscv-stc/chipyard)

SCOOP(Stream Computing Out-of-Orfer Processor)開源平臺(tái)基于BOOM(Berkeley Out-of-Order Machine)增加了RVV 1.0和矩陣功能的支持，這使得它成為業(yè)界首個(gè)開源的RISC-V向量和矩陣項(xiàng)目。

截至目前，編譯器、模擬器和調(diào)試器均已更新至0.5版本。開源核心已經(jīng)更新到了0.2版本，并將在將來(lái)逐步更新到最新版本。

社區(qū)反饋

Community Response and Evaluations

希姆計(jì)算的研發(fā)總監(jiān)范福杰博士表示：“我們非常激動(dòng)能推出這個(gè)新的版本。通過(guò)引入對(duì)RISC-V矩陣指令集擴(kuò)展的支持，可以大大增強(qiáng)希姆計(jì)算基于RISC-V架構(gòu)開發(fā)高性能AI芯片的能力，同時(shí)為RISC-V指令集的改進(jìn)做出貢獻(xiàn)。此外，我們的SCOOP（Stream Computing Out-of-Order Processor）實(shí)現(xiàn)了與Chipyard項(xiàng)目的結(jié)合，這充分展示了先進(jìn)技術(shù)在現(xiàn)實(shí)世界的硬件設(shè)計(jì)中得到了極好的應(yīng)用。”

RISC-V國(guó)際的首席執(zhí)行官Calista Redmond對(duì)此次升級(jí)也給予了高度評(píng)價(jià)：“看到像希姆計(jì)算這樣的創(chuàng)新項(xiàng)目積極采用和支持了RISC-V的新特性，真是令人鼓舞。矩陣指令集擴(kuò)展代表了RISC-V生態(tài)系統(tǒng)向前邁出了重要一步，能夠在特定應(yīng)用場(chǎng)景中顯著提升性能。我們對(duì)希姆計(jì)算團(tuán)隊(duì)的努力表示感謝，這對(duì)整個(gè)社區(qū)來(lái)說(shuō)是一個(gè)巨大的勝利。”

“我們非常興奮能與希姆計(jì)算合作，將RISC-V AI核心技術(shù)引入我們的課堂。通過(guò)具體的工程案例進(jìn)行實(shí)踐學(xué)習(xí)，我們的學(xué)生將能夠接觸最前沿的技術(shù)和發(fā)展趨勢(shì)。這將顯著提升他們的實(shí)踐技能和創(chuàng)新能力，”北京大學(xué)集成電路學(xué)院助理教授賈天宇博士說(shuō)，他已將SCOOP項(xiàng)目納入今年秋季的SOC設(shè)計(jì)研究生課程中。

未來(lái)展望

Future outlook

RISC-V的開源特性已經(jīng)吸引了學(xué)術(shù)界和產(chǎn)業(yè)界的廣泛關(guān)注，其模塊化設(shè)計(jì)和可擴(kuò)展性能力滿足了近年來(lái)人工智能計(jì)算能力的應(yīng)用需求。基于RISC-V架構(gòu)的AI芯片不僅能夠通過(guò)擴(kuò)展指令實(shí)現(xiàn)AI應(yīng)用所需的高計(jì)算能力，還因?yàn)榕cRISC-V標(biāo)準(zhǔn)指令集的兼容性而在編程靈活性方面具有顯著優(yōu)勢(shì)。

我們期待更多合作伙伴加入這個(gè)開源項(xiàng)目，推動(dòng)計(jì)算技術(shù)的持續(xù)進(jìn)步。希姆計(jì)算將進(jìn)一步加強(qiáng)與合作伙伴的合作，推動(dòng)RISC-V在人工智能領(lǐng)域的發(fā)展，繁榮RISC-V生態(tài)系統(tǒng)，提高AI應(yīng)用的兼容性，降低軟件開發(fā)成本，并實(shí)現(xiàn)新一代的標(biāo)準(zhǔn)和可擴(kuò)展的領(lǐng)域特定架構(gòu)。