英特爾開發(fā)的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創(chuàng)建功能強(qiáng)大的異構(gòu) AI 深度學(xué)習(xí) (DL) 推理系統(tǒng)所需的工作量。
該套件支持 FPGA 設(shè)計(jì)人員、機(jī)器學(xué)習(xí)工程師和軟件開發(fā)人員高效創(chuàng)建和優(yōu)化 AI 推理平臺,以達(dá)到性能、功耗和成本俱佳的目標(biāo)。
英特爾 FPGA AI 套件中集成的實(shí)用程序加快了基于 FPGA 的 AI 推理引擎的開發(fā)速度。數(shù)據(jù)科學(xué)家和工程師可以從任何熟悉的行業(yè)框架(如 TensorFlow 和 PyTorch)開始訓(xùn)練和收斂推理模型,然后可以使用英特爾 分發(fā)版 OpenVINO 工具包通過簡化邏輯和降低內(nèi)存占用率來優(yōu)化推理模型的性能和功耗。
請注意,該優(yōu)化是在 CPU 和 FPGA 的異構(gòu)組合中執(zhí)行的。隨后,英特爾 FPGA AI 套件會進(jìn)一步優(yōu)化最終設(shè)計(jì)的 FPGA 部分。經(jīng)優(yōu)化的設(shè)計(jì)會使用英特爾 Quartus Prime 軟件直接輸入到強(qiáng)大且經(jīng)過驗(yàn)證的 FPGA 開發(fā)流程中。
Stryker公司的研發(fā)團(tuán)隊(duì)在評估英特爾FPGA AI 套件后得出以下結(jié)論:
●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發(fā)出更為優(yōu)化的用于深度學(xué)習(xí)推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設(shè)計(jì)示例也使團(tuán)隊(duì)能夠快速評估不同圖像源的不同算法。
●英特爾 FPGA AI 套件和 OpenVINO 工具包使數(shù)據(jù)科學(xué)家和 FPGA 工程師能夠無縫協(xié)作,為醫(yī)療應(yīng)用開發(fā)更好的深度學(xué)習(xí)推理模型。
您可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件開發(fā)推理系統(tǒng),服務(wù)于從 DL 增強(qiáng)型嵌入式系統(tǒng)一直到在多個(gè) FPGA 加速的服務(wù)器上運(yùn)行的高級數(shù)據(jù)中心應(yīng)用工作負(fù)載。
如果您想開發(fā)用于檢測、分類、分割或相關(guān)任務(wù)的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實(shí)現(xiàn);如果您想在使用 FPGA 編碼或解碼視頻或者在處理計(jì)算機(jī)視覺圖像的同時(shí)有效傳輸視頻流,也可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件。可以說,F(xiàn)PGA 特別適合這種預(yù)處理和后處理。
如果您沒有自己的推理模型供訓(xùn)練使用,但又迫不及待地想涉足深度學(xué)習(xí)領(lǐng)域,可以利用英特爾 分發(fā)版 OpenVINO 工具包,因?yàn)楣ぞ甙杏忻嫦驈V泛使用的神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練推理模型,您可以先從這些模型入手。
圖1 顯示的是基于這套工具的推理系統(tǒng)開發(fā)流程。

圖1 英特爾 FPGA AI 套件開發(fā)流程
英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當(dāng)然,這些工具背后還有很多英特爾的在線支持。
審核編輯 :李倩
-
FPGA
+關(guān)注
關(guān)注
1660文章
22410瀏覽量
636252 -
英特爾
+關(guān)注
關(guān)注
61文章
10301瀏覽量
180430 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8553瀏覽量
136931
原文標(biāo)題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創(chuàng)建異構(gòu)推理系統(tǒng)
文章出處:【微信號:英特爾FPGA,微信公眾號:英特爾FPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
硬件與應(yīng)用同頻共振,英特爾Day 0適配騰訊開源混元大模型
使用英特爾? NPU 插件C++運(yùn)行應(yīng)用程序時(shí)出現(xiàn)錯(cuò)誤:“std::Runtime_error at memory location”怎么解決?
英特爾發(fā)布邊緣AI控制器與邊緣智算一體機(jī),創(chuàng)造“AI新視界”
無法將Openvino? 2025.0與onnx運(yùn)行時(shí)Openvino? 執(zhí)行提供程序 1.16.2 結(jié)合使用,怎么處理?
英特爾銳炫Pro B系列,邊緣AI的“智能引擎”
直擊Computex 2025:英特爾重磅發(fā)布新一代GPU,圖形和AI性能躍升3.4倍
直擊Computex2025:英特爾重磅發(fā)布新一代GPU,圖形和AI性能躍升3.4倍
英特爾發(fā)布全新GPU,AI和工作站迎來新選擇
英特爾借助開放生態(tài)系統(tǒng),加速邊緣AI創(chuàng)新
英特爾? FPGA AI套件搭配OpenVINO?工具包
評論