隨著各大公司對于數(shù)據(jù)計算的要求越來越高，實時AI成為了研究者們關(guān)注的重點。在美國西雅圖舉行的微軟Build開發(fā)者大會上，微軟發(fā)布了最新的基于FPGA的Project Brainwave預(yù)覽版。Project Brainwave是一個旨在加速實時AI計算的硬件架構(gòu)，能夠部署在Azure云端以及邊緣設(shè)備上，幫助用戶實現(xiàn)低成本的實時AI計算。本文譯自微軟人工智能博客“Real-time AI: Microsoft announces preview of Project Brainwave”

本周，在美國西雅圖舉行的微軟Build開發(fā)者大會上，微軟發(fā)布了Project Brainwave預(yù)覽版，并將其整合到了Azure機器學(xué)習(xí)服務(wù)中。Project Brainwave是一個旨在加速實時AI計算的硬件架構(gòu)，部署在名為“現(xiàn)場可編程門陣列（Field Programmable Gate Array，簡稱FPGA）”的英特爾計算機芯片上。與最流行的行業(yè)基準(zhǔn)相比，Project Brainwave可以將實時AI計算的延遲時間降到最小，并且成本控制在可接受的范圍。Project Brainwave預(yù)覽版的發(fā)布將使Azure成為最高效的AI云計算平臺，也是讓FPGA成為通用型平臺的第一步。

Project Brainwave硬件模型

Esri是一家地理信息分析公司，每天需要處理各種來自衛(wèi)星圖像、視頻數(shù)據(jù)流和傳感器信號等異構(gòu)數(shù)據(jù)。數(shù)據(jù)的處理需要高強度的密集計算，常常會導(dǎo)致計算延遲。

同時，Esri公司對海量數(shù)據(jù)實時處理能力的要求也越來越高。例如，公司希望從數(shù)千條視頻中提取信息，對汽車、自行車、公交車、行人和其它物體進行偵測，以便了解當(dāng)前的交通狀況和異常情況；或者公司希望通過對衛(wèi)星數(shù)據(jù)進行實時分析，來偵測受損住宅等各種不同物體。

因此，Esri公司需要借助微軟Project Brainwave進行更加高效和低成本的實時AI分析。

Project Brainwave預(yù)覽版能為客戶提供超高速圖像識別能力，它還可以讓用戶進行基于AI的實時計算，而不用將任務(wù)進行分拆再進行單獨計算。目前，Project Brainwave支持深度學(xué)習(xí)框架TensorFlow，也將支持微軟認(rèn)知工具包。

除了整合到Azure平臺，微軟還將Project Brainwave推廣應(yīng)用到“邊緣設(shè)備”上，這樣用戶仍然可以在不聯(lián)網(wǎng)的情況下利用Project Brainwave獲得業(yè)界領(lǐng)先的計算速度。不用聯(lián)網(wǎng)的Brainwave可以被直接嵌入到生產(chǎn)設(shè)備中，這樣計算不需要每次都在云端運行，哪怕每次只能節(jié)省很少的時間和金錢成本，也會形成累積效應(yīng)，產(chǎn)生巨大的效益。

在必應(yīng)和Azure上部署FPGA

早在Project Brainwave處于探索階段時，F(xiàn)PGA就已經(jīng)不算是什么新鮮事物了，但在此之前從未有人認(rèn)真考慮過將它用于大規(guī)模計算。所以微軟的研究團隊開始著手驗證FPGA用于更貼近實際場景的可行性。

最開始，Project Brainwave團隊將這一技術(shù)在必應(yīng)搜索引擎和Azure云中進行落地。

微軟高級研究員、Brainwave項目技術(shù)負(fù)責(zé)人Eric Chung表示，必應(yīng)必須是一項“低延遲”的服務(wù)——當(dāng)用戶在必應(yīng)搜索框中輸入搜索查詢時，他們希望能夠瞬間獲得搜索結(jié)果。這意味著必應(yīng)工程師要在不犧牲毫秒級響應(yīng)速度的前提下不斷設(shè)法提高搜索結(jié)果的質(zhì)量。而與此同時，搜索引擎數(shù)據(jù)庫中的數(shù)據(jù)，無論在數(shù)量和類型上都是在不斷增加的。借助可編程硬件FPGA，團隊得以將基于深層神經(jīng)網(wǎng)絡(luò)的搜索技術(shù)迅速融入到必應(yīng)中，極大提升了系統(tǒng)返回搜索結(jié)果的速度。

過去幾年間，微軟也一直在使用FPGA來加速Azure云計算平臺。

AI要實時處理海量數(shù)據(jù)

從借助FPGA實現(xiàn)更高效的計算處理的想法誕生，到Project Brainwave公開預(yù)覽版的發(fā)布，時隔五年的時間。這段時間里，AI革命的全面爆發(fā)引發(fā)了新的巨大需求：人們希望系統(tǒng)能夠處理文檔掃描、圖像信息搜尋、語音識別和對話翻譯等AI任務(wù)所需的海量數(shù)據(jù)。

Project Brainwave團隊負(fù)責(zé)人Doug Burger

而Project Brainwave剛好能夠滿足AI計算的需求。其硬件設(shè)計可以迅速演進，并在每次改進后能夠重新映射到FPGA，滿足快速變化中的AI算法要求。

與其它類型的計算機芯片相比，F(xiàn)PGA更加靈活，可以根據(jù)AI領(lǐng)域的最新發(fā)展快速地進行重新編程。

隨著AI處理的任務(wù)越來越復(fù)雜（例如分析視頻內(nèi)容等非結(jié)構(gòu)化數(shù)據(jù)）以及AI算法的復(fù)雜度越來越高（例如用于執(zhí)行諸如“在這些視頻中搜索所有關(guān)于海濱城市的鏡頭”等搜索指令），人們對于能夠以合理成本快速處理AI任務(wù)的系統(tǒng)的需求只會越來越大。

提高流水線檢測效率

捷普集團 (Jabil）是全球領(lǐng)先的電子技術(shù)解決方案提供商。每天，工人都會在流水線上將成千上萬個零部件裝配成產(chǎn)品，然后交付給客戶。在這個過程中，自動光學(xué)檢測系統(tǒng)會對這些產(chǎn)品進行掃描，查找出所有潛在的異常情況，隨后，系統(tǒng)會將異常的產(chǎn)品送去進行手工檢查。高速運轉(zhuǎn)的系統(tǒng)要求手工檢查員在幾秒鐘內(nèi)就要判定出某件產(chǎn)品是否確實存在缺陷。

為了讓AI能夠更加快速、準(zhǔn)確地監(jiān)測圖像，減少系統(tǒng)錯誤的異常警報，捷普集團與微軟合作，利用微軟Project Brainwave來提高AI的計算速度。此外，研究人員還在探索如何利用Project Brainwave更好地預(yù)測制造設(shè)備需要維護的時間，從而減少停產(chǎn)維修的時間。

從圖像分析、搜索引擎到智能制造，人們對實時AI計算的需求正變得越來越多，我們希望微軟Project Brainwave能夠推動實時AI計算的發(fā)展，讓AI帶給我們更多的可能性。