英特爾憑借高性能CPU和先進的半導體工藝被大部分人所熟知，不過如今火熱的AI正讓越來越多的人意識到軟件以及軟硬更好結合的重要性。作為一家以硬件見長的公司，英特爾在8個月前發(fā)表聲明表示，對于全新硬件架構的每一個數(shù)量級的性能提升潛力，軟件能帶來超過兩個數(shù)量級的性能提升。這是一個非常值得關注的聲明和轉變。

在本周的2019英特爾開源技術峰會（OSTS）上，英特爾公司高級副總裁兼架構、圖形與軟件部門總經理Raja Koduri第一次對投資者談論英特爾的軟件，這也被他成為英特爾另一個不為人知的秘密。

英特爾公司高級副總裁兼架構、圖形與軟件部門總經理Raja Koduri

英特爾OSTS源自2004年英特爾內部的一次會議，當時只有幾十個英特爾的工程師參加，2019年的峰會的規(guī)模擴大到了500人，也是最開放的一屆，阿里、亞馬遜、谷歌、華為、微軟、京東、AT&T等巨頭的高管都參與其中。

Raja Koduri是如何談論英特爾另一個不為人知的秘密？

AI時代軟硬件結合為何更加重要？

在談論英特爾的軟件之前，我們先聊聊軟硬件的結合。回顧過去35年到40年的計算發(fā)展歷程，計算力在以驚人的速度增長。這期間我們也經歷了一些基礎性的變化，比如萬物數(shù)字化、萬物互聯(lián)、萬物移動化、萬物云化。并且，每一個基礎性轉變背后也伴隨著軟硬件結合的變遷。

互聯(lián)網(wǎng)時代PC作為主要的硬件載體，其軟硬件結合的典型就是x86架構和Windows系統(tǒng)。從PC時代的10億用戶增長到移動互聯(lián)網(wǎng)時代的100億用戶，移動時代的主導又變?yōu)榱?a target="_blank">Arm架構和iOS及Android操作系統(tǒng)的結合，當然Linux系統(tǒng)和x86平臺也占據(jù)一部分市場。

如今，大家在談論規(guī)模將達1000億臺設備的下一個時代，很難預測什么樣的架構和軟件的結合會成為主流。但可以明確的是在軟硬件的結合中，軟件正在發(fā)揮越來越重要的價值。

這其中很重要的原因就是摩爾定律的放緩，靠工藝制程帶來硬件性能的大幅提升正變得越來越難。但前線的架構師可能會說：“我們需要更多的晶體管。如果不作出改變，我們是無法使所有工作負載都快速運行的。”

Raja Koduri在2019英特爾開源技術峰會上的演講中指出，計算速度的增加想有指數(shù)級的增長，那就必須要硬件和軟件來共同創(chuàng)新。軟件社區(qū)和硬件社區(qū)相互交流，并真正去思考彼此的問題，這比以往任何時候都更重要。

強調AI時代軟件將發(fā)揮更重要作用的不止是英特爾。Arm機器學習部門商業(yè)與市場副總裁Dennis Laudick去年11月接受雷鋒網(wǎng)專訪時指出：“軟件才是AI處理器中更關鍵的部分，軟件生態(tài)系統(tǒng)是Arm成功的關鍵所在，這也是Arm過去20年已經做的事情。近兩年的AI熱潮會對軟件行業(yè)帶來革命性的變化，因為傳統(tǒng)的軟件在概率判斷，評估猜測方面有一些局限性，AI對概率判斷的準確度和猜測的準確度上有其特點，AI將讓軟件進入2.0的時代。”

CEVA營銷副總裁Moshe Sheier去年也對雷鋒網(wǎng)表示，AI還處于一個早期的階段，現(xiàn)在各家的AI處理器IP在SoC中所占的面積都不小，而人工智能還在不斷演進中，未來算法和設計的改進會持續(xù)帶來AI技術的更新。如何延長產品的周期更好地適應OEM廠商不斷變化的需求非常關鍵，這時軟件的作用尤為明顯，能夠通過軟硬結合不斷適應技術變化和提高效率的AI方案對產品落地非常重要。

軟件到底能帶來多大幅度提升？

那么軟件到底能帶來多大程度的提升？Raja Koduri舉了三個例子。第一個例子是從JDK8到JDK9， Java生態(tài)系統(tǒng)中實現(xiàn)了巨大的性能提升。英特爾的工程師們?yōu)榭蛻艉?a target="_blank">開發(fā)者將現(xiàn)有硬件的性能提升了6倍。如果從硬件的角度來看，這相當于是在一次軟件發(fā)布中就實現(xiàn)了數(shù)代的硬件性能提升。

第二個例子是內存方面，原始硬件本身極具局限性，但如果將其與英特爾的內存層級架構相結合，再加上他們在軟件棧方面的領先技術，就能將工作負載的性能提升8倍。同樣，這也相當于數(shù)代的硬件性能提升。

第三個例子是深度學習方面，利用DL Boost等架構擴展，在過去12至18個月釋放了英特爾CPU潛能。從Skylake升級至Cascade Lake，相比上一代硬件提速28倍。

Arm同樣憑借軟件帶來了非常顯著的提升，Dennis Laudick表示：“Arm的AI處理器是一個異構的系統(tǒng)，其中包含CPU、GPU、NPU等，但作為IP核想要實現(xiàn)更好的可配置性軟件體系非常重要。在硬件之上有我們特別優(yōu)化的Compute Library，它會把底層的硬件和驅動進行充分優(yōu)化，根據(jù)算子的不同需求驅動硬件，可以提升幾倍到十幾倍的效率。”

硬件霸主的軟件秘密

Raja Koduri演講時表示：“在為這個演講做準備時，我與英特爾負責軟件的主管們進行了座談，聽取他們對我本次演講內容的反饋。有趣的是，他們的第一反應是，這好像是我們第一次對投資者談論軟件，其中有些人已經在英特爾工作了25年以上。”

他也認為，軟件給英特爾帶來的獨特競爭優(yōu)勢是一個不為人知的秘密。

“英特爾產品帶來的軟硬件結合的差異化優(yōu)勢常常被低估。其他公司的產品性能哪怕僅提高了10%，也會被拿來大做文章，而我們在每個核心的性能提高了10倍，網(wǎng)絡性能提高了2倍，Java提高了2倍。” Raja Koduri表示。

一個值得關注的數(shù)字是，硬件巨頭英特爾擁有超過15000名軟件工程師，并且是多個軟件開源社區(qū)最重要的貢獻者。據(jù)介紹，英特爾是Linux Kernel的最大貢獻者，每年會修改或編寫50萬行代碼，優(yōu)化了超過100個操作系統(tǒng)；也是Chromium OS的三大貢獻者之一，在軟件方面擁有超過10000個高度定制化客戶部署；還是OpenStack的十大貢獻者之一。

另外，英特爾擁有一個超過1200萬開發(fā)者的生態(tài)系統(tǒng)。Raja Koduri說：“英特爾的軟件生態(tài)規(guī)模很大，橫跨開發(fā)者、基礎設施客戶、網(wǎng)絡、操作系統(tǒng)開發(fā)者、英特爾開發(fā)的工具和SDK，影響了大量標準組織，高度定制化客戶，以及我們在物聯(lián)網(wǎng)和邊緣計算上的布局等，這簡直不可思議。”

英特爾正在從晶體管為中心到數(shù)據(jù)為中心轉型，也在去年提出了英特爾的六大技術支柱——制程、架構、內存、互連、安全、軟件。這六個技術支柱環(huán)環(huán)嵌套，通過超異構計算，英特爾可以集成不同架構、不同制程、3D封裝、互連和OneAPI等技術創(chuàng)新，能夠為客戶提供更多的靈活性和更快的產品上市時間，全方位推動計算創(chuàng)新發(fā)展。

當然，這也是英特爾未來創(chuàng)新的驅動力。

英特爾GPU以及AI的軟件策略

Raja Koduri表示：“去年我們公布了自己的愿景，未來將是標量、矢量、矩陣和空間的多種架構組合，部署在CPU、GPU、FPGA和加速器套件之中。我們正在如期執(zhí)行這一計劃。我們擁有多個架構，多個內存層級架構和互連層級架構。架構路線圖已經準備好，這樣就可以在硬件產品路線圖中覆蓋到GPU和AI開發(fā)者。”

從架構與開發(fā)者生態(tài)與競爭對手對比。英偉達的開發(fā)者生態(tài)系統(tǒng)規(guī)模適中，但是僅圍繞著一個單一架構。并且他們沒有內存策略，看起來英偉達正在嘗試建立互聯(lián)策略，英偉達在今年3月宣布以69億美元收購Mellanox。

AMD有兩個架構，但也沒有內存或互連策略，而且AMD的開發(fā)者生態(tài)系統(tǒng)的規(guī)模也不大。

Raja Koduri指出，中間這個圓圈里的策略和潛力只能讓你走這么遠。他引用了Murthy的話，真正的挑戰(zhàn)是如何將我們的軟件策略從一個架構擴展到四個架構。

為此，英特爾給自己設定了三個目標。第一個目標是簡便和可擴展的，英特爾希望他們的軟件讓開發(fā)者易于使用，而且不僅可以擴展到所有的架構，更可以擴展到所有的操作系統(tǒng)。第二個目標是開放性，致力于向所有人開放標準。第三個目標是必須提供統(tǒng)一的開發(fā)體驗，有時跟英特爾合作像是在與十家不同的公司合作，他們要解決這個問題。

為了實現(xiàn)這些目標，英特爾已經投入了一年多，在內部稱為oneAPI項目。Raja Koduri高興地宣布，oneAPI項目將在2019年第四季度之前如期交付給開發(fā)者。

英特爾在開源技術峰會上還公布了一系列最新進展，包括適應英特爾架構的核心基礎設施現(xiàn)代化、為開發(fā)者和合作伙伴提升英特爾基于Linux的解決方案、在汽車和工業(yè)自動化領域實現(xiàn)新應用。

PC時代和移動互聯(lián)網(wǎng)時代的主流架構無疑是x86和Arm，無論是英特爾和Arm都公開地表示軟件是他們獨特的競爭優(yōu)勢。對于英特爾這家以硬件著稱的公司，公開地談論自己在軟件領域的實力確實也讓我們能夠更清楚地看到他們在摩爾定律放緩之下能夠繼續(xù)保持競爭力和創(chuàng)新的關鍵所在。相信也有不少人此前沒有意識到英特爾在軟件和開發(fā)者生態(tài)方面的實力。

硬件架構的完善以及軟件oneAPI能力，決定著英特爾在AI和數(shù)據(jù)時代競爭力。