上月，華為開發者大會2021《HDC.Together》在美麗的松山湖畔召開，華為專家、行業大咖和全球開發者齊聚一堂，攜手碰撞全場景萬物智慧互聯新時代的火花。作為芯片使能的基礎平臺，HUAWEI HiAI Foundation帶來以《端云協同，HUAWEI HiAI Foundation打造更易用的AI計算平臺》為主題的技術交流，與開發者共同探討AI應用開發的創新技術與未來趨勢。

自2017年麒麟970發布至今，端側AI經歷了開創先河到產業快速發展的巨變。一方面，麒麟芯片的AI性能不斷突破，為一代又一代終端設備提供更強大的算力加持；另一方面， HUAWEI HiAI基于“芯、端、云”三層開放架構，讓開發者更簡單快捷地應用華為的AI能力，構筑全面開放的智慧生態。

作為麒麟芯片計算能力的開放平臺，HUAWEI HiAI Foundation提供300+算子支持，具備業界最佳的模型兼容性，將芯片AI算力更好更直接地開放給開發者。此外，HUAWEI HiAI Foundation還推出端云協同、模型可視化、Model Zoo、自主調優工具包、多IP深度協同等多種解決方案和能力，為眾多業務場景打造更高性能更低功耗的計算環境，助力開發者快速開發和部署AI應用。

從平臺架構來看，HUAWEI HiAI Foundation銜接智慧業務和計算芯片，上層支持MNN、TNN、華為MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架對接，利用推理加速平臺（Foundation DDK）和異構計算平臺（Foundation HCL）將AI任務調入NPU/CPU/GPU/DSP等IP中進行計算，賦能手機、平板、智慧屏、車機、手表等終端設備，將更多好玩酷炫的AI應用帶到消費者面前。

（HUAWEI HiAI Foundation 開放架構）

五大性能優勢，助力開發者高效靈活開發

端云協同：針對新業務場景算子以及已有典型業務場景算子，提供性能優化、快速升級平臺能力的解決方案

當前，AI業務和算法模型都在持續快速演進，AI計算平臺適配新業務和新算法快速升級成為難題。端云協同具備可變的計算框架、廣適的模型結構，助力開發者快速支持新模型、上線新業務，讓消費者快速獲得端側AI帶來的體驗提升。

以往，消費者想要體驗到最新的AI功能與服務，需要等算子庫更新，而算子庫內置在手機ROM中，手機新版本更新，算子庫才能隨之更新。當舊手機的ROM不再更新，算子庫的更新便成為難題。端云協同能夠讓老手機用戶不受終端版本的限制，更靈活地享受更新、更優質的服務。基于華為端芯云三端打通的優勢——底層是計算芯片及HUAWEI HiAI Foundation，端側有預置的HiAI Engine，云側有自己的計算庫插件更新云，HUAWEI HiAI Foundation可以將算子庫放到云端。當有新支持的算子或性能優化發布后，HUAWEI HiAI Foundation會在閑時靜默自動更新新的算子庫，開發者只需在APP開發時正常調用，無感使用升級后的計算能力，讓老手機煥發新生機。

（HUAWEI HiAI Foundation端云協同）

未來，HUAWEI HiAI Foundation將利用這條端云協同的通路進一步放大端側AI能力，通過端云協同的算子搜索、融合策略、異構分段策略等技術賦能NPU機型，快速且低成本解決開發者的技術難題，支撐更多視頻、文本、語義等業務的上線。

Model Zoo：輔助開發者優化模型結構，更好地利用麒麟芯片NPU加速優勢

開發者在業務開發過程中，為了最大程度利用芯片算力，不可避免地需要針對麒麟芯片的硬件結構做一些模型調整，這個過程可能會出現效率低，資源利用不足的情況。HUAWEI HiAI Foundation打造Model Zoo，將麒麟芯片NPU友好的模型結構、Backbone、算子放進去，供開發者自行挑選，輔助其優化模型結構，更好的發揮麒麟芯片NPU的加速優勢。HUAWEI HiAI Foundation的底層模型結構可視化已經在Netron工具適配上線，方便開發者開發調試。

模型量化工具包：讓開發者的APP更快、更小

正常情況下，開發者訓練的模型是32bit，這樣的模型計算精度固然高，但對手機功耗和內存的要求也比較高。HUAWEI HiAI Foundation為開發者提供模型量化工具包，在滿足計算精度的前提下，可以把原始模型直接量化為更小、更輕便且最適合NPU結構的低比特模型，無需開發者做二次調整，從而節省手機空間，降低計算資源的消耗。

模型量化工具包支持無數據量化和訓練感知量化，以達到性能與精度的平衡；支持8bit/4bit+2bit模型量化，支持自適應混合量化，實現模型性能與大小的平衡。譬如，開發者基于ResNet50、InceptionV3等典型網絡模型進行量化，量化后的int8模型在精度幾乎不損失的情況下，模型大小僅為原來FP32模型大小的四分之一。

（HUAWEI HiAI Foundation模型量化工具包）

網絡結構搜索工具包：讓網絡設計更簡單、更有效

網絡結構搜索工具包支持多種類型的網絡結構搜索任務，包含分類，檢測和分割。通過精度，性能目標牽引，協同硬件信息通過最優化搜索算法獲得最優的網絡結構，得到最佳的性能提升。網絡結構搜索工具包支持多種主流訓練框架使能，包含：caffe，tensorflow，pytorch。同時針對多種主流硬件平臺具有算力和時延建模的能力。

（HUAWEI HiAI Foundation網絡結構搜索工具包）

多IP深度協同：各計算單元共用DDR內存，提升性能降低功耗

HUAWEI HiAI Foundation在芯片裸算力開放的同時，還具備芯片底層多IP深度協同的優勢。多IP深度協同的好處在于，CPU、NPU等各計算IP共用DDR內存，在ISP、CPU、NPU、GPU等IP之間最大程度減少拷貝數據流轉的開銷，既可提升性能又能降低功耗。

日調用量突破600億，引領端側AI行業標準構筑

如今，AI技術在端側的應用越來越廣泛，語音識別、圖像識別、圖像分割、圖像超分、人臉識別、文字識別等已經成為全民通用的技術，消費者期待更好玩的AI應用出現，希望獲得更優質的AI應用體驗。HUAWEI HiAI Foundation為AI應用開發提供了基礎保障，讓開發者能夠突破性能瓶頸，提高開發效率，節省計算資源，更好地投入到AI玩法的研究與落地中，滿足消費者對智慧生活的美好期待。

具體而言，接入HUAWEI HiAI Foundation開放生態的價值體現在高效實時運算、保護隱私和節省成本三個方面。

其一，從隱私保護的角度來看，應用中涉及的用戶隱私數據，譬如人臉數據、指紋數據等更應該留在本地，避免上傳云端帶來不必要的麻煩。HUAWEI HiAI Foundation助力開發者在端側實現AI計算，能夠更好地保障用戶隱私安全。

其二，相較于云端計算，端側計算具有低時延的優勢，HUAWEI HiAI Foundation支持更多AI模型在移動端高效運算，避免端云交互所帶來的延時和流量開銷，提升用戶體驗。

其三，基于HUAWEI HiAI Foundation直接開放的芯片算力，開發者可以將更多的AI模型部署在端側，節省開發成本。以視頻超分為例，當用戶在手機上觀看1080P的視頻時，如果開發者不使用超分技術，就需要從服務器上刷1080P的高清碼流到手機上；反之，如果開發者使用視頻超分，則只需要在服務器上刷低分辨率的碼流過來，在手機端做超分處理。如此，開發者既可以節省帶寬，同時幫用戶節省了下載高清碼流的流量。

據統計，HUAWEI HiAI Foundation自2018年開放以來，以高性能、低功耗、高易用性收獲越來越多的開發者青睞，短短3年間日調用量從100萬+增長到600億+。抖音、剪映、支付寶、淘寶、愛奇藝、美顏相機、輕顏相機、快手、百度地圖等頭部應用已先后接入HUAWEI HiAI Foundation，利用端側AI強大的計算能力，為用戶打造智能新體驗。

（HiAI Foundation日調用量突破600億+）

以愛奇藝為例，HUAWEI HiAI Foundation芯片開放能力，助推愛奇藝快速實現視頻超分AI功能在端側部署的突破。在愛奇藝V12.1.5版本中，愛奇藝與HUAWEI HiAI Foundation合作在手機端新增了增強畫質功能。基于愛奇藝ZoomAI 智能超分算法突出視頻畫面中的細節紋理，抑制鋸齒和底噪，搭配色彩增強算法效果，在完全不影響幀率的情況下完成了視頻的實時畫質增強處理，讓畫質變清晰，視頻整體畫面更顯精細。

在雙方的合作中，愛奇藝工程師通過與HUAWEI HiAI Foundation進行框架對接，快速將原始模型轉換成華為Davinci Model，并通過Davinci Model的調優技術，優化模型結構，充分發揮硬件單元的算力，令模型算子以更低功耗在手機端側高效運轉。在此次部署中，HUAWEI HiAI Foundation還使用圖融合調優技術，減少模型算法對DDR的依賴，以提升模型性能降低系統功耗。HUAWEI HiAI Foundation還配備了豐富的調試工具鏈和模型可視化工具，幫助愛奇藝工程師快速解決對接過程中遇到的功能和性能相關問題。

如果說2017年端側AI還只是一顆種子，如今隨著AI算力不斷突破，AI開放平臺持續賦能，AI開發者想象力不斷迸發，端側AI已經逐漸生根發芽、茁長成長。為了助力端側AI行業繁榮發展，HiAI Foundation在優化平臺性能的同時，已加入AI標準化組織AITISA（人工智能產業技術創新戰略聯盟），并參與端側AI標準草案撰寫，共同構筑AI行業標準。據悉，該草案將于2022年正式發布。

原文標題：深度解析：HUAWEI HiAI Foundation如何助力AI應用高效開發？

文章出處：【微信公眾號：華為麒麟】歡迎添加關注！文章轉載請注明出處。
責任編輯:pj