當(dāng)前，全球人工智能產(chǎn)業(yè)正在高速發(fā)展，市場規(guī)模不斷提升。統(tǒng)計數(shù)據(jù)顯示，預(yù)計2024年全球人工智能行業(yè)市場規(guī)模將達約35137億元，市場空間巨大。在云端，我們看到了百模大戰(zhàn)；在邊緣端，智能汽車、智能手機和AI PC都有望成為下一個普惠AI的殺手級應(yīng)用。無論是云端和邊緣，對算力的需求都在指數(shù)級增長，對芯片計算性能提出了更高的要求。

?
2024年8月27日，由電子發(fā)燒友網(wǎng)和elexcon2024深圳國際電子展暨嵌入式展、半導(dǎo)體展聯(lián)合舉辦的2024第八屆人工智能大會成功舉行。本次大會主題為“AI無界，芯創(chuàng)未來”，大會邀請到安謀科技、順絡(luò)電子、愛芯元智、龍芯中科、瑞薩電子等國內(nèi)外知名企業(yè)的高管和行業(yè)專家為大家?guī)砭史窒怼?br /> ?
電子發(fā)燒友網(wǎng)總經(jīng)理張迎輝在歡迎致辭中表示，回顧這過去的8年中，我們的人工智能大會主要聚集于AI的硬件，包括芯片、AI IP和相關(guān)的落地硬件方案。從最早的FPGA、CPU、GPU到后面的專用AI芯片，GPGPU等，再到現(xiàn)在出現(xiàn)眾多的集成了NPU和AI算法在內(nèi)的MPU等，AI技術(shù)通過不同的芯片硬件，尋找更廣泛的落地市場。“在過去的一年中，給人工智能產(chǎn)業(yè)帶來最大的驚喜是大模型的出現(xiàn)，到現(xiàn)在2C和2B，通用大模型和行業(yè)小模型的百模大戰(zhàn)的盛況。我們正在見證一個與30年前互聯(lián)網(wǎng)興起類似的局面，也好像要經(jīng)歷十幾年前由智能手機帶來的移動互聯(lián)網(wǎng)的又一次科技風(fēng)口。人工智能這一次會帶來一個巨大的風(fēng)口嗎？以我和身邊人的親身體驗來說，我覺得答案是肯定的。”
?

電子發(fā)燒友網(wǎng)總經(jīng)理張迎輝
?

?

安謀科技：多樣化算力選擇，賦能生成式AI創(chuàng)新

安謀科技智能物聯(lián)業(yè)務(wù)線高級商務(wù)拓展經(jīng)理毛衛(wèi)洋表示，如今我們正處于人工智能在計算進化過程中的“大爆炸時刻”。但同時AI在終端設(shè)備上也存在很多挑戰(zhàn)，包括隱私、安全、性能、個性化、成本、能耗、易用性等。同時碎片化的人工智能應(yīng)用場景也缺少一種單一化的解決方案，比如在各類的IoT設(shè)備中，所需的計算數(shù)據(jù)量和時延要求都不同。
?

安謀科技智能物聯(lián)業(yè)務(wù)線高級商務(wù)拓展經(jīng)理毛衛(wèi)洋

?
針對AIoT應(yīng)用，Arm在Cortex-A和Cortex-M中都升級了AI計算的能力，比如安謀科技本土團隊開發(fā)的第二代高性能、高可靠性嵌入式處理器Cortex-M52，集成了具備大模型能力的DSP。
?
另外安謀科技的周易NPU也可以提供適用于廣泛的大模型用例的4TOPS性能，同時面積小于3.3mm2，支持深度學(xué)習(xí)框架-TensorFlow，Caffe，Pytorch，ONNX，MXNet，以及完整的NN工具包和軟件棧，支持快速部署。
?
針對SoC設(shè)計的挑戰(zhàn)，比如SoC設(shè)計復(fù)雜性增加、新興應(yīng)用市場、成本壓力、產(chǎn)品上市的時間壓力等，Arm提供了一種新的Arm IP使用方式，能夠讓客戶加速創(chuàng)新、簡化業(yè)務(wù)并靈活適應(yīng)需求、同時加速上市時間。
?
以國內(nèi)的芯片廠商為例，水芯電子、佰維存儲、帝奧微、摩芯半導(dǎo)體等選擇Arm Flexible Access方案，可以獲得廣泛經(jīng)過驗證、可靠的技術(shù)和工具組合，覆蓋設(shè)計權(quán)和設(shè)計支持，每個項目的IP授權(quán)費用僅在芯片制造前才支付；兆易創(chuàng)新選擇的Arm Total Access方案，則包含最全面的技術(shù)和工具，訂閱包括設(shè)計、支持和流片，同時也具備選擇技術(shù)套件和消費水平的靈活性。
?

順絡(luò)電子：磁性被動器件在AI時代的轉(zhuǎn)型與發(fā)展

順絡(luò)電子華北區(qū)FAE經(jīng)理Edward Li在會上帶來了主題為《磁性被動器件在AI時代的轉(zhuǎn)型與發(fā)展》的演講。在AI時代，功耗的提升伴生電感需求數(shù)量大幅提升，Edward以GPU舉例，GPU芯片的功率越來越大，外圍所需的高端功率電感數(shù)量也在增多。同時AI服務(wù)器中也需要用到大量被動器件，包括各類電感、電容、磁珠、熱敏電阻、變壓器等產(chǎn)品。

順絡(luò)電子華北區(qū)FAE經(jīng)理Edward Li

?
在GPU中，GPU板卡供電中對電感有低高度、多合一、高轉(zhuǎn)化效率、耦合電感等的需求。CPU板卡供電則需要TLVR、多合一TLVR、組裝類->熱壓類TLVR、尺寸0906->1206/1205。在電源模塊中，需要垂直供電的電感以節(jié)省占板面積、IO線電感對上下PCB進行互聯(lián)、電感需要具備高性能和高轉(zhuǎn)換效率以降低能耗，同時還有高度定制化需求。
?
隨著AI服務(wù)器、GPU等需求的變化，電感也出現(xiàn)一些新的技術(shù)變化，比如超薄背面貼裝、埋感式（電感嵌入PCB中）。還有一種橋式電感，可以架空在PMIC、電阻電容等器件上，以減小占板面積。
?
順絡(luò)在CPU/GPU領(lǐng)域提供多款供電用功率電感產(chǎn)品，包括組裝式的WPZ系列、模壓型的熱壓型TLVR系列，以及超薄大電流的HTF系列。其中HTF系列電感采用了順絡(luò)獨有的超低背大電流工藝技術(shù)，厚度低至1mm，感值范圍40~330nH，工作溫度高達165℃，已通過QEC-Q200認證。另外順絡(luò)還提供一體成型功率電感系列產(chǎn)品、新型無引線框結(jié)構(gòu)鉭電容等產(chǎn)品。
?

愛芯元智唐琦：端側(cè)大模型部署實踐

愛芯元智AI推薦引擎總監(jiān)唐琦帶來了《端側(cè)大模型部署實踐》的主題分享，唐琦表示，如今是人工智能的新航海時代，讓端側(cè)大模型也擁有了極大的應(yīng)用價值。
?

愛芯元智AI推薦引擎總監(jiān)唐琦

?
但目前端側(cè)大模型還存在著選擇性少、成本高、功耗大，還未形成應(yīng)用落地的閉環(huán)等挑戰(zhàn)，為此愛芯元智推出了一系列方案來解決這些問題，包括已經(jīng)批量生產(chǎn)的NPU、簡單易用的軟件棧等。
?
據(jù)透露，愛芯元智今年已經(jīng)啟動研發(fā)最新的Neutron V6p NPU，是一顆8位精度每秒運算次數(shù)可達128Tops的AI芯片，可以適配多種大模型，幫助實現(xiàn)以文搜圖、一鍵消除、目標采集、單目深度估計等多種AI功能。并已經(jīng)在離線翻譯器、樹莓派等設(shè)備落地。目前愛芯元智的產(chǎn)品已經(jīng)在視覺、語言、多模態(tài)等端側(cè)大模型中應(yīng)用，未來還將部署到音頻類大模型應(yīng)用中。
?

龍芯中科彭飛：龍芯自主CPU發(fā)展與計算平臺建設(shè)

龍芯中科總經(jīng)理彭飛帶來了《龍芯自主CPU發(fā)展與計算平臺建設(shè)》的主題分享，彭飛表示CPU芯片是信息產(chǎn)業(yè)的基礎(chǔ)，也是國家安全的核心，中國需要構(gòu)建獨立自主的產(chǎn)業(yè)體系。中國在2022年進口芯片的花費高達4156億美元，凸顯了自主CPU研發(fā)的緊迫性。
?

龍芯中科總經(jīng)理彭飛

?
龍芯CPU自2001年研發(fā)以來，經(jīng)過多年的技術(shù)積累和市場結(jié)合，已形成大、中、小三大系列CPU產(chǎn)品，并在安全應(yīng)用、通用計算機、嵌入式應(yīng)用等領(lǐng)域取得顯著進展。特別需要指出的是，龍芯3A6000 CPU在性能上已達到市場主流產(chǎn)品水平，顯示了龍芯在設(shè)計優(yōu)化和工藝迭代方面取得的成就。
?
龍芯公司不僅在CPU領(lǐng)域取得突破，還規(guī)劃了包括龍芯3C6000在內(nèi)的新一代產(chǎn)品，該產(chǎn)品預(yù)計在2024年上半年推出樣片，將大幅提升通用處理性能和IO性能。此外，公司還著眼于構(gòu)建完整的自主產(chǎn)業(yè)生態(tài)體系，包括自主指令系統(tǒng)LoongArch的推出，這標志著中國在軟件生態(tài)基礎(chǔ)方面邁出了重要一步。龍芯的發(fā)展戰(zhàn)略不僅限于技術(shù)層面，還涵蓋了從端到云的廣泛應(yīng)用，如電子政務(wù)、教育、金融等多個領(lǐng)域，以及與數(shù)千家企業(yè)的開放合作，共同推動中國信息技術(shù)產(chǎn)業(yè)的自主可控和創(chuàng)新發(fā)展。
?

瑞薩電子：DRP-AI 技術(shù)賦能邊緣AI創(chuàng)新

瑞薩電子中國市場開發(fā)部產(chǎn)品高級經(jīng)理施靈峰分享的主題是《全“芯”賦能邊緣-AI
瑞薩新一代DRP-AI技術(shù)介紹》，詳細介紹了DRP-AI的技術(shù)原理、開發(fā)流程，并闡述了DRP-AI3讓RZ/V2H微處理器在AI方面擁有絕佳的性能表現(xiàn)。
?

瑞薩電子中國市場開發(fā)部產(chǎn)品高級經(jīng)理施靈峰

?
DRP-AI的全稱是Dynamically Reconfigurable Processor for AI，也就是人工智能動態(tài)可配置處理器，具備邊緣端設(shè)備所需的低功耗和靈活性，可編程硬件同時允許“軟件的靈活性”
和“硬件的速度”。
?
經(jīng)過多年技術(shù)迭代，目前DRP-AI已經(jīng)發(fā)展到了DRP-AI3，提供10TOPS/W高能效架構(gòu)，可以在MAC操作中節(jié)省內(nèi)存空間和功耗；支持高性能AI推理，預(yù)處理由DRP處理，無需CPU介入，性能表現(xiàn)為8TOPS@Dense或80TOPS@Sparse；具有易于開發(fā)的特性，適用不同模型的開發(fā)工具，且瑞薩電子提供豐富的AI 應(yīng)用集與訓(xùn)練庫。相較于上一代，新一代DRP-AI3的算力性能提升超10倍，Dense模型運算能力提升了14倍，Sparse模型運算能力提升了45倍。
?
得益于出色的性能，搭載瑞薩電子RZ/V2H微處理器的開發(fā)板可以在無需風(fēng)扇的情況下執(zhí)行AI 推理，與搭載風(fēng)扇的競爭對手相同的外殼溫度。為了幫助工程師朋友更好地利用DRP-AI3技術(shù)，瑞薩電子提供支持DRP-AI架構(gòu)的AI SDK、模型轉(zhuǎn)換工具和擴展包等資源。借助這些資源，工程師朋友可以基于RZ/V2H微處理器快速構(gòu)建交通監(jiān)控、人形機器人等視覺AI應(yīng)用。
?

電子發(fā)燒友：云邊端AI算力需求大爆發(fā)

電子發(fā)燒友網(wǎng)行業(yè)分析師吳子鵬分享的主題是《2024年人工智能產(chǎn)業(yè)概況及應(yīng)用趨勢分析》，主要探討云邊端AI需求對算力芯片的主要需求。
?

電子發(fā)燒友網(wǎng)行業(yè)分析師吳子鵬

?
在云端，大模型是生成式AI的基礎(chǔ)，云端AI大模型的發(fā)展趨勢是，無論開源還是非開源模型的參數(shù)規(guī)模都越做越大。目前，全球AI市場格局是中美兩強競爭，2023年全球誕生約30家AI大模型相關(guān)的獨角獸企業(yè)，其中17家誕生于美國，中國是4家，分別是智譜AI、百川智能、零一萬物和Minimax 名之夢。云端計算和推理芯片供應(yīng)上，英偉達占據(jù)絕對的主導(dǎo)地位，市占比高達90%，2023年訓(xùn)練和推理的GPGPU需求比例為6：4。
?
在邊側(cè)和端側(cè)，統(tǒng)計數(shù)據(jù)顯示，2023年全球邊緣AI芯片市場規(guī)模為27.18億美元，預(yù)計2030年將達到81.3億美元，未來幾年的年復(fù)合增長率為16.5%。NPU將成為邊側(cè)和端側(cè)AI部署的重要計算單元，能夠比CPU和GPU更快執(zhí)行AI任務(wù)，尤其是在高密度重復(fù)性計算任務(wù)上，可以減輕處理器負荷，并提高效率。
?
另外，傳統(tǒng)MCU、FPGA芯片借助NPU也能夠快速升級，成為打造邊緣AI的重要力量。
?

結(jié)語

2024第八屆人工智能大會的成功舉辦顯示出當(dāng)前AI產(chǎn)業(yè)的火熱，無論是云端還是邊緣端，AI大模型的落地都極為迫切，AI芯片作為AI系統(tǒng)的核心，迎來了巨大的增長機遇。未來，相信隨著芯片和方案的標準逐漸清晰，AI市場將會迸發(fā)出更大的增量需求，成為普惠全社會的底層核心技術(shù)。
?