最新MLPerf基準(zhǔn)測(cè)試表明，NVIDIA已將其在AI推理性能和能效方面的高標(biāo)準(zhǔn)擴(kuò)展到Arm以及x86計(jì)算機(jī)。
2021-09-23 14:18:06
2953 
這是麥肯錫咨詢(xún)公司發(fā)布的《激發(fā)物聯(lián)網(wǎng)潛能》報(bào)告中設(shè)想的未來(lái)物聯(lián)網(wǎng)化的經(jīng)典場(chǎng)景。如今，隨著智能技術(shù)漸漸融入生活，智能家居創(chuàng)業(yè)公司層出不窮，所研發(fā)的一系列產(chǎn)品和服務(wù)使我們的家庭變得更安全、更高效、更具互動(dòng)性。
2017-07-12 08:37:181989 通過(guò)完成全部6項(xiàng)MLPerf基準(zhǔn)測(cè)試，NVIDIA展現(xiàn)出了全球一流的性能表現(xiàn)和多功能性。NVIDIA AI平臺(tái)在訓(xùn)練性能方面創(chuàng)下了八項(xiàng)記錄，其中包括三項(xiàng)大規(guī)模整體性能紀(jì)錄和五項(xiàng)基于每個(gè)加速器的性能紀(jì)錄。
2019-07-11 17:29:467033 NVIDIA Turing GPU和Xavier 芯片系統(tǒng)在首個(gè)獨(dú)立AI推理基準(zhǔn)測(cè)試 ——MLPerf Inference 0.5中取得第一名。
2019-11-08 16:53:295804 帶來(lái)了數(shù)據(jù)隱私等多方面的問(wèn)題。 ? 因此邊緣AI的應(yīng)用需求越來(lái)越強(qiáng)勁，在邊緣端進(jìn)行AI推理，處理數(shù)據(jù)的過(guò)程就不必上傳至云端，這樣能夠很好地保障數(shù)據(jù)隱私和數(shù)據(jù)安全，還能避免系統(tǒng)受到惡意網(wǎng)絡(luò)攻擊，而且還能夠消除處理延遲，減少
2022-09-18 12:06:243361 回顧2024年AI產(chǎn)業(yè)的發(fā)展，AI大模型依然在高歌猛進(jìn)，不過(guò)將AI工作負(fù)載從云端卸載到終端的趨勢(shì)已經(jīng)非常明顯，以邊緣計(jì)算為承載的邊緣AI潛力無(wú)限。根據(jù)STL Partners邊緣計(jì)算關(guān)鍵數(shù)據(jù)
2025-01-15 00:13:003264 
電子發(fā)燒友網(wǎng)綜合報(bào)道 邊緣AI的實(shí)現(xiàn)原理是將人工智能算法和模型部署到靠近數(shù)據(jù)源的邊緣設(shè)備上，使這些設(shè)備能夠在本地進(jìn)行數(shù)據(jù)處理、分析和決策，而無(wú)需將數(shù)據(jù)傳輸?shù)竭h(yuǎn)程的云端服務(wù)器。邊緣AI的實(shí)現(xiàn)旨在將
2025-05-26 07:09:001368 數(shù)據(jù)上傳到云端，為眾多行業(yè)提供高效、智能的解決方案。它是邊緣AI需要用到的關(guān)鍵邊緣設(shè)備。 邊緣AI盒子在邊緣AI系統(tǒng)中的作用 ? 數(shù)據(jù)處理中心：邊緣AI盒子可以連接多種傳感器和設(shè)備，實(shí)時(shí)采集數(shù)據(jù)，并在本地進(jìn)行數(shù)據(jù)清洗、特征提取等預(yù)
2025-07-13 08:25:004214 8月26日，由elexcon 2025深圳國(guó)際電子展、電子發(fā)燒友網(wǎng)聯(lián)合主辦的“嵌入式AI、邊緣智能與AIoT生態(tài)會(huì)議”正式召開(kāi)。會(huì)議邀請(qǐng)到火山引擎、瑞迅科技、矽力杰、恩智浦半導(dǎo)體、阿里巴巴達(dá)摩院、華
2025-08-27 09:42:514070 
技術(shù)，能夠在保證畫(huà)質(zhì)的前提下，大幅降低視頻數(shù)據(jù)的傳輸帶寬。同時(shí)，芯片還支持硬件加速的AI推理，使得開(kāi)發(fā)者能夠?qū)?fù)雜的AI模型部署到邊緣設(shè)備上，實(shí)現(xiàn)本地?cái)?shù)據(jù)的實(shí)時(shí)處理。這種軟硬件協(xié)同的設(shè)計(jì)，不僅提高了
2025-04-18 15:32:27
順暢地通向云端，實(shí)現(xiàn)設(shè)備與云端之間高效的數(shù)據(jù)傳輸與交互。通過(guò)融合先進(jìn)的邊緣計(jì)算和人工智能技術(shù)，AI 邊緣計(jì)算網(wǎng)關(guān)能夠在靠近數(shù)據(jù)源的網(wǎng)絡(luò)邊緣，對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)處理和精準(zhǔn)分析，進(jìn)而實(shí)現(xiàn)智能化決策，大大減少
2025-08-09 16:40:54
，提高孩子的學(xué)習(xí)興趣。目前團(tuán)隊(duì)已有幾款這樣的 AR 互動(dòng)學(xué)習(xí)產(chǎn)品落地，在市場(chǎng)實(shí)踐中也取得了不錯(cuò)的成績(jī)。或許，正如江濤總發(fā)言中總結(jié)的那樣，未來(lái)人工智能就像水和電一樣，一定會(huì)成為我們生活中生命中不可缺少
2018-07-18 09:25:05
，準(zhǔn)確率達(dá)到99.9%。
這一技術(shù)革新正在創(chuàng)造巨大的商業(yè)價(jià)值。在智慧城市領(lǐng)域，AI邊緣網(wǎng)關(guān)可以實(shí)現(xiàn)交通流量實(shí)時(shí)分析、違章行為智能識(shí)別；在工業(yè)互聯(lián)網(wǎng)中，能夠實(shí)現(xiàn)設(shè)備預(yù)測(cè)性維護(hù)、生產(chǎn)工藝優(yōu)化；在智慧能源領(lǐng)域
2025-02-15 11:41:42
將在「ASIC、硅智財(cái)IP、內(nèi)存模塊、傳感器」四領(lǐng)域。隨著AI在機(jī)器智能學(xué)習(xí)發(fā)展的突破，2020～2025年AI應(yīng)用市場(chǎng)規(guī)模將以38%的年復(fù)合成長(zhǎng)率(CAGR)攀升到2,300億美元。若從2017年
2017-12-05 08:09:38
，NVIDIA與合作伙伴和客戶(hù)一同向用戶(hù)全面地展示了NVIDIA產(chǎn)品組合的潛力。 全新的視角與產(chǎn)品推理指的是在實(shí)時(shí)生產(chǎn)系統(tǒng)中，通過(guò)運(yùn)行AI模型，從大量數(shù)據(jù)中篩選出可執(zhí)行洞察的過(guò)程。這是一項(xiàng)仍處于發(fā)展中
2019-11-08 19:44:51
Jetson概述爆炸式增長(zhǎng)的AI模型的復(fù)雜性專(zhuān)為自主機(jī)器開(kāi)發(fā)人員設(shè)計(jì)的AI計(jì)算板加快AI處理的SDK“JetPack”概述NVIDIA Jetson是NVIDIA公司嵌入式單板計(jì)算機(jī)的一系列
2021-11-09 08:26:45
能量收集：在商業(yè)可行性上取得突破
2019-05-29 11:59:24
了機(jī)器視覺(jué)的檢測(cè)能力和適用性，產(chǎn)品質(zhì)量也能得到有效控制。 在智慧城市建設(shè)中，AI應(yīng)用已經(jīng)滲透到城市管理、交通、民生等諸多方面，隨著智慧城市向精細(xì)化和社區(qū)化下沉，邊緣智能在智慧交通、應(yīng)急響應(yīng)、城市安全等場(chǎng)景
2022-08-23 15:42:10
攻擊者提供了目標(biāo)，因而也是問(wèn)題。對(duì)收集到的數(shù)據(jù)應(yīng)進(jìn)行過(guò)濾，只留下需要的部分，其余部分應(yīng)盡快刪除。這不僅能提高安全性，也能改善所收集數(shù)據(jù)的效用。識(shí)別潛在的敏感信息并禁止或限制其收集非常重要。在邊緣處理
2018-10-22 16:52:49
），形成更強(qiáng)大的分布式智能網(wǎng)絡(luò)。
三、未來(lái)發(fā)展趨勢(shì)與潛力?
AI模型輕量化與性能提升：?
更高效的邊緣AI推理框架和專(zhuān)用AI加速芯片（NPU）將進(jìn)一步提升網(wǎng)關(guān)的實(shí)時(shí)分析能力，支持更復(fù)雜的模型。
多模態(tài)感知
2025-08-02 18:28:47
應(yīng)用引發(fā)數(shù)據(jù)爆發(fā)式增長(zhǎng)，傳統(tǒng)云端處理、邊端執(zhí)行的模式已經(jīng)出現(xiàn)明顯的瓶頸，終端硬件搭配邊緣計(jì)算網(wǎng)關(guān)和邊緣計(jì)算機(jī)和AI模型與軟件算法已經(jīng)是大勢(shì)所趨。 邊緣計(jì)算主板選型的四大要素隨著人工智能落地到越來(lái)越多的細(xì)分
2022-12-12 11:46:20
，實(shí)現(xiàn)模型的訓(xùn)練、部署、推理等一站式服務(wù)，降低AI開(kāi)發(fā)門(mén)檻。5 卓越品質(zhì)與可靠性設(shè)計(jì)，直面工業(yè)場(chǎng)景高效開(kāi)發(fā)寬溫設(shè)計(jì)，適應(yīng)-40度到+70度環(huán)境溫度；整體式無(wú)風(fēng)扇被動(dòng)散熱，適應(yīng)工業(yè)場(chǎng)景的惡劣環(huán)境；此外
2020-08-31 14:12:48
和并行計(jì)算能力，將AI模型（如CNN、LSTM、Transformer等）部署到FPGA上，實(shí)現(xiàn)高效的數(shù)據(jù)預(yù)處理、實(shí)時(shí)推理和后處理。? 定制化解決方案：根據(jù)具體應(yīng)用場(chǎng)景（如自動(dòng)駕駛、機(jī)器視覺(jué)、邊緣計(jì)算等
2025-03-03 11:21:28
智能對(duì)話(huà)框界面：
文本聊天：用戶(hù)可以輸入文本消息，并實(shí)時(shí)顯示在聊天區(qū)域。AI會(huì)模擬回復(fù)，并在回復(fù)中包含一個(gè)可點(diǎn)擊的按鈕。
圖片消息：AI在回復(fù)用戶(hù)后，會(huì)等待3秒鐘，然后發(fā)送一張圖片消息到聊天區(qū)域。注意
2025-01-03 11:29:13
NanoEdge AI 是一種基于邊緣計(jì)算的人工智能技術(shù)，旨在將人工智能算法應(yīng)用于物聯(lián)網(wǎng)（IoT）設(shè)備和傳感器。這種技術(shù)的核心思想是將數(shù)據(jù)處理和分析從云端轉(zhuǎn)移到設(shè)備本身，從而減少數(shù)據(jù)傳輸延遲、降低
2024-03-12 08:09:00
意法半導(dǎo)體（ST）為嵌入式AI開(kāi)發(fā)人員和數(shù)據(jù)科學(xué)家擴(kuò)展了面向嵌入式AI開(kāi)發(fā)人員和數(shù)據(jù)科學(xué)家的解決方案，推出了一套業(yè)界首創(chuàng)的全新工具和服務(wù)，通過(guò)輔助硬件和軟件決策，將邊緣AI技術(shù)更快、更復(fù)雜地推向市場(chǎng)
2023-02-02 09:52:43
及時(shí)處理。
第5章的斯坦福AI小鎮(zhèn)項(xiàng)目對(duì)生成式代理技術(shù)做出了開(kāi)創(chuàng)性的探索。該項(xiàng)目的核心是將LLM與計(jì)算交互代理相結(jié)合，構(gòu)建了一個(gè)具有記憶、反思、規(guī)劃能力的智能體系統(tǒng)。在技術(shù)實(shí)現(xiàn)層面，記憶和檢索模塊采用
2025-02-25 21:59:19
和數(shù)量直接影響到模型的準(zhǔn)確性和可靠性。因此，數(shù)據(jù)獲取、處理、分析和質(zhì)量控制在AI for Science中至關(guān)重要。此外，數(shù)據(jù)驅(qū)動(dòng)的研究范式也促使科學(xué)家從傳統(tǒng)的假設(shè)驅(qū)動(dòng)轉(zhuǎn)向更加靈活和開(kāi)放的研究方法
2024-10-14 09:16:37
項(xiàng)目名稱(chēng)：邊緣計(jì)算安全監(jiān)控系統(tǒng)試用計(jì)劃：理由：本人熱愛(ài)嵌入式技術(shù)，希望通過(guò)嵌入式智能技術(shù)改善人們生活。希望基于鴻蒙系和linux統(tǒng)構(gòu)建一個(gè)邊緣計(jì)算的智能監(jiān)控平臺(tái)，來(lái)保證工廠運(yùn)行的安全。本人有5年多
2020-09-25 10:11:50
能夠有效捕捉AI生成圖像與真實(shí)手繪掃描圖像在紋理、筆觸、光影、全局一致性等方面的細(xì)微差異。
邊緣端部署：將模型量化、編譯，最終高效運(yùn)行在算力有限的MaixCAM-Pro開(kāi)發(fā)板上。
實(shí)時(shí)推理：實(shí)現(xiàn)對(duì)輸入
2025-08-21 13:59:47
、分布式群體智能
1）物聯(lián)網(wǎng)AGI系統(tǒng)
優(yōu)勢(shì)：
組成部分：
2）分布式AI訓(xùn)練
7、發(fā)展重點(diǎn)：基于強(qiáng)化學(xué)習(xí)的后訓(xùn)練與推理
8、超越大模型：神經(jīng)符號(hào)計(jì)算
三、AGI芯片的實(shí)現(xiàn)
1、技術(shù)需求
AI取得
2025-09-18 15:31:59
景嘉微電子、海光信息技術(shù)、上海復(fù)旦微電子、上海壁仞科技、上海燧原科技、上海天數(shù)智芯半導(dǎo)體、墨芯人工智能、沐曦集成電路等。
在介紹完這些云端數(shù)據(jù)中心的AI芯片之后，還為我們介紹了邊緣AI芯片。
云端AI
2025-09-12 16:07:57
：科技探索與 AGI 愿景》。 這本新書(shū)針對(duì)大模型技術(shù)浪潮，詳細(xì)講解了AI芯片的主流技術(shù)、挑戰(zhàn)與創(chuàng)新解決方案，并介紹了下一代芯片工藝和顛覆性AI實(shí)現(xiàn)方法，并探索具身智能、AGI等前沿話(huà)題。
從科技創(chuàng)新
2025-07-28 13:54:18
，到2025年，人工智能有可能使數(shù)字經(jīng)濟(jì)的價(jià)值幾乎翻倍至23萬(wàn)億美元。從戰(zhàn)略角度來(lái)看，人工智能最大的潛力在于它與物聯(lián)網(wǎng)的互補(bǔ)性。集成的技術(shù)組合為數(shù)字業(yè)務(wù)價(jià)值創(chuàng)造了一個(gè)強(qiáng)大的新平臺(tái)。將AI推向邊緣I
2019-05-29 10:46:39
網(wǎng)絡(luò)智能診斷平臺(tái)。通過(guò)對(duì)私有化網(wǎng)絡(luò)數(shù)據(jù)的定向訓(xùn)練，信而泰打造了高性能、高可靠性的網(wǎng)絡(luò)診斷模型，顯著提升了AI輔助診斷的精準(zhǔn)度與實(shí)用性。該方案實(shí)現(xiàn)了網(wǎng)絡(luò)全流量深度解析能力與AI智能推理分析能力的有機(jī)融合
2025-07-16 15:29:20
，機(jī)器的學(xué)習(xí)成效都遠(yuǎn)遠(yuǎn)超越人類(lèi)了。機(jī)器所具有的AI智能是它自己學(xué)習(xí)來(lái)的，又能迅速精通。 然而從另一方面來(lái)看，機(jī)器的邏輯能力卻一直無(wú)法超越人類(lèi)。回顧一下AI的發(fā)展歷史，自從1950年代，許多專(zhuān)家們就是希望將
2021-01-04 10:16:36
隨著人工智能應(yīng)用的不斷普及，各種行業(yè)應(yīng)用對(duì)于算力的需求不斷增加。從當(dāng)前提供AI加速運(yùn)算的解決方案來(lái)看，在云端仍然以GPU方案為主，在終端領(lǐng)域，使用邊緣AI芯片的方案則變得越來(lái)越廣泛，成為行業(yè)共識(shí)
2022-11-22 15:52:15
性和便捷的安裝方式，助力用戶(hù)輕松實(shí)現(xiàn)人工智能邊緣計(jì)算應(yīng)用的批量化落地。結(jié)構(gòu)緊湊，拓展豐富FCU3001結(jié)構(gòu)緊湊，尺寸僅178*110*55mm，方便安裝固定或嵌入到設(shè)備機(jī)箱。優(yōu)秀的工業(yè)設(shè)計(jì)在保證產(chǎn)品堅(jiān)固耐用
2021-11-30 10:52:31
、針對(duì)性能和精度目標(biāo)對(duì)模型進(jìn)行訓(xùn)練和優(yōu)化，以及學(xué)習(xí)使用在嵌入式邊緣處理器上部署模型的專(zhuān)用工具。從模型選擇到在處理器上部署，TI可免費(fèi)提供相關(guān)工具、軟件和服務(wù)，為您深度神經(jīng)網(wǎng)絡(luò)(DNN)開(kāi)發(fā)工作流程的每一步
2022-11-03 06:53:28
~150ms6TOPS NPU 邊緣AI推理易對(duì)接 MES / 追溯系統(tǒng)
一、產(chǎn)線(xiàn)痛點(diǎn)：從“人看”到“機(jī)判”的轉(zhuǎn)變· 多工位/多角度同步：?jiǎn)螜C(jī)位覆蓋不足，典型項(xiàng)目需 8~12 路并發(fā)，且畫(huà)面時(shí)序一致性要求高
2025-10-16 17:56:03
隨著人工智能高速發(fā)展，逐漸向人們的生活場(chǎng)景滲透，其對(duì)數(shù)據(jù)計(jì)算量要求越來(lái)越龐大，處理速度要求越來(lái)越快，硬件性能要求也越來(lái)越高。針對(duì)此需求，飛凌嵌入式推出了面向AI邊緣系統(tǒng)的最新產(chǎn)品：高算力“魔盒
2021-12-10 10:18:20
AI設(shè)計(jì)主要參與方都是功能強(qiáng)大的CPU，GPU和FPGA等。微型微控制器與強(qiáng)大的人工智能（AI）世界有什么關(guān)系？但隨著AI從云到邊緣的發(fā)展，使得這一觀點(diǎn)正在迅速改變，AI計(jì)算引擎使MCU能夠突破
2021-11-01 08:55:02
商業(yè)發(fā)行之前就已經(jīng)過(guò)時(shí)了。算法明天需要對(duì)架構(gòu)、內(nèi)存/數(shù)據(jù)進(jìn)行徹底改革資源和能力。推理的夢(mèng)幻建筑重新定義重寫(xiě)在計(jì)算和交付突破性的人工智能加速和靈活的計(jì)算能力超越了服務(wù)器級(jí)CPU和比GPU/ASIC通用
2020-11-01 09:28:57
化用戶(hù)體驗(yàn)
伴隨AI算力成長(zhǎng)和技術(shù)突破，AI領(lǐng)域經(jīng)歷了從分析式AI到生成式AI再到去年智能體AI的快速躍遷，那AI的下一站該駛向何處？聯(lián)發(fā)科在MDDC 2025上給出了答案，未來(lái)我們將迎來(lái)一個(gè)更加智慧
2025-04-13 19:51:03
雖然人工智能和機(jī)器學(xué)習(xí)計(jì)算通常在數(shù)據(jù)中心中大規(guī)模地執(zhí)行，但是最新的處理設(shè)備使得能夠?qū)?b class="flag-6" style="color: red">AI / ML能力嵌入到網(wǎng)絡(luò)邊緣的IoT設(shè)備中。邊緣的AI可以快速響應(yīng)，無(wú)需等待云的響應(yīng)。如果可以在本地完成推理
2019-05-29 10:38:09
”？—— 擺脫網(wǎng)絡(luò)依賴(lài)、保護(hù)本地隱私、控制硬件成本，讓設(shè)備真正具備 “看見(jiàn)并對(duì)話(huà)” 的離線(xiàn)智能，成為邊緣 AI 突破的核心卡點(diǎn)。
2024 年，隨著邊緣 SoC 算力正式邁入 6 TOPS 門(mén)檻，瑞芯微
2025-09-05 17:25:10
將AI推向邊緣的影響通過(guò)在邊緣運(yùn)行ML模型可以使哪些具體的AI項(xiàng)目更容易運(yùn)行？
2021-02-23 06:21:10
人工智能模型在規(guī)模和復(fù)雜性上呈指數(shù)級(jí)增長(zhǎng)，對(duì)先進(jìn)計(jì)算能力和內(nèi)存容量的需求變得至關(guān)重要。Blackwell圖形處理器架構(gòu)通過(guò)在性能和效率方面實(shí)現(xiàn)大幅躍升，解決了這些需求。
HGX B200 訓(xùn)練性能提升3倍
2024-05-13 17:16:22
的自有模型移植，使首字詞生態(tài)速度比云端方案提升70%，賦能絕影多模態(tài)智能座艙強(qiáng)大的端側(cè)運(yùn)行能力，讓汽車(chē)擁有“有趣的靈魂”。
不僅如此，天璣AI開(kāi)發(fā)套件已經(jīng)接入NVIDIA TAO生態(tài)圈，實(shí)現(xiàn)TAO
2025-04-13 19:52:44
盒與傳統(tǒng)的的視頻監(jiān)管方式對(duì)比，傳統(tǒng)式的視頻監(jiān)管方式 通常必須手動(dòng)式分析很多的視頻流，視頻ai智能分析邊緣計(jì)算盒可以協(xié)助工作員在必須付諸行動(dòng)時(shí)過(guò)慮有關(guān)事情并發(fā)送報(bào)警
2024-07-15 22:15:55
在電子智能領(lǐng)域，所有類(lèi)型的芯片廠商都不約而同的研發(fā)推出各種不同類(lèi)型的AI處理器。國(guó)外大企，像高通、英偉達(dá)等，都已宣布推出用于智能手機(jī)和其他移動(dòng)設(shè)備的神經(jīng)引擎。例如在智能手機(jī)中添加AI功能和手機(jī)的Face ID應(yīng)用等。使用邊緣側(cè)AI自行處理相比傳輸?shù)?b class="flag-6" style="color: red">云端處理更安全、私密，響應(yīng)時(shí)間更快。
2018-07-26 14:47:073218 
快速興起的網(wǎng)絡(luò)邊緣計(jì)算對(duì)于FPGA的應(yīng)用需求也在增加。萊迪思半導(dǎo)體亞太區(qū)資深事業(yè)發(fā)展經(jīng)理陳英仁表示：“受延遲、隱私和帶寬限制的驅(qū)動(dòng)，F(xiàn)PGA正在被越來(lái)越多布署于物聯(lián)網(wǎng)系統(tǒng)設(shè)備當(dāng)中，超低功耗靈活推理
2018-08-06 16:25:464457 微軟全球技術(shù)院士、首席語(yǔ)音科學(xué)家黃學(xué)東近日做客微軟播客節(jié)目，聊了聊在語(yǔ)音和語(yǔ)言技術(shù)取得的幾個(gè)里程碑式的突破，解釋了掌握語(yǔ)音識(shí)別、翻譯和對(duì)話(huà)將如何讓機(jī)器從 “感知 AI” 進(jìn)化到 “認(rèn)知 AI”，更接近真正的人類(lèi)智能。
2019-05-21 15:28:333088 目前，圍繞人工智能對(duì)人類(lèi)的模仿，在倫理、道德甚至法律方面都不乏激烈的爭(zhēng)論。隨著技術(shù)的進(jìn)步，科技公司們將繼續(xù)使用虛擬助理和對(duì)話(huà)式人工智能來(lái)突破邊界，在大多數(shù)情況下致力于打造更接近真實(shí)人與人之間的互動(dòng)，這意味著“更人性化”是一件很好的事情。
2019-05-27 10:58:44617 隨著人工智能（AI）處理從云端轉(zhuǎn)移至網(wǎng)絡(luò)邊緣，電池供電的深度嵌入式設(shè)備在執(zhí)行AI任務(wù)（如計(jì)算機(jī)視覺(jué)和語(yǔ)音識(shí)別）時(shí)正面臨挑戰(zhàn)。
2019-08-13 09:48:384529 Nvidia用于開(kāi)發(fā)和運(yùn)行可理解和響應(yīng)請(qǐng)求的對(duì)話(huà)式AI的GPU強(qiáng)化平臺(tái)，已經(jīng)達(dá)成了一些重要的里程碑，并打破了一些記錄。
2019-08-15 14:26:252693 MLPerf Inference 0.5是業(yè)內(nèi)首個(gè)獨(dú)立AI推理基準(zhǔn)套件，其測(cè)試結(jié)果證明了NVIDIA Turing數(shù)據(jù)中心GPU以及 NVIDIA Xavier 邊緣計(jì)算芯片系統(tǒng)的性能。
2019-11-29 14:45:023401 2019年12月18日— — NVIDIA于今日發(fā)布一款突破性的推理軟件。借助于該軟件，全球各地的開(kāi)發(fā)者都可以實(shí)現(xiàn)會(huì)話(huà)式AI應(yīng)用，大幅減少推理延遲。而此前，巨大的推理延遲一直都是實(shí)現(xiàn)真正交互式互動(dòng)的一大阻礙。
2019-12-19 10:06:511571 英偉達(dá)發(fā)布了一款突破性的推理軟件，借助于這款軟件，全球各地的開(kāi)發(fā)者都可以實(shí)現(xiàn)會(huì)話(huà)式AI應(yīng)用，大幅減少推理延遲。而此前，巨大的推理延遲一直都是實(shí)現(xiàn)真正交互式互動(dòng)的一大阻礙。
2020-02-03 15:51:48829 最新的里程碑包括將最先進(jìn)的AI語(yǔ)言模型之一《變形金剛的雙向編碼器表示》的培訓(xùn)時(shí)間從幾天縮短到53分鐘。Nvidia的系統(tǒng)還能夠?qū)⑼瓿?b class="flag-6" style="color: red">AI推理所需的時(shí)間縮短到僅兩毫秒，這足以應(yīng)付人們期望的那種快節(jié)奏的對(duì)話(huà)。
2020-03-31 15:48:252383 近日，F(xiàn)acebook的首席AI科學(xué)家Yann LeCun在法國(guó)CEA－Leti研究實(shí)驗(yàn)室的創(chuàng)新日上指出，由于美國(guó)限制中國(guó)半導(dǎo)體產(chǎn)業(yè)、以及NVIDIA并購(gòu)ARM的動(dòng)作，正加速RISC－V在邊緣AI應(yīng)用的神經(jīng)網(wǎng)路方面的應(yīng)用。
2020-10-23 11:35:412768 在 2019 年 4 月，高通公司發(fā)布了一款專(zhuān)用于云端 AI 加速的處理器 Qualcomm Cloud AI 100，采用 7nm 工藝，性能比當(dāng)時(shí)業(yè)界最先進(jìn)的 AI 推理解決方案高出 10 倍
2020-10-28 17:59:393117 借助AI，邊緣計(jì)算正在向智能邊緣過(guò)渡 如今，云計(jì)算的力量已經(jīng)從數(shù)據(jù)中心擴(kuò)展到網(wǎng)絡(luò)的邊緣。隨著所有行業(yè)的組織處理不斷增長(zhǎng)的數(shù)據(jù)量、更復(fù)雜的操作以及更具活力和競(jìng)爭(zhēng)性的市場(chǎng)，這種優(yōu)勢(shì)變得至關(guān)重要。為了滿(mǎn)足
2020-11-16 17:35:242167 Tengine要做AIoT時(shí)代的Android隨著越來(lái)越多的物聯(lián)網(wǎng)終端設(shè)備在各個(gè)行業(yè)加速部署，邊緣計(jì)算的重要性日益凸顯，AI算法也正在逐步從云端下沉到邊緣節(jié)點(diǎn)中去運(yùn)行。據(jù)IDC預(yù)計(jì)，到2025年，全球?qū)⒂?500億個(gè)終端設(shè)備接入網(wǎng)絡(luò)，其中超過(guò)70%的數(shù)據(jù)將在網(wǎng)絡(luò)邊緣側(cè)被結(jié)構(gòu)化處理。
2021-01-15 14:05:153447 人工智能（AI）正在加快速度從“云端”走向“邊緣”，進(jìn)入到越來(lái)越小的物聯(lián)網(wǎng)設(shè)備中。在終端和邊緣側(cè)的微處理器上，實(shí)現(xiàn)的機(jī)器學(xué)習(xí)過(guò)程，被稱(chēng)為微型機(jī)器學(xué)習(xí)，即TinyML。更準(zhǔn)確的說(shuō)，TinyML是指
2021-04-04 12:01:001700 
如今在嵌入式開(kāi)發(fā)領(lǐng)域，如何實(shí)現(xiàn)嵌入式AI推理是一個(gè)熱門(mén)話(huà)題。其中，如何在低算力、低功耗、低成本的MCU上部署AI應(yīng)用，是開(kāi)發(fā)者普遍面臨的一個(gè)設(shè)計(jì)“痛點(diǎn)”。 在硬件方面，MCU自身性能的局限性限制了
2021-06-06 18:05:463354 小伙伴們可能會(huì)記得，早在幾年前我們就反復(fù)討論過(guò)邊緣場(chǎng)景在AI技術(shù)落地中的必要性。 從產(chǎn)業(yè)需求上看，有大量算法要求即時(shí)處理，無(wú)法全部上傳云端；而從產(chǎn)業(yè)成本上看，又有大量設(shè)備不可能搭載終端的智能處理能力
2021-11-01 08:54:375774 Capital One、Microsoft、Samsung Medison、Siemens Energy、Snap等全球行業(yè)領(lǐng)導(dǎo)者都在使用該平臺(tái) NVIDIA宣布其AI推理平臺(tái)的重大更新，目前
2021-11-12 14:42:532690 平臺(tái)），NVIDIA和Mavenir 正在實(shí)現(xiàn)智能邊緣網(wǎng)絡(luò)構(gòu)建方式的創(chuàng)新。企業(yè)和電信公司能夠利用配備聚合加速器的邊緣服務(wù)器快速部署各種AI 技術(shù)，例如同時(shí)部署NVIDIA Metropolis智
2021-11-15 14:25:562864 在首次參加行業(yè) MLPerf 基準(zhǔn)測(cè)試時(shí)，基于 NVIDIA Ampere 架構(gòu)的低功耗系統(tǒng)級(jí)芯片 NVIDIA Orin 就創(chuàng)造了新的AI推理性能紀(jì)錄，并在邊緣提升每個(gè)加速器的性能。
2022-04-08 10:14:445583 
最新發(fā)布的 NVIDIA Jetson AGX Orin 提升邊緣 AI 標(biāo)桿，使我們在最新一輪行業(yè)推理基準(zhǔn)測(cè)試中的領(lǐng)先優(yōu)勢(shì)更加明顯。
2022-04-09 08:24:142354 “在使用 NVIDIA TensorRT和NVIDIA T4 GPU對(duì)平臺(tái)賦能后，“極星”推理平臺(tái)的算法推理效率得到了進(jìn)一步的提升，更好地支持速接入各類(lèi)算法、數(shù)據(jù)及智能設(shè)備，實(shí)現(xiàn)AI自閉環(huán)能力，并通過(guò)應(yīng)用服務(wù)和標(biāo)準(zhǔn)化接口，幫助終端客戶(hù)低成本實(shí)現(xiàn)AI與業(yè)務(wù)的結(jié)合，快速構(gòu)建智能應(yīng)用。
2022-04-13 14:49:191588 NVIDIA Triton 有助于在每個(gè)數(shù)據(jù)中心、云和嵌入式設(shè)備中實(shí)現(xiàn)標(biāo)準(zhǔn)化的可擴(kuò)展生產(chǎn) AI 。它支持多個(gè)框架，在 GPU 和 DLA 等多個(gè)計(jì)算引擎上運(yùn)行模型，處理不同類(lèi)型的推理查詢(xún)。通過(guò)與 NVIDIA JetPack 的集成， NVIDIA Triton 可用于嵌入式應(yīng)用。
2022-04-18 15:40:023480 
NVIDIA Riva 是一種 GPU 加速應(yīng)用程序框架，允許公司使用視頻和語(yǔ)音數(shù)據(jù)，為自己的行業(yè)、產(chǎn)品和客戶(hù)定制最先進(jìn)的對(duì)話(huà)式 AI 服務(wù)。
2022-05-06 14:28:332247 
此前，NVIDIA 中國(guó)區(qū)軟件解決方案總監(jiān)卓睿代表 NVIDIA 參加了視頻采訪，針對(duì) NVIDIA 在自動(dòng)駕駛領(lǐng)域產(chǎn)品及技術(shù)方面取得的新突破做出介紹，并分享了行業(yè)見(jiàn)解。
2022-06-23 12:03:072485 “有了 NVIDIA Fleet Command ，我們可以將我們的視覺(jué)應(yīng)用程序從 POC 中的一個(gè)或兩個(gè)攝像頭擴(kuò)展到生產(chǎn)部署中的數(shù)千個(gè)攝像頭。通過(guò)簡(jiǎn)化邊緣環(huán)境的管理，并大規(guī)模提高視頻分析的準(zhǔn)確性，我們的客戶(hù)環(huán)境確實(shí)變得更安全、更智能，”孫說(shuō)。
2022-08-15 17:35:361557 NVIDIA 張量RT 是一個(gè)高性能推理平臺(tái)，對(duì)于利用 NVIDIA 張量核心 GPU 的強(qiáng)大功能至關(guān)重要。TensorRT 8 是一個(gè)具有增強(qiáng)功能的軟件開(kāi)發(fā)工具包，旨在提高性能和準(zhǔn)確性，以應(yīng)對(duì)邊緣和嵌入式設(shè)備中發(fā)生的越來(lái)越多的 AI 推理。它允許對(duì)張量流和PyTorch神經(jīng)網(wǎng)絡(luò)進(jìn)行廣泛的計(jì)算推斷。
2022-10-18 09:32:46941 ，開(kāi)發(fā)和運(yùn)行可落地的語(yǔ)音人工智能服務(wù)仍然是一項(xiàng)復(fù)雜而艱巨的任務(wù)，通常需要面臨實(shí)時(shí)性、可理解性、自然性、低資源、魯棒性等挑戰(zhàn)。 本期分享我們邀請(qǐng)到了? NVIDIA 的解決方案架構(gòu)師丁文 ，分享如何使用 NVIDIA NeMo 進(jìn)行對(duì)話(huà)式 AI 任務(wù)的
2023-05-11 20:16:402111 
”兩大音頻 APP上搜索“ NVIDIA 人工智能開(kāi)講 ”專(zhuān)輯，眾多技術(shù)大咖帶你深度剖析核心技術(shù)，把脈未來(lái)科技發(fā)展方向！ NVIDIA NeMo 是一個(gè)用于構(gòu)建先進(jìn)的對(duì)話(huà)式 AI 模型的框架，它內(nèi)置集成了自動(dòng)語(yǔ)音識(shí)別（ASR）、自然語(yǔ)言處理（NLP）和語(yǔ)音合成（TTS）的模型及方法。Ne
2023-07-10 20:25:021211 
從云端到網(wǎng)絡(luò)邊緣，NVIDIA GH200、H100 和 L4 GPU 以及 Jetson Orin 模組在運(yùn)行生產(chǎn)級(jí) AI 時(shí)均展現(xiàn)出卓越性能。 NVIDIA GH200 Grace Hopper
2023-09-12 20:40:04900 從云端到網(wǎng)絡(luò)邊緣，NVIDIA GH200、H100和L4 GPU以及Jetson Orin模組在運(yùn)行生產(chǎn)級(jí) AI 時(shí)均展現(xiàn)出卓越性能。 ? ? ? NVIDIA GH200 Grace
2023-09-13 09:45:401159 
近日，NVIDIA 發(fā)布了 Jetson 生成式 AI 實(shí)驗(yàn)室（Jetson Generative AI Lab），使開(kāi)發(fā)者能夠通過(guò) NVIDIA Jetson 邊緣設(shè)備在現(xiàn)實(shí)世界中探索生成式 AI
2023-11-07 21:25:012182 
邊緣，減少了數(shù)據(jù)的傳輸延遲和依賴(lài)云端的通信需求。邊緣AI能夠在接近數(shù)據(jù)源的設(shè)備上進(jìn)行實(shí)時(shí)決策和推理，這為許多應(yīng)用領(lǐng)域帶來(lái)了革命性的改變。 邊緣AI能夠解決許多傳統(tǒng)AI方法無(wú)法解決的挑戰(zhàn)。首先，邊緣AI可以在有限的計(jì)算資源下
2024-01-11 14:44:532288 恩智浦工業(yè)及IoT邊緣高級(jí)副總裁Charles Dachs表示，人工智能的創(chuàng)新將塑造智能互聯(lián)世界的未來(lái)，融入Nvidia先進(jìn)的AI培訓(xùn)技術(shù)以及恩智浦在工業(yè)及物聯(lián)網(wǎng)邊緣科研實(shí)力，將產(chǎn)生協(xié)同效益，讓用戶(hù)能更迅速地將自家AI模型推向市場(chǎng)。
2024-03-25 16:05:551563 NVIDIA 從云端到車(chē)端的全方位加速解決方案，理想汽車(chē)在采用系統(tǒng) 1 和系統(tǒng) 2 思維的融合策略下，加速模仿人類(lèi)駕駛決策過(guò)程，提升了智能駕駛對(duì)復(fù)雜交通環(huán)境的適應(yīng)性。同時(shí)，NVIDIA 利用云端訓(xùn)練和推理，助力理想汽車(chē)的 AI 助手“理想同學(xué)”在智能座艙中
2024-07-01 18:21:112483 NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務(wù)和 NVIDIA NIM 推理微服務(wù)，與同樣剛推出的 Llama 3.1 系列開(kāi)源模型一起，為全球企業(yè)的生成式 AI 提供強(qiáng)力支持。
2024-07-25 09:48:211350 AI云端計(jì)算資源涵蓋了從基礎(chǔ)設(shè)施到軟件服務(wù)的多個(gè)層面，為AI模型的訓(xùn)練、推理和部署提供了強(qiáng)大的支持。下面，AI部落小編為您詳細(xì)介紹AI云端計(jì)算資源的主要類(lèi)型。
2024-11-15 09:39:53920 、NVIDIA Triton，Pantheon Lab 訓(xùn)練速度提高 10 倍、推理延遲降低 50%，以及用戶(hù)參與度提升 30%。這些進(jìn)步使對(duì)話(huà)式 AI 能夠提供實(shí)時(shí)且真實(shí)的互動(dòng)，使 Pantheon Lab 在數(shù)字人技術(shù)不斷革新。
2025-01-14 11:19:46983 NVIDIA推理平臺(tái)提高了 AI 推理性能，為零售、電信等行業(yè)節(jié)省了數(shù)百萬(wàn)美元。
2025-02-08 09:59:031512 
——Oracle 和 NVIDIA 今日宣布，NVIDIA 加速計(jì)算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實(shí)現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應(yīng)用。 ? 此次
2025-03-19 15:24:36504 
據(jù)工信部《2025 智能算力發(fā)展白皮書(shū)》預(yù)測(cè)，到 2025 年我國(guó)邊緣 AI 推理芯片市場(chǎng)規(guī)模將突破 580 億元，其中工業(yè)場(chǎng)景占比達(dá) 42%。在這場(chǎng)變革中，昇騰 310B 邊緣推理芯片正以三大技術(shù)突破重塑產(chǎn)業(yè)格局
2025-03-24 14:09:202731 
邊緣計(jì)算與云端計(jì)算的區(qū)別與聯(lián)系 ? 一、核心區(qū)別? 數(shù)據(jù)處理位置? 邊緣計(jì)算?：在靠近數(shù)據(jù)源的設(shè)備或邊緣節(jié)點(diǎn)（如傳感器、本地服務(wù)器）完成計(jì)算，減少數(shù)據(jù)傳輸距離?。 云端計(jì)算?：依賴(lài)遠(yuǎn)程數(shù)據(jù)中心集中
2025-03-27 08:30:52735 
RaspberryPi驅(qū)動(dòng)的數(shù)字化裝置讓倫敦旗艦博物館更具互動(dòng)性和吸引力ClayInteractive互動(dòng)重新設(shè)計(jì)了維多利亞與阿爾伯特童年博物館（V&AMuseumofChildhood
2025-06-06 15:37:59494 
在工業(yè)數(shù)字化轉(zhuǎn)型的浪潮中，平板工控電腦作為核心終端設(shè)備，正經(jīng)歷從嵌入式系統(tǒng)到邊緣計(jì)算架構(gòu)的范式革命。這一進(jìn)化不僅重塑了設(shè)備的技術(shù)形態(tài)，更推動(dòng)了工業(yè)互聯(lián)從“數(shù)據(jù)采集”向“智能決策”的跨越。本文將從技術(shù)
2025-06-13 13:48:39676 邊緣AI的實(shí)現(xiàn)原理是將人工智能算法和模型部署到靠近數(shù)據(jù)源的邊緣設(shè)備上，使這些設(shè)備能夠在本地進(jìn)行數(shù)據(jù)處理、分析和決策，而無(wú)需將數(shù)據(jù)傳輸?shù)竭h(yuǎn)程的云端服務(wù)器。邊緣AI的實(shí)現(xiàn)旨在將人工智能能力下沉到邊緣設(shè)備
2025-06-19 12:19:511185 
開(kāi)放式推理模型能夠更快、更廣泛地進(jìn)行思考，為客戶(hù)服務(wù)、網(wǎng)絡(luò)安全、制造、物流和機(jī)器人等領(lǐng)域的 AI 智能體生成更明智的結(jié)果。
2025-08-13 14:32:271422 
的發(fā)布持續(xù)深化了雙方的 AI 創(chuàng)新合作。NVIDIA 在 NVIDIA Blackwell 架構(gòu)上優(yōu)化了這兩款全新的開(kāi)放權(quán)重模型并實(shí)現(xiàn)了推理性能加速，在 NVIDIA 系統(tǒng)上至高達(dá)到每秒 150 萬(wàn)個(gè)
2025-08-15 20:34:402078 
Semiconductors 推出的專(zhuān)用處理器系列、開(kāi)發(fā)板及配套軟件，旨在解決功能、性能與開(kāi)發(fā)方面的關(guān)鍵難題，助力在工業(yè)和物聯(lián)網(wǎng)應(yīng)用中更快地部署復(fù)雜的邊緣人工智能 (AI) 功能。 設(shè)計(jì)師們已經(jīng)開(kāi)始利用邊緣 AI 解決方案，這些方案能夠在低功耗設(shè)備上執(zhí)行 ML 推理，而無(wú)需依賴(lài)云端資源。諸如喚醒詞檢測(cè)、傳感
2025-10-04 18:30:001497 
然而，隨著AI模型逐漸輕量化、硬件算力持續(xù)提升以及嵌入式系統(tǒng)日趨成熟，在終端設(shè)備實(shí)現(xiàn)高效AI推理正在成為現(xiàn)實(shí)。在此趨勢(shì)下，邊緣計(jì)算已不再只是云端的補(bǔ)充，而是演變?yōu)?b class="flag-6" style="color: red">智能應(yīng)用落地的前沿陣地。
2025-12-24 11:46:58267 隨著大模型推理延遲進(jìn)入毫秒級(jí)時(shí)代，整個(gè)科技行業(yè)都意識(shí)到：算力網(wǎng)絡(luò)的規(guī)則正在被改寫(xiě)。這場(chǎng)變革的核心，正是從云端集中式計(jì)算向邊緣分布式智能的范式轉(zhuǎn)移。據(jù)行業(yè)多家分析機(jī)構(gòu)綜合預(yù)測(cè)，全球AI基礎(chǔ)設(shè)施正面
2025-12-25 11:34:52226 
電子發(fā)燒友App
工商網(wǎng)監(jiān)
評(píng)論