完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > LLM
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：339個 瀏覽：1271次 帖子：3個
作者：AlexPim，Imagination軟件架構Fellow在Imagination，我們致力于加速大語言模型在日常設備上的運行。在本系列關于大語言...
TL;DR 過去一年間，生成式推薦取得了長足的實質性進展，特別是在憑借大型語言模型強大的序列建模與推理能力提升整體推薦性能方面。基于LLM（Large ...
之前文章已介紹引入大規模 EP 的初衷，本篇將繼續深入介紹 TensorRT-LLM 的大規模專家并行架構設計與創新實現。
6TOPS算力驅動30億參數LLM，米爾RK3576部署端側多模態多輪對話
關鍵詞：瑞芯微RK3576、NPU（神經網絡處理器）、端側小語言模型（SLM）、多模態LLM、邊緣AI部署、開發板當GPT-4o用毫秒級響應處理圖文混合...
我們正在參加全球電子成就獎的評選，歡迎大家幫我們投票～～～謝謝支持本文轉自：騰訊技術工程作者：royceshao大語言模型LLM的精妙之處在于很好地利用...
DeepSeek R1 MTP在TensorRT-LLM中的實現與優化
TensorRT-LLM 在 NVIDIA Blackwell GPU 上創下了 DeepSeek-R1 推理性能的世界紀錄，Multi-Token P...
在之前的技術博客中，我們介紹了低延遲[1] 和高吞吐[2] 場景的優化方法。對于生產部署，用戶還關心在滿足特定延遲約束的情況下，每個 GPU 的吞吐表現...
軟件測試正經歷一場深刻的技術革命。AI，尤其是以GPT、通義千問、文心一言、Claude等為代表的大語言模型（LLM），開始廣泛介入測試流程：從需求分析...
隨著語言模型規模日益龐大，設備端推理變得越來越緩慢且耗能巨大。一個直接且效果出人意料的解決方案是剪除那些對任務貢獻甚微的完整通道（channel）。我們...
RK3568自制底板狂丟包？教你5分鐘用Delayline一鍵復活網口
在使用飛凌嵌入式RK3568核心板搭配自制底板時，由于PCB走線與參考設計存在差異，常導致RGMII接口時序異常，進而出現網口不通或頻繁丟包的情況。本文...
本文轉自：DeepHubIMBA作者：DhanushKumar數據投毒，也叫模型投毒或訓練數據后門攻擊，本質上是在LLM的訓練、微調或檢索階段偷偷塞入精...
NVIDIA TensorRT LLM 1.0推理框架正式上線
TensorRT LLM 作為 NVIDIA 為大規模 LLM 推理打造的推理框架，核心目標是突破 NVIDIA 平臺上的推理性能瓶頸。為實現這一目標，...
基于樹莓派5+LLM8850 Card的高性能AI加速解決方案
在推廣的過程中，樹莓派生態客戶反饋希望能提供一種兼容原裝Raspberry PI HAT的M.2 2242的AI Card版本。經過國內優秀的AIOT硬...
新品 | LLM-8850 Card, AX8850邊緣設備AI加速卡
LLM?8850?Card是一款面向邊緣設備的M.2M-KEY2242?AI加速卡，把42?mm的袖珍體積與AxeraAX8850?SoC的24?TOP...
Votee AI借助NVIDIA技術加速方言小語種LLM開發
Votee AI 利用 NVIDIA 的 GPU 硬件、NeMo Curator 數據處理軟件、NeMo Framework 模型訓練框架及 Auto ...
摘要 技術背景：Text2SQL 是將自然語言查詢轉為 SQL 的任務，經歷了基于規則、神經網絡、預訓練語言模型、大語言模型四個階段。當前面臨提示優化、...
近日，北京后摩智能科技有限公司與北京大學集成電路學院孫廣宇長聘副教授團隊、上海交通大學張宸助理教授團隊、香港科技大學謝源講席教授團隊、東南大學司鑫副教授...
Qualys TotalAI 降低 Gen AI 和 LLM 工作負載的風險
“在AI時代，最大的風險不是不去創新，而是在沒有穩固基礎的情況下創新。” 生成式人工智能 （Gen AI） 和大語言模型 （LLM） 正在革新各行各業，...
全新NVIDIA AI Blueprint推動電信網絡配置自動化
該藍圖為電信公司提供了構建自主網絡的方案，借助基于代理式 AI 的框架大幅提高網絡性能和效率。
? ? 在京東零售技術團隊中，有很多年輕的算法工程師，他們大多是95后，在加入京東的短短幾年內，用實力“啃”下了一個個硬骨頭。 從大模型訓練的效率優化、...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
