llm

+關(guān)注1人關(guān)注

在人工智能領(lǐng)域，LLM代表“大型語言模型”。在人工智能（AI）領(lǐng)域自然語言處理（NLP）是一個快速進展的領(lǐng)域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學(xué)習(xí)和自然語言處理技術(shù)的模型。

文章：344個瀏覽：1337次帖子：3個

全部技術(shù) 資訊資料帖子視頻產(chǎn)品方案企業(yè)

llm技術(shù)

DeepSeek R1 MTP在TensorRT-LLM中的實現(xiàn)與優(yōu)化

TensorRT-LLM 在 NVIDIA Blackwell GPU 上創(chuàng)下了 DeepSeek-R1 推理性能的世界紀(jì)錄，Multi-Token P...

2025-08-30 標(biāo)簽：NVIDIA 模型 LLM 4.5k 0

從原理到代碼理解語言模型訓(xùn)練和推理，通俗易懂，快速修煉LLM

要理解大語言模型（LLM），首先要理解它的本質(zhì)，無論預(yù)訓(xùn)練、微調(diào)還是在推理階段，核心都是next token prediction，也就是以自回歸的方式...

2023-09-19 標(biāo)簽：語言模型 LLM 4.4k 0

如何本地部署大模型

近期，openEuler A-Tune SIG在openEuler 23.09版本引入llama.cpp&chatglm-cpp兩款應(yīng)用，以支持...

2023-10-18 標(biāo)簽：人工智能 C++openEuler 4.2k 0

使用基于Transformers的API在CPU上實現(xiàn)LLM高效推理

英特爾 Extension for Transformers是英特爾推出的一個創(chuàng)新工具包，可基于英特爾架構(gòu)平臺，尤其是第四代英特爾至強可擴展處理器...

2024-01-22 標(biāo)簽：處理器英特爾 cpu 4.2k 0

Long-Context下LLM模型架構(gòu)全面介紹

隨著ChatGPT的快速發(fā)展，基于Transformer的大型語言模型(LLM)為人工通用智能(AGI)鋪平了一條革命性的道路，并已應(yīng)用于知識庫、人機界...

2023-11-27 標(biāo)簽：模型深度學(xué)習(xí)ChatGPT 4.1k 0

中國研究人員提出StructGPT，提高LLM對結(jié)構(gòu)化數(shù)據(jù)的零樣本推理能力

盡管結(jié)構(gòu)化數(shù)據(jù)的體量往往非常巨大，但不可能容納輸入提示中的所有數(shù)據(jù)記錄（例如，ChatGPT 的最大上下文長度為 4096）。將結(jié)構(gòu)化數(shù)據(jù)線性化為 LL...

2023-05-24 標(biāo)簽：數(shù)據(jù)管理自然語言處理知識圖譜 4.1k 0

LLM模型和LMM模型的區(qū)別

LLM（線性混合模型）和LMM（線性混合效應(yīng)模型）之間的區(qū)別如下：定義： LLM（線性混合模型）是一種統(tǒng)計模型，用于分析具有固定效應(yīng)和隨機效應(yīng)的線性數(shù)...

2024-07-09 標(biāo)簽：模型數(shù)據(jù)結(jié)構(gòu)LLM 4k 0

什么是向量數(shù)據(jù)庫？關(guān)系數(shù)據(jù)庫和向量數(shù)據(jù)庫之間的區(qū)別是什么？

向量數(shù)據(jù)庫是一種以向量嵌入（高維向量）方式存儲和管理非結(jié)構(gòu)化數(shù)據(jù)（如文本、圖像或音頻）的數(shù)據(jù)庫，以便于快速查找和檢索類似對象。

2023-08-16 標(biāo)簽：存儲器向量機機器學(xué)習(xí) 4k 0

拆解大語言模型RLHF中的PPO算法

由于本文以大語言模型 RLHF 的 PPO 算法為主，所以希望你在閱讀前先弄明白大語言模型 RLHF 的前兩步，即 SFT Model 和 Reward...

2023-12-11 標(biāo)簽：算法深度學(xué)習(xí)ChatGPT 4k 0

最新綜述！當(dāng)大型語言模型（LLM）遇上知識圖譜：兩大技術(shù)優(yōu)勢互補

LLM 是黑箱模型，缺乏可解釋性，因此備受批評。LLM 通過參數(shù)隱含地表示知識。因此，我們難以解釋和驗證 LLM 獲得的知識。此外，LLM 是通過概率模...

2023-07-10 標(biāo)簽：編碼語言模型知識圖譜 3.9k 0

當(dāng)紅炸子雞LoRA，是當(dāng)代微調(diào)LLMs的正確姿勢？

大多數(shù)人對于 LLM 的“親密度”，可能最多就是拉個開源的 demo 跑下推理過程，得到個“意料之中”的結(jié)果，然后很諷刺地自 high 一把：WOW~ ...

2023-07-07 標(biāo)簽：模型 LoRa ChatGPT 3.9k 0

大型語言模型（LLM）的自定義訓(xùn)練：包含代碼示例的詳細指南

近年來，像 GPT-4 這樣的大型語言模型（LLM）因其在自然語言理解和生成方面的驚人能力而受到廣泛關(guān)注。但是，要根據(jù)特定任務(wù)或領(lǐng)域定制LLM，定制...

2023-06-12 標(biāo)簽：GPU python 數(shù)據(jù)集 3.8k 0

基于一個完整的 LLM 訓(xùn)練流程

? ? 在這篇文章中，我們將盡可能詳細地梳理一個完整的 LLM 訓(xùn)練流程。包括模型預(yù)訓(xùn)練（Pretrain）、Tokenizer 訓(xùn)練、指令微調(diào)（Ins...

2023-06-29 標(biāo)簽：數(shù)據(jù)編碼模型 3.7k 0

在Dify中使用PerfXCloud大模型推理服務(wù)

近日，Dify全面接入了Perf XCloud，借助Perf XCloud提供的大模型調(diào)用服務(wù)，用戶可在Dify中構(gòu)建出更加經(jīng)濟、高效的LLM應(yīng)用。

2024-07-15 標(biāo)簽：AI 澎峰科技大模型 3.6k 0

LLM在各種情感分析任務(wù)中的表現(xiàn)如何

? 最近幾年，GPT-3、PaLM和GPT-4等LLM刷爆了各種NLP任務(wù)，特別是在zero-shot和few-shot方面表現(xiàn)出它們強大的性能。因此，...

2023-05-29 標(biāo)簽：模型數(shù)據(jù)集 ChatGPT 3.5k 0

教您如何精調(diào)出自己的領(lǐng)域大模型

BERT和 GPT-3 等語言模型針對語言任務(wù)進行了預(yù)訓(xùn)練。微調(diào)使它們適應(yīng)特定領(lǐng)域，如營銷、醫(yī)療保健、金融。在本指南中，您將了解 LLM 架構(gòu)、微調(diào)過程...

2024-01-19 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)nlp ChatGPT 3.5k 0

3萬字長文！深度解析大語言模型LLM原理

我們正在參加全球電子成就獎的評選，歡迎大家?guī)臀覀兺镀薄x謝支持本文轉(zhuǎn)自：騰訊技術(shù)工程作者：royceshao大語言模型LLM的精妙之處在于很好地利用...

2025-09-02 標(biāo)簽：人工智能語言模型 LLM 3.5k 0

基于DBFP與DB-Attn的算法硬件協(xié)同優(yōu)化方案

本文討論了LLM推理過程對計算資源需求急劇攀升的背景下，現(xiàn)有量化和剪枝技術(shù)、新數(shù)據(jù)格式存在的不足，提出動態(tài)塊浮點數(shù)（DBFP）及其配套算法-硬件協(xié)同框架...

2025-03-19 標(biāo)簽：算法模型 LLM 3.4k 0

基于MNN在個人設(shè)備上流暢運行大語言模型該如何實現(xiàn)呢？

LLM（大語言模型）因其強大的語言理解能力贏得了眾多用戶的青睞，但LLM龐大規(guī)模的參數(shù)導(dǎo)致其部署條件苛刻；

2023-07-20 標(biāo)簽：轉(zhuǎn)換器存儲器 C++語言 3.4k 0

mlc-llm對大模型推理的流程及優(yōu)化方案

在 MLC-LLM 部署RWKV World系列模型實戰(zhàn)（3B模型Mac M2解碼可達26tokens/s）中提到要使用mlc-llm部署模型首先需要...

2023-09-26 標(biāo)簽：編譯 MLC 深度學(xué)習(xí) 3.3k 0

上一頁 123 4 5 6 7 下一頁 9

相關(guān)話題

換一批

電子發(fā)燒友網(wǎng)

電子發(fā)燒友網(wǎng)

+關(guān)注

電子發(fā)燒友網(wǎng)于2006年10月成立，是一個以電子技術(shù)知識為核心，以工程師為主導(dǎo)的平臺。致立于為中國電子工程師的電子產(chǎn)品設(shè)計等做出最大貢獻，促進中國電子科技的穩(wěn)步發(fā)展。
無人駕駛

無人駕駛

+關(guān)注

提供全球最前沿?zé)o人駕駛科技趨勢，中國無人駕駛開發(fā)者社區(qū)
1024

1024

+關(guān)注
京瓷

京瓷

+關(guān)注

京瓷株式會社成立于1959年4月1日。川村誠為現(xiàn)任代表取締役社長。資本金為1，157億332萬日元。截至2006年3月31日為止的年度銷售額達到1，181，489百萬日元，集團公司包括關(guān)聯(lián)公司在內(nèi)共計183家，員工61，468名。
emmc

emmc

+關(guān)注

eMMC （Embedded Multi Media Card）是MMC協(xié)會訂立、主要針對手機或平板電腦等產(chǎn)品的內(nèi)嵌式存儲器標(biāo)準(zhǔn)規(guī)格。
過壓保護電路

過壓保護電路

+關(guān)注
6G

6G

+關(guān)注

6G網(wǎng)絡(luò)將是一個地面無線與衛(wèi)星通信集成的全連接世界。6G，即第六代移動通信標(biāo)準(zhǔn)，也被稱為第六代移動通信技術(shù)。主要促進的就是物聯(lián)網(wǎng)的發(fā)展。截至2019年11月，6G仍在開發(fā)階段。6G的傳輸能力可能比5G提升100倍，網(wǎng)絡(luò)延遲也可能從毫秒降到微秒級。
華強pcb線路板打樣

華強pcb線路板打樣

+關(guān)注
COB

COB

+關(guān)注
高頻電容

高頻電容

+關(guān)注
wifi6

wifi6

+關(guān)注

WiFi6主要使用了OFDMA、MU-MIMO等技術(shù)，MU-MIMO（多用戶多入多出）技術(shù)允許路由器同時與多個設(shè)備通信，而不是依次進行通信。MU-MIMO允許路由器一次與四個設(shè)備通信，WiFi6將允許與多達8個設(shè)備通信。WiFi6還利用其他技術(shù)，如OFDMA（正交頻分多址）和發(fā)射波束成形，兩者的作用分別提高效率和網(wǎng)絡(luò)容量。WiFi6最高速率可達9.6Gbps。
汽車

汽車

+關(guān)注
dcdc轉(zhuǎn)換器

dcdc轉(zhuǎn)換器

+關(guān)注

DC/DC轉(zhuǎn)換器為轉(zhuǎn)變輸入電壓后有效輸出固定電壓的電壓轉(zhuǎn)換器。DC/DC轉(zhuǎn)換器分為三類：升壓型DC/DC轉(zhuǎn)換器、降壓型DC/DC轉(zhuǎn)換器以及升降壓型DC/DC轉(zhuǎn)換器。
Zynq-7000

Zynq-7000

+關(guān)注

　　賽靈思公司（Xilinx）推出的行業(yè)第一個可擴展處理平臺Zynq系列。旨在為視頻監(jiān)視、汽車駕駛員輔助以及工廠自動化等高端嵌入式應(yīng)用提供所需的處理與計算性能水平。
檢測電路圖

檢測電路圖

+關(guān)注
VDD

VDD

+關(guān)注

　Vcc和Vdd是器件的電源端。Vcc是雙極器件的正，Vdd多半是單極器件的正。下標(biāo)可以理解為NPN晶體管的集電極C，和PMOS or NMOS場效應(yīng)管的漏極D。同樣你可在電路圖中看見Vee和Vss，含義一樣。因為主流芯片結(jié)構(gòu)是硅NPN所以Vcc通常是正。如果用PNP結(jié)構(gòu)Vcc就為負了。建議選用芯片時一定要看清電氣參數(shù)
CD4069

CD4069

+關(guān)注
HarmonyOS

HarmonyOS

+關(guān)注

HarmonyOS最新信息分享，我們將為大家?guī)鞨armonyOS是什么意思的深度解讀，HarmonyOS官網(wǎng)地址、HarmonyOS開源相關(guān)技術(shù)解讀與設(shè)計應(yīng)用案例，HarmonyOS系統(tǒng)官網(wǎng)信息，華為harmonyOS最新資訊動態(tài)分析等。
特斯拉線圈

特斯拉線圈

+關(guān)注

特斯拉線圈又叫泰斯拉線圈，因為這是從“Tesla”這個英文名直接音譯過來的。這是一種分布參數(shù)高頻串聯(lián)諧振變壓器，可以獲得上百萬伏的高頻電壓。
過流保護電路

過流保護電路

+關(guān)注

電路過電流過電壓保護是為防止主回路短路或直流牽引電動機發(fā)生環(huán)火造成主回路電流過大而損壞同步牽引發(fā)電機、主整流柜等電氣設(shè)備，機車在牽引、電阻制動或自負載工況下，對主電路的過電流和過電壓均進行保護。
過零檢測電路

過零檢測電路

+關(guān)注

過零檢測指的是在交流系統(tǒng)中，當(dāng)波形從正半周向負半周轉(zhuǎn)換時，經(jīng)過零位時，系統(tǒng)作出的檢測。可作開關(guān)電路或者頻率檢測。漏電開關(guān)的漏電檢測是檢測零序電流。
AIoT

AIoT

+關(guān)注

AIoT（人工智能物聯(lián)網(wǎng)）=AI（人工智能）+IoT（物聯(lián)網(wǎng)）。 AIoT融合AI技術(shù)和IoT技術(shù)，通過物聯(lián)網(wǎng)產(chǎn)生、收集海量的數(shù)據(jù)存儲于云端、邊緣端，再通過大數(shù)據(jù)分析，以及更高形式的人工智能，實現(xiàn)萬物數(shù)據(jù)化、萬物智聯(lián)化，物聯(lián)網(wǎng)技術(shù)與人工智能追求的是一個智能化生態(tài)體系，除了技術(shù)上需要不斷革新，技術(shù)的落地與應(yīng)用更是現(xiàn)階段物聯(lián)網(wǎng)與人工智能領(lǐng)域亟待突破的核心問題。
VHF

VHF

+關(guān)注
逆變器電路圖

逆變器電路圖

+關(guān)注
慕尼黑上海電子展

慕尼黑上海電子展

+關(guān)注
測試電路

測試電路

+關(guān)注
功放板

功放板

+關(guān)注
紫光同創(chuàng)

紫光同創(chuàng)

+關(guān)注

深圳市紫光同創(chuàng)電子有限公司，緊跟國際設(shè)計技術(shù)前沿，立足國內(nèi)市場需求，進行半導(dǎo)體芯片及EDA設(shè)計工具的開發(fā)。公司主要產(chǎn)品為高性能可重構(gòu)系統(tǒng)芯片，產(chǎn)品主要應(yīng)用于各類通信設(shè)備、終端設(shè)備、工業(yè)控制設(shè)備。
ELMOS

ELMOS

+關(guān)注
科創(chuàng)板

科創(chuàng)板

+關(guān)注

擬訂科創(chuàng)板股票上市審核規(guī)則、科創(chuàng)板上市公司并購重組審核規(guī)則、上市委員會及科技創(chuàng)新咨詢委員會相關(guān)規(guī)則；負責(zé)科創(chuàng)板股票發(fā)行上市審核和科創(chuàng)板上市公司并購重組審核工作，擬訂審核標(biāo)準(zhǔn)、審核程序等；對發(fā)行人、科創(chuàng)板上市公司及中介機構(gòu)進行自律監(jiān)管等。

換一批

電機控制	DSP	氮化鎵	功率放大器	ChatGPT	自動駕駛	TI	瑞薩電子
BLDC	PLC	碳化硅	二極管	OpenAI	元宇宙	安森美	ADI
無刷電機	FOC	IGBT	逆變器	文心一言	5G	英飛凌	羅姆
直流電機	PID	MOSFET	傳感器	人工智能	物聯(lián)網(wǎng)	NXP	賽靈思
步進電機	SPWM	充電樁	IPM	機器視覺	無人機	三菱電機	ST
伺服電機	SVPWM	光伏發(fā)電	UPS	AR	智能電網(wǎng)	國民技術(shù)	Microchip

瑞薩	沁恒股份	全志	國民技術(shù)	瑞芯微	兆易創(chuàng)新	芯海科技	Altium
德州儀器	Vishay	Micron	Skyworks	AMS	TAIYOYUDEN	納芯微	HARTING
adi	Cypress	Littelfuse	Avago	FTDI	Cirrus LogIC	Intersil	Qualcomm
st	Murata	Panasonic	Altera	Bourns	矽力杰	Samtec	揚興科技
microchip	TDK	Rohm	Silicon Labs	圣邦微電子	安費諾工業(yè)	ixys	Isocom Compo
安森美	DIODES	Nidec	Intel	EPSON	樂鑫	Realtek	ERNI電子
TE Connectivity	Toshiba	OMRON	Sensirion	Broadcom	Semtech	旺宏	英飛凌
Nexperia	Lattice	KEMET	順絡(luò)電子	霍尼韋爾	pulse	ISSI	NXP
Xilinx	廣瀨電機	金升陽	君耀電子	聚洵	Liteon	新潔能	Maxim
MPS	億光	Exar	菲尼克斯	CUI	WIZnet	Molex	Yageo
Samsung	風(fēng)華高科	WINBOND	長晶科技	晶導(dǎo)微電子	上海貝嶺	KOA	Echelon
Coilcraft	LRC	trinamic

放大器	運算放大器	差動放大器	電流感應(yīng)放大器	比較器	儀表放大器	可變增益放大器	隔離放大器
時鐘	時鐘振蕩器	時鐘發(fā)生器	時鐘緩沖器	定時器	寄存器	實時時鐘	PWM 調(diào)制器
視頻放大器	功率放大器	頻率轉(zhuǎn)換器	揚聲器放大器	音頻轉(zhuǎn)換器	音頻開關(guān)	音頻接口	音頻編解碼器
模數(shù)轉(zhuǎn)換器	數(shù)模轉(zhuǎn)換器	數(shù)字電位器	觸摸屏控制器	AFE	ADC	DAC	電源管理
線性穩(wěn)壓器	LDO	開關(guān)穩(wěn)壓器	DC/DC	降壓轉(zhuǎn)換器	電源模塊	MOSFET	IGBT
振蕩器	諧振器	濾波器	電容器	電感器	電阻器	二極管	晶體管
變送器	傳感器	解析器	編碼器	陀螺儀	加速計	溫度傳感器	壓力傳感器
電機驅(qū)動器	步進驅(qū)動器	TWS	BLDC	無刷直流驅(qū)動器	濕度傳感器	光學(xué)傳感器	圖像傳感器
數(shù)字隔離器	ESD 保護	收發(fā)器	橋接器	多路復(fù)用器	氮化鎵	PFC	數(shù)字電源

開關(guān)電源	步進電機	無線充電	LabVIEW	EMC	PLC	OLED	單片機
5G	m2m	DSP	MCU	ASIC	CPU	ROM	DRAM
NB-IoT	LoRa	Zigbee	NFC	藍牙	RFID	Wi-Fi	SIGFOX
Type-C	USB	以太網(wǎng)	仿真器	RISC	RAM	寄存器	GPU
語音識別	萬用表	CPLD	耦合	電路仿真	電容濾波	保護電路	看門狗
CAN	CSI	DSI	DVI	Ethernet	HDMI	I2C	RS-485
SDI	nas	DMA	HomeKit	閾值電壓	UART	機器學(xué)習(xí)	TensorFlow

Arduino	BeagleBone	樹莓派	STM32	MSP430	EFM32	ARM mbed	EDA
示波器	LPC	imx8	PSoC	Altium Designer	Allegro	Mentor	Pads
OrCAD	Cadence	AutoCAD	華秋DFM	Keil	MATLAB	MPLAB	Quartus

搜索歷史

llm

llm技術(shù)

相關(guān)標(biāo)簽

相關(guān)話題

關(guān)注此標(biāo)簽的用戶(1人)

C++	Java	Python	JavaScript	node.js	RISC-V	verilog	Tensorflow
Android	iOS	linux	RTOS	FreeRTOS	LiteOS	RT-THread	uCOS
DuerOS	Brillo	Windows11	HarmonyOS

林超文PCB設(shè)計：PADS教程，PADS視頻教程	鄭振宇老師：Altium Designer教程，Altium Designer視頻教程
張飛實戰(zhàn)電子視頻教程	朱有鵬老師：海思HI3518e教程，HI3518e視頻教程
李增老師：信號完整性教程，高速電路仿真教程	華為鴻蒙系統(tǒng)教程，HarmonyOS視頻教程
賽盛：EMC設(shè)計教程，EMC視頻教程	杜洋老師：STM32教程，STM32視頻教程
唐佐林：c語言基礎(chǔ)教程，c語言基礎(chǔ)視頻教程	張飛：BUCK電源教程，BUCK電源視頻教程
正點原子：FPGA教程，F(xiàn)PGA視頻教程	韋東山老師：嵌入式教程，嵌入式視頻教程
張先鳳老師：C語言基礎(chǔ)視頻教程	許孝剛老師：Modbus通訊視頻教程
王振濤老師：NB-IoT開發(fā)視頻教程	Mill老師：FPGA教程，Zynq視頻教程
C語言視頻教程	RK3566芯片資料合集
朱有鵬老師：U-Boot源碼分析視頻教程	開源硬件專題