華為提出Sorted LLaMA：SoFT代替SFT，訓練多合一大語言模型

而這一切的背后，是一項名為Sorted Fine-Tuning（SoFT）的新訓練技術。SoFT讓我們可以在一個訓練周期內產出多個子模型，無需任何額外的...

2023-09-26 標簽：華為模型語言模型 1.5k 0

Transformer在下一個token預測任務上的SGD訓練動態

? 【導讀】 AI理論再進一步，破解ChatGPT指日可待？ Transformer架構已經橫掃了包括自然語言處理、計算機視覺、語音、多模態等多個領域，...

2023-06-12 標簽：Transformer自然語言ChatGPT 1.5k 0

如何設計一款好的電源產品？

電氣化社會下電源無處不在，不同種類的電源技術在最初的發電側到終端芯片都扮演著重要的角色，一款高度集成的電子產品中電源系統的設計甚至占到了總設計量的50%...

2024-01-04 標簽：adi電源技術電源產品 1.5k 0

向量數據庫是如何工作的？

向量數據庫和 Embedding 是當前 AI 領域的熱門話題。

2023-06-18 標簽：ChatGPT 1.5k 0

語言大模型內部究竟是如何工作的？

當ChatGPT在去年秋天推出時，在科技行業乃至世界范圍內引起了轟動。當時，機器學習研究人員嘗試研發了多年的語言大模型（LLM），但普通大眾并未十分關注...

2023-08-23 標簽：神經網絡機器學習GPT 1.5k 0

邊緣生成式人工智能推理技術現狀

為了彌補性能上的不足，領先的半導體公司使用大量最好的硬件處理器構建系統。為此，他們在功耗、帶寬/延遲和成本之間進行了權衡。這種方法適用于算法訓練，但不適...

2023-09-28 標簽：處理器加速器AI 1.5k 0

大語言模型推斷中的批處理效應

隨著開源預訓練大型語言模型（Large Language Model, LLM ）變得更加強大和開放，越來越多的開發者將大語言模型納入到他們的項目中。其...

2024-01-04 標簽：語言模型機器學習LoRa 1.5k 0

一款整合了ChatGPT的源IP掃描工具

由于該工具基于純Python 3開發，因此我們首先需要在本地設備上安裝并配置好Python 3環境。接下來，廣大研究人員可以使用下列命令將該項目源碼克隆至本地

2023-10-16 標簽：漏洞數據集ChatGPT 1.5k 0

2023算力研究：計算、存儲、網絡、軟件

計算：GPU是ChatGPT訓練和推理的核心支柱，其更新速度遠超過“摩爾定律” ，受益于AI和高性能市場需求增長，GPU行業景氣度顯著提升。AI服務器作...

2023-06-15 標簽：gpu算力ChatGPT 1.5k 0

有了chatGPT搞IT的是否要下崗了！看chatGPT怎樣寫代碼

能給我寫一個貪吃蛇游戲代碼嗎？ 當然可以！以下是一個簡單的貪吃蛇游戲的 Python 代碼示例： import pygame import random...

2023-07-24 標簽：IT人工智能代碼 1.5k 0

用C++構建自己的GPT文檔工具

雖然通過 Web 界面使用 ChatGPT 是一回事，但創建自己的自主 AI 工具，并通過其 API 與 ChatGPT 交互，則完全是另一回事，特別是...

2023-08-19 標簽：字符串C++模型 1.5k 0

用ChatGPT設計了一顆芯片

現代硬件設計始于以自然語言提供的規范。然后，在綜合電路元件之前，硬件工程師將其翻譯成適當的硬件描述語言（HDL），例如Verilog。自動翻譯可以減少工...

2023-06-19 標簽：芯片集成電路Verilog 1.5k 0

李德毅院士等：機器認知四要素說

認知的能力是學習的能力（即解釋、解決預設問題的能力），以及解釋、解決現實問題的能力[7]。所謂預設問題，通常來自現實問題，并已經被形式化，證明有了行之有...

2023-09-05 標簽：gpu機器智能ChatGPT 1.4k 0

用AI來寫Verilog代碼能行嗎

最近ChatGPT大火，成功破圈，到底是什么？怎么使用？ 簡單說，它是一個模型，一個語言模型！ **它是以對話方式與人進行交互的AI語言模型...

2023-05-05 標簽：VerilogAI代碼 1.4k 0