【AIBOX】裝在小盒子的AI足夠強嗎？
Firefly推出大語言模型本地部署的產品：AIBOX-1684X，目前已適配主流的大語言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實機演示：ChatGLM3-6B采用更多元的訓練數據和策略，在不同角度的數據集，采用了全新設計的Prompt格式，支持工具調用(Function Call)、代碼執行(Code Interpreter)和Agent任務等復雜場景
性能實測結果
更強大的基礎模型
ChatGLM3-6B (Base) 在選取的8個中英文典型數據集中進行性能測試：
在語義、數學、推理、代碼、知識等不同角度的數據集上測評顯示，ChatGLM3-6B-Base具有在10B以下的基礎模型中最強的性能
更全面的開源序列
除了對話模型ChatGLM3-6B外，還開源了基礎模型ChatGLM3-6B-Base、長文本對話模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench評測集上對模型進行測試：
在多個長文本應用場景下的估測試中，與二代模型相比，其效果平均提升程度大于50%。在論文閱讀、文檔摘要和財報分析等應用中，提升尤為顯著
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
AI
+關注
關注
91文章
39755瀏覽量
301358 -
語言模型
+關注
關注
0文章
571瀏覽量
11310 -
Firefly
+關注
關注
2文章
547瀏覽量
9110
發布評論請先 登錄
相關推薦
熱點推薦
龍芯中科3B6000M芯片成功部署OpenClaw開源AI智能體
3B6000M 芯片的“小盒子”，成功完成了 OpenClaw 的本地化部署。這不僅意味著國產芯片在 AI 算力適配上的重大突破，更讓“低成本、高安全”的本地 AI 數字員工成為觸手可及的現實。
華陽通用AIBOX車載AI計算平臺獲得國內頭部自主品牌車企項目定點
近日，由ADAYO華陽集團旗下全資子公司華陽通用推出的華陽AIBOX高性能車載AI計算平臺，獲得國內頭部自主品牌車企的核心智能化項目定點。該項目的落地，標志著端側大模型在前裝量產場景中的應用邁出關鍵一步，也為獨立車載AI
中科創達量產版AIBOX-N1亮相CES 2026
在2026國際消費電子展（CES）現場，中科創達圍繞“AI定義汽車”核心趨勢，正式亮相基于NVIDIA Drive AGX Orin打造的量產版AIBOX-N1。當前，該產品已具備向主機廠批量供貨的能力，這也標志著智能汽車AI大
如何用FCU3501 AI邊緣計算盒子，打造智慧工廠的視覺分析核心？
飛凌嵌入式FCU3501 AI邊緣計算盒子，憑借“高可靠架構、強算力支撐、零門檻部署”的多重優勢，能夠為深陷轉型困境的行業打造智慧工廠視覺質檢與安全生產一體化系統，成為突破困局的關鍵動能。
低成本AI邊緣計算盒子DIY：基于迅為RK3568和開源模型，輕松玩轉智能識別
低成本AI邊緣計算盒子DIY：基于迅為RK3568和開源模型，輕松玩轉智能識別
國產超新星｜EA500I PRO智能工作站：小盒子大能量，千元級解鎖大模型
隨著AI從小模型向大模型的加速滲透，算力已成為企業構建智算能力的核心關鍵。對于渴望切入AI賽道的中小企業，既具備成本優勢又能快速部署的邊緣計算盒子，無疑是理想的選擇；但市場上超100T算力的邊緣計算
一文了解ai計算盒子（邊緣計算盒子）是到底是什么產品？
在物聯網與人工智能深度融合的當下，數據處理的效率和實時性成為各行業數字化轉型的關鍵。ai計算盒子（又稱邊緣計算盒子、ai邊緣計算盒子）作為連
AI邊緣計算盒子連接不同的傳感器，分別能實現什么功能？
AI邊緣計算盒子也被稱作“邊緣計算服務器”或“邊緣計算網關”，它能夠實現數據的實時采集、高效處理和智能分析，更能連接各種傳感器，實現更多與周圍環境相關的智能互動，延伸更多的功能。下面就讓天波小編為
中科創達與吉利汽車、NVIDIA聯合發布創新產品AIBOX
產品AIBOX。該方案依托中科創達滴水AIOS和NVIDIA DRIVE AGX車載計算平臺，首次實現7B大模型在車端實時流暢運行，打造了真正的AI座艙，標志著汽車產業正式進入AI大模型實車量產時代。
產品案例 | 遛“狗”新方式，盒子來幫忙
當一只機器狗被一個巴掌大的小盒子操控，躲避障礙、跟隨指令完成轉身、停止等動作時，圍觀人群紛紛發出驚嘆：“這么小的盒子，居然能‘溜’機器狗？”。這個“小盒子”，正是機器狗的“智慧大腦”，它憑借強大
邊緣AI盒子技術解析：ASIC/FPGA/GPU芯片及邊緣-云端協同與自適應推理
? 電子發燒友網綜合報道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數據處理能力的硬件設備，部署在數據源的邊緣側，如工廠、商場、交通路口等，能在本地進行數據采集、預處理、分析和決策，無需將所有
AIBOX 產品矩陣：支持主流大模型的私有化部署，滿足個性化 AI 應用需求
AIBOX系列產品具備高性能、低功耗、環境適應性強等特點，算力覆蓋6-157TOPS，通過搭配多樣化深度學習算法，體積小巧，能夠支持主流大模型的私有化部署，為多個智慧行業進行數字化賦能。目前
傳統攝像頭為什么需要升級為AI盒子？多場景痛點解析
在安防監控、智慧零售、工業檢測等領域，傳統攝像頭長期以來承擔著視頻采集的任務，但隨著AI技術的快速發展，單純依賴“看得見”的攝像頭已無法滿足智能化需求。AI盒子（智能視頻分析終端）的出現，讓傳統監控
AIBOX 新成員，搭載 RK3588S 芯片全新上線
AIBOX產品矩陣再添新成員——AIBOX-3588S，支持AI大模型私有化部署，支持32GBLPDDR5超大內存，廣泛適用于邊緣計算、大模型私有化部署、智能安防、智能家居、智能工業等領域。八核
自制1個指紋保險箱，不到100元就能擁有！
| 實用至上，點亮便利生活，此前就一直想著給小朋友做一個小盒子，正好借這個機會忙里偷閑參與到活動當中，再體驗一下電子 DIY 的樂趣。 本次制作了一個稍微實用價值的指紋開鎖小盒子，旨在為日常生活中的物品收納提供更安全、便捷的解決方案。 1、設計
工商網監
評論