電子發燒友網綜合報道 近期，加拿大多倫多初創公司Taalas正式發布首款AI推理芯片HC1，將大模型權重直接蝕刻到芯片的金屬互連層中，實現推理速度達17000 tokens/秒。

Taalas 于 2023 年成立，由 Tenstorrent 前聯合創始人、前 AMD 和英偉達架構師柳比薩?巴伊奇（Ljubisa Bajic）攜手工程師 Drago Ignjatovic、Lejla Bajic 共同創立。目前，Taalas 已通過三輪融資籌集超 2 億美元。

巴伊奇曾主導 Tenstorrent 可擴展 AI 加速器研發，2023 年 3 月離開后創立 Taalas，其核心使命是“將人工智能商品化”。他表示：“人工智能像電力，是不可或缺的必需品，必須向所有人提供。而實現這一目標需要對計算能力和效率進行 1000 倍提升，靠當前漸進式手段無法達成。”

這種“非漸進式”思路，使 Taalas 一開始就走上與英偉達對立的道路。2023 年 8 月至 2024 年 3 月，Taalas 完成兩輪融資，首輪 5000 萬美元由皮埃爾?拉蒙德和 Quiet Capital 牽頭，后續融資讓公司總估值達 2.19 億美元。投資人皮埃爾?拉蒙德評價團隊經驗業內頂級，認為其方向能實現 1000 倍成本改善，推動 AI 成為基礎設施級能力。

?

Taalas宣稱的1000倍效率提升，并非故弄玄虛，而是源于對傳統AI芯片架構的徹底革新。不同于通用GPU“內存加載模型、軟件調度運行”的模式，Taalas采用“Model Based”架構，將特定大模型的訓練結果直接固化在晶體管層面，構建出物理意義上的“硬核模型”。

其HC1芯片運用臺積電6nm工藝與Mask ROM技術，把Llama 3.1 8B模型的權重硬編碼在硅片上，從物理層面消除計算與存儲間的數據搬運。據Taalas公布的數據，HC1的token處理速度約為英偉達B200的48倍，硬件成本僅為傳統GPU方案的1/20，功耗降至1/10，且無需液冷和HBM顯存，僅靠空氣冷卻就能運行。

不過，極致性能的代價是通用性的完全喪失。HC1只能運行特定的Llama 3.1 8B模型，模型更新芯片就需重新流片。Taalas雖宣稱能將新模型轉化為定制芯片的周期壓縮至兩個月，但在AI模型快速迭代的當下，這仍是該方案面臨的核心挑戰?！耙荒Ｐ鸵恍酒蹦Ｊ揭罂蛻魧μ囟Ｐ烷L期承諾，一旦行業轉向全新架構，現有專用硬件將迅速貶值。Taalas的應對之策是押注Llama等開源架構的長期主導地位，同時借助LoRA微調技術優化芯片固化模型的適應性。

生態系統短板也是Taalas的一大難題。英偉達的優勢在于CUDA軟件生態和開發者的深度依賴，而Taalas的專用芯片缺乏配套開發工具鏈，開發者需重新適配，這提高了客戶的遷移成本。如何快速構建自身生態，成為Taalas能否規?；涞氐年P鍵。

實際測試中，HC1雖能“2000字回復秒出”，但回復質量存在明顯缺陷，簡單運算出錯，復雜問題“胡編亂造”。根源在于初代產品采用的定點數格式無法滿足復雜推理的精度需求。為應對此問題，Taalas已規劃第二代產品HC2，將改用標準4 - bit浮點格式改善精度，同時將模型支持規模提升至200億參數，計劃2026年底前覆蓋GPT - 5級別系統。

中國科學院計算技術研究所副研究員趙永威高度評價這一技術路線，認為雖目前Taalas尚無應用價值，但會成為有歷史意義的芯片，這種硬連線模式是未來芯片發展趨勢，Taalas扛起質疑，將讓后來者推廣相關概念更輕松。

隨著AI發展重心從訓練轉向推理，定制化AI芯片正"脫穎而出"。在AI推理芯片賽道上，Taalas并非唯一的探索者。Etched將Transformer架構固化為ASIC電路，Groq以純SRAM架構打造LPU，Cerebras則將整塊晶圓作為單顆芯片，各家都在通過放棄某一傳統設計要素，換取推理環節的性能突破。