新平臺通過實際工作負載仿真，對AI推理基礎設施進行大規模驗證與優化；將于NVIDIA GTC大會上在NVIDIA DSX Air數字孿生環境中進行現場演示

是德科技（NYSE: KEYS）近日推出KAI推理構建器（Keysight AI Inference Builder），這款仿真與分析平臺旨在大規模驗證針對推理進行優化的AI基礎設施。是德科技將在NVIDIA GTC大會上展示該解決方案，并演示其在NVIDIA DSX Air AI工廠仿真環境中的運行情況，實現對AI數據中心的基礎設施、架構和性能進行建模與優化。

KAI推理構建器是一款仿真與分析平臺，旨在真實并發、真實規模和真實工作負載多樣性的條件下，驗證 AI 推理基礎設施

隨著AI行業從大語言模型（LLM）的訓練轉向部署，推理優化已成為影響投資回報率的關鍵因素。然而，推理行為具有高度動態性，難以進行仿真。傳統的測試方法（如合成流量生成或GPU基準測試）無法準確再現AI推理在計算、網絡、內存、存儲和安全層面上的時延敏感工作負載行為。

KAI推理構建器通過重現實際推理工作負載模式，并建模行業特定的使用模式，填補了這一空白，對AI基礎設施、應用和數據中心部署進行驗證。該平臺為AI云服務提供商、硬件供應商和應用開發人員提供了一個可擴展的解決方案，用于測量、驗證和優化實際環境中的推理性能。

KAI推理構建器的主要優勢包括：

?專為推理時代打造：作為是德科技人工智能（KAI）產品組合的一部分，KAI推理構建器能夠仿真大規模AI推理工作負載，并在實際環境中驗證全棧部署，從而優化性能、擴展性和安全性。

?面向行業與應用的特定基準測試：區別于通用仿真方式，KAI推理構建器可針對金融、醫療及其他垂直領域的AI模型，仿真行業特定的使用模式和LLM架構，使企業能夠對不同類型AI數據中心部署中的基礎設施和應用行為進行建模與分析。

?端到端驗證與優化：KAI推理構建器評估從用戶請求到模型響應的整個推理工作流，通過在計算、網絡和安全層早期識別并解決瓶頸，幫助團隊減少昂貴的返工。

?子系統隔離與精準根因定位：KAI推理構建器還支持僅客戶端仿真，可在AI基礎設施堆棧承受負載時，定位性能瓶頸的出現位置，從而實現針對性優化，減少資源過度配置，降低成本并提升整體效率。

?NVIDIA DSX Air集成與GTC現場演示：在NVIDIA GTC大會上，是德科技將展示KAI推理構建器與NVIDIA Air開箱即用的集成能力，通過在NVIDIA數據中心仿真環境中生成真實的推理工作負載，使運維人員能夠在部署物理設備前對推理基礎設施進行驗證。

是德科技網絡測試與安全解決方案副總裁兼總經理Ram Periakaruppan表示：“推理是釋放AI投資回報率的關鍵，但如果系統資源在容量和性能方面未得到優化，就很難實現這一目標。KAI推理構建器提供可見性，全面展示實際環境中的全棧推理性能，使客戶在硬件上架前即可驗證并優化部署方案。本次在NVIDIA GTC大會上使用NVIDIA Air平臺展示這一功能，將展示企業如何在降低風險和成本的同時，加速邁向生產。”

NVIDIA網絡業務副總裁Amit Katz表示：“隨著AI數據中心規模擴展至前所未有的水平，部署前驗證已從最佳實踐轉變為關鍵任務要求。KAI推理構建器與NVIDIA DSX Air的集成，為消除性能波動提供了關鍵環境支持，幫助NVIDIA AI工廠合作伙伴和客戶能夠仿真實際推理工作負載，并預先解決瓶頸，確保經過優化的AI服務能夠快速推向市場。”

3月16日至19日，在圣何塞舉行的NVIDIA GTC大會上，是德科技將在NVIDIA展臺的C101展位以及是德科技展臺（3217）展示KAI推理構建器，包括NVIDIA Air AI工廠的仿真演示。

關于是德科技

是德科技（NYSE：KEYS）啟迪并賦能創新者，助力他們將改變世界的技術帶入生活。作為一家標準普爾 500 指數公司，我們提供先進的設計、仿真和測試解決方案，旨在幫助工程師在整個產品生命周期中更快地完成開發和部署，同時控制好風險。我們的客戶遍及全球通信、工業自動化、航空航天與國防、汽車、半導體和通用電子等市場。我們與客戶攜手，加速創新，創造一個安全互聯的世界。