案例簡介

本案例介紹了 NVIDIA 在加速識因智能 AI 大模型落地應用方面的重要作用。生成式大模型已廣泛應用于各領域，通過學習人類思維方式，能快速挖掘海量內容，滿足不同需求。識因智能依托 NVIDIA 的生態工具，提高了大模型在行業應用中的性能和效率，加速了產業數字化轉型的進程，為客戶提供更精準、智能的解決方案。

生成式大模型在現代得到了廣泛的普及和應用，并引領一場翻天覆地的技術革新，大模型已經被各個領域的研究者、工程師和創作者使用，其通過學習人類思維方式，能夠快速完成海量內容挖掘，并以低成本、高效率的生產方式滿足差異化需求。在自然語言處理方面，這些模型可以用于文本生成、對話系統、文本摘要、翻譯等任務。此外，生成式大模型還被用來生成代碼、設計藝術作品、創作音樂等，拓展了創意產出的可能性。在教育、醫療保健、金融等領域，這些模型也發揮著重要作用，幫助人們更高效地獲取信息、做決策以及解決問題。

識因智能作為深耕自然語言處理領域多年的科技研發型企業，擁有自研的一葉輕舟大模型，在政府管理、工業、金融業、零售業等產業領域的 AI 對產業賦能方面，積累了豐富的解決方案經驗和研發落地經驗。為了滿足不同客戶的應用場景和不同的用戶需求，借助 NVIDIA 生態工具中推理架構的支撐，識因智能的一葉輕舟大模型得以更高效地進行推理和部署，進一步提升了在行業應用中的性能和效率。

與 NVIDIA 生態的合作也為識因智能提升了技術競爭力。通過整合 NVIDIA 強大的 GPU 加速計算能力，一葉輕舟大模型在各個行業中展現出更加出色的性能表現，并為客戶提供了更快速、精準的解決方案。這種生態合作不僅加速了人工智能技術在實際應用中的落地，也推動了產業數字化轉型的進程，為產業帶來更多創新方案和競爭優勢。

TensorRT LLM賦能一葉輕舟大模型加速推理

TensorRT LLM基于 NVIDIA CUDA 的并行編程模型構建，能夠在 NVIDIA GPU 上使用量化、層和張量融合、內核調整等技術來優化推理。識因智能通過引入 NVIDIA TensorRT-LLM ，針對一葉輕舟大模型進行加速推理，整體推理性能提高了 6 倍左右，在大模型的推理過程中顯著減少時間和資源投入，實現更快速、更可靠的推理預測。

大模型在諸如自然語言處理、計算機視覺等領域中扮演著日益重要的角色，TensorRT-LLM 的優化加速為這些領域帶來了前所未有的性能提升和效率提高。識因智能在從智能客服到影像判別，從金融風控到工業生產優化等的各個產業方向上，通過大模型的高效推理，為客戶帶來更精準、更智能的解決方案。

助力識因智能加速產業 BI 的解決方案

NVIDIA RAPIDS 開源平臺的核心是一套 CUDA 加速庫，用于完全在 GPU 上執行數據科學流程，如數據分析、機器學習和數據可視化，為最流行的 Python 數據科學工具鏈帶來了 GPU 提速。識因智能通過引入 NVIDIA RAPIDS，結合自研的數據任務調度引擎和業務分析引擎，提供了高效的產業數據分析平臺，在典型的海量數據分析流程中的數據準備、數據聚合和數據計算三個主要步驟上，可以提升 50 倍左右的運行速度。

通過產業數據分析平臺，數據分析師、運營人員、決策人員等都能夠方便快捷地動態定義指標和報表，進行批量化、多變量的數據計算和分析，便于及時發現行業趨勢、深入了解市場需求、了解企業經營狀況、優化產品和服務策略、制定精準的營銷方案、提高企業競爭力和效益。產業數據分析平臺通過幫助用戶更加敏銳地洞察企業經營狀況和產品市場動態，從而做出迅速而準確的決策，實現智能化經營管理，促進企業持續高效發展。

NVIDIA 初創加速計劃

2023 年，識因智能加入了 NVIDIA 初創加速計劃，在技術、市場等方面與 NVIDIA 有更多的交流與合作。作為 AI 產業賦能的科技供應商，識因智能致力于成為引領自然語言處理與人工智能技術融合創新的領航者，通過不斷推動技術創新助力產業解決方案落地，并致力于為各產業提供高效、智能的 AI 解決方案，助力客戶實現數字化轉型和業務發展。

未來，識因智能將繼續加大在大語言模型領域的研發投入，并探索更多前沿技術的應用場景。除了持續優化一葉輕舟大模型的性能和功能，識因智能還計劃拓展科技產品線，開發更多基于 AI，尤其是多模態數據理解的解決方案，以滿足不同行業的需求。同時，識因智能將深化與合作伙伴，尤其是 NVIDIA 等的合作，共同推動人工智能技術的發展，并為客戶提供更全面、先進的 AI 服務，助力他們在競爭激烈的市場中取得成功。

NVIDIA 初創加速計劃

識因智能是 NVIDIA 初創加速計劃 (NVIDIA Inception) 會員企業。NVIDIA 初創加速計劃為免費會員制，旨在培養顛覆行業格局的優秀創業公司。該計劃聯合國內外知名的風投機構、創業孵化器、創業加速器、行業合作伙伴以及科技創業媒體等，打造創業加速生態系統。能夠提供產品折扣、技術支持、市場宣傳、融資對接、業務推薦等一系列服務，加速創業公司的發展。

審核編輯：劉清