日前，國家級AI頂級盛會——2024世界人工智能大會（簡稱“WAIC 2024”）現(xiàn)場，墨芯人工智能展出的最新智能客服系統(tǒng)和高性能計算卡S40，為參會觀眾呈現(xiàn)了一場科技饕餮盛宴。

01墨芯智能客服系統(tǒng)

“懂你所說” 才能順暢溝通

在WAIC 2024現(xiàn)場，「墨芯智能客服系統(tǒng)」以其“聰明聽得懂人話”的體質，吸引了眾多觀眾粉。這款AI客服不簡單：在錄入基礎知識庫的前提下，既能夠有針對性地迅速回答相關問題，還能通過實時人工審核與干預，提供更加精準和人性化的回復。

在AI客服日益普及的今天，各行業(yè)的智能客服通過自然語言處理和語音識別技術，有效提升了服務效率。然而，當遇到行業(yè)專業(yè)性極強的問題時，傳統(tǒng)AI客服的“智能”有時顯得力不從心，甚至出現(xiàn)答非所問、胡編亂造事實、模板化明顯等“智障”的窘境。為解決這一痛點，墨芯智能客服系統(tǒng)通過自研AI計算卡S30、開源模型Llama3-70B，以及自研的開發(fā)框架AgenDA，為智能客服注入了“超級大腦”——通過優(yōu)化智能客服系統(tǒng)的算法，顯著提升其對用戶需求的理解能力。

AgenDA 是墨芯自研的大型語言模型應用程序開發(fā)框架，可作為市面上其它同類產品的超集（如：LangChain）。AgenDA 原生支持RAG（Retrieval-Augmented Generation，檢索增強生成）技術，內置多種不同功能的 Function, 每個 Function 都具備獨特的邏輯處理能力（如：索引、排序、多輪對話等），做到開箱即用，并采用鏈式調用機制共同構建起一個功能完備的大模型應用。

墨芯基于該框架進行拋磚引玉，以業(yè)內常見的客服場景為例，這種設計讓AI客服“大腦”的運行過程更加透明，可直觀清晰地查看每一步的計算細節(jié)，便于及時糾錯和優(yōu)化，確?？头竽Ｐ蜕蛇^程可見可控、有跡可循，不再是“開盲盒”。

值得一提的是，「墨芯智能客服系統(tǒng)」的“超級大腦”——內置基礎知識庫不僅能自我學習和完善專業(yè)場景的知識內容，還能在人工審核輔助下，從對話的開始到大模型知識庫搜索、再到大模型對答案排序的每一個環(huán)節(jié)，都能夠進行精確調整和優(yōu)化。這種及時調優(yōu)和持續(xù)學習，讓AI客服的“大腦”越用越“聰明”，從而更好地理解和滿足用戶的個性化需求。

通過這種技術的應用， AI客服在應對高度專業(yè)化的咨詢時（如：醫(yī)學、健康、金融等領域），能夠提供更加精準可靠的解答。此外，在有效解決大模型幻覺問題的基礎上，增強了結果的可控性。

02墨芯S40計算卡

四芯聯(lián)動，算力爆表

除智能客服系統(tǒng)之外，墨芯還展出了另一款“硬核擔當”——S40計算卡。這款專注于數據中心AI推理應用的“超能戰(zhàn)士”，為處理大模型高吞吐量敏感場景而生，集成了四顆墨芯Antoum芯片，以其單卡強勁算力和高密度設計，為數據中心帶來了前所未有的處理效率。

除了前述這兩大亮點外，墨芯還帶來了一系列備受矚目的展品，包括：榮獲MLPerf國際基準測試冠軍的S30計算卡，這款產品以其卓越的性能在業(yè)界引起了廣泛關注。同時，墨芯還展出了創(chuàng)新的AI集成架構方案，這些方案以其高效和靈活性，為解決實際問題提供了全新的視角。

在WAIC 2024上，墨芯不僅展示了其技術實力，更以用戶為中心，深度聚焦大模型落地中實際遇到的困境，通過將稀疏算法與硬件緊密結合，提供了切實可行的行業(yè)解決方案，全面釋放了稀疏計算在大模型上的應用潛力，為行業(yè)交出了一份滿意的答卷。