據報道，3 月 7 日，AMD 正式宣布用戶可本地運行基于 GPT 的大規模語言模型 （LLM），打造專屬的AI聊天機器人。該動作，適用于采用全新 AMD XDNA NPU的Ryzen 7000及Ryzen 8000系列APU及內嵌AI加速器的Radeon RX 7000系列GPU。

AMD詳述運行步驟，如在搭載70億參數的Mistral機器上，需尋找并下載“TheBloke / OpenHermes-2.5-Mistral-7B-GGUF”；若選擇運行70億參數的LLAMA v2，須檢索并下載“TheBloke / Llama-2-7B-Chat-GGUF”。

值得注意的是，AMD并非首家推行此類舉措的廠商。據了解，近期英偉達（NVIDIA）亦推出了“Chat with RTX”人工智能聊天機器人，利用GeForce RTX 40與RTX 30系列GPU提供TensorRT-LLM功能集服務，根據本地化數據集快速生成AI結果。