2025年人工智能會發生哪些革命性的變化？斯坦福大學以人為中心的人工智能研究所的領先專家表示，2025 年人工智能的一個主要趨勢是協作人工智能系統的興起，其中多個專業代理協同工作，人類提供高級指導。這些設置設想人工智能團隊解決健康、教育和金融領域的復雜問題。其他學者預計，人機協作的新方法將出現，同時開發者將面臨證明人工智能實際效益的更大壓力。

此外，學者們警告說，生成式人工智能可能會增加復雜詐騙的數量，同時美國已經有限的監管可能會變得更弱。

以下是從計算機科學、醫學、政策和教育等領域的學者那里得到的更多預測。

人工智能代理，較少監管

我們真的會看到人工智能代理，已經在研究中已經看到了一些，但現在在學術和工業領域中看到了更多。基本上，如何將這些代理組合起來為你做事？我們現在看到了一些接口。例如，Anthropic 的 Claude 的一些 API 可以實際操作你的計算機來完成像安排會議或幫你購買機票這樣的事情。顯然，這存在一些風險——如果它們真的能夠使用你的計算機，它們可能會造成損害，可能會犯錯誤。因此，對于這種做法存在一些擔憂。但盡管這些工具的第一版并不成功，我們現在看到了更多的潛力。

另一個故事是趨同。大型模型正在緩慢改進。我們看到大型模型的發布速度比以前慢了，它們在某些基準測試上仍然令人印象深刻，但對于許多這些任務，它們的改進速度要慢得多。我們只是稍微變好了一點，是因為它們使用了這么多數據，也許合成數據并沒有像一些人所期望的那樣有效嗎？事實上，一些新的模型在某些任務上可能甚至更差。現在，有些人問，這是人工智能的冬天嗎？但這些模型可以做很多事情，所以我不認為這是冬天。但是，可能有些人會畫一條直線，認為人工智能將接管世界或能夠做一切，我認為這將需要更多的時間，直到有人在架構上取得重大突破。

最后，隨著新特朗普政府的到來，預計美國的人工智能監管將減少。我們已經沒有很多監管，但拜登政府的行政命令為美國政府設定了很多指導方針，這確實有影響，因為它是一個如此大的技術客戶。但預計特朗普政府將撤銷其中的一些。這并不意味著不會有人工智能政策或監管。我們只是會看到來自歐盟或其他參與者，如州級監管的政策。

——James Landay，HAI 聯合主任，計算機科學教授，工程學院的安德魯·拉賈拉曼和文基·哈里納拉揚教授

更多詐騙，更少消費者保護

我們將繼續看到生成式人工智能被濫用以幫助實施詐騙，尤其是在音頻深度偽造人的聲音方面。我預測，即將上任的政府將比當前政府更輕地保護公眾免受這些詐騙。如果聯邦貿易委員會退居二線，那么州總檢察長將在消費者保護中扮演更大的角色。銀行和其他金融機構，以及電話、電子郵件和互聯網服務的提供商，應加強努力教育客戶這些詐騙。特別是，他們（以及政府機構）應確保他們提供的資源不僅限于英語，因為英語使用者并非詐騙的唯一目標。

——Riana Pfefferkorn，HAI 政策研究員

“總承包商” LLMs

我們將開始看到由許多相互交流的人工智能系統組成的復雜問題解決系統。例如，想象一系列具有特定專業知識（微調）的大型語言模型結合在一起解決問題。在某些情況下，它們可能會相互協商；在其他情況下，它們將把任務交給“專家 LLMs”，后者將返回答案。因此，將有一種“總承包商” LLM 處理人類客戶，并將其中一些問題解決外包給其他具有專業知識的代理。這些系統首先出現的地方可能包括復雜模擬、健康決策制定、財務安排或教育項目。

——Russ Altman，HAI 副主任，工程學院的肯尼斯·方教授，以及生物工程學、遺傳學、醫學、生物醫學數據科學教授，（兼）計算機科學教授

教育人工智能中的健康懷疑主義

預計在教育領域將更多地關注多模態人工智能模型，包括處理語音和圖像。我們還可能看到新的教育特定或微調模型，以及所有這些，對實際有效的東西的懷疑和興趣增加——真正幫助學生更好地學習和教師更有效地教育的東西。

——Dorottya (Dora) Demszky，教育學助理教授，（兼）計算機科學教授

從 GenAI 定義價值

鑒于技術的快速發展和大量的資本投入，這些技術的開發者將面臨定義和驗證其預期效益的壓力。在醫療保健領域，對臨床效益的評估將更加嚴格（我們最近在《自然》雜志上寫過關于這一點），我們將不得不制定超越當前狹窄效率或生產力視角的思維方式。

我們的基礎模型研究中心的 HELM 項目所倡導的共享和透明的基準測試將成為主流，以便就使用生成式人工智能在醫療保健中的聲稱效益做出明智的決策。

——Nigam Shah，斯坦福大學醫學院醫學和生物醫學數據科學教授，斯坦福醫療保健首席數據科學家

人工智能代理協同工作

在 2025 年，我們將看到從依賴單一人工智能模型到使用多個具有不同專業知識的人工智能代理協同工作的系統的重大轉變。例如，我們最近介紹了虛擬實驗室，其中教授人工智能代理領導一組人工智能科學家代理（例如，人工智能化學家、人工智能生物學家）解決具有挑戰性的開放式研究問題，人類研究人員提供高級反饋。通過利用不同代理的跨學科專業知識，虛擬實驗室成功設計了新的納米抗體，我們驗證了這些納米抗體對最近的 SARS-CoV-2 變體具有有效的結合能力。展望未來，我預測許多高影響力的應用將使用這樣的 AI 代理團隊，這些團隊比單一模型更可靠、更有效。我特別興奮于人類領導一組多樣化 AI 代理的混合協作團隊的潛力。

——James Zou，生物醫學數據科學副教授，（兼）計算機科學和電氣工程副教授

重新思考人機協作

我們將體驗到圍繞人類如何與人工智能代理合作的研究新范式。識別人工智能和人類合作以實現集體智能的最佳方式將變得越來越重要。目前，人工智能系統大多被評估為支持自主設置的能力；我們將看到更多考慮人機交互和人機協作的評估基準和環境。隨著人工智能的發展，我們將繼續看到大量關于風險評估的工作。人工智能風險評估遠遠落后于人工智能能力發展研究。除了繼承傳統人工智能系統的這些風險外，基于 LLMs/VLMs 系統的廣泛采用還將放大其中一些風險并引入新的風險。

——DiYi Yang，計算機科學助理教授