人工智能是國家戰略的重要組成部分，是未來國際競爭的焦點和經濟發展的新引擎。近年來，中國陸續出臺了多項政策，鼓勵人工智能行業發展與創新，《關于支持建設新一代人工智能示范應用場景的通知》、《關于加快場景創新以人工智能高水平應用促進經濟高質量發展的指導意見》、《新型數據中心發展三年行動計劃 ( 2021-2023 年 ) 》等產業政策都為人工智能產業發展提供了長期保障。

人工智能技術可能會給未來的社會治理帶來哪些新挑戰？人工智能發展的下一步會走向何方？財新智庫《數字時代，請回答！》邀請中國新一代人工智能發展戰略研究院執行院長、南開大學學術委員會主任龔克分享了他的思考與回答。

人工智能正在全球各個國家、各個產業大行其道，您眼中的人工智能的發展邏輯和路徑是怎樣的？

龔克：近年來，人工智能有成果性突破的技術是大規模人工神經網絡預訓練模型。

所謂大規模，體現在網絡參數特別大，即使用的神經元和層數特別多。2020年5月份，語言訓練模型GPT-3達到了1750億個參數，隨后，網絡參數的規模又迅速攀升，達摩院的M6已經超過了10萬億，逼近百萬億的量級。清華和達摩院合作的八卦爐已經達到了150萬億之上，直逼人類神經元的數量級。

可以看出，大規模的訓練模型的快速發展，使得人工神經網絡技術已產生量變到質變的突破。

從單媒體到跨媒體，從認知功能到生成功能，這無疑是未來人工智能的發展路徑。舉個例子，我們看到冬奧的播報，有聲音，有字幕，還有手語的呈現，便是跨媒體人工智能的配合。

另外，在大模型發展的同時，類腦計算等輕小模型也取得了重大發展。比如清華大學無人駕駛自行車登上《自然》雜志封面，這輛自行車不僅可以響應聲控、加速轉彎，還可以自主避障、進行S型路線跟蹤等。

這并不是說大規模神經網絡做不到，但其妙就妙在用小規模的類腦模型做到了，且融合在一個芯片上變成實用系統，因此被《自然》雜志稱為重大的進展。這也是人工智能的發展路徑。

未來，大模型和小模型可以結合起來，或許又是一條發展路徑。而這些路徑背后的邏輯，就是應用牽引與技術驅動的結合。

快速迭代的AI技術為我們打開了更加多彩也更加復雜的新視界。這些全新的技術正在如何走進我們的現實世界呢？

龔克：近年來引人注目的應用進展就是AI用于科學研究的進展。比如在生命科學領域，Alphafold的蛋白質折疊的預測，實踐證明達到了出乎意料的預測結果，成為了蛋白質科學新的非常重要的工具。不僅是AlphaFold，還有RoseTTAFold也發表在《自然科學》雜志上，達到了非常好的性能。

數學研究領域，利用AI算法有兩個重大成果：一是拓撲學新定理，二是提出了代數表示論新的猜想。這都是過去人要用長時間的研究才能做到的。不久前，《自然》雜志又發表了一篇文章，是用人工智能深度學習算法提出了代數方程的最優解法。這比幾十年前獲得菲爾斯獎的成果又進了一步。

物質科學領域，有個軟件叫FermiNet，可以近似計算薛定諤方程。我們知道薛定諤方程是微觀物理學的基本方程，但是它幾乎很難在一個真實的材料上求解。現在人工智能的算法有助于求解密度泛函，是我們求解薛定諤方程非常重要的做法。

技術科學應用領域，去年在美國DESIGN AUTOMATION大會的三個獎都用了AI設計方面。從架構搜索到電阻晶體管邏輯的綜合，對整個設計進行驗證，最后做布線的布局，都用上了機器學習。

AI在生命科學、技術科學、物質科學、數學上的成功應用不可小覷，它促進了科技第一生產力自身的發展，進而會推動加速整個經濟社會的進展。

每一次重大的技術革命和產業革命，都不可避免地孼變出“負面效應”。人工智能技術可能會給我們未來的社會治理帶來哪些新挑戰？人工智能發展的下一步會走向何方？

龔克：這是個十分現實的科技發展與社會治理方面的問題。

2021年11月23號，聯合國教科文組織發布了第一份《人工智能倫理建議書》。建議書中提出了關于人工智能治理四項重要的核心世界觀：保護人權，保護環境和生態多樣性，保護社會的多樣性和包容性，保護和平、公正和互聯。在這個價值觀基礎上，又提出了10項原則以及11個政策實施領域。

但所有這些好的觀念和方案，怎么能夠真正形式化地被計算機所理解？如何植入到人工智能的應用系統里面去，并實現人工智能的倫理化？這些都是非常現實而且重大的挑戰。

對于人工智能發展的下一步，我想結合前面的幾個例子談三點：

第一，深度神經網絡預訓練大規模繼續發展的同時，跨模態認知和生存能力更加強大的同時，類腦計算等輕小強新算法創新將更加活躍。大模型與小模型形成云邊相互結合，這可能會形成一個新的發展趨勢。

第二，在這個基礎上，以數據驅動為特征的第二代AI現在正在可能向著“數據+知識”驅動的第三代人工智能演進。如果這樣演進，人工智能在可解釋性以及可預測性方面都會取得重大進展，將從根本上提升AI的可信度。

第三，AI的“兩化”，它的工程化和倫理化，勢在必行。工程化可降低AI融入千行百業的門檻，倫理化將驅動隱私計算等系列AI技術的發展。

編輯:黃飛

?