吉林大學校長、中國科學院院士、期刊主編張希教授曾為中國化學會刊物CCS Chemistry 2024年第9期撰寫了一篇關(guān)于人工智能（AI）在科學研究中應用的社論，現(xiàn)節(jié)選相關(guān)部分，希望與青年教師和學生分享，供大家學習和交流。

原文（節(jié)選）如下：

“ 面對人工智能，我們必須秉持批判性態(tài)度。深入思考其輸出內(nèi)容的內(nèi)涵，探究分析所基于的數(shù)據(jù)集，以及評估輸出結(jié)果的質(zhì)量。” 2016年諾貝爾化學獎得主Ben L. Feringa 的這番話，如警鐘長鳴，時刻提醒著我們在科技浪潮中保持理性。

在當今時代，生成式人工智能（AI）和大語言模型（LLM）已如潮水般涌入我們生活的每一個角落。從日常接觸的圖像生成、醫(yī)療診斷輔助，到天氣預報的精準預測；從職場中的績效評估，到交通出行的智能調(diào)度，乃至處于前沿的科學研究領(lǐng)域，人工智能的身影無處不在，展現(xiàn)出無可比擬的巨大影響力。

以化學領(lǐng)域為例，人工智能的介入帶來了變革。在有機合成中，它能夠快速且精準地優(yōu)化合成路線，大大提高了實驗效率；計算化學里，借助人工智能強大的運算能力，計算變得更加迅速、結(jié)果也更加精確；材料科學方面，人工智能可以從海量數(shù)據(jù)中篩選并生成潛在的候選材料；催化領(lǐng)域，它為先進催化劑的合理制備提供了全新的思路和方法。然而，盡管部分研究人員已經(jīng)將人工智能融入日常工作，但仍有許多人在摸索如何更高效、更有建設(shè)性地運用這一技術(shù)，使其更好地服務于科研和學術(shù)交流。

大語言模型作為人工智能的重要分支，屬于典型的 “黑箱” 系統(tǒng)。它通過對海量語音和文本數(shù)據(jù)的深度學習，實現(xiàn)對語言的理解與處理。經(jīng)過復雜的數(shù)據(jù)處理、組織、重構(gòu)和分析流程，大語言模型能夠生成新的文本內(nèi)容。但不容忽視的是，像ChatGPT（OpenAI開發(fā)）、文心一言（百度開發(fā)）這類廣為人知的大語言模型，其輸出質(zhì)量在很大程度上受制于訓練數(shù)據(jù)的類型、質(zhì)量和覆蓋范圍。這就導致在實際應用中，尤其是涉及科學領(lǐng)域時，模型的分析結(jié)果往往受到訓練過程中語言和邏輯輸入的局限。在日常通信場景下，大語言模型或許能憑借豐富的數(shù)據(jù)儲備給出較為合理的回應，但一旦面對科學研究中那些復雜、微妙的概念、成果解讀，其數(shù)據(jù)的局限性便會暴露無遺，不僅相關(guān)信息匱乏，甚至可能因關(guān)鍵信息缺失而產(chǎn)生誤導性結(jié)論和錯誤輸出。正如ChatGPT自己所承認的：“人工智能系統(tǒng)的性能優(yōu)劣，完全取決于其訓練數(shù)據(jù)的質(zhì)量。”

基于上述情況，雖然人工智能和大語言模型在日常生活和諸多領(lǐng)域展現(xiàn)出巨大的應用潛力，但在科學手稿的全面評審工作中，依賴它們是極不明智的選擇。作為編輯，我們在工作中曾收到過內(nèi)容空洞、缺乏深度的手稿評審意見，種種跡象表明，這些意見很可能是由大語言模型生成的。在此，我們鄭重呼吁廣大讀者和科研工作者，當受邀參與并同意對手稿進行同行評審時，務必堅守專業(yè)底線，切勿依賴大語言模型完成評審工作。

事實上，包括中國化學會（CCS）在內(nèi)的眾多學術(shù)出版機構(gòu)，都明確禁止使用人工智能進行手稿評審。其中最關(guān)鍵的原因在于，將未發(fā)表的手稿內(nèi)容上傳至大語言模型，嚴重違反了學術(shù)保密原則。一旦手稿信息被上傳，大語言模型便有可能將這些尚未公開的內(nèi)容泄露給公眾。這意味著原本應由評審人嚴格保密的手稿內(nèi)容，被第三方獲取，從而極大地損害了手稿作者的權(quán)益，破壞了學術(shù)研究的嚴謹性和保密性。單從這一原則層面來看，利用大語言模型撰寫評審意見無疑是對學術(shù)規(guī)范的公然踐踏。

即便上述理由還不足以讓您對使用大語言模型加速手稿（或提案）評審的行為保持高度警惕，那么大語言模型自身存在的局限性也應當引起您的足夠重視。ChatGPT曾明確指出：“雖然人工智能在處理和分析大量數(shù)據(jù)方面具有顯著優(yōu)勢，但在科學研究論文的評審工作中完全依賴它，會帶來一系列風險。人工智能缺乏人類評審員所具備的對科學背景、研究方法以及創(chuàng)新理念的深刻理解和敏銳洞察力，難以準確評估研究的原創(chuàng)性和理論貢獻，常常會忽略那些對論文質(zhì)量和學術(shù)價值起著關(guān)鍵作用的微妙之處。此外，人工智能系統(tǒng)受限于訓練數(shù)據(jù)的范圍和質(zhì)量，可能會不自覺地延續(xù)數(shù)據(jù)中的偏差，甚至對那些不符合傳統(tǒng)模式的創(chuàng)新研究方法視而不見。而人類評審員憑借豐富的經(jīng)驗和批判性思維，能夠從技術(shù)和理論等多個層面，對研究進行全面、深入、嚴格的評估，這對于維護科學知識的準確性、完整性以及推動科學進步至關(guān)重要。因此，人工智能在科學研究領(lǐng)域，尤其是同行評審過程中，只能作為輔助工具，絕不能取代人類的專業(yè)判斷。”

顯而易見，至少在目前階段，ChatGPT等大語言模型還遠遠無法達到科學同行評審所要求的專業(yè)標準。科研工作者們彼此是學術(shù)道路上的同行伙伴，我們應當以尊重和嚴謹?shù)膽B(tài)度對待每一份來自同事的手稿。嚴格遵守保密原則，投入足夠的時間和精力進行評審，給予他人的研究成果以我們期望自己作品能得到的認真對待。此外，作為評審人，我們憑借長期積累的豐富經(jīng)驗所形成的獨特視角，能夠為所評審的手稿提供極具價值的見解和建議。這些建設(shè)性的意見不僅有助于提升手稿的質(zhì)量，更能從整體上推動科學研究事業(yè)的發(fā)展。

雖然大語言模型不適合直接用于手稿評審，但對于那些在英語表達上存在困難的科研人員來說，它卻可以在翻譯和語言潤色方面發(fā)揮積極作用。如今，利用大語言模型進行翻譯、語法檢查、拼寫糾正以及表達優(yōu)化，已經(jīng)成為一種常見的應用方式。對于那些在英語寫作中感到吃力的科研工作者而言，大語言模型為他們打開了一扇與國際學術(shù)界更順暢交流的大門。若您撰寫評審意見時想借助大語言模型檢查英語表達，建議先上傳自己的內(nèi)容（無論多不完善），但務必排除能明確作者身份的信息，如姓名、所屬機構(gòu)等，同時也要避免過多透露手稿中的關(guān)鍵科學細節(jié)。在大語言模型生成潤色結(jié)果后，一定要仔細核對，確保輸出內(nèi)容與您的原始意圖一致。此外，還需特別注意的是，您應當向編輯明確說明在評審過程中使用了大語言模型進行翻譯或潤色，并注明所使用的具體模型名稱。一般而言，無論是評審人還是作者，只要在寫作或英語潤色過程中使用了大語言模型，都有責任和義務清晰地披露使用的時間、場景以及具體的模型，因為這些生成的文本并非出自本人之手，而是大語言模型的產(chǎn)物。

毋庸置疑，人工智能正在深刻地改變著科學研究的方式以及科研成果的傳播途徑。在運用人工智能技術(shù)，無論是用于預測化學結(jié)構(gòu)，還是進行語言潤色時，我們都應時刻牢記本·費林加教授的提醒，始終保持“批判性態(tài)度”。科研工作者不能僅僅滿足于輸入數(shù)據(jù)，便盲目期待正確的輸出結(jié)果，而是要切實承擔起仔細評估人工智能（包括大語言模型）生成信息質(zhì)量和有效性的責任，這一點對于科研工作的準確性和可靠性至關(guān)重要。與此同時，科研工作者還應養(yǎng)成在文本、圖像以及整個研究過程中，明確說明使用人工智能情況的良好習慣，因為這些成果中融入了大語言模型的“智慧”，只有清晰標注，才能保證學術(shù)的嚴謹性和規(guī)范性。

隨著秋季的臨近，世界各地許多大學即將迎來新學年。我們在此向所有幫助下一代化學家探索化學領(lǐng)域和研究空間的教授、教師和導師們致以誠摯的感謝。化學及化學科學領(lǐng)域正經(jīng)歷著諸多變革，尤其是近年來人工智能的迅速崛起，這使得學生們扎實掌握化學過程的基礎(chǔ)知識變得愈發(fā)重要。只有憑借這樣的知識儲備，以及在學習實踐中培養(yǎng)出良好的科學直覺，他們才能更好地有效利用新興的基于人工智能的工具。正如有人所說：“大學科學家的首要任務是培養(yǎng)學生具備批判性思維。”考慮到科研成果交流的重要性，我們也希望教授、專業(yè)人員和學生們在準備和評審稿件時，都能花時間去了解并牢記在論文發(fā)表和評審過程中何時使用人工智能。

原文鏈接 https://doi.org/10.31635/ccschem.024.202400827ed1