刊登在《自然》（Nature）上的 AI 模型 NYUTron 已被部署到紐約大學朗格尼健康中心。

從醫院出院對病人來說是一座重要的里程碑，但有時這并不代表著他們已完全康復。在美國，有近 15% 的住院病人在首次出院后 30 天內再次入院，并且往往伴隨著病情惡化與對患者及院方來說都更高的住院費用。

紐約大學學術醫療中心——紐約大學朗格尼健康中心（NYU Langone Health）的研究人員與 NVIDIA 專家攜手開發了一個可預測病人 30 天內再入院風險以及其他臨床結果的大型語言模型（LLM）。

這個刊登在科學期刊《自然》（Nature）上的 NYUTron 模型被部署在該醫療系統的六座住院樓中。它能夠為醫生提供 AI 所驅動的洞察，幫助他們識別需要通過臨床干預的病人，以減少患者再入院概率。

紐約大學格羅斯曼醫學院放射學和神經外科助理教授、NYUTron 的主要合作者 Eric Oermann 博士表示：“當你讓病人出院時，肯定不希望他們需要再回來，或者其實在當時就應該延長病人的住院時間。借助 AI 模型的分析，我們很快就能幫助臨床醫生預防或解決那些使病人面臨更高再入院風險的情況。”

到目前為止，該模型已被應用于紐約大學醫療系統中的 5 萬多名出院患者。它會通過電子郵件告知醫生再入院風險的預測。Oermann 的團隊接下來正計劃通過一項臨床試驗，測試依據 NYUTron 的分析所采取的干預措施是否能夠降低再入院率。

應對短期再入院等風險

美國政府追蹤 30 日再入院率并以此作為醫院的護理質量指標。再入院率高的醫療機構會被處以罰款，這項制度能夠激勵醫院改進其出院流程。

新出院的病人可能會因為感染、過度使用抗生素、過早移除手術引流管等原因而需要再入院。如果這些風險因素能夠被更早地發現，醫生就可以通過調整治療計劃或延長病人留院觀察時間來進行干預。

Oermann 表示：“雖然自 20 世紀 80 年代以來就有了預測病人再入院的計算模型，但我們把它看作一項需要衛生系統規模臨床文本語料庫的自然語言處理任務。我們使用電子健康記錄的非結構化數據訓練我們的 LLM，檢查它是否能夠捕捉到人們之前沒有考慮過的洞察。”

NYUTron 使用紐約大學朗格尼健康中心的 10 年健康記錄進行了預訓練。這些記錄由近 40 萬名病人超過 40 億字的臨床筆記組成。相比最先進的機器學習模型，該模型預測再入院的準確率提高了 10% 以上。

一旦該 LLM 為 30 天再入院的初始用例進行了訓練，該團隊就能在一周左右的時間里推出了其他四種預測算法，包括預測病人的住院時間、院內死亡的可能性以及病人保險理賠被拒的幾率。

Oermann 表示：“經營一家醫院在某些方面就像管理一家酒店。能夠幫助醫院更高效運營的洞察意味著醫院能夠騰出更多床位并為更多病人提供更高質量的照護。”

從訓練到部署一個 LLM

NYUTron 是一個擁有數億參數的 LLM。它在一個由NVIDIA A100 Tensor Core GPU 組成的大型集群上使用 NVIDIA NeMo Megatron 框架訓練而成。

Oermann 表示：“如今，大部分關于語言模型的討論都圍繞著具有數十億參數的超大型通用模型，這些模型使用數百乃至數千個 GPU 在混亂的數據集上訓練而成。我們反其道而行之，使用在高度精煉的數據上訓練的中等規模的模型來完成特定醫療任務。”

為了優化模型以便在現實醫院進行推理，該團隊開發了一個修改版的NVIDIA Triton 開源軟件，以便利用NVIDIA TensorRT 軟件開發工具套件簡化 AI 模型部署。

Oermann 表示：“像這樣的模型必須要高效運行才能被部署到實時醫療環境中。Triton 提供了你在一個推理框架中想要的一切，讓我們的模型能夠飛速運行。”

Oermann 的團隊發現，在對他們的 LLM 進行預訓練后，只需使用特定醫院的數據在現場進行微調就能大幅提高準確率，這個特點可以幫助其他醫療機構部署類似的模型。

他表示：“并不是所有醫院都擁有完全自主訓練一個大型語言模型所需要的資源，但他們可以采用像 NYUTron 這樣的預訓練模型，然后通過云端的 GPU 使用少量本地數據樣本對模型進行微調。這對于許多醫療機構來說都是可以做到的。”

如要進一步了解 NYUTron，請閱讀《自然》期刊中的論文。點擊“閱讀原文”，點播觀看 NVIDIA 與紐約大學的相關講座。

掃描下方海報二維碼，觀看 NVIDIA 創始人兼 CEO 黃仁勛在 COMPUTEX 2023 的主題演講直播回放，主題演講中文字幕版已上線，了解 AI、圖形及其他領域的最新進展！