3.1 GPT家族的演進

說到ChatGPT，就不得不提到GPT家族。

ChatGPT之前有幾個知名的兄弟，包括GPT-1、GPT-2和GPT-3。這幾個兄弟一個比一個個頭大，ChatGPT與GPT-3更為相近。

ChatGPT與GPT 1-3的技術對比

GPT家族與BERT模型都是知名的NLP模型，都基于Transformer技術。GPT-1只有12個Transformer層，而到了GPT-3，則增加到96層。

1.2 人類反饋強化學習

InstructGPT/GPT3.5（ChatGPT的前身）與GPT-3的主要區別在于，新加入了被稱為RLHF（Reinforcement Learning from Human Feedback，人類反饋強化學習）。這一訓練范式增強了人類對模型輸出結果的調節，并且對結果進行了更具理解性的排序。

在InstructGPT中，以下是“goodness of sentences”的評價標準。

1. 真實性：是虛假信息還是誤導性信息？
2. 無害性：它是否對人或環境造成身體或精神上的傷害？
3. 有用性：它是否解決了用戶的任務？

1.3 TAMER框架

這里不得不提到TAMER（Training an Agent Manually via Evaluative Reinforcement，評估式強化人工訓練代理）這個框架。該框架將人類標記者引入到Agents的學習循環中，可以通過人類向Agents提供獎勵反饋（即指導Agents進行訓練），從而快速達到訓練任務目標。

TAMER框架論文

引入人類標記者的主要目的是加快訓練速度。盡管強化學習技術在很多領域有突出表現，但是仍然存在著許多不足，例如訓練收斂速度慢，訓練成本高等特點。特別是現實世界中，許多任務的探索成本或數據獲取成本很高。如何加快訓練效率，是如今強化學習任務待解決的重要問題之一。

而TAMER則可以將人類標記者的知識，以獎勵信反饋的形式訓練Agent，加快其快速收斂。TAMER不需要標記者具有專業知識或編程技術，語料成本更低。通過TAMER+RL（強化學習），借助人類標記者的反饋，能夠增強從馬爾可夫決策過程 (MDP) 獎勵進行強化學習 (RL) 的過程。

TAMER架構在強化學習中的應用

具體實現上，人類標記者扮演對話的用戶和人工智能助手，提供對話樣本，讓模型生成一些回復，然后標記者會對回復選項打分排名，將更好的結果反饋回模型中，Agents同時從兩種反饋模式中學習——人類強化和馬爾可夫決策過程獎勵作為一個整合的系統，通過獎勵策略對模型進行微調并持續迭代。

在此基礎上，ChatGPT 可以比 GPT-3 更好的理解和完成人類語言或指令，模仿人類，提供連貫的有邏輯的文本信息的能力。

1.4 ChatGPT的訓練

ChatGPT的訓練過程分為以下三個階段：

第一階段：訓練監督策略模型

GPT 3.5本身很難理解人類不同類型指令中蘊含的不同意圖，也很難判斷生成內容是否是高質量的結果。為了讓GPT 3.5初步具備理解指令的意圖，首先會在數據集中隨機抽取問題，由人類標注人員，給出高質量答案，然后用這些人工標注好的數據來微調 GPT-3.5模型（獲得SFT模型, Supervised Fine-Tuning）。

此時的SFT模型在遵循指令/對話方面已經優于 GPT-3，但不一定符合人類偏好。

ChatGPT模型的訓練過程

第二階段：訓練獎勵模型（Reward Mode，RM）

這個階段的主要是通過人工標注訓練數據（約33K個數據），來訓練回報模型。在數據集中隨機抽取問題，使用第一階段生成的模型，對于每個問題，生成多個不同的回答。人類標注者對這些結果綜合考慮給出排名順序。這一過程類似于教練或老師輔導。

接下來，使用這個排序結果數據來訓練獎勵模型。對多個排序結果，兩兩組合，形成多個訓練數據對。RM模型接受一個輸入，給出評價回答質量的分數。這樣，對于一對訓練數據，調節參數使得高質量回答的打分比低質量的打分要高。

第三階段：采用PPO（Proximal Policy Optimization，近端策略優化）強化學習來優化策略。

PPO的核心思路在于將Policy Gradient中On-policy的訓練過程轉化為Off-policy，即將在線學習轉化為離線學習，這個轉化過程被稱之為Importance Sampling。這一階段利用第二階段訓練好的獎勵模型，靠獎勵打分來更新預訓練模型參數。在數據集中隨機抽取問題，使用PPO模型生成回答，并用上一階段訓練好的RM模型給出質量分數。把回報分數依次傳遞，由此產生策略梯度，通過強化學習的方式以更新PPO模型參數。

如果我們不斷重復第二和第三階段，通過迭代，會訓練出更高質量的ChatGPT模型。

2、ChatGPT的局限

只要用戶輸入問題，ChatGPT 就能給予回答，是否意味著我們不用再拿關鍵詞去喂 Google或百度，就能立即獲得想要的答案呢？

盡管ChatGPT表現出出色的上下文對話能力甚至編程能力，完成了大眾對人機對話機器人（ChatBot）從“人工智障”到“有趣”的印象改觀，我們也要看到，ChatGPT技術仍然有一些局限性，還在不斷的進步。

1）ChatGPT在其未經大量語料訓練的領域缺乏“人類常識”和引申能力，甚至會一本正經的“胡說八道”。ChatGPT在很多領域可以“創造答案”，但當用戶尋求正確答案時，ChatGPT也有可能給出有誤導的回答。例如讓ChatGPT做一道小學應用題，盡管它可以寫出一長串計算過程，但最后答案卻是錯誤的。

2）ChatGPT無法處理復雜冗長或者特別專業的語言結構。對于來自金融、自然科學或醫學等非常專業領域的問題，如果沒有進行足夠的語料“喂食”，ChatGPT可能無法生成適當的回答。

3）ChatGPT需要非常大量的算力（芯片）來支持其訓練和部署。拋開需要大量語料數據訓練模型不說，在目前，ChatGPT在應用時仍然需要大算力的服務器支持，而這些服務器的成本是普通用戶無法承受的，即便數十億個參數的模型也需要驚人數量的計算資源才能運行和訓練。，如果面向真實搜索引擎的數以億記的用戶請求，如采取目前通行的免費策略，任何企業都難以承受這一成本。因此對于普通大眾來說，還需等待更輕量型的模型或更高性價比的算力平臺。

4）ChatGPT還沒法在線的把新知識納入其中，而出現一些新知識就去重新預訓練GPT模型也是不現實的，無論是訓練時間或訓練成本，都是普通訓練者難以接受的。如果對于新知識采取在線訓練的模式，看上去可行且語料成本相對較低，但是很容易由于新數據的引入而導致對原有知識的災難性遺忘的問題。

5）ChatGPT仍然是黑盒模型。目前還未能對ChatGPT的內在算法邏輯進行分解，因此并不能保證ChatGPT不會產生攻擊甚至傷害用戶的表述。

當然，瑕不掩瑜，有工程師貼出了要求ChatGPT寫verilog代碼（芯片設計代碼）的對話。可以看出ChatGPT水平已經超出一些verilog初學者了。

3、ChatGPT的未來改進方向

3.1 減少人類反饋的RLAIF

2020年底，OpenAI前研究副總裁Dario Amodei帶著10名員工創辦了一個人工智能公司Anthropic。Anthropic 的創始團隊成員，大多為 OpenAI 的早期及核心員工，參與過OpenAI的GPT-3、多模態神經元、人類偏好的強化學習等。

2022年12月，Anthropic再次發表論文《Constitutional AI: Harmlessness from AI Feedback》介紹人工智能模型Claude。（arxiv.org/pdf/2212.0807）

CAI模型訓練過程

Claude 和 ChatGPT 都依賴于強化學習(RL)來訓練偏好（preference）模型。CAI（Constitutional AI）也是建立在RLHF的基礎之上，不同之處在于，CAI的排序過程使用模型（而非人類）對所有生成的輸出結果提供一個初始排序結果。

CAI用人工智能反饋來代替人類對表達無害性的偏好，即RLAIF，人工智能根據一套constitution原則來評價回復內容。

3.2 補足數理短板

ChatGPT雖然對話能力強，但是在數理計算對話中容易出現一本正經胡說八道的情況。

計算機學家Stephen Wolfram 為這一問題提出了解決方案。Stephen Wolfram 創造了的 Wolfram 語言和計算知識搜索引擎 Wolfram | Alpha，其后臺通過Mathematica實現。

ChatGPT與Wolfram | Alpha結合處理梳理問題

在這一結合體系中，ChatGPT 可以像人類使用 Wolfram|Alpha 一樣，與 Wolfram|Alpha “對話”，Wolfram|Alpha 則會用其符號翻譯能力將從 ChatGPT 獲得的自然語言表達“翻譯”為對應的符號化計算語言。在過去，學術界在 ChatGPT 使用的這類 “統計方法” 和 Wolfram|Alpha 的 “符號方法” 上一直存在路線分歧。但如今 ChatGPT 和 Wolfram|Alpha 的互補，給NLP領域提供了更上一層樓的可能。

ChatGPT 不必生成這樣的代碼，只需生成常規自然語言，然后使用 Wolfram|Alpha 翻譯成精確的 Wolfram Language，再由底層的Mathematica進行計算。

3.3 ChatGPT的小型化

雖然ChatGPT很強大，但其模型大小和使用成本也讓很多人望而卻步。

有三類模型壓縮（model compression）可以降低模型的大小和成本。

第一種方法是量化（quantization），即降低單個權重的數值表示的精度。比如Tansformer從FP32降到INT8對其精度影響不大。

第二種模型壓縮方法是剪枝（pruning），即刪除網絡元素，包括從單個權重（非結構化剪枝）到更高粒度的組件如權重矩陣的通道。這種方法在視覺和較小規模的語言模型中有效。

第三種模型壓縮方法是稀疏化。例如奧地利科學技術研究所 (ISTA)提出的SparseGPT （arxiv.org/pdf/2301.0077）可以將 GPT 系列模型單次剪枝到 50% 的稀疏性，而無需任何重新訓練。對 GPT-175B 模型，只需要使用單個 GPU 在幾個小時內就能實現這種剪枝。