確切的說，有三四層樓那么高。

ChatGPT 由 GPT-3.5 模型提供支持，與傳統思路不同，它采用了一種半監督式的訓練機器說話。這是它的創新所在，也是它的獨到之處。

GPT，英文全稱是Generative Pre-trained Transformer ，直譯過來是生成型預訓練-變形金剛 。

所謂生成型預訓練，這是GPT的核心思想，即先給機器喂養大量無標簽的文本進行“預”訓練，生成一個初步的語言模型；然后再微調，根據具體的語言處理任務（如文本蘊涵、QA、文本分類等），通過有標簽的數據對模型進行微調fine-tuning，使之不斷完善，最后生成確定的模型，以便來應付同類任務。

名字前面加上chat，即“聊天生成型預訓練-變形金剛”，之所以有這個Transformer，則是表明了其師承門派。

換言之，GPT是OpenAI公司基于谷歌的Transformer語言模型框架而開發出來的技術。

Transformer堪稱巨人，它拯救了奄奄一息的NLP，為停滯不前訓練機器說話工作開辟了新道路。

Transformer門下有許多徒弟，為何GPT鶴立雞群了呢？

這是因為GPT模型迭代到GPT-3時，又引入了 " 利用人類反饋強化學習(RLHF)" 的訓練方式，主要包括“人類提問機器回答、機器提問人類回答”，在此基礎上，不斷迭代，讓模型逐漸具備了對生成答案的評判能力。

RLHF是GPT功力大增的大功臣。它也是讓許多人激動失眠的一個重要因素。

RLHF較好解決了生成模型的一個核心問題---人機對齊(The Alignment Problem)。顧名思義，對齊即向人類看齊，在AI領域，特指讓AI模型的產出，盡量與人類的常識、認知、需求、價值觀保持一致，并遵循人類意圖。

如安遠AI認為，人機對齊問題是大模型通向安全、可靠的通用人工智能(AGI)所面臨的巨大鴻溝，更是大模型的倫理和社會風險至今懸而未決的根源。

很多人測試后發現，引入人類偏好學習機制后，ChatGPT顯得卓爾不群，它給出的回答不再像同類競品那樣生拼硬湊，更加貼近人類，不僅如此，ChatGPT學會了糾正提問中的錯誤，能夠對一些敏感的問題做出回避。

這是chatGPT可以跟前輩聊天機器人說“我們不一樣”的地方，由此形成了獨特的技術優勢。

不過也有許多人測試以后，給它貼上一個標簽：“一本正經地胡說八道”。

算法優化，毫無疑問是技術進步，這算不算革命呢