12月5日，微軟投資的美國 AI 實驗室 OpenAI 創始人兼CEO Sam Altman在社交媒體上宣布，其11月30日發布的聊天機器人模型ChatGPT，上線短短五天，用戶已經突破了100萬。

ChatGPT的技術原理

整體技術路線上，ChatGPT在效果強大的GPT 3.5大規模語言模型（LLM，Large Language Model）基礎上，引入“人工標注數據+強化學習”（RLHF，Reinforcement Learning from Human Feedback ，這里的人工反饋其實就是人工標注數據）來不斷Fine-tune預訓練語言模型，主要目的是讓LLM模型學會理解人類的命令指令的含義（比如給我寫一段小作文生成類問題、知識回答類問題、頭腦風暴類問題等不同類型的命令），以及讓LLM學會判斷對于給定的prompt輸入指令（用戶的問題），什么樣的答案是優質的（富含信息、內容豐富、對用戶有幫助、無害、不包含歧視信息等多種標準）。

ChatGPT能否取代Google、百度等傳統搜索引擎

針對外界認為ChatGPT能否取代Google、百度等傳統搜索引擎的討論。既然看上去chatGPT幾乎無所不能地回答各種類型的prompt，那么一個很自然的問題就是：ChatGPT或者未來即將面世的GPT4，能否取代Google、百度這些傳統搜索引擎呢？我個人覺得目前應該還不行，但是如果從技術角度稍微改造一下，理論上是可以取代傳統搜索引擎的。

ChatGPT自己卻給出了“否定”回答：ChatGPT并不是搜索引擎。它的目的不是提供信息搜索。相對于搜索引擎通過索引網頁并匹配搜索詞來提供信息，ChatGPT則是通過對自然語言問題的回答來幫助用戶解決問題。因此，它們之間沒有直接的競爭關系，并不能相互顛覆。

ChatGPT偏任務型的多輪對話或問答系統，定位于“通用型 AI 技術助理”。相比蘋果Siri 和小愛同學的“訂餐、訂票、訂賓館”，ChatGPT更多執行開放域任務，即問答、閱讀理解、推理、頭腦風暴、寫作文、改錯等，可以說是“AI 版的知乎”。

主要有三點原因：首先，對于不少知識類型的問題，chatGPT會給出看上去很有道理，但是事實上是錯誤答案的內容。考慮到對于很多問題它又能回答得很好，這將會給用戶造成困擾：如果我對我提的問題確實不知道正確答案，那我是該相信ChatGPT的結果還是不該相信呢？此時你是無法作出判斷的。這個問題可能是比較要命的。

其次，ChatGPT目前這種基于GPT大模型基礎上進一步增加標注數據訓練的模式，對于LLM模型吸納新知識是非常不友好的。

新知識總是在不斷出現，而出現一些新知識就去重新預訓練GPT模型是不現實的，無論是訓練時間成本還是金錢成本，都不可接受。

其三，ChatGPT或GPT4的訓練成本以及在線推理成本太高，導致如果面向真實搜索引擎的以億記的用戶請求，假設繼續采取免費策略，OpenAI無法承受，但是如果采取收費策略，又會極大減少用戶基數，是否收費是個兩難決策，當然如果訓練成本能夠大幅下降，則兩難自解。以上這三個原因，導致目前ChatGPT應該還無法取代傳統搜索引擎。

ChatGPT的結果令人印象深刻。該模型已經完成了各種各樣的任務，包括提供代碼反饋、寫詩、用不同的音調解釋技術概念、為生成人工智能模型生成提示。

然而，該模型也容易出現類似大型語言模型（LLM）所犯的那種錯誤，例如引用不存在的論文和書籍，誤解直觀的物理學，以及在組合性方面失敗。

基本上，OpenAI創造了一個強大的人工智能工具，但具有明顯的缺陷。它現在需要創建正確的開發工具生態系統，以確保產品團隊能夠利用ChatGPT的力量。GPT-3為許多不可預測的應用開辟了道路，因此了解ChatGPT的庫存會很有趣。

文章綜合鈦媒體、夕小瑤的賣萌屋、51CTO