[首發(fā)于智駕最前沿微信公眾號]談到自動(dòng)駕駛，大家的第一反應(yīng)就是自動(dòng)駕駛系統(tǒng)“能不能把車開穩(wěn)”，看似非常簡單的一個(gè)目標(biāo)，其背后其實(shí)是對系統(tǒng)能否在各種現(xiàn)實(shí)場景下作出正確、可預(yù)期決策的一項(xiàng)嚴(yán)格要求。為了能讓自動(dòng)駕駛汽車做出正確、安全且符合邏輯的行駛動(dòng)作，端到端大模型被提了出來。

端到端大模型把從傳感器輸入到控制輸出的任務(wù)盡可能用一個(gè)大網(wǎng)絡(luò)來完成，其優(yōu)點(diǎn)是能夠直接學(xué)習(xí)復(fù)雜映射，省去繁瑣的中間模塊，但代價(jià)是系統(tǒng)的行為變得更難以完全預(yù)測和驗(yàn)證，也就是出現(xiàn)了“不確定性”。所謂“不確定性”，就是指在面對同一輸入或相似場景時(shí)，模型可能給出模糊、搖擺、或錯(cuò)誤的輸出，并且我們對這種錯(cuò)誤的發(fā)生概率或根源難以給出量化的解釋。自動(dòng)駕駛端到端大模型為什么會(huì)有不確定性？

端到端大模型的不確定性到底是什么

“不確定性”這個(gè)詞聽起來抽象，但拆開來其實(shí)很好理解。對于端到端大模型來說，其一部分不確定性來自數(shù)據(jù)本身，有些場景天生難以判定，下大雨時(shí)遠(yuǎn)處的物體輪廓模糊，夜間強(qiáng)逆光會(huì)把行人和背景融成一片，這類情況即便人也會(huì)猶豫，這類不可避免的噪聲叫做統(tǒng)計(jì)噪聲或“不可約的噪聲”。還有一類不確定性來自模型知識(shí)的不足，比如訓(xùn)練數(shù)據(jù)沒覆蓋到的某些極端或罕見場景，模型在這些“從未見過”的輸入上往往會(huì)表現(xiàn)得自信卻錯(cuò)得離譜，這就是模型的“認(rèn)知盲區(qū)”。在技術(shù)角度中常把這兩類分別稱為“aleatoric uncertainty”（數(shù)據(jù)本身的隨機(jī)性）和“epistemic uncertainty”（模型知識(shí)有限導(dǎo)致的不確定性）。端到端大模型的“不確定性”同時(shí)包含這兩部分，而且還會(huì)被模型架構(gòu)、大樣本偏差、訓(xùn)練目標(biāo)、優(yōu)化不穩(wěn)定性等因素放大。

端到端模型的輸出往往不是“一個(gè)明確的動(dòng)作”那么簡單，而是一個(gè)概率分布或直接映射到控制量的連續(xù)值。如果模型的概率估計(jì)本身不靠譜（即所謂“誤校準(zhǔn)”），系統(tǒng)可能對低置信度但實(shí)際危險(xiǎn)的決策表現(xiàn)出過度自信。還有一個(gè)關(guān)鍵點(diǎn)是時(shí)序閉環(huán)，自動(dòng)駕駛不是靜態(tài)把一幀圖像做分類然后結(jié)束，而是連續(xù)決策、車輛動(dòng)作反饋到環(huán)境再生成新的輸入，錯(cuò)誤會(huì)累積放大，導(dǎo)致原本小概率的偏差演變?yōu)閲?yán)重后果。因此，端到端模型的不確定性不是單幀問題，而是閉環(huán)系統(tǒng)級的風(fēng)險(xiǎn)來源。

為什么端到端架構(gòu)更容易暴露或放大不確定性

把感知、預(yù)測、規(guī)劃、控制都壓在一個(gè)大網(wǎng)絡(luò)上看似能讓效率得到提升，但會(huì)帶來諸多挑戰(zhàn)，從而放大不確定性。第一個(gè)是可解釋性差。在模塊化系統(tǒng)里，當(dāng)車偏離軌跡，你可以追查是感知漏檢、軌跡預(yù)測偏移，還是控制執(zhí)行延遲；而端到端模型的內(nèi)部表示是高維且難以直觀解釋的，當(dāng)出問題時(shí)工程師難以定位故障根源，進(jìn)而難以有針對性地修復(fù)。第二個(gè)是驗(yàn)證難度增加。傳統(tǒng)模塊各自有明確定義和指標(biāo)（比如檢測的召回率、預(yù)測的軌跡誤差），可以逐項(xiàng)驗(yàn)證；端到端模型的整體性能好壞更多依賴“端到端場景覆蓋”，單靠統(tǒng)計(jì)指標(biāo)很難證明在所有長尾場景下安全。第三個(gè)是數(shù)據(jù)需求極大且對分布依賴強(qiáng)。端到端模型需要海量、覆蓋面廣的樣本來學(xué)習(xí)“從像素到操作”的映射，訓(xùn)練集與實(shí)際運(yùn)行環(huán)境一旦發(fā)生偏差（分布漂移），模型表現(xiàn)可能驟降。第四個(gè)是過度自信的風(fēng)險(xiǎn)，深度模型在沒有適當(dāng)不確定性估計(jì)時(shí)，往往會(huì)對錯(cuò)誤的輸出給出高置信度，這在安全關(guān)鍵系統(tǒng)中非常危險(xiǎn)。

端到端模型往往優(yōu)化的是一個(gè)經(jīng)驗(yàn)風(fēng)險(xiǎn)（例如平均損失），這會(huì)導(dǎo)致端到端大模型在常見場景上表現(xiàn)極好，而那些一旦出錯(cuò)后果嚴(yán)重但出現(xiàn)概率低的場景表現(xiàn)就會(huì)足部。自動(dòng)駕駛的風(fēng)險(xiǎn)不是均勻分布在所有場景上，長尾場景（復(fù)雜路口、極端天氣、異常道路設(shè)施等）雖少見卻更危險(xiǎn)，因此單純優(yōu)化平均指標(biāo)會(huì)低估真實(shí)安全風(fēng)險(xiǎn)。

不確定性會(huì)給自動(dòng)駕駛帶來哪些具體影響

端到端大模型的不確定性會(huì)在多個(gè)層面影響自動(dòng)駕駛系統(tǒng)的安全性、用戶體驗(yàn)和部署成本。端到端模型在未見或模糊場景中可能做出錯(cuò)誤轉(zhuǎn)向或加速?zèng)Q策，而如果系統(tǒng)沒有可靠的置信度估計(jì)和安全接管策略，這類錯(cuò)誤可能直接導(dǎo)致碰撞或事故。

行為的不可預(yù)測性也會(huì)降低公眾與監(jiān)管機(jī)構(gòu)的信任。即便平均事故率低，若偶發(fā)事件難以解釋，監(jiān)管方、車主乃至公眾都會(huì)對系統(tǒng)安全性提出質(zhì)疑，從而影響上路許可和商業(yè)化推進(jìn)。還有就是運(yùn)營和維護(hù)成本增加。不確定性意味著需要大量的實(shí)地?cái)?shù)據(jù)采集、回放分析、補(bǔ)數(shù)據(jù)標(biāo)注，以及更頻繁的軟件更新和回歸測試，這些都會(huì)顯著增加長期投入。

對于用戶體驗(yàn)來說，不確定性通常表現(xiàn)為車輛行為不夠連貫或者過分保守。為了避免事故，系統(tǒng)可能在不確定時(shí)傾向剎車或降速，這會(huì)讓乘客感覺自動(dòng)駕駛汽車開起來“優(yōu)柔寡斷”、影響舒適性和通行效率。或者在另一些不確定情況下系統(tǒng)又過于自信、不做必要的減速或避讓，這種“自信卻錯(cuò)誤”的行為反而更危險(xiǎn)。對商業(yè)化產(chǎn)品來說，既不能太保守以至影響使用體驗(yàn)，也不能魯莽，這中間的平衡需要對不確定性有精細(xì)的量化和工程控制。

有哪些方法可以測量和估計(jì)不確定性？

既然端到端大模型的不確定性一定會(huì)存在，那是否有量化和監(jiān)測不確定性的方法？其實(shí)有多個(gè)方法可以測量。其一是基于模型的概率輸出做校準(zhǔn)檢測，例如通過期望校準(zhǔn)誤差（ECE）來判斷模型給出的置信度與實(shí)際正確率是否匹配。如果不匹配，就說明輸出概率不可信。其二是使用集成或貝葉斯方法估計(jì)epistemic uncertainty。較為簡單方式是模型集成，通過訓(xùn)練多個(gè)模型或使用不同隨機(jī)種子和數(shù)據(jù)子集，觀察輸出分歧，分歧越大說明模型知識(shí)越不確定。更正式的做法有貝葉斯神經(jīng)網(wǎng)絡(luò)、貝葉斯近似（例如MC Dropout）等，它們能給出后驗(yàn)不確定性估計(jì)。其三是開發(fā)專門的異常檢測或脫域檢測模塊來識(shí)別與訓(xùn)練分布差異較大的輸入。這類方法可以在在線運(yùn)行時(shí)提供“我不認(rèn)識(shí)這個(gè)場景”的警告。其四是直接訓(xùn)練模型輸出不確定性量化，如深度證據(jù)學(xué)習(xí)或?qū)W習(xí)輸出分布參數(shù)（例如回歸時(shí)同時(shí)預(yù)測均值和方差），從而把不確定性內(nèi)嵌在模型輸出中。

不過要注意的是，測不等于可用。很多不確定性估計(jì)在學(xué)術(shù)數(shù)據(jù)集上表現(xiàn)良好，但在真實(shí)車輛的動(dòng)態(tài)閉環(huán)下會(huì)出現(xiàn)失準(zhǔn)。因此除了采用這些估計(jì)手段，還需要有系統(tǒng)級評估，驗(yàn)證這些估計(jì)在實(shí)際運(yùn)行中的可靠性和對安全決策的幫助程度。

決策與控制如何處理不確定性信息？

即便能估計(jì)不確定性，對于自動(dòng)駕駛來說的核心問題仍然是把這個(gè)信息合理地傳遞給決策與控制。簡單直接的辦法是讓規(guī)劃器把不確定性視為額外的“成本”或風(fēng)險(xiǎn)項(xiàng)，當(dāng)感知或預(yù)測置信度下降時(shí)，規(guī)劃器就執(zhí)行更保守的軌跡、減速或拉開橫向間距。這種做法能在很多情況下減少事故發(fā)生概率，但也可能帶來效率下降。在更系統(tǒng)化的框架里，可以把駕駛看作部分可觀測馬爾可夫決策過程（POMDP），用貝葉斯濾波器維護(hù)一個(gè)“信念狀態(tài)”，并在規(guī)劃時(shí)同時(shí)考慮狀態(tài)的不確定性和目標(biāo)的收益/風(fēng)險(xiǎn)權(quán)衡。雖然理論上完整的POMDP求解能兼顧不確定性和決策，但在現(xiàn)實(shí)車輛上計(jì)算量大且實(shí)現(xiàn)復(fù)雜，因此常用近似方法或使用模型預(yù)測控制（MPC）結(jié)合不確定性邊界來做風(fēng)險(xiǎn)控制。

當(dāng)然，不管決策多復(fù)雜，都應(yīng)當(dāng)內(nèi)置一套例如限制最大橫擺角速度、緊急停車的最小安全距離等硬性安全約束。即便主模型出現(xiàn)錯(cuò)誤，這些硬性規(guī)則可以在極端情況下接管，形成所謂的運(yùn)行時(shí)保障（runtime assurance）。在混合架構(gòu)中常見的做法是把端到端模型作為建議器，而讓傳統(tǒng)控制或規(guī)則模塊作為最終的安全過濾器。

如何緩解端到端大模型的不確定性？

想緩解端到端大模型的不確定性需要從數(shù)據(jù)、訓(xùn)練、架構(gòu)和運(yùn)行四個(gè)維度同時(shí)入手。在數(shù)據(jù)層面，要系統(tǒng)地構(gòu)建覆蓋長尾場景的數(shù)據(jù)集，不僅要被動(dòng)收集，還要采用主動(dòng)學(xué)習(xí)策略定向采集高風(fēng)險(xiǎn)或高不確定性的場景。合成數(shù)據(jù)和域隨機(jī)化也是補(bǔ)充手段，可以在模擬環(huán)境中生成稀有極端條件，緩解現(xiàn)實(shí)數(shù)據(jù)難以覆蓋的問題。在訓(xùn)練層面，可以引入不確定性感知的損失函數(shù)、證據(jù)學(xué)習(xí)、或多任務(wù)學(xué)習(xí)來讓模型在輸出時(shí)攜帶不確定性信息，提升模型在罕見場景下的魯棒性。

在架構(gòu)上，可以嘗試選擇混合方案，把端到端網(wǎng)絡(luò)與模塊化子系統(tǒng)結(jié)合，或者采用“端到端+模塊化”的并行方案，這樣不僅可以保持端到端模型的學(xué)習(xí)優(yōu)勢，同時(shí)可以保留傳統(tǒng)感知/定位/規(guī)劃模塊作為校驗(yàn)或冗余。還可以在車端部署輕量級的不確定性檢測器與規(guī)則性安全網(wǎng)，一旦檢測到高不確定性，立即切換到保守策略或請求遠(yuǎn)端服務(wù)（若車云協(xié)同可行）。在運(yùn)行時(shí)，要有完備的監(jiān)控與回放體系，把所有高不確定性和異常情況記錄下來，用于離線分析和針對性數(shù)據(jù)補(bǔ)充。

最后的話

不確定性并非端到端模型的“致命病”，而是通向成熟自動(dòng)駕駛必須面對的現(xiàn)實(shí)。對于這一問題的關(guān)鍵在于不要把模型當(dāng)作黑箱，而要把不確定性作為設(shè)計(jì)變量，有目的地測量、傳遞并在決策層面做出合理的風(fēng)險(xiǎn)權(quán)衡。通過數(shù)據(jù)策略、混合架構(gòu)、實(shí)時(shí)監(jiān)控和形式化的安全約束，逐步把“未知的風(fēng)險(xiǎn)”變成“可管理的風(fēng)險(xiǎn)”。

審核編輯 黃宇