基于視覺(jué)的系統(tǒng)在很多行業(yè)和應(yīng)用領(lǐng)域中已變得非常普遍。實(shí)際上，我們中的很多人每天就攜著一個(gè)嵌入式視覺(jué)系統(tǒng)，比如在我們的智能手機(jī)中。這些智能設(shè)備不僅能夠捕獲圖像和錄制視頻，而且還能執(zhí)行增強(qiáng)現(xiàn)實(shí)的應(yīng)用，這些都展示了嵌入式視覺(jué)技術(shù)是如何被普遍地廣為接受。

處理能力、存儲(chǔ)器密度和系統(tǒng)集成度的提升，促進(jìn)了嵌入式視覺(jué)在傳統(tǒng)和新興應(yīng)用領(lǐng)域（ 圖 1所示實(shí)例）的增長(zhǎng)。這也使得嵌入式視覺(jué)在消費(fèi)類(lèi)、產(chǎn)業(yè)和政府領(lǐng)域被廣泛接受，因而將在十年內(nèi)實(shí)現(xiàn)顯著增長(zhǎng)。表 1 列出了一些嵌入式視覺(jué)的高增長(zhǎng)領(lǐng)域，其中有一些顯而易見(jiàn)，有些則不是很明顯。

什么是嵌入式視覺(jué)？

嵌入式視覺(jué)系統(tǒng)包含從所選成像傳感器接收光到系統(tǒng)輸出的整個(gè)信號(hào)鏈。系統(tǒng)輸出是指從圖像中提取的經(jīng)過(guò)處理或未經(jīng)處理的圖像或信息，并提供給下游系統(tǒng)。當(dāng)然，嵌入式系統(tǒng)架構(gòu)師負(fù)責(zé)根據(jù)系統(tǒng)要求確保端到端性能。

為此，嵌入式視覺(jué)系統(tǒng)架構(gòu)師需要熟悉與傳感器和后處理系統(tǒng)有關(guān)的各種概念和技術(shù)。本文作為高級(jí)入門(mén)手冊(cè)，旨在讓讀者對(duì)這些技術(shù)和概念有一個(gè)基本了解。

首先需要熟悉電磁波譜以及希望系統(tǒng)運(yùn)行的光譜域。人眼只能看到 390nm（藍(lán)光）至 700nm（紅光）波長(zhǎng)之間的光譜，也就是通常所指的可見(jiàn)光譜；成像設(shè)備憑借所采用的技術(shù)，則能捕獲到更寬泛波長(zhǎng)的圖像，包括 X 光、紫外線(xiàn)、紅外線(xiàn)以及可見(jiàn)光譜。

在近紅外光譜及以下范圍，我們可以使用電荷耦合器件（CCD）或 CMOS （互補(bǔ)金屬氧化物半導(dǎo)體）圖像傳感器 (CIS)；到了紅外光譜范圍，需要使用專(zhuān)用的紅外檢測(cè)器。紅外光譜范圍之所以需要專(zhuān)用傳感器，部分原因在于芯片成像器（如 CCD 或 CIS）需要的激發(fā)能。這些器件通常需要 1eV 的光子能量來(lái)激發(fā)一個(gè)電子，然而在紅外范圍，光子能量介于 1.7eV-1.24meV 之間，因此紅外成像器應(yīng)基于 HgCdTe 或 InSb。這些器件需要更低的激發(fā)能量，經(jīng)常與 CMOS 讀出 IC（即 ROIC）配合使用，以控制和讀出傳感器。

最常見(jiàn)的兩種檢測(cè)器技術(shù)分別是 CCD 和 CIS

●　電荷耦合器件被視為模擬器件，因此要集成到數(shù)字系統(tǒng)中就需要使用片外 ADC 以及所需模擬電壓電平下的時(shí)鐘生成功能。每個(gè)像素存儲(chǔ)由光子產(chǎn)生的電荷。大多數(shù)情況下將像素排列成 2D 陣列，組成多個(gè)行，每行包含多個(gè)像素。讀出 CCD 時(shí)通過(guò)行傳輸將每行并行傳遞到讀出寄存器，再通過(guò)讀出寄存器將每行串行讀出。這個(gè)寄存器讀出過(guò)程中，電荷轉(zhuǎn)換為電壓。

●　CMOS 成像傳感器能實(shí)現(xiàn)更緊密集成，使 ADC、偏置和驅(qū)動(dòng)電路都集成在同一晶片上。這大大降低了系統(tǒng)集成要求，同時(shí)也提高了 CIS 設(shè)計(jì)的復(fù)雜性。CIS 的核心是有源像素傳感器 (APS)，其中每個(gè)像素同時(shí)包含光電二極管和讀出放大器，因此，與 CCD 不同，CIS 能夠讀出陣列中的任意像素地址。

盡管大多數(shù)嵌入式視覺(jué)都采用 CIS 器件，但是 CCD 仍用于非常注重性能的高端科研應(yīng)用領(lǐng)域。本文的要點(diǎn)內(nèi)容適用于這兩種成像技術(shù)。

傳感器考慮因素

選擇正確的傳感器需要了解系統(tǒng)要求，為此，必須從器件的幾個(gè)方面加以考慮。

第一個(gè)要求是我們必須確定所需的分辨率，也就是每行有多少個(gè)像素，檢測(cè)器需要多少行。最終應(yīng)用對(duì)此起決定作用，例如，科研用的天文學(xué)應(yīng)用可能需要高分辨率的 2D 器件，而工業(yè)檢查成像可能僅需要行掃描方案。

●　行掃描器件在 X 方向上包含單行（有時(shí)是幾行）像素。如果通過(guò)相機(jī)或目標(biāo)的移動(dòng)生成 Y 方向上的圖像，通常采用這類(lèi)器件。它們用于檢查或光學(xué)字符識(shí)別 (OCR) 領(lǐng)域。有些領(lǐng)域需要采用時(shí)域積分 (TDI) 線(xiàn)掃描傳感器。這類(lèi)傳感器在 X 方向包含多行，隨著目標(biāo)移動(dòng)，像素值也從一個(gè)向下一個(gè)移動(dòng)，隨著電荷在時(shí)間上積分，可實(shí)現(xiàn)更靈敏的檢測(cè)。不過(guò)，TDI 需要在行傳輸與目標(biāo)移動(dòng)之間進(jìn)行同步，以防出現(xiàn)模糊和圖像缺陷。由于只有幾行需要讀出，因此幀率可以非常高。

●　2D 陣列包含多個(gè)行，每行有多個(gè)像素，陣列大小是決定傳感器最大幀率的一個(gè)因素。通常，為了實(shí)現(xiàn)更高的幀速率，2D 器件并行讀出多個(gè)像素。2D 器件還能執(zhí)行窗口操作（有時(shí)稱(chēng)為興趣區(qū)域），即只讀出特定的感興趣區(qū)域，以獲得更高幀速率。這類(lèi)器件可用于眾多領(lǐng)域，而且信息包含在 2D 圖像中，例如高級(jí)駕駛員輔助系統(tǒng) (ADAS)、監(jiān)控或科研領(lǐng)域。

確定成像器格式以及所需分辨率之后，我們還必須考慮像素間距。像素間距定義像素的大小，決定能收集多少入射光子產(chǎn)生的電荷。因此，較小的像素間距意味著在積分周期內(nèi)（傳感器暴露在圖像中的時(shí)間）收集較少的電荷。如果像素間距較小，意味著捕捉圖像需要更長(zhǎng)的積分時(shí)間，這會(huì)影響傳感器捕捉快速移動(dòng)圖像的能力，并降低低光拍照性能。

確定傳感器格式后，我們必須考慮使用哪種技術(shù)，CCD、CMOS 還是更為專(zhuān)業(yè)的技術(shù)。這里的重要參數(shù)是量子效率 (QE)；該參數(shù)是器件通過(guò)光子產(chǎn)生電子的效率。通常，我們希望在有用光譜上實(shí)現(xiàn)盡可能高的 QE，這對(duì)于低光應(yīng)用也具有重要意義。影響器件 QE 的因素有三個(gè)：吸收、反射和透射。QE 降低的一個(gè)主因是器件結(jié)構(gòu)。器件結(jié)構(gòu)可能導(dǎo)致像素被傳感器中的電路屏蔽，例如金屬線(xiàn)或多晶硅柵極電路等。這些結(jié)構(gòu)會(huì)吸收或反射光子，從而降低 QE，因此要選好傳感器。

●　前照式 — 對(duì)于這類(lèi)器件，光子以上面的介紹的傳統(tǒng)方式照射器件的前面，像素可能被遮蔽，QE 相應(yīng)降低。

●　背照式 — 這些器件經(jīng)過(guò)后期處理，將器件的后部削薄，以便在后面接收光照，從而不受其他設(shè)計(jì)元件的阻擋。薄型背照式器件能實(shí)現(xiàn)最佳 QE。

我們還必須考慮圖像傳感器中所允許的噪聲；有三個(gè)主要方面需要考慮。

●　器件噪聲 — 這在本質(zhì)上講是暫時(shí)的，包括散射噪聲以及輸出放大器和復(fù)位電路產(chǎn)生的噪聲。

●　固定圖形噪聲(FPN) — 呈空間分布，由相同光照強(qiáng)度下像素的不同響應(yīng)引起。FPN 通常由每個(gè)像素的不同偏移和增益響應(yīng)引起；偏移部分通常稱(chēng)為暗信號(hào)響應(yīng)非均勻性 (DSNU)，增益部分稱(chēng)為圖像響應(yīng)非均勻性 (PRNU)。有多種方法可以補(bǔ)償 FPN，最常見(jiàn)的方法是輸出信號(hào)的相關(guān)雙采樣法。

●　暗電流 — 這由圖像傳感器中的熱噪聲引起，甚至在無(wú)光照情況下也會(huì)出現(xiàn)。暗信號(hào)對(duì)最終圖像質(zhì)量的影響取決于幀速率；較高幀速率下影響不大，然而，隨著幀速率降低（如科研應(yīng)用）影響會(huì)很明顯。由于暗電流與溫度有關(guān)，因此在需要降低暗電流的情況下，通常做法是利用冷卻器件（例如 Peltier)來(lái)降低成像器件的工作溫度。

理解了成像器的噪聲模式后，我們就能確定能實(shí)現(xiàn)多大的信噪比 (SNR)。

確定器件的噪聲性能后，就可以確定圖像傳感器所需的動(dòng)態(tài)范圍。動(dòng)態(tài)范圍代表傳感器捕獲光照強(qiáng)度范圍較大的圖像的能力，單位是 dB 或以比率形式給出。這意味著圖像同時(shí)包含高照度區(qū)和暗區(qū)。

傳感器的實(shí)際動(dòng)態(tài)范圍由像素的滿(mǎn)井容量決定，也就是像素飽和前所能承載的電子數(shù)量。將容量除以讀出噪聲，能方便地將比率轉(zhuǎn)換為以 dB 為單位的值。

通常利用光子轉(zhuǎn)換曲線(xiàn)測(cè)試法來(lái)確定動(dòng)態(tài)范圍，畫(huà)出噪聲與容量的關(guān)系曲線(xiàn)。

如果器件具有數(shù)字輸出，可通過(guò)下面的公式利用輸出端比特?cái)?shù)計(jì)算該值。

然而，這并不能確保器件可以實(shí)現(xiàn)這樣的動(dòng)態(tài)范圍；只是說(shuō)明總線(xiàn)寬度所能代表的潛在范圍，而沒(méi)有考慮傳感器性能因素。

IO 標(biāo)準(zhǔn)也很重要，不僅用來(lái)輸出像素?cái)?shù)據(jù)，還用來(lái)輸出命令和控制接口。這與幀速率有關(guān)，例如 LVCMOS 接口不適合高幀速率應(yīng)用，但可用于簡(jiǎn)單的監(jiān)控?cái)z像頭。隨著幀速率、分辨率和每像素比特?cái)?shù)的增加，成像器件的趨勢(shì)正朝著采用 LVDS 系列或 SERDES 技術(shù)的專(zhuān)用高速串行鏈路發(fā)展。

現(xiàn)在我們已經(jīng)介紹了圖像傳感器的多個(gè)重要方面，另一個(gè)尚未考慮的因素是成像器是彩色還是單色傳感器。無(wú)論選擇哪種，都取決于應(yīng)用場(chǎng)合。

●　彩色傳感器 — 需要在每個(gè)像素上使用貝爾圖形，在一條線(xiàn)上交替變換紅色和綠色，下一條線(xiàn)上交替藍(lán)色和綠色（綠色用得多是因?yàn)槿搜蹖?duì)綠顏色波長(zhǎng)更敏感)。這意味著要對(duì)接收到的光子進(jìn)行濾波處理，使每個(gè)像素只接收具有所需波長(zhǎng)的光子。我們可對(duì)圖像進(jìn)行后處理，用不同顏色圍繞像素以重構(gòu)每個(gè)像素上的顏色，從而確定像素顏色，而且不會(huì)降低圖像分辨率。彩色傳感器會(huì)使重構(gòu)和輸出圖像所需的圖像處理鏈變得復(fù)雜化。貝爾圖形確實(shí)會(huì)導(dǎo)致分辨率降低，但是沒(méi)有想象的那么差，通常降幅為 20%。

●　單色 — 由于圖像陣列上沒(méi)有貝爾圖形，因此每個(gè)像素能接收所有光子。這樣可增大圖像靈敏度，使圖像的讀出更簡(jiǎn)單，因?yàn)椴淮嬖陬伾亟ㄋ璧娜ヱR賽克效應(yīng)。

經(jīng)選擇我們決定使用 CIS 器件，而實(shí)際上這些屬于復(fù)雜的專(zhuān)用片上系統(tǒng)。因此，我們還必須考慮以下關(guān)于讀出模式和積分時(shí)間的問(wèn)題。

●　積分時(shí)間 — 這是讀出之前像素的曝光時(shí)間。在比較簡(jiǎn)單的 CCD 系統(tǒng)上，需要接近電子裝置在器件外執(zhí)行該時(shí)序。然而對(duì)于 CIS 器件，積分時(shí)間可通過(guò)命令接口由寄存器來(lái)配置，然后 CIS 器件針對(duì)常用的兩種讀出模式精確地執(zhí)行積分時(shí)間。

●　全局快門(mén)模式 — 這種模式下，所有像素同時(shí)接受光照，然后讀出。此模式下由于所有像素同時(shí)讀出，因此會(huì)增大讀出噪聲。如果要對(duì)快速運(yùn)動(dòng)物體拍攝快照，適合使用該模式。

●　滾動(dòng)快門(mén)模式 — 這種模式下，進(jìn)行逐行曝光和讀出。這種模式的讀出噪聲較小，然而，在捕獲快速運(yùn)動(dòng)物體方面不如全局快門(mén)模式。

系統(tǒng)開(kāi)發(fā)

選擇了合適的傳感器之后，在進(jìn)行系統(tǒng)開(kāi)發(fā)的過(guò)程中還需要考慮和解決諸多挑戰(zhàn)。

除了技術(shù)挑戰(zhàn)以外，開(kāi)發(fā)系統(tǒng)時(shí)還會(huì)面對(duì)時(shí)間壓力，確保在既定時(shí)限內(nèi)將產(chǎn)品推向市場(chǎng)。我們要根據(jù)時(shí)間限制，重點(diǎn)弄清楚開(kāi)發(fā)過(guò)程中的哪部分活動(dòng)能實(shí)現(xiàn)附加價(jià)值，然后做出正確選擇，分清哪部分應(yīng)該自己開(kāi)發(fā)（增值活動(dòng)），哪部分可以購(gòu)買(mǎi)商用現(xiàn)成產(chǎn)品 (COTS) 或者分包出去。重點(diǎn)關(guān)注增值活動(dòng)并利用硬件、軟件和 FPGA 層面的 IP 模塊，是滿(mǎn)足上市時(shí)間要求的重要促成因素之一。

除了上市時(shí)間要求，嵌入式視覺(jué)系統(tǒng)開(kāi)發(fā)過(guò)程中還要經(jīng)常考慮尺寸、重量、功耗和成本 (SWAP-C) 要求。究竟哪種要求占主導(dǎo)，取決于具體應(yīng)用領(lǐng)域，例如手持設(shè)備在功耗方面就要比駕駛員輔助系統(tǒng)更為嚴(yán)格。然而，對(duì)于高級(jí)駕駛員輔助系統(tǒng)來(lái)說(shuō)，由于要生產(chǎn)幾百萬(wàn)臺(tái)，因此方案成本就成了主導(dǎo)因素。

要在尺寸、重量、功耗和成本方面獲得很好的效果，應(yīng)該在傳感器和處理系統(tǒng)中實(shí)現(xiàn)更為緊密的系統(tǒng)集成，即使用數(shù)量更少但功能更強(qiáng)的集成組件。

每種應(yīng)用領(lǐng)域都具有不同增值點(diǎn)以及不同的尺寸、重量、功耗和成本考量，因此幾乎所有嵌入式視覺(jué)系統(tǒng)都需要我們實(shí)現(xiàn)所謂的圖像處理流水線(xiàn)。這種流水線(xiàn)可與所選的傳感器建立接口連接，并且執(zhí)行所需的操作以生成適合進(jìn)一步加工或直接在網(wǎng)絡(luò)上傳輸?shù)膱D像。基本的圖像處理流水線(xiàn)包含

●　照相機(jī)接口 — 接收來(lái)自傳感器的原始圖像
●　顏色濾波陣列 — 重建像素顏色
●　色彩空間轉(zhuǎn)換 — 轉(zhuǎn)換成針對(duì)編解碼器的正確色彩空間。
●　輸出格式化 — 與輸出介質(zhì)進(jìn)行接口連接

在圖像處理流水線(xiàn)中對(duì)接收的圖像執(zhí)行和應(yīng)用算法。所實(shí)現(xiàn)應(yīng)用不同，算法也會(huì)不同；不過(guò)，有一些常用的圖像處理算法可用來(lái)提高對(duì)比度，檢測(cè)圖像中的特性、目標(biāo)或運(yùn)動(dòng)，或者校正模糊圖像。

該在一個(gè)框架中開(kāi)發(fā)這些算法，以便我們以最短時(shí)間將產(chǎn)品推向市場(chǎng)，并鼓勵(lì)重復(fù)使用，降低非重復(fù)性和重復(fù)性工程成本。有幾種現(xiàn)成的框架我們可以考慮使用。
●　OpenVX — 用于開(kāi)發(fā)圖像處理應(yīng)用的開(kāi)源應(yīng)用程序。
●　OpenCV — 開(kāi)源計(jì)算機(jī)視覺(jué)，多個(gè)面向?qū)崟r(shí)計(jì)算機(jī)視覺(jué)的庫(kù)，基于 C/C++
●　OpenCL — 基于 C++ 的開(kāi)源計(jì)算機(jī)語(yǔ)言，用于開(kāi)發(fā) GPU、FPGA 等器件中常見(jiàn)的并行處理應(yīng)用。
●　SDSoC — 賽靈思的一款設(shè)計(jì)環(huán)境，借助該環(huán)境開(kāi)發(fā)人員可在 Zynq 或 UltraScale+ MPSoC 器件的 ARM 處理系統(tǒng)中最初實(shí)現(xiàn)用 C/C++ 編寫(xiě)的算法，分析代碼庫(kù)特性以找出性能瓶頸，然后利用賽靈思高層次綜合功能將這些瓶頸轉(zhuǎn)換到硬件支持的 IP 核，并在器件的可編程邏輯 (PL) 部分運(yùn)行。

采用 FPGA 或 All Programmable SoC 方案時(shí)，將這些框架與 HLS 結(jié)合使用，能夠高效開(kāi)發(fā)出嵌入式視覺(jué)應(yīng)用，并通過(guò)硬件在閉環(huán)中快速演示。

圖像經(jīng)過(guò)處理流水線(xiàn)后，數(shù)據(jù)從系統(tǒng)的輸出方式也很重要，我們有三種選擇。
●　利用視頻圖形陣列 (VGA)、高清多媒體接口 (HDMI)、串行數(shù)字接口 (SDI) 或 DisplayPort 等標(biāo)準(zhǔn)將圖像輸出到顯示器。很多電動(dòng)車(chē)采用觸摸式顯示屏對(duì)系統(tǒng)進(jìn)行控制和配置。
●　將圖像或從圖像中提取的信息傳送到另一個(gè)系統(tǒng)，該系統(tǒng)像云處理應(yīng)用那樣使用圖像或提取出的信息
●　將圖像存儲(chǔ)在非易失存儲(chǔ)介質(zhì)中，供以后訪(fǎng)問(wèn)。

對(duì)于絕大多數(shù)方式而言，在完成成像鏈后，我們都需要確定圖像格式化方式，以便使用。此時(shí)，我們需要決定是否使用諸如 H.264（MPEG-4 Part 10 高級(jí)視頻編碼）或 H.265（高效率視頻編碼）等行業(yè)標(biāo)準(zhǔn)圖像/視頻壓縮算法對(duì)圖像進(jìn)行編碼，這些實(shí)現(xiàn)方案通常稱(chēng)為編解碼器。編解碼器能提高通信和網(wǎng)絡(luò)帶寬的使用效率，或降低實(shí)現(xiàn)高保真度所需的存儲(chǔ)空間，因?yàn)榫幋a通常存在較大失真 。如果因使用編解碼器導(dǎo)致失真度無(wú)法接受，還可以按原始格式發(fā)送和存儲(chǔ)圖像，或者以無(wú)損格式進(jìn)行編碼。

大多數(shù)編解碼器所使用的色彩空間都與圖像傳感器輸出的色彩空間（前提是系統(tǒng)使用彩色器件）不同。嵌入式視覺(jué)中常用的色彩空間是：
●　紅、綠、藍(lán) — 包含 RGB 信息作為圖像傳感器的輸出，常用作 VGA 等簡(jiǎn)單接口的輸出
●　YUV — 包含亮度 (Y) 和色度 (U 和 V)，該色彩空間用于大多數(shù)編解碼器和一些顯示標(biāo)準(zhǔn)。常用的 YUV 格式為 YUV4:4:4 和 YUV4:2:2。兩種格式的區(qū)別在于：4:4:4 格式下，每像素由 8 位表示，得到 24 位像素。在 4:2:2 格式下，U 值和 V 值在像素之間共享，得到 16 位像素，可節(jié)省存儲(chǔ)空間。

另一個(gè)對(duì)圖像處理鏈和 SWAP-C 具有很大影響的決策是：大部分圖像處理鏈應(yīng)該在哪實(shí)現(xiàn)：
●　在邊緣，即在嵌入式視覺(jué)系統(tǒng)之內(nèi)。這樣會(huì)提高系統(tǒng)的功耗和處理/存儲(chǔ)要求，但能夠?qū)崿F(xiàn)更快的響應(yīng)。在邊緣處理將在大部分嵌入式應(yīng)用（例如高級(jí)駕駛員輔助、機(jī)器視覺(jué)等）中成為主導(dǎo)。
●　在云中，這需要嵌入式視覺(jué)系統(tǒng)捕獲圖像，并且利用網(wǎng)絡(luò)技術(shù)將圖像發(fā)送到云。可在云中處理的典型應(yīng)用包括醫(yī)療成像或科研應(yīng)用。這類(lèi)應(yīng)用中，處理非常密集，且不需要實(shí)時(shí)結(jié)果。

為實(shí)現(xiàn)處理鏈，處于嵌入式視覺(jué)系統(tǒng)核心的處理內(nèi)核不僅要能控制所選的圖像傳感器，還要能接收和實(shí)現(xiàn)圖像處理流水線(xiàn)，并通過(guò)指定網(wǎng)絡(luò)基礎(chǔ)設(shè)施傳送圖像或發(fā)送到選定的顯示器。考慮到這些嚴(yán)苛要求，因此經(jīng)常要選擇 FPGA，或者越來(lái)越多的情況下需要使用 All Programmable 片上系統(tǒng)，例如 Zynq 器件。

Zynq 器件將兩個(gè)高性能 ARM A9 處理器與 FPGA 架構(gòu)相結(jié)合。這樣使得處理系統(tǒng) (PS) 可用來(lái)通過(guò) GigE、PCIe 或 CAN 等接口與主機(jī)系統(tǒng)通信，同時(shí)執(zhí)行系統(tǒng)的一般管理和日常事務(wù)。器件的另一半，即可編程邏輯 (PL) 可用來(lái)接收和處理圖像，充分利用 FPGA 架構(gòu)的并行處理特性。如果要求通過(guò)網(wǎng)絡(luò)基礎(chǔ)設(shè)施傳送圖像，那么可使用 Zynq 中的直接存儲(chǔ)器訪(fǎng)問(wèn) (DMA) 控制器高效地將圖像數(shù)據(jù)從 PL 移動(dòng)到 PS DDR 存儲(chǔ)器。圖像到了 PS DDR 存儲(chǔ)器內(nèi)，可利用所選傳輸介質(zhì)的 DMA 控制器進(jìn)一步訪(fǎng)問(wèn)。

當(dāng)然，一旦圖像處在 PS DDR，高性能 A9 處理器也可提供進(jìn)一步的處理操作。Zynq 架構(gòu)的特點(diǎn)在于還可將處理后的圖像從 PS DDR 移回 PL 中的圖像流水線(xiàn)。

傳感器融合

很多嵌入式視覺(jué)系統(tǒng)還要求能夠集成更多傳感器數(shù)據(jù)以更好地感知環(huán)境。這包括使用很多同類(lèi)傳感器（同類(lèi)傳感器融合）擴(kuò)大視場(chǎng)，例如高級(jí)駕駛員輔助系統(tǒng)的全景功能；或者整合多個(gè)不同類(lèi)型的傳感器（異構(gòu)傳感器融合）提供可見(jiàn)光譜下無(wú)法看到的視覺(jué)內(nèi)容，例如在常規(guī)圖像傳感器數(shù)據(jù)上疊加紅外信息。

很多情況下，需要將嵌入式視覺(jué)應(yīng)用的輸出與其他傳感器數(shù)據(jù)進(jìn)行融合，使產(chǎn)生的圖像包含多個(gè)不同傳感器的信息。最簡(jiǎn)單的傳感器融合應(yīng)用是將不同頻譜的圖像相結(jié)合，例如可見(jiàn)光與紅外線(xiàn)融合以實(shí)現(xiàn)更好的夜視效果。

傳感器融合的另一個(gè)更為復(fù)雜的用途是將成像系統(tǒng)、全球?qū)Ш叫l(wèi)星系統(tǒng) (GNSS)、數(shù)字地圖信息以及不同波長(zhǎng)下運(yùn)行的其他傳感器（例如雷達(dá)）進(jìn)行融合，以確定另一輛汽車(chē)的相對(duì)位置，從而實(shí)現(xiàn)避撞功能。

由于要將不同系統(tǒng)融合在一起，并提取信息，因此傳感器融合對(duì)處理器的要求會(huì)非常高。All Programmable 片上系統(tǒng)解決方案能夠與多個(gè)傳感器建立接口連接，并行處理信息，增大數(shù)據(jù)吞吐量，因而具有多種顯著優(yōu)勢(shì)。

結(jié)論

嵌入式視覺(jué)已變得非常普遍，其市場(chǎng)滲透率和應(yīng)用范圍將在下個(gè)十年里只增不減。

在傳感器和系統(tǒng)層面，有多個(gè)因素必須加以考慮。有多種技術(shù)、框架和器件可用來(lái)實(shí)現(xiàn)嵌入式視覺(jué)系統(tǒng)。