當視頻設備具有主動意識時會發生什么？

人工智能的快速發展，給人們的生活帶來了極大的變化，***系統正是其中之一。傳統的***設備只能充當于法庭上的佐證，且要耗費大量的人力成本，有了基礎研究、計算能力和訓練數據集等人工智能技術的引入，現在的***設備應用場景越來越豐富了。本文就以IC Realtime、Boulder AI 兩個項目的實踐成果為例，詳細闡述了 AI ***設備的前景、問題及思考等內容。一起來看看吧。

以下為譯文：

***攝像機一般被稱為數字化的眼睛，人們可以通過它們觀看各種視頻節目、觀看實況視頻等等。當然，大多數***攝像機是被動的——它們被放置在那里作為一種威懾，或者在出現問題時提供證據，比如車被偷了？那就***閉路電視吧。

但是，現在事情發生了很大的變化，人工智能使得***攝像機能夠與數字大腦相匹配，讓它們可以自行分析現場視頻，而不需要借助人類的幫助。這對于公共安全來說可能是個好消息，幫助警方和急救人員更容易地發現犯罪和事故，并且能夠帶來一系列的科學和工業應用。但是這也給未來的隱私問題提出了嚴重的思考，給社會正義帶來了新的風險。

試想一下，當政府可以跟蹤大量觀看閉路電視的用戶信息時、當***可以通過將你的照片上傳到數據庫來數字化尾隨你的城市動向時、或者當***不喜歡某個特定人群的表情而在當地商場的攝像機上運行有偏見的算法時......這些情況下，會發生什么？

AI ***從搜索視頻開始

雖然以上這些情景的實現還有一段路要走，但我們已經看到了將人工智能和***結合起來的第一批應用成果，IC Realtime 就是一個例子。去年 12 月份，IC Realtime 的旗艦產品一經推出便被譽為閉路電視領域中的谷歌。這是一個名為 Ella 的應用程序和網絡平臺，它使用 AI 來分析視頻 Feed 中發生的事情，并且能夠即時搜索。Ella可以識別成千上萬的自然語言查詢，并為用戶提供大量的搜索素材，比如找到特定的剪輯視頻、穿著某種顏色衣服的人、甚至個人汽車的品牌和型號等等。

在一次網絡演示中，IC Realtime 首席執行官 Matt Sailor 演示了 Ella 的功能，它連接了約 40 個工業園區的***攝像機，并進行了“一個穿紅衣服的男人”、“UPS 貨車”、“警車”等各種搜索嘗試——所有這些都在幾秒鐘內返還了相關的鏡頭。

“假如發生了搶劫，但你還沒有意識到事情的發生，”Sailor表示， “但這時有一輛吉普車恰巧經過，那我們在Ella 中搜索“吉普車”，屏幕上就會顯示不同的吉普車經過的場景——這將是人工智能和閉路電視結合的第一大優勢”。Ella 在谷歌云上運行，幾乎可以從任何閉路電視系統中搜索鏡頭。Sailor 認為，這個技術的應用能讓你很容易地找到你要找的東西，而不需要在那篩選好幾小時的視頻。

IC Realtime 已經在亞馬遜、Logitech、Netgear、谷歌旗下的 Nest 等公司生產的“智能”家庭安防攝像機市場中獲得了巨大的成功。

使用Ella搜索穿紅色衣服的人

“我們現在在愛達荷地區的識別準確率高達100％”

雖然 IC Realtime 提供了基于云的分析功能，可以升級現有的傻瓜相機，但其他公司更多采取的是將人工智能直接構建到硬件中——將 AI 集成到設備中的一大優勢是，它們不需要互聯網連接即可工作，Boulder AI 就是這樣一家初創公司，它使用自己的獨立 AI 攝像頭銷售“愿景即服務”，并且可以為個人客戶量身打造機器視覺系統。

其創始人 Darren Odom給出了一個愛達荷州建造水壩的客戶例子。為了符合環保法規，他們正在監測魚類移動的數量。Odom說：“最開始他們有人坐在窗臺上看著有多少鱒魚游過，后來他們改用了***視頻，由負責的人來遠程觀察。”最后，他們聯系了Boulder AI，幫助他們建立了一個定制的人工智能閉路電視系統來識別魚類。Odom自豪地說：“我們確實使用計算機視覺確定了魚類的識別，現在在愛達荷州地區的鱒魚識別準確率更是高達100％。”

IC Realtime代表了通用終端市場，Boulder AI代表了承包商市場，不過，在這兩種情況下，這些公司目前所提供的也僅僅是冰山一角。就像機器學習在識別物體的能力方面取得迅速的進步一樣，基礎研究、計算能力和訓練數據集等創建人工智能的關鍵組成部分都已到位，分析場景、活動和動作的技能也有望迅速提高。視頻分析的兩大數據集是由 YouTube 和 Facebook 制作的，他們也希望人工智能能幫助他們在平臺上優化更多內容。例如，YouTube 的數據集包含超過 45 萬小時的標簽視頻，希望能夠刺激“視頻理解的創新和進步”。谷歌、MIT、IBM 和 DeepMind 都參與了類似的項目。

目前，IC Realtime 已經在開發面部識別等高級工具，Boulder AI也正在探索這種先進的分析技術。

最大的障礙還是：低分辨率的視頻

對于***和人工智能方面的專家來說，這些功能的引入在技術和道德方面都存在一些潛在難題。和 AI 一樣，這兩個類別是交織在一起的——它是一個技術問題，機器不能像人類那樣理解世界，但是當我們讓他們為我們做決定時，它就變成了一個道德問題。

盡管近年來人工智能已經使這視頻***領域取得了巨大的進步，但在計算機理解視頻方面仍然存在著根本性的挑戰。舉個例子來說，一個經過訓練的神經網絡可以分析視頻中的人類行為，這些工作是通過將人體細分為多個部分：手臂、腿部、肩部、頭部等，然后觀察這些小人物從一幀視頻到另一幀的變化。從這個角度來看，AI 可以告訴你是否有人在跑步——但這取決于你所擁有的視頻分辨率。

這對閉路系統來說是一個大問題，因為攝像機往往暗轉的角度往往很怪異。以便利店的照相機為例，這個便利店的目的是收銀機，但是它也忽略了面向街道的窗戶。如果外面發生搶劫，相機被擋住了，那么 AI 就發揮不了作用了。

由中國公司 SenseTime 構建的人工智能***系統

同樣，雖然人工智能能夠很好地識別視頻中的相關事件，但仍不能提取重要的上下場景。拿分析人類行為的神經網絡為例，可能會看到鏡頭顯示“這個人正在跑步”，但它不能告訴你他們是否真的在跑步，因為他們或許錯過了某輛公共汽車，或者是因為他們偷了某人的電話。

這些準確度問題值得我們反思，電腦與人類的洞察力和理解視頻所看到的東西相比相差甚遠。不過，技術的進步速度很快。使用車牌跟蹤車輛，識別汽車和衣物等物品，在多臺攝像機之間自動跟蹤一個人——這些識別場景已經非常穩固了。

目前仍有很多 AI ***難題亟待解決

但是，即使這些非常基本的場景應用也可以產生強大的效果。華爾街日報的一份報告稱，在中國***，傳統的***和民間***方式與面部識別、牌照掃描儀、虹膜掃描儀以及無處不在的閉路系統相結合，形成了一個“完全***狀態”，能夠追蹤公共場所中的任何人；在莫斯科，正在組裝一個類似的基礎設施，將面部識別軟件插入一個集中了超過 10 萬臺高分辨率相機的集中系統，該相機覆蓋了該市 90％ 以上的公寓入口。

這種情況可能會帶來一個良性循環，隨著軟件越來越好，系統會收集到更多的數據，從而幫助軟件變得更好。

這些系統確實正在起作用，但是還有很多問題亟待解決，比如算法偏差。研究表明，機器學習系統能夠吸收種族和性別歧視，從對婦女進行廚房的圖像識別軟件到總是說黑人更容易犯罪的刑事司法系統等都有體現。如果我們使用舊視頻來培訓人工智能***系統，比如來自閉路電視或者***機構的攝像機，那么存在于社會中的偏見很可能會延續下去。

ACLU 高級政策分析師 Jay Stanley 說，即使我們能夠解決這些自動化系統中的偏見，也不能使他們變得良性，因為，將閉路電視攝像機從被動轉變為主動則可能會對公民社會產生巨大的不利影響。

“我們希望人們不僅是自由的，還要更加自由自在的”

我們希望人們不僅是自由的，還要感到更加自在的。這意味著他們不必去擔心未知的、看不見的“觀眾”來隨意解釋或曲解他們的每一個動作和話語——也就不會給他們的生活帶來負面的后果。

此外，人工智能***的錯誤警報也可能導致執法部門和公眾之間的矛盾更加激化。比如說，丹佛剃須刀的槍擊事件中，一名***就將用于害蟲控制的藥丸槍看成了剃須刀，結果導致了誤殺。如果一個人可以犯這樣的錯誤，那么電腦又怎么能避免呢？而且，如果***系統變得自動化了，那么這樣的錯誤只會變得越來越普遍。

當 AI 監督越來越普及，誰來管理這些算法呢？

事實上，我們在這個領域看到的只是人工智能應用趨勢的一部分，在這個趨勢中，我們使用這些相對粗糙的工具來對人們進行嘗試和分類，但是結果的準確性是值得懷疑的。

“令我感到不安的是，許多這樣的系統正在應用到我們的核心基礎設施之中，但是卻沒有一個民主的程序來衡量問題的有效性和準確性。”算法確實能夠提供基于嵌入文化和歷史偏見的數據中提取的模式識別類型，但也不可避免地帶來了人工智能***被濫用的問題。

對于這個問題，IC Realtime給出了科技行業常見的一個答案：這些技術是價值中立的，因為任何新技術都有可能落入不法之徒的危險之中，這無法避免，但是它所帶來的價值絕對是高于它的缺點的。