国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

單個神經元不可靠!新研究推翻以往認知

mK5P_AItists ? 來源:YXQ ? 2019-07-09 17:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

一項關于神經元的研究,讓眾人看嗨了。這項研究通過在小鼠身上做實驗,先展示了神經元“不靠譜”的一面:單個神經元兩次對相同視覺刺激的反應,竟然是不一樣的。

對于神經元的“不靠譜”性,此前的解釋一直集中在噪音這個點。

而這項研究卻實實在在推翻了此前觀點,作者通過實驗證明了:即使有噪音,神經元還是有能力獲取高精度的視覺編碼

主導這項研究的小姐姐認為,小鼠感知能力的限制不由視覺皮層的神經噪音決定,而是受神經解碼過程的限制。

在這項推特轉發超過600,點贊超過2000的研究下,神經科學家和AI科學家一起興奮,“Pretty Cool”“Awesome”“Great story”等贊美聲此起彼伏。

雖然不是AI界日常討論的人工神經網絡,而是自然界中動物們身上存在的生物神經網絡,兩者并不完全一樣,但動物們自身的特征,卻往往是啟發科學家們的關鍵。

高通深度學習研究工程師Jakub Tomczak想到,它和AI中的Dropout十分類似,像是近似貝葉斯平均。

Dropout,正是指的Geoffrey Hinton等人在2014年提出的防止人工神經網絡過擬合的正則化技術,現在已經成為了谷歌手中的專利。

AI工程師@AIexLaurence表示,就像AI一樣,單個神經元(或者節點)并不表示特定的概念,是由神經網絡中特定的激活模式決定的。

AIexLaurence還認為,這項生物學研究可能會對神經網絡權重的研究有啟發。

還有人認為,在神經元自帶不確定性的前提下,大腦依賴投票/閾值機制產生的反饋信號來判定輸入的感知信息。另外,除了神經的原因之外,也可能是動物眼睛的微觀結構決定。

能讓搞生物的和搞計算機的有同樣的high點,這具體是項怎樣的研究?

“不靠譜”的神經元

事情,還要從神經元說起。

對,就是中學生物里構成神經網絡的那個長長的細胞。

可能不少AI領域的同學還不知道,在神經科學領域,神經元和AI界的擁有不確定性的神經網絡一樣,都是不靠譜的存在。

神經元,就像一個腦洞清奇的少年,即使是同樣的信息呈現在他面前,他每次都會給出不一樣的反應。

究其原因,在于噪聲頻發,影響神經編碼

神經編碼,跟計算機的編碼不是一回事。由于感覺信息與其它信息,都是由腦中的生物神經網絡來承載與呈現的,所以人們認為,神經元有某種編碼能力,處理你身體感知到的光線、聲音、味道等信息。

也就是說,神經編碼過程是試圖建立從刺激到反應的映射,著眼于理解神經元如何對不同的刺激作出反應,建立模型來預測神經元對特定刺激的反應。

而與之對應的神經解碼過程,研究的是相反方向的映射,也就是從已知的反應來推算外界刺激重建特征。

在這個過程中,是一個“多變”的過程,但總是被冠以“不靠譜”的評價。舉個例子:

假如你問一個神經元這個直角屏幕的角度是多少,它一開始說是75度,五分鐘后說是10度,每一次你再問的時候都是一個接近90度的隨機數。

再舉個例子,你在計算器上輸入3+7,它每次都給出的是不同的答案……

是不是有種熟悉的感覺?

沒錯,什么人工不人工的智能都差不多。

可是,正經的計算設備不應該是這樣的。

這就是讓神經科學家很為難的地方,單個神經元得出的結論是不可靠的(灰色的點),需要多次測量來平均噪聲(圖中黑線)。

那么,一個神經元都這么不靠譜了,一群不靠譜的神經元竟然能把動物們的神經系統構建的這么精準,真是個奇跡。

那么,神經元們是怎么做到的呢?

這涉及到信噪比的問題。信號強度和疊加次數成正比,噪聲強度和疊加次數的平方根成正比,因此疊加次數越多,信噪比越高。

有人猜測,也許在我們的大腦中,它的運算機制就是數百萬個嘈雜神經元結論的平均值,通過這種方法來判斷看到的是什么。

可以從幾何的角度解釋這個問題,當噪聲與刺激驅動的相同神經子空間對齊時,噪聲只能影響受到刺激部分的編碼。至少,一些神經噪聲與刺激子空間正交,所以不會有什么壞的影響。

但是,這些只是理論猜想,如果真的想靠實踐算出噪聲對神經編碼的影響,這很難,畢竟只有少量信息限制的噪聲也會對神經編碼有很大影響。

所以,基于以上推測,我們就大致為這種“明明個體不靠譜,群體卻很靠譜”的行為歸納出原因:

把每個神經元得出的結論“神奇組合”一下,得出的平均值,就是最終那個靠譜的結果。

現在,做個實驗,解個碼證明一下吧!

小鼠視力實驗

此前有人做過對猴子的解碼,證明拿一小撮神經元做實驗和用上所有神經元差不多。

在這個背景下,我們的主角出場了。

一位神經科學家小姐姐Carsen Stringer用小鼠做實驗,探究小鼠的感知與單個神經元的關系。

在這次實驗里,小姐姐和她的團隊沒有對猴子下手,而是換了一種動物,盯上了小鼠。

研究人員的目標是,通過記錄小鼠20000個神經元的數量,測量視覺刺激定向解碼誤差的下限。

這項實驗的大前提是:如果限制信息噪聲的確有影響,解碼錯誤必須漸近于某個非零值。

具體的給小鼠設定的挑戰是:

讓小鼠看角度。

基于我們前面已知的“不靠譜”這個特性,可以預知,給予小鼠相同的視覺刺激,神經元的每次反應完全不同。

研究人員用顯微鏡同時記錄了約20000個神經元的活動。這是一個部分的隨機顏色:

然后,使用線性回歸找到每個神經元的權重,將它們的活動組合成“超級神經元”,對它們的判斷進行平均。

這些超級神經元比單個神經元的噪聲要小很多。其實,在95%的實驗中,超級神經元能夠分辨45度和46度之間的微小差異。

一度之差,人類都判斷不出來吧。想象一下,讓一只老鼠分辨出這么微小的差異……另一位研究人員@BenucciLa真的嘗試了,老鼠只能分辨出超過29度的差異,比神經元差100倍。

最終,雖然研究人員們把解碼的誤差做到很低了,但是并沒有出現期待中漸近的狀況。

也就是說,視覺皮層對老鼠的視覺特征進行了高精確度的編碼,但老鼠依然在辨別方向任務中完成得很差。

鍋在解碼過程

于是,研究人員得出結論,老鼠能接受到的信息,比人類大腦能接受的差1000倍。

雖然老鼠不能將這些信息傳遞給人類,但他們也是可以利用這些信息的。比如,這些信息可以作為一種計算的第一步。

這也進一步說明,神經信號和行為之間的差異不能用刺激的類型來解釋,無論是通過行為狀態還是反復試驗感知直覺測試。

得出結論,小鼠感官知覺的局限性不是由感覺皮層的神經噪聲決定的,而是由神經元下游的解碼過程限制。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1817

    文章

    50094

    瀏覽量

    265302
  • 神經元
    +關注

    關注

    1

    文章

    369

    瀏覽量

    19171

原文標題:單個神經元不可靠!這項新研究推翻以往認知,感知的最大限制在于解碼過程

文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    高速鈣成像

    ,主要致力于研究神經遞質釋放的調控機制,這是大腦中神經元之間通訊的基礎。 正如沃爾林斯基教授所解釋的:“神經元之間的突觸是健康和疾病中調制和可塑性的關鍵位點。因此,詳細了解在
    的頭像 發表于 02-25 09:22 ?38次閱讀
    高速鈣成像

    應用案例 | 40倍鏡下解析小鼠腦部神經元:深視智能sCMOS相機賦能膜片鉗實驗高效開展

    01實驗背景小鼠腦部神經元膜片鉗實驗是神經科學領域的關鍵技術,廣泛應用于神經系統疾病機制研究、藥物篩選及神經環路解析等核心方向。該實驗的兩大
    的頭像 發表于 02-02 08:17 ?274次閱讀
    應用案例 | 40倍鏡下解析小鼠腦部<b class='flag-5'>神經元</b>:深視智能sCMOS相機賦能膜片鉗實驗高效開展

    神經元設備和腦機接口有何淵源?

    HUIYING神經元設備的發展歷程概述神經元設備的發展經歷了從基礎信號檢測到多功能智能集成的演進過程。自1920年代腦電圖(EEG)信號首次被發現以來,神經電極技術逐步發展,如1957年出現的鎢微絲
    的頭像 發表于 11-03 18:03 ?1446次閱讀
    <b class='flag-5'>神經元</b>設備和腦機接口有何淵源?

    激活函數ReLU的理解與總結

    具有很強的處理線性不可分機制。那么在深度網絡中,對非線性的依賴程度就可以縮一縮。一旦神經元神經元之間改為線性激活,網絡的非線性部分僅僅來自于神經元部分選擇性激活。 對比大腦工作的9
    發表于 10-31 06:16

    構建CNN網絡模型并優化的一般化建議

    ,從而得到對我們有價值的識別信息。但這種迭代性并不是十分必要的,因為從實踐來看,即使只有單層網絡的模型,只要擁有充分數量的神經元,也可以獲得較高的準確率。不過該種方式的一個重要缺點就是參數重多,導致
    發表于 10-28 08:02

    脈沖神經元模型的硬件實現

    如圖所示展示了LIF神經元的膜電勢Vmem隨時間戳timestamp動態變化的過程,當接收到輸入脈沖后,LIF神經元的膜電勢值Vmem便會升高,直至達到閾值電壓Vthersh,此時神經元產生輸出脈沖
    發表于 10-24 08:27

    SNN加速器內部神經元數據連接方式

    所謂地址事件表達(Address Event Representation,AER),是指通過地址的方式將事件進行表達,然后按時間順序復用到總線上。已知生物神經元產生脈沖的頻率比數字電路要低很多
    發表于 10-24 07:34

    液態神經網絡(LNN):時間連續性與動態適應性的神經網絡

    神經元,但卻能產生復雜的行為。受此啟發,與傳統的神經網絡相比,LNN旨在通過模擬大腦中神經元之間的動態連接來處理信息,這種網絡能夠順序處理數據,并且保留了對過去輸
    的頭像 發表于 09-28 10:03 ?1198次閱讀
    液態<b class='flag-5'>神經</b>網絡(LNN):時間連續性與動態適應性的<b class='flag-5'>神經</b>網絡

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+神經形態計算、類腦芯片

    幾年神經元計算及類腦芯片的重大進展。 一、云端使用的神經形態計算與類腦芯片 神經形態計算旨在設計和構建包括硬件和軟件在內的計算機系統,通過模擬大腦神經元和突觸的工作方式,更高效的執行
    發表于 09-17 16:43

    絕對值光柵編碼器:工業精密控制的“數字神經元

    的“數字神經元”,正以毫米級甚至微米級的定位能力,重新定義精密制造的邊界。 突破傳統:從“相對計數”到“絕對定位”的革命 傳統增量式編碼器通過脈沖計數實現位置反饋,但存在致命缺陷:斷電后需重新校準零點,抗干擾能力
    的頭像 發表于 08-19 08:41 ?626次閱讀
    絕對值光柵編碼器:工業精密控制的“數字<b class='flag-5'>神經元</b>”

    新一代神經擬態類腦計算機“悟空”發布,神經元數量超20億

    電子發燒友網綜合報道 8月2日,浙江大學腦機智能全國重點實驗室發布新一代神經擬態類腦計算機——Darwin Monkey(中文名“悟空”)。 ? “悟空”堪稱國際首臺神經元規模超20億、基于專用神經
    的頭像 發表于 08-06 07:57 ?7608次閱讀
    新一代<b class='flag-5'>神經</b>擬態類腦計算機“悟空”發布,<b class='flag-5'>神經元</b>數量超20億

    電解電容真的不可靠嗎?

    電容的高故障率是電力電子系統可靠性問題的一大來源,其中電解電容短壽命的特點尤為突出。然而,追求可靠性的本質是追求產品全壽命周期成本的最優,從這一角度出發,可靠性不高的電解電容也許在某些應用中更加“
    的頭像 發表于 07-26 09:14 ?788次閱讀
    電解電容真的<b class='flag-5'>不可靠</b>嗎?

    無刷直流電機單神經元自適應智能控制系統

    摘要:針對無刷直流電機(BLDCM)設計了一種可在線學習的單神經元自適應比例-積分-微分(PID)智能控制器,通過有監督的 Hebb學習規則調整權值,每次采樣根據反饋誤差對神經元權值進行調整,以實現
    發表于 06-26 13:36

    無刷直流電機單神經元PI控制器的設計

    摘要:研究了一種基于專家系統的單神經元PI控制器,并將其應用于無刷直流電機調速系統中。控制器實現了PI參數的在線調整,在具有PID控制器良好動態性能的同時,減少微分項對系統穩態運行時的影響,并較好
    發表于 06-26 13:34

    神經網絡RAS在異步電機轉速估計中的仿真研究

    可靠性,因此無傳感器矢量控制系統的研究被廣泛重視。眾多學者對無速度傳感器的電動機轉速辨識進行了研究,出現了很多方法,模型參考自適應系統(Model Reference Adaptive System)在
    發表于 06-16 21:54