0
雷鋒網(wǎng) AI 科技評論按:頂級期刊《Nature Neuroscience》(自然:神經(jīng)科學)近日刊登了一篇新論文,論文標題是「Evidence that recurrent circuits are critical to the ventral stream's execution of core object recognition behavior」(證據(jù)表明循環(huán)結(jié)構(gòu)對核心物體識別行為中處理腹側(cè)神經(jīng)流的過程有關(guān)鍵影響)。論文中把動物視覺系統(tǒng)在物體識別任務中的表現(xiàn)建模為深度學習模型,并對比真實動物和深度學習模型的行為,嘗試進一步推測真實動物視覺系統(tǒng)的功能和結(jié)構(gòu)。
這類研究得到的發(fā)現(xiàn)不僅有神經(jīng)生物學意義,也可以幫助機器學習領(lǐng)域的研究人員們從其他角度理解深度神經(jīng)網(wǎng)絡的結(jié)構(gòu)和行為特點,比如,根據(jù)這篇論文中的結(jié)論,動物視覺系統(tǒng)中的RNN結(jié)構(gòu)可以加速有挑戰(zhàn)性的圖像的識別,這種現(xiàn)象能否用來進一步改進人工神經(jīng)網(wǎng)絡呢?
這篇論文的作者們來自哥倫比亞大學和MIT。
論文摘要:
對動物的研究表明,靈長類動物的視覺系統(tǒng)中有密集的循環(huán)式腹側(cè)神經(jīng)流,并最終在顳下皮層(IT Cortex)匯集,這構(gòu)成了它們的核心物體識別行為。目前對這種行為建模效果最好的模型是深度卷積神經(jīng)網(wǎng)絡(CNN),但 CNN 卻是不帶有循環(huán)結(jié)構(gòu)的。這就給研究人員們帶來了一個疑問:如果動物神經(jīng)系統(tǒng)追蹤的循環(huán)結(jié)構(gòu)對它們的行為如此重要,那么靈長類的識別系統(tǒng)就應當在同時需要前饋顳下皮層響應以及額外的循環(huán)信號處理的圖像識別任務中得到高于只有前饋的深度 CNN 網(wǎng)絡的表現(xiàn)。
在這項研究中,作者們首先使用行為學方法找到了數(shù)百張這樣的「有挑戰(zhàn)」的圖像(能體現(xiàn)出循環(huán)結(jié)構(gòu)的優(yōu)勢)。其次,借助大規(guī)模電生理學方法,作者們把其它動物中的有足夠識別能力的物體識別方案和靈長類進行了行為學角度對比,發(fā)現(xiàn)識別有挑戰(zhàn)性的圖像時,前者的信號在顳下皮層匯集的時間要比靈長類遲大約 30ms。然而深度 CNN 的行為卻很難預測這種行為學角度有顯著區(qū)別的滯后顳下皮層響應。值得一提的是,非常深的 CNN 和淺一些的循環(huán)結(jié)構(gòu) CNN 對這些滯后響應的預測就要好一些,這表明額外的非線性變換與循環(huán)結(jié)構(gòu)之間存在一定的功能等效性。
作者們提由此提出,循環(huán)結(jié)構(gòu)的信號通路對于快速物體識別起到了關(guān)鍵作用,這也得到了實驗證實;除此之外,實驗結(jié)果還為未來的循環(huán)結(jié)構(gòu)模型開發(fā)提供了強有力的限定條件。
由于論文是閉源的,對于論文正文內(nèi)容我們只能介紹這么多。
論文地址:https://www.nature.com/articles/s41593-019-0392-5
實驗數(shù)據(jù):https://github.com/kohitij-kar/image_metrics
準備實驗所用代碼:http://brain-score.org/
雷鋒網(wǎng) AI 科技評論此前也有長文介紹過神經(jīng)科學研究和人工神經(jīng)網(wǎng)絡之間的聯(lián)系,見 《殊途同歸還是漸行漸遠?MIT神經(jīng)科學教授James DiCarlo談如何通過人類神經(jīng)理解神經(jīng)網(wǎng)絡》
雷鋒網(wǎng) AI 科技評論報道。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。