丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
業(yè)界 正文
發(fā)私信給李詩
發(fā)送

0

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

本文作者: 李詩 2017-08-15 12:53
導語:黃鐵軍認為Brain Like(仿腦)是取得突破的可行路線,是走向“強人工智能”的必要階段。

雷鋒網(wǎng)按:2017 年 7 月 28-30 日,由 中國計算機學會(CCF)主辦的高端學術(shù)活動——中國計算機學會學科前沿講習班(CCF Advanced Disciplines Lectures,簡稱 ADL)第 81 期在北京中國科學院計算技術(shù)研究所舉辦。

本期講習班由北京大學計算機科學技術(shù)系主任,信息科學技術(shù)學院教授黃鐵軍主持,另有六名來自學界、業(yè)界的大牛,為現(xiàn)場百名學員講解了“類腦計算”相關(guān)的前沿與應用。雷鋒網(wǎng)亦來到現(xiàn)場聽講。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿


北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

北京大學信息科學技術(shù)學院教授,計算機科學技術(shù)系主任,國家杰出青年科學基金獲得者,教育部長江學者特聘教授

黃鐵軍教授回顧計算機和人工智能的發(fā)展,提出目前我們正處于神經(jīng)形態(tài)計算類腦計算機的元年。以AI的誕生、制造強AI、繪制大腦地圖、神經(jīng)形態(tài)計算、AI睜開眼睛為框架體系講解了類腦計算。黃鐵軍認為相比于Brain Inspired Computing(腦啟發(fā)的計算),Brain Like(仿腦)是取得突破的可行路線,是走向“強人工智能”的必要階段,可能比“人工智能”(人工設計出來的智能)和“認知科學”(理解思維的機理)更早實現(xiàn)。

雷鋒網(wǎng)對其演講全文進行了不改變原意的編輯,分為上下篇,上篇為《北大計算機系黃鐵軍CCF-ADL講習班上篇:從計算機發(fā)展史講解制造超人工智能的正途——類腦計算》,此為下文。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

三、繪制大腦地圖

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

我們不用靠認知科學去知道意識是什么,神經(jīng)科學才是實現(xiàn)強人工智能的途徑,要把人類大腦畫出來,要搞清楚是什么樣的結(jié)構(gòu)產(chǎn)生了我們高級的智能。對于這樣一個復雜的系統(tǒng),如果我們從結(jié)構(gòu)從物質(zhì)上去看的話,當然也很復雜,這個問題難度仍然很大。

大腦本身是一個信息處理的系統(tǒng),是神經(jīng)元和神經(jīng)突觸在發(fā)揮作用。在這些層次,我們都是在看信息、信號,它的復雜度是有限的,而且是可以預期的時間之內(nèi),把它搞清楚的。但是它是一個動力學系統(tǒng),因為大腦是沒有意識的,這個是問題復雜的地方。你不能只知道神經(jīng)元怎么連接的,一個照葫蘆畫瓢,僅僅畫一個形狀像,我們還要產(chǎn)生動力學,不產(chǎn)生動力學,最終是做不出智能意識的,所以這是這個問題真正難的地方。 

因為到今天為止,實際上我們對大腦的解剖,去測量它的手段已經(jīng)有了,現(xiàn)在是怎么把這個任務變成在十年這樣一個尺度內(nèi)完成的問題。人腦絕對不像我們一般想那樣的復雜。人腦是860億的神經(jīng)元,其實200多億是我們的大腦皮層,200多億是高級智能的物理載體。這個皮層本身就像上面,這是很多的皺褶的結(jié)構(gòu),本身不是一個隨機的,是一個有規(guī)律,有結(jié)構(gòu)的結(jié)構(gòu)。具體來說,它是由1200萬個功能柱組成的,每一個功能柱是一萬個神經(jīng)元左右,大家看到的把皮層展開之后,就像一面墻,這面墻上有很多磚組成的,每一個磚我們叫功能柱,磚內(nèi)部的連接比較復雜,當然也比較有規(guī)律,不同的磚的連接是類似的,這面墻有這么1200萬,不到200萬塊磚組成的。為什么這么去看這個結(jié)構(gòu)?是因為將來你可以靠大量的芯片去并列來產(chǎn)生這個結(jié)構(gòu),但是芯片之間的連接和芯片內(nèi)的連接也比較復雜。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

在如何把大腦逆向描繪來方向,現(xiàn)在有很多進展,一個是華中科技大學駱清銘教授他們2010年發(fā)的一篇論文,獲得了2014年國家自然科學二等獎,他們突破了單細胞分辨的全腦顯微光學切片成像,右邊是一個小鼠的大腦,整個大腦是0.5立方厘米的大小,用樹脂固定、冷凍、切片,然后去掃描,去看神經(jīng)元的連接。這個數(shù)據(jù)他們掃出來之后,就給了瑞士的人類大腦計劃。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

這是上個月,我們北大的分子醫(yī)學所陳賀平院士他們做的,雙光子顯微鏡是基金委重大儀器項目的成果,這種新的儀器很小,成本比較低,現(xiàn)在它的分辨率可以看清楚樹突和樹突棘的形態(tài),生產(chǎn)過程還有神經(jīng)元。類腦計算需要一群,要一定面積之內(nèi)的這樣的神經(jīng)網(wǎng)絡圖譜。國家會投15億建一個平臺,現(xiàn)在應該是初步定了北大牽頭建這個平臺,當然北京市還要配套,幾十億要把這個系統(tǒng)建起來,建起來之后去掃描,去觀察這樣一個生物的對象。 

系統(tǒng)建立后,根據(jù)加工能力我們大概需要五年能做出視網(wǎng)膜,十年把視皮層做出來。第二個,神經(jīng)元的模型,我們搞人工神經(jīng)網(wǎng)絡的人,得有神經(jīng)元的模型才能做人工神經(jīng)網(wǎng)絡的計算。但是生物神經(jīng)元的工程是什么?我們很多搞人工神經(jīng)網(wǎng)絡的人不知道,還有這么精細的模型。所以如果有了結(jié)構(gòu),有了單元的模型,其實我們就可以構(gòu)造一個網(wǎng)絡了,一個逼近生物的神經(jīng)網(wǎng)絡了。所以從2005年開始,EPFL,瑞士聯(lián)邦理工學院洛桑的那個學院,他們一個組Markram做了一個模型,用了IBM的藍色基因,超級計算機上面,建了一個模型,這個模型是1萬個神經(jīng)元,每一個神經(jīng)元,用方程盡可能的逼近生物的真實。把這樣一個模型,在超級計算機算,觀察它接受刺激的情況下,這樣的網(wǎng)絡會出現(xiàn)什么現(xiàn)象,當時他們出現(xiàn)了Y振蕩現(xiàn)象,差不多40赫茲左右的振蕩,當然有網(wǎng)絡,有這個神經(jīng)脈沖在里面,在里面去循環(huán)就會產(chǎn)生振蕩,這個振蕩跟我們這個生物大腦是一樣的,我們都有腦電波,為什么會有腦電波,因為你的神經(jīng)網(wǎng)絡里面,有大量的神經(jīng)脈沖在傳遞。傳遞過程中,有入口有循環(huán),產(chǎn)生我們的腦電波,我們測腦波這種現(xiàn)象就是神經(jīng)網(wǎng)絡外顯出來的一種功能,我們活著我們就有腦電波,死了就沒有。這樣的網(wǎng)絡同樣會產(chǎn)生腦電波,證明這個仿真已經(jīng)接近生物的真實了。

他們在2015年的時候,發(fā)明了另外一篇論文,更精細了,0.3立方毫米的大鼠腦區(qū),3萬多個神經(jīng)元,800萬個連接,這樣一個更精細的模型,證明實際上用計算的這種仿真的方法是可以精準重現(xiàn)生物的信息處理功能的,實現(xiàn)了這樣一個目標。

歐洲列出來的13個方向,十幾個億歐元,一大幫人做。藍色部分就是我們信息相關(guān)的,神經(jīng)信息學、大腦仿真、 高性能計算,因為為了做大規(guī)模,一定要有更高性能的平臺。醫(yī)療信息學、神經(jīng)形態(tài)計算、神經(jīng)機器人,這都是我們說的類腦計算,或者是神經(jīng)形態(tài)計算。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

在2013年的歐洲計劃正式啟動是3月份,4月份美國大腦計劃提出來之后,也是很多部門參加,所以2014年的時候,NIH列了12年的規(guī)劃,大致來說,前五年研究新的技術(shù),來探測大腦的結(jié)構(gòu),比如說列的核磁共振,電子、光學探針,功能性納米粒子、合成生物學,其實都是試圖畫大腦的圖譜。后五年,用這些技術(shù)把圖譜畫出來,像人類基因圖譜一樣,把人類的大腦圖譜畫出來,人類大腦的動態(tài)圖,靜態(tài)圖譜像地圖,我們百度地圖把城市的路網(wǎng)畫出來了,如果把路上跑的車,什么地方的車流量大,什么地方流量小,每輛車的位置,那就是動態(tài)圖譜。大腦也一樣,不僅僅是要搞清楚神經(jīng)網(wǎng)絡的連接,而且要知道不同的神經(jīng)元之間傳遞的神經(jīng)脈沖的數(shù)據(jù)。美國也有很多企業(yè)做的有九個研究領(lǐng)域,2025年,實際上是12年的一個計劃,大腦神經(jīng)元、神經(jīng)交織細胞類型的普查,創(chuàng)建大腦結(jié)構(gòu)圖譜,開發(fā)新的技術(shù),不一一念了。實際上就是要畫圖,要把大腦的地圖畫出來,花了很多錢。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

四、神經(jīng)形態(tài)計算

這不是我們學科的,但是沒有這個藍圖,你構(gòu)造不出來強人工智能的體系結(jié)構(gòu)。從1943年人們就開始想,既然生物神經(jīng)能做這個事,我們?yōu)槭裁床挥蒙锷窠?jīng)出發(fā)去做,去這么做。但是那個時期的技術(shù)有限。所以在2015年春天的時候,那個時候國家要做十三五,從啟動的16個重大科技專項大概來說,這些方向已經(jīng)有想法了。這個圖是2015年春天的時候,我們幫著起草了一些政府的規(guī)劃,規(guī)劃的一個示意圖,做類腦計算機或者神經(jīng)形態(tài)計算,我們從信息的角度,我們該做一些什么事。這個事今天來看,也還是對的。從下面要做神經(jīng)形態(tài)器件,做人工神經(jīng)元、神經(jīng)突觸,基于他們做類腦處理器,都是為了聽起來容易明白你們到底要干嘛,還叫它類似于CPU這種名字,本來不太準確,但是完全創(chuàng)造一個新詞,別人也不知道你干什么,所以稱為類腦處理器,做類腦計算機,這種計算機要有視聽感知、自主學習和自然會話這些一些高級的功能,現(xiàn)在計算機做不好,甚至于做不到,將來的計算機要能做到。為了做類能處理器要把生物神經(jīng)系統(tǒng)的結(jié)構(gòu)解析仿真,然后我們基于那個結(jié)構(gòu)來做類腦處理器。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

左邊是一條線,自底向上的方法,右邊說認知功能,盡管我個人偏左邊這樣一個思維方式,但是我們不能否定,自上而下基于功能的路線。如果認知科學能夠提供一定的認知功能的模型,改進現(xiàn)在的機器學習,做新的處理器,一樣會對后面的發(fā)展發(fā)揮作用。大致上就這么九個方向,在9月1日作為北京市腦計劃兩大部分之一,對外公布了。后來在11月份的時候,人民日報有一個專版報道了北京這樣一件事,北京也北大、清華、科學院、北師大很多單位。所以大家剛才那個圖里面每一塊,都有一個單位在做。從器件開始在做,當然一開始做項目,不可能說全面說上來做人腦,從一個一個點,往最終的目標在發(fā)展。這樣一個技術(shù)思路,本身不是新的,得到馬上會看到,因為研究三十年了。我們當成一個整體大家一起行動,做一些共同的事情。但是從一種政府的季度來說,還算有點提前的。在2個月之后,2015年10月29日,這個文件大家在網(wǎng)上可以下載的,美國能源部一個會議,會后出的一個報告,《神經(jīng)形態(tài)計算:從材料到系統(tǒng)架構(gòu)》,材料就是剛才說的做器件,系統(tǒng)架構(gòu)就是非馮諾伊曼新的體系結(jié)構(gòu)會是什么樣,幾十頁的報告,大家可以從網(wǎng)上下載。但是從整體上,跟剛才講的體系是類似的,我們對這一塊,當時有描述,我就不展開了。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿去年2016年斯坦福大學發(fā)布的人工智能2030的報告里面,對11個人工智能的發(fā)展方向的預測,其中前面那幾個是目前很熱門的,大規(guī)模機器學習,基于大數(shù)據(jù)的大規(guī)模機器學習,深度學習,強化學習。報告里面表述很清楚,深度學習對深度神經(jīng)網(wǎng)絡,已經(jīng)對應用地平線帶來一輪沖擊,這個沖擊大家已經(jīng)感覺到了。如果這些神經(jīng)形態(tài)計算,硬件系統(tǒng)能出現(xiàn)的話,會帶來更大的沖擊波,這是他的一個判斷。所以下一波,基于神經(jīng)形態(tài)計算的智能,會帶來社會的影響會更大。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

其實有很多的學校、很多研究所都在做神經(jīng)形態(tài)計算機,其中比較有代表性的有:德國海德堡大學,美國IBM公司,斯坦福大學和曼徹斯特大學。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

總的來說,大家看到這張圖,實際上就是神經(jīng)形態(tài)計算系統(tǒng),在逐漸逼近大腦的過程,盡管現(xiàn)在都做了一定的簡化,規(guī)模上什么都有很大的差距,但是去逼近這個生物大腦,人類已經(jīng)邁出了很重要的一步,后面就是進一步逼近的問題。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

IBM這件事因為媒體報道比較多,實際上大家可能都知道,IBM做了一個神經(jīng)形態(tài)芯片。這是2014年7月份,他們在發(fā)表那一篇論文之前,做的媒體報道。當時的媒體,有這么一句話,IBM的長遠目標是建立具有一百億個神經(jīng)元和一百萬億突觸的神經(jīng)突觸系統(tǒng),能耗只有一千瓦,體積不到兩升。大家讀這句話,實際上要逼近人腦規(guī)模,人腦功耗是20、30瓦,這個系統(tǒng)是一千瓦,體積不到兩升,人腦就是這樣一個。從物理這種指標上,要逼近人腦,只有功耗比人腦大一些,一千瓦就是家里的小空調(diào),就是一千瓦,其實很低了?,F(xiàn)在超級計算機,像天河二號,應該是有16兆瓦,每年的電費要幾個億的成本。但是我們等下看,天河二號與人腦還遠著呢。但是實際上,我剛才念這句話是2014年的報道,實際上這句話是推遲7年之后說出來的,因為這個目標早在2007年已經(jīng)定下來了,只不過對媒體不敢說。因為他們做這個事,也做了很多年,從2004年開始醞釀做,到2014年,十年時間把芯片做出來,還是花了很多人力、物力,包括支持經(jīng)費做出來。在這個過程中,我想讓大家看這個圖,其實不是拍腦袋說做一個芯片,就做一個芯片,背后有它背后的邏輯。所以你看圖里面,老鼠的,這里面小老鼠、大老鼠、貓、猴子、人腦都能看見,這是什么東西?這是在超級計算機上做仿真,一開始的時候,在做芯片之前,都是IBM的超級計算機速度比較快,所以超算上在算,在仿真這個大腦,當然仿真的程度,就像剛才說的,可能神經(jīng)元的模型不那么精細,但是沿著這樣一條路線在做仿真,所以做了十年,到最后我要做芯片,為什么必須做一個芯片?是這樣的,當時2007年,為了申請這個項目的時候,這個項目叫SyNAPSE,大家知道這是突觸的意思,但是實際上是縮寫,一個神經(jīng)形態(tài)的自適應的、可塑性、可伸縮可擴展的電子系統(tǒng),這么羅嗦的一句話說到底就是一個電子大腦皮層,在2007年立項的時候,立的目標就是像人腦皮層一樣,做這么一個電子實現(xiàn),電子實現(xiàn)功能一千瓦。上面那個電子的一千瓦,下面人腦20瓦,單位面積內(nèi)的神經(jīng)突觸、神經(jīng)元的數(shù)是一樣的,所以體積就一樣,是兩升。媒體那邊講2014年講的話,實際上講的是2007年申請這個項目的時候,定的一個目標。從2008年開始做,也給了不少錢,最后把這個芯片做出來。

為什么要做這個芯片?其實是因為靠超級計算機模擬,是不可能解決大腦的這種傳導規(guī)模的仿真。IBM用的模型,大家看到是立體模型,是最簡單的一種,當然比我們?nèi)斯ど窠?jīng)網(wǎng)絡用的MP模型要復雜一點,就是比較簡單的一種脈沖神經(jīng)網(wǎng)絡的模型。即便用這種簡單的模型,他們在2009年,超算上的一篇,當時那個系統(tǒng)叫皮層模擬器軟件,那個時候按照他們的估算,這個數(shù)是公開的,大家看,那時候做的是83分之1,人要1秒,它要83秒,模仿了4.5%的人腦,消耗了144T的內(nèi)存,0.5pflops的計算量,換算一下,如果用天河二號,要把人腦規(guī)模實時的,不超過幾十赫茲的信息處理能力算出來的話,需要300臺天河二號,神威天湖之光,也需要100臺。所以電費就不夠,當然我們也沒有造出那么多超算,盡管我們是第一,我們只有一臺神威,要造100臺神威,才能用一個簡化的模型,把人腦仿真出來。所以這就是我一開始說的,你用這個做研究的可以往下做,真要做到人腦規(guī)模,不是一條可行的路。中國再有錢,也不能為了模仿仿真大腦,造100臺神威天河。

所以一定要做硬件,根據(jù)神經(jīng)網(wǎng)絡的需要做新的硬件,能逼近人腦這樣一個終極目標。這是TureNorth芯片,這個芯片上的神經(jīng)網(wǎng)絡,確實是脈沖神經(jīng)網(wǎng)絡,但是做了很多的簡化,這里面也有一些比較創(chuàng)新的東西。比如一個神經(jīng)元要跟幾千個神經(jīng)元通訊,怎么通訊?人腦是進化好了,連接都已經(jīng)有專門的神經(jīng)纖維在聯(lián),很多就是神經(jīng)纖維,不一定是我們的神經(jīng)元。物理連接已經(jīng)進化出來了,一個芯片怎么做?所以一個芯片內(nèi),任何一個神經(jīng)元都有可能跟其他幾千個神經(jīng)元相聯(lián),比如就設計了一個高速路由系統(tǒng),芯片內(nèi)的高速路由系統(tǒng),使得最終當然希望剛才說的,每秒鐘比如一個神經(jīng)元發(fā)幾十個脈沖,它都能實時送過去,類似于這樣,從芯片設計的技術(shù)上進行解決。這個已經(jīng)實現(xiàn)了,把大量的芯片做成版,把大量的版拼在一起,做一個裝置,是希望它能像人腦一樣的同樣的信息處理能力,這是一個。然后就是歐洲的幾個項目,其中藍腦計劃我剛才說過了,是歐洲大腦計劃很重要的一個推動力。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

Spinnaker是剛才說的英國系統(tǒng),英國這個系統(tǒng)是用AARM做的,這個實際上是去年的,去年這個系統(tǒng)是50萬核,50萬個ARM核,仿真400M神經(jīng)元和400B神經(jīng)突觸的一個系統(tǒng)。五個機柜具有這樣一個基礎(chǔ)能力。旋轉(zhuǎn)的輪胎是什么東西?就是體系結(jié)構(gòu),在創(chuàng)造的就是說大家想還是剛才那樣一個問題,一個神經(jīng)元要跟幾千個其他的神經(jīng)元通訊,通訊是中間很關(guān)鍵一個問題,要速度,所謂的速度就是在這個地方,你能不能很高效的實現(xiàn)任意一個神經(jīng)元跟幾千個神經(jīng)元通訊,一旦設計一個,有效的結(jié)構(gòu),一個體系結(jié)構(gòu),因為像IBM的芯片是偏內(nèi)的,高速的結(jié)構(gòu),Spinnaker每一個單元就是一個ARM的核,一個ARM處理器,處理器有64還是多少個核,這個核之間,每一個核去仿真神經(jīng)元的話,要通訊,所以怎么解決通訊協(xié)議,這是它的一個專利。論文里面也都有報道,所以這樣一個環(huán),這些核之間連接成蜂窩狀,最終形成這樣一個形狀,每個紅點就是它要發(fā)射神經(jīng)脈沖了,向周邊傳遞下去。當然每一個神經(jīng)元,你不可能連幾千個,但是能完成把這個信號傳遞過去,是它的獨特地方。

所以現(xiàn)在在歐洲這兩臺機器,已經(jīng)對外服務了,大家也可以訪問,然后我現(xiàn)在有一個神經(jīng)計算的模型,我想用你的,可以用,但是不會給你開放那么多基本資源,實驗一下還是可以做的。還有一個,剛才說神經(jīng)元現(xiàn)在大家已經(jīng)覺得沒有什么好擔心的了,因為神經(jīng)元的數(shù)量,是神經(jīng)突觸數(shù)量的千分之一,所以真正大腦的復雜,物理形成構(gòu)造是怎么把神經(jīng)突觸做出來。在尋找新的物理材料,構(gòu)造新的器件,最有代表性的一種叫憶阻器,這個器件本身最初的設想,不是為了做神經(jīng)形態(tài)計算的,是我們一個華人的科學家提出來一個想法,物理上有電阻、電容、電感,他是數(shù)學家,他說這個不完美,應該有第四種,他其了名字叫憶阻器。第四種是根據(jù)電流的變化會改變組織的一種器件,當時只是一個數(shù)學上的一個概念。但是在2008年的時候,找到了這種材料,具有這種特性。而這種特性,一方面可以改變組織,可以做存儲,很快你發(fā)現(xiàn),它其實跟生物突觸的可塑性是類似的,所以后來就把它,很多人研究這種器件來做神經(jīng)突觸。過去這些年,大概十來年突觸已經(jīng)很熱了,很多學校和單位在做突觸。這種突觸,我大概給大家形象的描述一下,將來怎么做是這樣的。這篇論文就是1971年提出來,這是2014年參加指導一個博士后寫的一篇論文《大腦是由憶阻器組成的》,大腦的這些百萬億突觸,是可以用憶阻器來實現(xiàn)。當然這么一圖,不是電路,怎么實現(xiàn)電路,實際上就是看這個圖。實際上突觸的實現(xiàn),是電流生產(chǎn)的工藝來說,其實并不復雜。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

是這樣,我們剛才說過神經(jīng)元的數(shù)量要很少,相對于突觸來說是很少,所以神經(jīng)元會在兩邊,一排神經(jīng)元又一排神經(jīng)元,關(guān)鍵是怎么把神經(jīng)元用物理的連接連接起來。所以這兩排神經(jīng)元,橫豎的兩排神經(jīng)元,先涂上一種材料,用現(xiàn)在光刻的手段,刻成一道道線,最終綠點部分就是一個一個,肯定不是圓的,你刻成什么形態(tài),就是什么形態(tài),那個形狀不重要,那個材料就可以,因為那個藍線相當于連接神經(jīng)元的樹突和周突,那個綠的部分就是那一層材料,可以根據(jù)得出樹突上的信號傳遞,發(fā)生變化,就像神經(jīng)突觸一樣的發(fā)生連接起來,強度會發(fā)生變化。所以用這樣一種物理材料,生產(chǎn)將來的電路,是沒有問題的。當然這種材料的穩(wěn)定性,是不是能,首先從數(shù)學上,模型上是可以逼近生物的,但是穩(wěn)定性、可靠性,還是要有更多的研究。這個方面我剛才說,國外有很多單位在做,國內(nèi)也有很多單位在做,比如說北大、清華、南大、華中科大,都有很多組織再做,所以有十幾年的研究歷史,這個就是我們打一個想象的比方,就是新一代計算機的晶體管,晶體管就是剛才說的誰先做出來,誰能做的比較靠譜,真正變成未來產(chǎn)業(yè)的糧食,那就是未來的一個很重大的貢獻,中國還是不能落后的。

所以就是剛才說的,這樣一些系統(tǒng)、器件,甚至于剛才日本的火蠅全腦網(wǎng)絡都畫出來了,這樣一些標志性的事件,我們說去年我們可以在人類的歷史上,其實計算機正在進入一個新的紀元。這方面中國當然要做,所以前那么兩三年,我經(jīng)常到處去說,我們一定得做這個東西,當然北京市也給了不少支持,國家確實在布局?,F(xiàn)在來看,我們中國已經(jīng)進入了發(fā)展這樣一些,快速發(fā)展的過程。所以這是7月20日,新一代人工智能國務院發(fā)的總體發(fā)展規(guī)劃里面一張總圖,在網(wǎng)上可以下載規(guī)劃規(guī)劃上沒有圖,國務院發(fā)文件不會帶插圖,不是教科書。實際上這張圖原來在里面,只是發(fā)的時候,拿掉了。除了我們說的人工智能我不展開,類腦智能理論、量子智能理論、高級機器學習其實都在里面,在國家未來十幾年的發(fā)展過程中,這些東西都會作為很重要的內(nèi)容進行支持。所以我們應該已經(jīng)進入了,關(guān)于前面這一段,也有一些國際上的總結(jié),大家今年的2月份,神經(jīng)形態(tài)計算這一部分,我是寫的科普第三篇,大家通過計算機學會的第二期和公眾號多有,大家愿意看的,可以再看一下。

我剛才講的這些東西都是國內(nèi)外的進展,都不是我這個實驗室做的,我們下面講的,是實驗室做的一些東西,跟視覺相關(guān)的。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

五、AI睜開眼睛

我們習以為常的視頻概念是24幀圖像,連續(xù)形成一種連續(xù)的感覺,計算機視覺也是基于視頻的。但是事實上這個事跟生物視覺距離很遠。電影能夠產(chǎn)生連續(xù)影像,是因為生物視覺有一個視覺暫留的現(xiàn)象。生物視覺接受真實世界的刺激,從來都是一個連續(xù)過程。類腦視覺像現(xiàn)在每秒鐘輸入30幀圖像,每幀圖像就像現(xiàn)在做的,表達每幀圖像這個方向去做。這個路子本身就是錯的,生物本來沒這樣做,沒有說一幅圖像, 兩幅、三幅圖像,根據(jù)圖像看差異然后還要分析這個光流,不是這樣的。生物系統(tǒng)從來得到的都是在最細的力度上,它的一個實時的連受刺激過程。

我們經(jīng)常假定大腦信息處理的模型很復雜,實際上這種復雜性,有時候是自己給自己的一種假問題。在1978年的時候,美國科研院士提出來,其實大腦皮層處理信息的機制是一樣的,我們處理視覺、處理聽覺、處理觸覺,所有的在大腦皮層里面作為一種信息處理的算法,用計算機的算法,或者具體模型是一樣的。但是對我們來說,視覺、聽覺觸覺是不一樣的,你看見、你聽見和你手燙這個感覺是不一樣的,但是大腦皮層接受的都是一樣,都是信號。

在感覺這樣一類,我們的智能上面,還有一些新的數(shù)據(jù),要跟大家分享。一個是到底我們?nèi)俗鳛橐粋€生物體,我們感知世界,我們的結(jié)構(gòu),所有的智能歸根到底同樣是某種結(jié)構(gòu)實現(xiàn)的,同樣是某種物質(zhì)的載體去實現(xiàn)它的。對于感知來說,我們總共有300萬根神經(jīng),感知神經(jīng)就是眼睛、耳朵、觸覺,剛才所有的這種感知,總共有300多萬根。其中每個眼睛背后有100多萬根,兩只眼睛200多萬根,剩下的聽覺、味覺、觸覺、全身的皮膚,你能感覺到熱、冷、燙,各種的感覺總共100多萬根。眼睛為什么是心靈之窗?因為入口占了三分之二。所以我們信息的獲取,靠眼睛獲取了三分之二的信息量。如果我們的盲人,眼睛不接受信號了,視覺就沒有用了,沒有刺激了,就該怎么辦怎么辦?聽覺或者其他的感覺,就會利用那個皮層。所以盲人的手的敏感程度很高,因為那個視覺的中心部分還是做了觸覺的處理、聽覺的處理。所以他的耳朵很靈,之所以很靈,是因為更多的皮層用來做聽覺了。這也一定程度上解釋了剛才那個原理,皮層還是那個皮層,還接受不同的刺激,做不同感知的任務。背后的基理應該是一樣的,但是這個基理到底是什么?這個事現(xiàn)在并沒有模型,比如像剛才說的,我們的眼睛接受光,光轉(zhuǎn)化成斯擺科,轉(zhuǎn)化成神經(jīng)脈沖,通過每個眼睛100萬根神經(jīng)纖維,送到V1,V1在后腦勺。到底我們當然就想知道,神經(jīng)系統(tǒng)是怎么來表達和編碼這個信息,這是視覺信息處理的基本問題。

但是光視覺系統(tǒng)消耗的能耗就是大腦的十分之一。所以睜開眼睛是花能量的,不是睜開眼睛說瞎話。睜開眼睛,你一天吃的飯為眼睛和視覺消耗掉了。所以有的時候,大家要閉目養(yǎng)神,別讓眼睛老在那睜著,歇一會兒,別在這轉(zhuǎn)化光、電,表達什么了。閉目養(yǎng)神真的能養(yǎng)神,因為你省了十分之一的能量嘛。那到底這個眼睛從接受光刺激一直到最后,比如識別出物體,甚至做出于動作,過程的這些細節(jié),當然這是生物視覺他們在研究,我就不一一去說了。我們想說什么呢?到底這個生物視覺系統(tǒng),怎么來表示信息的?類腦計算,大腦可以做的東西很多,感知是其中的一部分,但是這一部分很重要,它是入口,入口怎么表達信息,我們都不知道的話,后面的很多工作很難開展。我們北京市的支持下,想在這方面有所進展。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

2010年的那篇論文講的,一般來說我們傳統(tǒng)上認為這個眼睛就像一個簡單的濾波器的樣子,對圖像進行濾波處理。實際上,事實上我們的眼睛做的事情比我們想象的要多的多。大家看這個論文的題目是《眼睛比科學家們相信的還要聰明》,實際上表達的信息的方法,絕對不是一個簡單的攝像頭。所以大家比如說現(xiàn)在熱門的無人駕駛,用一個攝像頭把自動駕駛解決了,確實做的很不錯。但是我們開車的時候,我們這個生物攝像頭,能力實際上是遠遠強于我們今天的攝像頭的。所以怎么把這個生物的攝像頭這些智慧能用上,當然想制造背后的原理。他們能給出之前,還是回到剛才說的,現(xiàn)在告訴我們一些基本的原理,但是又不能告訴精細的定量的東西,那怎么辦呢?在北京市的指示下,我們做了一些工作,僅僅是視覺系統(tǒng)最前面這一段,眼睛,視網(wǎng)膜到V1。

另外一個實皮層,那個實際上就是V1,大腦的最初級的那個區(qū)域,需要定量中心在做的,他們做了一個模型。但是這些都是在計算機上玩的,真正的生物的部分,是我們醫(yī)學部的薄老師在做,把猴子的視網(wǎng)膜摘下來,看它的神經(jīng)網(wǎng)絡結(jié)構(gòu)。另外一個,是唐市明老師,長年累月,做了很多年,他的精神像上午說的,他不管這個,當然他也是結(jié)清,所以他也不著急說要怎么樣。很多年觀察猴子的皮層,接受光刺激的時候會發(fā)生什么。這是一個把猴子的視網(wǎng)膜摘出來之后,他們做的掃描,掃描完之后,這一層就是視網(wǎng)膜中精細視覺那一塊的神經(jīng)網(wǎng)絡,當然這個也是書面的原因,大概只能看到一個結(jié)構(gòu),一個大致的結(jié)構(gòu),一個環(huán)形的結(jié)構(gòu)。那個一根一跟的纖維就是神經(jīng)纖維,送神經(jīng)信號的播報。這是標記各種各樣的細胞,不同的標記物,把它標記出來,然后把這個網(wǎng)絡給顯示出來。然后再去做這個模型的進一步數(shù)據(jù)化,模型化,最后把這個結(jié)構(gòu)搞清楚。

這個是剛才說的,觀察皮層,順便觀察這個皮層,這個是一個斷層。從在猴子看到一個視覺刺激的時候,從上到下一層一層的看哪些神經(jīng)元發(fā)放的,哪個神經(jīng)元和神經(jīng)元之間,誰在傳遞信號,通過什么樣的通道傳遞信號,就是做這個事。為了看這個東西,怎么看?你要打開它,不打開它怎么看,猴子背后實際上是打開的。但是大家不要擔心,打開是做了手術(shù),做了麻醉,用透明罩子幫它罩上。所以把這一塊骨頭換成一個透明的玻璃,然后這個猴子照樣生活照樣吃東西,該玩玩,但是做實驗的時候你就得坐下,該喝水還是照樣喝水。就戴上顯微鏡看它,讓它看東西,看后面那個東西。外面看到的其實就是這樣的事情,這是一個陶樂天在做,他從2004年就開始做猴子視皮層的仿真,也做了幾十年了,留下了一些現(xiàn)象。時間關(guān)系,我就跳過去了。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿

我們這個組等會兒給大家演示的是做中央化的仿真,中央化仿真。就是精細視覺這一塊,我們?yōu)槭裁搓P(guān)心這一塊?眼睛和剛才的視網(wǎng)膜很復雜,所以真正把視網(wǎng)膜做出來,最終大概需要至少五年的時間。我們現(xiàn)在只是把其中的精細識別,精細識別對識別信息編碼,我剛才講我們這個實驗是是編解碼國家工作實驗室,所以最關(guān)心的是我們研究看的時候,看清楚了,讓一個場景,是怎么變化的。周邊對運動,對特殊一些形態(tài)的檢測,那些也要做,但是是放在后面來做。怎么來做這個東西呢?就是回過頭來,還是回到神經(jīng)中去。一個神經(jīng)元長什么樣,它的形態(tài),這是剛才說的取下猴子視網(wǎng)膜去掃描,把三維的數(shù)據(jù)掃描,一個一個識別做出來,所以它長什么形態(tài)。第二個做神經(jīng)元的模型,就是上午說的方程,另外這個方程已經(jīng)可以刻畫各種神經(jīng)元的生命學行為,但是刻畫神經(jīng)元行為和每一種神經(jīng)元,具體在發(fā)生什么,你的數(shù)學工具在那個地方,但是每種神經(jīng)元有自己的特性,所以要調(diào)參數(shù)。調(diào)來調(diào)去,最近才能逼近給它一個電刺激,它能產(chǎn)生一種什么樣的脈沖模式。這個參數(shù)調(diào)好了之后,就算這個神經(jīng)元劃分出來了。為了做的精細,其實一個神經(jīng)元不是一組方程式,把這個分成很多段,所以每個里面,是一組方程組。所以一個神經(jīng)元的計算代價是很高的,大概剛才說的一個CPU,至少一個核去算一個神經(jīng)元。

黃鐵軍老師和其實驗室的博士生隨后對他們正在做的視覺系統(tǒng)解析項目做了演示。

本次課程為付費課程,2017年8月會在AI慕課學院獨家上線,原價 2500 元(CCF 會員)的線下課程現(xiàn)在限時特價 699 元預售,有興趣的學員戳:http://www.mooc.ai/course/114,或者掃描下圖二維碼觀看。

北大計算機系黃鐵軍CCF-ADL講習班下篇:詳解神經(jīng)形態(tài)計算與AI生物視覺前沿


相關(guān)文章:

北大計算機系黃鐵軍CCF-ADL講習班上篇:從計算機發(fā)展史講解制造超人工智能的正途——類腦計算

馬斯克說的腦機結(jié)合還有多遠?真正的腦機科技前沿告訴你真相 | CCF ADL 81類腦計算前沿班回顧

重磅講座預告:黃鐵軍、陳云霽等專家齊聚CCF ADL,分享類腦計算與深度學習處理器 | 開課報名中

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

分享:
相關(guān)文章

編輯

關(guān)注AI業(yè)界、NLP、VR、AR技術(shù)與產(chǎn)品。采訪報道、行業(yè)交流請加微信“Hanass”
當月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設置密碼以方便用郵箱登錄
立即設置 以后再說