1
本文作者: 新智元 | 2015-11-04 20:54 |
人們喜歡變著花樣來形容大腦。以前,大腦被時(shí)髦地比作17世紀(jì)貴族花園中賞心悅目的噴泉背后的水力供應(yīng)系統(tǒng)。隨著技術(shù)的發(fā)展,大腦先后被形容為電報(bào)通信網(wǎng)和電話交換系統(tǒng)。現(xiàn)在則是輪到用計(jì)算機(jī)來形容大腦。雖然“計(jì)算機(jī)般的大腦”還只是個(gè)比喻,但是有一群科學(xué)家試圖將這個(gè)比喻顛倒過來。他們希望與其將大腦看作計(jì)算機(jī),還不如讓計(jì)算機(jī)表現(xiàn)得更像大腦。他們相信,人們最終不僅能對(duì)大腦的工作機(jī)制有更深的了解,還能構(gòu)造出更好的計(jì)算機(jī)。
這些有遠(yuǎn)見的人自稱為神經(jīng)擬態(tài)學(xué)工程師。根據(jù)他們中的一名領(lǐng)軍人物 —— 德國(guó)海德堡大學(xué)的物理學(xué)家卡爾海因茨·邁耶(Karlheinz Meier)所述,他們的目標(biāo)是設(shè)計(jì)一臺(tái)計(jì)算機(jī),能夠具備大腦所具有的三大特性中的一部分(或最好是全部)。這三大特性是:低能耗(人腦的功率大約是20瓦特,而當(dāng)前試圖模擬人腦的超級(jí)計(jì)算機(jī)需要幾百萬瓦特),容錯(cuò)性(失去一個(gè)晶體管就能破壞一個(gè)微處理器,但大腦時(shí)刻都在失去神經(jīng)元),以及無須編程(大腦在與外界交互的過程中自發(fā)地學(xué)習(xí)和改變,而非遵循預(yù)設(shè)算法所限制的路徑和分支)。
然而為了實(shí)現(xiàn)這些目標(biāo),神經(jīng)擬態(tài)學(xué)工程師不得不先實(shí)現(xiàn)計(jì)算機(jī)對(duì)大腦的模擬。而且由于沒人知道大腦實(shí)際上到底是如何工作的,他們只能自己來解決這個(gè)問題。這意味著他們要填補(bǔ)神經(jīng)系統(tǒng)科學(xué)家對(duì)這一器官認(rèn)知的空白。具體來說,這意味著要構(gòu)造人工大腦細(xì)胞并且用各種方式將它們連接起來,以此來模擬大腦的工作。
回到模擬機(jī)
當(dāng)前神經(jīng)系統(tǒng)科學(xué)家對(duì)大腦的認(rèn)知空缺主要在中等尺度腦解剖。單個(gè)神經(jīng)細(xì)胞(即神經(jīng)元)的工作模式大體上已被掌握,大腦中每個(gè)可見的腦葉和神經(jīng)節(jié)的作用也已探明,但是腦葉和神經(jīng)節(jié)中的神經(jīng)元如何組織依舊是個(gè)謎。然而正是神經(jīng)元的組織方式?jīng)Q定了大腦的思考方式 —— 同時(shí)也很可能是意識(shí)的存在方式。這正是為什么繪制大腦圖譜以及了解大腦成為奧巴馬在2013年4月高調(diào)宣布的美國(guó)人腦計(jì)劃(BRAIN initiative)的一大目標(biāo)的原因。要想了解大腦圖譜顯示的是什么,唯一的方法可能就是在計(jì)算機(jī)中對(duì)其進(jìn)行建模。模型甚至可能會(huì)先出現(xiàn),并且反過來指導(dǎo)大腦圖譜的繪制。換句話說,神經(jīng)擬態(tài)工程學(xué)可能比神經(jīng)科學(xué)更早發(fā)現(xiàn)思考的基本原理。
兩個(gè)最前沿的神經(jīng)擬態(tài)計(jì)算項(xiàng)目正由人類大腦研究計(jì)劃(Human Brain Project,HBP)主導(dǎo)下進(jìn)行,這個(gè)計(jì)劃是由歐洲科研機(jī)構(gòu)聯(lián)合發(fā)起的一個(gè)野心勃勃的嘗試,試圖在2023年構(gòu)建一個(gè)大腦的擬象。這些項(xiàng)目開發(fā)的計(jì)算機(jī)走的是完全不同的路線。曼徹斯特大學(xué)的史蒂夫·弗伯(Steven Furber)制造的SpiNNaker便是其中之一。SpiNNaker是一臺(tái)數(shù)字計(jì)算機(jī),也就是平時(shí)最常見的那種,通過一系列代表電壓有無的1和0來處理信息。由此可見,其核心是一個(gè)定制的微處理器網(wǎng)絡(luò)。
另一部機(jī)器叫做Spikey,由邁耶博士的團(tuán)隊(duì)制造。Spikey讓人回想起更早期的計(jì)算機(jī)。第一批計(jì)算機(jī)中有好幾部是模擬計(jì)算機(jī)。這些模擬計(jì)算機(jī)用持續(xù)變化的電壓范圍中的點(diǎn)來表示數(shù)字 —— 因此無論是0.5伏、1伏還是1.5伏,各自的含義都不相同。Spikey的工作方式某種程度上與之類似。雖然由于數(shù)字系統(tǒng)沒有歧義,不易出錯(cuò),導(dǎo)致模擬計(jì)算機(jī)敗給了數(shù)字計(jì)算機(jī),但是邁耶博士認(rèn)為,因?yàn)槟M計(jì)算機(jī)的工作方式與真實(shí)神經(jīng)系統(tǒng)的某些特性更為相近,所以它們是對(duì)這些特性進(jìn)行建模的更好的方法。
弗伯博士和他的團(tuán)隊(duì)自2006年就投入到SpiNNaker的研究工作中。2011年,他們?yōu)榱蓑?yàn)證自己的想法,構(gòu)建了一個(gè)僅有18個(gè)處理器的版本。他們正準(zhǔn)備制造一臺(tái)更大的機(jī)器,比之前的要大得多。并預(yù)計(jì)在2014年,他們就能制造出擁有百萬處理器的計(jì)算機(jī)。弗伯博士認(rèn)為,借助這么多芯片,他能夠?qū)θ四X的1%進(jìn)行建模 —— 關(guān)鍵是他的模型能夠在實(shí)時(shí)條件下工作。當(dāng)前,即使用那些超級(jí)計(jì)算機(jī)來模擬大腦的更小部分,其運(yùn)行速度也遠(yuǎn)比不上真實(shí)大腦。弗伯博士并非止步于此,他希望到2020年開發(fā)出性能是百萬處理器計(jì)算機(jī)10倍的SpiNNaker版本。
SpiNNaker達(dá)到這樣的速度要靠實(shí)現(xiàn)邁耶博士的第三個(gè)期望 —— 無須編程。大多數(shù)現(xiàn)代計(jì)算機(jī)的工作方式是在中央時(shí)鐘的控制下來回搬運(yùn)數(shù)目相對(duì)較少的幾個(gè)大數(shù)據(jù)塊。與之不同的是,SpiNNaker的處理器只在適當(dāng)?shù)臅r(shí)候才發(fā)出大量微小的信息“脈沖”。這和神經(jīng)元的工作方式十分類似(這是特意如此設(shè)計(jì)的),信號(hào)以被稱為“動(dòng)作電位(action potentials)”的電子脈沖(electrical spikes)的形式通過神經(jīng)元,這些動(dòng)作電位除了表明自己發(fā)生過之外,幾乎不攜帶額外的信息。
這種異步信號(hào)(之所以這樣稱呼是因其沒有用于同步的中央時(shí)鐘)由于沒有等待時(shí)間,處理信息的速度比同步信號(hào)快得多。它的能耗也更低,因此滿足了邁耶博士的第一個(gè)期望。如果某個(gè)處理器失效了,系統(tǒng)會(huì)在其周圍重新規(guī)劃路線,由此滿足了他的第二個(gè)期望。大多數(shù)計(jì)算機(jī)工程師不采用異步信號(hào)是由于其難以編程,然而作為模擬大腦的一個(gè)方案來說,異步信號(hào)幾乎是完美的。
但是(在用于模擬大腦時(shí))這種思路可能不如模擬技術(shù)。雖然邁耶博士還未完全放棄數(shù)字路線,但是他在使用中已經(jīng)有所差別。他用數(shù)字組件來模擬通過突觸(神經(jīng)元間的連接)的信息傳播。在真實(shí)的神經(jīng)元里這些信息以被稱為“神經(jīng)遞質(zhì)”的化學(xué)物質(zhì)作為載體,傳播時(shí)只有“有”或“無”的區(qū)別。換句話說,它們是數(shù)字的。
神經(jīng)遞質(zhì)的釋放會(huì)導(dǎo)致一個(gè)對(duì)動(dòng)作電位到來的響應(yīng)。當(dāng)神經(jīng)元接收到其中一個(gè)神經(jīng)遞質(zhì)信號(hào)后,便不再繼續(xù)發(fā)射動(dòng)作電位,而是建立一個(gè)閾值。只有當(dāng)它們接收到一定數(shù)量的信號(hào),直至超過閾值之后(這基本上是一個(gè)模擬過程)它們才能再發(fā)射一個(gè)動(dòng)作電位,并重置自身。Spikey機(jī)器中的人造神經(jīng)元的功能正是如此,每當(dāng)其被激勵(lì)時(shí),就在電容中累積電荷,直到電荷量達(dá)到閾值后電容放電。
實(shí)際進(jìn)展如何?
蘇黎世神經(jīng)信息研究所(由蘇黎世大學(xué)和同城的工程院校蘇黎世聯(lián)邦理工學(xué)院共同運(yùn)營(yíng))的神經(jīng)擬態(tài)學(xué)工程師吉亞科莫·印第維里(Giacomo Indiveri)走的同樣是模擬路線。印第維里博士的工作獨(dú)立于人類大腦工程,他有一個(gè)不同的、更為實(shí)際的目標(biāo)。他正在嘗試?yán)蒙窠?jīng)擬態(tài)學(xué)的原理構(gòu)建所謂的“自主認(rèn)知系統(tǒng)”—— 比如植入式耳蝸,它可以分辨佩戴者是在音樂廳、汽車內(nèi)或是在海灘,并能相應(yīng)地調(diào)整輸出。他自己額外定了一個(gè)約束條件:要求這些系統(tǒng)要與所替代的天然神經(jīng)部件具有相同的重量、體積和能耗,同時(shí)盡量使其功能接近自然。
這種追求自然的方法有一部分是利用了系統(tǒng)中的晶體管經(jīng)常工作在技術(shù)上被稱為“亞閾值區(qū)(sub-threshold domain)”的狀態(tài)中。這種狀態(tài)下的晶體管雖然是關(guān)閉的(也就是說電流不能通過,因此代表二進(jìn)制中的0),但仍然會(huì)流失一部分微小的漏電流(幾微微安),因?yàn)殡娮幽芡ㄟ^晶體管擴(kuò)散出去。
早在20世紀(jì)80年代,被公認(rèn)為神經(jīng)擬態(tài)計(jì)算之父(同時(shí)也是“neuromorphic”這個(gè)詞的發(fā)明者)的加州理工學(xué)院工程師卡弗·米德(Carver Mead)證明,晶體管在亞閾值區(qū)的行為與細(xì)胞膜上的離子通道蛋白十分相似。離子通道的作用是在細(xì)胞內(nèi)外傳遞鈉、鉀離子,其主要任務(wù)之一就是產(chǎn)生動(dòng)作電位。因此,利用亞閾值區(qū)狀態(tài)下的晶體管是模擬動(dòng)作電位很好的方法,并且功耗很低 —— 這是與真實(shí)的生物系統(tǒng)相仿的另一個(gè)方面。
印第維里博士的設(shè)備的運(yùn)行速度也與生物電路的相同(幾十或幾百赫茲,而非計(jì)算機(jī)處理器千兆赫茲這樣的超級(jí)速度)。這使他們的設(shè)備能與真實(shí)的生物電路(例如植入式耳蝸中耳內(nèi)的生物電路)進(jìn)行交互,從而能有效地處理像人們說話或者打手勢(shì)這樣的自然信號(hào)。
印第維里博士當(dāng)前正在利用晶體管亞閾值區(qū)的原理開發(fā)包含數(shù)百個(gè)人造神經(jīng)元和數(shù)千個(gè)神經(jīng)元間的突觸的神經(jīng)擬態(tài)學(xué)芯片。雖然這聽起來與弗伯博士要做的百萬處理器系統(tǒng)差距甚遠(yuǎn),但是它不需要一整間屋子來容納它 —— 如果你的目標(biāo)是一個(gè)可用的“人造器官”的話,這點(diǎn)就顯得尤為重要。
神經(jīng)擬態(tài)計(jì)算研究由歐洲人而非美國(guó)人占據(jù)著主導(dǎo)地位,這對(duì)于一個(gè)信息技術(shù)領(lǐng)域來說,實(shí)屬罕見。但是這個(gè)狀態(tài)能維持多久是個(gè)問題,因?yàn)榇笪餮蟊税兜难芯空邆冋趭^力追趕。特別是與人類大腦研究計(jì)劃中神經(jīng)擬態(tài)學(xué)這部分的規(guī)模相當(dāng)?shù)模?strong>由美國(guó)國(guó)防部高級(jí)研究計(jì)劃署出資的自適應(yīng)可塑可伸縮電子神經(jīng)擬態(tài)系統(tǒng)(Systems of Neuromorphic Adaptive Plastic Scalable Electronics,SyNAPSE),也正在研制兩臺(tái)神經(jīng)擬態(tài)學(xué)計(jì)算機(jī)。
美國(guó)隊(duì)登場(chǎng)
其中一臺(tái)機(jī)器由位于加州馬里布的HRL實(shí)驗(yàn)室設(shè)計(jì),該實(shí)驗(yàn)室由波音公司和通用汽車共同擁有。該項(xiàng)目的帶頭人納拉揚(yáng)·斯里尼瓦桑(Narayan Srinivasa)表示,他的神經(jīng)擬態(tài)學(xué)芯片一行代碼都不需要寫就能工作,它可以像真的大腦那樣邊干邊學(xué)。
真正的大腦有一個(gè)被稱為“小世界網(wǎng)絡(luò)”的重要特性。大腦中的每個(gè)神經(jīng)元都有上萬個(gè)突觸與其他神經(jīng)元相連?!靶∈澜缇W(wǎng)絡(luò)”特性意味著,即使人腦包含860億個(gè)神經(jīng)元,在千千萬萬條可能的路徑中,每個(gè)神經(jīng)元只須經(jīng)過兩到三次連接就能抵達(dá)其他任意一個(gè)神經(jīng)元。
在真正的大腦和眾多對(duì)人工大腦的嘗試(包括斯里尼瓦桑博士的芯片)中,記憶的形成都牽涉到加強(qiáng)部分突觸的連接,而削弱其他連接。正是這一點(diǎn)使得網(wǎng)絡(luò)無須依賴傳統(tǒng)的計(jì)算機(jī)程序就能處理信息。而構(gòu)建這種人造小世界網(wǎng)絡(luò)的一大障礙在于如何在包含大量神經(jīng)元的系統(tǒng)中連接所有的神經(jīng)元。
許多神經(jīng)擬態(tài)學(xué)芯片通過所謂的縱橫制交換架構(gòu)(cross-bar architecture)來完成這個(gè)任務(wù)。一個(gè)縱橫交換網(wǎng)絡(luò)由密集的連線網(wǎng)格組成,每個(gè)節(jié)點(diǎn)在外圍都連接著一個(gè)神經(jīng)元,而突觸位于網(wǎng)格線的交叉連接處。這在小規(guī)模電路中工作良好,但是隨著神經(jīng)元數(shù)量的增加,這種結(jié)構(gòu)逐漸不再適用。
斯里尼瓦桑博士采用 “突觸時(shí)分復(fù)用”來解決這個(gè)問題,其中每個(gè)物理突觸充當(dāng)著1萬個(gè)虛擬突觸的角色,每個(gè)虛擬突觸輪流占用100納秒的時(shí)間。這樣一個(gè)系統(tǒng)需要一個(gè)中央時(shí)鐘來協(xié)調(diào)一切,而且這個(gè)時(shí)鐘要運(yùn)行得足夠快。大腦基本工作在10赫茲到100赫茲之間,而斯里尼瓦桑博士的芯片運(yùn)行速度高達(dá)一兆赫茲。但這允許芯片中的576個(gè)人造神經(jīng)元每一個(gè)都能以與同等規(guī)模真實(shí)網(wǎng)絡(luò)中神經(jīng)元相同的速度和其他人造神經(jīng)元進(jìn)行交流。
這種規(guī)模的天然神經(jīng)網(wǎng)絡(luò)的確存在。秀麗隱桿線蟲是一種小型線蟲,因其發(fā)育途徑完全規(guī)范而成為地球上被研究得最徹底的動(dòng)物之一。除了生殖細(xì)胞外,每個(gè)秀麗隱桿線蟲個(gè)體有959個(gè)細(xì)胞(如果是雌雄同體)或1031個(gè)細(xì)胞(雄性,秀麗隱桿線蟲沒有純雌性)。雌雄同體的個(gè)體中有302個(gè)細(xì)胞是神經(jīng)元細(xì)胞,雄性個(gè)體中有381個(gè)。這種動(dòng)物大約有5000個(gè)突觸。
即便如此簡(jiǎn)單,也依然沒有一臺(tái)神經(jīng)擬態(tài)學(xué)計(jì)算機(jī)能夠模擬秀麗隱桿線蟲的神經(jīng)系統(tǒng)。誰要是能構(gòu)建一臺(tái)這樣的計(jì)算機(jī),他就能在神經(jīng)擬態(tài)學(xué)工程師的行列中由新手晉級(jí)為大師。斯里尼瓦桑博士希望他的芯片中有一塊能成為這樣的傳世之作。
與此同時(shí),更為實(shí)際的是,他和他的團(tuán)隊(duì)正與美國(guó)航空環(huán)境公司展開合作。這家公司制造的微型無人機(jī)能夠完成像在建筑物內(nèi)飛來飛去排查故障這樣的任務(wù)。他的團(tuán)隊(duì)設(shè)計(jì)的芯片中有一個(gè)能充當(dāng)這種無人機(jī)的大腦,學(xué)著執(zhí)行諸如識(shí)別無人機(jī)曾經(jīng)去過哪個(gè)房間,以及房間里的東西是否有變化這樣的任務(wù)。更高版本的芯片甚至可以獲取控制權(quán),自主駕駛無人機(jī)。
SyNAPSE的另一個(gè)項(xiàng)目由位于圣何塞的IBM阿爾馬登實(shí)驗(yàn)室的德爾門德拉·莫德哈(Dharmendra Modha)負(fù)責(zé)。通過與四所美國(guó)大學(xué)(哥倫比亞大學(xué)、康奈爾大學(xué)、加州大學(xué)美熹德分校以及威斯康星大學(xué)麥迪遜分校)合作,他和他的團(tuán)隊(duì)構(gòu)建了一個(gè)擁有256個(gè)“整合放電(integrate-and-fire)”神經(jīng)元的神經(jīng)擬態(tài)計(jì)算機(jī)原型。LIF模型的得名是由于它們累加(整合)輸入直至達(dá)到閾值,然后發(fā)射信號(hào)并重置自己。從這點(diǎn)看,這些神經(jīng)元與Spikey中的神經(jīng)元很像,不過二者的電子細(xì)節(jié)有所不同,因?yàn)榍罢哂糜谟涗涊斎胄盘?hào)的是數(shù)字存儲(chǔ)器而不是電容。
莫德哈博士的芯片擁有26.2萬個(gè)突觸,更重要的是其中的神經(jīng)元可以像真正的大腦那樣,根據(jù)接收到的輸入重新布線。而且,這些神經(jīng)元也能像真正的大腦一樣記住它們近期的行為(它們觸發(fā)了哪些突觸),并在重新布線的過程中利用這些信息削弱一些連接,增強(qiáng)另一些連接。
迄今為止,莫德哈博士和他的團(tuán)隊(duì)已經(jīng)教會(huì)他們的電腦玩一款叫做“乒乓(Pong)”的最早的(也是最簡(jiǎn)單的)街機(jī)游戲,還能識(shí)別從0到9的數(shù)字。在數(shù)字識(shí)別的程序中,當(dāng)某個(gè)人在觸摸屏上隨手寫個(gè)數(shù)字,神經(jīng)擬態(tài)學(xué)芯片就能從筆跡中提取關(guān)鍵特征,并用這些特征來猜測(cè)寫的是哪個(gè)數(shù)字(結(jié)果通常是正確的)。
雖然這看起來還相當(dāng)初級(jí),但它僅僅是為了證明原理的可行性。他們的下一步計(jì)劃就是將其規(guī)模擴(kuò)大。
已經(jīng)被探明大腦的中層結(jié)構(gòu)是模塊化的。包含絕大多數(shù)神經(jīng)元的新皮質(zhì)占據(jù)著大腦體積的3/4,其本身由許多柱狀體組成,每一個(gè)都包含大約7萬個(gè)神經(jīng)元。莫德哈博士計(jì)劃制造某種與之類似的東西。他打算將他的芯片視為皮質(zhì)柱,并將這些芯片連接起來構(gòu)成一臺(tái)計(jì)算機(jī),使之至少在這點(diǎn)上很像大腦。他正在接近這個(gè)目標(biāo)。實(shí)際上,他已經(jīng)仿真了一個(gè)包含100萬億個(gè)突觸的系統(tǒng) —— 真實(shí)大腦中神經(jīng)元的數(shù)目大約在同一數(shù)量級(jí)。
在此之后
當(dāng)然,神經(jīng)擬態(tài)計(jì)算將朝什么方向發(fā)展依然未知。雖然此刻它還十分原始,但是一旦成功,它就能夠構(gòu)造出和人一樣聰明 —— 甚至比人更聰明 —— 的機(jī)器??苹眯≌f或許因此成為科學(xué)事實(shí)。
此外,對(duì)于習(xí)慣了將大腦看做科學(xué)尚未破解的黑盒的旁觀者來說,事物的發(fā)展可能比預(yù)想的要快得多。大把資金開始投入到這個(gè)領(lǐng)域。人類大腦研究計(jì)劃10年間的預(yù)算為10億歐元(13億美元),而美國(guó)人腦計(jì)劃第一年的預(yù)算也有1億美元,神經(jīng)擬態(tài)計(jì)算會(huì)從這兩個(gè)計(jì)劃受益。假如規(guī)模是唯一瓶頸的話,那么答案將會(huì)很快揭曉,因?yàn)檫@真的只是一個(gè)將足夠多的皮質(zhì)柱形的硅的等價(jià)物連接起來,再看看其如何削弱和增強(qiáng)系統(tǒng)內(nèi)部連接的問題。
人們常常覺得他們的大腦比其他生物更復(fù)雜 —— 事實(shí)也確實(shí)如此。但是已知的是,人腦與猿腦或猴腦的主要不同之處在于人腦更大。因此,問題可能真的只在于連接足夠多的適當(dāng)?shù)牟考僮屗鼈冏孕腥ソ鉀Q問題。人工智能領(lǐng)域的創(chuàng)造者之一馬文·明斯基(Marvin Minsky)曾預(yù)言過,如果這樣真的可行,機(jī)器將會(huì)把人類當(dāng)作寵物。
【編者按】本文譯自The Economist, “Neuromorphic computing—the machine of a new soul”, 2013.8一文。譯者邢東,浙江大學(xué)碩士研究生,主要研究方向?yàn)闄C(jī)器學(xué)習(xí)、模式識(shí)別;潘綱,CCF高級(jí)會(huì)員,浙江大學(xué)教授,主要研究方向?yàn)槠者m計(jì)算、計(jì)算機(jī)視覺、智能系統(tǒng)等。未經(jīng)允許不得轉(zhuǎn)載或修改。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。