丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
芯片 正文
發(fā)私信給包永剛
發(fā)送

0

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

本文作者: 包永剛 2020-03-31 14:02
導語:英特爾研究院院長宋繼強和雷鋒網(wǎng)獨家對話時說:“神經(jīng)擬態(tài)計算的殺手級應用現(xiàn)在還很難判斷,一年后或許會更加清晰。但可以肯定的是它不會替代現(xiàn)有芯片。”

2020年,你對AI功能感到滿意嗎?

如果你想起與AI智能音箱哭笑不得的對話經(jīng)歷,還有站在AI人臉識別閘機口許久才被識別出你是誰,你大概率會給出一個否定的答案。

已經(jīng)大規(guī)模應用的AI,在金融、工業(yè)、電力、醫(yī)療等應用中已經(jīng)展現(xiàn)出其重要的價值,但也不可否認,AI還有很大的提升空間。

AI的提升,既可以是對現(xiàn)有芯片和算法持續(xù)優(yōu)化,也可以通過變革性的技術實現(xiàn)跨越式改變,比如越來越被人熟知的神經(jīng)擬態(tài)計算(或稱類腦計算)以及量子計算。相比之下,量子計算擁有更高的熱度,但最近發(fā)布的全球最強的神經(jīng)擬態(tài)系統(tǒng)英特爾Pohoiki Springs以及有嗅覺的神經(jīng)擬態(tài)芯片,一定能讓你對神經(jīng)擬態(tài)計算以及AI的未來充滿期待。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

圖片來自PCworld

全球最強的神經(jīng)擬態(tài)系統(tǒng)能做什么?

上周二,《自然-機器智能》雜志報道了英特爾與美國康奈爾大學的科學家共同構建數(shù)學算法的研究成果,通過雙方的合作,英特爾研究院神經(jīng)擬態(tài)計算小組高級研究科學家Nabil Imam的團隊采用了一個由72個化學傳感器活動組成的數(shù)據(jù)集,可對一個風洞實驗中循環(huán)的10種氣體物質(zhì)(氣味)作出反應,包括丙酮、氨和甲烷等有害氣體。并且,即使有強烈的環(huán)境干擾也能識別出這些氣味。

也就是說,英特爾的神經(jīng)擬態(tài)芯片Loihi也擁有“嗅覺”了,這也是化學傳感器領域多年來一直尋找的“電子鼻系統(tǒng)”。未來,搭載有“嗅覺”的神經(jīng)擬態(tài)芯片的機器人在環(huán)境監(jiān)測、危險物質(zhì)檢測、工廠質(zhì)量控制方面有很大的應用潛力。

這其中非常重要的是,使用Loihi僅用一個樣本訓練就可以達到百分之九十多的高準確率,如果使用傳統(tǒng)方法,包括一種深度學習解決方案,要達到與Loihi相同的分類準確率,學習每類氣味需要3,000倍以上的訓練樣本。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

僅兩天后,英特爾又宣布其最強大的最新神經(jīng)擬態(tài)研究系統(tǒng)Pohoiki Springs已準備就緒,將提供1億個神經(jīng)元的計算能力。1億個神經(jīng)元相當于一個小型哺乳動物大腦神經(jīng)元的數(shù)量。

說的更容易理解一些,1只瓢蟲的大腦大約有25萬到50萬神經(jīng)元,蟑螂大腦約有100萬神經(jīng)元,斑馬魚大腦約有1000萬神經(jīng)元,倉鼠大腦約有9000萬個神經(jīng)元。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

英特爾Loihi系統(tǒng)的演進歷史

比倉鼠大腦神經(jīng)元數(shù)量還多1000萬個的Pohoiki Springs是一個數(shù)據(jù)中心機架式系統(tǒng),它將768塊Loihi神經(jīng)擬態(tài)研究芯片集成在5臺標準服務器大小的機箱中,運行時的功率低于500瓦。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

數(shù)據(jù)中心機架式系統(tǒng)Pohoiki Springs(資料來源: Tim Herman/英特爾公司)

Pohoiki Springs系統(tǒng)是英特爾迄今為止開發(fā)的最大規(guī)模的神經(jīng)擬態(tài)計算系統(tǒng),當然也是目前全球最強大的的神經(jīng)擬態(tài)系統(tǒng)。英特爾最新發(fā)布的Pohoiki Springs以及此前發(fā)布的800萬神經(jīng)元Pohoiki Beach系統(tǒng)仍處于研究階段,可以為研究人員提供一個工具來開發(fā)和表征新的神經(jīng)啟發(fā)算法,用于實時處理、問題解決、適應和學習。

這兩個令人眼前一亮的神經(jīng)擬態(tài)計算成果,背后都有英特爾2017年開發(fā)的代號為Loihi的第一款自主學習神經(jīng)擬態(tài)芯片。

神經(jīng)擬態(tài)計算難在哪?

Loihi的設計思路源于人腦,把訓練和推斷整合到一個芯片上,并實現(xiàn)了計算和存儲功能的整合:單芯片中的128個小核各包含1000個神經(jīng)元硬件設計架構,模擬多個“邏輯神經(jīng)元”,支持多種學習模式的可擴展的片上學習能力,實現(xiàn)多種不同的神經(jīng)網(wǎng)絡突破。

這種設計的優(yōu)勢非常明顯,Loihi能以比傳統(tǒng)處理器快1,000倍的速度和高10,000倍的效率處理特定要求的工作負載。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

英特爾Loihi神經(jīng)擬態(tài)芯片

即便優(yōu)勢如此顯著,神經(jīng)擬態(tài)的芯片數(shù)量也很少。這是因為,全球范圍內(nèi)只有英特爾、IBM等少數(shù)大公司,以及為數(shù)不多的初創(chuàng)公司在開發(fā)。這樣的現(xiàn)狀與神經(jīng)擬態(tài)計算的歷史和技術息息相關,神經(jīng)擬態(tài)計算的概念是在20世紀80年代的時候提出,比量子計算概念的提出更晚。

面對一個全新的概念,特別是在人類對于腦科學研究也有限的情況下,只有為數(shù)不多的學校和機構對神經(jīng)擬態(tài)計算進行研究。并且,在看不到應用的時候,神經(jīng)擬態(tài)計算研究員們解決技術挑戰(zhàn)的動力也會不足。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

神經(jīng)擬態(tài)計算的目標是,理解大腦能夠?qū)崟r處理復雜信息的同時只消耗極少的能量的高效工作機制,并把這些機制用到芯片中去,包括細粒度并行計算、神經(jīng)動力學、時域編碼、基于時間的信息處理等等。

因此,神經(jīng)形態(tài)計算需要的是對計算機體系結構自下而上的重新思考。英特爾Loihi的正是對計算機體系結構的自下而上的重新思考后的創(chuàng)新設計,讓每個Loihi內(nèi)部有128個小核各包含1000個神經(jīng)元硬件,這些神經(jīng)元硬件既有與之計算的部分,也有存儲的部分,還有網(wǎng)絡管理部分,去模擬邏輯神經(jīng)元。

架構創(chuàng)新的同時需要考慮,神經(jīng)擬態(tài)芯片如果采用現(xiàn)廣泛使用的同步電路設計的方式,功耗依舊面臨挑戰(zhàn)。CPU、GPU、FPGA都是采用同步電路設計的方式,也就是采用同一個時鐘驅(qū)動,芯片內(nèi)的計算單元和存儲單元都根據(jù)這個共同的時鐘同時工作和停止工作,這種設計的好處是可以解決大規(guī)模集成電路容易出錯的問題,但工作效率不夠高。

為此,英特爾Loihi采用了一種新穎的異步脈沖方式,這種方式由多個獨立的時鐘驅(qū)動,根據(jù)應用的需求,只讓需要工作的部分工作,其它部分處于待機狀態(tài),讓Loihi的功耗達到了毫瓦級。

但這又帶來了新的問題,由于采用異步脈沖的設計方式,當把Loihi大規(guī)模互聯(lián)集成為Pohoiki Beach、Pohoiki Springs神經(jīng)擬態(tài)系統(tǒng),以期獲得性能的線性增長時,能否讓一個神經(jīng)元消息在一個時間片里在上百片芯片間完成所需的信息傳遞就成為挑戰(zhàn)。

英特爾研究院院長宋繼強接受采訪時表示,可以用Time Step去解決神經(jīng)擬態(tài)計算里的時間序列問題,小型異步電路的這個問題容易解決,但比較大的系統(tǒng)就會有挑戰(zhàn),把多塊芯片互聯(lián)起來也是業(yè)界沒做有過的事情。

顯然,從13萬個神經(jīng)元的Loihi到如今1億神經(jīng)元的Pohoiki Springs系統(tǒng),英特爾所做的并非系統(tǒng)集成這么簡單,還解決了異步電路帶來的時間序列的關鍵問題,并且在硬件之上,需要軟件層的支持。

“為了在兼顧易用性的同時,支持神經(jīng)擬態(tài)系統(tǒng)的互連計算、分布式計算和靈活分區(qū),需要用軟件把硬件連接的差異最大程度減小。這個事情沒有人做過的,學術界沒有人做過的,英特爾在產(chǎn)業(yè)界開始做這個實驗?!彼卫^強表示。

在神經(jīng)擬態(tài)計算的無人區(qū)探索并且取得成效之后,英特爾下一步需要做的就是通過工具鏈去支持開發(fā)者做更大規(guī)模的動態(tài)規(guī)劃和優(yōu)化實驗支持。這也是讓英特爾的神經(jīng)計算成為一種新的通用架構,既能應用于前端感知計算,也能滿足大規(guī)模計算需求,促進神經(jīng)擬態(tài)計算普及的關鍵。

神經(jīng)擬態(tài)計算何時改變世界?

新技術的發(fā)展和大規(guī)模應用,非常重要的是找到好的應用導向,神經(jīng)擬態(tài)計算同樣如此。一方面,英特爾通過強大的技術專家團隊的努力提供更好的神經(jīng)擬態(tài)計算的硬件和軟件工具鏈,另一方面,英特爾聯(lián)合更多合作伙伴共同推動這一新技術的發(fā)展。

因此,在Loihi發(fā)布后的2018年,英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC)就成立,通過INRC,將其Loihi云系統(tǒng)以及基于Loihi的USB形狀的系統(tǒng)Kapoho Bay提供給研究人員進行實際應用的研究工作。

據(jù)悉,INRC剛成立的時候只有幾十個成員,隨著2019年包括埃森哲、空中客車、通用電氣、日立在內(nèi)的首批企業(yè)成員,以及全球領先的大學、政府實驗室、神經(jīng)擬態(tài)類初創(chuàng)公司的加入,目前社區(qū)的成員數(shù)量已經(jīng)接近100個。

“INRC是一個開放的社區(qū),但要加入需要先提案,在我們確定Loihi芯片以及系統(tǒng)能夠幫助提案者后,他們就可以加入,并且獲得我們后續(xù)的技術支持?!彼卫^強接受雷鋒網(wǎng)專訪時表示。

目前,正在為Loihi開發(fā)的前景極佳且高度可擴展算法示例包括:約束滿足、搜索圖和模式、優(yōu)化問題。

宋繼強解釋,“現(xiàn)在的社交網(wǎng)絡,包括未來的AIoT,都會用到大規(guī)模圖搜索,在這些大規(guī)模的圖里怎么快速找到一條好的路徑,或同時發(fā)現(xiàn)幾個可能的約束要去滿足,用原來高性能計算要花很多計算資源,而神經(jīng)擬態(tài)計算現(xiàn)在有一些非常有效的算法,可以并發(fā)地去測試,效果比以前好很多,也是我們社區(qū)里的大公司在探索的應用。”

傳統(tǒng)的應用領域包括時間序列場景里的行為識別,以及機器人的視覺控制同步的隨動跟隨,還有嗅覺場景,這些是學校以及初創(chuàng)公司喜歡做的應用。

英特爾1億個神經(jīng)元的全球最強神經(jīng)擬態(tài)系統(tǒng),何時改變世界?

在這個過程中,既需要英特爾在軟件層面持續(xù)做大量的工作去連接硬件和軟件,更好地滿足應用需求,也需要開發(fā)者開發(fā)出更好的SNN(脈沖神經(jīng)網(wǎng)絡)。

包括Loihi在內(nèi)的神經(jīng)擬態(tài)芯片都是面向的是下一代AI所需的高性能、低功耗、低成本以及更強持續(xù)學習以及在線學習的能力。如果將現(xiàn)在流行的DNN和CNN的網(wǎng)絡模型轉(zhuǎn)換運行到神經(jīng)擬態(tài)系統(tǒng)上,也可以構造強化學習的架構,但要最大化神經(jīng)擬態(tài)計算的優(yōu)勢,還需要開發(fā)SNN模型。

新的網(wǎng)絡也是用Loihi一次訓練就能達到很高準確率的應用的關鍵。與DNN和CNN只是借鑒了人腦神經(jīng)元的高度抽象不同,SNN更靠近模擬人腦神經(jīng)學的概念。DNN和CNN網(wǎng)絡有大量的中間層,需要足量和標注好的數(shù)據(jù)訓練網(wǎng)絡。而SNN模型只需要少量數(shù)據(jù)就可以得到網(wǎng)絡的初始值,但它的設計難度比DNN和CNN更高一些。

宋繼強表示,英特爾和社區(qū)以及國際主要的SNN研究團隊都建了和聯(lián)系,這些團隊大部分在歐美。

隨著Loihi架構的持續(xù)創(chuàng)新,以及上層軟件SDK和高層語言接口的持續(xù)優(yōu)化,再加上先進半導體工藝,還有英特爾以及生態(tài)合作伙伴的積極推動,我們可以期待神經(jīng)擬態(tài)計算在不遠的未來看到神經(jīng)擬態(tài)計算改變世界。

宋繼強的觀點是,“現(xiàn)在很難判斷哪些是神經(jīng)擬態(tài)計算殺手級應用,可能再過一年,我們會有更清晰的想法。”

他同時強調(diào),神經(jīng)擬態(tài)芯片可以和現(xiàn)有芯片很好地共存,并不存在替代的關系。神經(jīng)擬態(tài)芯片現(xiàn)在主要是去解決希望在比較低功耗下完成一些前端的感知,且需要持續(xù)需要學習去提高識別能力的應用,比如約束滿足、圖搜索。但對于游戲讀取或者圖像分類、標注等應用,現(xiàn)有的芯片就可以很好滿足。

雷鋒網(wǎng)小結

神經(jīng)擬態(tài)計算和量子計算被認為是帶領我們進入AI新時代的關鍵,英特爾作為芯片行業(yè)的領軍企業(yè),在神經(jīng)擬態(tài)計算和量子計算上依舊都保持著領導力。神經(jīng)擬態(tài)方面,從2017年推出神經(jīng)擬態(tài)芯片Loihi到2018年成立INRC,從2017年底的51萬神經(jīng)元的Wolf Mountain系統(tǒng),到如今1億神經(jīng)元的Pohoiki Springs系統(tǒng),英特爾不僅用強大且更通用的神經(jīng)擬態(tài)計算系統(tǒng)展示了其領導力,還在與合作伙伴一起努力構建完善的生態(tài)系統(tǒng)推動神經(jīng)擬態(tài)計算的商用。

在重磅玩家更多的量子計算領域,英特爾同樣保持領導力,去年12月,英特爾攜手 QuTech 宣布的面向量子計算的 Horse Ridge 低溫控制芯片,這是量子計算商業(yè)上可行的一個里程碑。

同時引領神經(jīng)擬態(tài)計算和量子計算的英特爾,未來會給我們帶來什么意想不到的驚喜?雷鋒網(wǎng)雷鋒網(wǎng)

相關文章:

英特爾神經(jīng)擬態(tài)系統(tǒng)擴展至1億個神經(jīng)元,相當于小型哺乳動物腦神經(jīng)元數(shù)量

量子計算商用新的里程碑?英特爾和 QuTech 推出了用于量子計算的馬嶺低溫控制芯片

摩爾定律失效下,類腦計算為什么成為下一代關鍵技術?

一研究團隊研發(fā)的類腦芯片所需能量是最先進計算系統(tǒng)的1/10

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

分享:
相關文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設置密碼以方便用郵箱登錄
立即設置 以后再說