丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
特寫 正文
發(fā)私信給宗仁
發(fā)送

7

Yoshua Bengio大神為什么要留在學(xué)術(shù)界?

本文作者: 宗仁 2016-03-16 22:26
導(dǎo)語(yǔ):作為僅存的幾個(gè)仍然全身心投入在學(xué)術(shù)界的深度學(xué)習(xí)教授之一,雷鋒網(wǎng)盡自己開扒小能手的義務(wù),為大家找到了所有我們能找到的資料,讓他不再活在傳說中。

近日雷鋒網(wǎng)對(duì)深度學(xué)習(xí)三巨頭Hinton、LeCun、Bengio中的前兩位做了生平開扒,就差最后一個(gè)Bengio了。作為僅存的幾個(gè)仍然全身心投入在學(xué)術(shù)界的深度學(xué)習(xí)教授之一,他在網(wǎng)上能刮到的生平介紹自然比前兩位少得多,但雷鋒網(wǎng)還是盡自己開扒小能手的義務(wù),為大家找到了所有我們能找到的資料,讓他不再活在傳說中。

Yoshua Bengio大神為什么要留在學(xué)術(shù)界?


1. 根據(jù)Bengio的博文自述,在20世紀(jì)80年代Bengio還是一個(gè)學(xué)生的時(shí)候,(深度學(xué)習(xí)只)是一個(gè)神經(jīng)網(wǎng)絡(luò)里的概念,也可以說是深度學(xué)習(xí)的前身,他對(duì)這個(gè)概念非常著迷并決定要在計(jì)算機(jī)科學(xué)領(lǐng)域開啟他的學(xué)術(shù)生涯。

2. 根據(jù)網(wǎng)傳的一張關(guān)系圖,Bengio曾是吳恩達(dá)恩師Jordan的博士后(在他那里讀的博士后)。

Yoshua Bengio大神為什么要留在學(xué)術(shù)界?

3. 1992-1993年時(shí),Bengio與另一位深度學(xué)習(xí)大神Yann LeCun在AT&T 貝爾實(shí)驗(yàn)室是同事。

4. Bengio 的 A neural probabilistic language model" 這篇論文開創(chuàng)了神經(jīng)網(wǎng)絡(luò)做 language model 的先河。里面的思路影響、啟發(fā)了之后的很多基于神經(jīng)網(wǎng)絡(luò)做 NLP(自然語(yǔ)音處理) 的文章。  


5. Bengio博士后的導(dǎo)師Jordan也曾提到:到目前為止,在更高級(jí)的自然語(yǔ)言處理任務(wù)中,深度學(xué)習(xí)并未像在語(yǔ)音識(shí)別、物體識(shí)別(圖像識(shí)別)等任務(wù)上做到的那樣,顯著降低錯(cuò)誤率。


所以在Hinton提出深度學(xué)習(xí)概念激活了整個(gè)領(lǐng)域、LeCun發(fā)表了卷積神經(jīng)網(wǎng)絡(luò)(CNN)這樣的階段性突破成果的前提下,Bengio對(duì)自然語(yǔ)音處理難題的貢獻(xiàn)是非常有意義的,說不定幾年后自然語(yǔ)音處理難題攻克后,他會(huì)更加名聲大噪


6. 他能跟Hinton、LeCun合稱為3巨頭,除了對(duì)RNN的一系列推動(dòng)(neural language model,gradient vanishing 的細(xì)致討論,word2vec的雛形)還有一個(gè)很重要的原因,他在神經(jīng)網(wǎng)絡(luò)不景氣的時(shí)候還堅(jiān)持神經(jīng)網(wǎng)絡(luò)研究,具備了一種超越普通學(xué)術(shù)熱愛的品質(zhì)。


7. 2013年一些業(yè)界大牛響應(yīng)業(yè)界召喚去科技公司,Yoshua Bengio當(dāng)時(shí)估計(jì),全世界僅有約 50 名深度學(xué)習(xí)領(lǐng)域?qū)<?,其中許多還仍是研究生。


8. 2015年4月,吳恩達(dá)Reddit答粉絲問時(shí)提到他的時(shí)候,表示“Yoshua Bengio的許多理論研究對(duì)我有很大啟發(fā)”。


9. 關(guān)于Bengio為什么不像其它兩位大牛加入Google或者Facebook來讓自己更加名聲大噪,或許我們可以從Hinton的說辭中一窺一二。


10. Bengio在最近的博文中稱,這個(gè)領(lǐng)域所需要做的事光靠幾個(gè)“媒體明星”是遠(yuǎn)遠(yuǎn)不夠的。為了達(dá)成更大的進(jìn)步并實(shí)現(xiàn)更多的應(yīng)用,人工智能領(lǐng)域無論在學(xué)術(shù)界還是工業(yè)界都需要成千上萬個(gè)科學(xué)家和工程師們。

對(duì)于大公司的人才搶奪策略,Hinton曾說,“有些危險(xiǎn)的是,如果足夠多的大公司雇了足夠多的研究人員,那么,大學(xué)就沒有足夠多的人來培養(yǎng)學(xué)生、進(jìn)行純粹的基礎(chǔ)研究了?!钡?,他又認(rèn)為,技術(shù)公司已經(jīng)意識(shí)到這些問題了,比如,谷歌希望Bengio繼續(xù)自己的基礎(chǔ)研究。所以,Bengio全身心投入在學(xué)術(shù)界,并不是因?yàn)樗卸嗝磁懦鈽I(yè)界,而是他要留在學(xué)生界做更重要的事——帶頭培養(yǎng)成千上萬個(gè)科學(xué)家和工程師們。

而另一方面,我們知道最近深度學(xué)習(xí)在各個(gè)領(lǐng)域應(yīng)用之所以這么成功,主要得益于現(xiàn)在更為強(qiáng)大的計(jì)算機(jī)、可用的海量豐富數(shù)據(jù)集以及先進(jìn)的算法,深度學(xué)習(xí)本身的理論進(jìn)展卻很小。自2006年Hinton、Yoshua Bengio、Yann Lecun等人提出、發(fā)表相關(guān)工作以來,在理論上我們并未獲得大的進(jìn)展,或許,這也是Bengio要繼續(xù)留在學(xué)術(shù)界的另一個(gè)原因。


相關(guān):

人類群星閃耀時(shí) | 深度學(xué)習(xí)鼻祖杰夫·辛頓:沒有他就沒有今天的人工智能

人類群星閃耀時(shí) | Facebook人工智能負(fù)責(zé)人Yann LeCun:讓深度學(xué)習(xí)擺脫束縛


雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

分享:
相關(guān)文章

專注AIR(人工智能+機(jī)器人)

專注人工智能+機(jī)器人報(bào)道,經(jīng)驗(yàn)分享請(qǐng)加微信keatslee8(請(qǐng)注明原因)。 科學(xué)的本質(zhì)是:?jiǎn)栆粋€(gè)不恰當(dāng)?shù)膯栴},于是走上了通往恰當(dāng)答案的路。
當(dāng)月熱門文章
最新文章
請(qǐng)?zhí)顚懮暾?qǐng)人資料
姓名
電話
郵箱
微信號(hào)
作品鏈接
個(gè)人簡(jiǎn)介
為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說