0
| 本文作者： 奕欣 | 2017-01-05 10:49 |
新年到來，也不要忘記和雷鋒網(wǎng)一起溫故而知新啊。
在剛剛落下尾聲的 2016 年，許許多多的人工智能大神們站在臺(tái)上分享他們的所見所感，雷鋒網(wǎng)整理了十位人工智能領(lǐng)域的大牛們所做的最新演講，一起與雷鋒網(wǎng)來回顧這些充滿智慧閃光的科研成果吧。
Yann LeCun 堪比學(xué)術(shù)界的網(wǎng)紅，今年頻頻露面于公眾面前發(fā)表演講，還錄制了不少教學(xué)視頻，圈粉無數(shù)。如果 Yann LeCun 想坐 2016 最活躍學(xué)界大神的寶座，雷鋒網(wǎng)覺得沒有人敢和他搶。
LeCun 在卡內(nèi)基梅隆大學(xué)機(jī)器人研究所進(jìn)行了一場關(guān)于 AI 技術(shù)核心問題與發(fā)展前景的演講。雷鋒網(wǎng)了解，他在演講中提到了三點(diǎn)干貨：
1. 無監(jiān)督學(xué)習(xí)代表了 AI 技術(shù)的未來。
2. 當(dāng)前 AI 應(yīng)用的熱點(diǎn)集中在卷積神經(jīng)網(wǎng)絡(luò)。
3. 用模擬器提高無監(jiān)督學(xué)習(xí)的效率是大勢所趨。
但不久后，在 NIPS 大會(huì)的演講上，LeCun 又將預(yù)測學(xué)習(xí)代替無監(jiān)督學(xué)習(xí)一詞，認(rèn)為預(yù)測學(xué)習(xí)不僅能在無監(jiān)督情況下學(xué)習(xí)，還能學(xué)習(xí)世界的預(yù)測模型。而就在最近，他又把預(yù)測學(xué)習(xí)的落腳點(diǎn)放在了 GANs，稱它為「20 年來機(jī)器學(xué)習(xí)領(lǐng)域最酷的想法」。
雷鋒網(wǎng)對他的演講做了不少覆蓋，比如演講 PPT 實(shí)錄；演講視頻整理；教授人人都能懂的深度學(xué)習(xí)基本原理；甚至還有 Quora 問答集錦，親授如何（像他一樣）從小白到大牛，自覺深度學(xué)習(xí)技術(shù)。
啥也不說了，關(guān)注 AI 科技評論快上車吧！
作為與 Yann LeCun、 Geoffrey Hinton 齊名的「深度學(xué)習(xí)三巨頭」，Yoshua Bengio 同樣是學(xué)界不可忽視的一名執(zhí)牛耳者，他自 1993 年在蒙特利爾大學(xué)任教。谷歌于今年 11 月宣布建立蒙特利爾算法學(xué)習(xí)人工智能實(shí)驗(yàn)室（MILA），共計(jì)投資 340 萬美元，資助蒙特利爾大學(xué)和麥吉爾大學(xué)旗下七名重量級教授及超過 150 名研究者的日常實(shí)驗(yàn)。而自然，Yoshua Bengio 也在其列。他領(lǐng)導(dǎo)下的深度學(xué)習(xí)實(shí)驗(yàn)室可謂是人工智能的研究前沿陣地，也是世界上最大的研究中心之一。http://www.ozgbdpf.cn/news/201611/u6HcoL3VhOxAbdjx.html
在今年 5 月的 Twitter Cortex 上，Bengio 應(yīng)邀做了題為「自然語言詞義下的深度學(xué)習(xí)」的演講。在演講中，Bengio 提及了從機(jī)器學(xué)習(xí)到人工智能的三個(gè)關(guān)鍵要素，主要包括：
1. 非常非常多的數(shù)據(jù)；
2. 極靈活的模型
3. 強(qiáng)大的先驗(yàn)知識(shí)，能打破維度魔咒。
此外，他還引申到了深度學(xué)習(xí)中的聚焦機(jī)制（Attention），首先它需要考慮一個(gè)輸入（或中間的）序列或圖像；但考慮到高層次指稱，通過設(shè)置權(quán)重或每個(gè)輸入位置概率，（如 MLP 所產(chǎn)生的），能夠應(yīng)用于每個(gè)位置。而這最主要的一個(gè)應(yīng)用就在于機(jī)器翻譯。在 2014 年，神經(jīng)機(jī)器翻譯獲得了初步突破，并在端到端機(jī)器翻譯取得了顯著成果。雷鋒網(wǎng)此前也做過報(bào)道，谷歌大腦團(tuán)隊(duì)執(zhí)掌下的 Google Translate 目前已經(jīng)完全應(yīng)用了機(jī)器學(xué)習(xí)進(jìn)行翻譯學(xué)習(xí)。
Bengio 認(rèn)為，聚焦機(jī)制能夠讓深度學(xué)習(xí)取得巨大進(jìn)步，并讓學(xué)習(xí)者模型更好地做選擇。
既然說到了 Bengio，雷鋒網(wǎng)怎么能不提他的得意門生、「GANs」之父 Ian Goodfellow 呢？他同樣在 NIPS 2016 上發(fā)表演講，分享了他對生成式對抗網(wǎng)絡(luò)的研究成果。
生成對抗網(wǎng)絡(luò)是一種生成模型（Generative Model），其背后最基本的思想就是從訓(xùn)練庫里獲取很多的訓(xùn)練樣本（Training Examples），從而學(xué)習(xí)這些訓(xùn)練案例生成的概率分布。
而 GANs 所做的「對抗」，就是讓生成器網(wǎng)絡(luò)與判別器網(wǎng)絡(luò)玩一個(gè)游戲，生成器網(wǎng)絡(luò)不斷通過輸入的隨機(jī)噪聲轉(zhuǎn)化為假數(shù)據(jù)；而判別器網(wǎng)絡(luò)就需要判斷數(shù)據(jù)的真?zhèn)巍?/p>
「與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)訓(xùn)練不一樣的且有趣的地方，就是我們訓(xùn)練生成器的方法不同。生成器一心想要「騙過」判別器。使用博弈理論分析技術(shù)，我們可以證明這里面存在一種均衡?！?/p>
不過訓(xùn)練 GANs 的一個(gè)難點(diǎn)，就在于會(huì)出現(xiàn)「模型崩潰」（Mode Collapse）：生成的所有樣本都在一個(gè)點(diǎn)上（樣本相同），而主要的解決方式是開發(fā)能找到均衡狀態(tài)的新算法，而非令誤差最小化的成本函數(shù)。
Goodfellow 此前為 Google Brain 高級研究員，現(xiàn)在為 OpenAI 的科學(xué)家。他在學(xué)術(shù)界也同樣非常活躍，不僅發(fā)布了 38 分鐘視頻，（手把手）教授如何完善生成對抗網(wǎng)絡(luò)，還在最后與網(wǎng)友互動(dòng)，詳細(xì)解答了求知者的各種疑惑。
如果說谷歌是人工智能領(lǐng)域的弄潮兒，Jeff Dean 自然就是沙灘上最為璀璨的珍珠。Jeff Dean 在領(lǐng)導(dǎo)谷歌大腦（2011 年成立，雷鋒網(wǎng)注）的這段時(shí)間內(nèi)，研究小組已經(jīng)創(chuàng)造了超過 1000 個(gè)深度學(xué)習(xí)項(xiàng)目，并將其應(yīng)用在谷歌現(xiàn)有的產(chǎn)品當(dāng)中：如 YouTube，谷歌翻譯和谷歌相冊等。研究人員通過深度學(xué)習(xí)將大量數(shù)據(jù)輸入到神經(jīng)網(wǎng)絡(luò)當(dāng)中，學(xué)習(xí)比人類識(shí)別速度更快的模式。
在今年 3 月 AlphaGo 與李世石人機(jī)大戰(zhàn)時(shí)，Jeff Dean 就做了《大規(guī)模深度學(xué)習(xí)最新進(jìn)展》的主題演講，而在今年 9 月的 Scaled Maching Learning 會(huì)議也做了內(nèi)容類似的《使用 TensorFlow 的大規(guī)模深度學(xué)習(xí)》。
Jeff Dean 認(rèn)為，神經(jīng)網(wǎng)絡(luò)能從數(shù)據(jù)中學(xué)習(xí)真正復(fù)雜的函數(shù)。從一端輸入內(nèi)容轉(zhuǎn)換成另一端的輸出內(nèi)容。他也提及機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)展速度非常之快，因?yàn)橐黄撐陌l(fā)布之后，全球?qū)θ斯ぶ悄苡醒芯康臋C(jī)構(gòu)都會(huì)下載它，并對內(nèi)容進(jìn)行解析和論證，加上電子論文的通達(dá)性，比起計(jì)算機(jī)學(xué)其它領(lǐng)域的研究進(jìn)展會(huì)快得多。
對于谷歌，Jeff Dean 表示深度學(xué)習(xí)在語音識(shí)別、Image 挑戰(zhàn)賽、谷歌翻譯、照片搜索、街景影像，甚至是搜索排名上都取得了巨大突破。關(guān)于他的更多訪談資料，可以參考《谷歌戰(zhàn)神談增強(qiáng)學(xué)習(xí)和無監(jiān)督學(xué)習(xí)》。
今年 AI 界并不平靜，而李飛飛加盟谷歌，著手成立新的機(jī)器學(xué)習(xí)實(shí)驗(yàn)室，則成了里頭「萬綠叢中一點(diǎn)紅」的存在，而雷鋒網(wǎng)一直對這位華人女性科學(xué)家保持高度關(guān)注。
李飛飛在今年參加了 ICPR 2016，并應(yīng)邀發(fā)表了名為《計(jì)算機(jī)視覺智能的探索》的演講。她在演講中提到，自然經(jīng)歷了五億多年的變革才構(gòu)造了人類強(qiáng)大的視覺系統(tǒng)，而人工智能的視覺探索之旅也只進(jìn)行了短短五十年。李飛飛介紹了她的實(shí)驗(yàn)室中正在開發(fā)的，基于大數(shù)據(jù)及深度學(xué)習(xí)的計(jì)算機(jī)圖像視頻研究體系。
作為全球計(jì)算機(jī)視覺領(lǐng)域的知名專家，李飛飛的主要貢獻(xiàn)在于參與建立了兩個(gè)被 AI 研究者廣泛使用來教機(jī)器分類物體的數(shù)據(jù)庫：Caltech 101 和 ImageNet，而后者，目前已經(jīng)成為了全球最大的圖像識(shí)別數(shù)據(jù)庫。
當(dāng)然，這個(gè)演講的主要內(nèi)容還是在介紹 ImageNet 的主要進(jìn)展，而如果你對她最為出名的 TED 演講還不夠熟悉，歡迎一睹雷鋒網(wǎng)此前撰寫的李飛飛個(gè)人介紹。
百度人工智能實(shí)驗(yàn)室的吳恩達(dá)（AndrewNg）也算得上是非?；钴S的人工智能學(xué)者，他同樣在今年的 NIPS 2016 上進(jìn)行了演講，名為《如何用深度學(xué)習(xí)建構(gòu)人工智能系統(tǒng)》（Nuts and Bolts of Building Applications using Deep Learning）。
吳恩達(dá)在演講中指出深度學(xué)習(xí)非?；鸬脑蛟谟?，神經(jīng)網(wǎng)絡(luò)能夠擴(kuò)大無限大的規(guī)模，并能夠依靠這一點(diǎn)引領(lǐng)深度學(xué)習(xí)。在百度的人工智能實(shí)驗(yàn)室中，他嚴(yán)格將團(tuán)隊(duì)分為了算法與架構(gòu)兩大體系，認(rèn)為沒有人是兩者皆擅長的，因此這一點(diǎn)可以為其它深度學(xué)習(xí)創(chuàng)業(yè)公司的團(tuán)隊(duì)提供參考。
而在接下來的展望中，吳恩達(dá)認(rèn)為下一個(gè)深度學(xué)習(xí)的大潮在于端對端的學(xué)習(xí)。需要足夠多的數(shù)據(jù)量，才能實(shí)現(xiàn)更加純粹的端到端學(xué)習(xí)，也就是直接通過深度學(xué)習(xí)將語音對標(biāo)到最終想要的文本，并通過深度學(xué)習(xí)自身的體征提取來獲得結(jié)果。關(guān)于吳恩達(dá)的 NIPS 2016 最新演講，還請回顧一下雷鋒網(wǎng)的相關(guān)文章。
此 Michael Jordan 非彼喬丹，他是加州大學(xué)伯克利分校（University of California, Berkeley）電子工程系、計(jì)算機(jī)科學(xué)系以及統(tǒng)計(jì)系的杰出教授。在他麾下學(xué)習(xí)過的不少學(xué)生都已經(jīng)成為了鼎鼎有名的機(jī)器學(xué)習(xí)大牛，比如 Yoshua Bengio 和 Andrew Ng 都是他的得意門生。
他于今年五月在伯克利分校做了一個(gè)關(guān)于計(jì)算思維、推理思維及數(shù)據(jù)科學(xué)的演講。在會(huì)上他提到，數(shù)據(jù)科學(xué)需要計(jì)算思維與推理思維的完全融合，并指出了大數(shù)據(jù)環(huán)境下驗(yàn)證模式、解釋模式與計(jì)算過程中可能出現(xiàn)的問題。
「在處理數(shù)據(jù)科學(xué)問題上出現(xiàn)了許多概念與數(shù)學(xué)上的挑戰(zhàn)，而面臨這些挑戰(zhàn)，我們需要在計(jì)算思維與推理思維上建立良好的聯(lián)系?！?/p>
而三巨頭的另一名大牛 Geoffrey Hinton 相對而言則比較低調(diào)。雷鋒網(wǎng)從他的主頁上了解到，他在過去一年并沒有參加什么大型的公開會(huì)議，也鮮有關(guān)于他的報(bào)道。但是，他可稱得上是深度學(xué)習(xí)的鼻祖，正是他將深度學(xué)習(xí)從低谷中拯救出來，并成為今天我們喜聞樂見的核心技術(shù)。在過去的 20 到 30 年里，無疑他是深度學(xué)習(xí)最為積極的先行者。目前， 他為 LeCun, Bengio 和 Aaron Courvile 合著的深度學(xué)習(xí)入門大作《Deep Learning》寫了推薦語，該書于 2016 年年底出版發(fā)貨。
如果你對深度學(xué)習(xí)一無所知，又覺得看書太過辛苦，雷鋒網(wǎng)此前編譯過另一份 Hinton 講述的《Deep Learning》演講PPT，或許是你入門的好選擇。歡迎點(diǎn)此查看學(xué)習(xí)。
不知道是不是長江后浪推前浪，比起活躍的青壯年一代，LSTM 之父 Jürgen Schmidhuber 在今年也露面較少，在今年夏天的 WCCI 上，他發(fā)表了言簡意賅的《Deep Learning：since 1991》的演講，主要回顧了深度監(jiān)督學(xué)習(xí)/無監(jiān)督學(xué)習(xí)/強(qiáng)化學(xué)習(xí)的一系列進(jìn)展，并討論實(shí)際上可能伴隨的具體應(yīng)用?！笡]有任何原因說明，機(jī)器不能擁有好奇心和創(chuàng)造力」
「所有的智能——不論是人類的還是人工的——都基于一個(gè)主題，那就是解決問題。長期以來，我們一直在致力于構(gòu)建一個(gè)解決通用問題的機(jī)制，不論這些問題是困難還是簡單。這個(gè)問題解決機(jī)制能夠通過先前學(xué)習(xí)的技能解決現(xiàn)有的問題，通常，機(jī)器會(huì)將新的技能增加到計(jì)算指令系統(tǒng)中，并能夠解決越來越通用的問題。當(dāng)然，如果到達(dá)我們所預(yù)想的成功，一切將會(huì)發(fā)生翻天覆地的改變，因?yàn)槊總€(gè)計(jì)算問題或每個(gè)專業(yè)性研究都將受到影響?！?/p>
關(guān)于他更為詳細(xì)的人工智能訪談，可以參看雷鋒網(wǎng)此前的報(bào)道。
美國通用人工智能會(huì)議主席 Ben Geortzel 在年初的未來論壇上做了主題演講，期間他提出了一句流傳甚廣的話：人工智能將會(huì)變得越來越通用。那么，我們又該如何理解這句話？一起和雷鋒網(wǎng)來看看吧。
在 Ben Goertzel 的理解中，AI 在很多層面都與人類是不一樣的，特別是在基礎(chǔ)架構(gòu)層面。而他發(fā)現(xiàn)，現(xiàn)在很多的人工智能只能解決一些非常狹窄的功能，比如無人駕駛只是針對于汽車領(lǐng)域，而換成無人摩托，就需要重新進(jìn)行編程。他認(rèn)為，現(xiàn)在人們需要向利用 AGI 所導(dǎo)向的工具，實(shí)現(xiàn)通用工人智能。
「AI 項(xiàng)目的范圍是比較窄的，但是將來會(huì)變得越來越通用。它們不僅僅越來越智能，同時(shí)它們的范圍和目的也更加通用，我認(rèn)為這是一個(gè)關(guān)鍵趨勢。
通過 AGI 通用人工智能可以實(shí)現(xiàn)很多愿景，一個(gè)愿景是思維云，我們可以把世界各地的思維和大腦連在云上，我們的應(yīng)用，不管手機(jī)應(yīng)用還是機(jī)器人，還是科學(xué)數(shù)據(jù)分析的機(jī)構(gòu)，我們可以從互聯(lián)網(wǎng)下載他們的大腦和思維，他們可以幫助你進(jìn)行思考，不管他們在哪個(gè)領(lǐng)域都可以做，在云上有覆蓋各個(gè)領(lǐng)域的應(yīng)用?！?/p>
Ben Geortzel 目前正專注于開源 AI 項(xiàng)目 OpenCog 的研發(fā)，并嘗試推動(dòng)大學(xué)與獨(dú)立研究院的結(jié)合，這也是雷鋒網(wǎng)一直致力在做的。
十個(gè)演講的盤點(diǎn)也許只是匆匆一瞥，還有不少大會(huì)上的優(yōu)秀演講因?yàn)槠拗?，雷鋒網(wǎng)只能忍痛割愛。但不論如何，雷鋒網(wǎng)將與你在新的一年內(nèi)繼續(xù)走在探索人工智能的道路上，關(guān)注智能與未來的我們也會(huì)期待見證新一年的精彩。
【兼職召集令！】
如果你對未來充滿憧憬，喜歡探索改變世界的科技進(jìn)展，look no further！
我們需要這樣的你：
精通英語，對技術(shù)與產(chǎn)品感興趣，關(guān)注人工智能學(xué)術(shù)動(dòng)態(tài)的蘿莉&萌妹子&技術(shù)宅；
文字不求妙筆生花，但希望通俗易懂；
在這里，你會(huì)收獲：
一群來自天南地北、志同道合的小伙伴；
前沿學(xué)術(shù)科技動(dòng)態(tài)，每天為自己充充電；
更高的生活品質(zhì)，翻翻文章就能掙到零花錢；
有意向的小伙伴們把個(gè)人介紹/簡歷發(fā)至 guoyixin@leiphone.com，如有作品，歡迎一并附上。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
