1
本文作者: 天諾 | 2016-10-21 14:23 |
隨著人工智能成為科技巨頭們的下一個決戰(zhàn)場,各大科技巨頭均加緊了對相關(guān)學(xué)術(shù)人才的招攬。深度學(xué)習(xí)的“四大天王”中,Geoffrey Hinton在Google,Yann Lecun在Facebook,Andrew NG在百度,正當(dāng)大家猜測蘋果是否會向?qū)W術(shù)界碩果僅存的Yoshua Bengio示愛時,蘋果在本周一公布,來自卡內(nèi)基梅隆大學(xué)(CMU)的副教授Ruslan Salakhutdinov,成為蘋果首任AI總監(jiān)。
Ruslan Salakhutdinov,Who?
對于公眾來說,Ruslan Salakhutdinov是一個不怎么熟悉的名字,在維基百科的詞條下,這一名字對應(yīng)的(更知名的)是一位俄羅斯足球運(yùn)動員。那么問題來了:
為什么蘋果放著那么多大牛不找,而是找了一位今年2月才從助理教授升上來的“資淺”副教授?
但對于深度學(xué)習(xí)領(lǐng)域的學(xué)者來說,Ruslan Salakhutdinov并非籍籍無名之輩。從整個神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的歷史看,最重要的拐點(diǎn)是2006年7月,Geoffrey Hinton為第一作者的兩篇論文《A Fast Learning Algorithm for Deep Belief Nets》和《Reducing the Dimensionality of Data with Neural Networks》的發(fā)布,前者首次提出了layerwise greedy pretraining的方法,開創(chuàng)了深度學(xué)習(xí)方向;后者提出通過最小化函數(shù)集對訓(xùn)練集數(shù)據(jù)的重構(gòu)誤差,自適應(yīng)地編解碼訓(xùn)練數(shù)據(jù)的算法deep autoencoder,作為非線性降維方法在圖像和文本降維實(shí)驗(yàn)中明顯優(yōu)于傳統(tǒng)方法,證明了深度學(xué)習(xí)方法的正確性。正是這兩篇論文引起了整個學(xué)術(shù)界對深度學(xué)習(xí)的興趣,才有了近十年來深度學(xué)習(xí)研究的突飛猛進(jìn)和突破。
而Ruslan Salakhutdinov,就是深度學(xué)習(xí)歷史上最重要的標(biāo)志性論文之一、發(fā)布在Nature雜志上的那篇《Reducing the Dimensionality of Data with Neural Networks》的第二作者。此時的他不過是剛剛進(jìn)入Geoffrey Hinton門下不久的一名博士生(Ruslan Salakhutdinov于2009年獲得博士學(xué)位),但并不影響其在深度學(xué)習(xí)領(lǐng)域中的輩分。
Ruslan Salakhutdinov對人工智能的貢獻(xiàn)還在于學(xué)習(xí)深度生成模型的研究上。2007年前后,Ruslan Salakhutdinov與Geoffrey Hinton提出了一種在前饋神經(jīng)網(wǎng)絡(luò)中進(jìn)行有效訓(xùn)練的算法。這一算法將網(wǎng)絡(luò)中的每一層視為無監(jiān)督的受限玻爾茲曼機(jī),再使用有監(jiān)督的反向傳播算法進(jìn)行調(diào)優(yōu)(Ruslan Salakhutdinov的博士論文就是這方面的內(nèi)容)。在獲得博士學(xué)位后,Ruslan又花了兩年時間從事博士后研究工作,從2011年起在多倫多大學(xué)擔(dān)任助理教授,今年2月,他從多倫多大學(xué)轉(zhuǎn)到卡內(nèi)基梅隆大學(xué),并實(shí)現(xiàn)了從助理教授到副教授的跨越。
從2006年的標(biāo)志性論文發(fā)表到現(xiàn)在為止的十年中,Ruslan Salakhutdinov的研究成果層出不窮。截止本文發(fā)布之日,Ruslan Salakhutdinov的論文總引用數(shù)量達(dá)到16819次,其中近5年的引用次數(shù)為15191,這也說明了在其一直活躍在深度學(xué)習(xí)的前沿領(lǐng)域。
從另一方面,蘋果在AI研究方向上更加低調(diào)和和現(xiàn)實(shí),在雷鋒網(wǎng)之前的《重磅:蘋果人工智能最完整解密,iBrain早已無處不在》與《蘋果人工智能不行?你被它的表象騙了》兩篇文章中也可以看出,蘋果在其人工智能負(fù)責(zé)人的選擇上并不以一味追求名氣,而是將AI作為其解決實(shí)際問題的工具。有理由相信,蘋果最終選擇Ruslan Salakhutdinov,是因?yàn)镽uslan Salakhutdinov的科研方向能夠最好的實(shí)現(xiàn)蘋果的需求。
那么,蘋果最看重Ruslan Salakhutdinov的什么特質(zhì)呢?
答案是:其創(chuàng)造力和天馬行空的想象力。
這一點(diǎn)從去年Bloomberg的一篇報道可見一斑。在Ruslan Salakhutdinov成為蘋果AI總監(jiān)后,Bloomberg記者Jack Clark發(fā)表推特稱,“雖然Ruslan在人工智能領(lǐng)域做出了卓越的貢獻(xiàn),但在我心目中對他的印象依然是那個‘廁所計劃’的幕后推手”。而Ruslan也轉(zhuǎn)發(fā)了這條包含這篇報道的推特。雷鋒網(wǎng)特此編譯全文如下:
對于那些自尊心極強(qiáng)的藝術(shù)家來說,十有八九不愿意畫一幅類似“田野中的抽水馬桶”的作品。不過,先進(jìn)的人工智能技術(shù)卻能賦予計算機(jī)具備這樣的能力,繪制出任何充滿離奇想象力的場景。
如果你看下上面這張圖,會發(fā)現(xiàn)其實(shí)是一個“田野中的抽水馬桶”的拼貼畫,它是靠計算機(jī)智能想象力繪制出來的,你可以先花上一分鐘時間,自己冷靜體會下。
多倫多大學(xué)的研究人員設(shè)計出了一套系統(tǒng),允許用戶輸入關(guān)鍵詞,比如“田野里的抽水馬桶”或其他任何離奇的場景,然后計算機(jī)就會根據(jù)這些關(guān)鍵詞繪制圖像。
實(shí)際上,硅谷不少人工智能實(shí)驗(yàn)室也在研發(fā)類似的項(xiàng)目,比如像微軟和百度這樣的科技公司,他們在過去的研究中已經(jīng)有所突破,可以讓計算機(jī)讀取圖像中的內(nèi)容。而像谷歌公司今年推出的 Deep Dream 研究項(xiàng)目,則是能讓計算機(jī)在圖像上畫出一些微小的細(xì)節(jié),但是繪制規(guī)模較大,且與某個主題想貼切的圖像,Deep Dream 目前還無法實(shí)現(xiàn)。
當(dāng)然你會發(fā)現(xiàn),這張來自于多倫多大學(xué)發(fā)表論文中的“田野中的馬桶”照片,其實(shí)也是非常模糊,而且也是一副較小的畫作。之所以會有這樣的結(jié)果,是因?yàn)橛?xùn)練計算機(jī)畫圖本身就是個異常復(fù)雜的過程。
機(jī)器學(xué)習(xí)初創(chuàng)公司 Indico Data Solution 在相關(guān)領(lǐng)域也進(jìn)行了深入研究,希望能讓計算機(jī)繪制出高質(zhì)量的畫作,他們和 Facebook 公司的人工智能研究人員共同開發(fā)了一套能夠合成人臉的智能系統(tǒng),見下圖:
看到上面這些由人工智能繪制的人臉,是不是感到有些毛骨悚然?實(shí)際上,Indico Data Solution 公司和 Facebook 公司的人工智能研究人員所組成的團(tuán)隊正在利用神經(jīng)網(wǎng)絡(luò)開發(fā)能夠繪圖的人工智能工具,他們并沒有讓軟件去抓取圖片中的重點(diǎn)特征,而是采取了讓軟件“自主生成圖片特征”的方式——去繪制人臉或臥室等圖像。Indico Data Solution 公司所開發(fā)的工具,其實(shí)并沒有多倫多大學(xué)的復(fù)雜,其重點(diǎn),是要讓神經(jīng)網(wǎng)絡(luò)掌握理解圖像和語言之間關(guān)系的能力。但是,根據(jù) Indico Data Solution 公司聯(lián)合創(chuàng)始人 Alec Radford 透露,他們研究的一個重要方向,其實(shí)是要讓計算機(jī)在開始自主繪制現(xiàn)實(shí)圖像之前,先去學(xué)習(xí)、了解這個世界。
讓計算機(jī)畫畫已經(jīng)引發(fā)了研究界的轟動。谷歌高級研究科學(xué)家 Ian Goodfellow 表示,他期待明年和其他研究人員舉行會議專門討論這項(xiàng)研究,甚至希望能夠?qū)iT創(chuàng)立一家初創(chuàng)公司來從事相關(guān)研發(fā)工作。
也許未來,這項(xiàng)研究真的會帶來一定的商業(yè)影響力,甚至能讓藝術(shù)家和設(shè)計師失業(yè)。科技公司一直渴望實(shí)現(xiàn)設(shè)計工作自動化,比如 Autodesk 公司,他們就在和一家名為 Grid 的人工智能初創(chuàng)公司合作,試圖開發(fā)能夠自動設(shè)計家具的軟件。而像 Facebook 和谷歌這樣的科技巨頭,也一直在嘗試在自己的產(chǎn)品中整合人工智能技術(shù)。
Ruslan Salakhutdinov 是多倫多大學(xué)助理教授,目前負(fù)責(zé)“田野里的抽水馬桶”項(xiàng)目,他表示現(xiàn)在的研究已經(jīng)讓他們了解到很多神經(jīng)網(wǎng)絡(luò)的工作原理,也有助于提升其他人工智能領(lǐng)域的研究。
(原文刊于bloomberg.com)
Ruslan Salakhutdinov的其他重要研究成果還包括(附PDF鏈接):
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。