0
本文作者: 劉芳平 | 2017-04-09 23:09 |
2017 年 4 月 7-9 日,由 CCF 和 KDD China 聯(lián)合主辦的高端學(xué)術(shù)及技術(shù)系列性品牌活動(dòng),中國計(jì)算機(jī)學(xué)會(huì)學(xué)科前沿講習(xí)班(CCF Advanced Disciplines Lectures,簡稱 ADL)第 78 期在北京中國科學(xué)院計(jì)算技術(shù)研究所舉辦。
本期主題“深度學(xué)習(xí):從算法到應(yīng)用”圍繞當(dāng)下大熱的人工智能領(lǐng)域進(jìn)行,邀請(qǐng)了 8 位來自學(xué)術(shù)界和工業(yè)界的學(xué)術(shù)大牛,在三天的時(shí)間里,向 400 多位學(xué)員講授了人工智能領(lǐng)域的前沿技術(shù)和學(xué)術(shù)研究。
本次講習(xí)班由中科院計(jì)算所研究員、博導(dǎo),中科視拓創(chuàng)始人、董事長兼 CTO 山世光主持。雷鋒網(wǎng)旗下 AI 科技評(píng)論編輯亦到場聽講。
8 位學(xué)術(shù)大牛分別是:
曠視科技 (Face++) 首席科學(xué)家孫劍
微軟亞洲研究院主任研究員鄭宇
地平線機(jī)器人創(chuàng)始人兼 CEO 余凱
地平線機(jī)器人技術(shù)聯(lián)合創(chuàng)始人&算法副總裁黃暢
360 首席科學(xué)家顏水成
華為諾亞方舟實(shí)驗(yàn)室主任李航
思必馳創(chuàng)始人兼首席科學(xué)家俞凱
KDD China 主席楊強(qiáng)
這次,8 位深度學(xué)習(xí)大牛都準(zhǔn)備了滿滿的干貨,他們分享的內(nèi)容從深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)到遷移學(xué)習(xí),應(yīng)用領(lǐng)域從計(jì)算機(jī)視覺、智慧城市、自動(dòng)駕駛,到自然語言處理,從理論到實(shí)踐,從算法到應(yīng)用,將深度學(xué)習(xí)講解的十分透徹。
下面就來回顧一下本次講習(xí)班的主要內(nèi)容(按分享時(shí)間順序總結(jié),排名不分先后)。
孫劍:如何在大公司和創(chuàng)業(yè)公司做好(計(jì)算機(jī)視覺)的研究
孫劍博士,曠視科技(Face++)首席科學(xué)家、研究負(fù)責(zé)人。2003年畢業(yè)于西安交通大學(xué)人工智能與機(jī)器人研究所,畢業(yè)后加入微軟亞洲研究院(Microsoft Research Asia),任至首席研究員。
作為開場課程,孫劍主要從工業(yè)界的角度向大家教授計(jì)算機(jī)視覺在一些實(shí)際場景里的應(yīng)用。他表示,曠視做視覺智能的基本路線和很多公司類似,從技術(shù)、到產(chǎn)品、再到數(shù)據(jù),希望這個(gè)環(huán)能夠轉(zhuǎn)起來。
孫劍介紹了由微軟提出了 ResNet 深度殘差網(wǎng)絡(luò),它進(jìn)一步將深度學(xué)習(xí)的深度從 20 多層推進(jìn)到 152 層;并接著講述了人臉識(shí)別和物體檢測的進(jìn)展;最后,他介紹了如何在大公司和創(chuàng)業(yè)公司做好研究。
超越人類的人臉識(shí)別
關(guān)于在微軟研究院和曠視研究院的工作有什么不同,他介紹說,“我們的使命定位是類似的,但是我們的目標(biāo)范圍是更小的。我們現(xiàn)在只關(guān)心的研究最好的深度學(xué)習(xí)和計(jì)算機(jī)視覺技術(shù),讓最好的技術(shù)落地,推動(dòng)公司的快速發(fā)展?!痹谌藛T組成上兩個(gè)機(jī)構(gòu)是類似的,而研發(fā)方式方面則因?yàn)橐?guī)模不同所以有些不同。
鄭宇:針對(duì)時(shí)空數(shù)據(jù)的深度學(xué)習(xí)
鄭宇,博士、教授、博導(dǎo),微軟亞洲研究院主任研究員、CCF杰出會(huì)員、美國計(jì)算機(jī)學(xué)會(huì)杰出科學(xué)家、ACM數(shù)據(jù)挖掘中國分會(huì)(KDD China)秘書長、上海交通大學(xué)講座教授、香港科技大學(xué)客座教授、人工智能國際權(quán)威期刊(SCI一區(qū)刊物)ACM TIST主編。
鄭宇的報(bào)告探討時(shí)空數(shù)據(jù)(區(qū)別于文本、語音和視頻數(shù)據(jù))的特性,以及深度學(xué)習(xí)技術(shù)在時(shí)空大數(shù)據(jù)上的使用和設(shè)計(jì)方法。他分享了基于深度學(xué)習(xí)的城市人流量預(yù)測的實(shí)戰(zhàn)案例,并介紹了深度學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí)在圍棋中的應(yīng)用(圍棋也可看作一種時(shí)空數(shù)據(jù))。
在詳細(xì)講解用深度學(xué)習(xí)網(wǎng)絡(luò)處理時(shí)空數(shù)據(jù)(包括圍棋)后,鄭宇認(rèn)為,時(shí)空數(shù)據(jù)是特別的,它在空間上有不同層次的分布,在時(shí)間上存在區(qū)段和趨勢。深度學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí)在這個(gè)領(lǐng)域可以應(yīng)用于城市人流和交通預(yù)測,物流業(yè)的資源調(diào)配等領(lǐng)域。
余凱:深度學(xué)習(xí)在自動(dòng)駕駛和智能硬件中的應(yīng)用
余凱,博士、地平線機(jī)器人技術(shù)( Horizon Robotics )創(chuàng)始人&CEO。中組部“”國家特聘專家,機(jī)器學(xué)習(xí)專家,互聯(lián)網(wǎng)人工智能領(lǐng)域全球領(lǐng)導(dǎo)者之一。前百度研究院執(zhí)行院長,百度深度學(xué)習(xí)研究院(IDL)創(chuàng)始人。
余凱主講深度學(xué)習(xí)是如何推動(dòng)自動(dòng)駕駛革命的。他認(rèn)為,我們正跨入一個(gè)新時(shí)代,這個(gè)時(shí)代里 AI 在語音識(shí)別、計(jì)算機(jī)視覺、手勢交互、游戲以及日常決策領(lǐng)域帶來了巨大的進(jìn)步。而在未來 20 年,AI 將在汽車領(lǐng)域帶來革命,讓駕駛變得前所未有的安全和方便。
課堂上,余凱同樣介紹了深度學(xué)習(xí)算法所面臨的挑戰(zhàn),以及計(jì)算機(jī)硬件方面存在的問題,包括谷歌剛剛公布的 TPU 的評(píng)價(jià)。
黃暢:強(qiáng)化學(xué)習(xí)簡介
黃暢博士,地平線機(jī)器人技術(shù)( Horizon Robotics )聯(lián)合創(chuàng)始人&算法副總裁。本科、碩士以及博士畢業(yè)于清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系,曾經(jīng)在美國南加州大學(xué)和 NEC 美國研究院擔(dān)任研究員。2012年加入百度美國研發(fā)中心,2013年參與組建百度深度學(xué)習(xí)研究院( IDL ),任高級(jí)科學(xué)家、主任研發(fā)架構(gòu)師。
同樣來自地平線機(jī)器人的黃暢博士,本次課堂向?qū)W員們介紹了深度學(xué)習(xí)的進(jìn)階領(lǐng)域——強(qiáng)化學(xué)習(xí)。
強(qiáng)化學(xué)習(xí)的一些例子:從左至右,強(qiáng)化學(xué)習(xí)網(wǎng)絡(luò)玩 ATARI、AlphaGo、樂高、四足機(jī)器人越過崎嶇路面模擬。
顏水成:深度學(xué)習(xí)的三個(gè)維度
顏水成,360首席科學(xué)家,人工智能研究院院長,新加坡國立大學(xué)終身教職,IEEE Fellow, IAPR Fellow 及 ACM 杰出科學(xué)家。
顏水成主要介紹新加坡國立大學(xué)LV研究組以及奇虎 360 人工智能研究院在深度學(xué)習(xí)的 Compactness, Speed, and Accuracy 三個(gè)維度的進(jìn)展,然后重點(diǎn)介紹在圖像分割領(lǐng)域的一些最新的成果和應(yīng)用。除了 Network-in-Network , 主要介紹 CVPR17 及剛投出去的一些工作。
李航:深度學(xué)習(xí)在自然語言處理(NLP)領(lǐng)域的應(yīng)用
李航,華為技術(shù)有限公司諾亞方舟實(shí)驗(yàn)室主任,北京大學(xué)、南京大學(xué)客座教授,IEEE會(huì)士,ACM杰出科學(xué)家, KDD China委員。
李航對(duì)深度學(xué)習(xí)在自然語言處理的應(yīng)用(Deep Learning for Natural Language Processing)進(jìn)行了綜述。首先,簡要介紹深度學(xué)習(xí)的基本技術(shù),包括單詞嵌入、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)。之后,指出自然語言處理的許多任務(wù)可以形式化為幾個(gè)最基本的問題,包括分類、匹配、翻譯、結(jié)構(gòu)預(yù)測,講解深度學(xué)習(xí)在這些問題上的核心技術(shù)。
接著,介紹基于深度學(xué)習(xí)技術(shù)實(shí)現(xiàn)的一些自然語言處理應(yīng)用案例,包括機(jī)器翻譯、圖片搜索、自然語言對(duì)話、知識(shí)問答。之后,指出神經(jīng)處理和符號(hào)處理的結(jié)合應(yīng)該是深度學(xué)習(xí)在自然語言處理應(yīng)用的未來發(fā)展方向,并且給出一些具體實(shí)例。最后,展望與預(yù)測自然語言處理的未來發(fā)展趨勢、可能的技術(shù)突破及可能的應(yīng)用前景。
俞凱:語音識(shí)別中的深度學(xué)習(xí)實(shí)踐
俞凱,上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系研究員,清華大學(xué)本科、碩士,英國劍橋大學(xué)工程系博士。中組部青年千人、NSFC 優(yōu)青和上海市“東方學(xué)者”特聘教授,蘇州思必馳信息科技有限公司創(chuàng)始人及首席科學(xué)家。IEEE 高級(jí)會(huì)員、中國大陸高校首位 IEEE Speech and Language Processing Technical Committee 成員。
俞凱的報(bào)告集中介紹了深度學(xué)習(xí)在語音識(shí)別聲學(xué)建模中的應(yīng)用給,分成兩部分進(jìn)行。上半部分介紹語音識(shí)別的基本概念、處理流程以及以CD-DNN-HMM為代表的深度學(xué)習(xí)在語音識(shí)別中的經(jīng)典應(yīng)用及其理論分析。下半部分介紹深度學(xué)習(xí)在語音識(shí)別中的高級(jí)應(yīng)用和技術(shù)前沿結(jié)果,包括語音識(shí)別自適應(yīng)、抗噪語音識(shí)別、序列鑒別性訓(xùn)練等。
俞凱的課程包含統(tǒng)計(jì)語音識(shí)別、深度學(xué)習(xí)經(jīng)典運(yùn)用、語音識(shí)別高級(jí)技術(shù)、深度學(xué)習(xí)前沿應(yīng)用、開源工具及參考書五個(gè)部分。非常系統(tǒng)地介紹了深度學(xué)習(xí)在語音識(shí)別領(lǐng)域的應(yīng)用,使用了許多案例,課程實(shí)用價(jià)值很高。
楊強(qiáng):深度遷移學(xué)習(xí)
香港科技大學(xué)新明工程學(xué)講座教授、 計(jì)算機(jī)系主任及大數(shù)據(jù)研究所主任、ACM數(shù)據(jù)挖掘中國分會(huì)(KDD China)主席。
最后壓軸上場的楊強(qiáng)教授題目最短,內(nèi)容同樣干貨十足,他介紹了深度學(xué)習(xí)的未來發(fā)展方向——遷移學(xué)習(xí)。遷移學(xué)習(xí)技術(shù)能夠借助多個(gè)不同數(shù)據(jù)的相關(guān)性,將知識(shí)和模型從某些領(lǐng)域適配到其他相關(guān)的領(lǐng)域當(dāng)中。遷移學(xué)習(xí)可以和深度學(xué)習(xí)很自然地結(jié)合。
楊強(qiáng)教授平易近人、風(fēng)趣幽默,他用深入淺出的方式向?qū)W員們介紹了遷移學(xué)習(xí),它有什么作用以及如何來發(fā)揮這些作用。
3 天、400 多人,每天從上午 9 點(diǎn)到下午 6 點(diǎn),報(bào)告廳座無虛席。不僅有討論熱烈的 Panel 環(huán)節(jié),講師們也非常注重與學(xué)員之間的溝通交流,每堂課都預(yù)留時(shí)間讓學(xué)員提問前予以認(rèn)真回答。下課后許多學(xué)員紛紛圍上來繼續(xù)與講師交流,直到飯點(diǎn)才意猶未盡地散去。
下面是雷鋒網(wǎng)編輯在現(xiàn)場看到的一些盛況:
現(xiàn)場概況
Panel 環(huán)節(jié)
學(xué)員踴躍提問
講師和學(xué)員交流
正如余凱老師所說,我們正踏入一個(gè)新時(shí)代,在這人時(shí)代里,人工智能將對(duì)人類生活的各個(gè)領(lǐng)域產(chǎn)生深遠(yuǎn)影響,而沒有人才這一切都無法實(shí)現(xiàn)。今天,人工智能人才十分短缺,可謂一人難求,許多學(xué)生和技術(shù)從業(yè)者也希望提高自己這方面的能力,這次舉辦的課程正是要幫助培養(yǎng)更多更好的人工智能人才。
這期主題為“深度學(xué)習(xí):從算法到應(yīng)用”,聚集了 8 位學(xué)術(shù)大牛,從理論到應(yīng)用,使許多學(xué)員對(duì)人工智能有了更深的認(rèn)識(shí),并學(xué)到了許多實(shí)操經(jīng)驗(yàn)。
據(jù)雷鋒網(wǎng)了解,本期課程的學(xué)員,除了許多來自高校的大學(xué)生、研究生外,還有很多公司,包括知名互聯(lián)網(wǎng)公司技術(shù)從業(yè)者前來向大牛學(xué)習(xí)。
一位從事計(jì)算機(jī)視覺方向工作的學(xué)員在課程結(jié)束后對(duì)雷鋒網(wǎng)表示,學(xué)完這三天的課程,不僅解答了他在深度學(xué)習(xí)應(yīng)用到工作中產(chǎn)生的一些疑惑,而且對(duì)于今后公司技術(shù)和產(chǎn)品的規(guī)劃也有了更清晰的想法。
最后,雷鋒網(wǎng)得知,本次課程早早就報(bào)滿,受場地限制并未提供更多名額,而且 CCF 還將推出更多 ADL課程。為了讓更多人工智能愛好者、業(yè)界從業(yè)者、科研研究者們都能看到 CCF ADL 課程,人工智能培訓(xùn)平臺(tái) AI慕課學(xué)院獲 CCF 獨(dú)家線上視頻版權(quán),完整再現(xiàn)各路專家現(xiàn)場授課、交流的場景。本次課程為付費(fèi)課程,4月15日之前會(huì)在AI慕課學(xué)院獨(dú)家上線,原價(jià) 4000 元的線下課程現(xiàn)在現(xiàn)時(shí)特價(jià) 499 元預(yù)售,有興趣的學(xué)員可以訪問 mooc.ai 搜索“CCF ADL",或者掃描下圖二維碼觀看。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。