雷鋒網(wǎng) AI 科技評論按：2018 年，AI 研習(xí)社為大家呈上了一系列公開課，讓更多的 AI 學(xué)術(shù)人員得以分享、傳播自己的研究成果，也讓科技愛好者們、學(xué)生們、其它研究人員們增進(jìn)了對人工智能相關(guān)思維、知識、應(yīng)用的認(rèn)識，為國內(nèi)人工智能長期持續(xù)發(fā)展的氛圍出一份力。

在這闔家團(tuán)圓的日子里，我們特意整理出 10 場傳播熱度最高的公開課，讓錯過直播的童鞋得以查缺補(bǔ)漏，而看過直播的童鞋也能借機(jī)溫故而知新。

1. 圖像分割的經(jīng)典算法

分享嘉賓：

劉漢唐，浙江大學(xué)計算機(jī)系博士生在讀，阿里巴巴 iDST 實習(xí)生。研究方向是計算機(jī)視覺、深度學(xué)習(xí)。

分享內(nèi)容：

圖像分割是計算機(jī)視覺中一個經(jīng)典并且基礎(chǔ)的問題，對于理解圖像非常關(guān)鍵。圖像分割有很多應(yīng)用場景，比如無人駕駛、地圖重建、圖像美化等等。深度學(xué)習(xí)使得圖像分割有了巨大的發(fā)展，本次分享會介紹深度學(xué)習(xí)中圖像分割的經(jīng)典算法。

回看網(wǎng)址：

http://www.mooc.ai/course/414/learn#lesson/2266

2. 深度學(xué)習(xí)時代的場景文字檢測與識別

分享嘉賓：

姚聰：于華中科技大學(xué)電信學(xué)院獲得學(xué)士和博士學(xué)位，其主要研究方向為自然場景文字檢測和識別。在國際重要期刊 IEEE TPAMI, IEEE TIP 以及頂級會議 CVPR、ICCV 和 ECCV 等上發(fā)表論文十余篇。目前在曠視科技 (Face++) 擔(dān)任云服務(wù)業(yè)務(wù)算法負(fù)責(zé)人，主持自然場景 OCR、人臉活體檢測等技術(shù)的研發(fā)工作，為 FaceID 互聯(lián)網(wǎng)身份驗證服務(wù)、Face++開放平臺等提供算法支持。

分享內(nèi)容：

圖像語義分割是 AI 領(lǐng)域中一個重要的分支，是機(jī)器視覺技術(shù)中關(guān)于圖像理解的重要一環(huán)。近年的自動駕駛技術(shù)中，也需要用到這種技術(shù)。車載攝像頭探查到圖像，后臺計算機(jī)可以自動將圖像分割歸類，以避讓行人和車輛等障礙。隨著近些年深度學(xué)習(xí)的火熱，使得圖像分割有了巨大的發(fā)展，本文為大家介紹深度學(xué)習(xí)中圖像分割的經(jīng)典算法。

回看網(wǎng)址：

http://www.mooc.ai/open/course/605

3. 物體檢測算法的近期發(fā)展及開源框架介紹

分享嘉賓：

陳愷，香港中文大學(xué)多媒體實驗室博士生，COCO 2018 Instance Segmentation Challenge 冠軍團(tuán)隊成員。

分享內(nèi)容：

物體檢測是計算機(jī)視覺的基礎(chǔ)任務(wù)之一，講者將總結(jié)深度學(xué)習(xí)背景下物體檢測算法的發(fā)展，分享 COCO 比賽冠軍團(tuán)隊所使用的算法，并介紹由港中大多媒體實驗室開源的物體檢測算法框架 mmdetection。

回看網(wǎng)址：

http://www.mooc.ai/open/course/604

4. 研習(xí) U-Net——現(xiàn)有的分割網(wǎng)絡(luò)創(chuàng)新

分享嘉賓：

周縱葦，亞利桑那州立大學(xué)生物信息學(xué)在讀博士，師從 Jianming Liang 教授，主要研究方向為醫(yī)學(xué)圖像分析，深度學(xué)習(xí)等。其研究工作曾在 CVPR，DLMIA，EJNMMI Research 發(fā)表。

分享內(nèi)容：

經(jīng)典的 Encoder-Decoder 結(jié)構(gòu)在目標(biāo)分割問題中展現(xiàn)出了舉足輕重的作用，然而這樣一個相對固定的框架使得模型在感受野大小和邊界分割精度兩方面很難達(dá)到兼顧。本次公開課，講者以 U-Net 為案例分析，總結(jié)現(xiàn)有的分割網(wǎng)絡(luò)創(chuàng)新，以及探討還有哪些有針對性的改進(jìn)方向。

回看網(wǎng)址：

http://www.mooc.ai/open/course/549

5. 高效卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計與探索

分享嘉賓：

黃高博士，現(xiàn)為美國康奈爾大學(xué)計算機(jī)系博士后，主要研究領(lǐng)域為深度神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計與優(yōu)化算法，以及深度學(xué)習(xí)在計算機(jī)視覺與自然語言理解中的應(yīng)用；獲得北京航空航天大學(xué)自動化學(xué)院學(xué)士學(xué)位，清華大學(xué)控制科學(xué)與工程博士學(xué)位。其博士論文被評為中國自動化學(xué)會優(yōu)秀博士學(xué)位論文以及清華大學(xué)優(yōu)秀博士論文一等獎。目前已發(fā)表學(xué)術(shù)論文 20 余篇，其中一篇被中國科學(xué)技術(shù)信息研究所評選為 2015 年全國百篇最具國際影響學(xué)術(shù)論文；一篇獲得國際計算機(jī)視覺頂級會議 CVPR 的最佳論文獎。

分享內(nèi)容：

卷積神經(jīng)網(wǎng)絡(luò)則是深度學(xué)習(xí)最具代表性的模型，在計算機(jī)視覺和自然語言翻譯等領(lǐng)域有著極其廣泛的應(yīng)用。隨著精度以及復(fù)雜度的逐步提升，卷積網(wǎng)絡(luò)的推理效率問題越來越明顯的成為制約其在實際應(yīng)用中的瓶頸。本次 GAIR 大講堂將從網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計與推理方法等方面，分享黃高博士近期的一些研究成果與心得。

回看網(wǎng)址：

http://www.mooc.ai/open/course/423

6. 深度學(xué)習(xí)在點云分割中的應(yīng)用

分享嘉賓：

王薇月，南加州大學(xué)計算機(jī)系在讀博士，導(dǎo)師是 Ulrich Neumann 教授，主要研究方向為計算機(jī)視覺，三維視覺等。其研究工作曾在 CVPR、ICCV、ECCV 等發(fā)表。個人主頁：www-scf.usc.edu/~weiyuewa/

分享內(nèi)容：

隨著激光雷達(dá)，RGBD 相機(jī)等 3D 傳感器在機(jī)器人，無人駕駛領(lǐng)域的廣泛應(yīng)用，深度學(xué)習(xí)在三維點云數(shù)據(jù)的研究在近兩年取得了廣泛關(guān)注。點云分割、識別、檢測成為學(xué)術(shù)界、工業(yè)界的熱門話題之一。是在本次公開課中，講者將分享其關(guān)于點云分割的最新工作。

回看網(wǎng)址：

http://www.mooc.ai/open/course/501

7. 基于小波變換的圖卷積神經(jīng)網(wǎng)絡(luò)

分享嘉賓：

徐冰冰，中國科學(xué)院計算技術(shù)研究所在讀博士生。目前主要研究興趣為圖卷積網(wǎng)絡(luò)，圖上深度學(xué)習(xí)。

分享內(nèi)容：

Graph 是實際生活中廣泛存在的數(shù)據(jù)結(jié)構(gòu)，如社交網(wǎng)絡(luò)，交通網(wǎng)絡(luò)等。近年來如何利用深度學(xué)習(xí)的方法建模 Graph 引起廣泛關(guān)注，而其中借助圖卷積網(wǎng)絡(luò)建模 Graph 上節(jié)點關(guān)聯(lián)是非常重要的一類方法。本次公開課將分享如何用小波變換實現(xiàn)圖卷積算子，以及小波變換相對于圖上傅立葉變換帶來的優(yōu)勢。該工作已被表示學(xué)習(xí)國際會議 ICLR2019 錄用，論文題目為《Graph Wavelet Neural Network》。

回看網(wǎng)址：

http://www.mooc.ai/open/course/626

8. 基于最大熵的 CTC 改進(jìn)算法

分享嘉賓：

劉鵠，清華大學(xué)自動化系碩士，目前就職于京東，主要研究搜索廣告的排序模型。碩士期間導(dǎo)師是張長水教授，主要研究方向為序列識別、視頻識別。工作曾在 CVPR，NIPS 等頂級會議上發(fā)表。

分享內(nèi)容：

該工作是我們在 NIPS2018 上的一篇文章 (Spotlight)。

Connectionist Temporal Classification(CTC) 是一種廣泛應(yīng)用于優(yōu)化序列識別問題的損失函數(shù)。結(jié)合 RNN/LSTM 等結(jié)構(gòu)，目前 CTC 已經(jīng)成為語音識別、 光學(xué)字符識別、手勢識別等領(lǐng)域的主流框架之一。然而 CTC 的訓(xùn)練過程存在一些缺陷，導(dǎo)致它比較容易過擬合，并經(jīng)常傾向于輸出過度自信、呈尖峰分布的預(yù)測結(jié)果。本次公開課將首先回顧 CTC 算法，指出它在訓(xùn)練過程中的缺陷，并結(jié)合最大熵從兩個不同的角度為它提出改進(jìn)。

回看網(wǎng)址：

http://www.mooc.ai/open/course/621

9. 稀疏流形變換（The Sparse Manifold Transform）

分享嘉賓：

陳羽北，UC Berkeley AI Research (BAIR) 博士在讀。2012 年本科畢業(yè)于清華大學(xué)電子工程系，畢業(yè)后就讀于加州大學(xué)伯克利分校電子工程與計算機(jī)系，并獲得數(shù)學(xué)系碩士雙學(xué)位，目前在導(dǎo)師 Bruno Olshausen 教授指導(dǎo)下研究非監(jiān)督稀疏特征學(xué)習(xí)研究。

分享內(nèi)容：

稀疏編碼 (Sparse Coding)，流形學(xué)習(xí) (Manifold Learning) 是早期兩種非常重要的非監(jiān)督學(xué)習(xí)方法，在神經(jīng)科學(xué)，機(jī)器學(xué)習(xí)及數(shù)據(jù)可視化等方面都取得了相當(dāng)?shù)某晒ΑＶv者認(rèn)為，稀疏編碼從本質(zhì)上刻畫自然信號中的低維離散性，而流形學(xué)習(xí)則刻畫的是自然信號中的低維連續(xù)性。在本次公開課上，講者將介紹這兩種模型中的重要聯(lián)系，進(jìn)而討論講者發(fā)表在 NeurIPS 2018 的文章稀疏流形變換（The Sparse Manifold Transform），首次嘗試將這兩種模型融合所建立的一套新的非監(jiān)督特征學(xué)習(xí)框架。

回看網(wǎng)址：

http://www.mooc.ai/open/course/623

10. 基于對抗學(xué)習(xí)和知識蒸餾的多模型集成算法

分享嘉賓：

沈志強(qiáng)，UIUC 訪問學(xué)生，復(fù)旦大學(xué)博士，已在 CVPR，ICCV，ECCV，ICLR，AAAI 等頂級會議上發(fā)表多篇論文。

分享內(nèi)容：

該工作是我們最近剛發(fā)表在 AAAI 2019 (Oral) 上一篇文章。通常來說，集成多個基礎(chǔ)級別的神經(jīng)網(wǎng)絡(luò)會帶來更好的性能提升。遺憾的是，存儲這些網(wǎng)絡(luò)參數(shù)所需的空間以及在測試時執(zhí)行它們所需要的時間，嚴(yán)重阻礙了它們在測試集很大情況下的使用，如 ImageNet。在本章中，我們提出了一種將大型的、復(fù)雜的神經(jīng)網(wǎng)絡(luò)集合壓縮到單個網(wǎng)絡(luò)中的方法。具體而言，來自各個訓(xùn)練好的深度神經(jīng)網(wǎng)絡(luò) (Deep Neural Network，DNN) 中的知識被提煉并轉(zhuǎn)移到單個 DNN 中。為了從不同的訓(xùn)練好的模型 (教師模型) 中提取不同的知識，我們提出使用基于對抗學(xué)習(xí)的策略。我們定義了一個逐塊 (block-wise) 的訓(xùn)練損失函數(shù)，以指導(dǎo)和優(yōu)化預(yù)先定義好的學(xué)生網(wǎng)絡(luò)，學(xué)習(xí)教師模型中的知識，并使用鑒別網(wǎng)絡(luò)同時區(qū)分來自教師或者學(xué)生網(wǎng)絡(luò)的特征。

分享網(wǎng)址：

http://www.mooc.ai/open/course/620

雷鋒網(wǎng) AI 科技評論雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。