0
雷鋒網(wǎng)AI科技評論按：作為機器學習和計算神經(jīng)科學的國際頂級學術會議NIPS，隨著近些年人工智能的發(fā)展，也變得越來越火爆。從大會官方公布的一些數(shù)據(jù)就可以看出：NIPS 2017共收到3240篇論文投稿，有678篇論文被選中作為大會論文，比例20.9%，其中有40篇被選中進行口頭報告（oral），112篇選為spotlight進行展示。毫不意外這些數(shù)字又創(chuàng)了大會歷史新高。就在論文收錄結果公布僅僅10天之后，官方數(shù)據(jù)顯示注冊名額已滿！那么對于廣大還沒來得及注冊或者沒有機會去到前方會場的同學們來說，如何才能更進一步的了解本次NIPS的論文情況呢？
由雷鋒網(wǎng)主辦，清華數(shù)據(jù)派THU承辦的第五期“GAIR大講堂”在上周六邀請了5位NIPS 2017論文入選者，5位同學來到清華大學，為大家做本次NIPS 入選論文的介紹分享。五位嘉賓中年齡最小的還在讀大四，最大的博士還沒畢業(yè)，但是各自都在學術方向有了一定深度的研究。5位同學在活動現(xiàn)場做了細致的分享，廣大同學們都表示受益匪淺，以下為本次活動的回顧總結。
陸洲現(xiàn)場圖
第一位分享的嘉賓是北京大學數(shù)學科學學院大四本科生陸洲，分享題目是從寬度來看神經(jīng)網(wǎng)絡的表達能力（The expressive power of neural networks : A view from the width）
他表示最近雖然有很多神經(jīng)網(wǎng)絡表達能力的相關研究工作，但多數(shù)注重于深度如何影響表達能力。
而這篇論文則從寬度入手，分別從寬度帶來的相變，以及寬度與深度對效率的影響來做實驗，得到了關于神經(jīng)網(wǎng)絡表達能力的新結果。
他認為，研究深度學習表達能力，有助于我們對于給定任務，選擇較優(yōu)的網(wǎng)絡框架。也是數(shù)學上解釋深度學習的必要一環(huán)。
鄧志杰現(xiàn)場圖
第二位分享嘉賓是清華大學計算機系人智所博士生鄧志杰，分享主題為：結構化生成對抗網(wǎng)絡（Structured Generative Adversarial Networks）
研究工作是基于指定語義或結構信息的條件產(chǎn)生式建?！，F(xiàn)有的模型在搭建條件生成器時，往往需要大量的標注數(shù)據(jù)作為監(jiān)督信號，而且不能夠準確地對生成樣本的語義信息加以控制。
因此他們提出結構化生成對抗網(wǎng)絡(SGAN) 來解決半監(jiān)督條件產(chǎn)生式建模這個問題。
SGAN 假設數(shù)據(jù) x 基于兩個獨立的隱變量 y 和 z 來生成： y 編碼了指定的語義信息，z 包含其他的可變因素。SGAN 的訓練要解決兩個對抗游戲，它們能夠保證模型中各部分收斂到數(shù)據(jù)的真實聯(lián)合分布p(x, y)和p(x, z)。為了確保 y 和 z 的解耦和，SGAN 搭建了兩個合作游戲，它們在隱空間上最小化重建誤差。
他們進行了大量的實驗來評估結構化生成對抗網(wǎng)絡。實驗表明 SGAN 能夠學習出一個高度可控的條件生成器，以及數(shù)據(jù)的解耦和的表示。
SGAN 在半監(jiān)督分類任務的多個數(shù)據(jù)集上都取得了很好的實驗結果。得益于對 y 和 z 的分開建模，SGAN 能夠生成高質量并且嚴格遵循指定語義的樣本。此外，SGAN 還能被擴展來進行一些有趣的實驗，包括圖像演化和圖像風格遷移。
陳鍵飛現(xiàn)場圖
第三位分享嘉賓是清華大學計算機系人智所博士生陳鍵飛，分享主題是：樣本匹配差異及其在深度學習中的應用（Population Matching Discrepancy and Applications in Deep Learning）
兩個概率分布之間可導的距離估計是對很多深度學習任務重要的問題。其中一種距離估計是最大平均差異（MMD）。
但是MMD有對核半徑敏感、梯度弱以及用于訓練目標時mini batch過大等問題。
論文中的分享圍繞這一問題，介紹了他們在NIPS 2017上提出的樣本匹配差異（PMD）。
他們提出了PMD作為分布之間距離的估計，并提出了用PMD作為目標函數(shù)時學習分布參數(shù)的算法。PMD定義成兩分布樣本構成的二分圖的最小匹配，證明了PMD是Wasserstein度量的強一致估計量。
實驗中將PMD用于了兩個深度學習問題，包括領域自適應和訓練產(chǎn)生式模型。結果表明PMD克服了上述MMD的不足，并在效果和收斂速度上都超過了MMD。
汪躍現(xiàn)場圖
第四位嘉賓是北京交通大學理學院博士生汪躍，分享主題是：馬爾科夫情形下的GTD 策略評估算法有限樣本誤差分析 （Finite sample analysis of the GTD Policy Evaluation Algorithms in Markov Setting）
汪躍說自己雖然是數(shù)學專業(yè)，但是特別喜歡跟應用結合的相關領域。曾經(jīng)做過一段時間與腦科學有關的影像遺傳學方面的工作。最近感興趣的方向主要集中在強化學習中的算法理論分析和算法設計等方面，以及優(yōu)化算法相關的方向 。
策略評估是強化學習中一個重要的組成部分。策略評估的目標是估計給定策略的價值函數(shù)（從任一狀態(tài)出發(fā)，依照給定的策略時，期望意義下未來的累計回報）。一個好的策略評估算法可以更準確的估計出當前策略的價值函數(shù)，并且有助于找到一個更好的策略。
當狀態(tài)空間特別大或者是連續(xù)空間的時候，線性函數(shù)近似下的GTD策略評估算法非常常用?？紤]到收集數(shù)據(jù)的過程非常耗費時間和代價，清楚的理解GTD算法在有限樣本情況下的表現(xiàn)就顯得非常重要。
之前的工作將GTD算法與鞍點問題建立了聯(lián)系，并且在樣本獨立同分布和步長為定值的情況下給出了GTD算法的有限樣本誤差分析。但是，在實際的強化學習問題中，數(shù)據(jù)都是由馬氏決策過程產(chǎn)生的，并不是獨立同分布的。并且在實際中，步長往往也不一定是一個定值。
這篇論文中首先證明了在數(shù)據(jù)來自于馬爾科夫鏈的情況下，鞍點問題的期望意義下和高概率意義下的有限樣本誤差，進而得到了更接近于實際情形下的GTD的算法的有限樣本誤差分析。從結果中可以看到， 在實際中的馬爾科夫的情形下:
（1）GTD算法確實依然收斂；
（2）收斂的速率依賴于步長的設定和馬爾科夫鏈的混合時間這一屬性；
（3）通過混合時間的角度解釋了經(jīng)驗回放這一技巧的有效性，其有效性可以理解成縮短了馬爾科夫鏈的混合時間。
單小涵現(xiàn)場圖
第五位分享嘉賓是中國科學院計算技術研究所博士生單小涵，分享主題是：帶有ε-近似次模閾值函數(shù)的影響力最大化問題（Influence Maximization with epsilon-Almost Submodular Threshold Function ）
她分享的主要是社交網(wǎng)絡影響力最大化算法研究。影響力最大化旨在從社交網(wǎng)絡中選擇K個種子節(jié)點，使得這k個種子節(jié)點通過傳播產(chǎn)生的影響范圍最大。這個問題已經(jīng)被廣泛研究，但是大多的工作專注于次模的影響力傳播模型。然而許多現(xiàn)實的傳播現(xiàn)象表明，在實際傳播中非次模現(xiàn)象十分普遍。
分享開始時，她舉了幾個通俗的例子，介紹了目前幾個用戶規(guī)模較大的社交網(wǎng)絡和三個經(jīng)典的傳播模型。
隨后分別對三大傳播模型的算法進行了介紹，而這篇論文的價值所在是作者在論文中提到了一種近次模函數(shù)，并以這類函數(shù)作為閾值，研究通用閾值模型下的影響力最大化問題。
嘉賓演講完的提問環(huán)節(jié)，同學們表現(xiàn)非常踴躍積極，收獲滿滿
內(nèi)容分享結束后，幾位嘉賓還同時分享了他們在頂會上發(fā)論文的心得與體會。在最后的問答環(huán)節(jié)中，現(xiàn)場有很多剛剛入學的研究生，就學習、未來學術研究方向以及怎樣才能進到像微軟亞研這樣的大企業(yè)實習等方面遇到的問題請教了幾位嘉賓，他們都耐心給出了解答，廣大在場的同學們都收獲良多。以上就是GAIR大講堂NIPS清華專場 5位嘉賓分享的全部內(nèi)容。AI科技評論為大家整理了本次活動現(xiàn)場PPT（可關注AI科技評論公眾號，后臺回復“清華PPT”即可獲取下載地址和密碼。）
雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。
專題
