0
雷鋒網 AI 科技評論按：關注我們的讀者都對 Ian Goodfellow這位仁兄非常熟悉了，作為 Yoshua Bengio 的得意門生和 GAN 的創(chuàng)始人，不僅是機器學習界的名人、谷歌大腦的重磅科學家，最近一兩年來也在機器學習的隱私與安全性方面做出了諸多努力。
美國時間7月17日， Ian Goodfellow與同在谷歌大腦的研發(fā)工程師、計算機視覺與圖像處理博士 Alexey Kurakin 一起，在Quora（國內知乎的鼻祖）上與網友們進行了一場熱烈的對談。
這事的來歷是 Ian Goodfellow 牽頭在要在今年 NIPS 上舉辦一個 Adversarial Attacks and Defences（對抗攻擊防御）比賽，詳情請看雷鋒網 AI 科技評論報道。在比賽的消息宣布以后，上周 Ian Goodfellow 也接著就放出了自己要在Quora上做答題活動的消息，解答可能的參與者們對這個比賽的疑惑。Quora上的網友們先提問，然后他們這周會對其中的熱門問題進行回答。
到了約定的這天，兩人前后合力答題了8個小時，一共回答了34個熱門問題，不過大部分是與比賽無關的?？磥韮扇艘彩前堰@次答題活動作為一個跟更多人交流、發(fā)表自己觀點的機會，而且確實貢獻了不少簡短但有力的答案。
雷鋒網 AI 科技評論把34個問題做了分類匯總。除了比賽相關問題之外，網友們關心的問題最多的三類分別是“如何入門”、“AI發(fā)展趨勢”和“當前AI技術”，應該說這種分布狀況是目前 AI 圈子狀況的準確體現：很多人想要加入，想知道如何學習；圈子里的人則非常積極活躍，既關注當下的重點技術和應用，也很關心新鮮趨勢如何，不想被落下；因為大家都積極、扎實，所以對更長遠、更虛的未來愿景問題感興趣的人反倒少。
兩人回答所有問題列表如下，回答收到贊的Top 5已經一并標在其中。
比賽相關 - 9個問題：
我已經在 Udacity 上完成了深度學習課程，那么我想要通過Kaggle參與 NIPS2017上的競賽的話還需要做別的準備嗎？ - Ian 答
想要參加 NIPS2017上的對抗攻擊防御比賽的話，你認為參賽者應當有什么樣的背景？ - Ian 答
NIPS2017上的對抗攻擊防御比賽中為什么選用了 ImageNet 做數據集？ - Ian 答
NIPS2017上的對抗攻擊防御比賽中，想要生成對抗性樣本的最好方法是什么？ - Alexey答
對于NIPS2017上的對抗攻擊防御比賽，有沒有哪些重要的或者相關的論文是推薦閱讀的？ - Ian 答
比賽中有限定類別和不限定類別的攻擊，用于限定類別攻擊的方法能同時完成不限定類別的攻擊嗎？ - Ian 答
什么NIPS2017上的對抗攻擊防御比賽中需要用到Docker（代碼搬運軟件）？ - Ian 答
對于比賽中攻擊防御的項目，我需要考慮所有種類的對抗性樣本嗎？（從一步式的方法到迭代式方法） - Ian 答
對抗攻擊防御比賽中有什么好的基準線嗎？ - Alexey答
本人研究 - 2個問題：
谷歌大腦2017年都在研究些什么？ - Ian 答 - Top 4
Ian Goodfellow最喜歡的超參數優(yōu)化方法是什么？ - Ian答
如何入門 - 7個問題：
新加入這個領域的人應該知道哪些對抗性機器學習的知識？ - Alexey答 - Top 1
機器學習領域最推薦的書里，前三是哪幾本？ - Ian答 - Top 3
最推薦的書里，前十是哪幾本？ - Ian答
如何開始學習人工智能？ - Alexey答
我現在念大二，想要做人工智能的話應該做那些準備？ - Ian答
你會鼓勵其它領域的人（比如機械工程）學習機器學習嗎？ - Ian答
完全沒有技術知識的人如何學習機器學習？ - Ian答
當前 AI 技術 - 6個問題：
為什么現有的圖像分類模型可以被欺騙？ - Alexey答
GANs可以用來做異常值檢測嗎？ - Ian答
總的來說，對抗性訓練用于防御對抗性樣本有效嗎？ - Ian答
目前有哪個GAN可以從ImageNet的任意分類（不只是名人照片和臥室照片）生成大尺寸高質量的圖像嗎？ - Ian答
GANs因為可以生成好看的名人照片和臥室照片而出名，為什么對于ImageNet中其它的上千個分類的圖像效果就不那么好？ - Ian答
對抗性學習和強化學習的區(qū)別在哪里？它們可以像 CNN+強化學習那樣共同發(fā)揮作用嗎？ - Ian答
AI 趨勢 - 7個問題：
對抗性機器學習研究領域有什么新穎的、有意思的研究方向嗎？ - Ian答 - Top 5
當前的人工智能和機器學習系統(tǒng)有哪些局限性？ - Alexey答
你覺得有沒有什么有趣的方法能讓自然語言處理從現有的計算機視覺研究中獲益？ - Ian答
TensorFlow作為深度學習庫有多好？有哪些其它值得關注的庫嗎？ - Alexey答
獨立學習者或者開發(fā)者如何與谷歌、Facebook、OpenAI這樣在深度學習方面研究步伐非常快的企業(yè)競爭？ - Ian答 - Top 2
你認為對抗性樣本是很大的問題嗎？ - Alexey答
GANs可以用來做偽造簽名或者毀壞識別軟件之類的壞事嗎？那么系統(tǒng)安全專家要如何防御？ - Ian答
未來愿景 - 3個問題：
深度學習之后可能是什么？ - Ian答
未來深度學習會被其它機器學習方向取代嗎？ - Ian答
未來5到10年內你希望在人工智能領域看到什么？ - Ian答
相信以上肯定有讀者們感興趣的問題，想要看 Ian Goodfellow 和 Alexey Kurakin兩人詳細回答的話，Quora上這個答題活動的地址在這里 https://www.quora.com/session/Adversarial-Machine-Learning/1 ，相信會有不少收獲。
其實近期就已經有論文開啟了新一輪對于對抗性樣本的討論，比如 康奈爾大學最新研究：對抗性樣本是紙老虎，一出門就不好使！今天我們也有一篇文章報道了相反的觀點 康奈爾大學說對抗樣本出門會失效，被OpenAI懟回來了！對于對抗性樣本和 NIPS2017上的對抗攻擊防御比賽，雷鋒網 AI 科技評論也會繼續(xù)密切關注。
相關文章：
Ian Goodfellow和Papernot半年三篇博文，對機器學習的安全隱私來了個大起底
Ian Goodfellow牽頭舉辦NIPS機器學習對抗賽，提升系統(tǒng)魯棒性
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
