雷鋒網(wǎng) AI 科技評論按：關(guān)注我們的讀者都對 Ian Goodfellow這位仁兄非常熟悉了，作為 Yoshua Bengio 的得意門生和 GAN 的創(chuàng)始人，不僅是機(jī)器學(xué)習(xí)界的名人、谷歌大腦的重磅科學(xué)家，最近一兩年來也在機(jī)器學(xué)習(xí)的隱私與安全性方面做出了諸多努力。

美國時間7月17日， Ian Goodfellow與同在谷歌大腦的研發(fā)工程師、計(jì)算機(jī)視覺與圖像處理博士 Alexey Kurakin 一起，在Quora（國內(nèi)知乎的鼻祖）上與網(wǎng)友們進(jìn)行了一場熱烈的對談。

這事的來歷是 Ian Goodfellow 牽頭在要在今年 NIPS 上舉辦一個 Adversarial Attacks and Defences（對抗攻擊防御）比賽，詳情請看雷鋒網(wǎng) AI 科技評論報道。在比賽的消息宣布以后，上周 Ian Goodfellow 也接著就放出了自己要在Quora上做答題活動的消息，解答可能的參與者們對這個比賽的疑惑。Quora上的網(wǎng)友們先提問，然后他們這周會對其中的熱門問題進(jìn)行回答。

到了約定的這天，兩人前后合力答題了8個小時，一共回答了34個熱門問題，不過大部分是與比賽無關(guān)的?？磥韮扇艘彩前堰@次答題活動作為一個跟更多人交流、發(fā)表自己觀點(diǎn)的機(jī)會，而且確實(shí)貢獻(xiàn)了不少簡短但有力的答案。

雷鋒網(wǎng) AI 科技評論把34個問題做了分類匯總。除了比賽相關(guān)問題之外，網(wǎng)友們關(guān)心的問題最多的三類分別是“如何入門”、“AI發(fā)展趨勢”和“當(dāng)前AI技術(shù)”，應(yīng)該說這種分布狀況是目前 AI 圈子狀況的準(zhǔn)確體現(xiàn)：很多人想要加入，想知道如何學(xué)習(xí)；圈子里的人則非常積極活躍，既關(guān)注當(dāng)下的重點(diǎn)技術(shù)和應(yīng)用，也很關(guān)心新鮮趨勢如何，不想被落下；因?yàn)榇蠹叶挤e極、扎實(shí)，所以對更長遠(yuǎn)、更虛的未來愿景問題感興趣的人反倒少。

兩人回答所有問題列表如下，回答收到贊的Top 5已經(jīng)一并標(biāo)在其中。

比賽相關(guān) - 9個問題：

• 我已經(jīng)在 Udacity 上完成了深度學(xué)習(xí)課程，那么我想要通過Kaggle參與 NIPS2017上的競賽的話還需要做別的準(zhǔn)備嗎？ - Ian 答

• 想要參加 NIPS2017上的對抗攻擊防御比賽的話，你認(rèn)為參賽者應(yīng)當(dāng)有什么樣的背景？ - Ian 答

• NIPS2017上的對抗攻擊防御比賽中為什么選用了 ImageNet 做數(shù)據(jù)集？ - Ian 答

• NIPS2017上的對抗攻擊防御比賽中，想要生成對抗性樣本的最好方法是什么？ - Alexey答

• 對于NIPS2017上的對抗攻擊防御比賽，有沒有哪些重要的或者相關(guān)的論文是推薦閱讀的？  - Ian 答

• 比賽中有限定類別和不限定類別的攻擊，用于限定類別攻擊的方法能同時完成不限定類別的攻擊嗎？   - Ian 答

• 什么NIPS2017上的對抗攻擊防御比賽中需要用到Docker（代碼搬運(yùn)軟件）？ - Ian 答

• 對于比賽中攻擊防御的項(xiàng)目，我需要考慮所有種類的對抗性樣本嗎？（從一步式的方法到迭代式方法） - Ian 答

• 對抗攻擊防御比賽中有什么好的基準(zhǔn)線嗎？ - Alexey答
  

本人研究 - 2個問題：

• 谷歌大腦2017年都在研究些什么？ - Ian 答 - Top 4

• Ian Goodfellow最喜歡的超參數(shù)優(yōu)化方法是什么？ - Ian答

如何入門 - 7個問題：

• 新加入這個領(lǐng)域的人應(yīng)該知道哪些對抗性機(jī)器學(xué)習(xí)的知識？ - Alexey答  - Top 1

• 機(jī)器學(xué)習(xí)領(lǐng)域最推薦的書里，前三是哪幾本？ - Ian答 - Top 3

• 最推薦的書里，前十是哪幾本？ - Ian答

• 如何開始學(xué)習(xí)人工智能？ - Alexey答

• 我現(xiàn)在念大二，想要做人工智能的話應(yīng)該做那些準(zhǔn)備？ - Ian答
  

• 你會鼓勵其它領(lǐng)域的人（比如機(jī)械工程）學(xué)習(xí)機(jī)器學(xué)習(xí)嗎？ - Ian答

• 完全沒有技術(shù)知識的人如何學(xué)習(xí)機(jī)器學(xué)習(xí)？ - Ian答

當(dāng)前 AI 技術(shù) - 6個問題：

• 為什么現(xiàn)有的圖像分類模型可以被欺騙？ - Alexey答

• GANs可以用來做異常值檢測嗎？ - Ian答

• 總的來說，對抗性訓(xùn)練用于防御對抗性樣本有效嗎？ - Ian答

• 目前有哪個GAN可以從ImageNet的任意分類（不只是名人照片和臥室照片）生成大尺寸高質(zhì)量的圖像嗎？ - Ian答

• GANs因?yàn)榭梢陨珊每吹拿苏掌团P室照片而出名，為什么對于ImageNet中其它的上千個分類的圖像效果就不那么好？ - Ian答

• 對抗性學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的區(qū)別在哪里？它們可以像 CNN+強(qiáng)化學(xué)習(xí)那樣共同發(fā)揮作用嗎？ - Ian答
  

AI 趨勢 - 7個問題：

• 對抗性機(jī)器學(xué)習(xí)研究領(lǐng)域有什么新穎的、有意思的研究方向嗎？ - Ian答 - Top 5
  

• 當(dāng)前的人工智能和機(jī)器學(xué)習(xí)系統(tǒng)有哪些局限性？ - Alexey答

• 你覺得有沒有什么有趣的方法能讓自然語言處理從現(xiàn)有的計(jì)算機(jī)視覺研究中獲益？ - Ian答

• TensorFlow作為深度學(xué)習(xí)庫有多好？有哪些其它值得關(guān)注的庫嗎？ - Alexey答

• 獨(dú)立學(xué)習(xí)者或者開發(fā)者如何與谷歌、Facebook、OpenAI這樣在深度學(xué)習(xí)方面研究步伐非常快的企業(yè)競爭？  - Ian答 - Top 2

• 你認(rèn)為對抗性樣本是很大的問題嗎？ - Alexey答

• GANs可以用來做偽造簽名或者毀壞識別軟件之類的壞事嗎？那么系統(tǒng)安全專家要如何防御？ - Ian答

未來愿景 - 3個問題：

• 深度學(xué)習(xí)之后可能是什么？ - Ian答

• 未來深度學(xué)習(xí)會被其它機(jī)器學(xué)習(xí)方向取代嗎？ - Ian答

• 未來5到10年內(nèi)你希望在人工智能領(lǐng)域看到什么？ - Ian答

相信以上肯定有讀者們感興趣的問題，想要看 Ian Goodfellow 和 Alexey Kurakin兩人詳細(xì)回答的話，Quora上這個答題活動的地址在這里 https://www.quora.com/session/Adversarial-Machine-Learning/1 ，相信會有不少收獲。

其實(shí)近期就已經(jīng)有論文開啟了新一輪對于對抗性樣本的討論，比如 康奈爾大學(xué)最新研究：對抗性樣本是紙老虎，一出門就不好使！今天我們也有一篇文章報道了相反的觀點(diǎn) 康奈爾大學(xué)說對抗樣本出門會失效，被OpenAI懟回來了！對于對抗性樣本和 NIPS2017上的對抗攻擊防御比賽，雷鋒網(wǎng) AI 科技評論也會繼續(xù)密切關(guān)注。

相關(guān)文章：

Ian Goodfellow和Papernot半年三篇博文，對機(jī)器學(xué)習(xí)的安全隱私來了個大起底

Ian Goodfellow牽頭舉辦NIPS機(jī)器學(xué)習(xí)對抗賽，提升系統(tǒng)魯棒性

UIUC最新研究：對抗性樣本是紙老虎，一出門就不好使！

UIUC說對抗樣本出門會失效，被OpenAI懟回來了！

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。