0
雷鋒網(wǎng) AI 科技評論按：一提起 RNN，我們最容易想到的實現(xiàn)就是 LSTM + attention。LSTM 作為經(jīng)典的網(wǎng)絡結構可謂是老當益壯，而另一方面注意力機制過于常見，我們甚至會覺得它是「理所當然的」。但其實注意力機制其實并不是唯一一種網(wǎng)絡增強的方式。這篇 Distill.pub 博客的文章就帶我們重溫了包括注意力在內的多種網(wǎng)絡增強方式，它們側重的方向不一樣，也就方便研究/開發(fā)人員們按照自己的實際需求進行選取。雷鋒網(wǎng) AI 科技評論編譯如下。
循環(huán)神經(jīng)網(wǎng)絡（RNN）是深度學習技術中十分重要的一類模型，它讓神經(jīng)網(wǎng)絡能夠處理文本、音頻和視頻等序列數(shù)據(jù)。人們可以用循環(huán)神經(jīng)網(wǎng)絡將一個序列歸結為一個高級的理解模式，從而對序列進行標注，甚至從頭開始生成一個新的序列。
基本的 RNN 設計過程需要對棘手的長序列進行處理，但是一種特殊的RNN 變體——LSTM（long short-term memory，長短期記憶網(wǎng)絡）可以在這種情況下很好地工作。人們發(fā)現(xiàn)這些模型十分強大，能夠在包括機器翻譯、語音識別和圖像理解（看圖說話）等許多任務中取得非常好的效果。因此，在過去的幾年里，循環(huán)神經(jīng)網(wǎng)絡已經(jīng)被廣泛使用。
隨著人們對循環(huán)神經(jīng)網(wǎng)絡的研究越來越深入，我們已經(jīng)看到越來越多的人試圖用一些新的特性來增強循環(huán)神經(jīng)網(wǎng)絡。有四個方向的改進特別令人激動：
這些技術中，每一項技術都對神經(jīng)網(wǎng)絡有很大的提升。然而，真正炫酷的是，這些技術還能結合在一起使用，而且現(xiàn)有的這些技術似乎都只是廣闊的研究空間中的一葉扁舟。此外，它們都依賴于同樣的底層技術——注意力機制，從而發(fā)揮作用。
神經(jīng)圖靈機[2] 將 RNN 與外部存儲單元相結合。由于向量是自然語言在神經(jīng)網(wǎng)絡中的表現(xiàn)形式，所以存儲單元中的內容是一組向量：
但是對神經(jīng)圖靈機的讀寫的工作方式是怎樣的呢？真正的挑戰(zhàn)是，我們需要讓它們可微。特別是，我們需要讓它們對于我們讀和寫的位置可微，從而讓我們學會在哪里進行讀寫操作的。由于存儲地址在根本上是離散的，要讓它們可微是十分困難的。為此，神經(jīng)圖靈機采取了一種很聰明的解決方案：在每一步操作中，它們會在存儲單元的所有位置進行讀寫，只是程度不同而已。
舉例而言，讓我們重點關注讀操作。RNN 并沒有指定一個特定的讀取位置，而是輸出了一個「注意力分布」，它描述了我們對于不同的存儲位置關注程度的分布情況。由此得到的讀操作的結果就是一個加權和。
類似地，我們也會以不同程度在存儲單元中的各個位置進行寫操作。我們再次用一個注意力分布描述我們在每個位置寫入了多少內容。我們通過使存儲單元中每個位置的新值成為舊存儲內容和新寫入的值的凸組合來做到這一點，而舊的存儲內容和新值之間的位置取決于注意力權重。
但是，神經(jīng)圖靈機是如何確定應該將注意力集中在存儲單元的哪些位置上呢？實際上，它們采用了兩種不同方法的組合：基于內容的注意力機制和基于位置的注意力機制?；趦热莸淖⒁饬C制使神經(jīng)圖靈機可以在他們的存儲器中進行搜索并重點關注于他們所尋找的目標相匹配的位置，而基于位置的注意力機制則使存儲單元中注意力的相對運動成為了可能，使神經(jīng)圖靈機能夠循環(huán)。
這種讀寫能力使得神經(jīng)圖靈機能夠執(zhí)行許多簡單的算法，而不僅限于神經(jīng)網(wǎng)絡范疇。例如，它們可以學習在存儲單元中存放一個長的序列，然后對其反復進行循環(huán)操作。當它們這樣做的時候，我們可以看到他們在哪些位置執(zhí)行了讀寫操作，以便更好地理解他們在做什么：
你可以在[3]中查看更多的實驗結果。上圖是基于重復的復制實驗得出的。
它們還可以學會模仿查表法，甚至學著對數(shù)字進行排序（盡管采取了一些投機取巧的方法）！另一方面，有時他們面對一些很基礎的工作也會無能為力，比如對數(shù)字進行加法或乘法運算。
自從最原始的神經(jīng)圖靈機論文發(fā)表后，相繼涌現(xiàn)了一大批在相關領域取得激動人心的研究進展的論文。神經(jīng) GPU[4] 解決了神經(jīng)圖靈機無法對數(shù)字進行加法和乘法運算的問。Zaremba 和 Sutskever 等人[5]使用強化學習代替了最原始的神經(jīng)圖靈機中使用的可微的讀寫技術來訓練神經(jīng)機器翻譯。神經(jīng)隨機存取存儲器（NRAM）是基于指針工作的。目前，一些論文已經(jīng)對棧和隊列這種可微的數(shù)據(jù)結構進行了探究[7，8]。而記憶網(wǎng)絡[9，10]（memory networks）則是另一種解決類似問題的方法。
從某種客觀意義上來講，這些模型可以執(zhí)行的許多任務（例如學會如何對數(shù)字做加法），并不是十分困難。對于傳統(tǒng)的編程技術說，這些任務可以說是小菜一碟。但是神經(jīng)網(wǎng)絡可以處理許多其他的問題，而目前像神經(jīng)圖靈機這樣的模型的能力似乎仍然收到了很大限制，沒有被完全開發(fā)出來。
代碼
這些模型有許多開源的實現(xiàn)版本。神經(jīng)圖靈機的開源實現(xiàn)有 Taehoon Kim（Tensorflow 版，https://github.com/carpedm20/NTM-tensorflow ）、Shanwn（Theano 版，https://github.com/shawntan/neural-turing-machines ）、Fumin（Go 版，https://github.com/fumin/ntm ）、Kai Sheng（Torch 版，https://github.com/kaishengtai/torch-ntm ）、Snip（Lasagne 版，https://github.com/snipsco/ntm-lasagne ）等人的版本。神經(jīng) GPU 代碼是開源的，并已經(jīng)被 TensorFlow 的模型庫囊括了進去（https://github.com/tensorflow/models/tree/master/neural_gpu ）。記憶網(wǎng)絡的開源實現(xiàn)包含F(xiàn)acebook（Torch/Matlab 版，https://github.com/facebook/MemNN ）、YerevaNN（Theano 版，https://github.com/YerevaNN/Dynamic-memory-networks-in-Theano ）、Taehoon Kim（TensorFlow 版，https://github.com/carpedm20/MemN2N-tensorflow ）等人的版本。
當我們翻譯一個句子時，我們會特別注意當前翻譯的單詞。當我們轉錄一段錄音時，我們會仔細聽我們正努力寫下的章節(jié)。如果你要我描述我所坐的房間，我會在描述的時候看看周圍的物體。
神經(jīng)網(wǎng)絡使用注意力機制實現(xiàn)同樣的行為，專注于整個環(huán)境中所獲的的信息的一部分。例如，RNN 可以處理另一個 RNN 的輸出。在每一個時間步上，帶注意力機制的 RNN 都會關注另一個 RNN 的不同位置上的內容。
我們希望注意力機制是可微的，這樣我們就可以學到重點關注什么位置上的內容。為了做到這一點，我們獎使用和神經(jīng)圖靈機一樣的技術：我們關注所有的位置，只是關注的程度不同罷了。
注意力分布通常是由基于內容的注意力機制生成的。我們用來操作的RNN 會生成一個搜索詞描述它想要關注的位置。每一項都會與搜索詞進行點乘從而產(chǎn)生一個得分，該得分將描述其與搜索詞的匹配程度。這個得分將作為輸入送給Softmax 函數(shù)，用來創(chuàng)建注意力分布。
在RNN 之間應用注意力機制的一個場景是機器翻譯[11]。一個傳統(tǒng)的序列到序列（Seq2Seq）的模型必須將整個輸入歸結為一個單一的向量，然后將其反向擴展得到翻譯結果。注意力機制通過使RNN 能夠處理輸入來傳遞它所看到的每一個單詞信息，然后在生成輸出的RNN 中將注意力集中在相關的單詞上。
這種 RNN 之間的注意力機制已經(jīng)有許多其它的應用場景。它能夠在語音識別[12]中被使用，使一個 RNN 能夠處理音頻信息，然后讓另一個 RNN 能夠瀏覽它，在它生成音頻相應的文字時將注意力放在相關的部分上。
這種注意力機制其它的應用還包括文本解析[13]，這時注意力機制讓模型能夠在生成解析樹時對單詞進行掃描。而在對話建模[14]任務中，注意力機制使模型能在生成回應文字時，重點關注對話前面相關求的內容。
注意力機制還可以用在卷積神經(jīng)網(wǎng)絡和循環(huán)神經(jīng)網(wǎng)絡之間的接口上。這里的注意力機制使 RNN 能夠在每一步關注圖像上的不同位置。這種注意力機制的一個流行的應用場景是「看圖說話」。首先，一個卷積網(wǎng)絡會對圖片進行處理從而抽取高級特征；接著會運行一個 RNN 生成對圖像的描述。當它生成描述中的每個單詞時，RNN 會關注卷積神經(jīng)網(wǎng)絡對圖像相關部分的解釋。我們可以用下圖顯示地可視化這個過程：
更廣泛地說，當我們想要與一個在輸出中有重復結構的神經(jīng)網(wǎng)絡對接時，可以使用注意力接口。
人們發(fā)現(xiàn)注意力接口是一種極具通用價值并且十分強大的技術，并且正在被越來越廣泛地使用。
標準的 RNN 在每個時間步上執(zhí)行相同數(shù)量的計算。這似乎并不符合直覺。當然，我們要處理的問題變得更加復雜時，人們是否應該再多考慮考慮呢？此外，標準 RNN 還將其操作長度為 n 的序列的時間復雜度限制為 O(n)。
自適應計算時間[15]是一種讓 RNN 能夠在每一步之行不同數(shù)量的計算的方法。大體的思路很簡單：它讓RNN 能在每個時間步上進行多步計算。
為了讓網(wǎng)絡學習需要計算多少步，我們希望步驟的數(shù)量可微。我們用我們曾經(jīng)使用過的技術來實現(xiàn)這一點：我們并不運行離散數(shù)量的步驟，而是對運行的步數(shù)使用了一個注意力分布。它的輸出是每個步驟的輸出的加權組合。
上圖還忽略了一些更多的細節(jié)。下圖是在一個時間步上包含三個計算步驟的完整示意圖：
此圖描述的計算過程有些復雜，所以讓我們一步步地分析它。在高層，我們仍然運行RNN 并輸出一個狀態(tài)的加權組合：
每一個計算步驟的權重都由一個「緩沖神經(jīng)元」決定。它是一種能夠觀察RNN 的狀態(tài)并給出一個緩沖權重的sigmoid 神經(jīng)元，我們可以認為它是我們應該在這一步停下來的概率。
我們對于緩沖權重的總預算上限為1，接著我們根據(jù)下圖最上面一行的計算流程進行計算（從1 開始，每一步減去相應的值）。當它變得小于epsilon 時，我們就停止計算。
當我們停下來時，可能還會有一些在緩沖預算之外還沒有計算完的部分，這是因為我們在其小于 epsilon 時就會停止計算。我們該如何處理這種情況呢？從技術上講，它被賦予了未來可以繼續(xù)計算的步驟，而我們現(xiàn)在并不想計算它，因此我們將現(xiàn)在的狀態(tài)定義為最后一步。
當我們訓練自適應計算時間模型時，可以在損失函數(shù)中添加一項「思考成本」（ponder cost），用來懲罰模型的累積計算時間。這一項越大，就會更加因為降低計算時間而降低性能，達到折中的目的。
自適應計算時間是一種非常新的想法，但是我們相信它和類似的思想都是非常重要的。
代碼
目前唯一的「自適應計算時間」模型的開源代碼似乎是Mark Neumann的版本（TensorFlow 版，https://github.com/DeNeutoy/act-tensorflow）。
神經(jīng)網(wǎng)絡在許多任務上的表現(xiàn)都非常出色，但它們又是也很難做到一些基本的事情。比如算術對于神經(jīng)網(wǎng)絡就很困難，而這對于普通的計算方法是輕而易舉的。如果有一種方法可以將神經(jīng)網(wǎng)絡與普通的編程方法融合在一起，就會取得最大的雙贏局面。
神經(jīng)網(wǎng)絡編程器[16]是一種解決該問題的方法。它會學著創(chuàng)建程序來解決這個問題。事實上，它能在不需要正確的程序實例范本的情況下生成這樣的程序。它會發(fā)現(xiàn)要想完成某種任務，做為手段，需要如何生產(chǎn)出程序。
論文中實際的模型通過生成類 SQL 程序查詢表格來回答這個問題。然而，這種環(huán)境下的大量細節(jié)讓它變得有些復雜。所以我們不妨從想象一個稍微簡單一點的模型開始，它給出了一個算術表達式，并生成了一個模型來評估它。
生成的程序是一個操作序列。每個操作都被定義為對過去操作的輸出進行操作。因此，一個操作可能類似于「將兩步前的操作的輸出和一步前的操作的輸出相加」。它更像是一個Unix 管道，而不是一個擁有被賦值并被讀取的變量的程序。
該程序由控制器RNN 一次生成一個操作。在每個步驟中，控制器RNN都會輸出下一個操作應該是什么的概率分布。例如，這個概率可以用來模擬：我們可能非常確定我們想要在第一個時間步上執(zhí)行加法，然后在決定我們是否需要在第二步執(zhí)行乘法或除法的時候會很艱難，等等…
現(xiàn)在，最終得出的操作的分布可以被我們評估。我們并不是在每一步運行一個操作，而是采用了普遍使用的注意力技巧，同時運行所有的操作，再根據(jù)我們執(zhí)行這些操作的概率作為權重對所有的輸出一起取平均。
只要我們能夠通過這些操作定義導數(shù)，程序的輸出在概率上就是可微的。接著，我們可以定義一個損失函數(shù)，訓練神經(jīng)網(wǎng)絡生成給出正確答案的程序。這樣一來，神經(jīng)網(wǎng)絡編程器就學會了在沒有正確程序范例的情況下生成程序。唯一的監(jiān)督信息就是程序應該產(chǎn)生的返回值。
這就是神經(jīng)網(wǎng)絡編程器的核心思想，但是論文中的版本回答了關于表的問題，而不是關于算術表達式。下面我們還將給出一些實用的小技巧：
多種數(shù)據(jù)類型：神經(jīng)網(wǎng)絡編程器中的許多操作都會處理除標量值之外的其他類型的數(shù)據(jù)。一些操作輸出選中的表的列或者選中的單元格。只有相同類型的輸出才能被合并到一起。
參考輸入：神經(jīng)網(wǎng)絡編程器需要回答類似于「有多少個人口超過1 百萬人的城市？」為了使回答這種問題更加容易，一些操作允許網(wǎng)絡參考他們正在回答的問題中的常量，或者列的名字。這種參考是由于注意力機制發(fā)生的，就像指針網(wǎng)絡[17]。
神經(jīng)網(wǎng)絡編程器并不是讓神經(jīng)網(wǎng)絡生成程序的唯一途徑。另一種好方法是神經(jīng)網(wǎng)絡編程器-解釋器[18]，他可以完成很多有趣的任務，但是需要正以確程序作為監(jiān)督信息。
我們認為，這種彌合傳統(tǒng)編程和神經(jīng)網(wǎng)絡之間差距的一般空間是非常重要的。雖然神經(jīng)網(wǎng)絡編程器顯然不是最終的解決方案，我單們認為有很多重要的經(jīng)驗教訓可以從中學到。
代碼
最新版本的用于問答的神經(jīng)網(wǎng)絡編程器（https://openreview.net/pdf?id=ry2YOrcge ）已經(jīng)被其作者開源，并且可以作為 TensorFlow 模型獲?。?a target="_blank" rel=nofollow>https://github.com/tensorflow/models/tree/master/neural_programmer ）。而神經(jīng)網(wǎng)絡編程器-解釋器也有由Ken Morishita編寫的Keras 版本（https://github.com/mokemokechicken/keras_npi ）。
從某種意義上說，一個人類拿著一張紙，比沒有紙的人聰明得多。一個有數(shù)學符號的人可以解決他們不能解決的問題。使用電腦使我們能夠做出不可思議的壯舉，否則它們將遠遠超出我們的能力范圍。
一般來說，很多有趣的智力形式似乎是人類的創(chuàng)造性啟發(fā)式直覺和一些更加直觀具體的媒介之間的相互作用，如語言或方程式。有時，媒介是客觀存在的東西，為我們儲存信息，防止我們犯錯誤，或者執(zhí)行繁瑣的計算任務。在其他情況下，媒介是我們在腦海中操縱的一個模型。無論如何，這對于智能來說都是至關重要的。
最近機器學習的結果已經(jīng)開始有了這種味道，將神經(jīng)網(wǎng)絡的直覺和其他東西結合起來。其中一種方法就是人們所說的「啟發(fā)式搜索」。例如，AlphaGo [19]有一個關于圍棋如何工作的模型，并且探索了在神經(jīng)網(wǎng)絡直覺指導下如何玩這個游戲的模型。類似地，DeepMath [20]利用神經(jīng)網(wǎng)絡表征操作數(shù)學表達式的直覺。我們在本文中談到的「增強的RNN」是另一種方法，將RNN 連接到專門設計的媒介上，以提高它們的泛化能力。
與媒介的相互作用自然包括「采取一系列行動、進行觀察、再采取進一步的行動」。在這里，我們面臨著一個巨大的挑戰(zhàn)：我們如何學習應該采取怎樣的行動？這聽起來是個強化學習問題，我們當然可以采用這樣的做法。但是，強化學習技術實際上是解決該問題最復雜的版本，而且這種解決方案很難使用。注意力機制的精妙之處在于，它使我們能夠更容易地通過對部分位置以不同程度執(zhí)行所有的動作來解決這個問題。這是因為我們可以設計像神經(jīng)圖靈機這樣的存儲結構使我們能進行細微的操作，并且使該問題可微。強化學習讓我們采取一條單一的解決路徑，并且試著從中學到知識。注意力機制則在每一個選擇的交叉口采取了各個方向的動作，并最終將各條路徑的結果合并在一起。
注意力機制的一個主要的缺點是，我們必須在每一步上采取「動作」。由于我們會進行進行增加神經(jīng)圖靈機中的存儲單元等操作，這會導致計算開銷直線上升?？梢韵氲降慕鉀Q方法就是讓你的注意力模型變得稀疏一些，這樣以來你就只需要對一部分存儲單元進行操作。然而，這仍然是具有挑戰(zhàn)性的，因為你可能想要讓你的注意力模型依賴于存儲單元的內容，而這樣做會令你不得不查看每一個存儲單元。我們已經(jīng)觀察到，目前有一些初步的工作在常識解決這個問題，例如[21] ，但是似乎還有許多工作有待探索。如果我們真的能做出這樣的在次線性時間復雜度內的注意力機制的工作，這種模型會變得非常強大！
增強的循環(huán)神經(jīng)網(wǎng)絡和注意力機制的底層技術是如此令人激動！我們期待著這個領域有更多的新技術涌現(xiàn)出來！
參考文獻
1. Understanding LSTM Networks ?[link]（http://colah.github.io/posts/2015-08-Understanding-LSTMs）
Olah, C., 2015.
2. Neural Turing Machines
Graves, A., Wayne, G. and Danihelka, I., 2014. CoRR, Vol abs/1410.5401.
3. Show, attend and tell: Neural image caption generation with visual attention
Xu, K., Ba, J., Kiros, R., Cho, K., Courville, A., Salakhutdinov, R., Zemel, R.S. and Bengio, Y., 2015. arXiv preprint arXiv:1502.03044, Vol 2(3), pp. 5. CoRR.
4. Neural GPUs Learn Algorithms
Kaiser, L. and Sutskever, I., 2015. CoRR, Vol abs/1511.08228.
5. Reinforcement Learning Neural Turing Machines
Zaremba, W. and Sutskever, I., 2015. CoRR, Vol abs/1505.00521.
6. Neural Random-Access Machines
Kurach, K., Andrychowicz, M. and Sutskever, I., 2015. CoRR, Vol abs/1511.06392.
7. Learning to Transduce with Unbounded Memory
Grefenstette, E., Hermann, K.M., Suleyman, M. and Blunsom, P., 2015. Advances in Neural Information Processing Systems 28, pp. 1828—1836. Curran Associates, Inc.
8. Inferring Algorithmic Patterns with Stack-Augmented Recurrent Nets
Joulin, A. and Mikolov, T., 2015. Advances in Neural Information Processing Systems 28, pp. 190—198. Curran Associates, Inc.
9. Memory Networks
Weston, J., Chopra, S. and Bordes, A., 2014. CoRR, Vol abs/1410.3916.
10. Ask Me Anything: Dynamic Memory Networks for Natural Language Processing
Kumar, A., Irsoy, O., Su, J., Bradbury, J., English, R., Pierce, B., Ondruska, P., Gulrajani, I. and Socher, R., 2015. CoRR, Vol abs/1506.07285.
11. Neural machine translation by jointly learning to align and translate
Bahdanau, D., Cho, K. and Bengio, Y., 2014. arXiv preprint arXiv:1409.0473.
12. Listen, Attend and Spell
Chan, W., Jaitly, N., Le, Q.V. and Vinyals, O., 2015. CoRR, Vol abs/1508.01211.
13. Grammar as a foreign language
Vinyals, O., Kaiser, L., Koo, T., Petrov, S., Sutskever, I. and Hinton, G., 2015. Advances in Neural Information Processing Systems, pp. 2773—2781.
14. A Neural Conversational Model
Vinyals, O. and Le, Q.V., 2015. CoRR, Vol abs/1506.05869.
15. Adaptive Computation Time for Recurrent Neural Networks
Graves, A., 2016. CoRR, Vol abs/1603.08983.
16. Neural Programmer: Inducing Latent Programs with Gradient Descent
Neelakantan, A., Le, Q.V. and Sutskever, I., 2015. CoRR, Vol abs/1511.04834.
17. Pointer networks
Vinyals, O., Fortunato, M. and Jaitly, N., 2015. Advances in Neural Information Processing Systems, pp. 2692—2700.
18. Neural Programmer-Interpreters
Reed, S.E. and Freitas, N.d., 2015. CoRR, Vol abs/1511.06279.
19. Mastering the game of Go with deep neural networks and tree search
Silver, D., Huang, A., Maddison, C.J., Guez, A., Sifre, L., Driessche, G.v.d., Schrittwieser, J., Antonoglou, I., Panneershelvam, V., Lanctot, M., Dieleman, S., Grewe, D., Nham, J., Kalchbrenner, N., Sutskever, I., Lillicrap, T., Leach, M., Kavukcuoglu, K., Graepel, T. and Hassabis, D., 2016. Nature, Vol 529(7587), pp. 484—489. Nature Publishing Group. DOI: 10.1038/nature16961
20. DeepMath - Deep Sequence Models for Premise Selection
Alemi, A.A., Chollet, F., Irving, G., Szegedy, C. and Urban, J., 2016. CoRR, Vol abs/1606.04442.
21. Learning Efficient Algorithms with Hierarchical Attentive Memory
Andrychowicz, M. and Kurach, K., 2016. CoRR, Vol abs/1602.03218.
via distill，雷鋒網(wǎng) AI 科技評論編譯
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。
