【編者按】這是一篇對(duì)谷歌研發(fā)團(tuán)隊(duì)最新研究成果的博客（Inceptionism: Going Deeper into Neural Networks）的翻譯。這項(xiàng)研究的主要目的是觀察深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的某一個(gè)隱層都提取了哪些特征以及這些特征提取的是否準(zhǔn)確。但出人意料的是他們發(fā)現(xiàn)了這里面的創(chuàng)造性過(guò)程有可能揭示出人類大腦本身是如何進(jìn)行創(chuàng)新的。

人工神經(jīng)網(wǎng)絡(luò)技術(shù)引發(fā)了近期圖像分類和語(yǔ)音識(shí)別領(lǐng)域的顯著發(fā)展。但是即便這些都是基于大家普遍了解的數(shù)學(xué)方法之上的非常有用的工具，我們?nèi)匀粚?duì)為什么某些神經(jīng)網(wǎng)絡(luò)模型有用但另外一些沒(méi)有用知之甚少。下面讓我們來(lái)看看用一些簡(jiǎn)單的技術(shù)來(lái)窺視一下這些神經(jīng)網(wǎng)絡(luò)的內(nèi)部機(jī)制。

為了訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)，我們通常展示給其以百萬(wàn)計(jì)的訓(xùn)練樣本，并逐步調(diào)整其權(quán)重參數(shù)，直到它給了我們想要的分類結(jié)果。一個(gè)神經(jīng)網(wǎng)絡(luò)通常包含10-30個(gè)堆疊在一起的人工神經(jīng)元層。每個(gè)圖像首先由輸入層導(dǎo)入，然后傳遞到下一層，直到到達(dá)最后的“輸出”層。神經(jīng)網(wǎng)絡(luò)根據(jù)圖像給出的“答案”就來(lái)源于最終輸出層。

了解神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)之一是在圖像處理的每一層中都發(fā)生了些什么。我們知道經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)的每一層都逐步提取更抽象的圖像特征，直到最后一層對(duì)圖像顯示的是什么做個(gè)決定。例如，第一層可能只查找圖像中的物體邊緣或角。中間層通過(guò)對(duì)前面收集的基本特征的理解來(lái)尋找更加整體的輪廓和構(gòu)件，比如一扇門或者一片樹(shù)葉。最后幾層將這些整體輪廓和構(gòu)件組合在一起形成對(duì)圖像的完整解釋 —— 這些神經(jīng)元只對(duì)非常復(fù)雜的對(duì)象呈現(xiàn)出激活反應(yīng)，比如整棟建筑物或者樹(shù)木。

將神經(jīng)網(wǎng)絡(luò)中每一層對(duì)圖像的特征抽取進(jìn)行可視化的方法之一是把該網(wǎng)絡(luò)前后倒置，要求某一層將輸入圖像，以引發(fā)特定的解釋。假設(shè)你想知道哪種圖像會(huì)讓該網(wǎng)絡(luò)形成“香蕉”的結(jié)果，你可以一開(kāi)始輸入一個(gè)充滿隨機(jī)噪聲數(shù)據(jù)的圖像，然后逐漸調(diào)整該圖像直到該神經(jīng)網(wǎng)絡(luò)認(rèn)為它是香蕉。這種方法本身效果不太顯著，但是當(dāng)我們加上一個(gè)限制，使整個(gè)過(guò)程中的像素分布與自然生成的圖像具有相似的統(tǒng)計(jì)規(guī)律，比如相鄰像素需要高度相關(guān)，那么效果就出來(lái)了。

所以這里有一個(gè)驚喜：經(jīng)過(guò)訓(xùn)練后可以識(shí)別不同圖像的神經(jīng)網(wǎng)絡(luò)也同時(shí)積累了可以產(chǎn)生圖像的大量信息。看下面再不同類別的更多的例子：

為什么這很重要？我們通過(guò)簡(jiǎn)單地展示給一個(gè)神經(jīng)網(wǎng)絡(luò)大量的我們希望它們學(xué)習(xí)的例子來(lái)訓(xùn)練它們，希望他們能夠從中提取這些例子共性（例如，一把叉子由一個(gè)把柄和2-4叉齒組成），同時(shí)學(xué)會(huì)忽略不重要的東西（一個(gè)叉可以是任何形狀，大小，顏色或放置方向）。但你如何檢查一個(gè)神經(jīng)網(wǎng)絡(luò)是否正確學(xué)習(xí)到對(duì)象的共性特征？通過(guò)觀察該神經(jīng)網(wǎng)絡(luò)對(duì)它形成的叉子的概念的展示可以有所幫助。

事實(shí)上，這種方法揭示出在某些情況下，我們認(rèn)為神經(jīng)網(wǎng)絡(luò)已經(jīng)找到的并不完全是我們想讓它找到的東西。例如，這是我們?cè)O(shè)計(jì)的一個(gè)神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練后認(rèn)為的啞鈴的樣子：

沒(méi)錯(cuò)這些圖片里都有啞鈴，但似乎沒(méi)有一張圖片里的啞鈴是不帶有一段充滿肌肉的臂膀的。在這種情況下，該神經(jīng)網(wǎng)絡(luò)并沒(méi)有完全參透啞鈴的共性。也許它從來(lái)沒(méi)有看到過(guò)沒(méi)有一只胳膊抱著的啞鈴。可視化可以幫助我們糾正類似的訓(xùn)練失誤。

有時(shí)我們可以不去精確描述我們希望神經(jīng)網(wǎng)絡(luò)突出的特征，而是讓神經(jīng)網(wǎng)絡(luò)自己做出決定。這時(shí)我們可以首先簡(jiǎn)單地給它任意圖片或照片，并讓它進(jìn)行分析。然后，我們選擇網(wǎng)絡(luò)中的一個(gè)層，讓它強(qiáng)調(diào)顯示它抽取的特征。神經(jīng)網(wǎng)絡(luò)中的每一層抽取的特征的抽象度都不同，所以特征的抽象度取決于我們選取的層面。例如，較低層往往會(huì)產(chǎn)生特定筆畫或簡(jiǎn)單裝飾狀圖案，因?yàn)檫@些層面對(duì)邊和邊的方向等特征最為敏感。

如果我們選擇更高層，由于它們識(shí)別圖像更復(fù)雜特征，這種方式可以使復(fù)雜特征甚至某個(gè)物體出現(xiàn)在畫面中。這次我們?nèi)匀唤o我們的神經(jīng)網(wǎng)絡(luò)一張圖像。我們要求它：“你如果看到了什么，就多給我一點(diǎn)你看到的！”這就創(chuàng)建了一個(gè)反饋循環(huán)：如果一朵云看起來(lái)有一點(diǎn)點(diǎn)像一只鳥，我們的網(wǎng)絡(luò)就讓使它看起來(lái)更像一只鳥。這樣一來(lái)，重新讀入的數(shù)據(jù)會(huì)讓它更像一只鳥，直到一只看上去非常逼真的鳥好像憑空出現(xiàn)。

這一結(jié)果耐人尋味：即使是一個(gè)相對(duì)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)都可用于對(duì)圖像進(jìn)行過(guò)渡解釋，就像我們小時(shí)候喜歡看云并且喜歡將那些隨機(jī)形狀的云解釋為我們熟悉的對(duì)象。該網(wǎng)絡(luò)的主要訓(xùn)練對(duì)象是動(dòng)物，所以它自然也容易將遇到的各種形狀解釋為動(dòng)物。但是因?yàn)樘卣鲾?shù)據(jù)來(lái)自高抽象層，所以結(jié)果是這些特征的有趣混合。

當(dāng)然，用這種技術(shù)我們可以做比看云更多的事情。我們可以把它適用于任何種類的圖像，結(jié)果差別很大，因?yàn)閺?qiáng)調(diào)的特征不同。例如，地平線線往往會(huì)被塔充滿，巖石和樹(shù)木變成建筑，鳥和昆蟲出現(xiàn)在葉子里面……

這一技術(shù)可以讓我們了解神經(jīng)網(wǎng)絡(luò)中的某一層對(duì)圖像特征的了解程度。根據(jù)我們使用的神經(jīng)網(wǎng)絡(luò)的架構(gòu)，我們將其稱為“開(kāi)始主義 （Inceptionism）”。請(qǐng)參閱我們的開(kāi)始主義畫廊，里面有更多的圖像和對(duì)它們的處理結(jié)果，還有一些很酷的視頻動(dòng)畫。

我們必須更進(jìn)一步：迭代

如果我們將該算法反復(fù)在每次輸出的結(jié)果上進(jìn)行迭代，并且每次在迭代前做一些放大，我們就可以得到層出不窮的新印象，探索該神經(jīng)網(wǎng)絡(luò)所了解的更多的特征。我們甚至可以從隨機(jī)噪聲圖像開(kāi)始該過(guò)程，使得最后結(jié)果成為某一個(gè)神經(jīng)網(wǎng)絡(luò)自己的作品，比如下面的圖像：

這里介紹的技術(shù)可以幫助我們理解并視覺(jué)化神經(jīng)網(wǎng)絡(luò)如何進(jìn)行復(fù)雜的圖像分類任務(wù)，提高網(wǎng)絡(luò)架構(gòu)，并檢查一下神經(jīng)網(wǎng)絡(luò)在訓(xùn)練期間學(xué)會(huì)了些什么東西。這也使我們聯(lián)想到神經(jīng)網(wǎng)絡(luò)是否能成為一個(gè)藝術(shù)家的新工具 —— 一種新的混合視覺(jué)體驗(yàn)的方式 – 亦或向我們揭示出一點(diǎn)一般性創(chuàng)新過(guò)程的根源所在。

【關(guān)于譯者】本文由University of Illinois Chicago，博士萬(wàn)赟翻譯。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。