雷鋒網(wǎng)按：作者楊軍，從事大規(guī)模機(jī)器學(xué)習(xí)系統(tǒng)研發(fā)及應(yīng)用相關(guān)工作。本文整理自知乎，已獲作者授權(quán)。

本文將分享一些自己關(guān)于深度學(xué)習(xí)模型調(diào)試技巧的總結(jié)思考（以CNN為主）。

最近因?yàn)橐恍┬枰瑓⑴c了一些CNN建模調(diào)參的工作，出于個(gè)人習(xí)性，我并不習(xí)慣于通過單純的trial-and-error的方式來調(diào)試經(jīng)常給人以”black-box”印象的Deep Learning模型。所以在工作推進(jìn)過程中，花了一些時(shí)間去關(guān)注了深度學(xué)習(xí)模型調(diào)試以及可視化的資料（可視化與模型調(diào)試存在著極強(qiáng)的聯(lián)系，所以在后面我并沒有對(duì)這兩者加以區(qū)分），這篇文章也算是這些工作的一個(gè)階段性總結(jié)。

這里總結(jié)的內(nèi)容，對(duì)于模型高手來說，應(yīng)該說都是基本的know-how了。

我本人是計(jì)算機(jī)體系結(jié)構(gòu)專業(yè)出身，中途轉(zhuǎn)行做算法策略，所以實(shí)際上我倒是在大規(guī)模機(jī)器學(xué)習(xí)系統(tǒng)的開發(fā)建設(shè)以及訓(xùn)練加速方面有更大的興趣和關(guān)注。不過機(jī)器學(xué)習(xí)系統(tǒng)這個(gè)領(lǐng)域跟常規(guī)系統(tǒng)基礎(chǔ)設(shè)施（比如Redis/LevelDB以及一些分布式計(jì)算的基礎(chǔ)設(shè)施等）還有所區(qū)別，雖然也可以說是一種基礎(chǔ)設(shè)施，但是它跟跑在這個(gè)基礎(chǔ)設(shè)施上的業(yè)務(wù)問題有著更強(qiáng)且直接的聯(lián)系，所以我也會(huì)花費(fèi)一定的精力來關(guān)注數(shù)據(jù)、業(yè)務(wù)建模的技術(shù)進(jìn)展和實(shí)際問題場(chǎng)景。

說得通俗一些，對(duì)自己服務(wù)的業(yè)務(wù)理解得更清晰，才可能設(shè)計(jì)開發(fā)出更好的算法基礎(chǔ)設(shè)施。

另外在進(jìn)入文章主體之前想聲明的是，這篇文章對(duì)于Deep Learning的入門者參考價(jià)值會(huì)更高，對(duì)于Deep Learning老手，只期望能聊作幫助大家技術(shù)總結(jié)的一個(gè)余閑讀物而已。

文章的主要內(nèi)容源于Stanford CS231n Convolutional Neural Networks for Visual Recognition課程[1]里介紹的一些通過可視化手段，調(diào)試?yán)斫釩NN網(wǎng)絡(luò)的技巧，在[1]的基礎(chǔ)上我作了一些沿展閱讀，算是把[1]的內(nèi)容進(jìn)一步豐富系統(tǒng)化了一下。限于時(shí)間精力，我也沒有能夠把里面提到的所有調(diào)試技巧全部進(jìn)行嘗試，不過在整理這篇文章的時(shí)候，我還是參考了不止一處文獻(xiàn)，也結(jié)合之前以及最近跟一些朋友的技術(shù)交流溝通，對(duì)這些方法的有效性我還是有著很強(qiáng)的confidence。

1、Visualize Layer Activations

通過將神經(jīng)網(wǎng)絡(luò)隱藏層的激活神經(jīng)元以矩陣的形式可視化出來，能夠讓我們看到一些有趣的insights。
在[8]的頭部，嵌入了一個(gè)web-based的CNN網(wǎng)絡(luò)的demo，可以看到每個(gè)layer activation的可視化效果。

在[14]里為幾種不同的數(shù)據(jù)集提供了CNN各個(gè)layer activation的可視化效果示例，在里頭能夠看到CNN模型在Mnist/CIFAR-10這幾組數(shù)據(jù)集上，不同layer activation的圖形化效果。

原則上來說，比較理想的layer activation應(yīng)該具備sparse和localized的特點(diǎn)。

如果訓(xùn)練出的模型，用于預(yù)測(cè)某張圖片時(shí)，發(fā)現(xiàn)在卷積層里的某個(gè)feature map的activation matrix可視化以后，基本跟原始輸入長(zhǎng)得一樣，基本就表明出現(xiàn)了一些問題，因?yàn)檫@意味著這個(gè)feature map沒有學(xué)到多少有用的東西。

2、Visualize Layer Weights

除了可視化隱藏層的activation以外，可視化隱藏層的模型weight矩陣也能幫助我們獲得一些insights。
這里是AlexNet的第一個(gè)卷積層的weight可視化的示例：

通常，我們期望的良好的卷積層的weight可視化出來會(huì)具備smooth的特性（在上圖也能夠明顯看到smooth的特點(diǎn)），參見下圖（源于[13]）：

這兩張圖都是將一個(gè)神經(jīng)網(wǎng)絡(luò)的第一個(gè)卷積層的filter weight可視化出來的效果圖，左圖存在很多的噪點(diǎn)，右圖則比較平滑。出現(xiàn)左圖這個(gè)情形，往往意味著我們的模型訓(xùn)練過程出現(xiàn)了問題。

3、Retrieving Images That Maximally Activate a Neuron
為了理解3提到的方法，需要先理解CNN里Receptive Field的概念，在[5][6]里關(guān)于Receptive Field給出了直觀的介紹：

如果用文字來描述的話，就是對(duì)應(yīng)于卷積核所生成的Feature Map里的一個(gè)neuron，在計(jì)算這個(gè)neuron的標(biāo)量數(shù)值時(shí)，是使用卷積核在輸入層的圖片上進(jìn)行卷積計(jì)算得來的，對(duì)于Feature Map的某個(gè)特定neuron，用于計(jì)算該neuron的輸入層數(shù)據(jù)的local patch就是這個(gè)neuron的receptive field。

而對(duì)于一個(gè)特定的卷積層的Feature Map里的某個(gè)神經(jīng)元，我們可以找到使得這個(gè)神經(jīng)元的activation最大的那些圖片，然后再從這個(gè)Feature Map neuron還原到原始圖片上的receptive field，即可以看到是哪張圖片的哪些region maximize了這個(gè)neuron的activation。在[7]里使用這個(gè)技巧，對(duì)于某個(gè)pooling層的輸出進(jìn)行了activation maximization可視化的工作：

不過，在[9]里，關(guān)于3提到的方法進(jìn)行了更為細(xì)致的研究，在[9]里，發(fā)現(xiàn)，通過尋找maximizing activation某個(gè)特定neuron的方法也許并沒有真正找到本質(zhì)的信息。因?yàn)榧幢闶菍?duì)于某一個(gè)hidden layer的neurons進(jìn)行線性加權(quán)，也同樣會(huì)對(duì)一組圖片表現(xiàn)出相近的semantic親和性，并且，這個(gè)發(fā)現(xiàn)在不同的數(shù)據(jù)集上得到了驗(yàn)證。

如下面在MNIST和ImageNet數(shù)據(jù)集上的觀察：

4.Embedding the Hidden Layer Neurons with  t-SNE

這個(gè)方法描述起來比較直觀，就是通過t-SNE[10]對(duì)隱藏層進(jìn)行降維，然后以降維之后的兩維數(shù)據(jù)分別作為x、y坐標(biāo)（也可以使用t-SNE將數(shù)據(jù)降維到三維，將這三維用作x、y、z坐標(biāo)，進(jìn)行3d clustering），對(duì)數(shù)據(jù)進(jìn)行clustering，人工review同一類圖片在降維之后的低維空間里是否處于相鄰的區(qū)域。t-SNE降維以后的clustering圖往往需要在較高分辨率下才能比較清楚地看到效果，這里我沒有給出引用圖，大家可以自行前往這里[15]里看到相關(guān)的demo圖。

使用這個(gè)方法，可以讓我們站在一個(gè)整體視角觀察模型在數(shù)據(jù)集上的表現(xiàn)。

5.Occluding Parts of the Image

這個(gè)方法在[11]里被提出。我個(gè)人非常喜歡這篇文章，因?yàn)檫@篇文章寫得非常清晰，并且給出的示例也非常直觀生動(dòng)，是那種非常適合推廣到工業(yè)界實(shí)際應(yīng)用場(chǎng)景的論文，能夠獲得ECCV 2014 best paper倒也算在意料之中。

在[11]里，使用了[12]里提出的Deconvolutional Network，對(duì)卷積層形成的feature map進(jìn)行reconstruction，將feature map的activation投影到輸入圖片所在的像素空間，從而提供了更直觀的視角來觀察每個(gè)卷積層學(xué)習(xí)到了什么東西，一來可以幫助理解模型；二來可以指導(dǎo)模型的調(diào)優(yōu)設(shè)計(jì)。

[11]的工作主要是在AlexNet這個(gè)模型上做的，將Deconvolutional Network引入到AlexNet模型以后的大致topology如下：

上圖里，右邊是正常的卷積神經(jīng)網(wǎng)絡(luò)，左邊是Deconv Net，Deconv Net的輸入是卷積神經(jīng)網(wǎng)絡(luò)的某個(gè)卷積層/pooling層的輸出，另外，在Deconv Net與右邊的卷積神經(jīng)網(wǎng)絡(luò)之間存在一個(gè)Switches連接通道，用于執(zhí)行Deconv net里的Unpooling操作。注意上圖的一個(gè)細(xì)節(jié)，Deconv Net的Unpooling操作，實(shí)際上是pooling操作的一個(gè)近似逆函數(shù)，而非精確逆函數(shù)。

在AlexNet模型上使用Deconv Net對(duì)feature map進(jìn)行input image space投影的效果示例如下：

從上面這個(gè)示例圖里能夠看得出來，不同的feature map，使用Deconv Net進(jìn)行reconstruction，會(huì)投影出不同描述粒度的圖片，比如低層的layer reconstruction出來的會(huì)是邊緣性質(zhì)的圖像，而高層的layer reconstruction出來的則可能會(huì)是狗的臉部，計(jì)算器的輪廓等更general性質(zhì)的圖像。

另外，通過Deconv Net還可以觀察訓(xùn)練過程中，feature map的演化情況，基本的作法就是將每個(gè)卷積層里，activation最大的feature map使用Deconv Net進(jìn)行reconstruction，以epoch為時(shí)間粒度，觀察這些feature map reconstructed image的變化趨勢(shì)，比如下圖：

能夠看到，低層的feature map比較快就會(huì)收斂，而高層的feature map則需要較長(zhǎng)epoch的訓(xùn)練時(shí)長(zhǎng)才會(huì)收斂。

接下來回到[11]里提出的"Occluding Parts of the Image”的方法，這個(gè)方法描述起來并不復(fù)雜：對(duì)于一張輸入圖片，使用一個(gè)小尺寸的灰度方塊圖作為掩模，對(duì)該原始圖片進(jìn)行遍歷掩模，每作一次掩模，計(jì)算一下CNN模型對(duì)這張掩模后圖片的分類預(yù)測(cè)輸出，同時(shí)，找到一個(gè)在訓(xùn)練集上activation最大的feature map，每作一次掩模，記錄下來以掩模圖片作為輸入數(shù)據(jù)之后的feature map矩陣，將所有掩模所產(chǎn)生的這些feature map矩陣進(jìn)行elementwise相加，就可以觀察到掩模圖片的不同區(qū)域?qū)Ψ诸愵A(yù)測(cè)結(jié)果以及feature map的activation value的影響。示例圖如下：

上圖的第一列是原始圖片。

第二列是在訓(xùn)練集上選出了layer 5上的activation行為最顯著的一個(gè)feature map之后，對(duì)第一列的原始圖片使用一個(gè)灰度小色塊進(jìn)行occluding之后，所生成的該feature map的activation value進(jìn)行sum up之后的可視圖。

第三列是這個(gè)feature map（這個(gè)是在沒有occluding的image上應(yīng)用CNN模型生成的feature map）使用Deconv Net投影到input image space上的圖像。能夠看得出來，第三列所reconstruct出的image與第二列中受occluding操作影響較大的區(qū)域明顯是相重合的。

最后說一下我的感受，卷積神經(jīng)網(wǎng)絡(luò)自從2012年以AlexNet模型的形態(tài)在ImageNet大賽里大放異彩之后，就成為了圖像識(shí)別領(lǐng)域的標(biāo)配，甚至現(xiàn)在文本和語音領(lǐng)域也開始在使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行建模了。不過以卷積神經(jīng)網(wǎng)絡(luò)為代表的深層神經(jīng)網(wǎng)絡(luò)一直被詬病“black-box”，這對(duì)于DL模型在工業(yè)界的應(yīng)用推廣還是帶來了一定的阻礙。

對(duì)于”black-box”這個(gè)說法，一方面，我覺得確實(shí)得承認(rèn)DL這種model跟LR、GBDT這些shallow model相比，理解、調(diào)試的復(fù)雜性高了不少。想像一下，理解一個(gè)LR或是GBDT模型的工作機(jī)理，一個(gè)沒有受到過系統(tǒng)機(jī)器學(xué)習(xí)訓(xùn)練的工程師，只要對(duì)LR或GBDT的基本概念有一定認(rèn)識(shí)，也大致可以通過ad-hoc的方法來進(jìn)行g(shù)ood case/bad case的分析了。而CNN這樣的模型，理解和調(diào)試其的技巧，則往往需要資深的專業(yè)背景人士來提出，并且這些技巧也都還存在一定的局限性。

對(duì)于LR模型來說，我們可以清晰地描述一維特征跟目標(biāo)label的關(guān)系（即便存在特征共線性或是交叉特征，也不難理解LR模型的行為表現(xiàn)），而DL模型，即便這幾年在模型的可解釋性、調(diào)試技巧方面有不少研究人員帶來了新的進(jìn)展，在我來看也還是停留在一個(gè)相對(duì)”rough”的控制粒度，對(duì)技巧的應(yīng)用也還是存在一定的門檻。

另一方面，我們應(yīng)該也對(duì)學(xué)術(shù)界、工業(yè)界在DL模型調(diào)試方面的進(jìn)展保持一定的關(guān)注。我自己的體會(huì)，DL模型與shallow model的應(yīng)用曲線相比，目前還是存在一定的差異的。從網(wǎng)上拉下來一個(gè)pre-trained好的模型，應(yīng)用在一個(gè)跟pre-trained模型相同的應(yīng)用場(chǎng)景，能夠快速地拿到7，80分的收益，但是，如果應(yīng)用場(chǎng)景存在差異，或者對(duì)模型質(zhì)量要求更高，后續(xù)的模型優(yōu)化往往會(huì)存在較高的門檻（這也是模型調(diào)試、可視化技巧發(fā)揮用武之地的地方），而模型離線tune好以后，布署到線上系統(tǒng)的overhead也往往更高一些，不論是在線serving的latency要求（這也催生了一些新的商業(yè)機(jī)會(huì)，比如Nervana和寒武紀(jì)這樣的基于軟硬件協(xié)同設(shè)計(jì)技術(shù)的神經(jīng)網(wǎng)絡(luò)計(jì)算加速公司），還是對(duì)memory consumption的需求。

以前有人說過一句話“現(xiàn)在是個(gè)人就會(huì)在自己的簡(jiǎn)歷上寫自己懂Deep Learning，但其實(shí)只有1%的人知道怎樣真正design一個(gè)DL model，剩下的只是找來一個(gè)現(xiàn)成的DL model跑一跑了事”。這話聽來刺耳，但其實(shí)有幾分道理。

回到我想表達(dá)的觀點(diǎn)，一方面我們能夠看到DL model應(yīng)用的門檻相較于shallow  model要高，另一方面能夠看到這個(gè)領(lǐng)域的快速進(jìn)展。所以對(duì)這個(gè)領(lǐng)域的技術(shù)進(jìn)展保持及時(shí)的跟進(jìn)，對(duì)于模型的設(shè)計(jì)調(diào)優(yōu)以及在業(yè)務(wù)中的真正應(yīng)用會(huì)有著重要的幫助。

像LR、GBDT這種經(jīng)典的shallow model那樣，搞明白基本建模原理就可以捋起袖子在業(yè)務(wù)中開搞，不需要再分配太多精力關(guān)注模型技術(shù)的進(jìn)展的工作方式，在當(dāng)下的DL建模場(chǎng)景，我個(gè)人認(rèn)為這種技術(shù)工作的模式并不適合。也許未來隨著技術(shù)、工具平臺(tái)的進(jìn)步，可以把DL也做得更為易用，到那時(shí)，使用DL建模的人也能跟現(xiàn)在使用shallow model一樣，可以從模型技術(shù)方面解放出更多精力，用于業(yè)務(wù)問題本身了。

References:
[1]. Visualizing what ConvNets Learn. CS231n Convolutional Neural Networks for Visual Recognition
CS231n Convolutional Neural Networks for Visual Recognition
[2]. Matthew Zeiler. Visualizing and Understanding Convolutional Networks. Visualizing and Understanding Convolutional Networks.
[3]. Daniel Bruckner. deepViz: Visualizing Convolutional Neural Networks for Image Classification.
[4]. ConvNetJS MNIST Demo. ConvNetJS MNIST demo
[5]. Receptive Field. CS231n Convolutional Neural Networks for Visual Recognition
[6]. Receptive Field of Neurons in LeNet. deep learning
[7]. Ross Girshick. Rich feature hierarchies for accurate object detection and semantic segmentation
Tech report. Arxiv, 2011.
[8]. CS231n: Convolutional Neural Networks for Visual Recognition. Stanford University CS231n: Convolutional Neural Networks for Visual Recognition
[9]. Christian Szegedy. Intriguing properties of neural networks. Arxiv, 2013.
[10]. t-SNE. t-SNE – Laurens van der Maaten
[11]. Matthew D.Zeiler. Visualizing and Understanding Convolutional Networks. Arxiv, 2011.
[12]. Matthew D.Zeiler. Adaptive Deconvolutional Networks for Mid and High Level Feature Learning, ICCV 2011.
[13]. Neural Networks Part 3: Learning and Evaluation. CS231n Convolutional Neural Networks for Visual Recognition
[14]. ConvNetJS---Deep Learning in Your Browser.ConvNetJS: Deep Learning in your browser
[15]. Colah. Visualizing MNIST: An Exploration of Dimensionality Reduction. 

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。