深度學(xué)習(xí)之經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)的技術(shù)淺析 | 硬創(chuàng)公開課預(yù)告

本文作者：恒亮

2017-02-23 18:14

導(dǎo)語：卷積神經(jīng)網(wǎng)絡(luò)還有這么多子類？

卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks）是人工神經(jīng)網(wǎng)絡(luò)的重要分支，目前已經(jīng)成為語音和圖像識別領(lǐng)域的一大研究熱點。特別是在圖像識別領(lǐng)域，由于其特有的權(quán)值共享網(wǎng)絡(luò)結(jié)構(gòu)，大大降低了模型復(fù)雜度，減少了權(quán)值數(shù)量，因此可以直接將多維圖像作為輸入數(shù)據(jù)展開訓(xùn)練，有效避免了傳統(tǒng)識別算法中復(fù)雜的特征提取和數(shù)據(jù)重建過程。

逐本溯源，卷積結(jié)構(gòu)最早出現(xiàn)于 1984 年的神經(jīng)認(rèn)知機(jī)（NeoCognitron）。發(fā)展到 1998 年，誕生了第一代經(jīng)典卷積神經(jīng)網(wǎng)絡(luò) LeNet，但隨著支持向量機(jī) SVM（Support Vector Machine）的出現(xiàn)，卷積神經(jīng)網(wǎng)絡(luò)一度歸于沉寂。后來，隨著 ReLu（Rectified Linear Units）和 Dropout 等激活函數(shù)的提出，以及 GPU 和大數(shù)據(jù)帶來的歷史機(jī)遇，卷積神經(jīng)網(wǎng)絡(luò)在 2012 年迎來了一個歷史性的突破 —— AlexNet 網(wǎng)絡(luò)。AlexNet 在當(dāng)年的 ImageNet 圖像分類競賽中，Top-5 錯誤率比上年冠軍下降了十個百分點，而且遠(yuǎn)遠(yuǎn)超過當(dāng)年的第二名，震驚了整個行業(yè)。隨后，以 AlexNet 為基礎(chǔ)，又出現(xiàn)了 VGG（Visual Geometry Group）、Inception 和 ResNet 等多種不同的子類。

那么問題來了，這些各不相同的卷積神經(jīng)網(wǎng)絡(luò)究竟有哪些不同，它們各自的技術(shù)特點是什么，又都應(yīng)用于哪些領(lǐng)域？面對所有這些疑問，雷鋒網(wǎng)有幸請到了PPmoney 大數(shù)據(jù)算法總監(jiān)黃文堅來做一個徹底的解答。

嘉賓介紹：

黃文堅，PPmoney 大數(shù)據(jù)算法總監(jiān)，谷歌 TensorFlow 貢獻(xiàn)者，暢銷書《 TensorFlow 實戰(zhàn)》作者（該書獲得到了谷歌 TensorFlow 團(tuán)隊的官方推薦）。前明略數(shù)據(jù)技術(shù)合伙人，領(lǐng)導(dǎo)了對諸多大型銀行、保險公司、基金的數(shù)據(jù)挖掘項目，包括建立金融風(fēng)控模型、新聞輿情分析、保險復(fù)購預(yù)測等。曾就職于阿里巴巴搜索引擎算法團(tuán)隊，負(fù)責(zé)天貓個性化搜索系統(tǒng)。曾參加阿里巴巴大數(shù)據(jù)推薦算法大賽，于 7000 多支隊伍中獲得前 10 名。本科、研究生就讀于香港科技大學(xué)，曾在頂級會議和期刊 SIGMOBILE MobiCom、IEEE Transactions on Image Processing 發(fā)表論文，研究成果獲美國計算機(jī)協(xié)會移動計算大會（MobiCom）最佳移動應(yīng)用技術(shù)冠軍，并獲得兩項美國專利和一項中國專利。