tech2ipo

編者按：我們和電腦之間的交流正在發(fā)生著轉(zhuǎn)變，而深度學(xué)習也已經(jīng)潤物細無聲地進入我們的生活，甚至在你意識到這一點之前，世界已經(jīng)截然不同。

本文首發(fā)于 fortune，分上下篇，由老呂IO、江小片及何忞聯(lián)合編譯，未經(jīng)雷鋒網(wǎng)允許不得轉(zhuǎn)載。

什么是人工智能？ 

• 人工智能

人工智能是一個廣義概念，它可以應(yīng)用到任何一種可以使計算機模擬人類智慧、使用邏輯算法、決策樹、機器學(xué)習（包括深度學(xué)習）的技術(shù)中。

• 機器學(xué)習

它是人工智能的一個分支，包括能使機器根據(jù)經(jīng)驗完成任務(wù)的深度統(tǒng)計技術(shù)，機器學(xué)習包括了深度學(xué)習。

• 深度學(xué)習

深度學(xué)習是機器學(xué)習的一個分支，它包括允許軟件自行完成任務(wù)的算法，例如語音和圖像識別，通過多層神經(jīng)網(wǎng)絡(luò)系統(tǒng)傳輸給大數(shù)據(jù)。

深度學(xué)習可以改變?nèi)魏我环N工業(yè)，谷歌大腦項目的領(lǐng)導(dǎo)者 Jeff Dean 說：“計算機視覺一旦開始使用就會產(chǎn)生許多基本變化?！彪S后他又糾正說：“現(xiàn)在計算機已經(jīng)打開了人們的新世界?！?/p>

曾經(jīng)有一個假設(shè)是這樣說的：當超級智能機器不需要人類的參與就可以完成許多事情的時候，那些低能的人類就要面臨被淘汰的危險。難道現(xiàn)在是要證明這個假設(shè)了嗎？

或許并不是。神經(jīng)網(wǎng)絡(luò)系統(tǒng)甚至比人類更善于模式識別，但是它們并不能推理。

2009 年發(fā)生了第一次變革。那年夏天微軟的Lee邀請多倫多大學(xué)的神經(jīng)網(wǎng)絡(luò)大師 Geoffrey Hinton 來參觀。根據(jù)他的研究，Lee 的團隊研究了神經(jīng)網(wǎng)絡(luò)對于語音識別的應(yīng)用。Lee 說：“對于結(jié)果我們很震驚，用第一個原型準確度提高了 30% 以上。”

2011 年，根據(jù) Lee 的研究，微軟將深度學(xué)習技術(shù)應(yīng)用到了它的商業(yè)語音識別產(chǎn)品中。隨后在2012年8月谷歌也應(yīng)用了這項技術(shù)。

但是真正的轉(zhuǎn)折點是在 2012 年 10 月，在意大利佛羅倫薩的一間工作室，斯坦福人工智能實驗室的領(lǐng)導(dǎo)人、著名的年度 ImageNet 計算機視覺大賽創(chuàng)辦人李飛飛宣布，兩位 Hinton 的學(xué)生發(fā)明的軟件能以比競爭者高達兩倍的準確度識別物體。Hinton 說：“這是個引人注目的結(jié)果，這個結(jié)果說服了很多之前對此表示懷疑的人?！保ㄔ谌ツ甑囊粓錾疃葘W(xué)習超越人類的爭論中。）

圖像識別像是一個發(fā)令槍，它引發(fā)了一場新的聘用比賽。谷歌聘用 Hinton 和贏得比賽的那兩名學(xué)生，F(xiàn)acebook 簽約法國深度學(xué)習創(chuàng)新者 Yann LeCun，他是在二十世紀八十年代和九十年代都贏得了 ImageNet 比賽的算法先驅(qū)。而百度則聘用 Ng，他是斯坦福人工智能實驗室的前領(lǐng)導(dǎo)人，他在 2010 年也領(lǐng)導(dǎo)了谷歌大腦計劃的深度學(xué)習項目。

從那時起的挖人風波愈演愈烈，如今，微軟的 Lee 說：“在這塊領(lǐng)域里一場血腥的人才相爭之戰(zhàn)正在上演，頂級的頭腦需求就像美國橄欖球聯(lián)盟足球員那么多。”

68 歲的 Geoffrey Hinton 第一次聽說神經(jīng)網(wǎng)絡(luò)是在1972年，那時他剛在愛丁堡大學(xué)開始他的人工智能畢業(yè)設(shè)計。本科在劍橋的時候已經(jīng)學(xué)習了實驗心理學(xué)，他對神經(jīng)網(wǎng)絡(luò)算法十分感興趣，神經(jīng)網(wǎng)絡(luò)是軟件構(gòu)造基礎(chǔ)，這種靈感來自于大腦中神經(jīng)元的工作模式。那個時候神經(jīng)網(wǎng)絡(luò)沒有那么受歡迎，大家都認為他們瘋了，但是 Hinton 堅持干著。

神經(jīng)網(wǎng)絡(luò)展現(xiàn)了計算機學(xué)習的前景：像孩子學(xué)習那樣從經(jīng)驗獲得，而不是通過人類設(shè)計的程序發(fā)出的蹩腳的指令。他回憶說：“大多數(shù)人工智能從那時起都是由邏輯啟發(fā)，但是有的人很晚才意識到邏輯這回事。兩三歲的孩子沒有邏輯，所以對于智能，神經(jīng)網(wǎng)絡(luò)似乎比邏輯能更好的應(yīng)用。”（邏輯是 Hinton 的一個家庭交易，他出身科學(xué)世家，他是19世紀數(shù)學(xué)家 George Boole 的玄孫，在 Boolean 研究之后，邏輯和算法得以命名。）

在 20 世紀 50 年代和 60 年代期間，神經(jīng)萬羅在計算機科學(xué)家中很盛行，在 1958 年，康奈爾大學(xué)研究心理學(xué)家Frank Rosenblatt在布法羅的實驗室，在一個海軍項目中，以神經(jīng)網(wǎng)絡(luò)構(gòu)建了一個原型，他稱之為Perceptron。他利用了一臺充滿整間屋子的穿孔卡片電腦，試驗 50 次以后它可以辨別左右兩邊的卡片，《紐約時報》報道：海軍認為現(xiàn)如今的電子計算機的雛形將來會聽說讀寫、行走、繁殖、有存在意識。

Perceptron的軟件由于限制，只有一層神經(jīng)元，但是研究者認為將來會有多層或深層神經(jīng)元網(wǎng)絡(luò)。

Hinton 解釋了這個理論。假設(shè)神經(jīng)元網(wǎng)絡(luò)在繪制攝影圖像，比如說畫一只鳥?！拜斎胫噶睢袼亍缓蟮谝粚訂卧蜁z測邊緣，一邊暗，另一邊亮，第二層神經(jīng)元會根據(jù)第一層的數(shù)據(jù)進行分析?！崩?，某一個神經(jīng)元會直接描繪鳥嘴的角度。

下一層會進行更復(fù)雜的立體基陣，比如許多邊排列成一個圈。這時神經(jīng)元可能對應(yīng)出鳥的頭部。更高級的神經(jīng)元會檢測在鳥頭部附近的圓圈里反復(fù)出現(xiàn)并列的像鳥嘴的角度。它會檢驗?zāi)鞘遣皇区B頭。Hinton說道，更高級的神經(jīng)元層會對應(yīng)出更復(fù)雜的形態(tài)，直到繪制出我們所定義的“鳥”的形狀。

然而，僅僅通過神經(jīng)元層給出信息是不夠的，我們需要知道最高層神經(jīng)元是否得到了正確結(jié)果，如果沒有的話，需要撤回信息確保低級神經(jīng)元能夠重新整合優(yōu)化結(jié)構(gòu)。于是深層學(xué)習就出現(xiàn)了。

在 20 世紀80年代初期，Hinton在研究這個問題，法國的一位叫Yann LeCun 也在做相同的研究，他剛開始在巴黎進行他的畢業(yè)設(shè)計。LeCun 對 Hinton 1983 年的一篇闡述了多層神經(jīng)元的文章產(chǎn)生質(zhì)疑。“在那個時候，這篇文章沒有很好地進行表述，因為在那個時期，你提到‘神經(jīng)’和‘神經(jīng)元’這樣的詞是很難發(fā)表文章的?！彼貞浀溃坝谑撬鸵阅：磺宓姆绞綄懥宋恼?，審稿人才通過這篇文章，但是我對這篇文章很感興趣?！倍嗽趦赡旰笙嘁?，并就此展開研究。

1986 年，Hinton 和他的兩位同事就利用算法解決錯誤相關(guān)問題發(fā)表了學(xué)術(shù)文章?！斑@篇文章是神經(jīng)元第二次風波的基礎(chǔ)?！?LeCun 說，這再次燃起了他對此領(lǐng)域的興趣。

跟隨 Hinton 完成博士后工作以后，LeCun 在 1988 年去了美國電話電報公司的貝爾實驗室，在這個地方，他完成了接下來十年的基礎(chǔ)工作研究，這些研究至今仍在圖像識別領(lǐng)域被沿用。 20 世紀 90 年代，根據(jù) LeCun 的研究，貝爾實驗室的子公司 NCR 生產(chǎn)了一種神經(jīng)元支持的產(chǎn)品，這種產(chǎn)品廣泛用于銀行，它可以讀取支票上的手寫數(shù)字。同時，兩名德國研究員也獨立研究了不同類型的算法，20 年后的今天，這種算法在自然語言處理應(yīng)用程序中十分重要。

然而在 20 世紀 90 年代中期，神經(jīng)元算法再次衰落，被一種計算機時代更有效的機器學(xué)習工具所替代，這種狀況持續(xù)了十年左右，直到計算能力增加了三到四個數(shù)量級，這時研究者發(fā)明了圖形處理器加速器。

但是數(shù)據(jù)仍然在丟失，盡管互聯(lián)網(wǎng)里充滿了數(shù)據(jù)，但是大多數(shù)數(shù)據(jù)都沒有被示蹤，尤其是圖像里的數(shù)據(jù)，于是就需要訓(xùn)練神經(jīng)元。這也正是斯坦福人工智能教授李飛飛所研究的，“我們的視覺來源于大數(shù)據(jù)改變機器學(xué)習的工作模式，數(shù)據(jù)驅(qū)機器學(xué)習?！彼谝淮尾稍L中解釋。

2007 年，她啟動了 ImageNet 項目，在免費網(wǎng)站上收集了超過一千四百萬被示蹤的圖像。2009 年和 2010 年，她都舉辦了年度激勵競賽，并且發(fā)表了在計算機視覺上取得的研究突破。

2012 年 10 月，兩個 Hinton 的學(xué)生贏得了這個比賽，我們也因此清楚地看到了深度學(xué)習目前能夠到達的程度。

在此之前，大眾已經(jīng)因為另一個事件了解了深度學(xué)習。2012 年 6 月，Google Brain 發(fā)布了一個創(chuàng)意項目的結(jié)果，現(xiàn)在這個項目已經(jīng)廣為人知，叫做“貓的實驗（cat experiment）”。這個實驗引起了極大的共鳴，并在社交網(wǎng)絡(luò)上迅速走紅。

這個項目真正探索了深度學(xué)習領(lǐng)域中一個尚未解決的重要問題——“無監(jiān)督學(xué)習”。目前幾乎所有商業(yè)使用的深度學(xué)習產(chǎn)品都是“監(jiān)督式學(xué)習”，就是使用標記的數(shù)據(jù)（如從 ImageNet  收集的圖像）來訓(xùn)練神經(jīng)網(wǎng)絡(luò)。而“無監(jiān)督學(xué)習”恰恰相反，是給神經(jīng)網(wǎng)絡(luò)展示未標記數(shù)據(jù)，命令其從中尋找反復(fù)出現(xiàn)的式樣。研究者們希望今后能掌握無監(jiān)督學(xué)習的方法，因為這樣機器就可以從目前還無法使用的龐大的數(shù)據(jù)集中進行自我學(xué)習和了解世界，就像人類嬰兒一樣，機器可以完全通過自身來對世界進行感知。

在貓的實驗中，研究者給一個超大神經(jīng)網(wǎng)絡(luò)（1000 臺計算機）展示了從 YouTube 視頻上隨機截取的一千萬個未標記圖像，讓計算機軟件自行運作。當“雜質(zhì)”清除干凈后，研究員檢查最高層級的神經(jīng)元，自然就能發(fā)現(xiàn)其中一個神經(jīng)元有力地反饋出貓的圖像。Google Brain 的項目負責人 Ng 說：“我們還發(fā)現(xiàn)一個神經(jīng)元明顯地反快出人類的面部圖像?！比欢?，結(jié)果也令人疑惑?！氨热纾覀儧]有發(fā)現(xiàn)任何一個明顯反映汽車圖像的神經(jīng)元。還有很多神經(jīng)元反映的事物我們無法辨別。所以這項工程還很艱難。”

這個實驗引起了轟動，但是無監(jiān)督學(xué)習仍然未被完全破解，這是留給未來的一項挑戰(zhàn)。

可以想到的是，目前大多數(shù)商業(yè)使用的深度學(xué)習應(yīng)用都屬于那些擁有龐大的可供深度學(xué)習運算數(shù)據(jù)的公司，比如谷歌、微軟、Facebook、百度和亞馬遜。很多公司正在發(fā)展更加真實和有用的聊天機器人來作為自動化的客服代表。

四大技術(shù)巨頭對深度學(xué)習技術(shù)的重視

· 谷歌

谷歌在2011年設(shè)立了專注深度學(xué)習領(lǐng)域的 Google Brain 項目。2012年中期，谷歌將神經(jīng)網(wǎng)絡(luò)引進其語音識別產(chǎn)品中。2013年3月，谷歌保留了神經(jīng)網(wǎng)絡(luò)開發(fā)者 Geoffrey Hinton。如今谷歌正在研發(fā)過程中的深度學(xué)習項目已經(jīng)超過1000種，涵蓋了搜索、安卓、Gmail、照片、地圖、翻譯、YouTube和自動駕駛汽車等眾多領(lǐng)域。2014年 ，谷歌收購了 DeepMind，其深度強化學(xué)習項目 AlphaGo 在三月份打敗了世界冠軍李世石，成為了人工智能發(fā)展的里程碑。

· 微軟

2011年上半年，微軟在其 Bing 聲音搜索和 X-Box 語音指令等商業(yè)語音識別產(chǎn)品中使用了深度學(xué)習技術(shù)。目前，微軟在搜索排行、照片搜索、翻譯系統(tǒng)等很多領(lǐng)域中使用了神經(jīng)網(wǎng)絡(luò)技術(shù)。Lee 說道：“其實廣泛傳遞它已有的影響是很難的?！比ツ?，微軟贏得了關(guān)鍵圖像識別競賽的勝利，九月份，微軟又取得了一個紀念碑式的記錄：在語音識別中達到最低錯誤率6.3%。

· Facebook

2013年10月，F(xiàn)acebook 聘請了法國神經(jīng)網(wǎng)絡(luò)創(chuàng)新專家 Yann LeCun 來指導(dǎo)公司新的人工智能研究實驗室。 Facebook 每天利用神經(jīng)網(wǎng)絡(luò)來翻譯超過 40 種語言的大約 2 千萬的用戶帖子，同時，每天有8億用戶在閱讀這些翻譯的帖子（幾乎有一半的用戶不使用英語）。 Facebook 還將神經(jīng)網(wǎng)絡(luò)應(yīng)用于照片搜索和整理中。目前，公司正在研究一項應(yīng)用于視力障礙人群的功能：為沒有標簽的照片產(chǎn)生語音標記。

· 百度

2014 年 5 月，百度聘請前谷歌 Google Brain 項目創(chuàng)建者之一的 Andrew Ng 來領(lǐng)導(dǎo)它的研究實驗室。作為中國領(lǐng)先的搜索引擎和網(wǎng)頁服務(wù)網(wǎng)站，百度也在其語音識別、翻譯、照片查詢、自駕駛汽車等等領(lǐng)域中使用神經(jīng)網(wǎng)絡(luò)技術(shù)。在中國這樣一個倡導(dǎo)“移動先行”戰(zhàn)略而其主要語言漢語又較難輸入進電子設(shè)備的社會中，語音識別是發(fā)展的關(guān)鍵所在。百度談到，在過去的18個月里，使用語音接口的用戶數(shù)量翻了三番。

像 IBM 和微軟這樣的企業(yè)也正在幫助企業(yè)客戶在企業(yè)運營時中適應(yīng)深度學(xué)習類應(yīng)用（如語音識別界面和翻譯服務(wù)）。而像亞馬遜網(wǎng)頁服務(wù)這樣的云服務(wù)商則為想要發(fā)展自己軟件的客戶提供便宜的 GPU 驅(qū)動的深度學(xué)習運算服務(wù)。大量的開源軟件（如 Caffe、谷歌 TensorFLOW、亞馬遜 DSSTNE）本著開源的原則，已經(jīng)加速了它們的創(chuàng)新過程，從而使更多的研究者可以不經(jīng)過漫長的同行審閱同意就能立即發(fā)表他們的研究結(jié)果。

很多非常激動人心的深度學(xué)習應(yīng)用都在醫(yī)學(xué)領(lǐng)域。我們已經(jīng)了解到，神經(jīng)網(wǎng)絡(luò)在圖像識別方面貢獻非凡。安德森·霍洛維茨基金（Andreessen Horowitz）基金的生物投資單元負責人，斯坦副教授 Vijay Pande 觀察到：“放射科、皮膚科、眼科等很多科室的醫(yī)生所做的大部分事情其實就是圖像識別工作?！?/p>

· 深度學(xué)習與醫(yī)學(xué)

初創(chuàng)公司 Enlitic 利用深度學(xué)習來分析CT和MRI等醫(yī)學(xué)影像檢查。公司總裁 Igor Barani 此前是加州大學(xué)舊金山分校的射線腫瘤學(xué)教授，他說道，Enlitic 在判斷肺部結(jié)節(jié)是惡性還是良性方面比四個放射學(xué)專家做的還要出色。（這項工作還未得到同行審閱，該技術(shù)還未得到 FDA 的認可。）

默克制藥公司（Merck）正在嘗試使用深度學(xué)習來加速藥物的發(fā)現(xiàn)，它在舊金山新創(chuàng)建了一個制藥公司，名叫 Atomwise。在這里，神經(jīng)網(wǎng)絡(luò)可以檢驗出一個由數(shù)千分子構(gòu)成的藥物的3D圖像，從而預(yù)測該藥物是否適合抑制病原體的致病機制。很多這樣的公司正在使用神經(jīng)網(wǎng)絡(luò)來試圖改進人類已有的成果，還有一些公司則試圖做人類還無法實現(xiàn)的工作。

27歲的計算生物學(xué)博士 Gabriel Otte 創(chuàng)建了他的公司 Freenome。該公司的目標是從血樣中檢測出癌癥，他們可以檢測出血液中細胞死亡時釋放出的 DNA 片段。通過深度學(xué)習，他命令計算機尋找無細胞DNA和一些癌癥之間的相關(guān)性。Otte 說道：“我們將看到還未被癌癥學(xué)家發(fā)現(xiàn)的新的癌癥特征。”

安德森·霍洛維茨基金考慮對 Freenome 增加投資時，負責人 Pande 給Otte 五個盲選樣本，其中兩個正常，三個為癌癥樣本，Otte 的判斷全部正確，最終Pande決定對其進行投資。

一個放射學(xué)專家一生也許能看到幾千張醫(yī)學(xué)影像，但是一臺計算機可以觀察數(shù)百萬張影像。所以 Pande 說：“也許圖像問題交由計算機來解決更好的想法其實并不夸張。因為計算機可以處理完一個人一輩子也無法完成的龐大數(shù)據(jù)?！?/p>

技術(shù)的潛在優(yōu)勢不僅僅在于更好的精確性和更快的分析速度，還有自治化的服務(wù)。當技術(shù)變得越來越標準，每個病人最終都可以受益于此。

我們感受到的深度學(xué)習最深刻的影響恐怕是當它以我們從未想過的方式被嵌入到其他人工智能的工具箱中進行使用的時候。比如谷歌的 DeepMind 已經(jīng)完成了驚人的工作：將深度學(xué)習和一個名叫增強學(xué)習的相關(guān)技術(shù)相結(jié)合，他們用著這兩項技術(shù)創(chuàng)造出 AlphaGo，去年三月，它打敗了圍棋世界冠軍，這被公眾視為人工智能技術(shù)的一個里程碑。不同于在1997年打敗了國際象棋冠軍 Garry Kasparov 的IBM 深藍（Deep Blue），AlphaGo 在編程中，并未使用決策樹方法，或是評價所在位置的方程方法，或是 if-then 規(guī)則。DeepMind 的總裁 Demise Hassabis說：“AlphaGo是通過自我博弈和觀察大型專業(yè)比賽來學(xué)習如何下圍棋的?！保ㄔ谟?xùn)練中，AlphaGo 自我對戰(zhàn)次數(shù)高達百萬次）

一個游戲也許更像是一種人為設(shè)定，但是 Hassabis 認為，相同的技術(shù)可以應(yīng)用在真實世界的問題中。今年 7 月，谷歌的報告顯示，使用與 AlphaGo 相似的技方法，DeepMind 可以將谷歌數(shù)據(jù)中心的能耗效率提高 15%。Hassabis 說：“數(shù)據(jù)中心中大約有 120 個不同的變量，你可以調(diào)節(jié)風扇、打開窗戶、關(guān)閉計算機系統(tǒng)電源來減少電力消耗。你可以從傳感器、溫度計等等中獲取數(shù)據(jù)。這很像圍棋游戲，通過反復(fù)試驗和試錯，你將學(xué)習到怎樣做是對的。這個方法非常棒，每年可以節(jié)約幾千萬美元，同時也保護了環(huán)境。因為全世界的數(shù)據(jù)中心消耗了很多能源，我們希望在更大范圍使用這個技術(shù)，甚至推廣到國家電網(wǎng)系統(tǒng)中。”

聊天機器人都是非常不錯的，但是它將變得更加酷炫。

推薦閱讀：

漲姿勢！如何評價Google神經(jīng)機器翻譯（GNMT）系統(tǒng)？

AI 界歷史性時刻：美國五大科技巨頭聯(lián)合成立“AI 伙伴關(guān)系”組織

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。