今日，極客公園創(chuàng)新大會(huì) IF 2018 在北京召開，Google Brain 首席工程師陳智峰分享了《尋找答案從定義問題開始——TensorFlow 可以用來做什么？》的演講。

演講中，雷鋒網(wǎng)發(fā)現(xiàn)他展示了一張谷歌搜索圖，其中顯示過去的 7-8 年，人們對深度學(xué)習(xí)的搜索量增長了大約有 100 倍，不管是學(xué)術(shù)界還是工業(yè)界，對深度學(xué)習(xí)的關(guān)注度近幾年有了快速的增長。于是，谷歌在 2015 年 10 宣布開源 TensorFlow，如今這也成為目前較完整的深度學(xué)習(xí)軟件開發(fā)平臺(tái)。

那么，這個(gè)平臺(tái)到底能為谷歌和其他開發(fā)者做什么？近兩年它又有哪些進(jìn)展？除此之外，雷鋒網(wǎng)更想知道 Goolge Brain 整個(gè)團(tuán)隊(duì)正在做哪些研發(fā)？雷鋒網(wǎng)將其演講全文整理如下。

深度學(xué)習(xí)的演變過程

深度學(xué)習(xí)這幾年非常流行，在這張圖上，大家可以看到在Google的搜索流量里面，深度學(xué)習(xí)在過去的7-8年時(shí)間里面，增長了大概100倍，從這個(gè)側(cè)面也反映出學(xué)界和工業(yè)界對這個(gè)技術(shù)的關(guān)注程度，是在迅速的提高。大家都想知道，深度學(xué)習(xí)是什么，它能夠?yàn)槲覀冏鍪裁?？我如何把這個(gè)技術(shù)應(yīng)用到實(shí)際場景當(dāng)中去。

其實(shí)，深度學(xué)習(xí)并不是一個(gè)突然出現(xiàn)的技術(shù)領(lǐng)域，核心算法就是神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)是一種機(jī)器學(xué)習(xí)的模型，這個(gè)模型主要特點(diǎn)就是，它可以擬合任何數(shù)學(xué)上的函數(shù)，特別是利用大數(shù)據(jù)反復(fù)迭代的一種，類似于方法來訓(xùn)練好這個(gè)模型。

隨著大數(shù)據(jù)的普及，計(jì)算機(jī)硬件算力的發(fā)展，還有算法本身的突破，大家突然發(fā)現(xiàn)，這個(gè)以神經(jīng)網(wǎng)絡(luò)模型為核心的深度學(xué)習(xí)技術(shù)，在很多應(yīng)用領(lǐng)域都可以大大的提高過去軟件系統(tǒng)需要完成的任務(wù)，最經(jīng)典的應(yīng)用領(lǐng)域大家肯定很熟悉，就是圖像識(shí)別領(lǐng)域，自2012年以來，在這個(gè)領(lǐng)域，自動(dòng)圖象識(shí)別的錯(cuò)誤率從20%一直持續(xù)下降到4%點(diǎn)多，已經(jīng)超過了一個(gè)普通人分辨的圖像的能力。

Google在好多年前就已經(jīng)開始把深度學(xué)習(xí)的技術(shù)應(yīng)用到它很多產(chǎn)品當(dāng)中，在這個(gè)過程當(dāng)中，我們也迭代、開發(fā)了好幾代支持深度學(xué)習(xí)的軟件系統(tǒng)，最終導(dǎo)致我們在2015年10月開源了TensorFlow，借此希望能夠進(jìn)一步推動(dòng)深度學(xué)習(xí)的應(yīng)用和研究。

TensorFlow 是什么？

TensorFlow現(xiàn)在已經(jīng)演化成一個(gè)相當(dāng)完整的深度學(xué)習(xí)軟件開放平臺(tái)，比如說，它支持CPU、GPU混合搭建的數(shù)據(jù)中心的訓(xùn)練平臺(tái)，它也支持將數(shù)據(jù)中心訓(xùn)練出來的好的模型，相對便捷的部署到不同的移動(dòng)端應(yīng)用上，可以支持類似Google自主研發(fā)的特別定制的TPU處理器，這種多平臺(tái)的支持，我們覺得可以幫助到最多的用戶和應(yīng)用場景，我們同時(shí)也非常感謝很多業(yè)界的同行對我們的支持，比如說在美國Intel和英偉達(dá)都在幫助我們優(yōu)化TensorFlow在他們各自硬件上的性能。

支持多種硬件的平臺(tái)是基礎(chǔ)，TensorFlow一直以來的一個(gè)目標(biāo)，就是能夠幫助盡量多的開發(fā)者，能夠把深度學(xué)習(xí)的技術(shù)利用起來，最終使得廣大的用戶從中能力得到益處，基于這個(gè)想法，TensorFlow一直很重視多種程序員開發(fā)環(huán)境的支持。比如說，開發(fā)者可以在主要的開發(fā)環(huán)境中使用TensorFlow。

TensorFlow 能做哪些事情？

TensorFlow在我們公司內(nèi)部的應(yīng)用推廣是非常全面和徹底的，比如說TensorFlow很早就幫助Google的核心業(yè)務(wù)（搜索和廣告），實(shí)施了深度學(xué)習(xí)的模型，并且在核心業(yè)務(wù)上體現(xiàn)了他們的性能。

在垃圾郵件過濾也使用了TensorFlow訓(xùn)練的模型，同時(shí)在安卓的應(yīng)用程序推薦上，也上線了TensorFlow的模型等等。很多TensorFlow應(yīng)用都是發(fā)生后臺(tái)，大多數(shù)用戶可能沒有直接的體驗(yàn)，這里我舉幾個(gè)在移動(dòng)端的例子來說明深度學(xué)習(xí)，其實(shí)已經(jīng)很直接的影響了成千上萬的用戶。

自拍虛化

比如說，安卓手機(jī)最近的版本當(dāng)中增加了一個(gè)自拍功能，這個(gè)自拍功能就是通過應(yīng)用深度學(xué)習(xí)訓(xùn)練出來的視覺模型，可以非常準(zhǔn)確的分離前景像素和后景像素，對前景像素和后景像素分別處理，這樣的話就可以實(shí)現(xiàn)背景虛化這樣的功能。

實(shí)現(xiàn)這種功能，傳統(tǒng)上，手機(jī)廠商需要增加第二個(gè)攝像頭，這就會(huì)增加手機(jī)的成本，同時(shí)對現(xiàn)有用戶已經(jīng)獲得的手機(jī)就不太容易獲得這樣的效果，通過新的算法，可以實(shí)現(xiàn)一些過去可能非常昂貴才能實(shí)現(xiàn)的效果。

語音處理

和圖像處理一樣，語音處理是另一個(gè)被深度學(xué)習(xí)深刻改變的領(lǐng)域，語音識(shí)別要比圖像處理更早的采用神經(jīng)網(wǎng)絡(luò)，產(chǎn)品方面，這些年智能音箱語音主力大行其道，其中一個(gè)很大的原因就是深度學(xué)習(xí)算法把語音識(shí)別和語音生成的技術(shù)門檻大大地降低了，過去可能需要20—50個(gè)博士的團(tuán)隊(duì)才能完成的任務(wù)，現(xiàn)在就下載一個(gè)現(xiàn)有模型定制一下，就可以達(dá)到同樣的效果。通用的機(jī)器學(xué)習(xí)框架，可以幫助到更多的開發(fā)人員，開發(fā)出適合自己特定應(yīng)用場景的語音應(yīng)用。

另外一個(gè)例子，機(jī)器翻譯現(xiàn)在你可以用手機(jī)拍一張照片，手機(jī)軟件可以自動(dòng)的識(shí)別出圖形中的文字，把文字翻譯成另外一種語音，看似簡單的應(yīng)用，其實(shí)是圖像技術(shù)和機(jī)器翻譯技術(shù)很自然的結(jié)合。

我很有幸一年多前參與了谷歌內(nèi)部，把過去的翻譯系統(tǒng)升級(jí)為神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的系統(tǒng)，我們從這些圖像可以看到，那次升級(jí)極大的降低了機(jī)器翻譯的錯(cuò)誤率，一些語言之間的翻譯，幾乎可以達(dá)到人工翻譯的效果。

其他應(yīng)用

利用深度學(xué)習(xí)技術(shù)，我們不僅可以大幅度的提高已有產(chǎn)品的功能和性能，我們還開發(fā)了一些過去很難想象的新功能，比如說郵件自動(dòng)回復(fù)的功能，安卓上的郵箱軟件可以分析用戶的郵件，比如說你今天早上收到一份你朋友發(fā)的郵件，晚上是不是要到哪里吃飯，大多數(shù)情況只有三種可能的回答，比如說我會(huì)準(zhǔn)時(shí)到或者是對不起我沒有空不能來，或者是我有空，但是我可能需要晚一點(diǎn)到。我們現(xiàn)在郵箱會(huì)自動(dòng)地給你提供三個(gè)選擇，這樣的話在路上看到郵箱，只要一鍵就可以完成郵件的恢復(fù)，極大的方便了用戶在手機(jī)上處理郵件的效率。

TensorFlow 在其他領(lǐng)域的應(yīng)用

通過前面我講的很多應(yīng)用例子，我們可以看到一個(gè)通用的深度學(xué)習(xí)框架，可以幫助到現(xiàn)有很多互聯(lián)網(wǎng)上的應(yīng)用提高他的智能水平，但是我們也可以看到，TensorFlow這樣深度學(xué)習(xí)的框架，在其他許多領(lǐng)域也可以得到領(lǐng)域，比如說我們在倫敦的同事，過去兩年努力推進(jìn)AlphaGo在工作就非常得益于TensorFlow框架本身的幫助，因?yàn)門ensorFlow在利用超大計(jì)算機(jī)集群和最新加速器方面的支持，AlphaGo的團(tuán)隊(duì)可以更加專注于算法的研究。

我們組也有人在做智能醫(yī)療工作方面，由于TensorFlow是一個(gè)通用的框架，他們可以很方便的重用現(xiàn)在已有的圖像識(shí)別模型或者是自然語言處理的模型，針對特定的應(yīng)用領(lǐng)域和數(shù)據(jù)，重新訓(xùn)練微調(diào)一下你的模型，就可以達(dá)到在檢測視網(wǎng)膜病變?nèi)蝿?wù)上面超過95%的準(zhǔn)確率，這個(gè)準(zhǔn)確率已經(jīng)超過了普通眼科專家91%的準(zhǔn)確率。

在自動(dòng)駕駛方面，我們在Alpha Waymo的同事，也在利用TensorFlow不斷改進(jìn)他們自動(dòng)駕駛系統(tǒng)當(dāng)中的深度模型，包括對路況場景的分割、雷達(dá)信號(hào)的處理等等。

我們特別欣慰的是通過把TensorFlow開源，我們真的利用深度學(xué)習(xí)技術(shù)的門檻大大降低了，過去兩年我們看到很多和互聯(lián)網(wǎng)毫無相關(guān)的行業(yè)，也開始嘗試?yán)蒙疃葘W(xué)習(xí)的技術(shù)和方法，比如說這家公司是一個(gè)嬰兒食品制作的公司，引進(jìn)了TensorFlow訓(xùn)練好的智能系統(tǒng)，這個(gè)智能系統(tǒng)可以把嬰兒食品的原料進(jìn)行分類，把一些爛掉的蘋果和香蕉更準(zhǔn)確的排除出去，這樣可以大大準(zhǔn)確的控制嬰兒食品的質(zhì)量。

我們也很興奮的看到TensorFlow在計(jì)算機(jī)科學(xué)以外的科學(xué)研究上，也得到了使用，比如說上個(gè)月美國航天總署宣布一項(xiàng)研究成果，美國航天總署有個(gè)開普勒計(jì)劃，他們的科學(xué)家和我們的同事聯(lián)合開發(fā)了一個(gè)TensorFlow的模型，開普勒計(jì)劃本身的目標(biāo)是通過在望遠(yuǎn)鏡持續(xù)不斷地觀察太空中恒星亮度的變化，希望發(fā)現(xiàn)太陽系以外的行星系統(tǒng)，最終希望發(fā)現(xiàn)另外一個(gè)適宜人類居住的行星。目前該計(jì)劃已經(jīng)積累了上百億個(gè)觀察數(shù)據(jù)，幾個(gè)月前這個(gè)TensorFlow的模型，幫助科學(xué)家發(fā)現(xiàn)了2500光年以外的開普勒90星系中發(fā)現(xiàn)了第八顆行星。

人們不僅仰望星空，同時(shí)我們在回望我們的地球，在這個(gè)應(yīng)用的例子里面，澳大利亞的科學(xué)家用TensorFlow開發(fā)的圖像識(shí)別模型，在數(shù)萬張海洋航拍圖照片中，可以快速并且準(zhǔn)確的找到需要保護(hù)的大型海洋哺乳類動(dòng)物，比如說可愛的動(dòng)物，就是澳大利亞附近的珍惜動(dòng)物海牛。類似也有科學(xué)家，利用TensorFlow把語音處理技術(shù)用到鳥類保護(hù)上，他們在叢林里安裝了很多話筒，采集鳥類的聲音，模型就可以很準(zhǔn)確的估算出鳥類在一片森林中的數(shù)量，從而可以更加精準(zhǔn)地對他們實(shí)行保護(hù)。

我們組還有同事進(jìn)行一些非常有意思的應(yīng)用，他們正在嘗試?yán)蒙疃葘W(xué)習(xí)的技術(shù)來創(chuàng)造音樂，很有意思的是，這些音樂創(chuàng)作的樂曲，還受到了專業(yè)DJ的肯定。

跟國內(nèi)公司的合作

TensorFlow自2015年開源以來，我們一直在努力投入，最近我們開始加大力度對中國市場的支持，比如說我們正在建立一個(gè)TensorFlow的中文網(wǎng)站，TensorFlow的開發(fā)者也實(shí)現(xiàn)了快速的增長，同時(shí)，我們也看到超過1000多人參與了TensorFlow的開發(fā)，這是一個(gè)非?；钴S的社區(qū)。

另外，我們的數(shù)據(jù)也顯示，到目前全球180多個(gè)國家，各種用戶已經(jīng)下載了超過1000萬次的TensorFlow開發(fā)包，這表明TensorFlow的應(yīng)用開發(fā)也是非常普遍的。

前在中國有大量的開發(fā)人員在持續(xù)的關(guān)注TensorFlow，事實(shí)上，我們在自己和眾多的中國公司建立伙伴關(guān)系，積極的支持和幫助他們更好的使用TensorFlow。

比如說京東內(nèi)部搭建了TensorFlow訓(xùn)練平臺(tái)，用于開發(fā)圖像、自然語言相關(guān)的模型，并且把他們用到客服廣告等領(lǐng)域。小米也在嘗試類似的技術(shù)路線，支持他們生態(tài)線上各種特殊的應(yīng)用。網(wǎng)易的有道筆記、網(wǎng)易翻譯君也使用了TensorFlow視覺和語言的模型。

非常感謝我們的用戶和合作伙伴對TensorFlow的反饋，TensorFlow也正在努力開發(fā)新的功能，在去年我們開發(fā)了TensorFlow一個(gè)模式，這個(gè)模式希望能夠更加有利于前端的開發(fā)，便于調(diào)試，支持更多動(dòng)態(tài)的變成模式。

在這里可以右邊有一個(gè)很簡短的程序，在這個(gè)程序中，大家應(yīng)該能夠看出一個(gè)模式最主要的特征就是在前端的程序流程中，可以更加直接的反映程序算法邏輯本身的流程，這一點(diǎn)我們相信會(huì)特別有助于快速原形的開發(fā)和調(diào)試。

另外，TensorFlow在過去一年中主要推進(jìn)的項(xiàng)目是TensorFlow Lite模式，這個(gè)模式是專門針對移動(dòng)和嵌入式應(yīng)用場景打造的機(jī)器學(xué)習(xí)平臺(tái)，它的目標(biāo)是希望把部署機(jī)器學(xué)習(xí)在云端訓(xùn)練的模型，更加簡單、高效的遷移到移動(dòng)端上進(jìn)行部署。

最后，我們也在開發(fā)新一代深度學(xué)習(xí)硬件加速器TPU，去年我們宣布了第二代處理器，這個(gè)處理器可以達(dá)到180萬億次浮點(diǎn)運(yùn)算的性能，有64千兆的內(nèi)存，如果我們把這樣的處理器集成在一起，搭建一個(gè)集群，這個(gè)集群我們估算到，可以非常容易排到世界上超級(jí)計(jì)算機(jī)的前五名。

目前我們正在內(nèi)部各種產(chǎn)品研發(fā)中使用TPU二代，并且有計(jì)劃在不久的將來開放給公眾使用。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。