1
雷鋒網(wǎng)AI科技評(píng)論消息，2017年10月19日微軟亞洲研究院 聯(lián)合 哈爾濱工業(yè)大學(xué)共同在哈爾濱市舉辦了第19屆“21世紀(jì)的計(jì)算” 大型國(guó)際學(xué)術(shù)研討會(huì)（21CCC 2017）。
“二十一世紀(jì)的計(jì)算”學(xué)術(shù)研討會(huì)是微軟亞洲研究院自創(chuàng)立之初便開始舉辦的年度學(xué)術(shù)盛會(huì)，每年都吸引著無(wú)數(shù)計(jì)算機(jī)科學(xué)領(lǐng)域?qū)W者們的目光。作為中國(guó)及亞太地區(qū)規(guī)模最大、最具影響力的計(jì)算機(jī)科學(xué)教育與研究盛會(huì)之一，該大會(huì)已在中國(guó)、日本、韓國(guó)、新加坡等多個(gè)國(guó)家和地區(qū)成功舉辦了18屆。
本次大會(huì)的主題為“人工智能，未來之路”，并邀請(qǐng)了包括圖靈獎(jiǎng)獲得者John Hopcroft在內(nèi)的多位世界級(jí)計(jì)算機(jī)領(lǐng)域?qū)＜曳窒硭麄冊(cè)贏I領(lǐng)域的研究和觀點(diǎn)。現(xiàn)場(chǎng)有超過1500名高校師生參與。
下面內(nèi)容為雷鋒網(wǎng)記者根據(jù)幾位嘉賓的現(xiàn)場(chǎng)報(bào)告和微軟亞洲研究院資深研究員秦濤博士的解讀整理而成，附加有雷鋒網(wǎng)現(xiàn)場(chǎng)拍攝的PPT，以饗諸位。
Peter Lee認(rèn)為，雖然目前人工智能已經(jīng)到達(dá)了一種前所未有的科技高度，但是創(chuàng)造和部署這樣的人工智能應(yīng)用并非易事，需要大量的專業(yè)知識(shí)和手動(dòng)設(shè)計(jì)的解決方案。所以目前AI開發(fā)還嚴(yán)重依賴經(jīng)過訓(xùn)練的AI“手工藝人”或者“工匠”。因此，在這個(gè)意義上，可以說我們還正處于“手工AI”的時(shí)代。
Peter提到十九世紀(jì)歐洲工業(yè)設(shè)計(jì)領(lǐng)域工藝美術(shù)運(yùn)動(dòng)的創(chuàng)始人William Morris，William認(rèn)為所有的人都應(yīng)該可以接觸到美好的東西，但是創(chuàng)作過程對(duì)手工藝人的依賴又阻礙了藝術(shù)的普及化。正如中國(guó)古代的絲綢、玉器一樣，正是由于熟練工匠的缺乏導(dǎo)致這些東西價(jià)值不菲。
Peter以活字印刷為例。在這項(xiàng)發(fā)明之前，歐洲的書籍都以手抄的形式傳播。隨著中國(guó)的這項(xiàng)技術(shù)傳入歐洲，在十五世紀(jì)中期，在短短的50年中，整個(gè)歐洲的書籍?dāng)?shù)量就從3萬(wàn)本增長(zhǎng)到一千兩百萬(wàn)本。這一變化對(duì)當(dāng)時(shí)的社會(huì)制度是破壞性的。教堂無(wú)法繼續(xù)壟斷書籍，新的知識(shí)表現(xiàn)形式層出不窮，而人們對(duì)教育的期望也從根本上發(fā)生了改變。Peter認(rèn)為，從某種意義上來說，我們面臨的AI對(duì)人類社會(huì)的當(dāng)前結(jié)構(gòu)也將是破壞性的，AI將和活字印刷機(jī)一樣改變?nèi)祟悮v史。但是我們還需要從“手工AI”的時(shí)代往前走，創(chuàng)造出人人皆可用的AI技術(shù)。
Peter介紹，微軟當(dāng)前正在著手這樣的工作，以讓更多的人便捷地使用AI技術(shù)。他向大家展示了微軟搭建的基于云的AI平臺(tái)。其中The Bot Framework可以幫助開發(fā)者便捷地搭建聊天機(jī)器人，Cognitive Services讓開發(fā)者方便地將AI嵌入到每個(gè)APP中，Azure Machine Learning則可以幫助你從零開始進(jìn)行數(shù)據(jù)研究以及創(chuàng)建AI應(yīng)用。這個(gè)平臺(tái)有較為先進(jìn)的數(shù)據(jù)服務(wù)以及最新的硬件設(shè)備，支持所有主流開源的機(jī)器學(xué)習(xí)框架，具有良好的擴(kuò)展性。
在本演講中，康奈爾大學(xué)計(jì)算機(jī)系教授、1986年圖靈獎(jiǎng)獲得者John Hopcroft帶領(lǐng)大家回顧了機(jī)器學(xué)習(xí)的基礎(chǔ)知識(shí)，并分享了一些深度學(xué)習(xí)領(lǐng)域中比較有趣的研究問題。
John從最簡(jiǎn)單的線性分類器（感知器）算法講起。隨后介紹了在數(shù)據(jù)線性不可分情況下把樣本映射到更高維空間的研究，包括核函數(shù)等，這種情況下支持向量機(jī)的出現(xiàn)極大地促進(jìn)了這方面的研究。在支持向量機(jī)之后，機(jī)器學(xué)習(xí)的下一個(gè)大的發(fā)展就是深度學(xué)習(xí)。隨著深度神經(jīng)網(wǎng)絡(luò)的引入，特別是卷積神經(jīng)網(wǎng)絡(luò)（卷積神經(jīng)網(wǎng)絡(luò)，由卷積層、池化層、全連接層組成，最后是softmax輸出每個(gè)類別的概率）的引入，圖像分類等方面的錯(cuò)誤率逐年下降，在2015年微軟亞研院提出的152層深度殘差網(wǎng)絡(luò)（ResNet）在圖像分類中超過了人的識(shí)別水平。
但是在這方面還有很多問題值得研究，例如每個(gè)門學(xué)習(xí)的是什么、怎樣讓第二層的門與第一層的門學(xué)習(xí)不同的信息、怎樣讓一個(gè)門學(xué)習(xí)的內(nèi)容隨時(shí)間演化、用不同的初始權(quán)重門學(xué)習(xí)的是否是相同的內(nèi)容、用不同的圖像集訓(xùn)練兩個(gè)網(wǎng)絡(luò)早期的門學(xué)習(xí)的是否相同等等。
此外，在訓(xùn)練一個(gè)深度網(wǎng)絡(luò)時(shí)，可能會(huì)有許多局部極小值，有些極小值可能會(huì)比其他的好。如何保證我們?cè)谟?xùn)練的過程中能夠找到一個(gè)好的局部極小值呢？訓(xùn)練深度網(wǎng)絡(luò)往往會(huì)花費(fèi)很長(zhǎng)的時(shí)間，我們是否可以加速訓(xùn)練呢？這些也都是非常有意義的研究方向。
隨后John考慮了當(dāng)訓(xùn)練兩個(gè)網(wǎng)絡(luò)時(shí)會(huì)出現(xiàn)什么有趣的研究。對(duì)于兩個(gè)網(wǎng)絡(luò)，我們可以同時(shí)訓(xùn)練，也可以一先一后。
這兩種情況，兩個(gè)網(wǎng)絡(luò)在激活空間里是否共享相同的區(qū)域呢？
一個(gè)當(dāng)前比較火的例子就是生成式對(duì)抗網(wǎng)絡(luò)（GAN），這個(gè)網(wǎng)絡(luò)屬于一先一后的情況。
最后John提出了一個(gè)問題：人工智能是真的嗎？他認(rèn)為，現(xiàn)在的人工智能只是高維空間中的模式識(shí)別，AI還不能提取出一個(gè)事物的本質(zhì)或者理解它的功能。在John看來，要想實(shí)現(xiàn)這一點(diǎn)，只是需要另外40年的時(shí)間。
他還說到，其實(shí)很多現(xiàn)在看來是智能的任務(wù)其實(shí)都不是AI，有些只需要強(qiáng)大的計(jì)算以及大數(shù)據(jù)就足夠了，例如棋類比賽。計(jì)算機(jī)正在做越來越多的人們以為需要智能的事情，實(shí)際上有些并不是AI。所以我們?cè)趶氖氯斯ぶ悄芟嚓P(guān)的工作時(shí)要想一想，這個(gè)問題的核心的是AI嗎？還是僅僅需要大計(jì)算而已？
圖數(shù)據(jù)是 Lise Getoor教授一直以來的研究對(duì)象。Lise Getoor教授認(rèn)為，我們正處于數(shù)據(jù)爆炸的時(shí)代，圖數(shù)據(jù)無(wú)處不在。然而，數(shù)量并不代表質(zhì)量，大數(shù)據(jù)分析的挑戰(zhàn)之一就在于如何能夠合理利用大型、異構(gòu)、不完整且?guī)в性胍舻募蓴?shù)據(jù)進(jìn)行合理推論。
在演講中，Lise Getoor教授首先給我們介紹了一些圖數(shù)據(jù)所需的常見推理模式。
例如為缺失標(biāo)簽的節(jié)點(diǎn)做標(biāo)簽預(yù)測(cè)的協(xié)同分類（collective classification），給出數(shù)據(jù)里隱含的連接節(jié)點(diǎn)的邊的連接預(yù)測(cè)（link predictions），以及判斷兩個(gè)節(jié)點(diǎn)是否為同一實(shí)體并進(jìn)行合并的實(shí)體分辨（entity resolution）。
隨后她像我們介紹了用于解決這些重要問題的一種工具——概率軟邏輯（probabilistic softlogic ( PSL )，psl.linqs.org）。
最后她向我們展示了PSL應(yīng)用的一些案例，例如政治辯論立場(chǎng)分類、混合推薦系統(tǒng)、藥物研究、垃圾郵件檢測(cè)等。
首先Raymond教授簡(jiǎn)單回顧了機(jī)器學(xué)習(xí)的歷史，從單層神經(jīng)網(wǎng)絡(luò)到符號(hào)AI和知識(shí)工程，到多層神經(jīng)網(wǎng)絡(luò)和符號(hào)學(xué)習(xí)，到統(tǒng)計(jì)學(xué)習(xí)和核方法，再到近年來的深度學(xué)習(xí)。
1957年，弗蘭克?羅森布拉特（Frank Rosenblatt）提出感知器算法。感知器就是一個(gè)最簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)，只有輸入層和輸出層，沒有隱藏層。感知器利用爬山法從訓(xùn)練樣本中進(jìn)行學(xué)習(xí)更新參數(shù)。只有當(dāng)樣本線性可分的時(shí)候，感知器才能進(jìn)行學(xué)習(xí)；很多分類的函數(shù)感知器并不能學(xué)習(xí)，例如XOR。
1969年，馬文?明斯基（Marvin Minsky）和西摩爾?帕普特（Seymour Papert）發(fā)表了《Perceptrons: An Introduction to Computational Geometry》，書中描述了簡(jiǎn)單神經(jīng)網(wǎng)絡(luò)也就是感知器的局限性。此后七十年代到八十年代初期，神經(jīng)網(wǎng)絡(luò)方面的研究陷入了低谷。
上個(gè)世紀(jì)80年代中期連接主義的興起導(dǎo)致了神經(jīng)網(wǎng)絡(luò)的復(fù)興，這一時(shí)期反向傳播算法被用來訓(xùn)練3層神經(jīng)網(wǎng)絡(luò)（包含輸入層輸出層以及一個(gè)隱藏層）。但是，通用反向傳播算法并不能很好的推廣到更深的網(wǎng)絡(luò)，并且其方法也缺乏理論基礎(chǔ)，因此1995-2010這15年間神經(jīng)網(wǎng)絡(luò)的研究陷入了第二次低谷，這一時(shí)期機(jī)器學(xué)習(xí)研究的興起轉(zhuǎn)移到概率圖模型和以支持向量機(jī)為代表的核方法。
2010年以后，隨著更好的深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法的提出，神經(jīng)網(wǎng)絡(luò)又卷土重來。深度學(xué)習(xí)“革命”，Raymond用“革命”一詞來形容深度學(xué)習(xí)的影響之大。深度學(xué)習(xí)在幾大方面取得了成功，包括計(jì)算機(jī)視覺（主要?dú)w功于卷積神經(jīng)網(wǎng)絡(luò)CNNs）、機(jī)器翻譯和語(yǔ)音識(shí)別（主要?dú)w功于循環(huán)神經(jīng)網(wǎng)絡(luò)RNNs）以及視頻和棋牌游戲（得益于深度強(qiáng)化學(xué)習(xí)）。
近年來深度學(xué)習(xí)的推動(dòng)力除了前面提到的更好的訓(xùn)練算法和模型，還有兩個(gè)方面：大規(guī)模有標(biāo)注的訓(xùn)練數(shù)據(jù)和強(qiáng)大的計(jì)算力（如GPU）。大數(shù)據(jù)、大模型、大計(jì)算是深度學(xué)習(xí)成功的三大支柱因素，但它們同時(shí)也為深度學(xué)習(xí)的進(jìn)一步發(fā)展和普及帶來了一些制約因素。現(xiàn)在深度學(xué)習(xí)面臨一些新的挑戰(zhàn)，包括（1）如何從無(wú)標(biāo)注的數(shù)據(jù)里學(xué)習(xí)，（2）如何降低、壓縮模型大小，（3）全新的硬件設(shè)計(jì)、算法設(shè)計(jì)、系統(tǒng)設(shè)計(jì)來加速深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和使用，（4）如何與知識(shí)圖譜、邏輯推理、符號(hào)學(xué)習(xí)相結(jié)合像人一樣從小樣本進(jìn)行有效學(xué)習(xí)，（5）如何在復(fù)雜的動(dòng)態(tài)系統(tǒng)里進(jìn)行博弈機(jī)器學(xué)習(xí)。
隨后Raymond教授簡(jiǎn)單介紹了卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)以及深度強(qiáng)化學(xué)習(xí)的基本內(nèi)容，并分析了為什么在人工智能領(lǐng)域，科學(xué)家總是熱衷于讓AI跟人類下棋，玩游戲？
從簡(jiǎn)單的跳棋、五子棋，到更加復(fù)雜的中國(guó)象棋、國(guó)際象棋，以及最近非常熱門的圍棋和德州撲克，每次AI在某個(gè)智力游戲上成功地?fù)魯∪祟愡x手，便會(huì)讓大家唏噓不已，慨嘆AI會(huì)在不久的將來取代人類。而科學(xué)家之所以樂于選擇棋類游戲，一方面是因?yàn)樗鼈冏怨乓詠砭捅徽J(rèn)為是人類智力活動(dòng)的象征，模擬人類活動(dòng)的AI自然要以此為目標(biāo)。成功達(dá)到人類甚至高于人類水平，可以吸引更多人關(guān)注并投身于人工智能的研究和應(yīng)用中來。另一方面，棋類也很適合作為新的AI算法的標(biāo)桿（Benchmark）。棋類游戲的規(guī)則簡(jiǎn)潔明了，輸贏都在盤面，適合計(jì)算機(jī)來求解。理論上只要在計(jì)算能力和算法上有新的突破，任何新的棋類游戲都有可能得到攻克。一個(gè)會(huì)下棋的AI也并非科學(xué)家的終極目標(biāo)，其更積極的意義在于，AI算法在研究棋藝的過程中不斷精進(jìn)和提升，會(huì)帶來更多設(shè)計(jì)上的創(chuàng)新，從而在根本上提升人工智能算法的能力和適用范圍。
Raymond教授認(rèn)為機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等有著悠久的歷史，深度學(xué)習(xí)也取得了很多成績(jī)，并且還將取得更多成績(jī)，但現(xiàn)在深度學(xué)習(xí)的能力被過度夸大了，其有著明顯的局限性，還不能真正解決AI問題。Raymond認(rèn)為我們不能過于滿足和夸大當(dāng)前的成績(jī)，AI的核心問題尚未解決，未來的路還很長(zhǎng)。
身處大數(shù)據(jù)時(shí)代，我們對(duì)高效算法的需求比先前任何時(shí)候都要突出。滕尚華教授指出，大數(shù)據(jù)將我們帶入我們先驅(qū)者所設(shè)想的漸近世界，但問題規(guī)模的爆炸式增長(zhǎng)也對(duì)經(jīng)典算法的有效性提出挑戰(zhàn)：根據(jù)多項(xiàng)式時(shí)間表征，以前被認(rèn)為有效的算法可能不再適用，有效的算法應(yīng)該是可擴(kuò)展的。換句話來說就是，問題的復(fù)雜性就問題的大小而言，應(yīng)當(dāng)是線性的或近似線性的。因此可擴(kuò)展性應(yīng)該被提升為用于表征高效運(yùn)算的中心復(fù)雜性概念。而設(shè)計(jì)具有可擴(kuò)展性的算法，需要借助一些技巧，例如拉普拉斯范式。這類技巧包括局部網(wǎng)絡(luò)探索、高階抽樣法、稀疏化以及圖分割等。此外還包括譜圖理論方法，如用于計(jì)算電流和在高斯-馬爾可夫隨機(jī)場(chǎng)中取樣等。這些方法體現(xiàn)了網(wǎng)絡(luò)分析中組合、數(shù)值和統(tǒng)計(jì)思維的融合。滕尚華教授在演講中，通過一些基本的網(wǎng)絡(luò)分析問題解釋了這些技巧的應(yīng)用，特別是在社會(huì)和信息網(wǎng)絡(luò)中確定重要的節(jié)點(diǎn)和連貫的社區(qū)中的應(yīng)用。
雷鋒網(wǎng)注：由于此時(shí)記者正在采訪其中一位嘉賓，沒能聆聽滕尚華教授的報(bào)告內(nèi)容，深表遺憾。
在本演講中，洪小文博士將介紹微軟亞洲研究院在幫助機(jī)器學(xué)習(xí)方面取得的最新成果，例如對(duì)偶學(xué)習(xí)和自生成數(shù)據(jù)學(xué)習(xí)。此外，他還強(qiáng)調(diào)了機(jī)器學(xué)習(xí)目前面臨的一些重要挑戰(zhàn)。
洪小文博士表示近年來，機(jī)器學(xué)習(xí)在計(jì)算機(jī)視覺、語(yǔ)音和自然語(yǔ)言處理等領(lǐng)域取得了長(zhǎng)足的進(jìn)步。隨著人工智能對(duì)社會(huì)的影響越來越大，更多挑戰(zhàn)需要人們?nèi)パ芯?、去攻克，因此無(wú)論是對(duì)人類還是機(jī)器來說，我們都進(jìn)入了持續(xù)學(xué)習(xí)的時(shí)代：從“無(wú)所不知”到“無(wú)所不學(xué)”。
對(duì)于計(jì)算機(jī)而言，學(xué)習(xí)需要時(shí)間、數(shù)據(jù)和老師，而深度學(xué)習(xí)則需要大規(guī)模的標(biāo)記數(shù)據(jù)。數(shù)據(jù)標(biāo)記的成本非常高，并且在很多應(yīng)用場(chǎng)景中，獲取大量標(biāo)記數(shù)據(jù)已是難題（例如罕見疾病、少數(shù)民族語(yǔ)言等）。為了降低對(duì)大規(guī)模標(biāo)注數(shù)據(jù)的依賴性，微軟亞洲研究院的研究員提出了一種新的學(xué)習(xí)范式——對(duì)偶學(xué)習(xí)。
很多人工智能的應(yīng)用涉及兩個(gè)互為對(duì)偶的任務(wù)。例如，機(jī)器翻譯中從中文到英文翻譯和從英文到中文的翻譯互為對(duì)偶，語(yǔ)音處理中語(yǔ)音識(shí)別和語(yǔ)音合成互為對(duì)偶，圖像理解中基于圖像生成文本和基于文本生成圖像互為對(duì)偶等等。這些互為對(duì)偶的任務(wù)可以形成一個(gè)閉環(huán)，使從沒有標(biāo)注的數(shù)據(jù)中進(jìn)行學(xué)習(xí)成為可能。
對(duì)偶學(xué)習(xí)的最關(guān)鍵一點(diǎn)在于，給定一個(gè)原始任務(wù)模型，其對(duì)偶任務(wù)的模型可以給其提供反饋。同樣的，給定一個(gè)對(duì)偶任務(wù)的模型，其原始任務(wù)的模型也可以給該對(duì)偶任務(wù)的模型提供反饋，從而這兩個(gè)互為對(duì)偶的任務(wù)可以相互提供反饋，相互學(xué)習(xí)、相互提高。
洪小文博士表示除了機(jī)器翻譯，對(duì)偶學(xué)習(xí)還可以用于訓(xùn)練圖像分類生成、情感分析等多個(gè)研究領(lǐng)域。
介紹完對(duì)偶學(xué)習(xí)，洪小文博士開始探討在多個(gè)領(lǐng)域展示出優(yōu)勢(shì)的卷積神經(jīng)網(wǎng)絡(luò)CNN是否同樣適用于3D圖形領(lǐng)域。和其他學(xué)習(xí)任務(wù)一樣，訓(xùn)練CNN需要大規(guī)模的數(shù)據(jù)，保證大量的圖片輸入和與之對(duì)應(yīng)的材質(zhì)屬性。而數(shù)據(jù)采集需要非常多復(fù)雜的設(shè)備支持、相對(duì)更長(zhǎng)的采集時(shí)間，同時(shí)要求大量的手工工作，這其中的成本是相當(dāng)高昂的。
為了利用這些海量的未標(biāo)定的照片來進(jìn)行機(jī)器學(xué)習(xí)，我們?cè)O(shè)計(jì)了自增強(qiáng)訓(xùn)練的方法(Self-augmented training)。自增強(qiáng)訓(xùn)練采用了一種特殊的CNN訓(xùn)練方式，區(qū)別于傳統(tǒng)利用標(biāo)注的輸入輸出對(duì)作為訓(xùn)練數(shù)據(jù)的訓(xùn)練方法，自增強(qiáng)訓(xùn)練利用當(dāng)前尚未訓(xùn)練好的CNN來對(duì)未標(biāo)定的數(shù)據(jù)進(jìn)行測(cè)試。
當(dāng)然，由于現(xiàn)在CNN還沒有訓(xùn)練好，測(cè)試結(jié)果肯定不能作為正確的標(biāo)定用來訓(xùn)練。但是，我們對(duì)材質(zhì)屬性估計(jì)這個(gè)問題的逆問題，具有完整的知識(shí)。因此，可以用這個(gè)中間測(cè)試結(jié)果得到的材質(zhì)屬性，配合現(xiàn)有的材質(zhì)渲染程序，生成一個(gè)當(dāng)前中間結(jié)果的材質(zhì)屬性和其對(duì)應(yīng)的渲染結(jié)果（照片）的數(shù)據(jù)對(duì)，這一數(shù)據(jù)對(duì)是完好保持紋理照片和紋理屬性這一對(duì)應(yīng)關(guān)系的“正確標(biāo)定數(shù)據(jù)對(duì)”，因此我們就可以放心地利用這一自增強(qiáng)出來的數(shù)據(jù)來進(jìn)行訓(xùn)練。
除機(jī)器進(jìn)行自身學(xué)習(xí)以外，人類同樣需要提升自己的技能。
洪小文博士表示機(jī)器還可以在多方面幫助人們學(xué)習(xí)，例如提供學(xué)習(xí)建議和案例，作為語(yǔ)言學(xué)習(xí)的輔助手段。AI還可以有藝術(shù)創(chuàng)造力：創(chuàng)作詩(shī)歌、歌詞以及音樂，對(duì)圖片進(jìn)行風(fēng)格轉(zhuǎn)換等。
微軟小英
首先，洪小文博士介紹了微軟小英。它可以幫助初學(xué)者快速建立日常英語(yǔ)溝通能力，幫助英語(yǔ)學(xué)習(xí)者完善發(fā)音，熟練口語(yǔ)。微軟小英融合了語(yǔ)音識(shí)別、語(yǔ)音合成、自然語(yǔ)言理解、機(jī)器翻譯、機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析等人工智能前沿技術(shù)。
小英的口語(yǔ)評(píng)測(cè)系統(tǒng)搭建在一個(gè)由機(jī)器學(xué)習(xí)訓(xùn)練成的神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別系統(tǒng)上，基本處理流程是利用語(yǔ)音識(shí)別模型，根據(jù)跟讀文本對(duì)用戶的錄音進(jìn)行音素層級(jí)的切分。每一個(gè)小單元再和其相應(yīng)的標(biāo)準(zhǔn)發(fā)音模式進(jìn)行匹配，發(fā)音越標(biāo)準(zhǔn)則匹配越好，得分也越高。系統(tǒng)中各個(gè)標(biāo)準(zhǔn)發(fā)音的模型是深層神經(jīng)網(wǎng)絡(luò)在幾百個(gè)發(fā)音標(biāo)準(zhǔn)的美式英語(yǔ)數(shù)據(jù)庫(kù)中訓(xùn)練而成的。
微軟小冰
隨后，在AI的藝術(shù)創(chuàng)造方面，洪小文博士介紹了微軟小冰的寫詩(shī)能力。據(jù)介紹，小冰寫詩(shī)，主要是運(yùn)用了生成式對(duì)抗網(wǎng)絡(luò)（GAN）。
簡(jiǎn)單來說就是，有一個(gè)詩(shī)歌生成模型（generator），它的目標(biāo)是生成一首接近于人類創(chuàng)作的詩(shī)歌；與此同時(shí)我們有一個(gè)詩(shī)歌判別模型（discriminator），它的目標(biāo)是能夠正確判別一首詩(shī)是機(jī)器生成出來的還是人類寫的。詩(shī)歌生成模型和判別模型之間進(jìn)行博弈，直至生成模型與判別模型無(wú)法提高自己——即判別模型無(wú)法判斷一首詩(shī)是生成出來的還是真實(shí)的而結(jié)束。小冰于今年出版了第一本現(xiàn)代詩(shī)集《陽(yáng)光失了玻璃窗》，洪小文博士現(xiàn)場(chǎng)展示了小冰創(chuàng)作的詩(shī) 。
除了作詩(shī)，她還能根據(jù)詩(shī)詞譜音，創(chuàng)作一首歌曲。
風(fēng)格遷移
此外，洪小文博士還介紹了深度學(xué)習(xí)運(yùn)用到圖片風(fēng)格遷移的研究。他們利用卷積神經(jīng)網(wǎng)絡(luò)分解內(nèi)容圖片和風(fēng)格圖片的特點(diǎn)，然后加以融合。微軟亞研院的研究員在CVPR 2017上發(fā)表了一種新的風(fēng)格遷移算法，該算法對(duì)圖像的風(fēng)格提供了一種顯式的表達(dá)“風(fēng)格基元”（styleBank），通過對(duì)不同風(fēng)格的圖片使用不同的“風(fēng)格基元”，再用簡(jiǎn)單的自解碼器模型（auto-encoder）便可以實(shí)現(xiàn)不同風(fēng)格的遷移。目前這項(xiàng)風(fēng)格遷移技術(shù)已經(jīng)被應(yīng)用到最新的相機(jī)應(yīng)用Microsoft Pix iOS版， 允許用戶將照片的紋理、圖案和色調(diào)轉(zhuǎn)化成所選定的風(fēng)格，使之成為一件獨(dú)特的創(chuàng)作作品。
洪小文博士補(bǔ)充道，除上述算法以外，微軟亞洲研究院的研究員們還提出了一個(gè)端到端 ( end-to-end ) 的在線視頻風(fēng)格遷移模型 ( Coherent Online Video Style Transfer )。
這個(gè)模型在處理相鄰幀的連續(xù)性的做法是：對(duì)于可追蹤的區(qū)域，用前一幀對(duì)應(yīng)區(qū)域的特征以保證連續(xù)性，而對(duì)于遮擋區(qū)域，則用當(dāng)前幀的特征，最后得到既連續(xù)又沒有重影的風(fēng)格化結(jié)果。
而對(duì)于更為精確和精致的視覺特征轉(zhuǎn)化，需要建立圖像間的語(yǔ)義對(duì)應(yīng)。微軟亞研院的研究員們提出了一種新的算法，結(jié)合圖像對(duì)偶技術(shù)（Image Analogy）和深度神經(jīng)網(wǎng)絡(luò)（DNN），為內(nèi)容上相關(guān)但視覺風(fēng)格迥異的兩張圖像之間建立起像素級(jí)的對(duì)應(yīng)關(guān)系，從而實(shí)現(xiàn)精確地視覺特征遷移。
最后洪小文博士總結(jié)到：人類和機(jī)器都進(jìn)入了持續(xù)學(xué)習(xí)的時(shí)代：從“無(wú)所不知”到“無(wú)所不學(xué)”；學(xué)習(xí)過程永遠(yuǎn)需要時(shí)間、數(shù)據(jù)和老師，而在學(xué)習(xí)過程中，機(jī)器和人類將一同共進(jìn)化；對(duì)偶學(xué)習(xí)等新的方法讓缺乏大量標(biāo)記數(shù)據(jù)的機(jī)器學(xué)習(xí)成為可能；Encoder-decoder DNN 以及 GAN等神經(jīng)網(wǎng)絡(luò)讓機(jī)器有了藝術(shù)創(chuàng)造力；人類可以利用機(jī)器更好地學(xué)習(xí)。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
