0
| 本文作者： 趙晨希 | 2018-12-24 18:57 |
2018年，亞馬遜Alexa語(yǔ)音助手取得的進(jìn)步更多來(lái)自于廣度而不是深度。記得，亞馬遜在2014年秋季推出了第一款A(yù)I人工智能音響Echo時(shí)，當(dāng)時(shí)很多人都不了解Echo的運(yùn)行機(jī)制是怎樣的。從2014年到2018年，Echo以及Alexa驅(qū)動(dòng)的智能設(shè)備，已經(jīng)漸漸褪去神秘感，遍布人們?nèi)粘Ｉ钪械拿恳粋€(gè)角落。
亞馬遜語(yǔ)音助手Alexa的可用國(guó)家數(shù)量已經(jīng)增加了一倍之多，取得規(guī)模上的較大收益。對(duì)于初級(jí)用戶而言，可以利用Alexa學(xué)習(xí)法語(yǔ)和西班牙語(yǔ)?，F(xiàn)階段，有超過(guò)2萬(wàn)8千臺(tái)智能設(shè)備與Alexa展開(kāi)合作，是今年年初合作設(shè)備數(shù)量的6倍之多。Alexa內(nèi)置入100多種不同的產(chǎn)品、設(shè)備中。還記得1999年首次出售的大嘴比利·巴斯Big Mouth Billy Bass嗎？這條會(huì)轉(zhuǎn)頭、可以搖動(dòng)尾巴、張嘴唱歌的魚(yú)，在今年已經(jīng)可以兼容Alexa了。
Alexa在2018年的發(fā)展路徑，時(shí)刻影響、定義著2019年乃至更遠(yuǎn)將來(lái)的發(fā)展趨勢(shì)。Alexa正在悄悄、微妙地發(fā)生著一些改變，這些改變大眾平時(shí)可能根本沒(méi)有注意、察覺(jué)到。
在過(guò)去的一年中，Alexa get到了很多新技能。舉例來(lái)講，Alexa可以根據(jù)上下文，從一個(gè)查詢轉(zhuǎn)移到下一個(gè)查詢，激活后續(xù)問(wèn)題，無(wú)需重復(fù)喚醒單詞。用戶可以根據(jù)自己的需求，要求Alexa在同一個(gè)請(qǐng)求中執(zhí)行多項(xiàng)操作，在Alexa應(yīng)用程序中召喚一個(gè)技能，且無(wú)需知道確切的名稱。
這些小的調(diào)整并不可見(jiàn)，但累積后，量變引起質(zhì)變。用戶與機(jī)器的交流，變得更加柔和、順暢，比一年前更加自然。亞馬遜不斷引入、完善機(jī)器學(xué)習(xí)技術(shù)。在人類(lèi)語(yǔ)言專(zhuān)家的幫助下，通過(guò)系統(tǒng)識(shí)別中的主動(dòng)學(xué)習(xí)功能，大大降低了錯(cuò)誤率。
亞馬遜Alexa的副總裁兼首席科學(xué)家Rohit Prasad表示，主動(dòng)學(xué)習(xí)已經(jīng)融入進(jìn)亞馬遜的每個(gè)渠道中，包括語(yǔ)音識(shí)別和自然語(yǔ)言理解?！斑@些使得亞馬遜的所有機(jī)器學(xué)習(xí)模型更加完善?！?/p>
近年來(lái)，數(shù)據(jù)表示已經(jīng)成為一項(xiàng)重要的研究課題。自然語(yǔ)言理解（NLU）系統(tǒng)很少輸入原始文本，而是采用嵌入形式。數(shù)據(jù)表示保留文本的語(yǔ)義信息，而不是以持續(xù)、確定的方式呈現(xiàn)。采用嵌入式改善特殊的NLU任務(wù)已經(jīng)被多次應(yīng)用。
今年IEEE語(yǔ)言技術(shù)峰會(huì)上，亞馬遜展示了專(zhuān)門(mén)針對(duì)Alexa NLU的數(shù)據(jù)表示方案。數(shù)據(jù)顯示，在一些關(guān)鍵任務(wù)的技能選擇上，以及在數(shù)千種技能中，該方案將技能選擇錯(cuò)誤率降低了40%。在Alexa的NLU系統(tǒng)中，用戶語(yǔ)言經(jīng)過(guò)了更加細(xì)粒度的分類(lèi)。
首先，對(duì)話領(lǐng)域或者對(duì)話主題的分類(lèi)，例如，音樂(lè)、天氣。其次，根據(jù)潛在的意圖，或者用戶所希望的對(duì)話分類(lèi)。比如，音樂(lè)領(lǐng)域中，可能是搜索、播放、下載等指令。最后，根據(jù)詞語(yǔ)位置類(lèi)型進(jìn)行分類(lèi)。例如，播放AA唱的XX歌曲，AA屬于歌手名字，XX屬于歌曲名字。
亞馬遜數(shù)據(jù)表示方案通過(guò)領(lǐng)域、意圖、位置三個(gè)方面形成了一個(gè)比較自然的層次結(jié)構(gòu)。通過(guò)一系列語(yǔ)言位置，將語(yǔ)言串聯(lián)起來(lái)來(lái)界定用戶意圖，一系列的意圖構(gòu)成了域。亞馬遜已經(jīng)訓(xùn)練了覆蓋17個(gè)域在內(nèi)的24.6萬(wàn)個(gè)語(yǔ)言神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)首先生成一個(gè)位置表示（ 雷鋒網(wǎng)注：slot representation），然后生成意圖表示（intent representation），最后產(chǎn)生域表示（domain representation）。
在訓(xùn)練期間，神經(jīng)網(wǎng)絡(luò)需要評(píng)估怎樣準(zhǔn)確地對(duì)域分類(lèi)，其目的在于表達(dá)（ 雷鋒網(wǎng)注：representation）而不是分類(lèi)（classification）。評(píng)估有效地執(zhí)行了表示的層次結(jié)構(gòu)，即確保語(yǔ)言位置和意圖不會(huì)丟失域所必須的任何信息。網(wǎng)絡(luò)輸入時(shí)，首先會(huì)通過(guò)一個(gè)“去詞匯化器”，即用一個(gè)特定的語(yǔ)言位置值代替，例如，播放Drake的Nice for What，變?yōu)椴シ鸥枋值母枨?。這個(gè)過(guò)程由單獨(dú)的NLU系統(tǒng)處理。網(wǎng)絡(luò)分類(lèi)的目的在于分類(lèi)表示的最佳方法，而不是進(jìn)行分類(lèi)。
雷鋒網(wǎng)注：架構(gòu)圖，如何產(chǎn)生意圖，聚合意圖，產(chǎn)生域表示
去詞匯化的語(yǔ)句傳遞進(jìn)入嵌入層，該層采用現(xiàn)成的嵌入網(wǎng)絡(luò)。網(wǎng)絡(luò)將單詞轉(zhuǎn)換成固定長(zhǎng)度的向量—數(shù)字串。比如，在高緯空間中的空間坐標(biāo)，將有相似意義的單詞聚集在一起。特定的詞語(yǔ)通過(guò)去詞匯化器，由網(wǎng)絡(luò)以簡(jiǎn)單的標(biāo)準(zhǔn)嵌入，但語(yǔ)言位置的理解會(huì)有所不同。通過(guò)訓(xùn)練表示網(wǎng)絡(luò)。算法對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行梳理，以識(shí)別每個(gè)語(yǔ)言位置采用的可能值。比如，天氣領(lǐng)域天氣狀況相關(guān)的語(yǔ)言位置，可能包括風(fēng)、暴雨、雪、暴雪等等。
具有相似詞語(yǔ)含義的嵌入詞彼此空間位置接近，平均嵌入層的幾個(gè)相關(guān)詞匯可以捕獲其空間位置的接近性。在訓(xùn)練以前，去詞匯化的位置被簡(jiǎn)單的嵌入，作為平均的可能值。訓(xùn)練過(guò)程中，可以修改嵌入網(wǎng)絡(luò)的設(shè)置，根據(jù)語(yǔ)言位置、意圖、域的特性情況進(jìn)行調(diào)整，基本原則仍為對(duì)向量進(jìn)行分組。
去詞匯化話語(yǔ)嵌入后傳遞到雙向長(zhǎng)短期記憶網(wǎng)絡(luò)。長(zhǎng)短期記憶LSTMs按順序處理數(shù)據(jù)，并在其之前的輸出中，處理給定的輸出因子。LSTM在NLU中被廣泛使用，因?yàn)樗梢愿鶕?jù)在句子中的位置來(lái)學(xué)習(xí)解釋單詞。融合LSTM(bi-LSTM)是處理從前到后和從后到前相同輸入序列的一種LSTM。
bi-LSTM的輸出是一個(gè)向量，用作意圖表示。意圖向量通過(guò)單個(gè)網(wǎng)絡(luò)層，該網(wǎng)絡(luò)層產(chǎn)生域表示。為了評(píng)估表示方案，亞馬遜將編碼輸入到兩種技術(shù)選擇系統(tǒng)中。當(dāng)使用原始文本作為輸入時(shí)，系統(tǒng)準(zhǔn)確率為90%，亞馬遜則將準(zhǔn)確率提高到94%。
為了證明其表示成功依賴于分類(lèi)類(lèi)別的分層嵌套，將設(shè)計(jì)的三個(gè)不同系統(tǒng)進(jìn)行比較，通過(guò)融合LSTM編碼的去詞匯化輸入學(xué)習(xí)域和意圖嵌入。三個(gè)系統(tǒng)顯示原始文本的改進(jìn)，均不能匹配分層系統(tǒng)。“從本質(zhì)講，通過(guò)深度學(xué)習(xí)，亞馬遜對(duì)大量領(lǐng)域進(jìn)行了建模，并將學(xué)習(xí)轉(zhuǎn)移到新的領(lǐng)域或者新的技能?！盧ohit Prasad說(shuō)。
最近，亞馬遜推出了遷移學(xué)習(xí)，該項(xiàng)目屬于亞馬遜未來(lái)戰(zhàn)略的一部分。機(jī)器學(xué)習(xí)的改進(jìn)最直接的影響就是使得系統(tǒng)錯(cuò)誤率較去年減少25%。此外，今年12月，亞馬遜啟動(dòng)了機(jī)器的自學(xué)習(xí)，系統(tǒng)可以聯(lián)系上下文線索進(jìn)行修正。Rohit Prasad舉例說(shuō)，用戶對(duì)Echo說(shuō)玩XM Chill請(qǐng)求失敗時(shí)，可以通過(guò)說(shuō)播放Sirius 53頻道繼續(xù)收聽(tīng)。對(duì)于Alexa而言，XM Chill和Sirius 53頻道的意義是相同且獨(dú)立的?！皬碾[藏式反饋中學(xué)習(xí)?！?/p>
“當(dāng)兩個(gè)人開(kāi)始說(shuō)話時(shí)，很容易感受、理解到對(duì)方的情緒，系統(tǒng)卻對(duì)此無(wú)能為力。人們正在努力地開(kāi)發(fā)能夠使得系統(tǒng)更加成熟，更能夠理解對(duì)話如何發(fā)展的人性化能力。”卡內(nèi)基梅隆大學(xué)語(yǔ)音識(shí)別專(zhuān)家Alex Rudnicky說(shuō)。
今年秋天，亞馬遜的一項(xiàng)技術(shù)專(zhuān)利顯示，Alexa可以識(shí)別用戶的情緒并做出相應(yīng)的反應(yīng)。Rohit Prasad表示，Alexa的最終目標(biāo)是遠(yuǎn)程會(huì)話功能，根據(jù)要求對(duì)給定的問(wèn)題作出不同的反應(yīng)，當(dāng)然，成為一個(gè)理解語(yǔ)音、語(yǔ)調(diào)微妙差別的語(yǔ)音助手還有很長(zhǎng)的一段路需要走。Alex Rudnicky認(rèn)為人類(lèi)的五大情緒中，憤怒最容易辨別成功。
現(xiàn)階段，亞馬遜在穩(wěn)定版本中擁有7萬(wàn)項(xiàng)技能，從測(cè)試、游戲再到冥想，是兩年前的7倍之多。隨著Alexa設(shè)備的增加，其技能也在不斷地改善。Alexa可以很好的預(yù)測(cè)人們的意圖，不過(guò)更多Alexa用戶并不了解其潛在的用途，廚房、鬧鈴成為用途最多的場(chǎng)景。另一方面，開(kāi)發(fā)者也沒(méi)有更多的精力、動(dòng)力研究用戶更多的潛在應(yīng)用場(chǎng)景。
事實(shí)上，語(yǔ)音助手除了直接表現(xiàn)出的使用需求之外，還擁有很多潛力。更多人使用Alexa收聽(tīng)美國(guó)國(guó)家公共電臺(tái)、檢查天氣。2016年Alexa推出過(guò)互動(dòng)幻想的游戲，算法顯然難以提醒用戶Alexa其它潛在功能的存在。
“如果我們向用戶介紹新技能、新功能，與用戶正在做的事情高度相關(guān)，那么，結(jié)果是好的。值得注意的是，這些推薦需要適當(dāng)?shù)臅r(shí)機(jī)，適當(dāng)?shù)膬?nèi)容。否則，會(huì)造成信息過(guò)載?！盩oni Reid說(shuō)。Canalys數(shù)據(jù)顯示，2018年Q3Echo出貨量為630萬(wàn)臺(tái)，谷歌僅次之，出貨量為590臺(tái)。盡管谷歌起步較晚，但谷歌已經(jīng)成為亞馬遜不能忽視的競(jìng)爭(zhēng)對(duì)手。
從市場(chǎng)體量來(lái)看，不包括第三方設(shè)備，Alexa在使用數(shù)量、用戶基數(shù)上占據(jù)了主導(dǎo)地位。但谷歌的優(yōu)勢(shì)依舊明顯，Canalys分析師Vincent Thielke表示，谷歌擁有多年的人工智能積累，Alexa則是從頭開(kāi)始。谷歌在人工智能領(lǐng)域絕對(duì)領(lǐng)先，所以很容易趕超亞馬遜。
Android、Android Auto、WearOS，可以為谷歌助手提供更多土壤。亞馬遜曾在2014推出Fire Phone，失敗較為慘烈，所以在移動(dòng)端口，亞馬遜的選擇極其有限。在汽車(chē)領(lǐng)域的較好表現(xiàn)，不能抵消其在原生項(xiàng)目集成方面落后于谷歌、蘋(píng)果。
不可否認(rèn)的是，亞馬遜Alexa增長(zhǎng)趨勢(shì)絲毫沒(méi)有放緩的跡象。優(yōu)勢(shì)和缺點(diǎn)同樣明顯的Alexa未來(lái)將會(huì)走向何方，只有Alexa知道答案。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
