2
| 本文作者： 吳德新 | 2016-11-11 19:04 | 專題：雷峰網(wǎng)公開課 |
雙十一，狂歡節(jié)。一夜之間，淘寶、天貓用戶消費千億，峰值在線人數(shù)每秒數(shù)千萬，峰值交易每秒數(shù)萬筆。用戶的每次購買都牽動商戶從備貨、調(diào)度、倉儲、物流到售后的每根神經(jīng)。
而人工智能已經(jīng)成為超高負載請求背后”看不見的手“。僅在客服一項，2015年雙十一當天淘寶+天貓全站通過自助服務(wù)共解答用戶疑問超過500W，將螞蟻金服客服效率提升了20倍。
今年雙十一，我們邀請了螞蟻金服智能服務(wù)平臺負責人黎勇，來為我們講解：
雙十一的螞蟻金服面臨哪些挑戰(zhàn)
人工智能將在雙十一的哪些環(huán)節(jié)發(fā)揮作用
人工智能部門的研發(fā)成果如何與阿里產(chǎn)品結(jié)合，為超大規(guī)模的用戶群服務(wù)
螞蟻金服現(xiàn)有主要智能服務(wù)在實踐中的特點和難點
黎勇簡介：
現(xiàn)任螞蟻金服智能服務(wù)平臺負責人。
2015年加入螞蟻金服，主要負責智能服務(wù)、智能運營、運營基礎(chǔ)相關(guān)技術(shù)產(chǎn)品的規(guī)劃和落地。
曾就職于ask.com公司任資深研發(fā)經(jīng)理，長期從事搜索相關(guān)技術(shù)的研發(fā)管理，擁有豐富的關(guān)于數(shù)據(jù)、搜索、個性化、流量相關(guān)的產(chǎn)品與技術(shù)研發(fā)管理經(jīng)驗。
以下是本次公開課的分享內(nèi)容，雷鋒網(wǎng)整理。
螞蟻人工智能部的領(lǐng)軍人是漆遠，是麻省理工媒體實驗室博士，普渡大學計算機系終身教授，擔任過機器學習權(quán)威雜志Journal of Machine Learning Research的執(zhí)行編輯和全球機器學習頂級會議ICML的領(lǐng)域主席，獲得過微軟牛頓研究獎和美國科學基金NSF Career獎。
由于人工智能基于多個學科，所以這個團隊的人才多來自大公司和高校，其中還不乏從硅谷回來的，在人工智能領(lǐng)域有多年研發(fā)經(jīng)驗，是一個非常專業(yè)、精英的團隊。
（很抱歉，我們目前還無法透露關(guān)于這個團隊的規(guī)模和具體架構(gòu)）。
這個團隊對公司各事業(yè)群的產(chǎn)品及平臺提供了人工智能支持，支撐了各項業(yè)務(wù)，比如風險控制、信貸決策、保險定價、服務(wù)推薦、客戶服務(wù)等。
最成熟、也是最典型的研發(fā)，是智能客服，上線后刨去成本，給公司節(jié)省了一億元。這主要指的是人力成本。就在幾個小時前，我們智能客服的自助服務(wù)率又刷新了紀錄，達到了99%。這個一會兒具體談到智能客服時會詳細說。
再舉一個退貨運費險的例子。這是大家最熟悉的保險，有人會問，買了這個保險，買家頻繁隨意退貨，保險公司不會虧大發(fā)了么？但其實，每個人買這個保險，價格都是不一樣的，也就是大家常說的千人千面。
這背后，是支付寶的人工智能綜合計算了每個訂單的退貨概率，考慮了消費者的性別，購物習慣，購物品類，所選店鋪等等因素，比如女剁主更容易退貨，服裝類目退貨概率比飲料類目更高，人工智能學習大量模型，大量規(guī)律，保險公司參考了人工智能的判斷，定制了每個人的運費險保額。
再舉一個例子。螞蟻金服與保險公司合作的“航空退票險”上線之后賠付率一度高達190%，保險公司面臨巨大的虧損壓力。而通過引入機器學習技術(shù)，大數(shù)據(jù)技術(shù)建模優(yōu)化后，有效地降低賠付率，并成功扭虧為盈，滿足了保險公司的核保要求。
人工智能在金融上的幾個重點應用方向，我們在客服這塊已經(jīng)有比較高的整合度。我們目前階段的研究/工程重點是什么？
在金融生活領(lǐng)域，我們打造了人工智能平臺，并且將人工智能應用于各種服務(wù)場景中，比如風險控制、信貸決策、保險定價、服務(wù)推薦、客戶服務(wù)等。通過運用人工智能的力量，我們極大地擴大了我們的服務(wù)范圍、降低了風險、提升了用戶體驗、削減了成本。
當我們講到普惠金融時，很大的難點是如何能利用有限的人力財力去為盡可能廣、盡可能多的用戶提供盡可能深度和個性化的金融服務(wù)。螞蟻金服的愿景是，未來十年要能夠為全球超過20億的用戶提供普惠的金融生活服務(wù)，只有發(fā)揮機器的智能才能解決這種規(guī)模下的普惠難題。
當我們談到機器智能時，機器是不是真正具備智能，有一、兩個非常基本的測試，它能否通過圖靈測試，或者費根鮑姆測試。我們希望未來能夠打造出金融生活領(lǐng)域的機器專家，你跟機器對話，你感受不到它是機器，而是感覺就像是銀行的金融服務(wù)顧問一樣專業(yè)和貼心。
雙十一歷經(jīng)八年，現(xiàn)在已經(jīng)常態(tài)化了。大家最關(guān)心的支付保障能力，也不是一個大問題了。
今年雙十一，支付寶核心交易、支付、會員、賬務(wù)等核心數(shù)據(jù)鏈全都運行在螞蟻自主研發(fā)的數(shù)據(jù)庫Oceanbase上，螞蟻自主研發(fā)的彈性架構(gòu)，能夠利用全國多個城市的云計算資源，輕松hold住了今年12萬筆／秒的支付峰值，這個新紀錄，是去年峰值的1.4倍。
針對全球收全球付，針對時差的問題，集團大促有兩部分，以中國和東南亞為主的買家在天貓?zhí)詫毶腺徺I從北京時11日0點開始；其他國家地區(qū)為主的買家在Aliexpress上購買以美國西岸時間11日0點開始。
境外銀行和支付渠道雖然分布廣，但經(jīng)歷大促較少，抵御大促突發(fā)高峰的能力有限。為此今年國際支付通過系統(tǒng)優(yōu)化，在支付寶系統(tǒng)內(nèi)建立強大的蓄洪緩沖隊列能力，結(jié)合用戶體驗等，做到盡可能削峰填谷保護國際發(fā)卡行和渠道。在大促之前也對重點渠道和發(fā)卡行進行了線上真實容量摸底演練。
今年雙十一，螞蟻平臺數(shù)據(jù)技術(shù)事業(yè)群all in雙十一技術(shù)保障的同學不到30人，要知道，我們做技術(shù)的團隊有3000多人。
從2010年開始，我們給自己定的目標是每年專門針對雙十一保障的投入成本比前一年要降30~50%左右，到2019年，我們不再花一分錢投入到雙十一的技術(shù)保障上。
在支付保障一塊，往年這方面的壓力可以大到什么程度？
三四年前，每逢雙十一大促，我們還要舉全公司70～80%的技術(shù)同學all in到技術(shù)保障中。比如2010年大促當天，幾百號技術(shù)同學（現(xiàn)在這個數(shù)字已經(jīng)上升到3000多人）全部坐在電腦前，緊盯電腦看系統(tǒng)，有問題立馬就要應急，不行就重啟機器，容量不行就加機器，我們笑稱這是“人肉云計算”。
臨近凌晨，大家都以為終于扛過去了，結(jié)果又給我們來一個下馬威，最后一個小時高峰突然出現(xiàn)，數(shù)據(jù)出現(xiàn)了容量問題，那時距離11.12日還有半小時，怎么辦？當時幸好設(shè)計賬務(wù)架構(gòu)的時候，給自己留了一個降級的能力，我們停止了在同一個庫上的會計系統(tǒng)，而會計和賬務(wù)是通過一部消息進行同步的，會計系統(tǒng)是我們內(nèi)部做對賬使用的，停止會計系統(tǒng)在可控的時間內(nèi)對業(yè)務(wù)是沒有影響的，因為后續(xù)還可以通過可靠消息進行恢復，所以臨時做了個決定就把這個系統(tǒng)給殺掉了，然后騰出50%容量就過去了。這才最終讓那天有驚無險安然度過。
目前最成熟的輸出是為我們的生態(tài)合作伙伴輸出智能客服技術(shù)，降低他們的成本。
另外，今年8月10日，螞蟻金服開放平臺正式上線，開放了12個分類能力給到合作伙伴，覆蓋商業(yè)經(jīng)營全流程，包括螞蟻金服最基礎(chǔ)的支付能力，獨家的數(shù)據(jù)、安全、信用、理財、融資能力，以及開店、營銷、會員、社交、協(xié)同、公共服務(wù)等能力。
金融級產(chǎn)品在高可用性、以及資金安全上有非常嚴格的要求，螞蟻金服金融業(yè)務(wù)的快速發(fā)展，對客服響應能力和應急能力提出了非常大的挑戰(zhàn)。
螞蟻金服智能服務(wù)平臺核心目標是在保證業(yè)務(wù)快速發(fā)展的同時，給用戶提供體驗更好、服務(wù)質(zhì)量更優(yōu)的客戶服務(wù)保障體系。
智能服務(wù)整體架構(gòu)包含七個主要部分：我的客服（自助）、95188（熱線）、服務(wù)大廳（在線）、服務(wù)工作臺、運營工作臺、社會化資源平臺、輿情監(jiān)控平臺。目前螞蟻金服智能機器人（我的客服）應用已經(jīng)承接了日常90%的服務(wù)訴求，服務(wù)滿意度接近人工服務(wù)滿意度。
在2015年雙十一當天全站求助通過自助服務(wù)共解答用戶疑問超過500W，自助占比高達94%，整體接通率超過99%，將螞蟻金服客服效率提升了20倍。
我們在業(yè)界是處于絕對領(lǐng)先水平的。我們可以量化一下來看效率的提升，按照人工處理的真實數(shù)據(jù)來估算，1個服務(wù)小二每天大概能處理100~150通用戶求助，按照150通來估算，500萬的求助量需要3.3萬服務(wù)人員才能較好承接。而我們通過智能客服機器人能夠給用戶帶去隨身隨地可觸達的服務(wù)體驗，服務(wù)滿意度已經(jīng)接近人工服務(wù)滿意度。
螞蟻金服的業(yè)務(wù)，會導致我們?yōu)槠煜庐a(chǎn)品做智能客服，有什么樣的特點和難點？
要理解這個問題，首先我們要了解螞蟻金服的業(yè)務(wù)背景，可能在大家的印象里會把螞蟻金服和支付寶打等號，實際上螞蟻金服目前已經(jīng)覆蓋從支付、小微貸款、理財、保險、信用、銀行、口碑等多元化的生活與金融服務(wù)，服務(wù)領(lǐng)域的多元化和復雜性，對客戶系統(tǒng)的智能化、易用性、高效性帶來了很大挑戰(zhàn)。
我們不可能為每個業(yè)務(wù)單元都搭建獨立的系統(tǒng)，因此在產(chǎn)品架構(gòu)的平臺化和擴展性上需要一開始就做到充分考慮。目前我們已經(jīng)能做到一個新業(yè)務(wù)服務(wù)系統(tǒng)在一周之內(nèi)快速上線。
跟市面上提供的智能客服技術(shù)，我們自己研發(fā)的智能客服技術(shù)主要有3個差異點：
1）基于大規(guī)模機器學習的智能化技術(shù)：
深度神經(jīng)網(wǎng)絡(luò)（DNN）被應用于實體提取、語言理解和對話狀態(tài)跟蹤，用來更好的理解用戶意圖。智能IVR采用了國際領(lǐng)先的基于深度學習的語音識別和對話技術(shù)，改變傳統(tǒng)熱線CC系統(tǒng)的菜單式引導模式，讓用戶直接通過對話語音描述需要求助的問題，理解用戶語義進行精準的用戶引導。用戶畫像和行為分析能夠根據(jù)用戶的不同狀況，準確分析用戶問題的復雜度和緊急程度，智能化引導用戶進入最合適的渠道進行問題處理。例如對于涉及到安全、欺詐類的問題第一時間自動切換到VIP人工服務(wù)，最大化程度給用戶提供安全保障。
2）完整的體系化行業(yè)解決方案：
智能客服系統(tǒng)并不是一個簡單的自助機器人，它的背后是一個完整的工程體系。我們提供了包括我的客服（自助）、95188（熱線）、服務(wù)大廳（在線）、服務(wù)工作臺、運營工作臺、社會化資源平臺、輿情監(jiān)控平臺等七個主要系統(tǒng)的完整解決方案
3）基于螞蟻金融云的企業(yè)級SAAS服務(wù)：
我們已經(jīng)在服務(wù)賦能生態(tài)的目標上走出了堅實的一步，把螞蟻金服自身業(yè)務(wù)沉淀的智能服務(wù)整體解決方案在螞蟻金融云上打造了SAAS化的螞蟻云客服產(chǎn)品，對外賦能合作商戶、合作機構(gòu)等生態(tài)合作伙伴。
1）機器學習算法的大量應用：深度神經(jīng)網(wǎng)絡(luò)（DNN）被應用于實體提取、語言理解和對話狀態(tài)跟蹤，用來更好的理解用戶意圖。例如在用戶進入我的客服首頁時，會主動猜測用戶問題，提前預判并引導用戶更高效解決問題，給予用戶關(guān)懷式的主動服務(wù)。
2）智能IVR技術(shù)突破：智能IVR采用了國際領(lǐng)先的基于深度學習的語音識別和對話技術(shù)，改變傳統(tǒng)熱線CC系統(tǒng)的菜單式引導模式，讓用戶直接通過對話語音描述需要求助的問題，理解用戶語義進行精準的用戶引導。用戶畫像和行為分析能夠根據(jù)用戶的不同狀況，準確分析用戶問題的復雜度和緊急程度，智能化引導用戶進入最合適的渠道進行問題處理。例如對于涉及到安全、欺詐類的問題第一時間自動切換到VIP人工服務(wù)，最大化程度給用戶提供安全保障。
3）知識庫閉環(huán)運營：我們有比較完整的知識庫閉環(huán)運營體系，能夠根據(jù)線上用戶反饋從客服對話記錄中挖掘用戶問題，生產(chǎn)和優(yōu)化更加貼合用戶真實訴求的知識庫。
這是個非常好的問題。我們是用產(chǎn)品化的方式來支撐業(yè)務(wù)發(fā)展，以智能客服機器人為例，在做客服機器人的過程中，沉淀了機器人平臺這個核心產(chǎn)品，包括對話管理、查詢處理、知識庫管理、用戶畫像、語音處理、語義理解、分發(fā)引擎、策略引擎、智能IVR、智能質(zhì)檢等一系列核心產(chǎn)品模塊。
本身這個機器人平臺具備很好的業(yè)務(wù)擴展性，在智能客服領(lǐng)域，我們在領(lǐng)域建模使用的是客戶服務(wù)相關(guān)的知識。在口碑業(yè)務(wù)上只需要準備好跟生活服務(wù)相關(guān)的領(lǐng)域知識作為機器人的知識內(nèi)容，它就是一個口碑生活助手。
當然，要做一個好的虛擬機器人助手，還需要與業(yè)務(wù)內(nèi)容結(jié)合做更多后續(xù)的針對性調(diào)優(yōu)和定制，這部分內(nèi)容也是很關(guān)鍵的。
就構(gòu)建智能客服機器人系統(tǒng)而言，請問最大的難點在那里？對現(xiàn)在的智能機器人客服平臺打幾分。
智能客服機器人系統(tǒng)最大的難點，從我的理解來看，包括兩個方面：
1）智能化能力：客服機器人需要接近甚至超越客服小二的服務(wù)水平和能力，離不開對數(shù)據(jù)的理解和分析應用，這個過程中需要在數(shù)據(jù)計算能力，數(shù)據(jù)應用能力，人工智能算法上面都需要有全面的突破。目前我們的智能化水平我也只能達到70分，還有很大的優(yōu)化和提升空間。
2）平臺化能力：一個好的機器人平臺，從我的理解來看，必須具備良好的擴展性。能夠面對新的業(yè)務(wù)，快速的輸出到新業(yè)務(wù)線，賦能新業(yè)務(wù)快速創(chuàng)新。而這個能力恰恰是中臺能力的一個充分體現(xiàn)。
這也是我們未來輸出賦能生態(tài)伙伴的強大基礎(chǔ)，只有平臺化做的足夠好，才有可能變成一個好的云服務(wù)，滿意不同類型，不同規(guī)模生態(tài)伙伴的服務(wù)訴求。也能夠提供給我們的ISV，定制化適合不同企業(yè)的服務(wù)產(chǎn)品
我們?nèi)绾巫龅叫聵I(yè)務(wù)服務(wù)系統(tǒng)一周內(nèi)能上線？
這其實有一個前提條件。底層平臺確實已經(jīng)做到了與具體業(yè)務(wù)知識的解耦，也就是我們說的平臺化/產(chǎn)品化的方式來做技術(shù)產(chǎn)品。前提就是對應業(yè)務(wù)線的知識已經(jīng)整理清晰，我們只需要把對應的知識庫通過平臺來導入，再結(jié)合通用的聊天，百科，天氣，等等其他通用知識類的能力，可以在一周之內(nèi)實現(xiàn)新業(yè)務(wù)客服機器人的上線。
當然，正如我剛才提到的，如果要做到90分以上優(yōu)秀的效果，是需要較長時間的知識積累和持續(xù)優(yōu)化的，這是一個必須的過程。
現(xiàn)在螞蟻金服的客服場景，是不是有別于淘寶的客服場景？前者更多的是類似于理財產(chǎn)品推銷員；后者更多是我們傳統(tǒng)意義上理解的淘寶小二；如果有不同，兩者在阿里體系中的區(qū)別以及協(xié)同合作的地方在哪呢？
你的理解是正確的，就是兩者面向的群體和業(yè)務(wù)內(nèi)容是有區(qū)別的。螞蟻金服智能客服聚焦在金融相關(guān)的服務(wù)能力優(yōu)化上，也包括你提到的未來可能的保險顧問，理財顧問等等。
在此基礎(chǔ)上，我們希望能夠沉淀完善針對不同金融行業(yè)的企業(yè)級解決方案，整體輸出賦能我們的生態(tài)合作伙伴，這個是跟我們的金融云和開放平臺的戰(zhàn)略也是緊密結(jié)合的。
你們的對話系統(tǒng)，是直接用深度學習來做決策判斷，即跳過了傳統(tǒng)對話系統(tǒng)中對“對話狀態(tài)”的認為定義？如果是這樣，那么你們的對話系統(tǒng)的輸出空間是什么呢？（i.e. action space）
深度學習算法的應用，在我們的智能客服里面還沒有達到您所提到的這種直接跳過對話狀態(tài)定義的能力。
目前我們的機器人平臺是一個比較完整的工程體系。
仍然會整合不同的處理策略，有很多可以“人為定義”的業(yè)務(wù)知識，依然是用精準模板的方式來解決的。你可以理解對話管理的策略是一個鏈路式的能力，可以根據(jù)具體的業(yè)務(wù)場景來定制策略?？梢远ㄖ撇煌哪K插件化接入。
對于新增加一個領(lǐng)域，比如 “詢問某個【具體保險產(chǎn)品】的【收益率】” 這樣一個需求，假設(shè)這個領(lǐng)域事先沒有做過，你們現(xiàn)在的系統(tǒng)能夠多快支持？ 特別當這種需求比較雜亂而且量很大的時候，沒有一個統(tǒng)一的框架，你們的系統(tǒng)怎么應付？
這個有挑戰(zhàn)性的。我們正在做的嘗試，正是您所提到的這種模糊性，或者說是新業(yè)務(wù)知識的快速學習能力。我們?nèi)斯ぶ悄軋F隊，也就是漆遠博士團隊正在做這方面的研究和應用。下次如果有可能，可以邀請漆遠博士跟大家做一個更深入的交流。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
專題
