0
| 本文作者： 周蕾 | 2020-07-21 11:03 |
"科技領(lǐng)域不做安全風(fēng)控，就等于造汽車(chē)的時(shí)候沒(méi)有做剎車(chē)。”螞蟻集團(tuán)首席AI科學(xué)家漆遠(yuǎn)這樣形容安全風(fēng)控的地位。
有安全作錨，大船方能當(dāng)風(fēng)御浪。失去安全感，信任與共識(shí)的建設(shè)也就成了無(wú)根之木。事實(shí)上，許多高精尖技術(shù)是首先在安全領(lǐng)域落地和發(fā)展，再在其他行業(yè)發(fā)光發(fā)熱。
但如今的金融安全之險(xiǎn)，或許完全超出你的想象。
當(dāng)黑天鵝事件頻發(fā)，當(dāng)黑產(chǎn)演化日新月異，風(fēng)險(xiǎn)不會(huì)只出現(xiàn)在支付或是貸前環(huán)節(jié)，也不光沖著消費(fèi)者而去。交易全鏈路的每一環(huán)、每一方都像蓄滿(mǎn)電荷的積雨云，在黑夜里等待一個(gè)爆發(fā)的契機(jī)。
可是消費(fèi)者和商戶(hù)、金融機(jī)構(gòu)最想要的那根“避雷針”是什么樣子？細(xì)細(xì)摸索這構(gòu)造極為復(fù)雜的交易網(wǎng)絡(luò)之后，我們和支付寶聊了聊他們的“秘密武器”。
未雨綢繆，可以說(shuō)是安全風(fēng)控的最理想境界。但常見(jiàn)的業(yè)內(nèi)風(fēng)控方案往往是被動(dòng)響應(yīng)式的，在交易開(kāi)始前一籌莫展，白白浪費(fèi)最佳風(fēng)控“身位”。
不做主動(dòng)風(fēng)控的原因有二，一是不敢，二是不會(huì)——在不少支付平臺(tái)看來(lái)，自己只負(fù)責(zé)保證交易正常完成，只要資金沒(méi)有被盜就算功德圓滿(mǎn)。
但支付寶選擇為用戶(hù)主動(dòng)承擔(dān)更多責(zé)任，主動(dòng)風(fēng)控也早已成為安全陣型里的常規(guī)配置。
此前他們?cè)鵀镃端用戶(hù)遭遇的網(wǎng)絡(luò)詐騙風(fēng)險(xiǎn)，調(diào)教出一套全鏈路交互式的主動(dòng)風(fēng)控體系，例如通過(guò)智能彈窗喚醒用戶(hù)，又或是延遲到賬或資金截留，盡量阻止欺詐交易的發(fā)生。
但他們很快就意識(shí)到，用彈窗中斷交易、進(jìn)行風(fēng)險(xiǎn)攔截，確實(shí)直接了當(dāng)，也確實(shí)不夠溫柔。
如果用戶(hù)因此而對(duì)風(fēng)險(xiǎn)提示無(wú)視或者反感，可能就錯(cuò)失了一次阻止欺詐發(fā)生的機(jī)會(huì)。
于是去年7月，這套主動(dòng)風(fēng)控體系架上了一把“重機(jī)槍”：反詐騙叫醒熱線(xiàn)。
當(dāng)識(shí)別到交易存在詐騙風(fēng)險(xiǎn)時(shí)，系統(tǒng)會(huì)通過(guò)數(shù)據(jù)解析和智能派單，幫助客服快速定位超過(guò)一定金額的疑似詐騙交易行為，并由人工客服和AI客服致電用戶(hù)提醒，防止消費(fèi)者在其他渠道被騙。
此前叫醒熱線(xiàn)優(yōu)先服務(wù)50歲以上的老年人，上線(xiàn)以來(lái)，詐騙資損率已下降8成；現(xiàn)在熱線(xiàn)已覆蓋全年齡段的高風(fēng)險(xiǎn)人群。
比起風(fēng)險(xiǎn)攔截，語(yǔ)音方式的提醒和交流相對(duì)不顯生硬，也更具有交互感。目前，AI客服可以做到和人工客服一樣和用戶(hù)對(duì)話(huà)，在交互中判斷用戶(hù)遭遇的騙局類(lèi)型，進(jìn)行針對(duì)性地提醒。
漆遠(yuǎn)告訴雷鋒網(wǎng)AI金融評(píng)論，這是一種“更兼顧體驗(yàn)的柔性手段”，能讓用戶(hù)理解系統(tǒng)所看見(jiàn)的風(fēng)險(xiǎn)點(diǎn)和來(lái)電的出發(fā)點(diǎn)。
“如果客戶(hù)明確表示，自己沒(méi)有被騙，我們也能通過(guò)交流，確保他后續(xù)的支付是順暢的?！彼a(bǔ)充道。
支付寶首席AI科學(xué)家 達(dá)摩院金融智能負(fù)責(zé)人漆遠(yuǎn)
這種安全感的關(guān)鍵來(lái)源之一，是支付寶持續(xù)默默深耕的知識(shí)圖譜技術(shù)，在復(fù)雜結(jié)構(gòu)的關(guān)系網(wǎng)絡(luò)中摸清犯罪團(tuán)伙的蹤跡。
在此基礎(chǔ)上，支付寶的智能風(fēng)控引擎能在0.1秒之內(nèi)，通過(guò)近500條量化策略、100個(gè)風(fēng)控模型，7*24小時(shí)實(shí)時(shí)風(fēng)險(xiǎn)檢測(cè)掃描及保護(hù)交易支付，于數(shù)億交易中精準(zhǔn)識(shí)別賬戶(hù)異常行為，對(duì)每筆交易進(jìn)行用戶(hù)行為、交易環(huán)境、關(guān)聯(lián)關(guān)系等8個(gè)維度的風(fēng)險(xiǎn)檢測(cè)。
交易鏈條的下游，藏著另一個(gè)致命難點(diǎn)：事后舉報(bào)和調(diào)解。
風(fēng)控系統(tǒng)和用戶(hù)的關(guān)系，有時(shí)像一對(duì)母子：系統(tǒng)明示了交易風(fēng)險(xiǎn)，但用戶(hù)實(shí)在“叛逆”——數(shù)據(jù)顯示，有60%的用戶(hù)被騙就是因?yàn)椴宦?tīng)系統(tǒng)一句勸，這種追悔莫及自然也讓用戶(hù)對(duì)交易后的風(fēng)控效果懷有更大的期望。
識(shí)別詐騙是一個(gè)世界性難題，如果不是造成實(shí)際損失，很多人在過(guò)程中都無(wú)法意識(shí)到自己被騙了。事后在和疑似騙子的對(duì)方發(fā)生糾紛時(shí)，也同樣很難向平臺(tái)說(shuō)明自己真的是被騙了。
第三方支付機(jī)構(gòu)一樣有苦衷：人工介入的成本太高耗時(shí)太長(zhǎng)，做一個(gè)審理系統(tǒng)又不知從何教起……
這樣一個(gè)無(wú)數(shù)用戶(hù)急需的功能，支付寶并沒(méi)有置之不理，貼合用戶(hù)訴求，快速推出了智能審理服務(wù)，用于欺詐場(chǎng)景的用戶(hù)投訴糾紛處理。
系統(tǒng)能整合各平臺(tái)商家客服、AI電話(huà)、法律援助、在線(xiàn)視頻等能力，通過(guò)文字、聊天記錄截圖、客觀數(shù)據(jù)等證據(jù)來(lái)提供調(diào)解，但最“硬核”的，還數(shù)支付寶全球首創(chuàng)的交互式舉報(bào)流程。
這種交互式與傳統(tǒng)問(wèn)卷式區(qū)別在哪兒？
以前要投訴，用戶(hù)得填一大張表格，時(shí)間地點(diǎn)投訴對(duì)象，交易過(guò)程請(qǐng)?jiān)谝?guī)定字?jǐn)?shù)內(nèi)描述完成，再一次性提交一堆不知道派不派得上用場(chǎng)的截圖。
交互式就像有一位小姐姐專(zhuān)門(mén)服務(wù)你，挑要緊的事兒先問(wèn)，再根據(jù)用戶(hù)的回答，提取出下一步有針對(duì)性的提問(wèn)，從而大幅節(jié)省用戶(hù)的時(shí)間精力。
支付寶安全實(shí)驗(yàn)室就是通過(guò)多模態(tài)模型來(lái)理解用戶(hù)，并根據(jù)去黑盒化的實(shí)時(shí)抗辯能力來(lái)判斷風(fēng)險(xiǎn)、類(lèi)案、缺失要素，從而定制交互信息。
這表面是客服，實(shí)際要做的是一個(gè)機(jī)器“判官”，要看得懂證據(jù)，聽(tīng)得懂吵架，能明辨是非正確判決，最后還要給出用戶(hù)可以接受的調(diào)解結(jié)果。
漆遠(yuǎn)也坦言，抗辯性和司法層面的AI可解釋性是當(dāng)中最難跨的兩道坎。
抗辯性，顧名思義，如果雙方掐起架來(lái)，AI必須要能理解兩邊吵架的邏輯。比起“解語(yǔ)花”式的智能客服，“老娘舅”式智能審理客服的升級(jí)之處就在于系統(tǒng)對(duì)抗辯性的自洽和更大容納。
可解釋性，是指在每一輪智能交互中，AI都基于當(dāng)前所掌握的信息，給出具有解釋性的識(shí)別結(jié)果或決策。
漆遠(yuǎn)對(duì)AI的可解釋性格外重視，在他看來(lái)，機(jī)器學(xué)習(xí)算法之所以在業(yè)務(wù)安全落地時(shí)，對(duì)可解釋性要求非常高，是因?yàn)橥耆诤械哪Ｐ涂赡茉斐蔁o(wú)法預(yù)料的后果，這在業(yè)務(wù)安全上有較大的危險(xiǎn)，需要有人可以理解的邏輯和介入修正。
尤其是在處理投訴和糾紛，或人機(jī)交互的過(guò)程中，直接反饋給用戶(hù)的處理決定，對(duì)解釋性的要求更高，需要用人可以理解的語(yǔ)言和邏輯去表述。
也就是說(shuō)，AI的發(fā)言得讓人聽(tīng)懂，并且有理有據(jù)令人信服。
“從法律層面出發(fā)，這項(xiàng)功能要做到全要素審核，采用的必須是與司法知識(shí)相結(jié)合的AI，不光能理解法律，更要能把法律的核心要點(diǎn)用人可以理解的語(yǔ)言和邏輯順利解釋出來(lái)。所以要在技術(shù)層面下功夫，還要聯(lián)合運(yùn)營(yíng)、司法實(shí)務(wù)的同學(xué)去共建。”漆遠(yuǎn)補(bǔ)充道。
據(jù)支付寶安全實(shí)驗(yàn)室透露，目前智能審理可以實(shí)時(shí)1秒內(nèi)定性，可定性的風(fēng)險(xiǎn)涵蓋盜用，欺詐，賭博，非法投融資等20余種，定性準(zhǔn)確率已經(jīng)超過(guò)95%。
如果說(shuō)主動(dòng)為C端消費(fèi)者的交易安全“負(fù)重前行”已屬不易，迅速讓廣大商戶(hù)復(fù)工復(fù)產(chǎn)、恢復(fù)經(jīng)營(yíng)任務(wù)則是難上加難。
以商戶(hù)入網(wǎng)為例，核查常以線(xiàn)下人工操作為主；如今在防疫要求下，推廣無(wú)接觸式的線(xiàn)上申請(qǐng)和審核，優(yōu)化商戶(hù)入駐體驗(yàn)、簡(jiǎn)化簽約流程成為當(dāng)務(wù)之急。
但線(xiàn)上模式仍然存在缺陷：在審核商戶(hù)的門(mén)頭照、營(yíng)業(yè)執(zhí)照、網(wǎng)站及APP等憑證時(shí)，機(jī)器還是很難替代人工，審核時(shí)效慢、成本高、易積壓，人工還很難識(shí)別出偽冒及沖突等風(fēng)險(xiǎn)。
利楚掃唄就是面臨商戶(hù)入駐核查難的企業(yè)之一，支付寶針對(duì)這些痛點(diǎn)，為這家聚合支付服務(wù)商打造了專(zhuān)屬入網(wǎng)審查方案：
采取證照OCR自動(dòng)識(shí)別技術(shù)，商戶(hù)或業(yè)務(wù)BD用入網(wǎng)工具拍攝上傳，系統(tǒng)即可自動(dòng)上傳、自動(dòng)識(shí)別、快速入網(wǎng)，自動(dòng)查詢(xún)商戶(hù)的法人身份證和執(zhí)照信息是否真實(shí)。
這一方案的成功實(shí)施，讓利楚掃唄現(xiàn)在的日均新入網(wǎng)商戶(hù)數(shù)達(dá)到了1500多家。
這樣的技術(shù)能力，不只輸出給武漢利楚一家。早在去年4月，支付寶安全實(shí)驗(yàn)室就整合了應(yīng)用圖像識(shí)別、多態(tài)融合、NLP、神經(jīng)網(wǎng)絡(luò)、知識(shí)圖譜等技術(shù)，沉淀出了eKYB產(chǎn)品——商保寶，具備對(duì)營(yíng)業(yè)執(zhí)照、經(jīng)營(yíng)場(chǎng)景照、網(wǎng)址、特殊資質(zhì)、經(jīng)營(yíng)人主體的真實(shí)性核驗(yàn)?zāi)芰Α?/p>
在商保寶的助力下，商戶(hù)入駐KYB時(shí)效已降至1小時(shí)（其中91%秒過(guò)），審核人力由155人下降至23人，年審核成本節(jié)約1600萬(wàn)；客戶(hù)簽約通過(guò)率提升18%。
目前，商保寶也已經(jīng)進(jìn)一步輸出給集團(tuán)如花唄、小程序、飛豬等7大業(yè)務(wù)場(chǎng)景，以及通聯(lián)、錢(qián)盒等3家外部生態(tài)伙伴，為更多業(yè)務(wù)場(chǎng)景的客戶(hù)帶去體驗(yàn)的提升。
商戶(hù)風(fēng)險(xiǎn)圖譜，是商保寶的技術(shù)內(nèi)核。
漆遠(yuǎn)分析稱(chēng)，做圖譜要先把商戶(hù)知識(shí)這種非結(jié)構(gòu)化數(shù)據(jù)，規(guī)整為形如圖表的結(jié)構(gòu)化形式；然后關(guān)聯(lián)商戶(hù)的知識(shí)，構(gòu)成圖譜，借此從不同維度來(lái)理解商戶(hù)本身所隱藏的風(fēng)險(xiǎn)與價(jià)值。
就像是把一堆亂七八糟打成死結(jié)的毛線(xiàn)，先梳理成團(tuán)，再靠技術(shù)“毛衣針”織出細(xì)密的商戶(hù)網(wǎng)。
商保寶的另一個(gè)殺手锏，則是螞蟻集團(tuán)從2016年就悄然布局的共享智能技術(shù)。
當(dāng)建模有多方參與，且各方互不信任，共享智能讓多方信息可由此進(jìn)入“不可見(jiàn)”的安全可信環(huán)境，并在此基礎(chǔ)上實(shí)現(xiàn)技術(shù)共享、模型共建、風(fēng)險(xiǎn)信息個(gè)性化識(shí)別。
共享智能應(yīng)用于商保寶時(shí)，就是商戶(hù)的隱私數(shù)據(jù)始終由各自保留，通過(guò)在每方部署的計(jì)算模塊得出有關(guān)商戶(hù)的分析結(jié)果和模型。
與此同時(shí)，支付寶安全實(shí)驗(yàn)室還在B端以智能憑證項(xiàng)目為起點(diǎn)，沉淀了一系列商戶(hù)eKYB認(rèn)證能力，為商戶(hù)真實(shí)性認(rèn)證提供整套綜合解決方案。
例如一些服務(wù)商會(huì)對(duì)旗下優(yōu)質(zhì)商戶(hù)提供特權(quán)服務(wù)，在接入之前，都是需要一段時(shí)間的“觀察期”，根據(jù)該段時(shí)間商戶(hù)的交易狀況及金額等因素評(píng)估商戶(hù)質(zhì)量；在接入商戶(hù)健康分服務(wù)后，可以有效縮短審核周期，極大提升了用戶(hù)體驗(yàn)。
這些To B服務(wù)就像是給經(jīng)營(yíng)鏈條抹上一層潤(rùn)滑油，多個(gè)環(huán)節(jié)的數(shù)字化、智能化升級(jí)不光提升了商戶(hù)的入駐效率和經(jīng)營(yíng)水平，同時(shí)也讓廣大中小商戶(hù)盡早適應(yīng)數(shù)字化生活的新浪潮，從而促進(jìn)全社會(huì)運(yùn)營(yíng)成本的降低。
在疫情后的今天，這樣的技術(shù)普惠思路和實(shí)踐，對(duì)中國(guó)乃至世界都意義重大。
細(xì)看支付寶打造的安全技術(shù)方案，就像是復(fù)雜機(jī)器里嚙合完美的齒輪，我們也從中逐點(diǎn)拼湊出一幅當(dāng)代社會(huì)的理想AI圖樣：善解人意、更加主動(dòng)、更明白如何與人互動(dòng)……
數(shù)字新基建浪潮下的的AI，究竟應(yīng)該具備哪些特質(zhì)？漆遠(yuǎn)判斷AI未來(lái)三個(gè)重要方向是：
第一，是數(shù)據(jù)學(xué)習(xí)與知識(shí)推理結(jié)合，共同驅(qū)動(dòng)。
“AI其實(shí)像一個(gè)被高考機(jī)器慣出來(lái)的孩子?！逼徇h(yuǎn)這樣形容AI目前發(fā)展“偏科”的情況，好比一位有著特別強(qiáng)大的記憶體的學(xué)生，能通過(guò)題海戰(zhàn)術(shù)學(xué)習(xí)了大量知識(shí)點(diǎn)之后，做題效率極高，卻不懂怎么推理。
接下來(lái)需要讓AI成長(zhǎng)得更有“常識(shí)”和“情商”，打出“見(jiàn)多識(shí)廣+推理能力”這套組合拳，把人類(lèi)的知識(shí)經(jīng)驗(yàn)形成規(guī)則，與算法在一個(gè)體系里共建，以人機(jī)結(jié)合的智能體系共同前進(jìn)。
他表示，如果AI能實(shí)現(xiàn)因果分析這一最高境界，知道風(fēng)險(xiǎn)能夠產(chǎn)生的原因，也就能更有效地防范風(fēng)險(xiǎn)。
第二，提升AI系統(tǒng)的魯棒性、可靠性，重點(diǎn)關(guān)注對(duì)抗學(xué)習(xí)、博弈智能。
漆遠(yuǎn)表示，AI應(yīng)該在對(duì)抗中提升魯棒性，就像人在社會(huì)里成長(zhǎng)，必須學(xué)會(huì)經(jīng)受住更多的打擊。
智能風(fēng)控和反欺詐模型之所以會(huì)仍被黑產(chǎn)不定時(shí)的繞過(guò)和突破，一大原因就是黑產(chǎn)攻擊手法變化快。
在他看來(lái)，系統(tǒng)除了要在工程上迅速靈活響應(yīng)，更要做到在算法層自動(dòng)分析組合可能發(fā)生的攻擊，產(chǎn)生對(duì)抗模型，通過(guò)弱監(jiān)督算法、動(dòng)態(tài)蒸餾、自動(dòng)化更新等算法提升模型快速適配能力。
就像下棋一樣，黑產(chǎn)走了一步，AI要想好黑產(chǎn)接下來(lái)的三四步會(huì)怎么走。
而博弈論某種程度上作為高度凝練的“下棋指南”，本質(zhì)是策略對(duì)抗，預(yù)測(cè)行為和結(jié)果，應(yīng)用場(chǎng)景也十分廣泛，對(duì)抗黑產(chǎn)、處理交易糾紛、設(shè)計(jì)調(diào)解機(jī)制……這些都是對(duì)抗博弈的形式的范疇。
因此，博弈論思想和AI結(jié)合的博弈智能，以及在快速主動(dòng)風(fēng)控中的應(yīng)用，也是關(guān)鍵的AI未來(lái)方向之一。
AI金融評(píng)論了解到，支付寶安全實(shí)驗(yàn)室已經(jīng)基于博弈智能打造了智能攻防算法，是世界上首次把深度學(xué)習(xí)引入博弈論并在德州撲克子實(shí)驗(yàn)上取得世界領(lǐng)先的水平。
第三，保護(hù)數(shù)據(jù)隱私的AI技術(shù)將越來(lái)越重要。
對(duì)用戶(hù)或者客戶(hù)而言，技術(shù)要保護(hù)好用戶(hù)的隱私，但是又要提供基于數(shù)據(jù)背后價(jià)值的服務(wù)?；膺@對(duì)矛盾的技術(shù)，在保護(hù)隱私的基礎(chǔ)上打破數(shù)據(jù)孤島，產(chǎn)生數(shù)據(jù)融合價(jià)值，漆遠(yuǎn)認(rèn)為是接下來(lái)AI另一個(gè)至關(guān)緊要的進(jìn)化方向。
比如各機(jī)構(gòu)之間信息脫節(jié)，讓安全水位參差不齊。某一安全事件的爆發(fā)，往往牽連多家相關(guān)企業(yè)，行業(yè)短板將引發(fā)木桶理論中全局危機(jī)的出現(xiàn)。
這正是螞蟻布局共享智能技術(shù)的重要原因之一。基于共享智能做聯(lián)合風(fēng)控，在保護(hù)各自數(shù)據(jù)隱私安全的前提下，實(shí)現(xiàn)風(fēng)險(xiǎn)聯(lián)防，打破信息孤島的困局，在數(shù)字化進(jìn)程持續(xù)加速的今天，意義非凡。
支付寶研發(fā)的端云霧智能風(fēng)控，同樣是體現(xiàn)這一趨勢(shì)的重要底層技術(shù)之一。
漆遠(yuǎn)向AI金融評(píng)論透露，目前這一風(fēng)控方案使得99%的用戶(hù)數(shù)據(jù)及風(fēng)控計(jì)算在用戶(hù)終端完成，結(jié)合隱私保護(hù)的機(jī)器學(xué)習(xí)技術(shù)，可以更有效地保障用戶(hù)數(shù)據(jù)隱私安全，也最大程度降低了云端運(yùn)算負(fù)載，它已是世界上使用人群基數(shù)最大、并發(fā)數(shù)最高的終端風(fēng)控。
復(fù)盤(pán)支付寶的行進(jìn)軌跡，會(huì)看見(jiàn)一條清晰的主線(xiàn)：用科技實(shí)現(xiàn)普惠。
普惠金融這個(gè)詞已不新鮮，但在漆遠(yuǎn)看來(lái)，借由技術(shù)手段有效地降低服務(wù)成本、提高服務(wù)效率，讓服務(wù)觸達(dá)到以往難以覆蓋的長(zhǎng)尾人群，真正做到“供氧毛細(xì)血管”，從而促進(jìn)社會(huì)的發(fā)展，方屬普惠的本意。
“做技術(shù)落地，某種程度上你要相信技術(shù)本身的價(jià)值，愿意為此付出努力，最后看見(jiàn)價(jià)值的產(chǎn)生?！彼f(shuō)道。
正如同他剛加入阿里，著手研發(fā)第一代超大規(guī)模機(jī)器學(xué)習(xí)平臺(tái)的時(shí)候。當(dāng)時(shí)的國(guó)內(nèi)，甚至是阿里內(nèi)部，普遍對(duì)超大規(guī)模機(jī)器學(xué)習(xí)平臺(tái)的價(jià)值是不理解的。
“一個(gè)嶄新的技術(shù)，要讓大家能夠看到它的價(jià)值?！睅е@樣的想法，漆遠(yuǎn)和他的團(tuán)隊(duì)在不理解的目光中“憋著一口氣”咬牙迎戰(zhàn)，團(tuán)隊(duì)不少骨干整個(gè)春節(jié)都在加班。項(xiàng)目直到夏天終于實(shí)現(xiàn)大規(guī)模上線(xiàn)，奠定了阿里巴巴第一代機(jī)器學(xué)習(xí)平臺(tái)的基礎(chǔ)。
正是這種“因?yàn)橄嘈潘钥匆?jiàn)”帶來(lái)的使命感，驅(qū)使著支付寶的科學(xué)家和工程師們步履不停，向技術(shù)普惠的愿景繼續(xù)前行。
封面圖片來(lái)源：電影《血戰(zhàn)鋼鋸嶺》
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
相關(guān)文章：
支付寶安全的功守道：15年時(shí)間，再次定義AI風(fēng)控
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
