0
"科技領(lǐng)域不做安全風(fēng)控，就等于造汽車的時(shí)候沒有做剎車。”螞蟻集團(tuán)首席AI科學(xué)家漆遠(yuǎn)這樣形容安全風(fēng)控的地位。
有安全作錨，大船方能當(dāng)風(fēng)御浪。失去安全感，信任與共識(shí)的建設(shè)也就成了無根之木。事實(shí)上，許多高精尖技術(shù)是首先在安全領(lǐng)域落地和發(fā)展，再在其他行業(yè)發(fā)光發(fā)熱。
但如今的金融安全之險(xiǎn)，或許完全超出你的想象。
當(dāng)黑天鵝事件頻發(fā)，當(dāng)黑產(chǎn)演化日新月異，風(fēng)險(xiǎn)不會(huì)只出現(xiàn)在支付或是貸前環(huán)節(jié)，也不光沖著消費(fèi)者而去。交易全鏈路的每一環(huán)、每一方都像蓄滿電荷的積雨云，在黑夜里等待一個(gè)爆發(fā)的契機(jī)。
可是消費(fèi)者和商戶、金融機(jī)構(gòu)最想要的那根“避雷針”是什么樣子？細(xì)細(xì)摸索這構(gòu)造極為復(fù)雜的交易網(wǎng)絡(luò)之后，我們和支付寶聊了聊他們的“秘密武器”。
未雨綢繆，可以說是安全風(fēng)控的最理想境界。但常見的業(yè)內(nèi)風(fēng)控方案往往是被動(dòng)響應(yīng)式的，在交易開始前一籌莫展，白白浪費(fèi)最佳風(fēng)控“身位”。
不做主動(dòng)風(fēng)控的原因有二，一是不敢，二是不會(huì)——在不少支付平臺(tái)看來，自己只負(fù)責(zé)保證交易正常完成，只要資金沒有被盜就算功德圓滿。
但支付寶選擇為用戶主動(dòng)承擔(dān)更多責(zé)任，主動(dòng)風(fēng)控也早已成為安全陣型里的常規(guī)配置。
此前他們曾為C端用戶遭遇的網(wǎng)絡(luò)詐騙風(fēng)險(xiǎn)，調(diào)教出一套全鏈路交互式的主動(dòng)風(fēng)控體系，例如通過智能彈窗喚醒用戶，又或是延遲到賬或資金截留，盡量阻止欺詐交易的發(fā)生。
但他們很快就意識(shí)到，用彈窗中斷交易、進(jìn)行風(fēng)險(xiǎn)攔截，確實(shí)直接了當(dāng)，也確實(shí)不夠溫柔。
如果用戶因此而對風(fēng)險(xiǎn)提示無視或者反感，可能就錯(cuò)失了一次阻止欺詐發(fā)生的機(jī)會(huì)。
于是去年7月，這套主動(dòng)風(fēng)控體系架上了一把“重機(jī)槍”：反詐騙叫醒熱線。
當(dāng)識(shí)別到交易存在詐騙風(fēng)險(xiǎn)時(shí)，系統(tǒng)會(huì)通過數(shù)據(jù)解析和智能派單，幫助客服快速定位超過一定金額的疑似詐騙交易行為，并由人工客服和AI客服致電用戶提醒，防止消費(fèi)者在其他渠道被騙。
此前叫醒熱線優(yōu)先服務(wù)50歲以上的老年人，上線以來，詐騙資損率已下降8成；現(xiàn)在熱線已覆蓋全年齡段的高風(fēng)險(xiǎn)人群。
比起風(fēng)險(xiǎn)攔截，語音方式的提醒和交流相對不顯生硬，也更具有交互感。目前，AI客服可以做到和人工客服一樣和用戶對話，在交互中判斷用戶遭遇的騙局類型，進(jìn)行針對性地提醒。
漆遠(yuǎn)告訴雷鋒網(wǎng)AI金融評(píng)論，這是一種“更兼顧體驗(yàn)的柔性手段”，能讓用戶理解系統(tǒng)所看見的風(fēng)險(xiǎn)點(diǎn)和來電的出發(fā)點(diǎn)。
“如果客戶明確表示，自己沒有被騙，我們也能通過交流，確保他后續(xù)的支付是順暢的?！彼a(bǔ)充道。
支付寶首席AI科學(xué)家 達(dá)摩院金融智能負(fù)責(zé)人漆遠(yuǎn)
這種安全感的關(guān)鍵來源之一，是支付寶持續(xù)默默深耕的知識(shí)圖譜技術(shù)，在復(fù)雜結(jié)構(gòu)的關(guān)系網(wǎng)絡(luò)中摸清犯罪團(tuán)伙的蹤跡。
在此基礎(chǔ)上，支付寶的智能風(fēng)控引擎能在0.1秒之內(nèi)，通過近500條量化策略、100個(gè)風(fēng)控模型，7*24小時(shí)實(shí)時(shí)風(fēng)險(xiǎn)檢測掃描及保護(hù)交易支付，于數(shù)億交易中精準(zhǔn)識(shí)別賬戶異常行為，對每筆交易進(jìn)行用戶行為、交易環(huán)境、關(guān)聯(lián)關(guān)系等8個(gè)維度的風(fēng)險(xiǎn)檢測。
交易鏈條的下游，藏著另一個(gè)致命難點(diǎn)：事后舉報(bào)和調(diào)解。
風(fēng)控系統(tǒng)和用戶的關(guān)系，有時(shí)像一對母子：系統(tǒng)明示了交易風(fēng)險(xiǎn)，但用戶實(shí)在“叛逆”——數(shù)據(jù)顯示，有60%的用戶被騙就是因?yàn)椴宦犗到y(tǒng)一句勸，這種追悔莫及自然也讓用戶對交易后的風(fēng)控效果懷有更大的期望。
識(shí)別詐騙是一個(gè)世界性難題，如果不是造成實(shí)際損失，很多人在過程中都無法意識(shí)到自己被騙了。事后在和疑似騙子的對方發(fā)生糾紛時(shí)，也同樣很難向平臺(tái)說明自己真的是被騙了。
第三方支付機(jī)構(gòu)一樣有苦衷：人工介入的成本太高耗時(shí)太長，做一個(gè)審理系統(tǒng)又不知從何教起……
這樣一個(gè)無數(shù)用戶急需的功能，支付寶并沒有置之不理，貼合用戶訴求，快速推出了智能審理服務(wù)，用于欺詐場景的用戶投訴糾紛處理。
系統(tǒng)能整合各平臺(tái)商家客服、AI電話、法律援助、在線視頻等能力，通過文字、聊天記錄截圖、客觀數(shù)據(jù)等證據(jù)來提供調(diào)解，但最“硬核”的，還數(shù)支付寶全球首創(chuàng)的交互式舉報(bào)流程。
這種交互式與傳統(tǒng)問卷式區(qū)別在哪兒？
以前要投訴，用戶得填一大張表格，時(shí)間地點(diǎn)投訴對象，交易過程請?jiān)谝?guī)定字?jǐn)?shù)內(nèi)描述完成，再一次性提交一堆不知道派不派得上用場的截圖。
交互式就像有一位小姐姐專門服務(wù)你，挑要緊的事兒先問，再根據(jù)用戶的回答，提取出下一步有針對性的提問，從而大幅節(jié)省用戶的時(shí)間精力。
支付寶安全實(shí)驗(yàn)室就是通過多模態(tài)模型來理解用戶，并根據(jù)去黑盒化的實(shí)時(shí)抗辯能力來判斷風(fēng)險(xiǎn)、類案、缺失要素，從而定制交互信息。
這表面是客服，實(shí)際要做的是一個(gè)機(jī)器“判官”，要看得懂證據(jù)，聽得懂吵架，能明辨是非正確判決，最后還要給出用戶可以接受的調(diào)解結(jié)果。
漆遠(yuǎn)也坦言，抗辯性和司法層面的AI可解釋性是當(dāng)中最難跨的兩道坎。
抗辯性，顧名思義，如果雙方掐起架來，AI必須要能理解兩邊吵架的邏輯。比起“解語花”式的智能客服，“老娘舅”式智能審理客服的升級(jí)之處就在于系統(tǒng)對抗辯性的自洽和更大容納。
可解釋性，是指在每一輪智能交互中，AI都基于當(dāng)前所掌握的信息，給出具有解釋性的識(shí)別結(jié)果或決策。
漆遠(yuǎn)對AI的可解釋性格外重視，在他看來，機(jī)器學(xué)習(xí)算法之所以在業(yè)務(wù)安全落地時(shí)，對可解釋性要求非常高，是因?yàn)橥耆诤械哪Ｐ涂赡茉斐蔁o法預(yù)料的后果，這在業(yè)務(wù)安全上有較大的危險(xiǎn)，需要有人可以理解的邏輯和介入修正。
尤其是在處理投訴和糾紛，或人機(jī)交互的過程中，直接反饋給用戶的處理決定，對解釋性的要求更高，需要用人可以理解的語言和邏輯去表述。
也就是說，AI的發(fā)言得讓人聽懂，并且有理有據(jù)令人信服。
“從法律層面出發(fā)，這項(xiàng)功能要做到全要素審核，采用的必須是與司法知識(shí)相結(jié)合的AI，不光能理解法律，更要能把法律的核心要點(diǎn)用人可以理解的語言和邏輯順利解釋出來。所以要在技術(shù)層面下功夫，還要聯(lián)合運(yùn)營、司法實(shí)務(wù)的同學(xué)去共建?！逼徇h(yuǎn)補(bǔ)充道。
據(jù)支付寶安全實(shí)驗(yàn)室透露，目前智能審理可以實(shí)時(shí)1秒內(nèi)定性，可定性的風(fēng)險(xiǎn)涵蓋盜用，欺詐，賭博，非法投融資等20余種，定性準(zhǔn)確率已經(jīng)超過95%。
如果說主動(dòng)為C端消費(fèi)者的交易安全“負(fù)重前行”已屬不易，迅速讓廣大商戶復(fù)工復(fù)產(chǎn)、恢復(fù)經(jīng)營任務(wù)則是難上加難。
以商戶入網(wǎng)為例，核查常以線下人工操作為主；如今在防疫要求下，推廣無接觸式的線上申請和審核，優(yōu)化商戶入駐體驗(yàn)、簡化簽約流程成為當(dāng)務(wù)之急。
但線上模式仍然存在缺陷：在審核商戶的門頭照、營業(yè)執(zhí)照、網(wǎng)站及APP等憑證時(shí)，機(jī)器還是很難替代人工，審核時(shí)效慢、成本高、易積壓，人工還很難識(shí)別出偽冒及沖突等風(fēng)險(xiǎn)。
利楚掃唄就是面臨商戶入駐核查難的企業(yè)之一，支付寶針對這些痛點(diǎn)，為這家聚合支付服務(wù)商打造了專屬入網(wǎng)審查方案：
采取證照OCR自動(dòng)識(shí)別技術(shù)，商戶或業(yè)務(wù)BD用入網(wǎng)工具拍攝上傳，系統(tǒng)即可自動(dòng)上傳、自動(dòng)識(shí)別、快速入網(wǎng)，自動(dòng)查詢商戶的法人身份證和執(zhí)照信息是否真實(shí)。
這一方案的成功實(shí)施，讓利楚掃唄現(xiàn)在的日均新入網(wǎng)商戶數(shù)達(dá)到了1500多家。
這樣的技術(shù)能力，不只輸出給武漢利楚一家。早在去年4月，支付寶安全實(shí)驗(yàn)室就整合了應(yīng)用圖像識(shí)別、多態(tài)融合、NLP、神經(jīng)網(wǎng)絡(luò)、知識(shí)圖譜等技術(shù)，沉淀出了eKYB產(chǎn)品——商保寶，具備對營業(yè)執(zhí)照、經(jīng)營場景照、網(wǎng)址、特殊資質(zhì)、經(jīng)營人主體的真實(shí)性核驗(yàn)?zāi)芰Α?/p>
在商保寶的助力下，商戶入駐KYB時(shí)效已降至1小時(shí)（其中91%秒過），審核人力由155人下降至23人，年審核成本節(jié)約1600萬；客戶簽約通過率提升18%。
目前，商保寶也已經(jīng)進(jìn)一步輸出給集團(tuán)如花唄、小程序、飛豬等7大業(yè)務(wù)場景，以及通聯(lián)、錢盒等3家外部生態(tài)伙伴，為更多業(yè)務(wù)場景的客戶帶去體驗(yàn)的提升。
商戶風(fēng)險(xiǎn)圖譜，是商保寶的技術(shù)內(nèi)核。
漆遠(yuǎn)分析稱，做圖譜要先把商戶知識(shí)這種非結(jié)構(gòu)化數(shù)據(jù)，規(guī)整為形如圖表的結(jié)構(gòu)化形式；然后關(guān)聯(lián)商戶的知識(shí)，構(gòu)成圖譜，借此從不同維度來理解商戶本身所隱藏的風(fēng)險(xiǎn)與價(jià)值。
就像是把一堆亂七八糟打成死結(jié)的毛線，先梳理成團(tuán)，再靠技術(shù)“毛衣針”織出細(xì)密的商戶網(wǎng)。
商保寶的另一個(gè)殺手锏，則是螞蟻集團(tuán)從2016年就悄然布局的共享智能技術(shù)。
當(dāng)建模有多方參與，且各方互不信任，共享智能讓多方信息可由此進(jìn)入“不可見”的安全可信環(huán)境，并在此基礎(chǔ)上實(shí)現(xiàn)技術(shù)共享、模型共建、風(fēng)險(xiǎn)信息個(gè)性化識(shí)別。
共享智能應(yīng)用于商保寶時(shí)，就是商戶的隱私數(shù)據(jù)始終由各自保留，通過在每方部署的計(jì)算模塊得出有關(guān)商戶的分析結(jié)果和模型。
與此同時(shí)，支付寶安全實(shí)驗(yàn)室還在B端以智能憑證項(xiàng)目為起點(diǎn)，沉淀了一系列商戶eKYB認(rèn)證能力，為商戶真實(shí)性認(rèn)證提供整套綜合解決方案。
例如一些服務(wù)商會(huì)對旗下優(yōu)質(zhì)商戶提供特權(quán)服務(wù)，在接入之前，都是需要一段時(shí)間的“觀察期”，根據(jù)該段時(shí)間商戶的交易狀況及金額等因素評(píng)估商戶質(zhì)量；在接入商戶健康分服務(wù)后，可以有效縮短審核周期，極大提升了用戶體驗(yàn)。
這些To B服務(wù)就像是給經(jīng)營鏈條抹上一層潤滑油，多個(gè)環(huán)節(jié)的數(shù)字化、智能化升級(jí)不光提升了商戶的入駐效率和經(jīng)營水平，同時(shí)也讓廣大中小商戶盡早適應(yīng)數(shù)字化生活的新浪潮，從而促進(jìn)全社會(huì)運(yùn)營成本的降低。
在疫情后的今天，這樣的技術(shù)普惠思路和實(shí)踐，對中國乃至世界都意義重大。
細(xì)看支付寶打造的安全技術(shù)方案，就像是復(fù)雜機(jī)器里嚙合完美的齒輪，我們也從中逐點(diǎn)拼湊出一幅當(dāng)代社會(huì)的理想AI圖樣：善解人意、更加主動(dòng)、更明白如何與人互動(dòng)……
數(shù)字新基建浪潮下的的AI，究竟應(yīng)該具備哪些特質(zhì)？漆遠(yuǎn)判斷AI未來三個(gè)重要方向是：
第一，是數(shù)據(jù)學(xué)習(xí)與知識(shí)推理結(jié)合，共同驅(qū)動(dòng)。
“AI其實(shí)像一個(gè)被高考機(jī)器慣出來的孩子?！逼徇h(yuǎn)這樣形容AI目前發(fā)展“偏科”的情況，好比一位有著特別強(qiáng)大的記憶體的學(xué)生，能通過題海戰(zhàn)術(shù)學(xué)習(xí)了大量知識(shí)點(diǎn)之后，做題效率極高，卻不懂怎么推理。
接下來需要讓AI成長得更有“常識(shí)”和“情商”，打出“見多識(shí)廣+推理能力”這套組合拳，把人類的知識(shí)經(jīng)驗(yàn)形成規(guī)則，與算法在一個(gè)體系里共建，以人機(jī)結(jié)合的智能體系共同前進(jìn)。
他表示，如果AI能實(shí)現(xiàn)因果分析這一最高境界，知道風(fēng)險(xiǎn)能夠產(chǎn)生的原因，也就能更有效地防范風(fēng)險(xiǎn)。
第二，提升AI系統(tǒng)的魯棒性、可靠性，重點(diǎn)關(guān)注對抗學(xué)習(xí)、博弈智能。
漆遠(yuǎn)表示，AI應(yīng)該在對抗中提升魯棒性，就像人在社會(huì)里成長，必須學(xué)會(huì)經(jīng)受住更多的打擊。
智能風(fēng)控和反欺詐模型之所以會(huì)仍被黑產(chǎn)不定時(shí)的繞過和突破，一大原因就是黑產(chǎn)攻擊手法變化快。
在他看來，系統(tǒng)除了要在工程上迅速靈活響應(yīng)，更要做到在算法層自動(dòng)分析組合可能發(fā)生的攻擊，產(chǎn)生對抗模型，通過弱監(jiān)督算法、動(dòng)態(tài)蒸餾、自動(dòng)化更新等算法提升模型快速適配能力。
就像下棋一樣，黑產(chǎn)走了一步，AI要想好黑產(chǎn)接下來的三四步會(huì)怎么走。
而博弈論某種程度上作為高度凝練的“下棋指南”，本質(zhì)是策略對抗，預(yù)測行為和結(jié)果，應(yīng)用場景也十分廣泛，對抗黑產(chǎn)、處理交易糾紛、設(shè)計(jì)調(diào)解機(jī)制……這些都是對抗博弈的形式的范疇。
因此，博弈論思想和AI結(jié)合的博弈智能，以及在快速主動(dòng)風(fēng)控中的應(yīng)用，也是關(guān)鍵的AI未來方向之一。
AI金融評(píng)論了解到，支付寶安全實(shí)驗(yàn)室已經(jīng)基于博弈智能打造了智能攻防算法，是世界上首次把深度學(xué)習(xí)引入博弈論并在德州撲克子實(shí)驗(yàn)上取得世界領(lǐng)先的水平。
第三，保護(hù)數(shù)據(jù)隱私的AI技術(shù)將越來越重要。
對用戶或者客戶而言，技術(shù)要保護(hù)好用戶的隱私，但是又要提供基于數(shù)據(jù)背后價(jià)值的服務(wù)?；膺@對矛盾的技術(shù)，在保護(hù)隱私的基礎(chǔ)上打破數(shù)據(jù)孤島，產(chǎn)生數(shù)據(jù)融合價(jià)值，漆遠(yuǎn)認(rèn)為是接下來AI另一個(gè)至關(guān)緊要的進(jìn)化方向。
比如各機(jī)構(gòu)之間信息脫節(jié)，讓安全水位參差不齊。某一安全事件的爆發(fā)，往往牽連多家相關(guān)企業(yè)，行業(yè)短板將引發(fā)木桶理論中全局危機(jī)的出現(xiàn)。
這正是螞蟻布局共享智能技術(shù)的重要原因之一?；诠蚕碇悄茏雎?lián)合風(fēng)控，在保護(hù)各自數(shù)據(jù)隱私安全的前提下，實(shí)現(xiàn)風(fēng)險(xiǎn)聯(lián)防，打破信息孤島的困局，在數(shù)字化進(jìn)程持續(xù)加速的今天，意義非凡。
支付寶研發(fā)的端云霧智能風(fēng)控，同樣是體現(xiàn)這一趨勢的重要底層技術(shù)之一。
漆遠(yuǎn)向AI金融評(píng)論透露，目前這一風(fēng)控方案使得99%的用戶數(shù)據(jù)及風(fēng)控計(jì)算在用戶終端完成，結(jié)合隱私保護(hù)的機(jī)器學(xué)習(xí)技術(shù)，可以更有效地保障用戶數(shù)據(jù)隱私安全，也最大程度降低了云端運(yùn)算負(fù)載，它已是世界上使用人群基數(shù)最大、并發(fā)數(shù)最高的終端風(fēng)控。
復(fù)盤支付寶的行進(jìn)軌跡，會(huì)看見一條清晰的主線：用科技實(shí)現(xiàn)普惠。
普惠金融這個(gè)詞已不新鮮，但在漆遠(yuǎn)看來，借由技術(shù)手段有效地降低服務(wù)成本、提高服務(wù)效率，讓服務(wù)觸達(dá)到以往難以覆蓋的長尾人群，真正做到“供氧毛細(xì)血管”，從而促進(jìn)社會(huì)的發(fā)展，方屬普惠的本意。
“做技術(shù)落地，某種程度上你要相信技術(shù)本身的價(jià)值，愿意為此付出努力，最后看見價(jià)值的產(chǎn)生。”他說道。
正如同他剛加入阿里，著手研發(fā)第一代超大規(guī)模機(jī)器學(xué)習(xí)平臺(tái)的時(shí)候。當(dāng)時(shí)的國內(nèi)，甚至是阿里內(nèi)部，普遍對超大規(guī)模機(jī)器學(xué)習(xí)平臺(tái)的價(jià)值是不理解的。
“一個(gè)嶄新的技術(shù)，要讓大家能夠看到它的價(jià)值?！睅е@樣的想法，漆遠(yuǎn)和他的團(tuán)隊(duì)在不理解的目光中“憋著一口氣”咬牙迎戰(zhàn)，團(tuán)隊(duì)不少骨干整個(gè)春節(jié)都在加班。項(xiàng)目直到夏天終于實(shí)現(xiàn)大規(guī)模上線，奠定了阿里巴巴第一代機(jī)器學(xué)習(xí)平臺(tái)的基礎(chǔ)。
正是這種“因?yàn)橄嘈潘钥匆姟睅淼氖姑?，?qū)使著支付寶的科學(xué)家和工程師們步履不停，向技術(shù)普惠的愿景繼續(xù)前行。
封面圖片來源：電影《血戰(zhàn)鋼鋸嶺》
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
相關(guān)文章：
支付寶安全的功守道：15年時(shí)間，再次定義AI風(fēng)控
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
