三年前，騰訊安全平臺掌舵人楊勇遇到一個名叫“快啊答題”的黑產(chǎn)團(tuán)隊，后者專攻驗證碼破解，俗稱“打碼”。單在 2017 年一季度，“快啊答題”的打碼量高達(dá) 259 億次，識別率超過 80% ，一騎絕塵，幾乎壟斷了地下打碼市場。

打碼一般是采取“人工+OCR”方式，而驗證碼安全方也在不斷升級，特別是像 12306 這類應(yīng)用，需要根據(jù)文字辨認(rèn)圖片，識別率低，對黑產(chǎn)來說有不小的難度。

“快啊答題”用到了當(dāng)時最流行的 Caffe 深度學(xué)習(xí)框架，使用了卷積神經(jīng)網(wǎng)絡(luò)模型，只要輸入原始圖像，就可以通過深度學(xué)習(xí)獲得高識別率。他們收集了大量不同風(fēng)格的驗證碼，作為訓(xùn)練樣本，樣本庫超過 5000 萬。

AI 技術(shù)如此齊整整地用于黑產(chǎn)，這是國內(nèi)首例。

不僅如此，這個 AI 打碼技術(shù)還被包裝成接口（API），對外提供服務(wù)，打通了從打碼、曬密，到撞庫的整個黑色產(chǎn)業(yè)鏈條。

黑產(chǎn)對新技術(shù)的“好奇心”、“開放性”和“動手能力”讓楊勇震驚。要知道，當(dāng)時 AI 也才剛剛熱起來，楊勇仍在內(nèi)部向團(tuán)隊一次次解釋“安全為什么要用 AI”，而現(xiàn)在，武裝了 AI 的黑產(chǎn)已經(jīng)攻到眼前。

“我們以守護(hù)者自居，但‘江洋大盜’都用上火槍了，我們還在那兒討論到底是砍刀牛還是火槍牛。至少我們先配上火槍嘛！”楊勇說。

成為 Coolc

黑產(chǎn)是黑客產(chǎn)業(yè)鏈，準(zhǔn)確地說應(yīng)該叫駭客。與之相對，還有一撥白帽黑客（也被稱為白帽子），是用自己的黑客技術(shù)來維護(hù)網(wǎng)絡(luò)正義的安全愛好者。

早期的白帽黑客主要是喜歡鉆研系統(tǒng)、研究技術(shù)的一撥人，楊勇自己便是其中一員。他們是一群技術(shù)完美主義者，不斷尋找網(wǎng)絡(luò)系統(tǒng)中的漏洞，并迫使其不斷改進(jìn)。

進(jìn)入首都經(jīng)貿(mào)大學(xué)的第一天起，作為文科生的楊勇就成了圖書館的?？?，四年下來，每一本計算機(jī)書籍的借書卡上都留下了他的名字。

大三時他看了一本講黑客攻防的書，書里列了 2000 多個黑客工具，還夾帶一張光盤。

其中的很多工具作者都活躍在當(dāng)時最富盛名的安全焦點論壇，但這 2000 多個工具卻沒幾個好使的。楊勇嘗試按著可找到的郵箱地址聯(lián)系作者，向其指出工具里的 bug，有個人回復(fù)了他，這人叫冰河，真名黃鑫，號稱“木馬教父”，是安全工具 X-Scan 的作者。

冰河在回郵里說：“你提的 bug 沒法重現(xiàn)，要不我們見一面，看看問題在哪？”就這樣，通過冰河，楊勇走進(jìn)了安全圈。

（圖注：在安全焦點論壇的楊勇給自己起了 Coolc 這個ID）

冰河所在的安全焦點論壇，聚集了眾多的第一代白帽黑客。每個白帽黑客都有一個 ID，楊勇也給自己起了一個 ID 叫 Coolc 。

大四要畢業(yè)時，楊勇先找到了冰河：你們這個挺酷，我能不能參與？

冰河的回復(fù)是：可以參與，但如果不是?？瞥錾?，薪水會很低。楊勇覺得，加入這個圈子，就能和一群高手交往，算上學(xué)費，薪水也可以了。這個換算不能算牽強，當(dāng)時他報一個 7 天的基礎(chǔ)課程班，都還需要和父母借上一筆錢。

于是，在經(jīng)濟(jì)系的同學(xué)紛紛去銀行入職時，楊勇選擇了北京一家航天科技企業(yè)做網(wǎng)絡(luò)安全研究員。工資確實不高，但每個月 15-25% 的資金是絕對不能動的，這是他為自己購買計算機(jī)書的特定經(jīng)費。

早期的白帽黑客其實很多都不是科班出身。冰河當(dāng)時召集了一次第一代白帽黑客的大聚會，楊勇作為為數(shù)不多的 80 后，坐在一堆大哥面前，詢問各家的專業(yè)出身，有說是中文系的，還有說是鍋爐行業(yè)的，算下來，一半是非計算機(jī)專業(yè)。大家全憑愛好驅(qū)動，多數(shù)是像楊勇這樣，有熱情，有耐心，愿意花時間鉆研。

進(jìn)入公司后，為了節(jié)省從北京城南到城北近四個小時的通勤時間，楊勇帶著一張行軍床住到了單位，這其中還有一個私心是，單位里有平時接觸不到的昂貴小型機(jī)，自己可以借著下班時間在上面練手。

機(jī)房溫度低，開著窗戶覺得冷，關(guān)上窗戶屋里味道又太大，楊勇半夜常常進(jìn)行著開窗又關(guān)窗，關(guān)窗又開窗的循環(huán)動作。有一次不小心睡著了，鍋爐燒著，水蒸氣漫了整個樓層，航天部的同事半夜集體出動，端著消防器材著急忙慌趕來要滅火，才發(fā)現(xiàn)這位常駐同事。

從安焦到安平

2004 年，QQ 注冊用戶突破 3 億，屢屢被黑客攻擊問題困擾的騰訊對安全人才表現(xiàn)出前所未有的饑渴。為了組建安全部門，騰訊主要創(chuàng)始人之一、原 CTO 張志東四處找人。

在安全焦點論壇兩年后，楊勇被引薦給騰訊。他從北京來到深圳，此時騰訊剛剛組建了安全運維組，總共也就兩個人，楊勇幾乎經(jīng)歷了騰訊整個安全體系從無到有的建設(shè)過程。

安全團(tuán)隊從組建起就被給予了極高的重視度。張志東在骨干面前不厭其煩地一遍遍強調(diào)安全之于騰訊的重要性，極力擴(kuò)充人馬。他站臺的騰訊安全峰會，將全國的白帽黑客集聚于深圳。也是在這一時期，騰訊成為第一個建立 SRC（安全應(yīng)急響應(yīng)中心）的互聯(lián)網(wǎng)公司。年終總結(jié)大會上，馬化騰親自為安全團(tuán)隊頒獎，團(tuán)隊的同學(xué)在臺上熱情地高喊口號：“保護(hù)騰訊，保護(hù) QQ！”

（圖注：2013 年，安全平臺部在騰訊內(nèi)部主辦的第六屆安全技術(shù)峰會）

那時的安全，除了騰訊幾萬臺服務(wù)器的安全，防止木馬和滲透，主要就是 QQ 客戶端的安全：查殺 QQ 盜號木馬。

到 2009 年，楊勇的安全運維團(tuán)隊已有 20 人，主要應(yīng)對盜號的黑產(chǎn)，QQ 醫(yī)生是主要的武器。但結(jié)果發(fā)現(xiàn)，很多操作系統(tǒng)自身就不安全，到了 2010 年，QQ 醫(yī)生變成電腦管家，額外承擔(dān)了操作系統(tǒng)的安全工作。

楊勇的職責(zé)，除了要保護(hù) QQ，還要保護(hù)騰訊旗下的幾十款應(yīng)用軟件，團(tuán)隊也被升級為騰訊安全平臺部，也就是現(xiàn)在騰訊內(nèi)部所稱的“安平”。

（圖注：2009 年，安全平臺部年會）

何謂平臺？一是應(yīng)用程序，二是操作系統(tǒng)。黑客想突破，就要找后門，突破它們的權(quán)限。應(yīng)用程序安全有電腦端的，是桌面安全；手機(jī)端的，就是移動安全。

如今操作系統(tǒng)的概念也在不斷延伸，有個人電腦端的，有服務(wù)器上的，還有網(wǎng)絡(luò)設(shè)備的操作系統(tǒng)。廣義來講，云服務(wù)對于用戶而言，也可以看作一個虛擬的操作系統(tǒng)，可以申請?zhí)摂M的 CPU、存儲，這也就有了云的安全。

傳統(tǒng)安全領(lǐng)域的戰(zhàn)場基本覆蓋這些范圍，攻防也在這個戰(zhàn)場展開。

然而 AI 一來，戰(zhàn)場從傳統(tǒng)操作系統(tǒng)平臺擴(kuò)展到 AI 基礎(chǔ)設(shè)施領(lǐng)域，攻擊工具和方法有 AI 加持 ，攻防雙方的力量失去平衡，也就有了“快啊答題”這種黑產(chǎn)在短時間內(nèi)的橫掃。

AI 安全戰(zhàn)事興起

2016 年，楊勇去了趟硅谷，拜訪了谷歌、Facebook，也約見了蘋果等一眾頭部公司的同仁。坐在幾位硅谷工程師面前，聽對方滔滔不絕地分享著 AI 在安全上的應(yīng)用，楊勇想通了。

當(dāng)國內(nèi)還困在 AI 利弊問題的辯駁中時，硅谷這群工程師已經(jīng)能夠引出 AI 安全的實戰(zhàn)案例，他們沒有在現(xiàn)有的安全技術(shù)和 AI 技術(shù)之間糾結(jié)取舍，在前沿研究上更大膽，也更為果斷、開放地?fù)肀Я诵录夹g(shù)、新力量。

2017 年，安平內(nèi)部成立了很多興趣小組，每個小組研究一類新技術(shù)方向，其中一個叫 Tencent Blade Team 的小組研究的是谷歌剛剛開源的 TensorFlow 深度學(xué)習(xí)框架，這個 AI 框架當(dāng)時已有不少人使用，但很少有人研究它的安全問題——也或者是能力跟不上。

Tencent Blade Team 小組出手打破了 TensorFlow 0 漏洞的記錄，一連發(fā)現(xiàn)并報告了 TensorFlow 的前 7 個安全漏洞。比較典型的一個是，黑客可以構(gòu)造惡意的虛擬文件，框架只要一讀取文件就會被攻破，前者便可由此控制整個系統(tǒng)。另外，框架使用的第三方庫，處理協(xié)議時也會有溢出，導(dǎo)致框架被控制。

（圖注：Tensorflow 發(fā)布的安全公告及致謝）

這些問題報給谷歌時，谷歌甚至還沒有漏洞的報告渠道，是騰訊安平的 TSRC（騰訊安全應(yīng)急響應(yīng)中心）協(xié)助他們建立并完善了漏洞報告機(jī)制。

深度學(xué)習(xí)框架可以比作 AI 的基礎(chǔ)設(shè)施，這意味著黑客不僅僅是像“快啊答題”那樣，利用 AI 框架來破解，框架本身甚至也成為了攻防的前線。

對于互聯(lián)網(wǎng)用戶而言，更直觀的感受就是 DeepFake ，用 Deep learning （深度學(xué)習(xí)）來 Fake （偽造）圖像和視頻，可以讓已有的圖像或視頻疊加到目標(biāo)圖像和視頻上，可用于名人影片、惡作劇、假新聞、色情行業(yè)等，以假亂真，混淆視聽，由此帶來的影響至今未息。由此，大眾也開始認(rèn)識到了 AI 的另一面：AI 能帶來生產(chǎn)力的提高，也能帶來倫理、隱私和安全問題。

真正的 AI 安全問題還隱藏在冰川之下。除了框架這樣的 AI 基礎(chǔ)設(shè)施，數(shù)據(jù)、模型、算法，任何一個環(huán)節(jié)都是攻防的最前線。

一方面是 AI 基礎(chǔ)設(shè)施被攻擊，傳統(tǒng)的后門概念的邊界，從應(yīng)用程序和操作系統(tǒng)權(quán)限，被延伸到數(shù)據(jù)、模型、算法。

另一方面是 AI 技術(shù)帶來的攻防失衡。如果攻方用了 AI ，守方不用 AI ，后者就會處于完全的被動，被攻擊得體無完膚。

在安全問題上，攻方在突破上本身占據(jù)優(yōu)勢，如驗證碼問題，只要有 20% 的識別率，攻破的概率就非常之高；而守方必須是 100% 的防守，出現(xiàn)一點點漏洞，造成的破壞效果便不可估量。

攻守雙方成本也有著相當(dāng)?shù)膽沂?。比如盜號的挑戰(zhàn)，對于騰訊這樣強社交應(yīng)用的公司，是個經(jīng)典的安全問題。對方可能有 100 萬臺肉雞，用一個蠕蟲程序、一個程序員就可以發(fā)起攻擊；防御方則需要有 100 萬臺機(jī)器防御，全部是真金白銀的投入。

（圖注：2014 年，TSRC 在北京討論 SRC 發(fā)展）

最常見的 DDoS 攻擊，之前是靠人值守，相當(dāng)于冷兵器對戰(zhàn)。安平曾有一位同事由此得一外號，叫“一夜七次郞”，一晚上最多要起床七次，抵御攻擊。

如今騰訊安平的宙斯盾上線了用 AI 分析運維人員的行為模型，用 AI 探索 DDoS 攻擊檢測新思路?；谄洳僮髁?xí)慣排查攻擊行為，可以實現(xiàn)秒級響應(yīng)，被看作一種現(xiàn)代兵器式的防御。守方把 AI 運用得當(dāng)，才能掌握主動。

除了在 DDoS 攻防場景，騰訊也嘗試將 AI 技術(shù)運用到更多的安全場景中。如通過與流量分析結(jié)合，助力傳統(tǒng)基礎(chǔ)安全能力的提升。

騰訊安平門神 WAF（Web Application Firewall，WAF）基于騰訊海量正常流量和人工打標(biāo)的惡意攻擊流量，建立了豐富高質(zhì)量的黑白樣本庫，通過 AI 機(jī)器學(xué)習(xí)算法的應(yīng)用，在樣本訓(xùn)練測試中攻擊檢出率可以達(dá)到 99%，同時誤報率控制在 0.03% 以下。 

眾生守護(hù)者

2018 年春節(jié)的團(tuán)隊聚會，楊勇在飯桌上照舊和同事們描繪著 AI 安全的藍(lán)圖。酒酣之際，每個人都有些興奮，聊天也越來越開懷。同坐的女同事坦承自己曾對這份工作懷有的猶疑。她的專業(yè)是圖像識別，在當(dāng)前科技行業(yè)機(jī)會遍地，而做安防需要同時研究硬件與 AI 算法，基本等于進(jìn)入一個全新行業(yè)，曾在前期有過不小挫敗的楊勇對這種跨界的挑戰(zhàn)深有感受。

但也是在春節(jié)前的這段時間，看到被拐賣兒童因為AI 安全的助力被尋回，身為人母的同事更堅定了對這份工作的認(rèn)同：自己所從事的事業(yè)正在保護(hù)很多人，正在為社會帶來可預(yù)見的改變。

“人內(nèi)心的動力是很可貴的?！睏钣抡f。

騰訊安平團(tuán)隊還基于視覺 AI 技術(shù)，研發(fā)了一套智能視頻分析解決方案，推出了 “智能跌倒監(jiān)測系統(tǒng)”，通過人工智能技術(shù)對視頻數(shù)據(jù)進(jìn)行檢測、分析，幫助深圳的養(yǎng)老護(hù)理院判斷老人是否摔倒或有走失風(fēng)險，并在第一時間預(yù)警，以縮短救援時間。在楊勇看來，這更是“安全人”利他價值觀的體現(xiàn)。

安全從業(yè)者長期隱于幕后，“被需要的時候才會被想起”是這個群體的宿命，失敗要獨自承受壓力，成功也少有人覺察、記住。進(jìn)入安全行業(yè)，既要時刻學(xué)習(xí)，擁抱變化，也要做好長時間和孤獨打交道的準(zhǔn)備，但獎勵是身在其中的人也會獲得一種“眾生守護(hù)者”的價值感。

在安全行業(yè)近 20 年，楊勇越來越覺得，不管是 AI 還是其它技術(shù)，最重要的在于，可以輔助人做善良的事，這一點尤其重要。

做善良的事，然后一步步改變社會，安全人守住這個價值觀，也才能守護(hù)眾生。在此，安全人的使命也和騰訊力主的“科技向善”實現(xiàn)匯流。

Q & A

AI 源創(chuàng)評論：走上安全這條職業(yè)道路，對你影響最大的一件事是什么？

楊勇：遇見貴人，比如像我遇到冰河。不需要多，但他會在人格上影響到你，讓你對自己長遠(yuǎn)的發(fā)展有一個清晰的認(rèn)知。這會決定你道路的選擇。

AI 源創(chuàng)評論：這些年你對于安全的理解，出現(xiàn)過哪些變化？

楊勇：我在航天領(lǐng)域的時候，對安全的理解就是 0 分和 100 分，比如衛(wèi)星一出事就完了，要么就是 100 分，就是成功了。

從航天行業(yè)出來以后，我發(fā)現(xiàn)不完全是這樣。安全本質(zhì)上是一個投入產(chǎn)出比的問題，怎么讓壞人放棄？一個很重要的策略就是讓他的成本過大，讓他覺得不值得這樣做。那時我就會做一個很難的技術(shù)，去防御，讓對方過不來。

干了十幾年以后，我發(fā)現(xiàn)這個認(rèn)知又不對了，因為對手在進(jìn)化。以前黑客是孤狼式的，現(xiàn)在孤狼越來越少，都是團(tuán)隊作戰(zhàn)，而且各有分工，有一堆專有設(shè)備和大數(shù)據(jù)支撐。如果從企業(yè)級的角度去看，之前的對抗理論就崩潰了。

攻防失衡了。攻擊方成本很低，做一次攻擊就像做一次轟炸，如果把你轟炸了，他就把這個城市占領(lǐng)了，沒有占領(lǐng)，他也沒什么損失。而守城的人就不行，平常就老得準(zhǔn)備防御著，成本高。

這時候我們就發(fā)現(xiàn) AI 是可以很大地緩解這種資源的不對稱性的。計算機(jī)科學(xué)、數(shù)據(jù)科學(xué)，都是可以極大緩解這種資源不對稱性的。一個企業(yè)，一個組織，包括一個國家，不可能無限投入資源，但是 AI 可以解決這個問題。

所以如果你是一個互聯(lián)網(wǎng)企業(yè)的 CEO，在 AI 安全上可能要關(guān)注兩類問題：一類是 AI 算法、基礎(chǔ)設(shè)施的安全；一類是如何用 AI 技術(shù)去做安全。

AI 源創(chuàng)評論：在 AI 安全這件事情上，你看到的國內(nèi)和國外的情況有什么不同？

楊勇：很多時候，文化差異會導(dǎo)致技術(shù)認(rèn)知的差異。比如從文化上來說，從數(shù)據(jù)出發(fā)去做決策，在國外特別受重視，像航空航天、醫(yī)學(xué)這些很核心的東西都要依托于數(shù)據(jù)科學(xué)。社會的接受度高，導(dǎo)致他們產(chǎn)業(yè)的接受度也高。只要能用數(shù)據(jù)論證，就比較容易讓人明白，你是有一個配套的機(jī)制去驗證某個技術(shù)到底靠不靠譜的。只要能用行業(yè)的數(shù)據(jù)來證明，就比較容易被接受。

而咱們國內(nèi)的特點是，對于應(yīng)用場景接受度高。我們看重的是在一個特定場景，能不能帶來一些體驗上的改善。很多企業(yè)比較看重生存問題，盈利問題。

AI 源創(chuàng)評論：黑產(chǎn)的技術(shù)越來越強，攻方在使用 AI，我們守方也在使用 AI。以 AI 對抗 AI，怎么決勝負(fù)？

楊勇：AI 安全里，算法就像在冰山之上，但還有冰山之下的東西決定這件事，那就是數(shù)據(jù)和算力。

數(shù)據(jù)決定了你的天花板有多高，數(shù)據(jù)越豐富，理論上天花板的高度就越往上走。但是有這么多數(shù)據(jù)，算力不夠怎么辦？實際的攻防中，所有計算出的模型和效果都是有時效性的，必須要有超出常人的算力才行。

你會發(fā)現(xiàn)，學(xué)術(shù)界有些算法試驗數(shù)據(jù)特別好，但工業(yè)界沒法用，為什么？有相當(dāng)一部分原因是算力沒法支撐。所以，如果想做 AI 安全或者 AI 的工程化，得有一大批人解決好算法的工程化問題。

AI 有點像當(dāng)年錢老造導(dǎo)彈，是一個非常系統(tǒng)的工程。它包括特種工程，算力的解決，基礎(chǔ)設(shè)施的搭建、安全保障，使用的場景，算法，模型，配套設(shè)施怎么使用等等，越來越細(xì)分。

AI 源創(chuàng)評論：安平現(xiàn)在各個部門都需要具備哪方面的能力？

楊勇：每個部門要求不一樣。負(fù)責(zé)基礎(chǔ)安全的部門，需要對安全技術(shù)非常熟悉和了解；負(fù)責(zé)風(fēng)控安全的，需要對黑產(chǎn)了解；平臺部門則需要對數(shù)據(jù)敏感度高。實驗室就要對業(yè)界特別敏銳，對新的東西特別開放，愿意去研究。

AI 源創(chuàng)評論：從過去兩年的發(fā)展來看，2020 年的安全行業(yè)會有哪些變化？

楊勇：這兩年非常明顯地進(jìn)入了數(shù)據(jù)和云的時代，所以主要矛盾還是會在數(shù)據(jù)和云上。

國內(nèi)可能會產(chǎn)生的比較大的變化就是安全合規(guī)性問題。國家在合規(guī)方面的要求在明顯增強，2020 年要求會更加嚴(yán)格。企業(yè)的建設(shè)壓力和安全帶來的經(jīng)營壓力一定會很大。安全的工程人員和建設(shè)人才，在之后兩年會特別稀缺。以前一個企業(yè)雇傭兩個安全人員就可以搞定的問題，會因為 IPv6 等變量搞不定了，所以這也會帶來云市場的很大繁榮。

黑產(chǎn)挺敏捷的，也在不斷引入 AI 算法和新技術(shù)。一個一般規(guī)?；蛑写笠?guī)模的企業(yè)，在數(shù)據(jù)積累、算力準(zhǔn)備、算法研究上都很難跟云化的安全能力相媲美。而黑產(chǎn)的積累程度可能要遠(yuǎn)遠(yuǎn)超過一個大規(guī)模企業(yè)，因為它成本很低，只要達(dá)到局部成功就可以獲利。

從這個角度看，中小企業(yè)安全的云化是不可避免的，各種內(nèi)外部環(huán)境都會把它往這個方向推動。

AI 源創(chuàng)評論：對于準(zhǔn)備進(jìn)入或者已經(jīng)進(jìn)入安全領(lǐng)域的從業(yè)人員，您愿意給出什么樣的建議？

楊勇：這個說起來比較天馬行空。首先是要對自己有信心，這條路比較艱難，沒有信心注定堅持不住。要花很多時間、精力去學(xué)習(xí)。一定要對做長期的沉淀有充分的思想準(zhǔn)備，包括家人能不能理解和支持。

大多數(shù)做安全的人沒有高官厚祿，一般不出事兒的時候，大家想不起你。如果真的想做安全，就得忍受孤獨。你很難出現(xiàn)在鎂光燈下，一定要想明白這個事情。但是做安全會給你另外一種東西，就是“眾生守護(hù)者”的那種價值感。

（感謝黃善清對本文的貢獻(xiàn)。）

雷鋒網(wǎng) 雷鋒網(wǎng) 雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。