0
之前雷鋒網(wǎng)寫過，百度 All in AI 后，百度安全搞出了一個(gè) OASES 智能終端安全生態(tài)聯(lián)盟。
現(xiàn)在，不只是這個(gè)聯(lián)盟，從這幾個(gè)月百度安全的動(dòng)向以及雷鋒網(wǎng)與百度安全的人士聊的情況看，百度安全要聚焦整個(gè)大百度“AI”的戰(zhàn)略方向已經(jīng)不算“趨勢(shì)”了，他們就是要搞“AI 安全”。
這次，雷鋒網(wǎng)宅客頻道與百度安全事業(yè)部總經(jīng)理馬杰對(duì)談，以期梳理百度安全打算如何推進(jìn)“AI 安全”，以及他們現(xiàn)在到底做到了什么程度。
1.雷鋒網(wǎng)：過去幾個(gè)月，你在多少重大場(chǎng)合把 IoT 和AI 安全掛在嘴邊？你們之前說的是智能終端安全，什么時(shí)候開始統(tǒng)一 AI 安全的說法的？
馬杰：我覺得在大場(chǎng)合都不下10次，就是這種大會(huì)上，小的肯定就更多了。未來 AI 安全的落地應(yīng)該是在智能終端上， 所以，我們整體系統(tǒng)化來說“AI 安全”是從 OASES 聯(lián)盟發(fā)布開始。
2.雷鋒網(wǎng)：為什么有這種轉(zhuǎn)變？
馬杰：“AI” 是一個(gè)現(xiàn)在被炒熱的名詞，你回過頭看智能，實(shí)際上智能又是一個(gè)之前被過度消費(fèi)的名詞，所以本來我覺得 “AI” 不就是一個(gè)對(duì)應(yīng)的詞嘛，但因?yàn)椤爸悄堋北贿^度消費(fèi)后，“智能”反而變成了一個(gè)很狹窄的詞，就是所有帶一點(diǎn)計(jì)算能力的、能根據(jù)具體環(huán)境做決策的都叫智能。恨不得里面有一個(gè)簡單的 PLA 邏輯過程什么的，都可以叫智能，過程稍微復(fù)雜一點(diǎn)，帶一個(gè)Arm，有一點(diǎn)程序，就叫智能了。
我們后來提這個(gè)東西的時(shí)候，其實(shí)在我們心中應(yīng)該是等價(jià)的東西，但是可能看在什么場(chǎng)景下用這個(gè)詞更合適。
在 OASES 聯(lián)盟時(shí)，我們說的是智能終端，因?yàn)楝F(xiàn)在這個(gè)階段大部分所謂的 AI 設(shè)備其實(shí)還只在智能這個(gè)階段，并沒有真正把深度學(xué)習(xí)技術(shù)應(yīng)用到其中。我覺得可以這么劃分一下，以前是帶計(jì)算能力的，可以狹義地稱之為智能，帶深度學(xué)習(xí)的，可能才能被叫做“AI”。如果這樣劃分，目前絕大部分設(shè)備還停留在智能階段，但是正在從智能走向未來。
我們當(dāng)時(shí)做聯(lián)盟時(shí)，是說先解決行業(yè)的現(xiàn)實(shí)問題，先解決智能終端問題，肯定是放眼 AI，而且我們相信這些設(shè)備也會(huì) AI 化，雖然它的本地計(jì)算能力有限，但是通過聯(lián)網(wǎng)后，很多深度學(xué)習(xí)的東西就可以引入了。
3.雷鋒網(wǎng)：百度安全所說的AI 安全，到底囊括了哪些范圍，怎么規(guī)劃的？
馬杰：百度的戰(zhàn)略是成為一家 AI 公司，既然百度要做 AI，大家就是一個(gè)生態(tài)系統(tǒng)的。
如果這里的安全問題不解決，百度在上面再做什么東西，根基就是不安全的，我們希望跟這些伙伴一起，從基礎(chǔ)開始解決安全問題。
這樣就可以看出來里面要解決哪些具體問題，不管是所謂小的 IoT 設(shè)備，還是大一點(diǎn)的智能、AI設(shè)備，它有稍微強(qiáng)一點(diǎn)的計(jì)算能力，可聯(lián)網(wǎng)，從底層操作系統(tǒng)開始，就會(huì)有問題，只不過小設(shè)備可能是一些RTOS的東西，大一點(diǎn)的可能是安卓系統(tǒng)。
但是，所有平臺(tái)都有平臺(tái)這一層的安全問題，平臺(tái)本身在內(nèi)核這一級(jí)，可能就有很多歷史上的安全問題沒有解決。我們看到大量的智能設(shè)備用的可能是低版本的安卓、Linux，都不需要高手破解，照著漏洞列表去看一看，直接就可以黑進(jìn)去了。這是底層的問題，而且因?yàn)檫@個(gè)底層還包括了芯片廠商、方案商、生產(chǎn)廠商，整個(gè)產(chǎn)業(yè)鏈條很長，本來這些東西也不太好解決。
我們?cè)谕埔恍┓桨溉プ鲞@件事，就像 OASES 里非常重要的一塊是解決漏洞的熱修復(fù)問題。
不說上面有沒有跑百度智能的東西，先把底層一起弄安全了再說。我們得先造一個(gè)基石，而且為了讓大家信任——我們做這件事是真正開放的心態(tài)，我們把我們的代碼向這些伙伴直接開放。
這是操作系統(tǒng)的一層，可能再往上，到了操作系統(tǒng)上層的應(yīng)用層，還會(huì)出現(xiàn)越來越多的問題，因?yàn)椴僮飨到y(tǒng)是幾個(gè)廠商生產(chǎn)的，還可以去枚舉它有多少問題，但是一旦到應(yīng)用層，就是一個(gè)沒有邊界的東西了，它可能有無窮多的可能性的問題，而且應(yīng)用層迭代更快，更容易出問題。
一方面，因?yàn)閺S商應(yīng)用更多，迭代更頻繁，它會(huì)變得更復(fù)雜，但是另一方面，如果你底下基石是穩(wěn)的，你可能就可以有一些方案限制上層的漏洞影響范圍，我們后面會(huì)出一些解決方案。
前段時(shí)間，我們也發(fā)了一個(gè)原型的版本，做了一個(gè)安全的 Linux 發(fā)行版，開源給整個(gè)社區(qū)。當(dāng)?shù)讓臃€(wěn)固后，如何用一些方案讓上層不容易產(chǎn)生內(nèi)存泄漏、溢出，看看能不能解決，或者至少不會(huì)讓安全問題出現(xiàn)時(shí)，給整個(gè)系統(tǒng)帶來安全沖擊。
這是上層系統(tǒng)層面，然后這個(gè)設(shè)備開始聯(lián)網(wǎng)，聯(lián)網(wǎng)時(shí)就有安全傳輸問題、證書認(rèn)證問題，其實(shí)像去年我們有安全研究員去過不同的比賽，會(huì)上發(fā)過我們對(duì)一些鎖的破解，但破解的目的不是為了“破解”，是為了研究有什么樣的安全問題。
實(shí)際上，很多次破解背后，本質(zhì)是安全傳輸沒有做好，很多廠商已經(jīng)意識(shí)到他們需要做安全傳輸，但是因?yàn)椴皇菍I(yè)做安全的人，所以他們對(duì)安全傳輸?shù)哪骋恍┘?xì)節(jié)沒控制好，就留下了這個(gè)漏洞。其實(shí)他們明明已經(jīng)想到這件事情，但沒有做到嚴(yán)絲合縫，只要有一個(gè)縫，就會(huì)被別人鉆了空子。
我們也在看，是不是可以把這個(gè)門檻降得更低，讓大家不需要那么多的專業(yè)知識(shí)，就能把這個(gè)東西做得嚴(yán)絲合縫。
證書認(rèn)證、加密傳輸是管道上的問題，再往前到了云端，又是一大塊問題。大家常見的問題，如云端服務(wù)器被 DDoS ，這是一個(gè)我們又要留心的問題。
從操作系統(tǒng)到應(yīng)用，再到管道、云，這是一個(gè)漫長的戰(zhàn)線，傳統(tǒng)安全的人對(duì)每個(gè)環(huán)節(jié)都很熟悉，但是要把它拼在一起，才能形成一個(gè)完整的東西，而且得把它組裝得嚴(yán)絲合縫，不然整個(gè)體系白做了。
4.雷鋒網(wǎng)：要做 AI 安全的話，你們?cè)趺窗岩郧白龅氖虑槔闷饋恚?/strong>
馬杰：AI 安全是一個(gè)很復(fù)雜的體系，在歷史上，我們?yōu)榱吮Ｗo(hù)端、管道、云，已經(jīng)逐漸積累了非常多的單點(diǎn)安全能力，到了這個(gè)時(shí)代，忽然發(fā)現(xiàn)這些曾經(jīng)做過的事情沒白做。當(dāng)年做這個(gè)東西，端上很多是為了移動(dòng)、云做的事，現(xiàn)在到了 AI ，因?yàn)檎麄€(gè)生態(tài)鏈太長了，所以居然全都串上了，而且?guī)缀鯕v史上的東西沒有太多浪費(fèi)的，都串到了整個(gè)體系里去。
但是，我發(fā)現(xiàn)還有很多不足，剛才我說的模型問題，這些是全新的挑戰(zhàn)，當(dāng)然我們?cè)?jīng)有很多成熟東西里的人力，肯定可以撤出一部分來，去做新研究，解決一些 AI 上的特定問題，然后再把我們?cè)?jīng)做好的東西串一串，打一個(gè)包，形成適用的解決方案，這些能力就都存在了。
我們現(xiàn)在內(nèi)部有很多個(gè)team在做單點(diǎn)能力，分散在各個(gè)不同的團(tuán)隊(duì)里，然后我們有針對(duì)度秘、車的團(tuán)隊(duì)，他們把我們內(nèi)部各種能力重新打包、改造，形成解決方案，跟他們做適配，最后讓我們的各種單點(diǎn)能力能聚合成一個(gè)可以替他解決問題的方案。
5.雷鋒網(wǎng)：百度的 AI 安全能力現(xiàn)在只對(duì)內(nèi)輸出嗎？
馬杰：對(duì)百度來說，安全不是它的核心商業(yè)模式， AI 是未來的商業(yè)研究。
其實(shí)我們不太區(qū)分內(nèi)外，而是希望能讓整個(gè)社區(qū)，或者生態(tài)系統(tǒng)能更安全，讓大家在一個(gè)共同的基石上做上面的事情，這才是現(xiàn)實(shí)的，你至少要讓用戶有信心用這樣的東西，讓他不覺得在家里放一堆智能設(shè)備是有被竊取隱私、被人入侵的風(fēng)險(xiǎn)，我覺得這是大家共同的利益。
在這個(gè)上面，首先從大思路來講，不太會(huì)去分內(nèi)外，而是更愿意共同把這個(gè)環(huán)境先做好。
當(dāng)然，有一些新的東西在不成熟時(shí)，我們也不好意思拿到社區(qū)分享，所以我們會(huì)稍微做到像一個(gè)beta版才拿出來，我們可能希望做得更成熟一點(diǎn)，再拿出來給大家。包括我剛才說的 OASES 聯(lián)盟提供的系統(tǒng)熱修復(fù)技術(shù)，我們也是做了比較長的一段時(shí)間后，才拿出來給大家的，感覺它比較穩(wěn)定，可以商業(yè)化使用時(shí)拿出來，拿一個(gè)水平太低的東西出來也不符合我們的定位。
但是，有一些東西我們會(huì)用開源的形式開放得稍微早一點(diǎn)，讓大家共同建設(shè)，比如，針對(duì)內(nèi)存安全的Linux 發(fā)行版，這個(gè)東西還是一個(gè)比較初級(jí)的想法，我們做了一些基礎(chǔ)工作。如果真正做一個(gè)好的版本，可能需要大量的工作。我們拿到社區(qū)里，大家看看能不能一起做。
6.雷鋒網(wǎng)：你剛才說的這種不分內(nèi)外的生態(tài)性合作，包括之前百度和小米要在IoT平臺(tái)進(jìn)行的合作嗎？百度安全有給他們做一些這樣的東西嗎？
馬杰：最近百度有兩個(gè)大的合作宣布，一個(gè)是小米，一個(gè)是華為。
其實(shí)百度安全這邊一直都是蠻開放的心態(tài)，遠(yuǎn)在這次合作之前我們就給小米輸出了很多能力，小米路由器里就有我們集成的安全能力，合作宣布之后，肯定會(huì)推動(dòng)更多的東西。
華為也是，OASES聯(lián)盟宣布成立時(shí)，我們跟華為的合作已經(jīng)做了一年多，我覺得只要是正確的生態(tài)應(yīng)該做的事情，自然就可以共同推這些事情。
7.雷鋒網(wǎng)：還和哪些廠商有合作？
馬杰：我覺得這些都不需要說名字，因?yàn)榛旧细鞣N手機(jī)端的廠商，我們肯定也有合作，本身度秘在提供非常多的能力，它的能力到哪兒，我們的安全技術(shù)就得跟到哪兒。
8.雷鋒網(wǎng)：AI 安全還有哪些新挑戰(zhàn)？
馬杰：除此之外，還有很多新的挑戰(zhàn)，在一些安全會(huì)上我也提到了，這是在 AI 領(lǐng)域里新出現(xiàn)的挑戰(zhàn)，像模型安全，這是傳統(tǒng)安全里大家曾經(jīng)不太關(guān)注的領(lǐng)域，我在每個(gè)會(huì)上都跟大家介紹這個(gè)問題，大家慢慢會(huì)比以前重視，因?yàn)椴还苁亲詣?dòng)駕駛、人臉識(shí)別，這些東西都可以針對(duì)其深度學(xué)習(xí)算法，做定向攻擊，讓它明明把一個(gè)人理解成另外一個(gè)人，明明是這樣一個(gè)路標(biāo)，理解成另外一個(gè)路標(biāo)，這些都是傳統(tǒng)安全領(lǐng)域所不涉及的安全性。
像這樣新的在 AI 領(lǐng)域出現(xiàn)的挑戰(zhàn)，不止一個(gè)。剛才我說的都是針對(duì)機(jī)器視覺的，有可能還有針對(duì)語音、各種學(xué)習(xí)算法的，挑戰(zhàn)也非常多。
為什么專門提這個(gè)事情？它既有傳統(tǒng)領(lǐng)域類似于一個(gè)集大成體系的工作，又有全新的挑戰(zhàn)，所以它有整個(gè) AI 領(lǐng)域的特點(diǎn)，不管是所謂的IoT設(shè)備、智能設(shè)備，還是 AI 設(shè)備，不管它叫做什么，都有這些層面的問題。
9.雷鋒網(wǎng)：你之前做的一些研究工作，有沒有還沒想好怎么放進(jìn)來的技術(shù)，有這樣的例子嗎？
馬杰：有，比如我們?cè)瓉碛幸粋€(gè)特別有趣的能力，就是云加速，云加速其實(shí)是一個(gè)在邊緣網(wǎng)絡(luò)上做計(jì)算和加速的能力。這些能力以往服務(wù)于中國幾十萬個(gè)網(wǎng)站，包括百度有很多重要的業(yè)務(wù)也都 base 在這上面，這個(gè)東西我們現(xiàn)在還沒有讓它進(jìn)入所謂 AI 的生態(tài)，不管是自己的產(chǎn)品，還是伙伴的產(chǎn)品用上，但是這個(gè)東西肯定是有用的。
我們還在探索怎么用，因?yàn)?AI 設(shè)備分布如此之廣泛，我覺得在邊緣網(wǎng)絡(luò)上提供一些能力，可能比放在自己設(shè)備上更省電。這是比較容易直接想到的，隨著做得更深度，可能還有很多沒有想到的用處。
10.雷鋒網(wǎng)：你有這么多team，哪些是你最重要的team？
馬杰：大家特別容易去想這樣的問題。
可能在移動(dòng)時(shí)代，我們說 PC重要，還是移動(dòng)、云重要？到了AI，突然發(fā)現(xiàn)所有的東西全串在一起，戰(zhàn)線史無前例地長，以至于哪個(gè)環(huán)節(jié)都不能斷掉。這些東西我們?cè)?jīng)做過，所以可能已經(jīng)不需要花那么重的兵力布局，我們只需要做一些適應(yīng)性改造，重要的兵力會(huì)放到以前沒有做過的研究里，但是你說它重不重要？它絕對(duì)是同樣重要的，安全跟別的產(chǎn)品最大的區(qū)別是，安全是筑長城，做產(chǎn)品是單點(diǎn)突破，做安全的同學(xué)都有這個(gè)困擾。
所以，做一個(gè)安全解決方案時(shí)，你必須構(gòu)建長城，而且還得做得嚴(yán)絲合縫，所以真的沒辦法說哪個(gè)地方更重要，因?yàn)檫@個(gè)環(huán)節(jié)斷了，整個(gè)就失效了，但是在人力的投入上會(huì)有傾向性。
11.雷鋒網(wǎng)：2018 年你希望能做到哪個(gè)程度？
馬杰：我希望的目標(biāo)在 2018 年可能還達(dá)不到，因?yàn)槲蚁Ｍ氖恰麄€(gè)生態(tài)能重視，至少在基本的層面上，安全能達(dá)到一個(gè)可接受的水平，但是這個(gè)事情實(shí)際上現(xiàn)在遠(yuǎn)遠(yuǎn)不是這樣的。即便我們做了這些努力，我們開源，跟大家分享技術(shù)，百度的 AI 構(gòu)建在這個(gè)生態(tài)之上，所以我們?cè)趺窗训紫孪扰冒踩?、扎?shí)一點(diǎn)，就是這個(gè)目標(biāo)，但是這個(gè)目標(biāo)中間的鏈條挺長的，先要引起大家的重視。
回過頭去看歷史，很早很早以前，大家天天在喊殺毒什么的，但每個(gè)人電腦上裝上殺毒軟件是什么時(shí)候？大家非得經(jīng)歷幾次慘痛教訓(xùn)后，才真正把殺毒軟件都裝上，裝了后還得不斷跟用戶教育升級(jí)的重要性。
就是有這么一個(gè)過程，從說到做，實(shí)際中間的周期蠻長的，希望大家某一天都不說 AI 安全了，懶得提它了，但是每一臺(tái)電腦上都裝上了，像殺毒軟件一樣，每一個(gè) AI 產(chǎn)品里都有這個(gè)能力在了，我覺得我們上層所做的任何努力才有一個(gè)基礎(chǔ)。
我想“八卦”一下馬杰和與其相關(guān)的人和事。
馬杰在安全領(lǐng)域從業(yè)的時(shí)間很長。2000~2010年期間，馬杰在瑞星主持開發(fā)了從個(gè)人殺毒軟件到企業(yè)級(jí)安全硬件在內(nèi)的大量產(chǎn)品，2011年起，馬杰創(chuàng)立了基于SaaS的云安全服務(wù)品牌“安全寶”，2015年4月，百度收購安全寶，馬杰出任百度云安全總經(jīng)理，全面負(fù)責(zé)百度云安全部的研發(fā)和管理工作。2016年3月，馬杰出任百度安全事業(yè)部總經(jīng)理，全面負(fù)責(zé)百度安全事業(yè)部的研發(fā)和管理工作。
業(yè)內(nèi)周知的是，安全寶當(dāng)時(shí)的一條產(chǎn)品線與“道哥”吳翰清團(tuán)隊(duì)歸了阿里云，現(xiàn)在道哥已經(jīng)是阿里云的首席安全專家。不久前，馬杰的老同事、安全寶曾經(jīng)的COO 沈鵬飛出任百度安全事業(yè)部副總經(jīng)理，馬和沈再聚首。而當(dāng)年安全寶的 CTO Tony Lee 現(xiàn)在也是京東的首席信息安全專家。
為什么要八卦這一點(diǎn)？
你會(huì)發(fā)現(xiàn)，身居圈內(nèi)“高位”的這幫“老朋友”的關(guān)注點(diǎn)很集中。
道哥在 2017 年提出了一項(xiàng)重要的“彈性安全網(wǎng)絡(luò)”的概念，這是一種能把 DDoS 防御前置到網(wǎng)絡(luò)邊緣處的技術(shù)，他也因此入選了麻省理工TR35。而過去的一年中，由 IoT 設(shè)備引發(fā)的大規(guī)模 DDoS 攻擊已不是新鮮事。
1月13日，Tony Lee 在 i 春秋主辦的 2018 互聯(lián)網(wǎng)安全責(zé)任峰會(huì)上說，“另一件事是京東未來的重要業(yè)務(wù)，其一是智能家居的協(xié)議，其二是 AI 。”“未來的 IoT 與 AI 無處不在，特別是 IoT 設(shè)備很難管理，這種情況下該如何做安全？對(duì)于京東來說，我們的責(zé)任就不僅僅是找漏洞或者是代碼安全，而是從整個(gè)安全機(jī)制，安全協(xié)議出發(fā)……”
當(dāng)然，“IoT安全”也好，“AI 安全”也罷，本來就是現(xiàn)在的熱點(diǎn)，不足為奇。但知道了百度安全的相關(guān)背景，也許你更能理解兩點(diǎn)：第一，這是大勢(shì)；第二，對(duì)于百度安全為什么重點(diǎn)關(guān)注移動(dòng)安全、IoT安全，現(xiàn)在又將這些重點(diǎn)“打包”進(jìn)“AI 安全”，對(duì)他們所闡釋的 AI 安全，你將有更深的感觸。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
