當(dāng) Adrian Luowig講述理想的計(jì)算機(jī)安全方法時(shí)，他不是將其比喻為鎖或防火墻或城堡周圍的護(hù)城河，他說(shuō)，計(jì)算機(jī)安全應(yīng)該像信用卡業(yè)務(wù)一樣。

他解釋說(shuō)，信用卡公司并不能消除風(fēng)險(xiǎn)。它只能管理風(fēng)險(xiǎn)，把市場(chǎng)作為一個(gè)整體的數(shù)據(jù)來(lái)為每個(gè)人建立不同的風(fēng)險(xiǎn)（和不同的利率）。Ludwig認(rèn)為，計(jì)算機(jī)安全應(yīng)該以大致相同的方式工作。 “安全社區(qū)如何規(guī)定是非黑白、好與壞？”他說(shuō)。 “除非我們接受灰色地帶，否則將是全黑的?！?/p>

Ludwig在谷歌工作，負(fù)責(zé)Android的安全，該移動(dòng)操作系統(tǒng)，總是包含盡可能多的手機(jī)制造商，應(yīng)用程序和人。但他和同事們的目標(biāo)是把這個(gè)辦法用在一個(gè)新的方向。他解釋說(shuō)，如果安全的未來(lái)在于管理風(fēng)險(xiǎn)，那么安全的未來(lái)就是機(jī)器學(xué)習(xí)，人工智能的同一品種已經(jīng)證明在谷歌帝國(guó)的很多其他地方非常成功。我們不應(yīng)該編寫(xiě)旨在停止一切網(wǎng)絡(luò)攻擊的強(qiáng)硬和快速的數(shù)字規(guī)定，隨著互聯(lián)網(wǎng)變得更加復(fù)雜，隨著它的普及，這樣做最終會(huì)導(dǎo)致大家都關(guān)閉起來(lái)。相反，我們應(yīng)該建立一個(gè)可以分析較大范圍和學(xué)會(huì)識(shí)別動(dòng)態(tài)潛在問(wèn)題的系統(tǒng)。

Ludwig用信用卡公司的比喻把谷歌和其主要競(jìng)爭(zhēng)對(duì)手蘋(píng)果，區(qū)分開(kāi)來(lái)，因?yàn)樘O(píng)果對(duì)iPhone死死地控制住。坦白說(shuō)，蘋(píng)果的安全模式確實(shí)有它的優(yōu)勢(shì)。美國(guó)聯(lián)邦通信委員會(huì)正在調(diào)查為什么修補(bǔ)Android手機(jī)的漏洞需要這么久，這一問(wèn)題很可能是谷歌有這么多不同的手機(jī)制造商，和支離破碎的Android系統(tǒng)的結(jié)果。而蘋(píng)果僅僅是和一個(gè)手機(jī)制造商打交道：它本身。但Ludwig的觀點(diǎn)是，在放任和鎖定之間可以有一個(gè)中間地帶。而這涉及到機(jī)器學(xué)習(xí)，包括越來(lái)越重要的人工智能技術(shù)深層神經(jīng)網(wǎng)絡(luò)。

“如果你有10億個(gè)設(shè)備，不管你的安全做得有多好，它們中的一些始終會(huì)有漏洞，其中一些將受到損害?！盠udwig說(shuō)。在加盟谷歌之前，他在國(guó)家安全局呆了8年，并在安全咨詢公司@stake工作一段時(shí)間。 “要管理這么多設(shè)備，你需要數(shù)據(jù)，而且還需要分析它?！?/p>

初創(chuàng)Deep Instinct

他不是唯一一個(gè)推動(dòng)這個(gè)大想法的人。百度也在使用深層神經(jīng)網(wǎng)絡(luò)識(shí)別惡意軟件。同時(shí)還有安全的初創(chuàng)公司，如Deep Instinct和Cylance。正如一個(gè)神經(jīng)網(wǎng)絡(luò)可以識(shí)別照片的具體特點(diǎn)，它也可以識(shí)別惡意軟件的應(yīng)用程序，或可能暴露你的手機(jī)給惡意黑客有點(diǎn)缺陷的操作系統(tǒng)代碼。

但革命的時(shí)機(jī)還沒(méi)到。谷歌的努力仍處于早期階段。 “這不是一個(gè)科學(xué)實(shí)驗(yàn)。它是真實(shí)的。但它不是最優(yōu)的解決方案。”Ludwig說(shuō)。目前，谷歌還沒(méi)有足夠的問(wèn)題來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)。“大多數(shù)應(yīng)用程序的安全性都很好。不過(guò)也有一些糟糕的?！昂蚅udwig一起工作的Rich Cannings說(shuō)。諷刺的是，要真正“擁抱”機(jī)器學(xué)習(xí)，谷歌需要更多的Android問(wèn)題來(lái)灌輸神經(jīng)網(wǎng)絡(luò)或完善神經(jīng)網(wǎng)絡(luò)。

并不是說(shuō)Android的安全記錄是一塵不染。 “一年前，”在名為Zimperium安全裝備工作，最近在Android中發(fā)現(xiàn)了顯著串漏洞的研究人員Joshua Drake說(shuō)，“我真的覺(jué)得Android沒(méi)有在安全方面投資任何東西?！倍覚C(jī)器學(xué)習(xí)不是萬(wàn)能藥。它不能幫助谷歌發(fā)放安全補(bǔ)丁給所有的Android手機(jī)制造商。但它可以幫助識(shí)別安全漏洞，如果目前的技術(shù)完善的話。

“門衛(wèi)”Bouncer

Sebastian Porst運(yùn)行谷歌的團(tuán)隊(duì)，負(fù)責(zé)辨別可能出現(xiàn)在Android手機(jī)上的任何惡意或脆弱的應(yīng)用。他希望機(jī)器能取得自己的工作， “這是我們的目標(biāo)?！彼f(shuō)。

在谷歌，這可以說(shuō)是很尋常的態(tài)度。事實(shí)上，這是驅(qū)使該公司運(yùn)作方式的理念。 “我們團(tuán)隊(duì)的人會(huì)很快因?yàn)槭止?zhí)行任務(wù)變得無(wú)聊，有編寫(xiě)軟件來(lái)取代他們以前的手工工作的技能。”Ben Treynor Sloss說(shuō)，負(fù)責(zé)保持谷歌在線服務(wù)啟動(dòng)和運(yùn)行。

在Android安全團(tuán)隊(duì)內(nèi)部，這方面的努力還不是很久遠(yuǎn)，但Porst和他的團(tuán)隊(duì)已經(jīng)建立了一個(gè)自動(dòng)化系統(tǒng)Bouncer。該系統(tǒng)會(huì)分析每一個(gè)上傳到谷歌Play商店的應(yīng)用程序，尋找惡意或其他有問(wèn)題的軟件代碼，然后運(yùn)行每個(gè)應(yīng)用程序，以分析它們的行為。這也關(guān)系到了谷歌的網(wǎng)絡(luò)爬蟲(chóng)——谷歌搜索引擎的指標(biāo)工具，因此它可以自動(dòng)掃描上傳到隨機(jī)網(wǎng)站的Android應(yīng)用。 “我們盡最大的努力在源頭掃描每個(gè)應(yīng)用程序?！盤(pán)orst說(shuō)。如果一個(gè)未知的應(yīng)用程序被下載到一定數(shù)量的Android手機(jī)上，系統(tǒng)會(huì)“抓住”它，同時(shí)分析它的代碼和行為。

在過(guò)去，Bouncer根據(jù)一組預(yù)定義的規(guī)則進(jìn)行操作。但現(xiàn)在，在努力磨練系統(tǒng)的同時(shí)，谷歌還在依靠機(jī)器學(xué)習(xí)。在掃描所有這些應(yīng)用程序后，該系統(tǒng)已經(jīng)收集了每個(gè)程序大量的數(shù)據(jù)，Porst稱之為“信號(hào)”——定義程序的特點(diǎn)和行為。目前，團(tuán)隊(duì)正在把這些信號(hào)灌輸給神經(jīng)網(wǎng)絡(luò)，以便系統(tǒng)可以了解哪些特征的組合表明惡意軟件。 “我們可以用機(jī)器學(xué)習(xí)弄清楚哪些信號(hào)實(shí)際上具有潛在有害的行為，哪些是完全無(wú)害的，”P(pán)orst說(shuō)。

這的確很有用，但還不足夠。目前，Porst說(shuō)，“安全的專業(yè)知識(shí)不能被任何機(jī)器學(xué)習(xí)算法代替?！笔聦?shí)上，機(jī)器學(xué)習(xí)只是團(tuán)隊(duì)掃描渠道其中一部分，如果系統(tǒng)標(biāo)記某個(gè)應(yīng)用程序是有問(wèn)題，人類工程師總是會(huì)再次檢查。問(wèn)題是數(shù)據(jù)太少。 Porst說(shuō)，技術(shù)對(duì)Play商店外的應(yīng)用程序更有效，主要是因?yàn)?，如今，上傳到Play商店的幾乎沒(méi)有有害軟件。

這并不是說(shuō)機(jī)器學(xué)習(xí)不會(huì)改善Porst和其團(tuán)隊(duì)的工作。安全初創(chuàng)Deep Instinct首席技術(shù)官Eli David說(shuō)，他的公司通過(guò)分析數(shù)據(jù)而不僅僅是跨一個(gè)計(jì)算機(jī)平臺(tái)，比如說(shuō)Android，而是所有的平臺(tái)，已建立有效的模型。他說(shuō)，“你的范圍一定要大?！?/p>

真正的Clusterfuzz

在識(shí)別移動(dòng)操作系統(tǒng)有大洞后，Jon Larimer在谷歌找到了一份工作。他發(fā)現(xiàn)了圖形設(shè)備驅(qū)動(dòng)程序的瑕疵，呈現(xiàn)在Android手機(jī)的圖形代碼。他用這個(gè)漏洞通過(guò)互聯(lián)網(wǎng)獲得手機(jī)的完全控制。然后，他將它展示給Ludwig和其團(tuán)隊(duì)。

現(xiàn)在，Larimer和他的團(tuán)隊(duì)正在建立一個(gè)可以自主判斷類似漏洞的系統(tǒng)。

像Nick Kralevich這樣的Android安全工程師，構(gòu)建代碼的目的是消除操作系統(tǒng)可利用的漏洞。但這些漏洞接二連三地出現(xiàn)。因此，最初打造的處理谷歌Chrome網(wǎng)絡(luò)瀏覽器的安全技術(shù)，Larimer和其他人建立在模糊測(cè)試，通過(guò)各種隨機(jī)輸入尋求在軟件中的漏洞。模糊化是常有的事情，但是這個(gè)系統(tǒng)被稱為Clusterfuzz，同時(shí)在幾十臺(tái)Android手機(jī)進(jìn)行模糊測(cè)試。

在某些情況下，它在任何給定的時(shí)間橫跨數(shù)千臺(tái)服務(wù)器，分析約1500臺(tái)手機(jī)，測(cè)試這些手機(jī)的虛擬化身。它還測(cè)試物理設(shè)備，因?yàn)橛布娴目梢愿淖兪謾C(jī)的行為。在谷歌總部43號(hào)樓內(nèi)，你會(huì)發(fā)現(xiàn)大量的機(jī)架放著數(shù)百手機(jī)插入此掃描系統(tǒng)。 “我們團(tuán)隊(duì)沒(méi)有很多人，”他說(shuō)， “但是，我們的優(yōu)勢(shì)在于規(guī)模，可以接觸成千上萬(wàn)的CPU。”

現(xiàn)在，為了努力鑒定更多的漏洞，谷歌將機(jī)器學(xué)習(xí)應(yīng)用到該問(wèn)題。Larimer和團(tuán)隊(duì)正在利用神經(jīng)網(wǎng)絡(luò)，使用Clusterfuzz鑒別每個(gè)文件的結(jié)構(gòu)。如果系統(tǒng)知道該結(jié)構(gòu)，它可以更徹底地測(cè)試該文件。在學(xué)習(xí)確定文件如何運(yùn)行上，Larimer解釋說(shuō)，神經(jīng)網(wǎng)絡(luò)可以幫助模糊器“接觸盡可能多的代碼”。像Porst對(duì)機(jī)器學(xué)習(xí)所做的工作，該項(xiàng)目還年輕。但有前途。 “我們最終可以達(dá)到100％的覆蓋率?！盠arimer說(shuō)。 “這就是未來(lái)?！?/p>

尋找中間地帶

這一切的工作表明，Android的安全性正在改變。除了對(duì)機(jī)器學(xué)習(xí)的舉動(dòng)，該公司推出了一個(gè)大的賞金計(jì)劃，在前微軟人Scott Roberts的指導(dǎo)下，Ludwig作出更大的努力來(lái)解釋他的團(tuán)隊(duì)是如何解決安全性的問(wèn)題。外部研究人員外像Joshua Drake早年曾經(jīng)質(zhì)疑谷歌對(duì)Android安全的認(rèn)真性。但即使Drake也會(huì)告訴你，他看到了改變的跡象，特別是因?yàn)樗ツ晗奶毂┞读薙tagefright漏洞。 “過(guò)去和現(xiàn)在是一個(gè)巨大的差異，”德雷克說(shuō)。 “谷歌已經(jīng)意識(shí)到他們需要做更多的地步。”

谷歌不相信蘋(píng)果的模式。但Ludwig和他的Android團(tuán)隊(duì)知道，舊的方法并不一定成功。他們認(rèn)為理想的方法是介于兩者之間，其他人也同意。 “這兩個(gè)生態(tài)系統(tǒng)都有優(yōu)點(diǎn)和缺點(diǎn)，”Drake說(shuō)。 “不是那么簡(jiǎn)單就能解決問(wèn)題?！比绻沁@樣的話，機(jī)器學(xué)習(xí)可以在手機(jī)安全的未來(lái)確實(shí)發(fā)揮重要的作用。

via wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。