雷鋒網(wǎng)按：2018 全球人工智能與機器人峰會（CCF-GAIR）在深圳召開已進入第二天的議程，活動現(xiàn)場依舊火爆。本次峰會由中國計算機學會（CCF）主辦，雷鋒網(wǎng)、香港中文大學（深圳）承辦，得到了深圳市寶安區(qū)政府的大力指導，是國內(nèi)人工智能和機器人學術(shù)界、工業(yè)界及投資界三大領(lǐng)域的頂級交流盛會，旨在打造國內(nèi)人工智能領(lǐng)域最具實力的跨界交流合作平臺。

根據(jù)大會安排，6月30日迎來了仿生機器人專場，機器人行業(yè)應用專場，計算機視覺專場，智能安全專場，金融科技專場等專場。作為主論壇的研究方向的延伸，“智能安全專場”則匯聚來自廣州大學、浙江大學的專家學者，同時來自百度、阿里巴巴、騰訊、京東、海康威視的安全大牛，共同探討人工智能領(lǐng)域里的安全問題，同時就安全研究能否深入進人工智能領(lǐng)域等話題帶來了企業(yè)的最新觀點與研究成果。

9:15分，會場高朋滿座，專場開場。專場主席暨主持人是來自廣州大學網(wǎng)絡空間先進技術(shù)研究院院長、教授、博導的田志宏先生。

廣州大學網(wǎng)絡空間先進技術(shù)研究院院長、教授、博導的田志宏先生

他首先代表峰會主辦方對與會人員的到來表示了感謝和歡迎，同時表示智能安全已日益受到人們的關(guān)注，與AI、IoT、云計算等等多個層面結(jié)合越來越緊密，因而“智能安全專場”是個很好的契機，安全行業(yè)內(nèi)的領(lǐng)軍人物可以一起共同探討智能安全未來的發(fā)展方向。隨著開場致辭結(jié)束，專場正式進入演講部分。

一份重磅專場報告：《數(shù)據(jù)安全的現(xiàn)狀與趨勢》

開場演講的是來自浙江大學網(wǎng)絡空間安全研究中心主任、國家特聘教授、IEEE Fellow任奎教授，他做了《數(shù)據(jù)安全的現(xiàn)狀與趨勢》的大會重磅報告，他是研究型學者，因此他的報告讓專場具備了更多學術(shù)氣息。他主要從大數(shù)據(jù)和人工智能之間的契合點來談個人研究的經(jīng)驗與成果。他指出，數(shù)據(jù)安全的問題存在于數(shù)據(jù)的整個生命周期，從數(shù)據(jù)采集、流轉(zhuǎn)、傳輸?shù)綌?shù)據(jù)使用，通常情況下他更關(guān)注的是數(shù)據(jù)的機密性、數(shù)據(jù)的完整性、數(shù)據(jù)的可用性。

浙江大學網(wǎng)絡空間安全研究中心主任、國家特聘教授、IEEE Fellow任奎教授

機密性方面，互聯(lián)網(wǎng)企業(yè)尤其是大公司數(shù)據(jù)泄露事件一直發(fā)生，而且發(fā)生得越來越厲害，他列舉了美國Equifax用戶數(shù)據(jù)泄露和德國郵政出售選民信息的案例。他認為數(shù)據(jù)有可能被直接泄露，也有可能被做進一步隱私的挖掘。任奎談到3個技術(shù)：數(shù)據(jù)加密技術(shù)、訪問控制策略技術(shù)、隱私保護技術(shù)。數(shù)據(jù)加密技術(shù)上，學術(shù)界慢慢看到工業(yè)界的現(xiàn)實和需求，成果在進行遷移；訪問控制策略技術(shù)上，很多基于生物特征的訪問控制策略（指紋、臉部識別等）飛速發(fā)展，包括從密碼學的屬性里面基于屬性、角色的訪問控制策略越來越成熟；隱私保護技術(shù)上，在過去十幾年里面，一項最重要的項目就是差分隱私保護。

數(shù)據(jù)完整性方面，任何不被授權(quán)的對數(shù)據(jù)的改動都是不被允許的，都會影響數(shù)據(jù)的完整性。對數(shù)據(jù)篡改來說，人們會使用傳統(tǒng)的技術(shù)手段，比如數(shù)據(jù)采集和傳輸時可以用數(shù)據(jù)分裝和簽名，傳輸時有一些丟包恢復的機制，即便有一些包被丟掉，不用同傳也可以有本地數(shù)據(jù)，數(shù)據(jù)審計在數(shù)據(jù)使用的時候可以通過可驗證計算等等手段來進行保護。

數(shù)據(jù)可用性方面，防DDos攻擊主要技術(shù)就是本地防護、云端防護和源端防護，大家都在做這些事情，盡量把這些攻擊帶來的壞影響控制在最低范圍內(nèi)。這其中就涉及流量清洗，涉及IP合法性檢查、流量限速、動態(tài)指紋識別、特定應用防護等等。

人工智能時代到底是更好還是更壞？

人工智能的時代，數(shù)據(jù)安全也面臨了很多新的挑戰(zhàn)。從數(shù)據(jù)安全來說，人工智能時代到底是更好還是更壞？他談及三點：

·人工智能的發(fā)展使數(shù)據(jù)安全保障有了更強有力的工具：精確高效的信息過濾、安全多樣的身份認證。

·人工智能生成新的加密算法：很多新型的安全形態(tài)會出現(xiàn)，可以用產(chǎn)生的算法來對數(shù)據(jù)進行加密。

·人工智能不只是好處：AI算法被用來去挖掘用戶的隱私且?guī)淼呢撁娴男卜浅Ｖ?，還可以用來生成以假亂真的音頻和視頻， 還有大大失效的CAPTCHA檢測。

AI自身數(shù)據(jù)安全的問題方面，任奎認為有三類：

·訓練數(shù)據(jù)安全：訓練數(shù)據(jù)獲取成本極高，數(shù)據(jù)較為敏感，容易被竊取。

·模型參數(shù)安全：模型的價值都在參數(shù)，被輕易拿走，會使巨大損失。

·AI應用安全：對于智能駕駛就是致命問題。對于白盒攻擊，攻擊者能夠知道AI系統(tǒng)算法及參數(shù)，主要的攻擊算法包括快速梯隊算法、投射梯隊算法等等。

演講末，任奎感觸，合規(guī)和新的數(shù)據(jù)法律給學術(shù)界和工業(yè)界都提出了非常多的挑戰(zhàn)，數(shù)據(jù)安全依然任重而道遠。

BATJ同臺：暢談AI時代網(wǎng)絡安全如何保護

 

與會觀眾紛紛拍照學習

BATJ同臺可能是讓“智能安全專場”具備更強互聯(lián)網(wǎng)屬性的話題，因為互聯(lián)網(wǎng)4大巨頭全部到場，聽眾在比較其解決方案中會加深對BATJ的清晰認識。來自BATJ的嘉賓及主題分別為：

·百度AI安全技術(shù)總監(jiān)聶科峰：《AIoT時代的安全》

·阿里巴巴集團安全部資深總監(jiān)路全：《智能化攻防——機器學習在阿里巴巴網(wǎng)絡安全的應用》

·騰訊安全平臺部總監(jiān)胡珀：《AI+安全=？從危到機，AI時代下的安全挑戰(zhàn)》

·京東安全北美研究院院長Jimmy Su：《Bots vs Adversarial machine learning: Escalating battle of captcha solving》

百度：AIoT時代的安全

首先登場的是百度AI安全技術(shù)總監(jiān)聶科峰，他一開始便談到，AI技術(shù)正加速IoT發(fā)展，目前整個社會逐步進入AIOT時代。作為百度的安全團隊，他一直在跟AI一起努力開拓這個市場。AIoT概念由來已久，但沒有得到足夠的發(fā)展，近兩年AI的賦能開始，周邊很多的設備開始智能化。

 

百度AI安全技術(shù)總監(jiān)聶科峰

·傳感器。傳感器是未來整個智能化設備最核心的點，基于納米微電子技術(shù)的發(fā)展，可以把數(shù)字處理做在非常小的機器上，所以它是廉價化、微小化，使得傳感器大量可行，成為AIoT發(fā)展的非常重要的因素。

·芯片。CPU的特點是處理邏輯非常強，但在運算上有非常天然的弱勢。友達做了非常重要的貢獻——把GPU大規(guī)模的應用，在現(xiàn)性大數(shù)據(jù)處理方面發(fā)揮了非常強大的作用?，F(xiàn)在在所有基于AI技術(shù)應用上，為百度大數(shù)據(jù)的處理提供了基礎(chǔ)。

·帶寬。5G速率為未來的時代提供了更加高速的傳輸，加上數(shù)據(jù)流量成本的下降，很多人都可以去接受的階段。

·深度學習的AI。谷歌、百度也有一些深度學習的框架——這加深了AI的處理。

·云和邊緣計算。云和邊緣計算的發(fā)展為整個AI的角色處理提供了非常成熟的基礎(chǔ)。

聶科峰進一步談到，進入到AIoT時代以后，它確實跟原來的時代很不一樣，這個不一樣體現(xiàn)在它的安全上面要求會更高：

·AIoT本身的安全技術(shù)非常薄弱，生態(tài)里面目前從硬件到系統(tǒng)、到軟件甚至到設備廠商，是分工非常明確但非常不標準化，所以它的安全問題現(xiàn)在是沒有得到解決。

·AI基于傳感器數(shù)據(jù)的采集到傳輸?shù)教幚?，又引發(fā)了非常大的新的問題（個人隱私盜竊、泄密等）。

·系統(tǒng)性的安全風險。AIoT領(lǐng)域沒有人關(guān)注這個問題，但是它持續(xù)存在，每年有大量的漏洞曝出來，包括可能一些更小的實時操作系統(tǒng)都是潛在的風險。

他尤其強調(diào)的是“其實在行業(yè)界有一個共識，就是對于深度學習的模型，對工程師完全是黑盒，他完全不知道深度學習和機器學習的算法如何一步步推導出最終的結(jié)果，所以這個結(jié)果是充滿了不確定性和不可控制性。這樣的不可控制性會是我們整個AI未來應用的風險點所在”。

“數(shù)據(jù)是最重要的防線，對數(shù)據(jù)是最堅固的防線，這條防線上百度一定要從各個維度來保持好這條防線”，聶科峰指出，AI的安全這塊他們要求很簡單——就是穩(wěn)健。

此外，聶科峰還談及設備安全和漏洞修復問題，他表示，從云管端到AI，百度安全將保護百度在整個AI生態(tài)上的茁壯成長，同時百度提供了基于對抗訓練的平臺，大家可以嘗試使用。

阿里巴巴：像呵護孩子一樣呵護AI系統(tǒng)

緊接著，阿里巴巴集團安全部資深總監(jiān)路全則帶來了《智能化攻防——機器學習在阿里巴巴網(wǎng)絡安全的應用》的演講。他指出，他的演講圍繞安全為智能，而不是智能為安全。

 

阿里巴巴集團安全部資深總監(jiān)路全

他以攻擊智能汽車為例，詳細介紹了典型的智能安全體該如何構(gòu)成。他指出，改變交通標志、黑客入侵系統(tǒng)、數(shù)據(jù)植入云端讓數(shù)據(jù)中毒都可以實現(xiàn)對智能汽車的攻擊，而當前作為掌握海量大數(shù)據(jù)的阿里巴巴來說，面臨的挑戰(zhàn)還比智能汽車安全更為復雜。

目前，數(shù)據(jù)污染或數(shù)據(jù)中毒的案例不勝枚舉，而阿里安全除了在傳統(tǒng)網(wǎng)絡建立安全的防御體系，防御黑客入侵和滲透，還要建立一張網(wǎng)防止數(shù)據(jù)中毒和數(shù)據(jù)污染。在阿里看來，機器流量是萬惡之源（爬蟲爬取信息、商家信息泄露、搜索排序刷單等）。

路全接下來介紹了阿里在機器流量防空體系三個方面：

·檢測模塊。如果把整個智能系統(tǒng)比作一個人，檢測模塊就是眼睛，沒有眼睛很多事情是做不了。

·分類模型。分類模型是機器學習的一種，是在工業(yè)界最常用的模型，如果機器學習比作有機體，分類模型就是大腦。

·輔助系統(tǒng)。反饋控制研究已經(jīng)很透，但其實在實際系統(tǒng)中，反饋控制往往能起到和機器學習模型疊加組合起來能起到好效果。在傳統(tǒng)的OR領(lǐng)域，運籌學和信息系統(tǒng)結(jié)合也能產(chǎn)生很好的效果。

“在阿里有一句話，‘我們要像治理酒駕一樣去打擊假貨’?，F(xiàn)在還要加上一句，因為我們不光要像治理酒駕一樣去打擊假貨，我們還要‘像呵護我們的孩子一樣去呵護AI系統(tǒng)’，因為它是數(shù)據(jù)驅(qū)動，你教它什么，給它什么數(shù)據(jù)，就會出現(xiàn)什么行為”。演講最后，路全如此說道，他覺得對AI的保護迫在眉睫，智能體被數(shù)據(jù)中毒或被數(shù)據(jù)污染是他們非常不愿意看到的一面，他們正為此而努力。

騰訊安全：AI+安全=？

騰訊安全平臺部總監(jiān)胡珀

騰訊安全平臺部總監(jiān)胡珀是AI安全領(lǐng)域的年輕專家，他最為關(guān)心的就是AI本身的安全問題，他認為，這可以歸為以下三類：

·AI算法自身的安全問題。圖像識別、圖像欺騙等會導致自動駕駛出問題，谷歌也做了一些研究，如果模型文件被黑客控制惡意修改，并且給它學習，會產(chǎn)生完全不一樣的結(jié)果。

·AI系統(tǒng)引入第三方的組件。這些組件也會存在問題，包括對文件、網(wǎng)絡協(xié)議、各種外部輸入?yún)f(xié)議的處理都會出問題。被黑客利用，帶來的是災難性的毀滅，所以現(xiàn)在產(chǎn)業(yè)界學術(shù)界都非常關(guān)注AI的這個方面。

·壞人也會用到AI。不要以為AI只是停留在學術(shù)界或者是工業(yè)界，其實現(xiàn)在黑產(chǎn)也大量在使用AI。

胡珀接著從人機對話、人臉識別、在線AI、智能音箱竊聽、智慧城市協(xié)議、智能設備劫持、攝像頭入侵、手機解鎖等角度用實際案例詳細解釋了AI的安全的問題。

AI安全應用到安全場景，可能帶來一些實戰(zhàn)。大概沿著這些方向：第一是會向傳統(tǒng)的生物特征轉(zhuǎn)變，第二是研究工具有變化，特征工程對抗轉(zhuǎn)入機器學習的方法，可能用機器學習建一個域值和模型，通過模型來看是否是黑客攻擊。在騰訊看來，引入機器學習的實際效果是應用在兩個層面，即DDoS與黑客的入侵行為，為了防止機器誤報，騰訊采用雙引擎在跑。

演講結(jié)束時，胡珀總結(jié)到，機器學習方法應用到傳統(tǒng)的安全場景，在某些特定場景下，AI絕對是優(yōu)于人類或者傳統(tǒng)的特征工程，但可能在某些場景業(yè)內(nèi)還需要繼續(xù)探索。

京東安全：機器人與對抗性機器學習——不斷升級的驗證碼的戰(zhàn)斗

京東安全北美研究院院長Jimmy Su主要分享“機器人與對抗性機器學習：不斷升級的驗證碼的戰(zhàn)斗”這個話題，他認為隨著柯潔和李世石敗給了人工智能機器人，深度學習其實已經(jīng)在不同領(lǐng)域有非常顯著的發(fā)展。而京東的AI在賬號安全場景上已經(jīng)運用一段時間。

京東安全北美研究院院長Jimmy Su

體現(xiàn)在哪些方面呢？首先是在APP的安全SDK里面有采集設備指紋，其次是在注冊和登錄環(huán)節(jié)有人機識別技術(shù)（生物探針），再其次是行為分析做一些異常檢測，用無監(jiān)督學習技術(shù)，到訂單的風控會加入黑產(chǎn)情報，最后是通過業(yè)務的驗證和反饋去調(diào)整模型。

電商場景欺詐行為非常豐富，涉及機注、刷單、黃牛、代購刷券、惡意訂單、虛假評論等，京東的AI體系都會涉及。從黃牛行為來看，黃牛黑產(chǎn)整個生態(tài)環(huán)境也有攻防不同的技術(shù)，黃牛也會有意避開人機識別。從防守角度來看，京東安全有反爬蟲，能確保京東活動價格信息不會很快被知道，同時京東也會分析黑產(chǎn)信息，通過NLP技術(shù)找到黃牛的動態(tài)以及黃?，F(xiàn)在用的工具，逆向團隊也會把黑產(chǎn)軟件進行立項以便打擊。

與此同時，Jimmy Su指出黑產(chǎn)有成熟的工具——火牛和刀鋒。火牛有非常多的功能，注冊、訂單、刷券種種行為，可以看到黑產(chǎn)會導入帳號、收貨人地址、微信手Q的地址、定時下單，還可以實現(xiàn)驗證碼的識別。而刀鋒工具作為第二大黑產(chǎn)工具，運作的時候可以用工具去自動滑動驗證碼，用多個賬號做批量下單，使用不同的IP從而繞過人機識別技術(shù)。黑產(chǎn)工具有辦法做爬蟲，從不同的端拿到價格信息，同時因為IP地址更換，使得檢測行為變得困難。

“黑產(chǎn)技術(shù)發(fā)展非常快，一兩天后就有新的版本出現(xiàn)，我們也會持續(xù)監(jiān)控黑產(chǎn)工具”，Jimmy Su表示。針對互聯(lián)網(wǎng)企業(yè)流行的打碼平臺，京東用得比較多的是超人打碼平臺。他們將比較主流的圖片驗證碼輸入到超人打碼平臺，由于有AI服務模型，所以在主流的驗證碼里面準確率還是很高。此外，京東還將用人工智能模型去提取優(yōu)點，將優(yōu)點都放在新的驗證碼，所以使用黑產(chǎn)工具后驗證碼正確識別率只有12%，當然對人的識別難度會有所提升，這是京東安全需要平衡的地方。

演講最后，Jimmy Su表示，在京東安全有非常廣泛的AI應用場景，AI應用是能讓他們?nèi)ジ咝н\作的唯一途徑，所以電商和黑產(chǎn)之間高對抗性的攻防將持續(xù)發(fā)生。

視頻物聯(lián)網(wǎng)巨頭：網(wǎng)絡安全最佳實踐與IoT的碰撞

本次專場的另一個重磅演講來自海康威視。雷鋒網(wǎng)了解到，作為國內(nèi)以視頻為核心的物聯(lián)網(wǎng)解決方案提供商，?？低曉诰W(wǎng)絡安全層面的布局早早就已開始。海康威視網(wǎng)絡安全部總監(jiān)、網(wǎng)絡與信息安全實驗室主任王濱發(fā)表了《網(wǎng)絡安全最佳實踐與IoT安全的碰撞》的精彩發(fā)言。

 

?？低暰W(wǎng)絡安全部總監(jiān)、網(wǎng)絡與信息安全實驗室主任王濱

王濱指出，隨著AI技術(shù)的發(fā)展，其在IoT領(lǐng)域的發(fā)展現(xiàn)狀已經(jīng)超過我們的想象，整個AIoT的安全問題需要足夠引起足夠重視，但是脫離了業(yè)務講安全是比較空的。

他在會上演示了三個片段，從智慧城市的智慧安防、安檢高清攝像頭以及交通領(lǐng)域的車輛定位幾個角度來看物聯(lián)網(wǎng)的升級業(yè)務的落地。

“每個人在物聯(lián)網(wǎng)的時代，其實都是沒有辦法去逃脫這個物聯(lián)網(wǎng)?；谠朴嬎愕膸樱F(xiàn)在整個物聯(lián)網(wǎng)的體系架構(gòu)已經(jīng)跟原來物聯(lián)網(wǎng)的體系架構(gòu)發(fā)生了翻天覆地的變化，原來傳統(tǒng)上物聯(lián)網(wǎng)的設備都是一些嵌入式的甚至單面積設備，發(fā)展到了今天，我們現(xiàn)在見到很多的物聯(lián)網(wǎng)設備已經(jīng)加載了GPU的功能，它的計算能力甚至已經(jīng)超越了我們用的手機或者筆記本電腦的計算能力”。

談及物聯(lián)網(wǎng)的安全，王濱表現(xiàn)出擔憂：當大家都納入到物聯(lián)網(wǎng)里面，我們在物聯(lián)網(wǎng)里面受到的安全威脅一定會越來越多，因為任何一個物聯(lián)網(wǎng)的設備和系統(tǒng)，它要為你提供各種各樣的服務，它一定會搜集到很多個人的數(shù)據(jù)和信息。而這些設備是資源受限的，網(wǎng)絡帶寬比較窄，此外最主要的問題在于物聯(lián)網(wǎng)設備部分場景太開放，數(shù)量太巨大，一旦這些設備發(fā)生了安全問題，就很難控制。不管從產(chǎn)業(yè)界，從設備的制造商以及從用戶、政府管理機構(gòu)等等來看，在安全方面做得還是有些欠缺。

“三無產(chǎn)品”是有安全缺陷的，原因有四：弱口令、缺乏有效的升級機制、密碼恢復存在各種各樣的危險、設備存在安全漏洞。由于整個無線網(wǎng)絡設備數(shù)量太大、分布太多、形態(tài)多樣，進行安全升級的時候都有不同的業(yè)務場景，但是都不能按照傳統(tǒng)的業(yè)界最佳實踐去套。物聯(lián)網(wǎng)缺乏人機交互界面，用戶對設備產(chǎn)生所有權(quán)后，如何獲取升級通知、如何操作都是問題，安全問題出現(xiàn)時候，物理隔離設備無法幸免。因此隨著整個AI技術(shù)的發(fā)展，物聯(lián)網(wǎng)的設備會對人的生活影響越來越大，但是物聯(lián)網(wǎng)的安全問題跟傳統(tǒng)的安全理念上還是有一定的差別，需要大家去做進一步的業(yè)務緊耦合。

演講結(jié)尾，王濱總結(jié)到，海康威視目前在做全球化的工作，40%銷售額來自海外，后期安全問題將是重要發(fā)力點，目前也已經(jīng)與海外企業(yè)展開對話，將進一步將IoT里面的最佳實踐推廣到行業(yè)里。

隨著海康威視的演講結(jié)束，“智能安全專場”的演講就步入結(jié)尾了，但與會觀眾對于智能安全的關(guān)注與熱情似乎沒有絲毫消退，他們在會后與嘉賓進行了深度交談，專場的思想性、實用性與前瞻性感染了現(xiàn)場每個人。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。