雷鋒網(wǎng) AI 科技評(píng)論按：2018 全球人工智能與機(jī)器人峰會(huì)（CCF-GAIR）在深圳召開，峰會(huì)由中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）主辦，雷鋒網(wǎng)、香港中文大學(xué)（深圳）承辦，得到了寶安區(qū)政府的大力指導(dǎo)，是國(guó)內(nèi)人工智能和機(jī)器人學(xué)術(shù)界、工業(yè)界及投資界三大領(lǐng)域的頂級(jí)交流盛會(huì)，旨在打造國(guó)內(nèi)人工智能領(lǐng)域最具實(shí)力的跨界交流合作平臺(tái)。

CCF-GAIR 2018 延續(xù)前兩屆的「頂尖」陣容，提供 1 個(gè)主會(huì)場(chǎng)和 11 個(gè)專場(chǎng)（仿生機(jī)器人，機(jī)器人行業(yè)應(yīng)用，計(jì)算機(jī)視覺(jué)，智能安全，金融科技，智能駕駛，NLP，AI+，AI 芯片，IoT，投資人）的豐富平臺(tái)，意欲給三界參會(huì)者從產(chǎn)學(xué)研多個(gè)維度，呈現(xiàn)出更富前瞻性與落地性相結(jié)合的會(huì)議內(nèi)容與現(xiàn)場(chǎng)體驗(yàn)。

Joseph Sifakis 教授是 CCF-GAIR 2018 首日的人工智能主論壇重磅演講嘉賓，Joseph Sifakis 是美國(guó)國(guó)家科學(xué)院、工程院、歐洲科學(xué)院三院院士，他還是圖靈獎(jiǎng)得主，因「在將模型檢查發(fā)展為被硬件和軟件業(yè)中所廣泛采納的高效驗(yàn)證技術(shù)上的貢獻(xiàn)」獲得 2007 年度的圖靈獎(jiǎng)。

「從模型檢測(cè)到嵌入式設(shè)備，再到物聯(lián)網(wǎng)時(shí)代，Joseph Sifakis 教授最有話語(yǔ)權(quán)」，這樣的評(píng)價(jià)一點(diǎn)都不為過(guò)。

在第一天的人工智能主論壇上，Joseph Sifakis 教授在大會(huì)首日發(fā)表了題為「Autonomous System Design in the Era of IoT」（物聯(lián)網(wǎng)領(lǐng)域的自主系統(tǒng)設(shè)計(jì)）的演講，以下是 Joseph Sifakis 教授的演講全文，雷鋒網(wǎng)做了不改變?cè)獾恼砼c編輯：

上圖呈現(xiàn)了一幅物聯(lián)網(wǎng)的愿景，我們有基礎(chǔ)架構(gòu)和基礎(chǔ)設(shè)施來(lái)承載如此多的物件。同時(shí)，我們有不同的物聯(lián)網(wǎng)愿景：

• 物聯(lián)網(wǎng)（IoT），它提升了互聯(lián)網(wǎng)

• 工業(yè)物聯(lián)網(wǎng)（industrial IoT）和人類 IoT（human IoT）

工業(yè)物聯(lián)網(wǎng)系統(tǒng)是自主的，自主意味著沒(méi)有人類的干擾和介入?，F(xiàn)在我們面對(duì)的巨大的挑戰(zhàn)是：我們?cè)诠I(yè)物聯(lián)網(wǎng)中的基礎(chǔ)設(shè)施和技術(shù)是否能夠?qū)崿F(xiàn)物聯(lián)網(wǎng)的愿景。

美國(guó)于 5 年前成立了一個(gè)工業(yè)互聯(lián)網(wǎng)的聯(lián)盟，即物聯(lián)網(wǎng)。發(fā)展物聯(lián)網(wǎng)要涉及到不同的方面：包括自主的決策、自主的運(yùn)營(yíng)、自主的學(xué)習(xí)，這也就是自主的意義。重中之重的是，我們必須了解這個(gè)自主系統(tǒng)，它具有不同的自主程度（不同的自主程度取決于環(huán)境的復(fù)雜度），以及使命的復(fù)雜度，還有一些人類活動(dòng)的可行性的執(zhí)行和非人類操作員的干涉。

圖（下）為無(wú)人駕駛車，我們用不同的自主范圍和自主水平來(lái)判定它的自主化程度，如從 level 0 到 level 5 的階段（從無(wú)自主化到完全自主化）。level5 階段的無(wú)人駕駛車是完全自主化的，它是不受人類干預(yù)的，完全由機(jī)器人操控的汽車。

我們現(xiàn)在面臨著很多局限性，在基礎(chǔ)設(shè)施方面，我們有綜合化的系統(tǒng)，也有各種優(yōu)化的系統(tǒng)，一些科學(xué)家在不斷地提升自動(dòng)化技術(shù)。但是，也還有很多科學(xué)家對(duì)物聯(lián)網(wǎng)自主化系統(tǒng)的發(fā)展過(guò)度樂(lè)觀。我們正在逐步前進(jìn)，要執(zhí)行各項(xiàng)系統(tǒng)和做好開源的系統(tǒng)設(shè)計(jì)。在系統(tǒng)設(shè)計(jì)方面，我們可以從一開始就提升它的可靠性。

我想介紹一下這個(gè)系統(tǒng)的設(shè)計(jì)。系統(tǒng)包括很多方面，包括想互動(dòng)的東西，硬件，軟件，以及其它的各種組件。

這個(gè)系統(tǒng)有什么特性呢？

它必須是值得大家信任的，它必須是可靠的。比如，在設(shè)計(jì)的過(guò)程中不能出現(xiàn)環(huán)境上的干擾，硬件失誤，設(shè)計(jì)上的誤差以及一些惡意的行為。所以，我們必須要優(yōu)化系統(tǒng)設(shè)計(jì)。優(yōu)化系統(tǒng)設(shè)計(jì)其實(shí)成本并不高，如果在初始階段就對(duì)系統(tǒng)進(jìn)行優(yōu)化設(shè)計(jì)，那么成本就不會(huì)過(guò)高。

這是系統(tǒng)設(shè)計(jì)，系統(tǒng)的設(shè)計(jì)非常關(guān)鍵。其中，Best-effort 是最優(yōu)的設(shè)計(jì)。

我們關(guān)心管理系統(tǒng)和設(shè)計(jì)系統(tǒng)。系統(tǒng)中有一些非常關(guān)鍵的使命，我們有著最優(yōu)的設(shè)計(jì)，同時(shí)還要考慮系統(tǒng)的可靠性，該可靠性會(huì)花費(fèi)一部分成本。系統(tǒng)的可靠性涉及到 10-9（10 的負(fù) 9 次方） 的安全的臨界性（safety critical）。

系統(tǒng)設(shè)計(jì)有不同的指數(shù)級(jí)別和等級(jí)

為什么我們不能提升這些等級(jí)的可靠性？因?yàn)槲覀冃枰恍┓浅ｊP(guān)鍵且必須非?？煽康南到y(tǒng)。

為此，我來(lái)解釋一下需要哪些基本的原則。

我們依賴兩個(gè)技術(shù)，一個(gè)是驗(yàn)證，一個(gè)是測(cè)試。驗(yàn)證指的是，你可以證明你的系統(tǒng)能夠正確地運(yùn)行，并且是基于模式的。你有一個(gè)模式，然后還有要求，有形式化要求，有模式的形式化，你用專業(yè)的知識(shí)來(lái)使這個(gè)系統(tǒng)符合這些要求。

在驗(yàn)證方面，我有 20 多年的工作經(jīng)驗(yàn)，驗(yàn)證已經(jīng)成功應(yīng)用于軟件和硬件領(lǐng)域。對(duì)于自動(dòng)系統(tǒng)，我們需要的是要求的形式化，下圖是自動(dòng)駕駛的 28 項(xiàng)要求。

我來(lái)向大家闡釋其中的一些要求，要將這些要求形式化非常難。

比如，當(dāng)你在正式形式化一個(gè)要求的時(shí)候，你要利用邏輯和人的行為，這是非常難的。另外一個(gè)難點(diǎn)是，我們都知道硬件和軟件之間要互動(dòng)，我們要理解軟件的行為和硬件的平臺(tái)，要理解它們之間的復(fù)雜互動(dòng)。

現(xiàn)在，我們有很多硬件平臺(tái)，為了開發(fā)一個(gè)可靠的模式，在這個(gè)模式下，我們需要驗(yàn)證這個(gè)系統(tǒng)，并且還會(huì)出現(xiàn)很多可能的失誤。因此，系統(tǒng)驗(yàn)證是一個(gè)非常難的任務(wù)。我們需要理解的非常重要的一點(diǎn)是，雖然自動(dòng)系統(tǒng)中有機(jī)器學(xué)習(xí)技術(shù)，但是我們也沒(méi)有辦法來(lái)驗(yàn)證機(jī)器學(xué)習(xí)。因?yàn)樵谏窠?jīng)網(wǎng)絡(luò)中，當(dāng)你開發(fā)一個(gè)神經(jīng)網(wǎng)絡(luò)的時(shí)候，而沒(méi)有辦法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行驗(yàn)證。因?yàn)闆](méi)有（對(duì)神經(jīng)網(wǎng)絡(luò)的）要求，所有沒(méi)有辦法來(lái)驗(yàn)證這個(gè)神經(jīng)網(wǎng)絡(luò)，這就意味著神經(jīng)網(wǎng)絡(luò)沒(méi)有辦法用來(lái)系統(tǒng)地驗(yàn)證。

另外一個(gè)模式，就是 V-Model，我們利用這樣一個(gè)模式來(lái)開發(fā)可靠的系統(tǒng)。

首先，我們有詳細(xì)的設(shè)計(jì)。其次，我們定義它的要求和構(gòu)架。然后，我們進(jìn)行操作，來(lái)測(cè)試這個(gè)構(gòu)架，融合所有構(gòu)建和成分。

我們?cè)谥笆褂眠^(guò) V-Model 這個(gè)模式，但在軟件工程方面，已經(jīng)不再運(yùn)用這個(gè)模式了（尤其是現(xiàn)代的軟件工程師們）。

目前沒(méi)有應(yīng)用這兩個(gè)技術(shù)，因此我們需要找到其它的方法來(lái)解決新的問(wèn)題。

我們來(lái)談一談自動(dòng)化挑戰(zhàn)。

我找到了三個(gè)問(wèn)題，以及我們?nèi)绾蝸?lái)理解這三個(gè)問(wèn)題。

一、物聯(lián)網(wǎng)領(lǐng)域的自主化系統(tǒng)設(shè)計(jì)的復(fù)雜度如何？

首先，我希望我們的自動(dòng)化系統(tǒng)能夠在沒(méi)有人的干預(yù)下，來(lái)應(yīng)對(duì)復(fù)雜的環(huán)境。

我們可以看到，構(gòu)建復(fù)雜度在上升和構(gòu)架復(fù)雜度也在上升，導(dǎo)致設(shè)計(jì)復(fù)雜度在上升。在這個(gè)系統(tǒng)中，系統(tǒng)的復(fù)雜度隨著組件和構(gòu)架的復(fù)雜度的上升而上升。

二、如何來(lái)衡量組件或者成分的復(fù)雜度？

首先，我們有一個(gè)函數(shù)，給它一個(gè)值，得到一個(gè)函數(shù)結(jié)果。在編程時(shí)，我們利用函數(shù)，這非常簡(jiǎn)單。軟件也是可以非常復(fù)雜的，它會(huì)有很多行的代碼。在三個(gè)構(gòu)架的系統(tǒng)中，有輸入和輸出，有時(shí)的輸出是基于歷史的輸入值的。在一個(gè)嵌入系統(tǒng)中，計(jì)算機(jī)在實(shí)際環(huán)境中不斷地演變，目前，在系統(tǒng)設(shè)計(jì)方面有了一個(gè)新的方向：虛擬物理系統(tǒng)。在虛擬物理系統(tǒng)中，有計(jì)算機(jī)，也有電子元件。當(dāng)我們?cè)O(shè)計(jì)這樣一個(gè)信息物理系統(tǒng)的時(shí)候，我們還要利用其它的知識(shí)。

我來(lái)向大家展示該信息物理系統(tǒng)，未來(lái)，所有的物體（無(wú)論是汽車還是其它的元件）都基于信息物理系統(tǒng)。也就是說(shuō)，存在機(jī)械的部件，但是每一個(gè)機(jī)械部件都有一個(gè)計(jì)算機(jī)軟件來(lái)對(duì)應(yīng)它。不同的零部件對(duì)應(yīng)不同的電腦軟件。這里，有一些可靠的軟件部件，還有硬件，我們用兩個(gè)構(gòu)件來(lái)構(gòu)成這樣一個(gè)模擬的自動(dòng)駕駛系統(tǒng)模型，再將模型發(fā)送到工廠，這就是工業(yè) 4.0 的概念。

當(dāng)然，設(shè)計(jì)這樣一個(gè)虛擬物理系統(tǒng)也帶來(lái)了諸多挑戰(zhàn)：

關(guān)于如何運(yùn)用模擬器，就有很多的技術(shù)問(wèn)題需要解決。

如何來(lái)融合、如何來(lái)構(gòu)建這樣一個(gè)信息物理系統(tǒng)，我們面臨很多的挑戰(zhàn)。

我們的目標(biāo)是建立一個(gè)模式，從上面的模擬的自動(dòng)駕駛系統(tǒng)模型中，我們看到有很多的軟件構(gòu)件和很多部件構(gòu)建的模型，我們需要融合多領(lǐng)域和多尺度的理論。這就涉及到工程和理論兩個(gè)方面的問(wèn)題，這些問(wèn)題非常重要，它們都需要解決。

現(xiàn)在，我們來(lái)談一談構(gòu)架的復(fù)雜度。我剛剛談到了構(gòu)架，我在這個(gè)領(lǐng)域已經(jīng)工作多年。圖中的構(gòu)架都是完全靜態(tài)的，其中，有最簡(jiǎn)單的構(gòu)架，也有最復(fù)雜的構(gòu)架。

在我們的系統(tǒng)設(shè)計(jì)中，構(gòu)架越來(lái)越重要。構(gòu)架的定義，它指一個(gè)系統(tǒng)中有不同的構(gòu)件，構(gòu)架讓我們可以建立一個(gè)正確的系統(tǒng)。工程師利用構(gòu)架來(lái)建立一個(gè)正確的系統(tǒng)。

注：這一頁(yè)解釋了如何利用構(gòu)架來(lái)建立正確的系統(tǒng)。

三、在設(shè)計(jì)一個(gè)正確系統(tǒng)的時(shí)候，有哪些構(gòu)件？

我們知道這些構(gòu)件的復(fù)雜度，然后我們有構(gòu)架，我們要協(xié)調(diào)不同的參數(shù)。

我們有一個(gè)動(dòng)態(tài)的參數(shù)的構(gòu)架，你可以在這個(gè)動(dòng)態(tài)的構(gòu)架中創(chuàng)造新的參數(shù)或者刪除參數(shù)，這種動(dòng)態(tài)的構(gòu)架可以跟隨環(huán)境的變化而變化，所以非常復(fù)雜。

還有一個(gè)是自我組織的構(gòu)架，這是一個(gè)移動(dòng)的構(gòu)架，但是它不只有一種協(xié)調(diào)，它有非常多的協(xié)調(diào)規(guī)則，不只是一套規(guī)則。比如，你可能要自我構(gòu)架一輛車或者是其它設(shè)備，因此，我們可以看到有靜態(tài)的構(gòu)架，還有參數(shù)型的構(gòu)架，還有動(dòng)態(tài)的構(gòu)架，還有自我組織的構(gòu)架。

我們來(lái)談一談面臨的挑戰(zhàn)：如何來(lái)建造基于知識(shí)的設(shè)計(jì)？

為什么需要知識(shí)？因?yàn)槲覀兊南到y(tǒng)必須需要應(yīng)對(duì)不確定性，如果用機(jī)器取代人類，那么機(jī)器就必須具備相應(yīng)的知識(shí)。

現(xiàn)在我們來(lái)定義一下什么叫知識(shí)，知識(shí)是一種信息，這種信息是真實(shí)的。什么是真實(shí)的信息？

真實(shí)的信息可以用來(lái)理解一種情景，或者用來(lái)解決一個(gè)問(wèn)題。這里，我們有不同的知識(shí)的分類，工程師所運(yùn)用的知識(shí)分類。比如說(shuō)，我們有可證明的信息或者實(shí)驗(yàn)性的知識(shí)。機(jī)器學(xué)習(xí)就是一種實(shí)驗(yàn)性的知識(shí)。我們的工程師和科學(xué)家也會(huì)產(chǎn)生一種知識(shí)，并應(yīng)用知識(shí)。

我一直在研究的一個(gè)重要問(wèn)題是，我們?cè)诙啻蟪潭壬夏墚a(chǎn)生新的知識(shí)并應(yīng)用知識(shí)。對(duì)工程師來(lái)說(shuō)，現(xiàn)在他們有一個(gè)系統(tǒng)，然后建模，再生成知識(shí)。這個(gè)系統(tǒng)中我們有強(qiáng)大的語(yǔ)言，有時(shí)候，我們有豐富的模型，當(dāng)然這需要非常強(qiáng)大的計(jì)算力。我們要應(yīng)用知識(shí)的話，需要對(duì)系統(tǒng)進(jìn)行建模，然后執(zhí)行這個(gè)系統(tǒng)。在這種情況下，在建模方面非常困難。這意味著我們要理解并且正確地轉(zhuǎn)化這個(gè)知識(shí)。因?yàn)槲覀兊沫h(huán)境非常的不確定且復(fù)雜度非常高，因此在這個(gè)方面我們也面臨著一些挑戰(zhàn)。

在系統(tǒng)設(shè)計(jì)中，有一些缺陷存在于最優(yōu)的系統(tǒng)設(shè)計(jì)和臨界系統(tǒng)中，工程師的目標(biāo)是確保這個(gè)系統(tǒng)的完整性。我們可以用最優(yōu)的設(shè)計(jì)方法，將這個(gè)系統(tǒng)設(shè)計(jì)的很好。但是，在系統(tǒng)設(shè)計(jì)中，還需要有適應(yīng)性的系統(tǒng)。

那么，我們?nèi)绾螐浹a(bǔ)最佳方法和工程方法系統(tǒng)之間的差距？

需要我們?cè)谶M(jìn)行系統(tǒng)設(shè)計(jì)的同時(shí)，也考慮到設(shè)計(jì)的標(biāo)準(zhǔn)：需要考慮到系統(tǒng)必須是非常值得信任的。我們還有一些可以控制的系統(tǒng)，可以進(jìn)行和系統(tǒng)、環(huán)境之間更好的合作，這就是適應(yīng)型的控制器，如此一來(lái)，這個(gè)系統(tǒng)就會(huì)變得足夠安全。有的時(shí)候，系統(tǒng)也會(huì)出現(xiàn)一些問(wèn)題，我們要對(duì)系統(tǒng)進(jìn)行監(jiān)控。如果問(wèn)題出現(xiàn)，我們需要降低這些缺陷，這是共識(shí)。我們經(jīng)常在有些區(qū)域運(yùn)用這些方法，計(jì)算系統(tǒng)中有各種控制理論，我們使用控制為基礎(chǔ)的各種技術(shù)來(lái)確保計(jì)算的正確性。盡管如此，還是出現(xiàn)了一些不可預(yù)估的風(fēng)險(xiǎn)，所以一開始的系統(tǒng)的設(shè)計(jì)就顯得非常重要，我們需要確保這一點(diǎn)。以知識(shí)為基礎(chǔ)的設(shè)計(jì)（包括它的設(shè)計(jì)時(shí)間的知識(shí)），有時(shí)，我們不能保證這個(gè)設(shè)計(jì)時(shí)間，因此，我們需要建立一些特性，設(shè)計(jì)流程的某些步驟能夠保證真正在執(zhí)行的時(shí)間，能夠保證完全真實(shí)的執(zhí)行情況。

接下來(lái)我想說(shuō)，目前無(wú)人駕駛汽車等自主化系統(tǒng)案例都非常引人注目，我們?cè)O(shè)定了一些標(biāo)準(zhǔn)來(lái)允許在對(duì)這些自主化系統(tǒng)進(jìn)行質(zhì)量上的檢測(cè)。還包括在研發(fā)過(guò)程當(dāng)中，提供決定性的證據(jù)，來(lái)校正這個(gè)系統(tǒng)和一些錯(cuò)誤的形態(tài)。如特斯拉汽車，它會(huì)自我驗(yàn)證，它們?cè)谘邪l(fā)的過(guò)程當(dāng)中都必須要進(jìn)行驗(yàn)證，但在一開始，需要對(duì)這個(gè)車進(jìn)行安全性的驗(yàn)證。

現(xiàn)在，我們需要做研究，需要新的方法和新的研究，來(lái)研究自動(dòng)駕駛的安全性。我認(rèn)為 AI 對(duì)自主化問(wèn)題的部分回答。例如非常聰明的 AlphaGo，AlphaGo 解決了一些問(wèn)題，AI 能夠幫助我們來(lái)進(jìn)行博弈，而這些博弈的規(guī)則正在不斷地變化當(dāng)中。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。