雷鋒網(wǎng) AI 科技評論按：2018 全球人工智能與機器人峰會（CCF-GAIR）在深圳召開，峰會由中國計算機學會（CCF）主辦，雷鋒網(wǎng)、香港中文大學（深圳）承辦，得到了寶安區(qū)政府的大力指導，是國內(nèi)人工智能和機器人學術界、工業(yè)界及投資界三大領域的頂級交流盛會，旨在打造國內(nèi)人工智能領域最具實力的跨界交流合作平臺。

CCF-GAIR 2018 延續(xù)前兩屆的「頂尖」陣容，提供 1 個主會場和 11 個專場（仿生機器人，機器人行業(yè)應用，計算機視覺，智能安全，金融科技，智能駕駛，NLP，AI+，AI 芯片，IoT，投資人）的豐富平臺，意欲給三界參會者從產(chǎn)學研多個維度，呈現(xiàn)出更富前瞻性與落地性相結(jié)合的會議內(nèi)容與現(xiàn)場體驗。

Joseph Sifakis 教授是 CCF-GAIR 2018 首日的人工智能主論壇重磅演講嘉賓，Joseph Sifakis 是美國國家科學院、工程院、歐洲科學院三院院士，他還是圖靈獎得主，因「在將模型檢查發(fā)展為被硬件和軟件業(yè)中所廣泛采納的高效驗證技術上的貢獻」獲得 2007 年度的圖靈獎。

「從模型檢測到嵌入式設備，再到物聯(lián)網(wǎng)時代，Joseph Sifakis 教授最有話語權」，這樣的評價一點都不為過。

在第一天的人工智能主論壇上，Joseph Sifakis 教授在大會首日發(fā)表了題為「Autonomous System Design in the Era of IoT」（物聯(lián)網(wǎng)領域的自主系統(tǒng)設計）的演講，以下是 Joseph Sifakis 教授的演講全文，雷鋒網(wǎng)做了不改變原意的整理與編輯：

上圖呈現(xiàn)了一幅物聯(lián)網(wǎng)的愿景，我們有基礎架構(gòu)和基礎設施來承載如此多的物件。同時，我們有不同的物聯(lián)網(wǎng)愿景：

• 物聯(lián)網(wǎng)（IoT），它提升了互聯(lián)網(wǎng)

• 工業(yè)物聯(lián)網(wǎng)（industrial IoT）和人類 IoT（human IoT）

工業(yè)物聯(lián)網(wǎng)系統(tǒng)是自主的，自主意味著沒有人類的干擾和介入。現(xiàn)在我們面對的巨大的挑戰(zhàn)是：我們在工業(yè)物聯(lián)網(wǎng)中的基礎設施和技術是否能夠?qū)崿F(xiàn)物聯(lián)網(wǎng)的愿景。

美國于 5 年前成立了一個工業(yè)互聯(lián)網(wǎng)的聯(lián)盟，即物聯(lián)網(wǎng)。發(fā)展物聯(lián)網(wǎng)要涉及到不同的方面：包括自主的決策、自主的運營、自主的學習，這也就是自主的意義。重中之重的是，我們必須了解這個自主系統(tǒng)，它具有不同的自主程度（不同的自主程度取決于環(huán)境的復雜度），以及使命的復雜度，還有一些人類活動的可行性的執(zhí)行和非人類操作員的干涉。

圖（下）為無人駕駛車，我們用不同的自主范圍和自主水平來判定它的自主化程度，如從 level 0 到 level 5 的階段（從無自主化到完全自主化）。level5 階段的無人駕駛車是完全自主化的，它是不受人類干預的，完全由機器人操控的汽車。

我們現(xiàn)在面臨著很多局限性，在基礎設施方面，我們有綜合化的系統(tǒng)，也有各種優(yōu)化的系統(tǒng)，一些科學家在不斷地提升自動化技術。但是，也還有很多科學家對物聯(lián)網(wǎng)自主化系統(tǒng)的發(fā)展過度樂觀。我們正在逐步前進，要執(zhí)行各項系統(tǒng)和做好開源的系統(tǒng)設計。在系統(tǒng)設計方面，我們可以從一開始就提升它的可靠性。

我想介紹一下這個系統(tǒng)的設計。系統(tǒng)包括很多方面，包括想互動的東西，硬件，軟件，以及其它的各種組件。

這個系統(tǒng)有什么特性呢？

它必須是值得大家信任的，它必須是可靠的。比如，在設計的過程中不能出現(xiàn)環(huán)境上的干擾，硬件失誤，設計上的誤差以及一些惡意的行為。所以，我們必須要優(yōu)化系統(tǒng)設計。優(yōu)化系統(tǒng)設計其實成本并不高，如果在初始階段就對系統(tǒng)進行優(yōu)化設計，那么成本就不會過高。

這是系統(tǒng)設計，系統(tǒng)的設計非常關鍵。其中，Best-effort 是最優(yōu)的設計。

我們關心管理系統(tǒng)和設計系統(tǒng)。系統(tǒng)中有一些非常關鍵的使命，我們有著最優(yōu)的設計，同時還要考慮系統(tǒng)的可靠性，該可靠性會花費一部分成本。系統(tǒng)的可靠性涉及到 10-9（10 的負 9 次方） 的安全的臨界性（safety critical）。

系統(tǒng)設計有不同的指數(shù)級別和等級

為什么我們不能提升這些等級的可靠性？因為我們需要一些非常關鍵且必須非常可靠的系統(tǒng)。

為此，我來解釋一下需要哪些基本的原則。

我們依賴兩個技術，一個是驗證，一個是測試。驗證指的是，你可以證明你的系統(tǒng)能夠正確地運行，并且是基于模式的。你有一個模式，然后還有要求，有形式化要求，有模式的形式化，你用專業(yè)的知識來使這個系統(tǒng)符合這些要求。

在驗證方面，我有 20 多年的工作經(jīng)驗，驗證已經(jīng)成功應用于軟件和硬件領域。對于自動系統(tǒng)，我們需要的是要求的形式化，下圖是自動駕駛的 28 項要求。

我來向大家闡釋其中的一些要求，要將這些要求形式化非常難。

比如，當你在正式形式化一個要求的時候，你要利用邏輯和人的行為，這是非常難的。另外一個難點是，我們都知道硬件和軟件之間要互動，我們要理解軟件的行為和硬件的平臺，要理解它們之間的復雜互動。

現(xiàn)在，我們有很多硬件平臺，為了開發(fā)一個可靠的模式，在這個模式下，我們需要驗證這個系統(tǒng)，并且還會出現(xiàn)很多可能的失誤。因此，系統(tǒng)驗證是一個非常難的任務。我們需要理解的非常重要的一點是，雖然自動系統(tǒng)中有機器學習技術，但是我們也沒有辦法來驗證機器學習。因為在神經(jīng)網(wǎng)絡中，當你開發(fā)一個神經(jīng)網(wǎng)絡的時候，而沒有辦法對神經(jīng)網(wǎng)絡進行驗證。因為沒有（對神經(jīng)網(wǎng)絡的）要求，所有沒有辦法來驗證這個神經(jīng)網(wǎng)絡，這就意味著神經(jīng)網(wǎng)絡沒有辦法用來系統(tǒng)地驗證。

另外一個模式，就是 V-Model，我們利用這樣一個模式來開發(fā)可靠的系統(tǒng)。

首先，我們有詳細的設計。其次，我們定義它的要求和構(gòu)架。然后，我們進行操作，來測試這個構(gòu)架，融合所有構(gòu)建和成分。

我們在之前使用過 V-Model 這個模式，但在軟件工程方面，已經(jīng)不再運用這個模式了（尤其是現(xiàn)代的軟件工程師們）。

目前沒有應用這兩個技術，因此我們需要找到其它的方法來解決新的問題。

我們來談一談自動化挑戰(zhàn)。

我找到了三個問題，以及我們?nèi)绾蝸砝斫膺@三個問題。

一、物聯(lián)網(wǎng)領域的自主化系統(tǒng)設計的復雜度如何？

首先，我希望我們的自動化系統(tǒng)能夠在沒有人的干預下，來應對復雜的環(huán)境。

我們可以看到，構(gòu)建復雜度在上升和構(gòu)架復雜度也在上升，導致設計復雜度在上升。在這個系統(tǒng)中，系統(tǒng)的復雜度隨著組件和構(gòu)架的復雜度的上升而上升。

二、如何來衡量組件或者成分的復雜度？

首先，我們有一個函數(shù)，給它一個值，得到一個函數(shù)結(jié)果。在編程時，我們利用函數(shù)，這非常簡單。軟件也是可以非常復雜的，它會有很多行的代碼。在三個構(gòu)架的系統(tǒng)中，有輸入和輸出，有時的輸出是基于歷史的輸入值的。在一個嵌入系統(tǒng)中，計算機在實際環(huán)境中不斷地演變，目前，在系統(tǒng)設計方面有了一個新的方向：虛擬物理系統(tǒng)。在虛擬物理系統(tǒng)中，有計算機，也有電子元件。當我們設計這樣一個信息物理系統(tǒng)的時候，我們還要利用其它的知識。

我來向大家展示該信息物理系統(tǒng)，未來，所有的物體（無論是汽車還是其它的元件）都基于信息物理系統(tǒng)。也就是說，存在機械的部件，但是每一個機械部件都有一個計算機軟件來對應它。不同的零部件對應不同的電腦軟件。這里，有一些可靠的軟件部件，還有硬件，我們用兩個構(gòu)件來構(gòu)成這樣一個模擬的自動駕駛系統(tǒng)模型，再將模型發(fā)送到工廠，這就是工業(yè) 4.0 的概念。

當然，設計這樣一個虛擬物理系統(tǒng)也帶來了諸多挑戰(zhàn)：

關于如何運用模擬器，就有很多的技術問題需要解決。

如何來融合、如何來構(gòu)建這樣一個信息物理系統(tǒng)，我們面臨很多的挑戰(zhàn)。

我們的目標是建立一個模式，從上面的模擬的自動駕駛系統(tǒng)模型中，我們看到有很多的軟件構(gòu)件和很多部件構(gòu)建的模型，我們需要融合多領域和多尺度的理論。這就涉及到工程和理論兩個方面的問題，這些問題非常重要，它們都需要解決。

現(xiàn)在，我們來談一談構(gòu)架的復雜度。我剛剛談到了構(gòu)架，我在這個領域已經(jīng)工作多年。圖中的構(gòu)架都是完全靜態(tài)的，其中，有最簡單的構(gòu)架，也有最復雜的構(gòu)架。

在我們的系統(tǒng)設計中，構(gòu)架越來越重要。構(gòu)架的定義，它指一個系統(tǒng)中有不同的構(gòu)件，構(gòu)架讓我們可以建立一個正確的系統(tǒng)。工程師利用構(gòu)架來建立一個正確的系統(tǒng)。

注：這一頁解釋了如何利用構(gòu)架來建立正確的系統(tǒng)。

三、在設計一個正確系統(tǒng)的時候，有哪些構(gòu)件？

我們知道這些構(gòu)件的復雜度，然后我們有構(gòu)架，我們要協(xié)調(diào)不同的參數(shù)。

我們有一個動態(tài)的參數(shù)的構(gòu)架，你可以在這個動態(tài)的構(gòu)架中創(chuàng)造新的參數(shù)或者刪除參數(shù)，這種動態(tài)的構(gòu)架可以跟隨環(huán)境的變化而變化，所以非常復雜。

還有一個是自我組織的構(gòu)架，這是一個移動的構(gòu)架，但是它不只有一種協(xié)調(diào)，它有非常多的協(xié)調(diào)規(guī)則，不只是一套規(guī)則。比如，你可能要自我構(gòu)架一輛車或者是其它設備，因此，我們可以看到有靜態(tài)的構(gòu)架，還有參數(shù)型的構(gòu)架，還有動態(tài)的構(gòu)架，還有自我組織的構(gòu)架。

我們來談一談面臨的挑戰(zhàn)：如何來建造基于知識的設計？

為什么需要知識？因為我們的系統(tǒng)必須需要應對不確定性，如果用機器取代人類，那么機器就必須具備相應的知識。

現(xiàn)在我們來定義一下什么叫知識，知識是一種信息，這種信息是真實的。什么是真實的信息？

真實的信息可以用來理解一種情景，或者用來解決一個問題。這里，我們有不同的知識的分類，工程師所運用的知識分類。比如說，我們有可證明的信息或者實驗性的知識。機器學習就是一種實驗性的知識。我們的工程師和科學家也會產(chǎn)生一種知識，并應用知識。

我一直在研究的一個重要問題是，我們在多大程度上能產(chǎn)生新的知識并應用知識。對工程師來說，現(xiàn)在他們有一個系統(tǒng)，然后建模，再生成知識。這個系統(tǒng)中我們有強大的語言，有時候，我們有豐富的模型，當然這需要非常強大的計算力。我們要應用知識的話，需要對系統(tǒng)進行建模，然后執(zhí)行這個系統(tǒng)。在這種情況下，在建模方面非常困難。這意味著我們要理解并且正確地轉(zhuǎn)化這個知識。因為我們的環(huán)境非常的不確定且復雜度非常高，因此在這個方面我們也面臨著一些挑戰(zhàn)。

在系統(tǒng)設計中，有一些缺陷存在于最優(yōu)的系統(tǒng)設計和臨界系統(tǒng)中，工程師的目標是確保這個系統(tǒng)的完整性。我們可以用最優(yōu)的設計方法，將這個系統(tǒng)設計的很好。但是，在系統(tǒng)設計中，還需要有適應性的系統(tǒng)。

那么，我們?nèi)绾螐浹a最佳方法和工程方法系統(tǒng)之間的差距？

需要我們在進行系統(tǒng)設計的同時，也考慮到設計的標準：需要考慮到系統(tǒng)必須是非常值得信任的。我們還有一些可以控制的系統(tǒng)，可以進行和系統(tǒng)、環(huán)境之間更好的合作，這就是適應型的控制器，如此一來，這個系統(tǒng)就會變得足夠安全。有的時候，系統(tǒng)也會出現(xiàn)一些問題，我們要對系統(tǒng)進行監(jiān)控。如果問題出現(xiàn)，我們需要降低這些缺陷，這是共識。我們經(jīng)常在有些區(qū)域運用這些方法，計算系統(tǒng)中有各種控制理論，我們使用控制為基礎的各種技術來確保計算的正確性。盡管如此，還是出現(xiàn)了一些不可預估的風險，所以一開始的系統(tǒng)的設計就顯得非常重要，我們需要確保這一點。以知識為基礎的設計（包括它的設計時間的知識），有時，我們不能保證這個設計時間，因此，我們需要建立一些特性，設計流程的某些步驟能夠保證真正在執(zhí)行的時間，能夠保證完全真實的執(zhí)行情況。

接下來我想說，目前無人駕駛汽車等自主化系統(tǒng)案例都非常引人注目，我們設定了一些標準來允許在對這些自主化系統(tǒng)進行質(zhì)量上的檢測。還包括在研發(fā)過程當中，提供決定性的證據(jù)，來校正這個系統(tǒng)和一些錯誤的形態(tài)。如特斯拉汽車，它會自我驗證，它們在研發(fā)的過程當中都必須要進行驗證，但在一開始，需要對這個車進行安全性的驗證。

現(xiàn)在，我們需要做研究，需要新的方法和新的研究，來研究自動駕駛的安全性。我認為 AI 對自主化問題的部分回答。例如非常聰明的 AlphaGo，AlphaGo 解決了一些問題，AI 能夠幫助我們來進行博弈，而這些博弈的規(guī)則正在不斷地變化當中。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。