雷鋒網(wǎng)按：本文為美國賓夕法尼亞大學(xué)工程院院長Vijay Kumar在CCF-GAIR大會(huì)上做的題為“Challenges in Autonomy”的分享，雷鋒網(wǎng)進(jìn)行了全文整理。全文分為上下兩部分，以下是第二部分。

傳送門：時(shí)隔一年 Vijay Kumar 再登 GAIR 講臺(tái)，講述自動(dòng)化的技術(shù)與社會(huì)挑戰(zhàn)（上）

2017年7月7日至9日，全球人工智能與機(jī)器人峰會(huì)CCF-GAIR大會(huì)在深圳成功舉辦。本次由CCF中國計(jì)算機(jī)學(xué)會(huì)主辦、雷鋒網(wǎng)與香港中文大學(xué)（深圳）承辦。來自全球30多位頂級(jí)院士、近300家AI明星AI企業(yè)，齊聚智能科技產(chǎn)業(yè)盛會(huì)。

Vijay Kumar在無人機(jī)領(lǐng)域被稱為“無人機(jī)大神”。他在多機(jī)器人的編隊(duì)控制協(xié)調(diào)，做出了非常大的貢獻(xiàn)。2016年，Vijay Kumar在CCF-CAIR峰會(huì)介紹了無人機(jī)會(huì)向著Small（小型），Safe（安全），Smart（智能），Speed（敏捷）和Swarm（集群）“5s”的趨勢發(fā)展。時(shí)隔一年 Vijay Kumar 再登 GAIR講臺(tái)，今年Vijay Kumar以“Challenges in Autonomy”為主題，進(jìn)行了演講，重點(diǎn)介紹了自動(dòng)化浪潮的技術(shù)與社會(huì)挑戰(zhàn)。Vijay Kumar是美國賓夕法尼亞大學(xué)工程院院長，同時(shí)也是美國國家工程院院士，美國電子電氣工程師協(xié)會(huì)研究員（IEEE Fellow）。

以下為Vijay Kumar演講速記全文整理，雷鋒網(wǎng)在不改變原意的基礎(chǔ)上做了精編：

機(jī)器學(xué)習(xí)的重要意義

說到自動(dòng)駕駛汽車或者無人機(jī)的時(shí)候，大家都說，我們要有機(jī)器學(xué)習(xí)，我們確實(shí)在做機(jī)器學(xué)習(xí)，但是它有很多的限制。我們要讓機(jī)器懂得學(xué)習(xí)，如果操作者、設(shè)計(jì)者想要打破固有的框架，我們希望讓機(jī)器做更多的事情。比如我們可以做一些抽象算法，這些抽象的東西是人進(jìn)行控制的，比如動(dòng)態(tài)的模型，我們想學(xué)習(xí)如何在高速情況下防撞，我們可以用一些計(jì)算機(jī)學(xué)習(xí)通過對數(shù)據(jù)的收集、分析處理，當(dāng)時(shí)我們也可以讓我們的機(jī)器做更加復(fù)雜的運(yùn)算。

另外汽車也可以去越過一些障礙物，但是需要掌握更加復(fù)雜的技能，這是機(jī)器學(xué)習(xí)的重要意義。能夠在更加復(fù)雜的環(huán)境當(dāng)中馳騁，我們要解決一些問題，包括計(jì)算機(jī)技術(shù)的發(fā)展，可以讓計(jì)算機(jī)做一些更加復(fù)雜的信息，可以建立不同的傳感器獲取更多的信息。我知道這里有張桌子、有椅子、后面有門，這樣的圖像就可以建立起來，幫助計(jì)算機(jī)學(xué)習(xí)和了解周圍的環(huán)境?，F(xiàn)在我們的計(jì)劃和控制沒有辦法通過機(jī)器學(xué)習(xí)來實(shí)現(xiàn)。

試驗(yàn)深度學(xué)習(xí)對精準(zhǔn)農(nóng)業(yè)的幫助

深度學(xué)習(xí)在我的實(shí)驗(yàn)室里也有一部分，就是我們說的精準(zhǔn)農(nóng)業(yè)，機(jī)器穿過橘子林，就能算出橘子的數(shù)量，飛機(jī)起飛之后，它可以穿過橘子林，正確得到橘子的數(shù)字，我們計(jì)算是很重要的。但是這樣的成果就可以讓農(nóng)民知道它今年的收成是多少，這樣就可以更好的優(yōu)化它生產(chǎn)的系統(tǒng)，包括后續(xù)的果實(shí)采摘、交通運(yùn)輸?shù)鹊?，在好的收成年份有很好的幫助。比如一棵橘子樹，你?shù)到一半就數(shù)不下去了。現(xiàn)在有這樣的技術(shù)，你拿到95%的數(shù)據(jù)，這樣對精準(zhǔn)農(nóng)業(yè)非常有幫助。

機(jī)器人和人工智能可以說還不能想象。我們應(yīng)該有更多的期待。格林斯潘在1997年就嘗試過利用機(jī)器預(yù)測金融危機(jī)，但失敗了。我們現(xiàn)在不能過度夸大人工智能的能力，我認(rèn)為人工智能是有局限的。

• 首先，現(xiàn)在有很多數(shù)據(jù)過程，它需要機(jī)器學(xué)習(xí)。在學(xué)習(xí)過程中會(huì)帶來新知識(shí)?，F(xiàn)在，我們數(shù)據(jù)的量每九個(gè)月就會(huì)翻一番，我們學(xué)習(xí)的知識(shí)遠(yuǎn)遠(yuǎn)趕不上這樣的速度。我想說機(jī)器應(yīng)該加強(qiáng)學(xué)習(xí)能力。我們計(jì)算非常復(fù)雜，現(xiàn)在可以做很高強(qiáng)度的計(jì)算，但不意味著機(jī)器就可以自動(dòng)的完成這些事情。

• 其次，如果我們可以數(shù)果實(shí)，99%都是對的。但我們可能需要很大的數(shù)據(jù)才能夠完成這個(gè)任務(wù)，如果要把準(zhǔn)確率從90%提升到99%，可能需要花很大的力氣才能實(shí)現(xiàn)這個(gè)目標(biāo)。所以，在某種程度上，我們所需要的數(shù)據(jù)量，是乘幾何倍數(shù)的增加。你要數(shù)果實(shí)，可能不需要99.99%的準(zhǔn)確率，只需要90%。但是你一輛車每分鐘90分鐘的速度就需要99.99%的準(zhǔn)確率。自動(dòng)化數(shù)果實(shí)不一定要那么準(zhǔn)，但你要開車或者在YouTube上找一個(gè)貓，準(zhǔn)確率不需要那么高，但要駕駛一個(gè)車，準(zhǔn)確率就要非常高。另外，采取行動(dòng)之前必須要有認(rèn)知，這個(gè)認(rèn)知越來越困難。同樣，行動(dòng)也是一樣的。你要經(jīng)過感知之后采取相應(yīng)的行動(dòng)，這樣一個(gè)循環(huán)往復(fù)，就會(huì)給你帶來一個(gè)很大的計(jì)算量和很大的數(shù)字。

• 最后，我之前沒有講到這一點(diǎn)，但是Oussama Khatib教授提到了。那就是我們想做實(shí)體的會(huì)更難。尤其是飛行和開車，我們不會(huì)有實(shí)際的接觸，這只是通過數(shù)據(jù)實(shí)現(xiàn)。但如果要有實(shí)際的接觸，會(huì)更難。

未來自動(dòng)化機(jī)器人，人機(jī)之間的互動(dòng)，會(huì)是發(fā)展方向?，F(xiàn)在我們對這一點(diǎn)的研究還非常初步，除非能夠找到人機(jī)互動(dòng)之間的和諧方式。我們可能做一些非常簡單的任務(wù)，未來會(huì)有更多的挑戰(zhàn)。人工智能還有機(jī)器人要往前發(fā)展，還需要做很多努力。

另外，關(guān)于能源問題。我們在空中舉起一公斤的重量，需要200瓦，如果你要舉起一個(gè)50公斤的人，可能需要更大的能量消耗?，F(xiàn)在我們的技術(shù)還沒有達(dá)到這樣的水平，尤其是要消費(fèi)的能源，如果模式不發(fā)生改變，在未來就很難實(shí)現(xiàn)。因?yàn)槟憧梢钥吹诫姵卦絹碓劫F。我現(xiàn)在要來到北京，可能看到很多電動(dòng)車在上路。那就意味著這個(gè)電動(dòng)車未來的電池價(jià)格會(huì)下降，特斯拉也在做自己的電池工廠。但現(xiàn)在我們知道，事情還遠(yuǎn)遠(yuǎn)沒有達(dá)到理想的狀態(tài)，我們將會(huì)在未來把很多東西提到天上去。這個(gè)過程需要消耗大量的能量。有一家公司叫做Jet Optera，他們由一個(gè)非常快的速度，承重可以達(dá)到5鎊，是用化學(xué)燃料。尤其是航空行業(yè)，如果不用化石燃料，可能很難有發(fā)展。

未來工作如何做到不被機(jī)器人所替代

現(xiàn)在我們有很多挑戰(zhàn)，比如在社會(huì)中。第一，這個(gè)世界是多種多樣的，這個(gè)世界可以獲得各種各樣的科學(xué)技術(shù)的發(fā)展和進(jìn)步。我覺得這就是所謂科技的民主化?，F(xiàn)在一個(gè)高中生，對于機(jī)器人的了解比我在大學(xué)之后的程度還要深。這就是技術(shù)發(fā)展的速度，當(dāng)然，也有很多的機(jī)會(huì)，同時(shí)，也有一些陷阱。為什么我這么說？我想向大家展示一張漫畫（上圖），我們當(dāng)時(shí)在發(fā)明車輪的時(shí)候，是怎樣的情景。如果有人要做車，這個(gè)人要很有錢才行。這張圖片可以看到，這個(gè)國王是四個(gè)人才把他舉起來，而我們說只有國王才能坐轎子，其他人沒錢坐轎子。但現(xiàn)在有了車輪之后，三個(gè)人丟失了工作，只需要一個(gè)人就能夠拉車。好像現(xiàn)在計(jì)算機(jī)技術(shù)的發(fā)展，機(jī)器人未來可以完成越來越多的工作，就會(huì)有很多人失去工作。對于我們來講，就會(huì)有更多的技術(shù)呈現(xiàn)在我們面前。

從我們的角度出發(fā)，有這樣一個(gè)金字塔，當(dāng)談到研究以及研究到哪個(gè)程度，就會(huì)出現(xiàn)這個(gè)金字塔。這個(gè)金字塔展示了最底部，有很多人薪資非常少，很有可能能換成人民幣，不管是在哪個(gè)國家，同樣的情況都是如此。但隨著研究程度不斷提升，這個(gè)金字塔越往上走，人就越少，社會(huì)財(cái)富總是掌握在少數(shù)人手中。你研究的越多，就會(huì)有更多的機(jī)會(huì)能夠接觸到高薪工作。這對于目前的環(huán)境來說也是如此。

從四年前到現(xiàn)在情況發(fā)生了極大的變化，金字塔發(fā)生了變化，我們都在探討這個(gè)金字塔到底哪個(gè)部分會(huì)慢慢失去。很多人認(rèn)為，最低端的工作會(huì)被機(jī)器人期待，但我認(rèn)為不是，因?yàn)楝F(xiàn)在機(jī)器人還沒有辦法達(dá)到三歲小孩的思考能力。我們不可以同樣一個(gè)機(jī)器人和中國五歲的小孩玩其他游戲并且戰(zhàn)勝這個(gè)小孩。我們認(rèn)為機(jī)器人在復(fù)雜的計(jì)算能力里還是有局限的。在沒有特別多的訓(xùn)練里，他們的工作仍然可以做得很好。但四年之后，中間的工作會(huì)消失，可能并不是最頂尖和最底部，而是中間的工作會(huì)給到這些人?，F(xiàn)在可能最好中國大學(xué)畢業(yè)的學(xué)位或者世界上最好大學(xué)畢業(yè)的學(xué)位，你們已經(jīng)做到這一點(diǎn)。

在考試中得到了好成績。但機(jī)器人現(xiàn)在最擅長的就是考試。所以對我們來說，如果你只是擅長考試的一個(gè)機(jī)器，你今天就有可能被機(jī)器人取代。因?yàn)闄C(jī)器人可能考試比你好，四年后你的工作可能就要拱手讓給機(jī)器人了。這是我們對未來機(jī)器人發(fā)展的想法。對我們來說，最好的解決方案就是通過教育做到，我們要不斷學(xué)習(xí)，盡管我已經(jīng)是一個(gè)教授。拜登曾經(jīng)說過永不停止的教育，這樣的說法能幫助我們拯救社會(huì)，幫助我們免予受到機(jī)器人取代這一步。

機(jī)器人的安全性

安全性，我們很難理解到底在機(jī)器人當(dāng)中所謂的安全性是什么，現(xiàn)在并沒有過多的數(shù)據(jù)指導(dǎo)，對安全性進(jìn)行量化。但我們現(xiàn)在談到的安全性多種多樣。

• 第一，所謂驗(yàn)證。比如你有一個(gè)洗衣機(jī)，如果你想證明它是一個(gè)洗衣機(jī)，就必須要證明這個(gè)洗衣機(jī)是一個(gè)洗衣機(jī)的特質(zhì)。洗衣機(jī)的特質(zhì)是把衣服放進(jìn)去洗衣機(jī)就可以洗衣服。所以你可以證明這個(gè)機(jī)器是一個(gè)洗衣機(jī)。但現(xiàn)在要證明是機(jī)器人很難。

• 第二，信任。我們提到這個(gè)機(jī)器人，我們要證明機(jī)器人，事實(shí)上并不會(huì)出現(xiàn)任何人類所希望看到的結(jié)果。我們會(huì)看是否能證明它不會(huì)漏水，它并不會(huì)造成電器的短路。所以我認(rèn)為信任也非常重要。

• 第三，安全性。在實(shí)體世界中，有兩種方法，能真正觸動(dòng)一個(gè)系統(tǒng)或者侵入一個(gè)系統(tǒng)。要么黑進(jìn)一個(gè)系統(tǒng)或者黑進(jìn)一個(gè)感應(yīng)器?，F(xiàn)在如果要去黑一個(gè)自動(dòng)駕駛，不是黑系統(tǒng)而是黑感應(yīng)器。要么是攝像機(jī)要么是其他感應(yīng)器黑掉，黑掉以后就黑掉整個(gè)系統(tǒng)。談到安全性，很多人之前沒有提到或者想到。在不斷推動(dòng)自動(dòng)化系統(tǒng)過程中，安全性非常重要。

我們生活在一個(gè)非常興奮的時(shí)代，如果我們來看一下這個(gè)橫軸，當(dāng)時(shí)出現(xiàn)了實(shí)體世界的革命，然后進(jìn)入半導(dǎo)體革命，然后有互聯(lián)網(wǎng)帶來網(wǎng)絡(luò)革命，現(xiàn)在正在進(jìn)行人工智能以及機(jī)器人，現(xiàn)實(shí)世界和虛擬世界的結(jié)合。我們相信未來會(huì)不斷推廣，我們走著這段發(fā)展道路。而對于人來說，發(fā)生了變化，但是人的發(fā)展是一個(gè)線性的過程，如果看一下政府對技術(shù)的理解以及政府如何通過技術(shù)進(jìn)行政策推廣。事實(shí)上比我們更慢。人在不斷的適應(yīng)各種技術(shù)，社交媒體就很好，我們現(xiàn)在在不斷的接觸和了解并且適應(yīng)機(jī)器人。

未來有了自動(dòng)駕駛的汽車和飛行器，除了安全問題，還要探討政府的政策和法律監(jiān)管。很多政府現(xiàn)在還沒有想到那么多，美國的政府可能已經(jīng)在探討這方面的問題，而中國政府還沒有探討到很多對于自動(dòng)駕駛汽車、自動(dòng)駕駛無人機(jī)的法律監(jiān)管問題。我相信這部分也是我們重點(diǎn)進(jìn)行關(guān)注。我知道我們現(xiàn)在確實(shí)有Oussama Khatib提到的潛水機(jī)器人、手術(shù)機(jī)器人，都能得到有效的利用，但我們要探討如何進(jìn)行安全利用。未來這點(diǎn)會(huì)越來越重要。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。