雷鋒網(wǎng) AI 科技評(píng)論按：IJCAI（國(guó)際人工智能聯(lián)合會(huì)議，International Joint Conferences on Artificial Intelligence）是人工智能領(lǐng)域歷史最為悠久，也是影響力最大的學(xué)術(shù)會(huì)議之一，隨著近年來(lái)人工智能的熱度日益攀升，原本僅在奇數(shù)年召開(kāi)的 IJCAI 自 2015 年開(kāi)始變成每年召開(kāi)。今年，萬(wàn)眾矚目的 IJCAI 也將如約而至，將于 8 月 10 日至 16 日在中國(guó)澳門(mén)隆重召開(kāi)。

特邀報(bào)告（Invited Talks）作為 IJCAI 最受關(guān)注的環(huán)節(jié)之一，隨著會(huì)議的臨近，特邀講者名單也在相繼公布中。機(jī)器人作為人工智能領(lǐng)域的一個(gè)非常重要的研究方向，本次大會(huì)也特別邀請(qǐng)了機(jī)器人專家、麻省理工教授 Leslie Kaelbling 做特邀報(bào)告。屆時(shí)，她將帶來(lái)主題為《Doing for our robots what evolution did for us》的特邀演講。

Leslie Kaelbling 是麻省理工學(xué)院的機(jī)器人專家。 她在強(qiáng)化學(xué)習(xí)、規(guī)劃、機(jī)器人導(dǎo)航等人工智能研究領(lǐng)域獲得了引人注目的研究成果，其中包括將運(yùn)籌學(xué)中的部分可觀察的馬爾可夫決策過(guò)程應(yīng)用到人工智能和機(jī)器人中，曾獲得 IJCAI「計(jì)算機(jī)與思想獎(jiǎng)」（Computers and Thought Award）等重要獎(jiǎng)項(xiàng)，同時(shí)她也是人工智能領(lǐng)域頗負(fù)盛名的《機(jī)器學(xué)習(xí)研究雜志》的創(chuàng)始人兼主編。

近日，麻省理工學(xué)院教授 Lex Fridman 在其播客訪談節(jié)目《Artificial Intelligence Podcast》中與 Leslie Kaelbling 進(jìn)行了對(duì)話。對(duì)話中，Leslie Kaelbling 不僅分享了她從哲學(xué)領(lǐng)域轉(zhuǎn)入計(jì)算機(jī)科學(xué)領(lǐng)域，并與 AI 和機(jī)器人結(jié)緣的背后的故事，還詳細(xì)闡述了其對(duì)于機(jī)器人發(fā)展歷程以及現(xiàn)狀的見(jiàn)解。

采訪視頻播放地址：https://www.youtube.com/watch?v=Er7Dy8rvqOc

雷鋒網(wǎng) AI 科技評(píng)論將采訪視頻整理成文如下，全文進(jìn)行了不改變?cè)獾膭h改。

（本文為下篇，上篇閱讀請(qǐng)前往：http://www.ozgbdpf.cn/news/201904/MCIWUjYZeOXYofuJ.html）

Lex Fridman：您認(rèn)為感知和規(guī)劃哪個(gè)的難度系數(shù)更高？您如何看待通過(guò)了解周圍的世界來(lái)實(shí)現(xiàn)感知？

Leslie Kaelbling：我認(rèn)為一個(gè)重要的問(wèn)題是表示。近來(lái)，感知取得了很大的進(jìn)展，我們可以用來(lái)分類圖像，玩某些類型的游戲或者將其應(yīng)用到駕駛汽車等等。我認(rèn)為，我們對(duì)于應(yīng)該提供怎樣的感知還沒(méi)有很好的思路。

關(guān)于模塊化，現(xiàn)在有一個(gè)很強(qiáng)烈的觀點(diǎn)表示，我們不應(yīng)該創(chuàng)建任何模塊化，而應(yīng)該創(chuàng)建一個(gè)巨型神經(jīng)網(wǎng)絡(luò)，并對(duì)它進(jìn)行端到端地訓(xùn)練使其完成任務(wù)，這才是向前發(fā)展的最佳方式。這個(gè)觀點(diǎn)很難反駁，除非在樣本復(fù)雜性的基礎(chǔ)上，你或許可以說(shuō)，如果想要在在這個(gè)巨型神經(jīng)網(wǎng)絡(luò)上實(shí)現(xiàn)強(qiáng)化學(xué)習(xí)，就需要大量的數(shù)據(jù)以及許多類似損壞的機(jī)器人系統(tǒng)等。

對(duì)此也僅有唯一一個(gè)答案：我們需要在里面構(gòu)建一些東西（才能降低樣本復(fù)雜性的需求），比如構(gòu)建一些結(jié)構(gòu)、構(gòu)建一些偏倚。從機(jī)器學(xué)習(xí)理論上來(lái)看，降低樣本復(fù)雜性的唯一方法就是以某種方式縮小假設(shè)空間——這可以通過(guò)內(nèi)部的偏見(jiàn)來(lái)實(shí)現(xiàn)。我們有各種各樣的理由認(rèn)為，自然界為人類內(nèi)置了偏見(jiàn)。而卷積就是一種偏見(jiàn)，一種非常強(qiáng)烈、具有批判性的偏見(jiàn)。

所以我個(gè)人認(rèn)為，我們需要尋找更多像卷積一樣，并且還能夠解決其他方面的推理問(wèn)題的東西。在與成像非常相似的空間推理等問(wèn)題上，卷積給我們帶來(lái)了很大的幫助。我認(rèn)為，類似的其他想法，例如向前搜索、抽象概念以及目標(biāo)等的存在都是非常重要的，但是人們往往不給這些想法萌芽的機(jī)會(huì)。

Lex Fridman：目標(biāo)語(yǔ)義、目標(biāo)空間中的類似于卷積的想法？

Leslie Kaelbling：是的，人們開(kāi)始研究的圖卷積就是與一種關(guān)系表征相關(guān)的想法。我認(rèn)為對(duì)于感知，研究者們接下來(lái)要實(shí)現(xiàn)的就是更好地理解感知是如何產(chǎn)生的。之后，我們才能更好地知道要對(duì)輸出做什么。但我們僅僅試圖去創(chuàng)建一個(gè)集成智能體，而實(shí)際上并不清楚感知的輸出應(yīng)該是什么，也不知道這些輸出怎樣和其他東西掛上鉤。因此，我認(rèn)為現(xiàn)在迫在眉睫的問(wèn)題就是，我們能夠創(chuàng)建什么樣的架構(gòu)，比如另一個(gè)能像卷積網(wǎng)絡(luò)那樣允許我們?cè)谏厦鎸?shí)現(xiàn)高效學(xué)習(xí)的真正非常厲害的架構(gòu)。

Lex Fridman：您對(duì)于感知目前的發(fā)展現(xiàn)狀令人信服的描述，我也贊成。您在教授一門(mén)關(guān)于智慧的集成的課程，那您認(rèn)為怎樣才能創(chuàng)建擁有人類智能水平的機(jī)器人？

Leslie Kaelbling：我不清楚我們到底是否知道該怎樣創(chuàng)建這樣一個(gè)機(jī)器人。

Lex Fridman：那您認(rèn)為機(jī)器人需要擁有自我意識(shí)、知覺(jué)、倫理道德嗎？

Leslie Kaelbling：我沒(méi)怎么考慮過(guò)機(jī)器人是否需要知覺(jué)這一問(wèn)題，即便是大多數(shù)關(guān)注這個(gè)的哲學(xué)家都知道，我們可以擁有行為表現(xiàn)像人類但沒(méi)有知覺(jué)的僵尸機(jī)器人。在這個(gè)時(shí)候，我們會(huì)慶幸并不關(guān)心這個(gè)方面的問(wèn)題。

Lex Fridman：您是否有從技術(shù)角度來(lái)思考過(guò)自我意識(shí)對(duì)于機(jī)器人的作用？

Leslie Kaelbling：但是自我意識(shí)到底意味著什么呢？你需要實(shí)現(xiàn)的是讓某些系統(tǒng)的部分觀察系統(tǒng)的其他部分，然后告知我們是否運(yùn)行良好，這是很關(guān)鍵的。它們是否具有自我意識(shí)，則取決于我們給「擁有自我意識(shí)」設(shè)定了怎樣的標(biāo)準(zhǔn)。但顯然，比如說(shuō)某行代碼計(jì)算出程序執(zhí)行的次數(shù)，這其實(shí)也是一種自我意識(shí)。所以這里的邊界挺模糊的，可以要求很高、也可以要求很低，我們還在摸索一個(gè)合理的標(biāo)準(zhǔn)。

Lex Fridman：您在很多維度上都了解得很長(zhǎng)遠(yuǎn)，但是最吸引該領(lǐng)域研究者的一個(gè)研究方向則是讓機(jī)器人的智能達(dá)到人類水平。

Leslie Kaelbling：但是現(xiàn)在對(duì)于我來(lái)說(shuō)，最有吸引力的研究方向應(yīng)該是研究如何選擇把哪些東西構(gòu)建在系統(tǒng)中、把哪些東西交給系統(tǒng)去學(xué)習(xí)。如果你問(wèn)我多少年后機(jī)器人的智能可以達(dá)到人類水平，我甚至都不會(huì)參與這一討論，因?yàn)槲艺J(rèn)為我們錯(cuò)過(guò)了很多想法，也不知道到底需要多少年去實(shí)現(xiàn)這一目標(biāo)。

Lex Fridman：我不問(wèn)您多少年后可以實(shí)現(xiàn)，但是我可能需要問(wèn)，對(duì)于我們目前已實(shí)現(xiàn)的成就，您印象比較深刻的是哪個(gè)？您認(rèn)為什么才是不錯(cuò)的智能測(cè)試？您認(rèn)為面向機(jī)器人自然語(yǔ)言的圖靈測(cè)試等測(cè)試基準(zhǔn)怎么樣？是否思考過(guò)這些問(wèn)題？

Leslie Kaelbling：我比較反對(duì)這些測(cè)試基準(zhǔn)。我認(rèn)為我們花了太多的時(shí)間在爭(zhēng)論哪些事情對(duì)于提高機(jī)器人的性能更好上。

Lex Fridman：測(cè)試基準(zhǔn)、數(shù)據(jù)集或者圖靈測(cè)試挑戰(zhàn)其實(shí)可以將研究者們匯聚起來(lái)，激勵(lì)他們創(chuàng)建出表現(xiàn)更好的機(jī)器人，因?yàn)樗麄兌枷Ｍ诒荣愔蝎@勝，例如自動(dòng)駕駛領(lǐng)域的 DARPA 挑戰(zhàn)賽。您怎樣看待它們的價(jià)值呢？

Leslie Kaelbling：許多人都認(rèn)為這些比賽是具有激勵(lì)性的，是很好的，但是我個(gè)人認(rèn)為它們是反激勵(lì)性的。不過(guò)你們或許能夠獲得一段有趣的時(shí)期——一群聰明的人在比賽中獲得了超大的動(dòng)力，并最大限度地發(fā)揮出腦力，有時(shí)候可能也會(huì)產(chǎn)生很酷的想法，可供我們事后咀嚼。這對(duì)我來(lái)說(shuō)并不是一件好事，不過(guò)我也并不反對(duì)大家這么做。

Lex Fridman：這就跟您之前所說(shuō)的，某件事以外的所有其他事情都會(huì)讓它變得更好。下面我們跳過(guò)一些問(wèn)題。您創(chuàng)立了《機(jī)器學(xué)習(xí)研究雜志》（Journal of Machine Learning Research，JMLR）并擔(dān)任其主編，那出版這一期刊是基于怎樣的契機(jī)？您如何看待當(dāng)前機(jī)器學(xué)習(xí)和人工智能領(lǐng)域的出版模式？

Leslie Kaelbling：好的。我之所以會(huì)創(chuàng)立《機(jī)器學(xué)習(xí)研究雜志》，故事源自于當(dāng)時(shí)由 Kluwer 創(chuàng)立的叫做《機(jī)器學(xué)習(xí)》的期刊。當(dāng)時(shí)我也是編輯委員會(huì)中的一員，我們常常會(huì)召開(kāi)一些會(huì)議，向 Kluwer 抱怨，對(duì)于圖書(shū)館來(lái)說(shuō)雜志太過(guò)昂貴并且人們難以在上面發(fā)表文章。當(dāng)時(shí)，我們真的希望為這部分人解決這些問(wèn)題，不過(guò)其他人永遠(yuǎn)只會(huì)表示自己的同情而會(huì)采取任何行動(dòng)，所以我們就決定創(chuàng)立一份新雜志。當(dāng)時(shí)也有一份雜志叫做《人工智能研究雜志》，這份雜志也采取同樣的出版模型，并且以這一模型存在了 5 年左右的時(shí)間，也發(fā)展得非常好。

我猜想我們當(dāng)時(shí)都并不知道怎么創(chuàng)立一份雜志，好在這件事情本身并不難。于是，《機(jī)器學(xué)習(xí)》期刊編輯委員會(huì)中 75% 的成員都從那里辭職，來(lái)共同創(chuàng)立了這份新雜志。

Lex Fridman：所以新創(chuàng)立的這份雜志更加開(kāi)放？

Leslie Kaelbling：是的，《機(jī)器學(xué)習(xí)研究雜志》是完全開(kāi)放的。當(dāng)時(shí)我有一個(gè)博士后學(xué)生 George Kennedy 就想要呼吁這些雜志免費(fèi)向所有人開(kāi)放。

由于《機(jī)器學(xué)習(xí)研究雜志》既沒(méi)有版面費(fèi)用，也沒(méi)有訪問(wèn)限制，當(dāng)時(shí)很多人都對(duì)這本雜志心存懷疑，認(rèn)為這是一場(chǎng)欺詐，覺(jué)得這是不可能發(fā)生的事情。運(yùn)行這份雜志期間，我在很長(zhǎng)一段時(shí)間都沒(méi)有存款，因?yàn)樾枰Ц逗献髀蓭熀?IP 地址的費(fèi)用，當(dāng)時(shí)雜志一年的運(yùn)營(yíng)費(fèi)用大概為幾百美元，現(xiàn)在的花費(fèi)可能更高些但是也沒(méi)有高很多。

之所以一切免費(fèi)，是因?yàn)槲矣X(jué)得計(jì)算機(jī)科學(xué)家所具有的能力和自主性，是其他領(lǐng)域的科學(xué)家們所不具備的。我們教授們自己很熟悉這些技術(shù)，學(xué)生也熟悉，我們也認(rèn)識(shí)那些有能力制作和破解網(wǎng)站的人，大家一起動(dòng)手，一下午時(shí)間就能做一個(gè)免費(fèi)開(kāi)放的學(xué)術(shù)網(wǎng)站出來(lái)。所以基礎(chǔ)設(shè)施對(duì)我們來(lái)說(shuō)不是問(wèn)題，但對(duì)于其他領(lǐng)域的人來(lái)說(shuō)就是比較難實(shí)現(xiàn)的事情。

Lex Fridman：所以這一訪問(wèn)開(kāi)放的期刊不需要聲望、也不需要任何其他論文也可以得以出版？

Leslie Kaelbling：事實(shí)證明，確實(shí)不需要聲望。

Lex Fridman：在很早之前，我不記得具體的時(shí)間了，當(dāng)時(shí)我評(píng)論了一篇您也評(píng)論過(guò)的論文，記得當(dāng)時(shí)讀到您評(píng)論說(shuō)：這篇論文寫(xiě)得非常出色，對(duì)您產(chǎn)生了較大的影響，并影響了您未來(lái)的評(píng)論方式。當(dāng)時(shí)您并不贊成我的觀點(diǎn)，但是您將我的評(píng)論修改得更好了。這其實(shí)可以看出，當(dāng)時(shí)雜志的整個(gè)評(píng)論過(guò)程是存在缺陷的，您認(rèn)為該怎樣才能改進(jìn)這一過(guò)程呢？

Leslie Kaelbling：實(shí)際上，這份雜志創(chuàng)立之初，我想要做一些完全不同的事情，但是最終沒(méi)有實(shí)現(xiàn)，這是因?yàn)樗坪跷覀兏枰氖且环輦鹘y(tǒng)的記錄雜志，所以基本上，我們把這份雜志打造得跟一般的雜志一樣，只不過(guò)對(duì)外開(kāi)放訪問(wèn)了。當(dāng)然了，「出版」什么東西現(xiàn)在越來(lái)越變得稀松平常，你隨便在哪個(gè)學(xué)術(shù)文本存儲(chǔ)網(wǎng)站傳一篇文章就算是發(fā)表了，并且對(duì)于所有的這些內(nèi)容，我隔天就可以將它們進(jìn)行出版。因此，將這些內(nèi)容對(duì)外開(kāi)放是沒(méi)有任何障礙的，不過(guò)我們依舊需要進(jìn)行策劃以及評(píng)估，而我沒(méi)有時(shí)間去閱讀所有的檔案，一般認(rèn)為出版社會(huì)公眾所稱贊的文章就足夠了。

這樣的話，你可以說(shuō)我們不再需要任何期刊了，大家只需要把論文傳到學(xué)術(shù)網(wǎng)站上去，然后人們就可以上傳或下載論文，你的簡(jiǎn)歷也就會(huì)顯示文章獲得了多少個(gè)稱贊。同時(shí)我認(rèn)為期刊在仔細(xì)閱讀和評(píng)注方面也存在其價(jià)值。在 Twitter 或者 Reddit 上很難辨別讀者對(duì)論文是支持、否定還是爭(zhēng)議的態(tài)度，以及他們是否知道他們?cè)谡務(wù)摰氖鞘裁础Ｋ晕艺J(rèn)為期刊的第二個(gè)目的是，判斷我應(yīng)該重視那些觀點(diǎn)。

我不知道如果我有無(wú)限的時(shí)間，我是否也不會(huì)去做這些，因?yàn)槲蚁Ｍ寵C(jī)器人來(lái)做這部分工作。但如果我覺(jué)得我傾向于在出版方向上做更多的事情，我會(huì)去實(shí)現(xiàn)我最開(kāi)始想做的另外一件事情，那就是將我重視并且非常清晰的一些人的觀點(diǎn)匯聚起來(lái)，至于是對(duì)外公開(kāi)還是私人保留，這個(gè)我不確定。我們可能不會(huì)出版所有的評(píng)論，僅僅將為非常出色的論文所寫(xiě)的評(píng)論對(duì)外開(kāi)放。

如果一些論文得到 Leslie 的朋友們的評(píng)論，并且論文觀點(diǎn)得到夸獎(jiǎng)，論文作者也可以將其寫(xiě)入簡(jiǎn)歷中：Leslie 的朋友們給了我的論文打了五星好評(píng)。這就可以說(shuō)明論文就跟雜志所收錄的論文一樣出色。我認(rèn)為我們應(yīng)該將很好的評(píng)論對(duì)外開(kāi)放，并以某種方式對(duì)這些評(píng)論進(jìn)行組織，但當(dāng)時(shí)我真的不知道該怎么做。

Lex Fridman：其實(shí)您可以借鑒電影領(lǐng)域的互聯(lián)網(wǎng)電影資料庫(kù)（IMDb），那里匯聚了電影評(píng)論員，他們會(huì)寫(xiě)影評(píng)，不過(guò)資料庫(kù)匯中會(huì)定期更新非評(píng)論員寫(xiě)的影評(píng)，這兩個(gè)部分是分開(kāi)的。

Leslie Kaelbling：我喜歡公開(kāi)評(píng)論，我認(rèn)為了解這個(gè)過(guò)程很有趣。

Lex Fridman：這也許是推進(jìn)論文評(píng)論的一個(gè)正確方向，但是可能仍然無(wú)法像評(píng)論電影或視頻游戲那樣吸引人。這是我的個(gè)人觀點(diǎn)，可能聽(tīng)起來(lái)有些愚蠢，但是執(zhí)行評(píng)審的趣味和輕松程度取決于用戶界面，而作為一位評(píng)論家的效率，則意味著向一位優(yōu)秀的評(píng)論家邁進(jìn)了多遠(yuǎn)，這些人為因素會(huì)起到作用。

Leslie Kaelbling：現(xiàn)在給論文寫(xiě)優(yōu)秀的評(píng)論是一項(xiàng)大投資，現(xiàn)在可以看到的論文數(shù)量非常多。每年有 3000 多篇新論文，雖然我不知道每年會(huì)新出多少電影，但是現(xiàn)在我認(rèn)為數(shù)量要比每年新出的機(jī)器學(xué)習(xí)論文要少。

我是一個(gè)老年人，所以不可避免地會(huì)說(shuō)現(xiàn)在的事情都變化得太快了，像陷在泥巴中一樣執(zhí)著。我認(rèn)為現(xiàn)在研究者們的眼光變得越來(lái)越短視，比如學(xué)生們想要發(fā)表大量論文，他們認(rèn)為這樣才是令人興奮、有價(jià)值的事情，然后拍拍腦袋寫(xiě)論文，諸如此類。雖然其中的一些工作成果是不錯(cuò)的，但是我擔(dān)憂的是，這種做法會(huì)把那些花兩年的時(shí)間來(lái)思考某個(gè)問(wèn)題的研究者逼走。

在我們那個(gè)年代，我們做研究并不發(fā)表論文，你可以花數(shù)年時(shí)間來(lái)研究論文，你可以選擇研究一個(gè)非常難的問(wèn)題，然后花費(fèi)大量時(shí)間來(lái)不斷研究、咀嚼這個(gè)問(wèn)題，當(dāng)你去寫(xiě)作完成論文時(shí)，也會(huì)經(jīng)歷一段艱巨的時(shí)期。我不認(rèn)為每個(gè)人都需要按照這種模式進(jìn)行研究，但是我認(rèn)為現(xiàn)在也有一些難度非常高的問(wèn)題需要研究者以更加長(zhǎng)遠(yuǎn)的眼光來(lái)從事這些問(wèn)題的研究。然而我們現(xiàn)在完全沒(méi)有激勵(lì)研究者們采用這種研究方式，這是我所擔(dān)心的地方。

Lex Fridman：在目前的情況下，對(duì)于 AI 未來(lái)的發(fā)展您有什么期望和擔(dān)憂？AI 已經(jīng)經(jīng)歷了多次寒冬、起起伏伏，您認(rèn)為還會(huì)有下一次寒冬到來(lái)嗎？您是否對(duì)于創(chuàng)造出如您所說(shuō)的機(jī)器人更抱有期待？

Leslie Kaelbling：我認(rèn)為經(jīng)歷這個(gè)周期是無(wú)法避免的，但是這個(gè)起伏的周期曲線實(shí)際上是一次比一次高的，就像你用一個(gè)有噪聲的優(yōu)化器優(yōu)化某個(gè)函數(shù)曲線一樣。顯而易見(jiàn)，機(jī)器學(xué)習(xí)的出現(xiàn)對(duì)于人工智能領(lǐng)域的發(fā)展，意義深遠(yuǎn)且重大，毫無(wú)疑問(wèn)，目前人工智能的發(fā)展是比之前更高的。當(dāng)然，我也認(rèn)為人們高估了人工智能，吹的牛皮太大，投資者們最終會(huì)說(shuō)，「當(dāng)初說(shuō)得那么好聽(tīng)，怎么最后什么都沒(méi)做到」。這些泡沫未來(lái)可能會(huì)破滅。但我覺(jué)得在實(shí)現(xiàn)達(dá)到人類水平的人工智能的過(guò)程中是不可能一帆風(fēng)順地一直向上的。

Lex Fridman：您對(duì)于 AI 所存在的威脅是否有短期或者長(zhǎng)期的擔(dān)憂呢？或許短期的擔(dān)憂會(huì)比較少，但是關(guān)于將會(huì)有更多機(jī)器人替代人類工作的擔(dān)憂呢？

Leslie Kaelbling：我們可以探討一下效用問(wèn)題。實(shí)際上我之前與一些軍事倫理學(xué)家有過(guò)一次有趣的交流，他們希望跟我探討自動(dòng)核武器的問(wèn)題。他們是非常有趣、聰明并且接受過(guò)良好教育的一群人，但是他們對(duì)于人工智能和機(jī)器學(xué)習(xí)知之甚少。他們問(wèn)我的第一個(gè)問(wèn)題就是，你研發(fā)的機(jī)器人有做過(guò)什么你沒(méi)有預(yù)料到的事情嗎？我情不自禁地笑出聲，因?yàn)樯晕⒘私膺^(guò)機(jī)器人的人都知道，它們做不出來(lái)。而我意識(shí)到，他們對(duì)于我們?cè)鯓訉?duì)機(jī)器人編程的理解是錯(cuò)誤的，他們認(rèn)為我們對(duì)機(jī)器人編程就像給樂(lè)高的 Mindstorm 機(jī)器人編程一樣，執(zhí)行前進(jìn)一米、左轉(zhuǎn)、拍照這些動(dòng)作。這樣的編程方式固然也是對(duì)的，但這種機(jī)器人如果做一些預(yù)料之外的事情，就有點(diǎn)奇怪了。

事實(shí)上，我認(rèn)為這應(yīng)該成為我一項(xiàng)新的教育任務(wù)，如果我需要跟非專業(yè)人員交流，我要試圖去教給讓他們理解：我們控制的其實(shí)是機(jī)器人中至少一個(gè)或多個(gè)層次的抽象，同時(shí)機(jī)器人還存在假設(shè)層，可以是規(guī)劃空間或者分類器空間，此外還有一系列答案和目標(biāo)函數(shù)，然后我們使用一些優(yōu)化方法，在各個(gè)層級(jí)優(yōu)化解決方案，并且我們不知道最終產(chǎn)生的解決方案是什么。我認(rèn)為溝通這些非常重要，或許其中有一些人了解相關(guān)知識(shí)，但我還是認(rèn)為這種溝通這門(mén)學(xué)科是必不可少的。

現(xiàn)在有很多人在探討價(jià)值對(duì)齊的問(wèn)題，我們可以確定的是，當(dāng)機(jī)器人或者軟件系統(tǒng)的能力越來(lái)越強(qiáng)時(shí)，它們的目標(biāo)會(huì)與人類的目標(biāo)更加一致，或者說(shuō)二者間的目標(biāo)會(huì)以某種方式互相兼任，也可以說(shuō)當(dāng)它們與我們有不同的目標(biāo)時(shí)，我們也可以用一種很好的方式去進(jìn)行調(diào)和。

因此我認(rèn)為思考這些術(shù)語(yǔ)非常重要，比如說(shuō)，你無(wú)需被機(jī)器人世界末日論所嚇倒，而是思考價(jià)值對(duì)齊的目標(biāo)函數(shù)的重要性。每一位從事優(yōu)化工作的研究者都知道，必須要謹(jǐn)慎考量最終期望得到的東西，比如說(shuō)研究者們有時(shí)候可能獲得了最佳的解決方案，然而最終發(fā)現(xiàn)目標(biāo)方向是錯(cuò)誤的。

對(duì)于我來(lái)說(shuō)，即便在最短時(shí)期內(nèi)，務(wù)實(shí)也是至關(guān)重要的問(wèn)題，任何一位從算法工程師到目標(biāo)函數(shù)工程師的研究者，這一問(wèn)題都完全有可能發(fā)生，并且會(huì)改變我們的思維和方法論。

Lex Fridman：所以可以說(shuō)，您的研究生涯始于斯坦福的哲學(xué)專業(yè)，現(xiàn)在又回歸到哲學(xué)中來(lái)。

Leslie Kaelbling：我在上課時(shí)也提到過(guò)，當(dāng)機(jī)器學(xué)習(xí)研究者在設(shè)計(jì)目標(biāo)函數(shù)時(shí)，需要「戴上兩個(gè)帽子」，一個(gè)「帽子」是他需要實(shí)現(xiàn)的目標(biāo)是什么；另一個(gè)「帽子」則是他的優(yōu)化器能夠?qū)?yōu)化實(shí)現(xiàn)到什么程度，這都是需要考慮和衡量的要點(diǎn)。

關(guān)于機(jī)器人會(huì)取代人類工作這一擔(dān)憂，我能理解這件事情非常重要，但我不太了解社會(huì)學(xué)、經(jīng)濟(jì)學(xué)，也不是很了解人類，所以我不知道該怎么看待這個(gè)問(wèn)題。

Lex Fridman：確實(shí)，這個(gè)問(wèn)題涉及到社會(huì)學(xué)和經(jīng)濟(jì)學(xué)的方面，很難去講清楚。

Leslie Kaelbling：雖然這個(gè)問(wèn)題并不是我的專長(zhǎng)，但我還是認(rèn)為人類思考這個(gè)問(wèn)題很有必要。

Lex Fridman：您認(rèn)為對(duì)于人工智能領(lǐng)域以及您自己而言，短期內(nèi)哪個(gè)領(lǐng)域的研究會(huì)是最令人興奮的？

Leslie Kaelbling：我之前講述過(guò)如何設(shè)計(jì)智能機(jī)器人的事情，智能機(jī)器人是我們這個(gè)領(lǐng)域中大部分人都想要實(shí)現(xiàn)的目標(biāo)，而大家面臨的問(wèn)題則是，機(jī)器人怎樣實(shí)現(xiàn)最高效的策略？我們可以嘗試很多不同的極端方案，其中一個(gè)非常極端的方案就是做內(nèi)?。↖ntrospection），然后編程，這種方法現(xiàn)在的表現(xiàn)還不是很好；另一個(gè)極端的方案是我們采用了一大堆神經(jīng)網(wǎng)絡(luò)，然后訓(xùn)練它們?nèi)ネ瓿扇蝿?wù)，我同樣也認(rèn)為這個(gè)方案無(wú)法奏效。

在這個(gè)過(guò)程中面臨的一個(gè)問(wèn)題就是找到中間立場(chǎng)，這個(gè)問(wèn)題同樣也不是技術(shù)上的問(wèn)題，僅僅是關(guān)于怎樣找到最佳實(shí)現(xiàn)方法的問(wèn)題。對(duì)于我來(lái)說(shuō)，它很明顯是學(xué)習(xí)和非學(xué)習(xí)的一種組合，需要考慮的怎樣構(gòu)建這個(gè)組合的內(nèi)容。這也是對(duì)我最具有吸引力的一個(gè)問(wèn)題。

Lex Fridman：最后一個(gè)問(wèn)題是，在科幻小說(shuō)中，您最喜歡的機(jī)器人是哪個(gè)？比如說(shuō)《星球大戰(zhàn)》中的 R2D2 機(jī)器人或是更加現(xiàn)代化的 HAL 機(jī)器人。

Leslie Kaelbling：我個(gè)人更加關(guān)注的是研究機(jī)器人的過(guò)程。實(shí)際上我研究機(jī)器人是因?yàn)檫@個(gè)研究方向很有趣，而并不在乎我能夠研發(fā)出怎樣的機(jī)器人。

Lex Fridman：今天這場(chǎng)美麗的對(duì)話就到此結(jié)束了，非常感謝您今天的發(fā)言。

Leslie Kaelbling：當(dāng)然，今天的對(duì)話很有趣。

（完）

IJCAI 2019 會(huì)議召開(kāi)之前，特邀報(bào)告講者名單將陸續(xù)公布，雷鋒網(wǎng) AI 科技評(píng)論作為 IJCAI 2019 的媒體特別合作伙伴，也將陸續(xù)為大家?guī)?lái)各位特邀講者的相關(guān)報(bào)道。屆時(shí)，雷鋒網(wǎng) AI 科技評(píng)論還將奔赴現(xiàn)場(chǎng)為大家?guī)?lái)精彩報(bào)道，敬請(qǐng)期待！

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。