zh.wikipedia.org

不管別人讓你做什么，你都會(huì)去做嗎？所有人都會(huì)說(shuō)：當(dāng)然不！那未來(lái)的機(jī)器人應(yīng)該總是聽我們的嗎？乍一看，你可能會(huì)覺(jué)得應(yīng)該——就因?yàn)樗鼈兪菣C(jī)器，聽從我們的指令就是它們存在的意義。但再仔細(xì)想想，你在選擇執(zhí)行任務(wù)時(shí)，也并非不經(jīng)大腦。所以，機(jī)器人也和你一樣。

試想一下：

• 一位年邁又健忘的用戶讓他/她專門照顧老年人的機(jī)器人把剛剛洗好的衣服再丟到洗衣機(jī)里去

• 一個(gè)幼兒園的小朋友命令機(jī)器人把球扔到窗外

• 一名學(xué)生讓機(jī)器人幫她完成所有的家庭作業(yè)

• 一個(gè)處于忙亂之中的主人，指示料理家務(wù)機(jī)器人運(yùn)行垃圾處理器，即使勺子和小刀還卡在里面

像這樣，對(duì)機(jī)器人進(jìn)行不恰當(dāng)指令，但并未造成實(shí)質(zhì)性損害的例子還有許多。但并不是所有案例都是良性的，即使機(jī)器人的主人在下達(dá)命令是出于好意。

想象一下，一個(gè)機(jī)器人汽車根據(jù)指令在車道上倒車，但它后面卻有一只小狗在香噴噴地睡覺(jué)，或者主人讓廚房助手機(jī)器人拿起刀子往前走，然而它卻站在一個(gè)人類廚師身后......命令很簡(jiǎn)單，后果卻慘不忍睹。

那么，怎么樣才能使機(jī)器人既聽人類的命令，又不會(huì)造成不利后果？如果不讓機(jī)器人在狗狗周圍行駛的話，它可能會(huì)一點(diǎn)也不動(dòng)了；如果要它避免拿刀刺到廚師，它可能會(huì)站住不動(dòng)，或一開始就不去拿刀了。

使自主運(yùn)行的機(jī)器在行動(dòng)時(shí)探測(cè)到潛在威脅，并試圖去避免威脅，或拒絕執(zhí)行指令，任何情況下都很必要。因此，我們到底該如何教機(jī)器人在恰當(dāng)?shù)那樾蜗抡f(shuō)“不”呢？

| 如何使機(jī)器人預(yù)知下一步

位于波士頓的塔夫茨大學(xué)正在研發(fā)一種控制技術(shù)：機(jī)器人可基于人類指令作出簡(jiǎn)單的推斷。這將決定機(jī)器人是會(huì)按指令行事，還是會(huì)因?yàn)橹噶钸`反了預(yù)先設(shè)定的道德準(zhǔn)則，而拒絕行動(dòng)。 

要讓機(jī)器人知道什么時(shí)候、為什么、如何去拒絕執(zhí)行指令，執(zhí)行起來(lái)比口頭說(shuō)說(shuō)要難得多。搞清楚一個(gè)行動(dòng)會(huì)造成什么危害或問(wèn)題，光看問(wèn)題的直接結(jié)果是不夠的——一個(gè)從窗口扔出去的球，可能會(huì)掉進(jìn)院子里，這不會(huì)造成任何傷害；但若掉到了繁忙的街道，這球可能就再也找不到了，甚至可能會(huì)導(dǎo)致司機(jī)為了躲避而突然一個(gè)急轉(zhuǎn)彎，接著導(dǎo)致車禍。情景不同，結(jié)果不同。

以現(xiàn)有的機(jī)器人技術(shù)，在和孩子玩丟球游戲與把球扔出窗外或扔進(jìn)垃圾桶之間，決定何時(shí)可以扔球，何時(shí)不可以還很困難。要是小孩子和機(jī)器人惡作劇，假裝接球卻躲過(guò)去，讓球飛出開著的窗戶的話，它就更不知道該怎么辦了。

|  向機(jī)器人解釋道德和法律

理解為何某些行為具有危險(xiǎn)性，涉及到大量背景知識(shí)（包括在窗前玩球，球可能會(huì)飛出窗戶）。這需要機(jī)器人不僅能自主考慮到行為后果，還能思考出人類發(fā)出指令的真正意圖。

不管人類指令是出于好意還是惡意，機(jī)器人要能通過(guò)預(yù)知行為結(jié)果，弄清楚人類復(fù)雜指令的原因是什么，并能把行為結(jié)果與社會(huì)規(guī)定的、希望或合法的社會(huì)準(zhǔn)則、道德準(zhǔn)則相比較。如上所示，現(xiàn)有機(jī)器人遵循的一般規(guī)則是：“如果機(jī)器人的行為會(huì)造成有害后果，那么他們可拒絕行動(dòng)?！泵鞔_義務(wù)和權(quán)限之間的關(guān)系，能讓機(jī)器人通過(guò)可能結(jié)果，推理是否要執(zhí)行指令。

總的來(lái)說(shuō)，機(jī)器人不該執(zhí)行違法或不被希望的行為。因此，他們需要了解法律、道德準(zhǔn)則，甚至是禮節(jié)，以決定行為結(jié)果，或行為本身是否違反這些準(zhǔn)則。

目前，想讓機(jī)器人處理上述情境，還有很長(zhǎng)的道路要走。但有一點(diǎn)早已證實(shí)：要讓機(jī)器人去服從命令，它們得首先先學(xué)會(huì)拒絕。

via the conversation

延伸閱讀：

個(gè)性化推薦？圖片搜索？導(dǎo)購(gòu)機(jī)器人？看人工智能將如何顛覆傳統(tǒng)購(gòu)物體驗(yàn)

索尼：我們不只生產(chǎn)手機(jī)，也有機(jī)器人+AI夢(mèng)

 

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。