最近，倫理學(xué)家Patrick Lin在一篇文章中表示，在未來的無人駕駛汽車中加入一個(gè)可編程的道德按鈕，并不是解決這項(xiàng)新科技帶來的道德上的不適應(yīng)的最佳方案。不過，直接忽視你的道德選擇的無人駕駛汽車難道不是更糟糕嗎？顯然，對(duì)于這個(gè)問題有一個(gè)中庸的解決方案，我們只消看看現(xiàn)代醫(yī)療就能找到答案。

首先，我們先來做一個(gè)思想實(shí)驗(yàn)，這個(gè)實(shí)驗(yàn)與Patrick Lin文章中的那個(gè)差不多，叫做“隧道問題”：你坐在一輛疾馳在單行道山路上的無人駕駛汽車?yán)?，這輛車正以飛快的速度靠近一個(gè)狹窄的隧道。就在你所乘坐的汽車進(jìn)入隧道前的一刻，一個(gè)小孩冒了出來，并走到了路中間，正好擋住了隧道的入口。這時(shí)剎車已經(jīng)來不及避免事故。無人駕駛汽車只有兩個(gè)選擇，一是直接沖過去，但這會(huì)導(dǎo)致小孩死亡；二是快速轉(zhuǎn)向撞向隧道的任意一邊，但這會(huì)讓你喪生。

現(xiàn)在，你問問自己，汽車是應(yīng)該直接沖過去還是轉(zhuǎn)向，由誰來做這個(gè)決定？汽車廠商？用戶？立法者？

最近，機(jī)器人道德倡議組織Open Roboethics Initiative就這一問題對(duì)公眾進(jìn)行了一項(xiàng)調(diào)查。調(diào)查顯示，77%的受訪者認(rèn)為應(yīng)該由用戶自己或者立法者來做這個(gè)決定。認(rèn)為應(yīng)該由汽車制造商和設(shè)計(jì)師做決定的受訪者只有12%。

我們應(yīng)該對(duì)這個(gè)調(diào)查結(jié)果感到驚訝嗎？也許不應(yīng)該。這個(gè)“隧道問題”引發(fā)了一個(gè)深刻的道德問題，而且是個(gè)沒有正確答案的問題。在這種情況下，個(gè)人內(nèi)心的道德責(zé)任感，對(duì)于是選擇沖過去還是轉(zhuǎn)向有著重要的影響。

根據(jù)Bernard Williams等哲學(xué)家的觀點(diǎn)，我們的道德責(zé)任感有時(shí)會(huì)勝過其它道德方面的考慮，即使是違反直覺的，比如犧牲大多數(shù)人成全少數(shù)人。在這個(gè)隧道問題上，如果直接否認(rèn)個(gè)人擁有自己的道德偏好，將決定直接預(yù)先植入到汽車中，很有可能會(huì)違背用戶的信念。這絕對(duì)不合適。

一個(gè)現(xiàn)成的解決方案

在醫(yī)療領(lǐng)域，當(dāng)必須做出道德選擇的時(shí)候，標(biāo)準(zhǔn)的做法是護(hù)士和醫(yī)生通知病人，并告知他們所有合理的治療選項(xiàng)，然后讓病人在知情的情況下做出符合自己偏好的選擇。這個(gè)知情同意書達(dá)成的過程，遵循了個(gè)人有權(quán)利對(duì)自己的身體做出決策的理念。醫(yī)療領(lǐng)域的知情同意書已經(jīng)在道德上和法律上獲得了認(rèn)可，對(duì)于哪些未與病人達(dá)成知情同意書而私自替病人做選擇的醫(yī)護(hù)工作者將面臨不作為的指控。

知情同意書并非一開始就是醫(yī)療領(lǐng)域的標(biāo)準(zhǔn)做法。以前，更通行的做法是醫(yī)生代表病人在重要治療決策中做選擇，醫(yī)生們常常以這是醫(yī)療計(jì)劃的一部分來欺騙病人。

知情同意書的引入并非為了簡(jiǎn)化辦事流程。事實(shí)上，這個(gè)做法反而讓整個(gè)醫(yī)療過程的決策變得相當(dāng)復(fù)雜。知情同意書讓病人的負(fù)擔(dān)明顯加重，因?yàn)樗麄儽仨氃诟鞣N選項(xiàng)中做出艱難的抉擇。同時(shí)，這個(gè)做法也讓醫(yī)護(hù)工作者有了另一種不作為的可能性。此外，這個(gè)做法還增加了醫(yī)療機(jī)構(gòu)的成本，因?yàn)獒t(yī)生需要花時(shí)間與病人進(jìn)行艱難的交談，還需要完成一些文書的簽署工作。由于醫(yī)療領(lǐng)域是一個(gè)專業(yè)性非常強(qiáng)的領(lǐng)域，因此醫(yī)生在告知病人選項(xiàng)的時(shí)候，往往非常艱難，作為外行的病人也很可能根本無法理解醫(yī)生所說的那些醫(yī)學(xué)概念。

你也可以認(rèn)為，知情同意書將責(zé)任全部轉(zhuǎn)移到了病人的身上。反對(duì)者認(rèn)為，知情同意書是不公平的，它將個(gè)人至于各種艱難、難以理解的選擇之中，由于缺乏相應(yīng)的知識(shí)使得個(gè)人在選擇面前陷入了手足無措的境地之中。

然而，盡管知情同意書帶來了一些挑戰(zhàn)和各種麻煩，但是很難想象人們會(huì)愿意回到那個(gè)醫(yī)生和護(hù)士可以在沒有事先征求他們同意的情況下，替他們做出道德選擇的年代。

那么我們又為什么要接受無人駕駛汽車的設(shè)計(jì)者和工程師，在遇到前文所述的隧道問題的時(shí)候在未征得我們明確同意的情況下，代表我們做出道德選擇呢？解決這個(gè)道德問題的一個(gè)可行的解決方案就是，在工程領(lǐng)域效仿在醫(yī)療行業(yè)久經(jīng)考驗(yàn)的做法——引入標(biāo)準(zhǔn)完善的知情同意書。當(dāng)然，實(shí)現(xiàn)這一點(diǎn)的其中一種方式（還有很多其它方式）就是在無人駕駛汽車中植入各種合理可行的道德選項(xiàng)，由用戶自行選擇設(shè)置。

是時(shí)候重新考慮機(jī)器人的責(zé)任了？

很顯然，無論機(jī)器人學(xué)家如何設(shè)計(jì)機(jī)器人，只要出了事律師還是會(huì)起訴人，而非機(jī)器人。此外，如果我們依然遵循傳統(tǒng)的產(chǎn)品責(zé)任法的話，那么毫無疑問引入這種道德設(shè)置選項(xiàng)一定會(huì)讓用戶和廠商面臨更多的新型責(zé)任訴訟，正如知情同意書的出現(xiàn)在醫(yī)療領(lǐng)域引起的各種糾紛一樣。

盡管如此，還是有越來越多的人相信我們需要在法律上重新認(rèn)真思考，我們是否對(duì)無人駕駛汽車和其它類型的機(jī)器人實(shí)行了合理的管制。

首先，我們可以考慮將制造商未能及時(shí)與用戶在涉及道德選擇的問題上達(dá)成知情同意書的情況，視為產(chǎn)品存在缺陷。正如當(dāng)醫(yī)生未能在執(zhí)行一種醫(yī)學(xué)治療前與病人達(dá)成知情同意書時(shí)，將被視為不作為一樣，我們也可以認(rèn)為如果制造商在無人駕駛汽車的設(shè)計(jì)和其它技術(shù)方面對(duì)用戶個(gè)人的具體道德偏好不尊重的話，將需要對(duì)由此引起的問題承擔(dān)一定的責(zé)任。這個(gè)方案可能會(huì)讓無人駕駛汽車的設(shè)計(jì)復(fù)雜度增加。不過，誰說過制造機(jī)器人是一件很簡(jiǎn)單的事情嗎？

我們必須擁抱復(fù)雜

如果我們?cè)诠こ躺弦胍粋€(gè)健全的知情同意書制度，將可以避免很多麻煩的事情。當(dāng)然，在給予用戶的道德設(shè)置選項(xiàng)的數(shù)量上需要做些限制。因?yàn)槿绻憬o用戶的選擇中包含“如果擋路的是個(gè)女人就直接撞過去”的話，將會(huì)顯得非常荒謬。與此同時(shí)，如果允許用戶選擇犧牲自己以保護(hù)小孩的生命，將顯得相當(dāng)合理。只要這是符合用戶的道德價(jià)值取向。即使這個(gè)任務(wù)比較復(fù)雜，但是對(duì)于哪些選項(xiàng)應(yīng)該限制，還是很容易識(shí)別的。

機(jī)器人以及他們所引起的道德問題，極其復(fù)雜。但是如果我們想要轉(zhuǎn)變我們對(duì)于工程和設(shè)計(jì)的道德思考，并且合理應(yīng)對(duì)日益壯大的機(jī)器人行業(yè)所帶來的問題的話，我們就必須認(rèn)真關(guān)注和思考這個(gè)極其復(fù)雜的問題，而不是逃避。這個(gè)思維上的轉(zhuǎn)變意味著我們必須擁抱復(fù)雜，因?yàn)榈赖潞头蓮膩矶际菑?fù)雜的。不幸的是，即使在混亂中加入秩序，也不一定能夠造就一個(gè)簡(jiǎn)單的世界。

Via：Wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。