在過(guò)去的一年中，牛津大學(xué)哲學(xué)系教授Nick Bostrom對(duì)未來(lái)AI(人工智能)繼續(xù)發(fā)展所帶來(lái)的潛在風(fēng)險(xiǎn)，表示了深深的擔(dān)憂，并對(duì)此作出了警告。雖然他表示自己的警告已經(jīng)獲得了一些致力于推動(dòng)AI發(fā)展公司的關(guān)注，但實(shí)際上他的一些想法仍然遭到了不少業(yè)界人士的抵制。

自從他的新書《 Superintelligence》(超級(jí)智能) 在去年夏天出版后，包括伊隆·馬斯克、史蒂芬·霍金以及比爾·蓋茨等杰出的科技人士紛紛對(duì)其表示了支持，另外Google也成立倫理委員會(huì)來(lái)監(jiān)督AI技術(shù)的發(fā)展。

上周，Bostrom與MIT技術(shù)評(píng)論的編輯進(jìn)行了交流，并針對(duì)他為使AI研究人員意識(shí)到自己工作的風(fēng)險(xiǎn)性所作出的努力，進(jìn)行了一系列的談?wù)摗?/p>

你把AI的風(fēng)險(xiǎn)性置于核爆炸和流行病之上，對(duì)于這一說(shuō)法你經(jīng)過(guò)了怎樣的考慮？

有許多事都會(huì)導(dǎo)致一場(chǎng)災(zāi)難的到來(lái)，但實(shí)際上真正能夠威脅到人類生存的少之又少，但AI恰恰是其中最可能的一個(gè)。它看起來(lái)可能僅僅只需要一小部分人為之努力，所需要的資源也只是很小的一部分，但其產(chǎn)生的影響卻是針對(duì)全人類的。另外譬如核爆炸等危險(xiǎn)，實(shí)際上已經(jīng)有很多團(tuán)體或者組織在密切的關(guān)注了，但顯然AI還沒有。

那么氣候變化呢，它被認(rèn)為是目前人類面臨的最嚴(yán)峻問(wèn)題，你怎么看待？

在我看來(lái)氣候變化所帶來(lái)的風(fēng)險(xiǎn)其實(shí)非常小，當(dāng)前我們對(duì)于氣候變化的模型實(shí)際上存在問(wèn)題，因?yàn)槲覀兏嗟氖菍⒌厍蛏献钤愕牟糠钟米髂Ｐ瓦M(jìn)行分析，然后我們不得不用一些看起來(lái)完全不太可能的地球工程去嘗試改善它。而實(shí)際上，它所帶來(lái)的風(fēng)險(xiǎn)遠(yuǎn)遠(yuǎn)不及AI所帶來(lái)的倫理道德風(fēng)險(xiǎn)嚴(yán)重，因?yàn)橹钡浇裉鞛橹?，人們?nèi)匀辉诖罅Φ娜グl(fā)展它，推進(jìn)它的研究，而這將帶來(lái)更多未知的風(fēng)險(xiǎn)。

如果有人表示自己的公司擁有足夠強(qiáng)大的AI技術(shù)，你會(huì)對(duì)他給出怎樣的建議呢？

第一個(gè)建議是去進(jìn)行一些關(guān)于AI安全的內(nèi)部研究，這個(gè)問(wèn)題非常重要，它可以建立起AI研究員和認(rèn)為AI存在安全問(wèn)題的人之間的良好關(guān)系，可以使得其在產(chǎn)生一些好的想法時(shí)擁有良好的氛圍去實(shí)施。

Google、Facebook等科技公司在AI的研究中一直處于領(lǐng)先的地位，你是否有和他們進(jìn)行過(guò)一些交流？

我不能透露名字，不過(guò)他們?cè)谶@一領(lǐng)域的興趣是顯而易見的。目前來(lái)看，在AI在不斷發(fā)展的過(guò)程中，已經(jīng)有部分人意識(shí)到了其安全問(wèn)題，這使我感到非常高興，它意味著一顆種子的播撒。

AI可以說(shuō)還沒影，那現(xiàn)在該進(jìn)行什么樣的研究？

現(xiàn)在的研究主要是對(duì)問(wèn)題所在和一些概念有更清晰的界定，雖然還沒什么成果，但沒有它是無(wú)法進(jìn)行下一階段研究的，即技術(shù)研究。

對(duì)于AI技術(shù)項(xiàng)目，能舉個(gè)例子嗎?

比如設(shè)計(jì)一個(gè)AI的動(dòng)力系統(tǒng)，使得AI不會(huì)抗拒程序員去修改目標(biāo)？我想這應(yīng)該是一整套的方法和工具。我認(rèn)為這些都應(yīng)該在AI被發(fā)布之前進(jìn)行。

但這些似乎離Google等公司在做的項(xiàng)目有很長(zhǎng)的距離。

對(duì)，這一領(lǐng)域的挑戰(zhàn)之一就是，在有一個(gè)可以利用的系統(tǒng)前，就要做出一些有用的工作。

低于人類層面的AI還會(huì)造成問(wèn)題嗎？

這些問(wèn)題看起來(lái)更真實(shí)，范圍更小，也更迫切。目前在一些基礎(chǔ)的比賽上，多是算法交易、無(wú)人機(jī)、自動(dòng)化與其對(duì)勞動(dòng)力市場(chǎng)的影響，以及系統(tǒng)是否可以進(jìn)行有意或無(wú)意的識(shí)別等。我不否認(rèn)目前這些問(wèn)題的存在，我只是更關(guān)注當(dāng)AI技術(shù)達(dá)到一定高度時(shí)所產(chǎn)生的無(wú)法解決的問(wèn)題。

你說(shuō)目前沒有人可以預(yù)測(cè)離那樣的AI還有多遠(yuǎn)，那是否有一些信號(hào)比如一些特定的進(jìn)步來(lái)預(yù)示這一切呢？

可能會(huì)有一些重大的突破發(fā)生，比如有更多的常識(shí)推理能力，在不同領(lǐng)域的學(xué)習(xí)能力以及更靈活的規(guī)劃能力。

我們已經(jīng)經(jīng)歷了兩個(gè)炒作時(shí)期，以及對(duì)其幻想破滅的時(shí)期，目前我們很可能處在第三個(gè)炒作時(shí)期，目前技術(shù)發(fā)展受到了限制，而接下來(lái)的技術(shù)進(jìn)步還需要很長(zhǎng)的一段時(shí)間。但也可能過(guò)了這個(gè)低谷，就會(huì)迅速發(fā)展。

如果這一切是真的，我們是否可以保持一種較為樂(lè)觀的態(tài)度？

從長(zhǎng)遠(yuǎn)來(lái)看，我認(rèn)為情況要么最壞，要么最好，不會(huì)處于中間。我希望會(huì)是好的方面。

Via mit

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。