可攜帶爆炸物的殺人微型無人機(jī)

雷鋒網(wǎng)按：本文出自 Spectrum.ieee 撰稿人  Evan Ackerman，一個有關(guān)殺戮機(jī)器人的視頻引起了他的思考。關(guān)于 AI 和機(jī)器人的未來，我們是要一棒子打死，還是坐下來仔細(xì)衡量它們的優(yōu)劣，找到一個更好的解決方案呢？

本周，日內(nèi)瓦聯(lián)合國總部舉辦了一場史無前例的會議，常規(guī)武器公約組織成員國的專家針對致命性自動化武器系統(tǒng)進(jìn)行了討論。一些組織（如“停止殺戮機(jī)器人運(yùn)動”）敦促聯(lián)合國在自動化武器的監(jiān)管上持續(xù)推進(jìn)。這次會議相當(dāng)重要，因?yàn)橄嚓P(guān)問題會塑造機(jī)器人和人類社會的未來。

周末無意間看到的一個視頻也讓我開始關(guān)心起與自動化武器相關(guān)的討論，這個視頻的名字就叫“殺戮機(jī)器人”。值得注意的是，這個視頻得到了硅谷鋼鐵俠馬斯克旗下未來生活研究所（Future of Life Institute）的支持，而馬斯克一直堅定的站在“邪惡”AI 的對立面。除了有這層背景，這個視頻的基調(diào)也非常陰暗，它將時間設(shè)定在了不久的將來，不過情節(jié)卻與科幻小說類似，攜帶爆炸物的微型無人機(jī)在全球肆意殺人。

這里就不附上視頻了，因?yàn)楫嬅嫦喈?dāng)暴力血腥，甚至包含了在課堂上的恐怖襲擊。不過，如果你非要一探究竟，可以在未來生活研究所的網(wǎng)站上找到它。

說實(shí)話，這個視頻讓我非常失望，那些頗有聲望的機(jī)器人和 AI 研究者居然會支持這種嘩眾取寵的作品，它們要的只是吸引眼球，關(guān)于實(shí)際問題則根本沒有傳達(dá)任何有用信息。這樣的視頻根本不是沖著表達(dá)事實(shí)而出現(xiàn)的，它們就是要煽動和培養(yǎng)人們對 AI 和機(jī)器人的恐懼。同時，它還占據(jù)了道德制高點(diǎn)，好像你反對這種觀點(diǎn)就是與恐怖分子沆瀣一氣。此外，如此多專家為該視頻背書更是會讓公眾思想混亂，他們會對所有機(jī)器人產(chǎn)生恐懼，而這正是機(jī)器人專家們長期警惕的。

視頻中甚至虛構(gòu)了一個專門造殺人微型無人機(jī)的公司

從個人角度來說，我對殺戮機(jī)器人持否定態(tài)度，更準(zhǔn)確的來說，我反對那些“超越了人類實(shí)際控制的自動化武器”。不過，對于那些叫囂著要徹底封殺此類機(jī)器人的人，我也不愿給予支持。因?yàn)樵谖铱磥恚?strong>這是一個相當(dāng)復(fù)雜，還無法完整定義的問題，全部封殺不是個有效的解決方案。

眼下，關(guān)于 AI 的話題還在討論中，到底哪些技術(shù)應(yīng)該被禁，如何禁止還有待確定。在視頻最后發(fā)言的加大伯克利分校教授 Stuart Russell（也是制片人之一）稱“我們有機(jī)會阻止視頻中的事情發(fā)生”，但事實(shí)上他有點(diǎn)“too young，too simple”了。在我看來，直接封殺自動化武器并不會阻擋無人機(jī)微型化的腳步，也無法阻擋面部識別技術(shù)的進(jìn)步，更無法阻礙兩項先進(jìn)技術(shù)合二為一，而相互融合的這兩項技術(shù)就是視頻中的“幕后黑手”。

有人指責(zé)這段視頻是在散布恐慌，但 Russell 的一位同行并不同意。這位新南威爾士大學(xué)的 AI 教授表示：“這才不是散布恐懼。俄羅斯大使在對這次會議發(fā)表評論時指出，我們根本不需要擔(dān)心自動化武器，因?yàn)槲覀冸x開發(fā)成功還遠(yuǎn)著呢。此外，這段視頻另辟蹊徑，它指出技術(shù)的結(jié)合會讓殺人機(jī)器更早到來，一旦誤用，后果不堪設(shè)想。”

其實(shí)兩年前我就對一封要求禁止攻擊型自動化武器的公開信做過反駁，當(dāng)時我舉了許多正面例子，列舉了自動化武器的好處，而 Russell 和 Walsh 則聯(lián)合 MIT 教授 Max Tegmark 對我的觀點(diǎn)做了回應(yīng)。

文章開篇他們非?？蜌?，稱歡迎我參與這場討論。同時，他們還表示這是個復(fù)雜的問題，雙方都有自己的觀點(diǎn)，到底孰對孰錯需要仔細(xì)衡量。

這樣的觀點(diǎn)我非常贊同，想要一個更安全的未來，這樣的討論必不可少，但通過恐怖視頻搞惡意中傷就不可取了，這會讓許多人加深自己對機(jī)器人的負(fù)面印象。

 

Via. Spectrum.ieee 雷鋒網(wǎng)編譯，更多機(jī)器人方面資訊可關(guān)注雷鋒網(wǎng)垂直欄目「新智造」。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。