“殺人機(jī)器人”，似乎已被公認(rèn)是下一輪軍用技術(shù)的制高點(diǎn)。全球中美俄英法韓等主要軍事大國(guó)，紛紛加大研發(fā)投入，爭(zhēng)相打造無(wú)需人類駕駛員、操縱者的“鋼鐵雄師”。但同時(shí)，這引發(fā)的倫理爭(zhēng)議與安全擔(dān)憂日漸升溫。一批機(jī)器人和 AI 領(lǐng)域的專家、企業(yè)家以及技術(shù)領(lǐng)袖，正呼吁聯(lián)合國(guó)禁止“殺人機(jī)器人”的開(kāi)發(fā)和使用。

雷鋒網(wǎng)消息，今日，來(lái)自 26 個(gè)國(guó)家的 116 名專家，由馬斯克和 DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 領(lǐng)頭，發(fā)布公開(kāi)信正號(hào)召全面禁止自主武器。

Elon Musk

Mustafa Suleyman 

聯(lián)合國(guó)最近已投票通過(guò)開(kāi)啟對(duì)此類軍用武器的正式討論，這包括自主化的無(wú)人機(jī)、坦克、機(jī)關(guān)槍。馬斯克等這批人已向聯(lián)合國(guó)提交一份公開(kāi)信——希望在此時(shí)，即正式討論開(kāi)始前進(jìn)行呼吁，推動(dòng)聯(lián)合國(guó)制定決議制止這波全球已經(jīng)開(kāi)啟的“殺人機(jī)器人”軍備競(jìng)賽。

在公開(kāi)信中，這批技術(shù)領(lǐng)袖們對(duì)將主持該討論的聯(lián)合國(guó)常規(guī)武器會(huì)議警告稱，這輪軍備競(jìng)賽極有可能導(dǎo)致“人類戰(zhàn)爭(zhēng)形式發(fā)生第三次革命”，前兩次分別由火藥和核武器引發(fā)。他們寫道：

“一旦研發(fā)出來(lái)，致命自主武器將使未來(lái)戰(zhàn)爭(zhēng)擴(kuò)大到前所未有的規(guī)模，戰(zhàn)爭(zhēng)進(jìn)展的速度也將超過(guò)人類對(duì)時(shí)間的理解。這類武器很有可能成為恐怖的代名詞，獨(dú)裁者、恐怖分子能把它們用到無(wú)辜平民上，也有可能被黑客利用，讓自主武器做出我們不希望看到的行為。

留給我們做出行動(dòng)的時(shí)間并不多。一旦這個(gè)潘多拉魔盒開(kāi)啟，關(guān)上就難了?！?/p>

此前，AI 專家曾警告，以現(xiàn)在的人工智能技術(shù)和發(fā)展速度，部署全自主武器將在幾年內(nèi)變得可行。雖然，AI 武器能讓戰(zhàn)場(chǎng)對(duì)軍隊(duì)服役人員來(lái)說(shuō)變得更安全——更多人不需要上前線；但專家們擔(dān)心能自主行動(dòng)的進(jìn)攻性武器，將極大降低戰(zhàn)爭(zhēng)的門檻，導(dǎo)致更大量的人類傷亡。

該公開(kāi)信在今天 IJCAI 的開(kāi)幕致辭上公布，得到了機(jī)器人以及 AI 領(lǐng)袖不少知名專家學(xué)者的支持。公開(kāi)信全文以及署名者名單見(jiàn)此。他們強(qiáng)調(diào)做出緊急行動(dòng)的重要性，尤其聯(lián)合國(guó)把討論該問(wèn)題的會(huì)議時(shí)間推遲到了今年 11 月，原計(jì)劃是今天。

雷鋒網(wǎng)了解到，這批聯(lián)合署名公開(kāi)信的專家，呼吁把“在道德倫理上站不住腳”的致命自主武器系統(tǒng)，加入聯(lián)合國(guó)自 1983 年生效的特殊常規(guī)武器大會(huì) (CCW) 武器禁用名錄。后者包括化學(xué)武器以及蓄意以致盲為目的的激光武器。

新南威爾士大學(xué)人工智能教授 Toby Walsh 對(duì)此表示：

“幾乎所有技術(shù)都有兩面性，AI 同樣如此。

它能幫助我們解決許多當(dāng)前面臨的社會(huì)問(wèn)題：不平等、貧困、氣候變化帶來(lái)的挑戰(zhàn)以及仍未消退的全球金融危機(jī)。但是，同樣的技術(shù)也能用到自主武器上，讓戰(zhàn)爭(zhēng)（進(jìn)一步）工業(yè)化。

我們需要在今天做出決定，到底什么樣的未來(lái)才是我們想要的?！?/p>

大家很熟悉的馬斯克是該領(lǐng)域的活躍人物。他很早就對(duì)前瞻性的 AI 政策立法進(jìn)行了多次呼吁，把人工智能說(shuō)成是人類的頭號(hào)生存威脅。馬斯克的說(shuō)法造成很大爭(zhēng)議，不少頂級(jí)學(xué)者以及意見(jiàn)領(lǐng)袖表達(dá)了不同觀點(diǎn)，包括 Ray Kurzweil 與扎克伯格。不少公眾可能認(rèn)可 AI 對(duì)人類社會(huì)有很大破壞潛力這一說(shuō)法，但同時(shí)認(rèn)為真正造成“破壞”還離得遠(yuǎn)。

Clearpath Robotics 創(chuàng)始人 Ryan Gariepy 表示：

“與其它科幻小說(shuō)里的 AI 潛在應(yīng)用不一樣，自主武器系統(tǒng)研發(fā)正處在一個(gè)拐點(diǎn)，它對(duì)無(wú)辜平民造成殺傷的威脅非常現(xiàn)實(shí)，也有可能造成全球不穩(wěn)定?！?/p>

AI 頂會(huì) IJCAI 被專家們用作討論致命自主武器系統(tǒng)的論壇，已經(jīng)不是第一次了。 雷鋒網(wǎng)曾報(bào)道，兩年前，包括馬斯克和霍金在內(nèi)的數(shù)千名 AI、機(jī)器人專家以及行業(yè)領(lǐng)袖在該大會(huì)上簽署了另一封公開(kāi)信，呼吁與今天相似的武器禁令。這推動(dòng)了聯(lián)合國(guó)對(duì)致命自主武器開(kāi)啟正式討論。

核武器的威脅還未解決，人類又將面臨另一個(gè)自己制造出來(lái)的生存威脅。

via the Guardian

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。