雷鋒網(wǎng)AI科技評(píng)論按：近日，一份 AI 專家聯(lián)合簽名的公開(kāi)信火了。這封信發(fā)表在澳大利亞新南威爾士大學(xué) (University of New South Wales) 的官網(wǎng)上，在信上，來(lái)自全球 20 多個(gè)國(guó)家、50 多名高校頂尖 AI 學(xué)者集體簽名抵制一所正在研究如何使用人工智能武器的韓國(guó)研究型大學(xué)。

事件的起因是，韓國(guó)科學(xué)技術(shù)研究院 (Korea Advanced Institute of Science and Technology)（以下簡(jiǎn)稱 KAIST）在今年 2 月 20 日成立了一個(gè)研究中心，希望在今年年底前研發(fā)出基于「人工智能」的導(dǎo)彈、潛艇和四軸飛行器。

看到這兒，知道 AI 專家為什么要抵制了吧？KAIST 要研制人工智能戰(zhàn)爭(zhēng)武器！

雷鋒網(wǎng)發(fā)現(xiàn)這個(gè)研究中心的成立背景也讓人細(xì)思極恐。該研究中心由 KAIST 與韓國(guó)軍工企業(yè)「Hanwha Systems」合作成立，全稱為「國(guó)防和人工智能融合研究中心」。Hanwha Systems 的母公司是韓華集團(tuán)（Hanwhua），是一家有著制造恐怖武器黑歷史且是韓國(guó)最大的軍工企業(yè)，曾因制造集束彈藥被聯(lián)合國(guó)列入黑名單。

據(jù)《韓國(guó)時(shí)報(bào)》稱，該中心的目標(biāo)是開(kāi)發(fā)應(yīng)用于軍事武器的人工智能技術(shù)，以便在無(wú)人控制的情況下搜索并消除目標(biāo)。Hanwha Systems 與 KAIST 正在合作研發(fā)的國(guó)防 AI 應(yīng)用，目前已曝光的的有四大方向，分別是 AI 指揮與決策系統(tǒng)；無(wú)人水下潛艇的導(dǎo)航算法技術(shù)；AI 智能飛行模擬器；AI 智能目標(biāo)追蹤與識(shí)別技術(shù)。

看清了該研究中心科研項(xiàng)目的不純目的后，AI 學(xué)界大牛們對(duì)此發(fā)出了一致的譴責(zé)聲。

最早發(fā)出呼吁的是 AI 領(lǐng)域著名的澳大利亞學(xué)者 Toby Walsh，其后有近 60 名從事機(jī)器人和 AI 研究的專家表示贊同。其中最著名的有多倫多大學(xué) Geoffrey Hinton、蒙特利爾大學(xué) Yoshua Bengio、瑞士人工智能實(shí)驗(yàn)室 Jürgen Schmidhuber、加州大學(xué)伯克利分校 Stuart Russell、南京大學(xué)的周志華教授，香港中文大學(xué)的華云生教授、香港科技大學(xué)的楊瓞仁教授等人。南京大學(xué)人工智能學(xué)院院長(zhǎng)、計(jì)算機(jī)系教授周志華是唯一一名內(nèi)地學(xué)者。

專家們?cè)谛胖袑?xiě)道: 

在聯(lián)合國(guó)正在討論如何遏制自主武器對(duì)國(guó)際安全構(gòu)成的威脅時(shí), 我們非常遺憾的看到, 像韓國(guó)科學(xué)技術(shù)院這樣的著名機(jī)構(gòu)似乎在加速軍備競(jìng)賽, 以發(fā)展這類(lèi)武器。因此, 我們?cè)谶@里公開(kāi)宣布, 我們將抵制與韓國(guó)科學(xué)技術(shù)院相關(guān)的所有合作, 直到韓國(guó)科學(xué)技術(shù)院負(fù)責(zé)人向我們保證，該中心將不會(huì)研發(fā)完全自主，不需要人類(lèi)控制的「機(jī)器人殺手」。例如, 我們將不再訪問(wèn)韓國(guó)科學(xué)技術(shù)院, 接待韓國(guó)科學(xué)技術(shù)院的學(xué)者, 或參與任何涉及韓國(guó)科學(xué)技術(shù)院的研究項(xiàng)目。

道義始終站在正義這邊，大家的集體呼吁很快得到了 KAIST 院長(zhǎng) Sung-chul Shin 的回應(yīng)。

他表示對(duì)科學(xué)家們聯(lián)名抵制感到很遺憾。他在一份聲明中稱：「我需要重申 KAIST 無(wú)意參與致命性自主武器系統(tǒng)「機(jī)器人殺手」的研發(fā)。作為一個(gè)學(xué)術(shù)機(jī)構(gòu)，我們高度重視人權(quán)和倫理標(biāo)準(zhǔn)。我重申 KAIST 沒(méi)有進(jìn)行任何有違人類(lèi)尊嚴(yán)的研究，包括研發(fā)缺少有效控制的自主武器?！?/p>

周志華教授也第一時(shí)間在微博上通知了此事件的進(jìn)展。以下是周志華教授微博的截圖內(nèi)容：

事件發(fā)展到此基本告一段落，不過(guò)，該公開(kāi)信簽名發(fā)起人新南威爾士大學(xué) Toby Walsh 教授對(duì)這一回應(yīng)似乎有點(diǎn)小小的不滿意。他在接受 CNN 采訪時(shí)表示，「仍然對(duì)他們研發(fā)這些打算做什么有一些疑問(wèn)，但總體來(lái)說(shuō)，也算做出了適當(dāng)?shù)幕貞?yīng)?！?/p>

附公開(kāi)信全文翻譯及聯(lián)名教授名單：

作為 AI 和機(jī)器人技術(shù)的研究員和工程師, 我們對(duì)韓國(guó)科學(xué)技術(shù)院（Korea Advanced Institute of Science and Technology）與韓國(guó)軍工企業(yè)韓華系統(tǒng)（Hanwha Systems）合作建立的「國(guó)防與人工智能融合研究中心」（Research Center for the Convergence of National Defense and Artificial Intelligence）表示極大的擔(dān)憂。據(jù)報(bào)道, 該中心的目標(biāo)是「開(kāi)發(fā)可用于軍事武器的人工智能技術(shù), 加入全球研發(fā)自主武器（autonomous weapon）的軍備競(jìng)賽」。

在聯(lián)合國(guó)正在討論如何遏制自主武器對(duì)國(guó)際安全構(gòu)成的威脅時(shí), 我們非常遺憾的看到, 像韓國(guó)科學(xué)技術(shù)院這樣的著名機(jī)構(gòu)似乎在加速軍備競(jìng)賽, 以發(fā)展這種武器。因此, 我們?cè)谶@里公開(kāi)宣布, 我們將抵制與韓國(guó)科學(xué)技術(shù)院相關(guān)的所有合作, 直到韓國(guó)科學(xué)技術(shù)院負(fù)責(zé)人向我們保證該中心將不發(fā)展完全自主不需要人類(lèi)控制的「機(jī)器人殺手」。例如, 我們將不再訪問(wèn)韓國(guó)科學(xué)技術(shù)院, 接待韓國(guó)科學(xué)技術(shù)院的學(xué)者, 或參與任何涉及韓國(guó)科學(xué)技術(shù)院的研究項(xiàng)目。

一旦發(fā)展出自主武器，我們將面臨戰(zhàn)爭(zhēng)的第三次革命。自主武器（「機(jī)器人殺手」）將讓?xiě)?zhàn)爭(zhēng)的規(guī)模比以前更大，速度更快。它們很有可能成為恐怖武器。專制統(tǒng)治者和恐怖分子可以利用它們傷害無(wú)辜平民，不顧任何倫理束縛。這個(gè)「潘多拉的盒子」一旦被打開(kāi)將很難關(guān)閉。正如過(guò)去我們?cè)?jīng)禁止的技術(shù)（如致盲激光）一樣，我們可以直接決定不再開(kāi)發(fā)。我們敦促韓國(guó)科學(xué)技術(shù)院繼續(xù)沿著這條道路前進(jìn)，用人工智能技術(shù)來(lái)改善人類(lèi)生活，而不是傷害人類(lèi)生命。

公開(kāi)信聯(lián)名教授名單

雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。