雷鋒網(wǎng)AI科技評論按：近日，一份 AI 專家聯(lián)合簽名的公開信火了。這封信發(fā)表在澳大利亞新南威爾士大學 (University of New South Wales) 的官網(wǎng)上，在信上，來自全球 20 多個國家、50 多名高校頂尖 AI 學者集體簽名抵制一所正在研究如何使用人工智能武器的韓國研究型大學。

事件的起因是，韓國科學技術(shù)研究院 (Korea Advanced Institute of Science and Technology)（以下簡稱 KAIST）在今年 2 月 20 日成立了一個研究中心，希望在今年年底前研發(fā)出基于「人工智能」的導(dǎo)彈、潛艇和四軸飛行器。

看到這兒，知道 AI 專家為什么要抵制了吧？KAIST 要研制人工智能戰(zhàn)爭武器！

雷鋒網(wǎng)發(fā)現(xiàn)這個研究中心的成立背景也讓人細思極恐。該研究中心由 KAIST 與韓國軍工企業(yè)「Hanwha Systems」合作成立，全稱為「國防和人工智能融合研究中心」。Hanwha Systems 的母公司是韓華集團（Hanwhua），是一家有著制造恐怖武器黑歷史且是韓國最大的軍工企業(yè)，曾因制造集束彈藥被聯(lián)合國列入黑名單。

據(jù)《韓國時報》稱，該中心的目標是開發(fā)應(yīng)用于軍事武器的人工智能技術(shù)，以便在無人控制的情況下搜索并消除目標。Hanwha Systems 與 KAIST 正在合作研發(fā)的國防 AI 應(yīng)用，目前已曝光的的有四大方向，分別是 AI 指揮與決策系統(tǒng)；無人水下潛艇的導(dǎo)航算法技術(shù)；AI 智能飛行模擬器；AI 智能目標追蹤與識別技術(shù)。

看清了該研究中心科研項目的不純目的后，AI 學界大牛們對此發(fā)出了一致的譴責聲。

最早發(fā)出呼吁的是 AI 領(lǐng)域著名的澳大利亞學者 Toby Walsh，其后有近 60 名從事機器人和 AI 研究的專家表示贊同。其中最著名的有多倫多大學 Geoffrey Hinton、蒙特利爾大學 Yoshua Bengio、瑞士人工智能實驗室 Jürgen Schmidhuber、加州大學伯克利分校 Stuart Russell、南京大學的周志華教授，香港中文大學的華云生教授、香港科技大學的楊瓞仁教授等人。南京大學人工智能學院院長、計算機系教授周志華是唯一一名內(nèi)地學者。

專家們在信中寫道: 

在聯(lián)合國正在討論如何遏制自主武器對國際安全構(gòu)成的威脅時, 我們非常遺憾的看到, 像韓國科學技術(shù)院這樣的著名機構(gòu)似乎在加速軍備競賽, 以發(fā)展這類武器。因此, 我們在這里公開宣布, 我們將抵制與韓國科學技術(shù)院相關(guān)的所有合作, 直到韓國科學技術(shù)院負責人向我們保證，該中心將不會研發(fā)完全自主，不需要人類控制的「機器人殺手」。例如, 我們將不再訪問韓國科學技術(shù)院, 接待韓國科學技術(shù)院的學者, 或參與任何涉及韓國科學技術(shù)院的研究項目。

道義始終站在正義這邊，大家的集體呼吁很快得到了 KAIST 院長 Sung-chul Shin 的回應(yīng)。

他表示對科學家們聯(lián)名抵制感到很遺憾。他在一份聲明中稱：「我需要重申 KAIST 無意參與致命性自主武器系統(tǒng)「機器人殺手」的研發(fā)。作為一個學術(shù)機構(gòu)，我們高度重視人權(quán)和倫理標準。我重申 KAIST 沒有進行任何有違人類尊嚴的研究，包括研發(fā)缺少有效控制的自主武器?！?/p>

周志華教授也第一時間在微博上通知了此事件的進展。以下是周志華教授微博的截圖內(nèi)容：

事件發(fā)展到此基本告一段落，不過，該公開信簽名發(fā)起人新南威爾士大學 Toby Walsh 教授對這一回應(yīng)似乎有點小小的不滿意。他在接受 CNN 采訪時表示，「仍然對他們研發(fā)這些打算做什么有一些疑問，但總體來說，也算做出了適當?shù)幕貞?yīng)?！?/p>

附公開信全文翻譯及聯(lián)名教授名單：

作為 AI 和機器人技術(shù)的研究員和工程師, 我們對韓國科學技術(shù)院（Korea Advanced Institute of Science and Technology）與韓國軍工企業(yè)韓華系統(tǒng)（Hanwha Systems）合作建立的「國防與人工智能融合研究中心」（Research Center for the Convergence of National Defense and Artificial Intelligence）表示極大的擔憂。據(jù)報道, 該中心的目標是「開發(fā)可用于軍事武器的人工智能技術(shù), 加入全球研發(fā)自主武器（autonomous weapon）的軍備競賽」。

在聯(lián)合國正在討論如何遏制自主武器對國際安全構(gòu)成的威脅時, 我們非常遺憾的看到, 像韓國科學技術(shù)院這樣的著名機構(gòu)似乎在加速軍備競賽, 以發(fā)展這種武器。因此, 我們在這里公開宣布, 我們將抵制與韓國科學技術(shù)院相關(guān)的所有合作, 直到韓國科學技術(shù)院負責人向我們保證該中心將不發(fā)展完全自主不需要人類控制的「機器人殺手」。例如, 我們將不再訪問韓國科學技術(shù)院, 接待韓國科學技術(shù)院的學者, 或參與任何涉及韓國科學技術(shù)院的研究項目。

一旦發(fā)展出自主武器，我們將面臨戰(zhàn)爭的第三次革命。自主武器（「機器人殺手」）將讓戰(zhàn)爭的規(guī)模比以前更大，速度更快。它們很有可能成為恐怖武器。專制統(tǒng)治者和恐怖分子可以利用它們傷害無辜平民，不顧任何倫理束縛。這個「潘多拉的盒子」一旦被打開將很難關(guān)閉。正如過去我們曾經(jīng)禁止的技術(shù)（如致盲激光）一樣，我們可以直接決定不再開發(fā)。我們敦促韓國科學技術(shù)院繼續(xù)沿著這條道路前進，用人工智能技術(shù)來改善人類生活，而不是傷害人類生命。

公開信聯(lián)名教授名單

雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。