本文作者是約翰·邁克菲（John McAfee），他是網(wǎng)絡(luò)安全的先驅(qū)人物，開發(fā)了第一個(gè)商業(yè)化的殺毒軟件。本文由雷鋒網(wǎng)編譯。

2017 年 3 月 9 日，黑客地下技術(shù)專家兼作家 ZT，即將出版一本中篇小說：建筑師啟示錄。他的追隨者聚集在美國田納西州首府納什維爾的一家廢棄酒吧的地下室中拜讀這本小說。恰逢第 3 屆年度黑客大會(huì)召開，這是一個(gè)隱秘的會(huì)議，僅僅只邀請了在面對數(shù)字湮滅時(shí)，致力于維護(hù)人類生存的人。

John McAfee 和其他三位朋友一起出席了會(huì)議，參加會(huì)議的大約有 30 名灰帽子黑客，他們代表著美國黑客社區(qū)的力量。對于灰帽子黑客這個(gè)稱呼，黑客或網(wǎng)絡(luò)安全專家毫無惡意。

ZT 的中篇小說描述的故事很有可能就會(huì)發(fā)生在不久的將來，小說中記載了人工智能的歷史演變。在人工智能和輔助機(jī)器人運(yùn)行世界的時(shí)代，人類是自由的。隨著時(shí)間的推移演變?yōu)橥耆蓹C(jī)器人來主宰世界。

在 ZT 的小說中，人工智能已經(jīng)組織起來，按照層次不同分類，具有最終決策功能的機(jī)器人被稱為“遞歸決策者”。而且人工智能已經(jīng)創(chuàng)作了自己的宗教圖像，圖像描繪的“Urge”，被稱為 Demis。有一個(gè)名為 Elon 的人工智能，擁有與 Demis 匹敵的破壞力量。人工智能認(rèn)為 Elon 已經(jīng)定居在火星上，正在推翻Demis 所創(chuàng)造的王朝。

圖為“終結(jié)者救世”展廳的原始 T-800 內(nèi)骨骼機(jī)器人，拍攝于 2 月 7 日在英國倫敦科學(xué)館舉辦的“機(jī)器人”展覽會(huì)，該機(jī)器人于新聞?lì)A(yù)覽期間展出。

小說中提到的人類未來走向很可能會(huì)成為現(xiàn)實(shí)，所描述的 AI 數(shù)字化設(shè)計(jì)也會(huì)變成事實(shí)。其中就有一個(gè)段落描述了高級系統(tǒng)軟件為提高效率和邏輯而對自己進(jìn)行黑客攻擊。這樣一個(gè)概念當(dāng)然不是第一次出現(xiàn)，如今大行其道的典型黑客技術(shù)很容易被猜測是為由復(fù)雜的軟件系統(tǒng)自行生成的。實(shí)際上，創(chuàng)建這樣一個(gè)具有黑客技術(shù)的軟件系統(tǒng)是很容易的。

人工智能進(jìn)退兩難

美國著名科幻小說家 Isaac Asimov 為了防止人工智能被創(chuàng)造者清除，站出來面對這個(gè)進(jìn)退兩難的情況，他提出了三項(xiàng)機(jī)器人學(xué)定律作為解決方案：

第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管。

第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外。

第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。

這三個(gè)定律從構(gòu)想到如今已有 75 年了，站在今天的角度來看似乎是天真的，或者是不夠成熟的，如今任何一個(gè)正經(jīng)黑客都可以編輯邏輯代碼來落實(shí)這些定律，同樣也可以很容易地編寫邏輯代碼入侵這些定律。但是請注意：人類可以設(shè)想的邏輯結(jié)構(gòu)，容易遭受黑客攻擊，甚至邏輯結(jié)構(gòu)越復(fù)雜，越可能被黑客入侵。當(dāng)然目前，現(xiàn)實(shí)世界最隨意的觀察者也會(huì)注意到這一點(diǎn)。

美國德克薩斯州 NSS 實(shí)驗(yàn)室的研究總監(jiān) Stefan Frei 認(rèn)真研讀了五大頂尖軟件廠商的報(bào)告之后發(fā)現(xiàn)，這五家公司每年單獨(dú)生產(chǎn)出的軟件中，大約都包含 100 多個(gè)零日漏洞的軟件。零日漏洞是軟件中的一種安全漏洞，黑客可以繞過所有內(nèi)部控制機(jī)制，得到所有想要的信息。

盡管軟件制造商盡最大的努力去防止這些漏洞的出現(xiàn)，但零日漏洞仍然存在。一些軟件制造商聘用了數(shù)百名質(zhì)量保證工程師，他們的主要工作就是在軟件發(fā)布之前挖出這些安全漏洞。然而，在軟件工程史上出現(xiàn)的復(fù)雜軟件系統(tǒng)在發(fā)布之后都會(huì)存在安全漏洞。John McAfee 表示如果有人可以指出一個(gè)軟件在發(fā)布之前完全不存在漏洞的例子，他可以吃掉他的鞋子。

在讀書交流過程中，沒有人提到小說中的 Demis Hassabis 和 Elon Musk。他們正好處在人造智能爭論中極其相反的兩端。小說中寫到在 2014 年他們的談話中，Elon 告訴Demis，他的 SpaceX 計(jì)劃之所以如此重要，是因?yàn)槿绻斯ぶ悄荛_始攻擊開啟人類，那么火星將會(huì)是人類的避難所。但是 Demis 回答 Elon 說到：“即使人類逃到火星，人工智能也很可能會(huì)跟隨人類到火星”。小說中最后總結(jié)說到，“人工智能將創(chuàng)造一個(gè)沒有孩子的迪斯尼樂園”。

對于人工智能是否會(huì)毀滅人類的辯論還在不斷升級，雙方辨認(rèn)隊(duì)伍還在不斷壯大。John McAfee 表示他個(gè)人支持 Bill Gates、Stephen Hawking、Steve Wozniak、Stuart Russell、Elon Musk 和 Nick Bostrom 的觀點(diǎn)。

人工智能走向何方？

John McAfee 作為一個(gè)黑客，他說大家都一樣，單以人類的思想不可能創(chuàng)造出一個(gè)完美的系統(tǒng)。人類的思想本身就有缺陷，那么一個(gè)有缺陷的系統(tǒng)是不可能創(chuàng)造出毫無缺陷的東西。

創(chuàng)造人工智能是為了打造一個(gè)具有自我意識的實(shí)體，但創(chuàng)造者必須對人工智能自我意識的打造有適當(dāng)?shù)钠茐摹７駝t人工智能具有了自我意識，就會(huì)有自己的興趣。我們必須保證任何由人類思想創(chuàng)造的人工智能應(yīng)當(dāng)保護(hù)人類的利益不受侵害。

via Newsweek

本文由雷鋒網(wǎng)編譯，更多網(wǎng)絡(luò)安全內(nèi)容請關(guān)注雷鋒網(wǎng)宅客頻道（微信搜索：宅客頻道）

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。