雷鋒網(wǎng) AI 科技評(píng)論按，日前，WIRED 對(duì) Hinton 進(jìn)行了一次專訪，在訪談中，WIRED針對(duì)人工智能帶來的道德挑戰(zhàn)和面臨的挑戰(zhàn)等問題進(jìn)行了提問，以下為談話內(nèi)容，雷鋒網(wǎng) AI 科技評(píng)論編譯整理。

“作為一名谷歌高管，我認(rèn)為在公開場(chǎng)合抱怨（Pentagon 合同）并不合適，所以我私下抱怨，”Geoff Hinton 說。    

20 世紀(jì) 70 年代初，一位名叫 Geoff Hinton 的英國研究生開始建立簡(jiǎn)單的數(shù)學(xué)模型，以說明人腦中的神經(jīng)元是如何從視覺上理解世界的。人工神經(jīng)網(wǎng)絡(luò)，正如他們所說，幾十年來一直是一種不切實(shí)際的技術(shù)。但是在 2012 年，Hinton 和他在多倫多大學(xué)的兩個(gè)研究生用人工神經(jīng)網(wǎng)絡(luò)大大提高了計(jì)算機(jī)識(shí)別照片中物體的精度。在這之后不到六個(gè)月，谷歌就收購了這三名研究人員創(chuàng)辦的一家初創(chuàng)公司。以前默默無聞的人工神經(jīng)網(wǎng)絡(luò)一時(shí)間成為了硅谷的話題?，F(xiàn)在，所有的大型科技公司都把 Hinton 和其他一小群人煞費(fèi)苦心研究的這項(xiàng)技術(shù)作為他們未來計(jì)劃的重中之重，并將其融入我們的生活。

日前，在第一屆 G7 人工智能會(huì)議上，來自世界主要發(fā)達(dá)國家的代表們討論了如何利用人工智能的優(yōu)勢(shì)，同時(shí)盡量減少諸如失業(yè)和帶有歧視的算法等不利因素。在這次會(huì)議上，WIRED 和 Hinton 進(jìn)行了會(huì)晤，并對(duì)談話記錄進(jìn)行了編輯整理。下面是訪談內(nèi)容。

WIRED：加拿大總理 Justin Trudeau 在 G7 會(huì)議上說，在人工智能帶來的道德挑戰(zhàn)方面，人類還需要做更多的工作。對(duì)此，你是怎么看待的？

Geoff Hinton：我一直擔(dān)心在致命的自主武器中潛在的濫用問題，我認(rèn)為應(yīng)該有一些像日內(nèi)瓦公約一樣的條例來防范這一問題。即使不是每個(gè)國家都會(huì)簽名，它的存在也會(huì)起到道德標(biāo)桿的作用。你會(huì)注意到誰沒有簽名。

WIRED：4500 多位谷歌同事簽署了一封信，抗議 Pentagon 合同將機(jī)器學(xué)習(xí)應(yīng)用于無人機(jī)圖像。谷歌表示，這不是為了作為攻擊性武器使用。你在這封信上簽字了嗎？

Geoff Hinton：作為一名谷歌高管，我認(rèn)為在公開場(chǎng)合抗議不符合我的職責(zé)，所以我私下抗議。我沒有在信上簽名，而是和谷歌聯(lián)合創(chuàng)始人謝爾蓋·布林進(jìn)行了交談。他說他也對(duì)此感到有點(diǎn)擔(dān)憂。所以他們決定接下來放棄這一合同。

WIRED：谷歌的領(lǐng)導(dǎo)人決定完成合同，但不會(huì)續(xù)約。他們還發(fā)布了一些關(guān)于使用人工智能的準(zhǔn)則，其中包括保證不使用該技術(shù)制造武器。

Geoff Hinton：我認(rèn)為谷歌作出了正確的決定。將會(huì)有各種各樣的事情需要云計(jì)算，并且很難知道技術(shù)的邊界在哪里，從某種意義上講，這個(gè)界限很隨意。我很高興谷歌在這件事情上劃清界限，這些原則對(duì)我來說很有意義。

“你應(yīng)該基于這些系統(tǒng)的性能來調(diào)節(jié)。你可以通過實(shí)驗(yàn)來查看它們是否有偏差，或者它是否可能比人殺死更少的人。”

WIRED：人工智能在日常生活中也會(huì)引發(fā)道德問題，例如，當(dāng)軟件用于社會(huì)服務(wù)或醫(yī)療保健中的決策。我們應(yīng)該注意什么？

Geoff Hinton：我是使技術(shù)發(fā)揮作用的專家，但不是社會(huì)政策專家。我確實(shí)擁有相關(guān)技術(shù)專長的一個(gè)地方是，監(jiān)管機(jī)構(gòu)是否應(yīng)該堅(jiān)持讓你解釋你的人工智能系統(tǒng)是如何工作的。我認(rèn)為這將是一場(chǎng)徹底的災(zāi)難。

人們對(duì)于他們自己所做的大多數(shù)事情，都無法解釋。當(dāng)你決定是否雇用某人時(shí)，這個(gè)決定是基于你能量化的各種事情，然后是各種直覺。人們并不知道他們是怎么做到的。如果你要求他們解釋他們的決定，你就是在強(qiáng)迫他們編造一個(gè)故事。

神經(jīng)網(wǎng)絡(luò)也有類似的問題。當(dāng)你訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)時(shí)，它將學(xué)習(xí)數(shù)十億個(gè)數(shù)字，這些數(shù)字代表它從訓(xùn)練數(shù)據(jù)中提取的知識(shí)。如果你把圖像放進(jìn)去，就能檢測(cè)出正確的結(jié)果，例如，檢測(cè)圖像中的某個(gè)物體是不是行人。但如果你問「為什么它會(huì)這么認(rèn)為？」好吧，如果有任何簡(jiǎn)單的規(guī)則來判斷一張圖像是否包含行人，那么這個(gè)問題在很久以前就已經(jīng)被解決了。

WIRED：那么我們?nèi)绾沃篮螘r(shí)可以信任這些系統(tǒng)呢？

Geoff Hinton：你應(yīng)該基于這些系統(tǒng)的性能進(jìn)行調(diào)節(jié)。你可以通過實(shí)驗(yàn)來查看它們是否有偏差，或者它是否可能比人殺死更少的人。對(duì)于自動(dòng)駕駛，我認(rèn)為現(xiàn)在人們?cè)谀撤N程度上已經(jīng)接受了它。即使你不太清楚自動(dòng)駕駛的原理，但如果自動(dòng)駕駛的事故比人駕車少得多，那也是件好事。我認(rèn)為我們必須像對(duì)待人一樣對(duì)待它：你只要看看它們表現(xiàn)如何，如果它們不停地遇到困難，就說明它們不是那么好。

WIRED：你說過，思考大腦是如何工作的，會(huì)啟發(fā)你對(duì)人工神經(jīng)網(wǎng)絡(luò)的研究。我們的大腦通過由突觸連接的神經(jīng)元網(wǎng)絡(luò)從感覺中獲取信息。人工神經(jīng)網(wǎng)絡(luò)通過數(shù)學(xué)神經(jīng)元網(wǎng)絡(luò)提供數(shù)據(jù)，這些數(shù)學(xué)神經(jīng)元網(wǎng)絡(luò)通過權(quán)重進(jìn)行連接。在上周發(fā)表的一篇論文中，你和幾位合著者認(rèn)為我們應(yīng)該做更多的工作來揭示大腦中的學(xué)習(xí)算法。這是為什么？

Geoff Hinton：大腦解決問題的方法和我們大多數(shù)神經(jīng)網(wǎng)絡(luò)有很大區(qū)別。人類有大約 100 萬億個(gè)突觸，人工神經(jīng)網(wǎng)絡(luò)就權(quán)重的數(shù)量來說，通常至少要比這個(gè)數(shù)字小 10000 倍。在學(xué)習(xí)一個(gè)片段的時(shí)候，大腦會(huì)使用很多很多的突觸來盡可能地學(xué)習(xí)到更多。深度學(xué)習(xí)擅長利用神經(jīng)元之間較少的聯(lián)系進(jìn)行學(xué)習(xí)，因?yàn)樯窠?jīng)元之間有許多事件或例子需要學(xué)習(xí)。我認(rèn)為大腦并不關(guān)心如何把很多的知識(shí)連接起來，它關(guān)心的是如何利用這些連接快速獲取知識(shí)。

WIRED：我們?cè)鯓硬拍軜?gòu)建出功能更完善的機(jī)器學(xué)習(xí)系統(tǒng)？

Geoff Hinton：我想我們需要換一種不同的計(jì)算機(jī)。幸運(yùn)的是，我這里有一個(gè)。

Hinton 把手伸進(jìn)他的錢包，拿出一個(gè)又大又亮的硅片。這是一個(gè)來自 Graphcore 的樣品，Graphcore 是一家英國初創(chuàng)公司，它致力于開發(fā)一種新型的處理器來驅(qū)動(dòng)機(jī)器/深度學(xué)習(xí)算法。

幾乎所有我們用來運(yùn)行神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)系統(tǒng)，甚至是 Google 的特殊硬件，都使用 RAM 來存儲(chǔ)正在使用的程序。從 RAM 中提取神經(jīng)網(wǎng)絡(luò)的權(quán)重，以便處理器使用，這需要花費(fèi)令人難以置信的代價(jià)。一旦軟件獲取了權(quán)重，它就會(huì)使用很多次。這需要付出巨大的代價(jià)。

在 Graphcore 芯片上，權(quán)重存儲(chǔ)在處理器上的高速緩存區(qū)中，而不是 RAM 中，因此不需要移動(dòng)它們。正因?yàn)槿绱耍行┦虑閷⒆兊酶菀滋剿?。然后我們可能?huì)得到一個(gè)系統(tǒng)，這個(gè)系統(tǒng)可能有一萬億個(gè)權(quán)重，但是在每個(gè)示例中只會(huì)使用到十億個(gè)。這和大腦的規(guī)模更接近。

”從長遠(yuǎn)來看，一個(gè)全新的想法將比微小的改進(jìn)更有影響力。”

WIRED：最近人們對(duì)人工智能和機(jī)器學(xué)習(xí)的興趣和投資激增，這意味著將有更多的資金用于研究。這個(gè)領(lǐng)域的迅速發(fā)展是否也帶來了新的挑戰(zhàn)？

Geoff Hinton：社區(qū)面臨的一個(gè)巨大挑戰(zhàn)是，如果你現(xiàn)在想要發(fā)表一篇機(jī)器學(xué)習(xí)的論文，那么在這篇論文里面必須有一個(gè)表格，在表格的最上面有所有不同的數(shù)據(jù)集，在旁邊還有所有不同的方法，并且你的方法必須看起來是最好的方法。如果不是這樣的話，論文將很難發(fā)表。我認(rèn)為這并不能鼓勵(lì)人們?nèi)ニ伎既碌睦砟睢?br/>

現(xiàn)在，如果你發(fā)布一篇具有全新理念的論文，它不可能被接受，因?yàn)槌跫?jí)評(píng)審員并不能理解這篇論文。如果遇到一位資深評(píng)審人員，因?yàn)樗麜?huì)試圖盡可能地讀更多的論文，如果第一次就看不懂，他就會(huì)認(rèn)為那篇論文肯定是胡說八道。任何人們不能理解的事情都不會(huì)被接受。我認(rèn)為這真的很糟糕。

我們應(yīng)該追求的是全新的理念，尤其是在基礎(chǔ)科學(xué)會(huì)議上。從長遠(yuǎn)來看，一個(gè)全新的想法將比微小的改進(jìn)更有影響力。這就是我認(rèn)為的現(xiàn)在我們所面臨的主要挑戰(zhàn)，目前在這個(gè)領(lǐng)域有一部分的資深人士，還有無數(shù)年輕人。

WIRED：那這個(gè)問題會(huì)阻礙這個(gè)領(lǐng)域的發(fā)展嗎？

Geoff Hinton：只要等上幾年，這種不平衡就會(huì)得到糾正。這種狀況只是暫時(shí)的。公司正忙于教育人們，大學(xué)也在教育人們，大學(xué)最終將在這個(gè)領(lǐng)域雇用更多的教授，而且它會(huì)進(jìn)行自我調(diào)整。

WIRED：一些學(xué)者警告說，目前的炒作可能導(dǎo)致「人工智能的冬天」，就像上世紀(jì) 80 年代那樣，因?yàn)闆]有達(dá)到預(yù)期的進(jìn)展，當(dāng)時(shí)的利息和資金枯竭了。

Geoff Hinton：不，不會(huì)有人工智能的冬天，因?yàn)?AI 技術(shù)已經(jīng)用于手機(jī)。在舊人工智能的冬天，人工智能實(shí)際上不是你日常生活的一部分，但現(xiàn)在它是。

來源：https://www.wired.com/story/googles-ai-guru-computers-think-more-like-brains/

雷鋒網(wǎng)

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。