在某些情況下，我們常常無法對(duì)自己的行為作出合理的解釋。例如一場(chǎng)說走就走的旅行，一次奮不顧身的愛情，事后人們常常無法相信當(dāng)時(shí)的自己究竟為什么會(huì)做出那樣的選擇。但這種情況畢竟是少數(shù)，大多數(shù)時(shí)候，我們都具有自我解釋和自我認(rèn)知的能力，而這一點(diǎn)也是人類與機(jī)器人（或者說人工智能）最大的區(qū)別之一。

一般我們所說的人工智能，其實(shí)說到底就是由一段程序代碼組成的復(fù)雜運(yùn)算系統(tǒng)，這個(gè)系統(tǒng)能夠根據(jù)輸入數(shù)據(jù)得出一個(gè)運(yùn)算結(jié)果，而這個(gè)結(jié)果的外在體現(xiàn)就是人工智能。在通常情況下，我們只能看到輸入的數(shù)據(jù)和最終的運(yùn)算結(jié)果，至于中間的運(yùn)算過程究竟怎樣，則一概不知。

這會(huì)帶來兩方面的缺陷：一是當(dāng)整個(gè)系統(tǒng)出現(xiàn)問題時(shí)，我們無法迅速準(zhǔn)確地對(duì)問題進(jìn)行定位并實(shí)施改進(jìn)；二是當(dāng)人工智能得到一個(gè)近乎完美的運(yùn)算結(jié)果時(shí)，我們無法回溯整個(gè)過程，并從中汲取經(jīng)驗(yàn)（雷鋒網(wǎng)注：也就是我們常說的“AI決策黑箱”）。

現(xiàn)在有一個(gè)正在迅速成長(zhǎng)的研究領(lǐng)域，正在試圖改變這一現(xiàn)狀。

拿圖像識(shí)別的場(chǎng)景來說。通常的做法是：我們會(huì)將一系列的圖像數(shù)據(jù)輸入系統(tǒng)，然后系統(tǒng)會(huì)以既定的模式識(shí)別出圖像中的物體，并予以標(biāo)記。在現(xiàn)實(shí)場(chǎng)景中，每張圖片包含的信息都非常復(fù)雜，這使得一旦出現(xiàn)標(biāo)記錯(cuò)誤，我們將很難回溯整個(gè)標(biāo)記流程，從而也很難定位并解決問題。

日前來自加州伯克利大學(xué)和Max Planck信息研究所的科學(xué)家們發(fā)明了一種全新的圖像識(shí)別算法，可以解決這一難題。該算法除了能夠按照一般的流程對(duì)圖像信息進(jìn)行識(shí)別并加以標(biāo)記之外，還能對(duì)產(chǎn)生這一標(biāo)記的原始數(shù)據(jù)進(jìn)行記錄，并將這一原始數(shù)據(jù)“翻譯”成人類可以理解的語言備份下來，方便研究者們回溯和檢查。

根據(jù)團(tuán)隊(duì)發(fā)表的論文，目前這一算法還僅限于識(shí)別圖像里的人物動(dòng)作信息（例如這個(gè)人是在打棒球還是騎自行車），而且需要基于兩種不同的數(shù)據(jù)集合的支持。第一個(gè)集合是關(guān)于圖像信息本身的，包括圖像、圖像的初步描述、以及圖像的進(jìn)一步說明。例如一個(gè)打棒球的照片，描述信息可以是“圖中有一個(gè)棒球棍，以及一個(gè)人握著它”，說明信息可以是“這個(gè)人正在握著棒子揮舞”。第二個(gè)集合是關(guān)于圖像信息解釋的，其中包括三個(gè)圖像的相關(guān)問題，而且針對(duì)每個(gè)問題要給出10種可能的答案。例如問：“這個(gè)人是在打棒球么？”一種回答可以是：“不是，因?yàn)閳D中沒有棒球棍?！?/p>

正是基于上述兩種數(shù)據(jù)集合的支持，當(dāng)某個(gè)利用了這種算法的神經(jīng)網(wǎng)絡(luò)系統(tǒng)被問到為什么將圖片描述為“打棒球”時(shí)，它就可以追溯到最原始的定位信息，并將之描述出來：例如它檢測(cè)到圖中出現(xiàn)了一個(gè)棒球棍，以及一個(gè)人在握著這根棒球棍揮舞，因此得出結(jié)論這是一個(gè)打棒球的照片。研究者們稱之為“標(biāo)記并解釋”系統(tǒng)，因?yàn)樗坏苊枋鲆粡垐D片的內(nèi)容，還能指出為什么得出了這樣的結(jié)論。

微軟首席研究員Kate Crawford在評(píng)論中指出：工程師們已經(jīng)開發(fā)出了能夠自動(dòng)識(shí)別不同種類的貓、狗或者其他內(nèi)容的深度學(xué)習(xí)系統(tǒng)。雖然這些系統(tǒng)的表現(xiàn)隨著研究的深入正在變得越來越好，但人們始終無法搞清楚背后的邏輯，即為什么系統(tǒng)會(huì)得到這個(gè)結(jié)論。

Kate Crawford的觀點(diǎn)觸及了機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)核心問題：當(dāng)一個(gè)算法進(jìn)行自我學(xué)習(xí)時(shí)，它只能根據(jù)研究者輸入的數(shù)據(jù)（可以是文本，也可以是圖像或者視頻等），提取出關(guān)鍵的信息，并將這些信息按照只有機(jī)器自己才能理解的方式加以歸類和整理，這一過程完全不需要人類的直接參與，人類也無法加以觀察和控制。

波士頓大學(xué)計(jì)算機(jī)學(xué)科的教授Kate Saenko表示：實(shí)際上并沒有人能夠設(shè)計(jì)一個(gè)深度神經(jīng)網(wǎng)絡(luò)。人們只是設(shè)計(jì)了這個(gè)系統(tǒng)的算法，并提供了相應(yīng)的數(shù)據(jù)集合，剩下的都由系統(tǒng)自主完成。

所以，這就是來自加州伯克利大學(xué)和Max Planck信息研究所這一最新算法的重要意義：它能將機(jī)器內(nèi)部的邏輯鏈條翻譯出來展示給人類，而不是簡(jiǎn)單的僅僅給出一個(gè)結(jié)論。

歐洲計(jì)算機(jī)視覺聯(lián)會(huì)的主席，F(xiàn)acebook訪問學(xué)者Devi Parikh表示：這一算法的難點(diǎn)不在于解釋一個(gè)結(jié)論本身，而是如何以人類能理解的方式表述出來。因?yàn)槿绻憧吹竭^機(jī)器內(nèi)部的運(yùn)算流程，就會(huì)發(fā)現(xiàn)其中所有的參數(shù)和中間變量都是以數(shù)字的形式出現(xiàn)的，有些數(shù)字甚至長(zhǎng)達(dá)數(shù)百上千位。因此，從內(nèi)部的運(yùn)算邏輯中找到一個(gè)結(jié)論的源頭數(shù)據(jù)或許并不困難，真正困難的是如何將這一長(zhǎng)串?dāng)?shù)字翻譯成人類能夠理解的語言。

雖然目前來看，來自加州伯克利大學(xué)和Max Planck信息研究所的這一最新研究成果還非常具有局限性（例如只能識(shí)別人類的動(dòng)作）。但更重要的是，它為我們指明了一種未來可能出現(xiàn)的現(xiàn)實(shí)場(chǎng)景：不但能夠從機(jī)器那里得到一件事情的具體決策，還能像跟朋友聊天一樣詢問它得到這一結(jié)論的原因。未來，隨著我們賦予機(jī)器越來越關(guān)鍵信息的決策能力（例如自動(dòng)駕駛），這種能夠自我解釋的機(jī)制也將變得越來越重要。

當(dāng)然，如果像此前的報(bào)道那樣，機(jī)器有一天也終于學(xué)會(huì)了騙人，那就是另一個(gè)故事了。

來源：Quartz

本文作者：恒亮@雷鋒網(wǎng)

本文責(zé)編：岑峰@雷鋒網(wǎng)

【兼職召集令！】

如果你對(duì)未來充滿憧憬，喜歡探索改變世界的科技進(jìn)展，look no further！

我們需要這樣的你：

精通英語，對(duì)技術(shù)與產(chǎn)品感興趣，關(guān)注人工智能學(xué)術(shù)動(dòng)態(tài)的蘿莉&萌妹子&技術(shù)宅；

文字不求妙筆生花，但希望通俗易懂；

在這里，你會(huì)收獲：

一群來自天南地北、志同道合的小伙伴；

前沿學(xué)術(shù)科技動(dòng)態(tài)，每天為自己充充電；

更高的生活品質(zhì)，翻翻文章就能掙到零花錢；

有意向的小伙伴們把個(gè)人介紹/簡(jiǎn)歷發(fā)至 guoyixin@leiphone.com，如有作品，歡迎一并附上。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。