雷鋒網(wǎng)導(dǎo)讀：兩天前的 CCF-GAIR 大會(huì)，香港大學(xué)席寧教授講道：“隨著技術(shù)的發(fā)展，智能機(jī)器人已經(jīng)從簡(jiǎn)單地替代人的能力，到擴(kuò)展人的能力”。MIT 斯隆商學(xué)院的兩位著名教授 Andrew McAfee 和 Erik Brynjolfsson，也說(shuō)過(guò)人工智能時(shí)代的主題不應(yīng)該是“Race against the Machine”（與機(jī)器賽跑），而是“Race with the Machine”（和機(jī)器一起跑）。

但我們?nèi)绾尾拍懿⒆钚』?AI 給社會(huì)帶來(lái)的風(fēng)險(xiǎn)與陣痛？對(duì)此，谷歌成立了一個(gè)新項(xiàng)目 “PAIR”，入駐了一批谷歌大腦的頂尖科學(xué)家，試圖解決 AI 技術(shù)革命“造福于人”的終極挑戰(zhàn)。

前言

對(duì)于 AI 將會(huì)給人類(lèi)社會(huì)帶來(lái)的變革，未來(lái)學(xué)家們畫(huà)下了許多大餅。但這些誘人的愿景充滿了不確定性，以及潛在的陷阱。

比如，我們希望 AI 技術(shù)幫助人們合理、科學(xué)地做決策，但它有沒(méi)有可能反而加深社會(huì)的成見(jiàn)？我們夢(mèng)想著 AI 把大家從九九六工作制里解脫出來(lái)，給上班族帶來(lái)工作與家庭生活的平衡，但會(huì)不會(huì)大多數(shù)好處都讓企業(yè)家、玩資本的得去，普通人的飯碗更加朝不保夕？

“奇點(diǎn)教父”Ray Kurzweil 把 AI 看做是未來(lái)三大“paradigm shift”* 技術(shù)里（AI、基因技術(shù)、納米技術(shù)），影響最重大、深遠(yuǎn)的一個(gè)，也是直接引爆“奇點(diǎn)”的那一個(gè)。

Ray Kurzweil

因此，不難理解為什么歐美公眾與社會(huì)學(xué)家，會(huì)對(duì) AI 的社會(huì)、倫理影響如此在意。這給谷歌等 AI 技術(shù)先驅(qū)們帶來(lái)強(qiáng)大輿論壓力，迫使他們謹(jǐn)慎再謹(jǐn)慎，并考慮每一項(xiàng)重大 AI 突破將給社會(huì)帶來(lái)的后果以及副產(chǎn)品。

*雷鋒網(wǎng)注：“paradigm shift”意味著科技的一輪更新?lián)Q代，農(nóng)業(yè)、蒸汽機(jī)、內(nèi)燃機(jī)、電力以及互聯(lián)網(wǎng)，均屬于帶來(lái) paradigm shift”的技術(shù)。

“PAIR”：溝通人與 AI

為應(yīng)對(duì)上文提到的種種挑戰(zhàn)，今日谷歌宣布了一個(gè)全新項(xiàng)目的開(kāi)啟——“PAIR”。它是“People + AI Research”的縮寫(xiě)，即“人與 AI 研究”，目標(biāo)是“研究并重新設(shè)計(jì) AI 系統(tǒng)與人交互的方式”，并“試圖讓 AI 技術(shù)為每個(gè)人服務(wù)、給每個(gè)人都帶來(lái)利益”。

PAIR 團(tuán)隊(duì)由谷歌大腦研究員 Fernanda Viégas 與 Martin Wattenberg  帶領(lǐng)，兩位均是數(shù)據(jù)可視化專(zhuān)家。12 名全職谷歌大腦員工將加入。除此之外，PAIR 還將與谷歌之外的研究人員合作，譬如哈佛大學(xué)教授 Brendan Meade 以及 MIT 教授 Hal Abelson。和愿景相比，PAIR 的核心團(tuán)隊(duì)一點(diǎn)也不算大。不過(guò)雷鋒網(wǎng)獲得的消息稱(chēng)，PAIR 是一個(gè)“全公司尺度”的項(xiàng)目，谷歌的各個(gè)研究部門(mén)會(huì)與之密切合作。

Martin Wattenberg 與 Fernanda Viégas

它的使命，聽(tīng)起來(lái)與谷歌參與發(fā)起的 The Partnership on Artificial Intelligence to Benefit People and Society （“造福于人和社會(huì)的 AI 合作組織”。沒(méi)錯(cuò)，就是名字長(zhǎng)到塞不進(jìn)標(biāo)題、讓媒體圈一致吐槽的那個(gè)組織）很是相像。該組織的參與者還包括 Facebook、微軟、IBM、亞馬遜。谷歌表示，PAIR 將會(huì)作為這個(gè)名字特別長(zhǎng)的組織的補(bǔ)充。兩者的工作內(nèi)容都包括開(kāi)源新的技術(shù)研究平臺(tái)、促進(jìn) AI 研究透明度的提升。這兩個(gè)組織的目標(biāo)，聽(tīng)起來(lái)與 OpenAI 也有些相似。

谷歌在博客宣布，PAIR 的研究工作會(huì)分為以下三個(gè)領(lǐng)域：

• 工程師和研究人員：AI 由人來(lái)創(chuàng)造。怎么讓工程師們更方便地開(kāi)發(fā)、理解機(jī)器學(xué)習(xí)系統(tǒng)？他們需要什么樣的教育資源和實(shí)踐工具？

• 行業(yè)專(zhuān)家：AI 如何協(xié)助各個(gè)領(lǐng)域?qū)＜业墓ぷ?？怎樣更好地為醫(yī)生、技師、設(shè)計(jì)師、農(nóng)民、作曲家等職業(yè)服務(wù)？

• 普通用戶：怎樣才能保證機(jī)器學(xué)習(xí)的普適性，為每個(gè)人服務(wù)，讓每個(gè)人都從 AI 的發(fā)展中受益？設(shè)計(jì)思維是否能打開(kāi)一扇全新的大門(mén)，誕生一批前所未有的 AI 應(yīng)用？我們是否能讓 AI 背后的技術(shù)民主化？

面對(duì) AI 的“不平等”挑戰(zhàn)

它們所服務(wù)的，是一個(gè)相當(dāng)寬泛、也相當(dāng)宏大的愿景。谷歌表示，PAIR 會(huì)審視 AI 供應(yīng)鏈中影響每個(gè)人的一系列問(wèn)題——從寫(xiě)代碼的研究人員，到使用（或即將使用） AI 專(zhuān)業(yè)工具的醫(yī)生、農(nóng)民等職業(yè)。另外，讓 AI 對(duì)用戶友好也是一大工作方向，讓 AI 技術(shù)便于理解（比如說(shuō)，AI 算法的可解釋性就是一個(gè)極有挑戰(zhàn)性的問(wèn)題），同時(shí)，保證 AI 技術(shù)平等地對(duì)待用戶。

什么是讓 AI“平等對(duì)待用戶”？

現(xiàn)實(shí)證明，社會(huì)中的偏見(jiàn)、成見(jiàn)、不平等，會(huì)被有意無(wú)意寫(xiě)入 AI 的代碼里。比如說(shuō)，無(wú)法識(shí)別黑人的面部識(shí)別軟件；設(shè)計(jì)為男醫(yī)生、女護(hù)士服務(wù)，而不為女醫(yī)生、男護(hù)士考慮的語(yǔ)言處理程序。

那么，造成上述情況的原因是什么呢？

最常見(jiàn)的原因是用于訓(xùn)練的數(shù)據(jù)集。要么，它包含的信息不完整（例如缺乏男護(hù)士的數(shù)據(jù)），要么存在某種形式的偏見(jiàn)。

發(fā)布 Facets 開(kāi)源工具

針對(duì)上面的問(wèn)題，PAIR 在誕生的同時(shí)，公布了它的第一份工作：Facets Overview 和 Facets Dive。這兩個(gè)開(kāi)源工具讓程序員檢查數(shù)據(jù)集的工作變得更方便——提升數(shù)據(jù)可視化體驗(yàn)。

上圖（第二張）是 Facets Dive 里的截圖，它在檢查一個(gè)面部識(shí)別系統(tǒng)。它通過(guò)每個(gè)人的國(guó)籍篩選檢驗(yàn)器，把每個(gè)國(guó)家人口的錯(cuò)誤與成功識(shí)別率進(jìn)行對(duì)比。這很方便得讓研究人員看出哪個(gè)國(guó)籍的錯(cuò)誤率較高，因而需要更多數(shù)據(jù)集、更多樣本，并進(jìn)行相應(yīng)調(diào)整。

想試一下這兩個(gè)開(kāi)源工具？請(qǐng)?jiān)L問(wèn)這里。

PAIR 會(huì)陸續(xù)發(fā)布更多的開(kāi)源工具，讓 AI 技術(shù)更透明公開(kāi)的努力也已經(jīng)提上日程。就雷鋒網(wǎng)所知，谷歌還將設(shè)立獎(jiǎng)金和實(shí)習(xí)機(jī)會(huì)來(lái)支持相關(guān)研究。

后話

筆者認(rèn)為，越來(lái)越多 AI 公益組織的建立，以及谷歌等 AI 企業(yè)的投入，在一定程度上是對(duì)社會(huì)公眾的回應(yīng)：回應(yīng)大眾對(duì) AI 技術(shù)的疑慮或者說(shuō)擔(dān)憂。

作為號(hào)稱(chēng)是足以媲美互聯(lián)網(wǎng)的“paradigm shift”技術(shù)革命，AI 有著迅速顛覆傳統(tǒng)生活溝通方式的能力，這引發(fā)的倫理討論不絕于耳。這又在很大程度上對(duì) AI 領(lǐng)頭羊企業(yè)造成了相當(dāng)大的輿論壓力——譬如說(shuō)，開(kāi)發(fā)自動(dòng)駕駛，就不得不顧慮到全球千萬(wàn)職業(yè)司機(jī)的生計(jì)。小型初創(chuàng)公司可以一往無(wú)前，但谷歌這個(gè)體量的企業(yè)，勢(shì)必需要拿出一個(gè)足以在一定程度上打消公眾疑慮的方案：怎樣避免負(fù)面效用，怎樣讓工作受威脅的職業(yè)有個(gè)過(guò)渡，諸如此類(lèi)。

PAIR，這個(gè)名字很好記，并且意有所指（“pair”意為“匹配”，一家試圖更好地溝通人與 AI 的組織以此來(lái)命名，可謂十分應(yīng)景）。但在谷歌高層的構(gòu)想里，PAIR 成立的目的有幾分公關(guān)、有幾分是要實(shí)打?qū)嵉难芯浚?/strong>外人不得而知。雖然負(fù)責(zé)人 Fernanda Viégas 與 Martin Wattenberg，這兩位一流數(shù)據(jù)可視化專(zhuān)家足夠重量級(jí)，但畢竟 PAIR 要解決的問(wèn)題太大、太寬泛，無(wú)法排除“一拳頭打到空處”的可能性。當(dāng)然，這些都需要我們耐心等待。

*文章部分內(nèi)容來(lái)源自 the Verge與 engadget

相關(guān)文章：

香港大學(xué)席寧：談?wù)勧t(yī)療納米機(jī)器人的三大成功案例 | CCF-GAIR 2017

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。