雷鋒網(wǎng)導(dǎo)讀：兩天前的 CCF-GAIR 大會，香港大學(xué)席寧教授講道：“隨著技術(shù)的發(fā)展，智能機(jī)器人已經(jīng)從簡單地替代人的能力，到擴(kuò)展人的能力”。MIT 斯隆商學(xué)院的兩位著名教授 Andrew McAfee 和 Erik Brynjolfsson，也說過人工智能時代的主題不應(yīng)該是“Race against the Machine”（與機(jī)器賽跑），而是“Race with the Machine”（和機(jī)器一起跑）。

但我們?nèi)绾尾拍懿⒆钚』?AI 給社會帶來的風(fēng)險與陣痛？對此，谷歌成立了一個新項目 “PAIR”，入駐了一批谷歌大腦的頂尖科學(xué)家，試圖解決 AI 技術(shù)革命“造福于人”的終極挑戰(zhàn)。

前言

對于 AI 將會給人類社會帶來的變革，未來學(xué)家們畫下了許多大餅。但這些誘人的愿景充滿了不確定性，以及潛在的陷阱。

比如，我們希望 AI 技術(shù)幫助人們合理、科學(xué)地做決策，但它有沒有可能反而加深社會的成見？我們夢想著 AI 把大家從九九六工作制里解脫出來，給上班族帶來工作與家庭生活的平衡，但會不會大多數(shù)好處都讓企業(yè)家、玩資本的得去，普通人的飯碗更加朝不保夕？

“奇點(diǎn)教父”Ray Kurzweil 把 AI 看做是未來三大“paradigm shift”* 技術(shù)里（AI、基因技術(shù)、納米技術(shù)），影響最重大、深遠(yuǎn)的一個，也是直接引爆“奇點(diǎn)”的那一個。

Ray Kurzweil

因此，不難理解為什么歐美公眾與社會學(xué)家，會對 AI 的社會、倫理影響如此在意。這給谷歌等 AI 技術(shù)先驅(qū)們帶來強(qiáng)大輿論壓力，迫使他們謹(jǐn)慎再謹(jǐn)慎，并考慮每一項重大 AI 突破將給社會帶來的后果以及副產(chǎn)品。

*雷鋒網(wǎng)注：“paradigm shift”意味著科技的一輪更新?lián)Q代，農(nóng)業(yè)、蒸汽機(jī)、內(nèi)燃機(jī)、電力以及互聯(lián)網(wǎng)，均屬于帶來 paradigm shift”的技術(shù)。

“PAIR”：溝通人與 AI

為應(yīng)對上文提到的種種挑戰(zhàn)，今日谷歌宣布了一個全新項目的開啟——“PAIR”。它是“People + AI Research”的縮寫，即“人與 AI 研究”，目標(biāo)是“研究并重新設(shè)計 AI 系統(tǒng)與人交互的方式”，并“試圖讓 AI 技術(shù)為每個人服務(wù)、給每個人都帶來利益”。

PAIR 團(tuán)隊由谷歌大腦研究員 Fernanda Viégas 與 Martin Wattenberg  帶領(lǐng)，兩位均是數(shù)據(jù)可視化專家。12 名全職谷歌大腦員工將加入。除此之外，PAIR 還將與谷歌之外的研究人員合作，譬如哈佛大學(xué)教授 Brendan Meade 以及 MIT 教授 Hal Abelson。和愿景相比，PAIR 的核心團(tuán)隊一點(diǎn)也不算大。不過雷鋒網(wǎng)獲得的消息稱，PAIR 是一個“全公司尺度”的項目，谷歌的各個研究部門會與之密切合作。

Martin Wattenberg 與 Fernanda Viégas

它的使命，聽起來與谷歌參與發(fā)起的 The Partnership on Artificial Intelligence to Benefit People and Society （“造福于人和社會的 AI 合作組織”。沒錯，就是名字長到塞不進(jìn)標(biāo)題、讓媒體圈一致吐槽的那個組織）很是相像。該組織的參與者還包括 Facebook、微軟、IBM、亞馬遜。谷歌表示，PAIR 將會作為這個名字特別長的組織的補(bǔ)充。兩者的工作內(nèi)容都包括開源新的技術(shù)研究平臺、促進(jìn) AI 研究透明度的提升。這兩個組織的目標(biāo)，聽起來與 OpenAI 也有些相似。

谷歌在博客宣布，PAIR 的研究工作會分為以下三個領(lǐng)域：

• 工程師和研究人員：AI 由人來創(chuàng)造。怎么讓工程師們更方便地開發(fā)、理解機(jī)器學(xué)習(xí)系統(tǒng)？他們需要什么樣的教育資源和實(shí)踐工具？

• 行業(yè)專家：AI 如何協(xié)助各個領(lǐng)域?qū)＜业墓ぷ?？怎樣更好地為醫(yī)生、技師、設(shè)計師、農(nóng)民、作曲家等職業(yè)服務(wù)？

• 普通用戶：怎樣才能保證機(jī)器學(xué)習(xí)的普適性，為每個人服務(wù)，讓每個人都從 AI 的發(fā)展中受益？設(shè)計思維是否能打開一扇全新的大門，誕生一批前所未有的 AI 應(yīng)用？我們是否能讓 AI 背后的技術(shù)民主化？

面對 AI 的“不平等”挑戰(zhàn)

它們所服務(wù)的，是一個相當(dāng)寬泛、也相當(dāng)宏大的愿景。谷歌表示，PAIR 會審視 AI 供應(yīng)鏈中影響每個人的一系列問題——從寫代碼的研究人員，到使用（或即將使用） AI 專業(yè)工具的醫(yī)生、農(nóng)民等職業(yè)。另外，讓 AI 對用戶友好也是一大工作方向，讓 AI 技術(shù)便于理解（比如說，AI 算法的可解釋性就是一個極有挑戰(zhàn)性的問題），同時，保證 AI 技術(shù)平等地對待用戶。

什么是讓 AI“平等對待用戶”？

現(xiàn)實(shí)證明，社會中的偏見、成見、不平等，會被有意無意寫入 AI 的代碼里。比如說，無法識別黑人的面部識別軟件；設(shè)計為男醫(yī)生、女護(hù)士服務(wù)，而不為女醫(yī)生、男護(hù)士考慮的語言處理程序。

那么，造成上述情況的原因是什么呢？

最常見的原因是用于訓(xùn)練的數(shù)據(jù)集。要么，它包含的信息不完整（例如缺乏男護(hù)士的數(shù)據(jù)），要么存在某種形式的偏見。

發(fā)布 Facets 開源工具

針對上面的問題，PAIR 在誕生的同時，公布了它的第一份工作：Facets Overview 和 Facets Dive。這兩個開源工具讓程序員檢查數(shù)據(jù)集的工作變得更方便——提升數(shù)據(jù)可視化體驗(yàn)。

上圖（第二張）是 Facets Dive 里的截圖，它在檢查一個面部識別系統(tǒng)。它通過每個人的國籍篩選檢驗(yàn)器，把每個國家人口的錯誤與成功識別率進(jìn)行對比。這很方便得讓研究人員看出哪個國籍的錯誤率較高，因而需要更多數(shù)據(jù)集、更多樣本，并進(jìn)行相應(yīng)調(diào)整。

想試一下這兩個開源工具？請訪問這里。

PAIR 會陸續(xù)發(fā)布更多的開源工具，讓 AI 技術(shù)更透明公開的努力也已經(jīng)提上日程。就雷鋒網(wǎng)所知，谷歌還將設(shè)立獎金和實(shí)習(xí)機(jī)會來支持相關(guān)研究。

后話

筆者認(rèn)為，越來越多 AI 公益組織的建立，以及谷歌等 AI 企業(yè)的投入，在一定程度上是對社會公眾的回應(yīng)：回應(yīng)大眾對 AI 技術(shù)的疑慮或者說擔(dān)憂。

作為號稱是足以媲美互聯(lián)網(wǎng)的“paradigm shift”技術(shù)革命，AI 有著迅速顛覆傳統(tǒng)生活溝通方式的能力，這引發(fā)的倫理討論不絕于耳。這又在很大程度上對 AI 領(lǐng)頭羊企業(yè)造成了相當(dāng)大的輿論壓力——譬如說，開發(fā)自動駕駛，就不得不顧慮到全球千萬職業(yè)司機(jī)的生計。小型初創(chuàng)公司可以一往無前，但谷歌這個體量的企業(yè)，勢必需要拿出一個足以在一定程度上打消公眾疑慮的方案：怎樣避免負(fù)面效用，怎樣讓工作受威脅的職業(yè)有個過渡，諸如此類。

PAIR，這個名字很好記，并且意有所指（“pair”意為“匹配”，一家試圖更好地溝通人與 AI 的組織以此來命名，可謂十分應(yīng)景）。但在谷歌高層的構(gòu)想里，PAIR 成立的目的有幾分公關(guān)、有幾分是要實(shí)打?qū)嵉难芯浚?/strong>外人不得而知。雖然負(fù)責(zé)人 Fernanda Viégas 與 Martin Wattenberg，這兩位一流數(shù)據(jù)可視化專家足夠重量級，但畢竟 PAIR 要解決的問題太大、太寬泛，無法排除“一拳頭打到空處”的可能性。當(dāng)然，這些都需要我們耐心等待。

*文章部分內(nèi)容來源自 the Verge與 engadget

相關(guān)文章：

香港大學(xué)席寧：談?wù)勧t(yī)療納米機(jī)器人的三大成功案例 | CCF-GAIR 2017

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。