0
雷鋒網(wǎng) AI 科技評論按：今年 3 月，谷歌與美國國防部在 Project Maven 上合作的消息泄露。由于 Project Maven 的目標(biāo)是用于無人機(jī)的視頻檢測、目標(biāo)識別，未來可能應(yīng)用到作戰(zhàn)中。
消息一經(jīng)傳出立即在谷歌內(nèi)外引發(fā)了巨大反響。不僅廣大網(wǎng)民/谷歌用戶質(zhì)疑谷歌降低了自己道德水準(zhǔn)，4 月，超過 3100 名谷歌員工聯(lián)名上書谷歌 CEO Sundar Pichai，呼吁谷歌退出 Project Maven 并要求公司「永遠(yuǎn)不再開發(fā)戰(zhàn)爭相關(guān)技術(shù)」；5 月，面對公司高層不甚明了的態(tài)度，十余名谷歌員工甚至提出離職作為抗議。
在廣大谷歌員工的殷切要求與期盼下，谷歌云首席執(zhí)行官 Diane Greene 在與員工的一次內(nèi)部會議上宣布不再與國防部續(xù)簽這一項(xiàng)目，Sundar Pichai 今日也在谷歌博客發(fā)出了標(biāo)題為《AI 在谷歌：我們的行為規(guī)范》的文章，作為公開信明確表明了自己對于包括軍事用途在內(nèi)的 AI 與谷歌公司全方位關(guān)系的態(tài)度。
本質(zhì)上，AI 是一種可以學(xué)習(xí)并適應(yīng)的計(jì)算機(jī)程序。它并不能解決所有的問題，但它有巨大的潛力可以改善我們?nèi)祟惖纳?。谷歌就在借?AI 的力量讓自己的產(chǎn)品更有用，比如可以隔絕欺詐郵件、也易于寫作的電子郵件，到可以用自然語言溝通的電子助理，再到能自動捕捉下精彩瞬間的照相 app。
除了谷歌的產(chǎn)品，我們也在使用 AI 幫助人們解決更緊急的問題。在谷歌員工參與的項(xiàng)目中，一群高中生在設(shè)計(jì)帶有 AI 功能的傳感器用來預(yù)測森林火災(zāi)的風(fēng)險(xiǎn)，農(nóng)民在借助 AI 追蹤自己的獸群的健康狀況，醫(yī)生也正開始利用 AI 幫助檢測癌癥以及防止失明（雷鋒網(wǎng) AI 科技評論注：糖尿病導(dǎo)致的長期高血糖會導(dǎo)致失明，早期癥狀可以由眼部照片發(fā)現(xiàn)）。谷歌之所以在 AI 的研究和開發(fā)上有大規(guī)模的投入、努力通過谷歌開發(fā)的工具和開源代碼讓更廣泛的人群也可以掌握 AI 的力量，正是因?yàn)槲覀兛梢钥吹竭@些明確的好處。
我們同時(shí)也認(rèn)識到，如此強(qiáng)大的技術(shù)也引發(fā)同樣重大的問題，那就是如何使用它。我們開發(fā)、使用 AI 的方式在未來的許多年內(nèi)會對我們的社會產(chǎn)生深遠(yuǎn)的影響。作為 AI 領(lǐng)域的領(lǐng)導(dǎo)者，我們感覺到自己肩負(fù)了深刻的責(zé)任，要用正確的方式做這一切。所以今天，我們公開宣告以下七項(xiàng)行為規(guī)范，以它們指導(dǎo)我們未來的工作。它們并不是理論上的概念，而是切切實(shí)實(shí)的標(biāo)準(zhǔn)，它們將積極主動地約束我們的技術(shù)研究和產(chǎn)品開發(fā)，并將影響我們的商業(yè)決策。
我們明白這個(gè)領(lǐng)域是高度變化、持續(xù)發(fā)展的，我們也會帶著謙卑的心態(tài)、對內(nèi)部和外部事務(wù)的承諾以及不斷改善的意愿持續(xù)學(xué)習(xí)、持續(xù)前進(jìn)。
AI 應(yīng)用的設(shè)計(jì)目標(biāo)
我們會以下面的幾個(gè)目標(biāo)評估 AI 應(yīng)用。我們相信 AI 應(yīng)當(dāng)：
對社會有益
隨著新技術(shù)的不斷發(fā)展壯大，它對整個(gè)社會的影響也越來越大。AI 方面的進(jìn)展會為許多領(lǐng)域帶來革命性的轉(zhuǎn)變，包括醫(yī)療、安全、能源、交通、制造以及娛樂。當(dāng)我們考慮 AI 潛在的發(fā)展方向和應(yīng)用方式時(shí)，我們也會一并考慮各種社會以及經(jīng)濟(jì)因素，并向著我們認(rèn)為總的來說可能的收益要明顯高于可預(yù)見的風(fēng)險(xiǎn)和問題的方向前進(jìn)。
AI 同樣能增強(qiáng)我們理解海量內(nèi)容含義的能力。借助 AI 的力量，我們努力讓高質(zhì)量、準(zhǔn)確的信息隨時(shí)可用，同時(shí)也持續(xù)地尊重運(yùn)營地域的文化、社會、法律慣例。我們也會持續(xù)地仔細(xì)評估何時(shí)可以把我們的技術(shù)成果以非商業(yè)化的方式向全社會開放。
避免創(chuàng)造或增強(qiáng)不公平的偏見
AI 算法和數(shù)據(jù)集能夠反映、增強(qiáng)又或者減少不公平的偏見。我們注意到如何區(qū)分公平和不公平的偏見并不是總是一件容易的事情，而且這在不同的文化和社會中也會有所區(qū)別。我們會努力避免針對人類的不公平的影響，尤其是和敏感的個(gè)人特質(zhì)相關(guān)的因素，比如人種、種族、國籍、收入、性取向、能力以及政治及宗教信仰。
構(gòu)建和測試中注重安全
我們會不斷設(shè)計(jì)強(qiáng)有力的安全與防護(hù)措施并應(yīng)用它們，避免出現(xiàn)有可能會傷害人類的結(jié)果。我們設(shè)計(jì)的 AI 系統(tǒng)將會足夠謹(jǐn)慎，在開發(fā)時(shí)也會符合 AI 安全學(xué)術(shù)研究方面的最佳做法。對于合適的情況，我們也會在受限的環(huán)境中部署并觀察 AI 的行為作為測試手段。
對人類負(fù)責(zé)
我們設(shè)計(jì)的 AI 系統(tǒng)應(yīng)當(dāng)給與人類適當(dāng)?shù)慕o出反饋、做出相關(guān)的解釋以及提出異議的機(jī)會。我們的 AI 技術(shù)也會接受適當(dāng)?shù)娜祟愔笇?dǎo)以及控制。
符合尊重隱私的設(shè)計(jì)規(guī)范
我們會在 AI 技術(shù)的開發(fā)和使用中遵守我們的隱私政策。我們會提醒用戶知情以及同意，鼓勵(lì)使用帶有隱私保證的架構(gòu)，并在數(shù)據(jù)使用中保證適當(dāng)?shù)耐该餍院涂刂屏Α?/p>
保持與杰出科學(xué)研究一樣的高行為標(biāo)準(zhǔn)
科技創(chuàng)新的根本是科學(xué)的方法，以及承諾可以開放地質(zhì)詢、嚴(yán)謹(jǐn)?shù)厮伎?、完整性、并多方合作。AI 工具有潛力在生物、化學(xué)、藥物、環(huán)境科學(xué)等領(lǐng)域開辟出科學(xué)研究和科學(xué)知識的新天地。我們在 AI 的開發(fā)和進(jìn)步過程中也深受這樣的杰出科學(xué)研究的高標(biāo)準(zhǔn)鼓舞。
我們會與許多股東攜手為這個(gè)領(lǐng)域培養(yǎng)深思熟慮的領(lǐng)導(dǎo)方式，關(guān)注科學(xué)性的嚴(yán)謹(jǐn)性和多學(xué)科聯(lián)合的工作風(fēng)格。我們也會擔(dān)負(fù)起分享 AI 知識的責(zé)任，包括向全社會公開教學(xué)材料、最佳做法、以及能夠讓更多人參與開發(fā)出有用的 AI 應(yīng)用的研究成果。
為符合以下標(biāo)準(zhǔn)的應(yīng)用做好準(zhǔn)備
許多技術(shù)都有多種應(yīng)用方式。這些方面我們的努力方式將會是限制潛在的有危險(xiǎn)的或者可能被濫用的應(yīng)用。在我們開發(fā)和部署 AI 技術(shù)的過程當(dāng)中，我們會注意評估以下應(yīng)用相關(guān)的因素：
主要目的以及應(yīng)用：技術(shù)及應(yīng)用的主要設(shè)計(jì)目標(biāo)以及可能的應(yīng)用方式，包括解決方案與有害的使用方式之間的關(guān)聯(lián)性，或者用于有害應(yīng)用的適配性。
自然性及獨(dú)特性：獨(dú)特性針對性的技術(shù)是否開放可用，更廣泛通用的技術(shù)是否開放可用
規(guī)模： 這項(xiàng)技術(shù)的使用是否會帶來重大影響
谷歌的參與程度的本質(zhì)：我們是否要為客戶提供通用性的工具、集成式的工具，還是開發(fā)定制化的解決方案。
我們不會參與的 AI 應(yīng)用
在上面這些目標(biāo)之外，谷歌同時(shí)還不會參與下面這些應(yīng)用領(lǐng)域的 AI 設(shè)計(jì)以及部署：
將會對、有可能對人類全體造成傷害的技術(shù)。對于有可能造成物理性傷害的狀況，只有在我們相信好處可以明顯大于風(fēng)險(xiǎn)時(shí)才會繼續(xù)行動，同時(shí)也仍然會施加適當(dāng)?shù)陌踩拗啤?/p>
主要目標(biāo)或者工作方式是對人類造成傷害/直接幫助對人類造成傷害的武器以及其他技術(shù)。
違反國際慣例，收集、使用信息用于監(jiān)視的技術(shù)。
目標(biāo)與國際法、人權(quán)方面廣泛接受的條款有沖突的技術(shù)。
這里需要說明的是，雖然我們不會開發(fā)用于武器的 AI，但我們?nèi)詫⑴c政府及軍方在多個(gè)方面展開合作。合作內(nèi)容包括信息安全、培訓(xùn)、士兵招募、退伍軍人的醫(yī)療衛(wèi)生，以及搜索援救。這些合作內(nèi)容也很重要，我們也會積極地尋找更多的方式增強(qiáng)這些組織中的關(guān)鍵成果，并為軍政人員和平民都保證安全。
長遠(yuǎn)的 AI 建設(shè)
雖然我們已經(jīng)選擇了以這樣的方式向 AI 前進(jìn)，我們也明白這場討論中還容得下許多不同的聲音。隨著 AI 技術(shù)發(fā)展，我們也會和一部分股東合作，為這個(gè)領(lǐng)域培養(yǎng)深思熟慮的領(lǐng)導(dǎo)方式，關(guān)注科學(xué)性的嚴(yán)謹(jǐn)性和多學(xué)科聯(lián)合的工作風(fēng)格。我們也會一如既往地分享我們在改進(jìn) AI 技術(shù)和實(shí)踐方法中的所學(xué)所見。
我們相信這些行為規(guī)范為我們公司和 AI 的未來發(fā)展建立起了正確的基礎(chǔ)，它也和我們最初的創(chuàng)始人在 2004 年的公開信中表達(dá)的價(jià)值觀相一致。今天，我們針對長遠(yuǎn)發(fā)展表明了我們的態(tài)度，即便它意味著我們需要做出一些短期的犧牲。我們是這么講的，我們也是這樣認(rèn)為的。（完）
據(jù)雷鋒網(wǎng) AI 科技評論了解，早在這篇文章之前，即便谷歌由于 Project Maven 被詬病，但谷歌對于 TensorFlow 等工具、自己的各項(xiàng)研究成果、與其他機(jī)構(gòu)的合作、免費(fèi)谷歌云平臺資源、內(nèi)部機(jī)器學(xué)習(xí)培訓(xùn)課程等方面的開放態(tài)度，仍然使得谷歌是領(lǐng)域內(nèi)價(jià)值觀最為正向、員工最認(rèn)為自己做的是高于商業(yè)利益的、有益于全人類的公司；也正是員工們在工作環(huán)境中感受到并凝聚起來的強(qiáng)烈正義感，才讓他們做出了聯(lián)名簽名甚至決定辭職的決定。從外部評價(jià)而言，TensorFlow 在領(lǐng)域內(nèi)的支配地位就是最佳證據(jù)。
文章發(fā)出之后，即便社交平臺上的部分網(wǎng)友們?nèi)匀幌Ｍ雀璨扇「鞔_、更嚴(yán)苛的行為規(guī)范，但 Ian Goodfellow、David Ha、Fran?ois Chollet 等谷歌大腦成員已經(jīng)帶著自豪轉(zhuǎn)發(fā)。畢竟這也是首家給出了明確的、有社會責(zé)任感的表態(tài)的 AI 賽道上的科技巨頭。
原谷歌大腦、現(xiàn)谷歌 AI 負(fù)責(zé)人 Jeff Dean 補(bǔ)充道：「隨著 AI 被應(yīng)用在社會上越來越多的問題當(dāng)中，仔細(xì)思考思考我們?nèi)绾螆?zhí)行這一切的行為規(guī)范就非常重要。這份谷歌 AI 的行為規(guī)范就展現(xiàn)了我們對于這些問題的思考。另外，我們也一并公布了我們實(shí)際踐行這些規(guī)范的技術(shù)解決方案 —— 我們希望我們這個(gè)整體前進(jìn)的社區(qū)中的每一個(gè)人都能有所學(xué)、有所用。 https://ai.google/education/responsible-ai-practices 」（雷鋒網(wǎng) AI 科技評論注：其中包含了方面的具體的設(shè)計(jì)及開發(fā)技巧）
谷歌云首席科學(xué)家、谷歌 AI 中國中心負(fù)責(zé)人李飛飛教授也轉(zhuǎn)發(fā)評論道：「這是谷歌展現(xiàn)了 AI 第一的戰(zhàn)略光芒的一刻。這是一個(gè)機(jī)會，讓我們表達(dá)出我們的價(jià)值觀，也提醒我們有責(zé)任開發(fā)出對每個(gè)人，包括我們自己、我們的領(lǐng)域的社區(qū)和整個(gè)世界都起到積極影響的技術(shù)。能夠像 AI 這樣有巨大潛力改變世界的技術(shù)并不多，但是和所有其他的強(qiáng)大的工具一樣，AI 也需要一些指導(dǎo)才能保證它帶來的改變是正向的。這些行為規(guī)范對我們是一個(gè)提醒，提醒我們注意什么才是真正重要的；即便我們對于自己所創(chuàng)造的技術(shù)有如此的熱情，我們最大的責(zé)任也永遠(yuǎn)在于這些技術(shù)接觸到的人。不過這僅僅是征程的開始而不是結(jié)束，我們還有許多重大的挑戰(zhàn)和未解決的問題。為了確保 AI 可以真正成為以人類為中心的技術(shù)，它需要我們所有人的參與和努力。」
via blog.google/topics/ai/ai-principles，雷鋒網(wǎng) AI 科技評論整理編譯
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
