雷鋒網(wǎng)10月5日消息  據(jù)外媒 The Verge 報(bào)道，近日，Google旗下AI研發(fā)公司 DeepMind 宣布成立一個(gè)AI新部門，主要負(fù)責(zé)研究AI帶來(lái)的倫理問(wèn)題和社會(huì)問(wèn)題，如自動(dòng)化給未來(lái)經(jīng)濟(jì)帶來(lái)的影響等等。

圖：DeepMind辦公室

據(jù)了解，新部門的主要目標(biāo)是幫助技術(shù)人員將倫理應(yīng)用于實(shí)踐，幫助社會(huì)預(yù)測(cè)AI的影響，并對(duì)其影響給予引導(dǎo)，確保AI造福人類。2016年，DeepMind 開發(fā)的AI系統(tǒng)在圍棋棋盤上打敗世界頂尖選手，因而名聲大震。

DeepMind 為新部門命名為 DMES（DeepMind Ethics & Society：倫理和社會(huì)）。新部門將于2018年開始就這些課題目標(biāo)進(jìn)行研究。目前，該部門已有8名全職員工。不過(guò)，按照 DeepMind 的計(jì)劃，該部門的員工規(guī)模將在一年時(shí)間內(nèi)增至25名左右。

為了壯大團(tuán)隊(duì)，DeepMind 還從外部學(xué)術(shù)機(jī)構(gòu)和慈善機(jī)構(gòu)聘請(qǐng)一些顧問(wèn)，為新部門提供咨詢服務(wù)，包括哥倫比亞大學(xué)發(fā)展學(xué)教授 Jeffrey Sachs、牛津大學(xué)AI教授 Nick Bostrom、氣候變化活動(dòng)家 Christiana Figueres。

DMES 聯(lián)合主管 Verity Harding、Sean Legassick 在公告博文中表示，這些專家不只精通專業(yè)技術(shù)，還可以帶來(lái)多樣化的思考。同時(shí)，二位還表示，DMES將幫助 DeepMind 探索和了解AI帶給現(xiàn)實(shí)世界的影響?！叭绻鸄I技術(shù)要服務(wù)于這個(gè)社會(huì)，那么，其必須經(jīng)受住社會(huì)的優(yōu)先事項(xiàng)和關(guān)注重點(diǎn)的重塑的過(guò)程?！?/p>

雷鋒網(wǎng)還了解到，新部門屆時(shí)還將與有著類似研究目標(biāo)的學(xué)術(shù)團(tuán)體合作，如紐約大學(xué)的 AI Now Institute和劍橋大學(xué)未來(lái)智能研究中心（Leverhulme Centre for the Future of Intelligence）等等。

事實(shí)上，2014年 DeepMind 被 Google 收購(gòu)時(shí)曾承諾要建立一個(gè)“AI倫理委員會(huì)”。與新部門不一樣，該委員會(huì)主要用以監(jiān)管公司的所有AI研究活動(dòng)。不過(guò)，自收購(gòu)以來(lái)該倫理委員會(huì)并沒(méi)有多大作為。特別是 2016年，DeepMind 在與英國(guó)國(guó)民健康服務(wù)局（NHS）合作時(shí)，受到了公眾的大肆批評(píng)，這讓其進(jìn)一步認(rèn)識(shí)到AI倫理問(wèn)題的重要性。

2015年，DeepMind 和倫敦三家醫(yī)院達(dá)成合作，處理了其中160萬(wàn)名患者的診療數(shù)據(jù)。2017年，該行為被英國(guó)的數(shù)據(jù)監(jiān)督機(jī)構(gòu)判定為非法，因?yàn)樵摴緵](méi)有通知到個(gè)人他們的數(shù)據(jù)已被使用。DeepMind 后來(lái)表示，他們低估了“NHS的復(fù)雜性和患者數(shù)據(jù)的規(guī)則”，并聘請(qǐng)了新的獨(dú)立倫理審查員以監(jiān)督未來(lái)的任何交易。

雖然DMES的成立主要是基于 DeepMind 對(duì)AI帶來(lái)的倫理問(wèn)題的考慮和重視，但至目前為止，該公司的內(nèi)部倫理審查員依然籠罩著神秘面紗。同時(shí)，據(jù)了解，新部門將與 DeepMind 的產(chǎn)品部門并行運(yùn)營(yíng)。未來(lái)，新部門聘請(qǐng)了哪些審查員，多久進(jìn)行一次會(huì)議，主要討論哪些要點(diǎn)，又有哪些形式...關(guān)于這些問(wèn)題，只能在未來(lái)慢慢尋找答案。

Via The Verge，雷鋒網(wǎng)編譯

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。