雷鋒網(wǎng) AI 科技評(píng)論按：一個(gè)跨學(xué)科的研究小組希望創(chuàng)建一個(gè)名為「機(jī)器行為」的新學(xué)科，以了解人工智能將如何對(duì)我們的社會(huì)、文化、經(jīng)濟(jì)與政治造成影響。

在《自然》雜志的一篇評(píng)論文章中，作者認(rèn)為人工智能算法的研究需要擴(kuò)展到計(jì)算機(jī)科學(xué)以外的領(lǐng)域，納入包括來(lái)自物理和社會(huì)科學(xué)的觀點(diǎn)。

據(jù)了解，有兩名 CIFAR 研究員是這篇論文的共同作者:

Hugo Larochelle，加拿大 CIFAR AI 主席、機(jī)器與大腦學(xué)習(xí)項(xiàng)目副主任、谷歌大腦研究科學(xué)家、Mila 成員。

Matthew Jackson ，斯坦福大學(xué)經(jīng)濟(jì)學(xué)教授，CIFAR 機(jī)構(gòu)、組織與增長(zhǎng)項(xiàng)目 (CIFAR Institutions, Organizations & Growth program) 研究員、人際網(wǎng)絡(luò)專(zhuān)家、新書(shū)《人際網(wǎng)絡(luò)》(the human Network) 的作者，該書(shū)研究了社會(huì)等級(jí)與交互的影響。

本篇采訪經(jīng)過(guò)刪減和編輯，以保持全文清晰和簡(jiǎn)潔。雷鋒網(wǎng) AI 科技評(píng)論將之編譯如下。

論文鏈接：

https://www.nature.com/articles/s41586-019-1138-y

論文摘要：

由人工智能驅(qū)動(dòng)的機(jī)器越來(lái)越多參與到我們的社會(huì)、文化、經(jīng)濟(jì)和政治的互動(dòng)調(diào)節(jié)上。理解人工智能系統(tǒng)的行為，對(duì)于我們控制它們的行為、從中獲取利益并將危害降到最低來(lái)說(shuō)而言重要。我們認(rèn)為這需要一個(gè)廣泛的科學(xué)研究議程來(lái)進(jìn)行研究，它結(jié)合并擴(kuò)展了計(jì)算機(jī)科學(xué)學(xué)科，包含來(lái)自不同科學(xué)領(lǐng)域的見(jiàn)解。我們首先在文中概述一系列關(guān)于這一新興領(lǐng)域的關(guān)鍵問(wèn)題，接著探討機(jī)器行為研究的技術(shù)、法律和制度約束等內(nèi)容。

你是在什么機(jī)緣下參與到這篇論文的寫(xiě)作的?

Hugo Larochelle：論文的第一作者 Iyad Rahwan (麻省理工學(xué)院媒體實(shí)驗(yàn)室) 找上了我。他想把人工智能和機(jī)器與社會(huì)互動(dòng)的不同觀點(diǎn)結(jié)合起來(lái)。然后他希望我為論文的技術(shù)計(jì)算機(jī)科學(xué)與機(jī)器學(xué)習(xí)部分的內(nèi)容做出貢獻(xiàn)。

Iyad 是名很有意思的研究員，他做的事情與我習(xí)慣的傳統(tǒng)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)做事方式很不一樣。這也是我決定加入 CIFAR 的部分原因。這個(gè)試圖聚集不同背景的研究人員以促成互相學(xué)習(xí)的想法吸引了我。

Matthew Jackson：我之所以參與是因?yàn)槲冶旧砭褪茄芯烤W(wǎng)絡(luò)的，我試圖了解人類(lèi)互動(dòng)的不同結(jié)構(gòu)是如何影響他們的行為。由于社交媒體平臺(tái)的存在，如今我們擁有大量的算法視角。此外，我還研究人類(lèi)社會(huì)中的不平等、流動(dòng)性和其他結(jié)構(gòu)，這些結(jié)構(gòu)正因高頻的人機(jī)交互而變本加厲。

本文列出一系列屬于機(jī)器行為的示例問(wèn)題。如果讓你選一個(gè)，你覺(jué)得哪個(gè)最有意思?

Hugo Larochelle：我最感興趣的問(wèn)題是關(guān)于對(duì)話機(jī)器人的，因?yàn)樗侨伺c機(jī)器的交互中最直接的。從技術(shù)上講，機(jī)器人還沒(méi)有達(dá)到它們本可以做的那么好。另外還有一個(gè)深層次的問(wèn)題是，我們?nèi)绾慰创婕皺C(jī)器的對(duì)話行為。與機(jī)器對(duì)話的感覺(jué)很不一樣，抑或是很相似? 這意味著什么? 我認(rèn)為這里有一些非常有趣的問(wèn)題我們還沒(méi)有完全探索過(guò)。

Matthew Jackson：關(guān)于人際網(wǎng)絡(luò)與網(wǎng)上約會(huì)的問(wèn)題正好契合我的研究課題。人們傾向于與自己相似的人進(jìn)行交往。這在文獻(xiàn)中被稱(chēng)為「同質(zhì)性」。這種情況的發(fā)生涉及性別、宗教、年齡、職業(yè)與種族等基礎(chǔ)性質(zhì)。人們傾向于與自己相似的人聚會(huì)、交友、聊天。

類(lèi)似在線約會(huì)的技術(shù)正在使人們有很大幾率變得更加挑剔。如今你可以清楚見(jiàn)到一個(gè)人的所有屬性，并準(zhǔn)確選擇你想要的人。仔細(xì)想想 LinkedIn 或 Facebook 網(wǎng)站給你推薦朋友的方式，就會(huì)明白算法試圖挑選的都是你會(huì)有興趣想要聯(lián)系的人。這降低了人們建立隨機(jī)友誼的幾率，且增加更多那些有針對(duì)性、與你更相似的友誼建立。

這既有積極也有消極的一面。一方面，這些人是你想要聯(lián)系的，因?yàn)樗麄兣c你有共同的興趣和信仰，同時(shí)這也增加了社會(huì)的隔離現(xiàn)象，形成更多回音室效應(yīng)。

對(duì)本篇論文的貢獻(xiàn)如何影響你的工作?

Matthew Jackson：我已經(jīng)開(kāi)始在思考當(dāng)中的一些問(wèn)題。如果未能意識(shí)到新技術(shù)的出現(xiàn)如何讓社交網(wǎng)絡(luò)發(fā)生根本性變化，那么很難在這個(gè)領(lǐng)域有所建樹(shù)。

但與 Iyad 以及其他合著作者的交談，使我的觀點(diǎn)開(kāi)闊了不少。他一直非常積極試圖去理解算法使用中的道德問(wèn)題，比如在自動(dòng)駕駛汽車(chē)編程上的優(yōu)先級(jí)問(wèn)題。每當(dāng)一家公司寫(xiě)下一種改變新聞推送方式的算法，或?qū)μ岢鲆粋€(gè)你應(yīng)該和誰(shuí)交朋友的建議時(shí)，其實(shí)都存在一個(gè)道德和倫理的立場(chǎng)。

Hugo Larochelle：我認(rèn)為這讓我對(duì)人們?nèi)绾慰创斯ぶ悄苡辛烁嗔私?。還有他們究竟感興趣哪些問(wèn)題。這也是我參與本文寫(xiě)作的原因。我覺(jué)得作為一名人工智能和機(jī)器學(xué)習(xí)方面的研究科學(xué)家，我有義務(wù)貢獻(xiàn)我所擁有的知識(shí)來(lái)引領(lǐng)對(duì)話。

為何研究人工智能算法的社會(huì)影響會(huì)如此困難?

Matthew Jackson：首先，很多算法都是私有的，你無(wú)法直接訪問(wèn)它們。作為社會(huì)科學(xué)家，我們無(wú)法進(jìn)入黑盒子里。因此，我們只能間接地研究它們。況且，大多數(shù)公司都不希望自己的資料被人搜刮和檢查，或者或者讓研究人員生成假的配置文件。換句話說(shuō)，對(duì)于我們能看到什么以及如何看到它，都有一系列限制。

更棘手的是弄清楚其中的含義。無(wú)論何時(shí)只要所做的研究涉及人體，就必須非常小心做研究的方法。加上現(xiàn)在我們?cè)噲D以越來(lái)越大的規(guī)模上去做這件事情，留意的是那些越來(lái)越難被觀察到的東西，一旦出錯(cuò)將會(huì)造成更大的影響。毫無(wú)疑問(wèn)，這對(duì)研究而言是一項(xiàng)大挑戰(zhàn)。

機(jī)器學(xué)習(xí)專(zhuān)家對(duì)他們的算法所造成的社會(huì)影響感興趣，這種現(xiàn)象有多普遍?

Hugo Larochelle：我認(rèn)為，機(jī)器學(xué)習(xí)圈里的人如今肯定越來(lái)越意識(shí)到，我們應(yīng)該以負(fù)責(zé)任的方式來(lái)使用技術(shù)。例如，在谷歌里我們發(fā)表了《負(fù)責(zé)任的人工智能實(shí)踐》(Responsible AI Practices)，我們?cè)噲D引導(dǎo)人們形成這樣一種心態(tài)，即技術(shù)可以用于好的方面，也可以用于壞的方面。

作為一名研究科學(xué)家，我認(rèn)為我們有義務(wù)去研究我們所創(chuàng)造出來(lái)的技術(shù)，在這個(gè)例子中是機(jī)器學(xué)習(xí)和人工智能，并以我們能做到的最好方式來(lái)描述它。這意味著我們應(yīng)該識(shí)別出它有哪些做得好的地方，以及哪些做得不好的地方。

目前機(jī)器學(xué)習(xí)社區(qū)中有很多關(guān)于「負(fù)責(zé)任的人工智能」研究試圖讓系統(tǒng)變得更具可解釋性，以幫助我們更好地理解這些系統(tǒng)的工作原理和行為模式。此外，為了使機(jī)器學(xué)習(xí)模型和系統(tǒng)的創(chuàng)建變得更加透明，還試圖努力去制作模型卡與數(shù)據(jù)表。我認(rèn)為這使我們處于一個(gè)有利的位置，以便能與擁有計(jì)算機(jī)科學(xué)以外背景的人進(jìn)行技術(shù)上的對(duì)話。

最后，你還有什么想說(shuō)的嗎?

Matthew Jackson：當(dāng)你是一名研究人員，很多時(shí)候你是在研究人們已經(jīng)研究了很長(zhǎng)時(shí)間的問(wèn)題，然后突然，一個(gè)大問(wèn)題出現(xiàn)了。這讓人感到新鮮。

對(duì)于一名研究人員來(lái)說(shuō)，這真是一個(gè)非常有意思的時(shí)間點(diǎn)。我認(rèn)為未來(lái)的人們會(huì)回頭看并說(shuō)道，「看，21 世紀(jì)初，人們突然意識(shí)到人類(lèi)與人工智能之間的相互作用?！?/p>

Hugo Larochelle：我們應(yīng)該經(jīng)常尋找解決問(wèn)題的新方法。這也是我加入 CIFAR 的原因。當(dāng)然，這很難，但重要的是我們要不斷嘗試讓不同背景的人參與進(jìn)來(lái)。

via https://www.cifar.ca/cifarnews/2019/04/26/understanding-machine-behaviour

雷鋒網(wǎng) AI 科技評(píng)論

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。