0
雷鋒網(wǎng)注：【 圖片來源：WIRED 所有者：WIRED 】
雷鋒網(wǎng)按：人工智能對人類會(huì)產(chǎn)生什么影響，一直是值得討論的話題，它會(huì)更好地幫助人類，還是攻擊人類？本周，由斯坦福倫理與社會(huì)中心、斯坦福以人為中心的人工智能研究所和斯坦福人文中心舉辦了一場關(guān)于“人工智能”人工智能的活動(dòng)，人工智能領(lǐng)域的先驅(qū)之一——李飛飛參與其中，以下是活動(dòng)討論內(nèi)容，雷鋒網(wǎng)全文編譯如下：
主持人：謝謝斯坦福大學(xué)邀請我們來到這里。我希望這次談話分為三個(gè)部分：首先，說明我們現(xiàn)在所處的位置；然后談?wù)勎覀儸F(xiàn)在必須做出的一些選擇；最后，給大廳里所有的人提一些建議。飛飛，你有博士學(xué)位和計(jì)算機(jī)科學(xué)學(xué)位，還是斯坦福大學(xué)的教授，你認(rèn)為生物知識乘以計(jì)算能力，乘以數(shù)據(jù)等于入侵人類的能力嗎？
李飛飛：作為一名工程師和科學(xué)家，我覺得我們現(xiàn)在有一場危機(jī)必須解決。當(dāng)提到人工智能危機(jī)的時(shí)候，我坐在那里思考，這是一個(gè)我熱愛的領(lǐng)域，我對這個(gè)領(lǐng)域充滿熱情，并且研究了20年，這是一個(gè)年輕的科學(xué)家成為人工智能博士的科學(xué)好奇心。但20年后發(fā)生了什么，人工智能變成了一場危機(jī)？事實(shí)上，它講的是人工智能的演變，這讓我和斯坦福大學(xué)的同事們有了今天以人為中心的人工智能的位置，這是一項(xiàng)革命性的技術(shù)。這是一項(xiàng)新興技術(shù)。與物理、化學(xué)、生物學(xué)相比，人工智能仍是一門新興科學(xué)，但憑借數(shù)據(jù)、計(jì)算的能力，以及人工智能正在產(chǎn)生的各種影響，正如你所說，人工智能正以廣泛而深刻的方式影響著人類生活和商業(yè)。針對人類面臨的這些問題和危機(jī)，我認(rèn)為斯坦福大學(xué)正在努力提出的解決方案之一，是我們能否用一種以人為中心的方式，重新構(gòu)建人工智能和技術(shù)的教育、研究和對話？我們今天不一定要找到一個(gè)解決方案，但我們能讓人道主義者、哲學(xué)家、歷史學(xué)家、政治學(xué)家、經(jīng)濟(jì)學(xué)家、倫理學(xué)家、法律學(xué)者、神經(jīng)學(xué)家、心理學(xué)家以及更多的其他學(xué)科的在下個(gè)階段進(jìn)入研究和發(fā)展人工智能。
主持人：別那么肯定我們今天不會(huì)得到答案。還有72分鐘，讓我們試一試。人們說人工智能有很多危機(jī)，對吧？他們說人工智能正變得有意識，這意味著什么？他們談?wù)撝ぷ魈鎿Q，談?wù)撝?。但這是思考人工智能的人應(yīng)該關(guān)注的具體問題嗎？
李飛飛：當(dāng)然。人類從火開始創(chuàng)造的任何技術(shù)都是一把雙刃劍。人工智能可以改善生活、工作和社會(huì)，但它也會(huì)帶來風(fēng)險(xiǎn)。你知道，我每天醒來都會(huì)擔(dān)心人工智能的多樣性和包容性問題。我們擔(dān)心公平或者缺乏公平，隱私，勞動(dòng)力市場。因此，我們絕對需要關(guān)注，也正因?yàn)槿绱?，我們需要擴(kuò)大研究，發(fā)展政策以及人工智能的對話，進(jìn)入人類的房間，進(jìn)入社會(huì)問題，而不僅僅是代碼和產(chǎn)品。所以我完全同意你的觀點(diǎn)，現(xiàn)在是開啟對話的時(shí)刻，開啟對這些問題的研究。
人工智能的誕生是人工智能科學(xué)家與生物學(xué)家，尤其是神經(jīng)科學(xué)家的對話。人工智能的誕生很大程度上受到大腦活動(dòng)的啟發(fā)?？爝M(jìn)到60年后的今天，今天的人工智能正在醫(yī)療保健領(lǐng)域取得巨大進(jìn)步。我們從生理和病理中收集了很多數(shù)據(jù)，并利用機(jī)器學(xué)習(xí)來幫助我們。
主持人：讓我們來關(guān)注一下攻擊大腦是什么意思?，F(xiàn)在，某種程度上我的大腦被黑了，對吧？這個(gè)設(shè)備有一個(gè)吸引人的地方，它想讓我不斷地檢查它，就像我的大腦被黑客入侵了一樣。你的沒有，因?yàn)槟忝刻熠は雰蓚€(gè)小時(shí)，但我的有，可能大多數(shù)人都有。但是未來的大腦黑客到底會(huì)是什么樣子？飛飛，在反烏托邦A(yù)，自由民主的反烏托邦，是否存在人類特有的不能被入侵的東西？
李飛飛：當(dāng)你在兩分鐘前問我這個(gè)問題時(shí)，我首先想到的是愛。愛可以被入侵嗎？但這兩個(gè)反烏托邦，我沒有答案。但我想繼續(xù)說的是，這正是為什么現(xiàn)在是我們需要尋求解決方案的時(shí)刻。正因?yàn)槿绱?，我們現(xiàn)在認(rèn)為，人工智能的新篇章需要由人文主義者、社會(huì)科學(xué)家、商界領(lǐng)袖、公民社會(huì)、政府等各方的共同努力來書寫，才能坐到同一張桌子上，展開多邊合作對話。我認(rèn)為，你們確實(shí)凸顯了這場潛在危機(jī)的緊迫性、重要性和規(guī)模。但我認(rèn)為，面對這種情況，我們需要采取行動(dòng)。
主持人：你認(rèn)為這個(gè)裝置在未來的某一天會(huì)比現(xiàn)在強(qiáng)大得多，它能讓我愛上觀眾中的某個(gè)人嗎？
李飛飛：這就是我的研究領(lǐng)域，我想說兩點(diǎn)意見，就個(gè)人而言，我們在談話的這一部分做了兩個(gè)非常重要的假設(shè)。其一，人工智能是如此的無所不能，它已經(jīng)達(dá)到了一種狀態(tài)，超越了對任何物理現(xiàn)象的預(yù)測，它達(dá)到了意識層面，甚至達(dá)到了愛的極限。我十分確定我們認(rèn)識到我們離那個(gè)非常、非常、非常遠(yuǎn)。這項(xiàng)技術(shù)還處于萌芽階段。我對今天的人工智能的部分擔(dān)憂是對其能力的過度炒作。所以我并不是說這不是一個(gè)有效的問題。但我認(rèn)為這部分對話是建立在這項(xiàng)技術(shù)已經(jīng)變得十分強(qiáng)大的假設(shè)之上的，而我甚至不知道我們離那個(gè)時(shí)代還有多少年。第二個(gè)相關(guān)的假設(shè)是，我覺得我們的談話是基于這樣的假設(shè)，即我們談?wù)摰氖澜缁蚴澜绲臓顟B(tài)是只有強(qiáng)大的人工智能存在，或者只有一小群制造了強(qiáng)大的人工智能并打算攻擊人類的人的存在。但事實(shí)上，我們?nèi)祟惿鐣?huì)是如此復(fù)雜，我們有很多人，對吧？我的意思是，人類在其歷史上見證過很多項(xiàng)技術(shù)，如果我們把它單獨(dú)地放在一個(gè)糟糕的玩家手中，沒有任何管理，跨國合作，規(guī)則，法律，道德準(zhǔn)則，技術(shù)也許不是攻擊人類，而是以巨大的方式摧毀人類或傷害人類。這已經(jīng)發(fā)生了，但是從歷史的觀點(diǎn)來看，我們的社會(huì)大體上正在走向更加文明和受控。因此，我認(rèn)為重要的是要看到更大的社會(huì)，并把其他參與者和人們帶到這個(gè)對話中來。所以我們不會(huì)說只有全能的人工智能決定把一切都破壞到最后。這讓我想到了你的話題，除了在你談?wù)摰哪莻€(gè)層次上攻擊人類，還有一些非常緊迫的問題：多樣性、隱私、勞工、法律變化，國際地緣政治。我認(rèn)為現(xiàn)在解決這些問題非常關(guān)鍵。
主持人：我喜歡和人工智能研究人員交談，因?yàn)樵谖迥昵?，所有的人工智能研究人員都說它比你想象的要強(qiáng)大得多。現(xiàn)在他們說，它沒有你想象的那么強(qiáng)大。好的，我來問一下——
李飛飛：這是因?yàn)槲迥昵?，你不知道人工智能是什么，現(xiàn)在你推算出太多了。
主持人：我并不是說那是錯(cuò)誤的。我只是說事情就是這樣。讓我們談?wù)勎覀兘裉炷茏鲂┦裁?，?dāng)我們思考人工智能的風(fēng)險(xiǎn)和人工智能的好處時(shí)，告訴我們，你認(rèn)為我們應(yīng)該用人工智能思考的最重要的事情是什么。
李飛飛：我們今天可以做很多事情。我想再談?wù)勗谒固垢Ｋ龅呐?，因?yàn)槲艺J(rèn)為這是一個(gè)我們相信我們可以做很多努力的良好代表。在以人為本的人工智能中，這是一個(gè)整體的主題，我們認(rèn)為人工智能的下一章應(yīng)該以人為本，我們相信三大原則。其中一個(gè)原則是投資于下一代人工智能技術(shù)，這種技術(shù)更多地反映了我們想要的那種人類智能。我剛才在想您關(guān)于數(shù)據(jù)依賴的評論，以及數(shù)據(jù)的政策和管理應(yīng)該如何出現(xiàn)以規(guī)范和治理人工智能的影響。我們應(yīng)該開發(fā)能夠解釋人工智能的技術(shù)，我們稱之為可解釋的人工智能，或者人工智能可解釋性研究；我們應(yīng)該把重點(diǎn)放在對人類智能有更微妙的理解的技術(shù)上。我們應(yīng)該投資開發(fā)不那么依賴數(shù)據(jù)的人工智能技術(shù)，這將考慮到直覺、知識、創(chuàng)造力和其他形式的人類智能。所以人類智能激發(fā)的人工智能是我們的原則之一。
第二個(gè)原則是，再次歡迎人工智能的多學(xué)科研究。與經(jīng)濟(jì)學(xué)、倫理學(xué)、法學(xué)、哲學(xué)、歷史學(xué)、認(rèn)知科學(xué)等學(xué)科交叉。因?yàn)樵谏鐣?huì)、人類、人類學(xué)和倫理影響方面，我們需要了解的還有很多。作為技術(shù)人員，我們不可能單獨(dú)做到這一點(diǎn)。我們中的一些人甚至不應(yīng)該這樣做。倫理學(xué)家和哲學(xué)家應(yīng)該參與到這些問題中來，并與我們合作。這是第二個(gè)原則。在這方面，我們與政策制定者合作，召集多邊利益相關(guān)者的對話。
然后是第三點(diǎn)，也是最后一點(diǎn)但并非最不重要的一點(diǎn)，尼克，你在對話一開始就說過，我們需要促進(jìn)這項(xiàng)技術(shù)的人性化、合作性和辯論性方面。你說得有道理。即使在那里，它也可能變得具有操控性。但我們需要從這種機(jī)警感、理解開始，但仍然要促進(jìn)這項(xiàng)技術(shù)的善意的應(yīng)用和設(shè)計(jì)。至少，這是斯坦福大學(xué)以人為本的人工智能研究所所基于的三條原則。我感到非常自豪，在這個(gè)研究所成立的短短幾個(gè)月里，這個(gè)校園里有200多名教師參與了這種研究、對話、學(xué)習(xí)和教育，而且這個(gè)數(shù)字還在增長。
主持人：在這三個(gè)原則中，讓我們開始深入探討。我們來看第一個(gè)，可解釋性，這是人工智能中一個(gè)非常有趣的辯論。有些實(shí)踐者說你應(yīng)該有算法來解釋他們做了什么和他們做了什么選擇。聽起來非常合理。但你是怎么做到的呢？我做各種各樣的決定，但我不能完全解釋清楚。比如，我為什么要雇傭這個(gè)人，而不是那個(gè)人？我可以講一個(gè)我為什么這么做的故事。但我不確定。如果我們對自己不夠了解，不能總是如實(shí)、全面地解釋我們所做的事情，我們怎么能指望一臺使用人工智能的電腦做到這一點(diǎn)呢？如果我們在西方要求這樣做，那么世界上其他地方就不會(huì)要求誰能夠更快地采取行動(dòng)。所以第一部分是，如果我們自己都很難解釋，我們能得到可解釋性嗎？
李飛飛：嗯，我很難把兩個(gè)數(shù)字相乘，但是，你知道，計(jì)算機(jī)可以做到這一點(diǎn)。所以對人類來說有些事情很難并不意味著我們不應(yīng)該讓機(jī)器來做。尤其是，你知道，畢竟所有這些算法都是基于非常簡單的數(shù)學(xué)邏輯。當(dāng)然，我們現(xiàn)在處理的神經(jīng)網(wǎng)絡(luò)有數(shù)百萬個(gè)節(jié)點(diǎn)和數(shù)十億個(gè)連接。所以可解釋性實(shí)際上很難。這是正在進(jìn)行的研究。但我認(rèn)為這是一片肥沃的土地。當(dāng)涉及到醫(yī)療決定、財(cái)務(wù)決定、法律決定時(shí)，這是非常關(guān)鍵的。有很多情況下，這項(xiàng)技術(shù)可能是非常有用的。有了這種可解釋的能力，我們必須嘗試，我很有信心，有很多聰明的頭腦，這是一件容易破解的事情。
最重要的是，我認(rèn)為你有一個(gè)觀點(diǎn)，如果我們有技術(shù)可以解釋算法的決策過程，它會(huì)使它更難操縱和欺騙。對吧？這是一個(gè)技術(shù)解決方案，而不是整個(gè)解決方案，這將有助于澄清這項(xiàng)技術(shù)正在做什么。
如果人工智能用概率給出了2000個(gè)潛在特征的維度，這是不可理解的，但人類文明史上的整個(gè)科學(xué)史就是能夠以越來越好的方式傳達(dá)科學(xué)的結(jié)果。對吧？就像我剛做了年度體檢，一大堆電話號碼打到了我的手機(jī)上。首先，我的醫(yī)生，專家，可以幫助我解釋這些數(shù)字?，F(xiàn)在，就算是維基百科也能幫助我解釋其中的一些數(shù)字，并且解釋這些數(shù)字的技術(shù)改進(jìn)將會(huì)改進(jìn)。如果我們只是把200或2000個(gè)維度的概率數(shù)字扔給你，這就是我們作為技術(shù)專家的失敗。
主持人：在我們結(jié)束這個(gè)話題之前，我想轉(zhuǎn)移到一個(gè)非常相關(guān)的問題上，我認(rèn)為這是最有趣的問題之一，那就是算法中的偏見問題，這是你已經(jīng)說得很清楚的。讓我們從金融體系開始說起。你可以想象一個(gè)算法被銀行用來決定是否應(yīng)該貸款給某些人。你還可以想象用種族主義的歷史數(shù)據(jù)訓(xùn)練它。我們不想這樣。所以，讓我們來看看如何確保這些數(shù)據(jù)不是種族主義的，讓它向人們提供不分種族的貸款。我們在座的每一個(gè)人都認(rèn)為這是一個(gè)很好的結(jié)果。我們假設(shè)，分析歷史數(shù)據(jù)表明，女性比男性更有可能償還貸款。我們要把它去掉嗎？還是我們允許它繼續(xù)存在？如果你允許它繼續(xù)存在，你會(huì)得到一個(gè)稍微更有效率的金融體系？如果你把它去掉，你會(huì)發(fā)現(xiàn)以前男女之間的平等程度更高。你如何決定哪些偏見是你想要消除的，哪些是可以保留的？
李飛飛：是的，這是一個(gè)非常好的問題，尼克。我的意思是，我個(gè)人不會(huì)給出答案，但我認(rèn)為你觸及了一個(gè)真正重要的問題，那就是，首先，機(jī)器學(xué)習(xí)系統(tǒng)偏見是真實(shí)存在的。就像你說的，它從數(shù)據(jù)開始，可能從我們收集數(shù)據(jù)的那一刻開始，從我們收集數(shù)據(jù)的類型開始，到整個(gè)管道，然后一直到應(yīng)用程序。但是偏見以非常復(fù)雜的方式出現(xiàn)。在斯坦福，我們有機(jī)器學(xué)習(xí)科學(xué)家研究偏見的技術(shù)解決方案，比如，去偏置數(shù)據(jù)或使某些決策正?；５俏覀円灿腥宋闹髁x者爭論什么是偏見，什么是公平，什么時(shí)候偏見是好的，什么時(shí)候偏見是壞的？所以我認(rèn)為你剛剛為這個(gè)話題的研究，辯論和對話開啟了一個(gè)完美的話題。我還想指出的是，你們已經(jīng)用了一個(gè)非常相關(guān)的例子，一個(gè)機(jī)器學(xué)習(xí)算法有可能暴露偏見。對吧？你知道，我最喜歡的研究之一是幾年前的一篇論文，分析了好萊塢電影，并使用機(jī)器學(xué)習(xí)人臉識別算法，這在當(dāng)今是一項(xiàng)非常有爭議的技術(shù)，來系統(tǒng)地識別好萊塢給男演員比女演員更多的屏幕時(shí)間。沒有人可以坐在那里數(shù)所有的臉的幀數(shù)是否存在性別偏見，這是一個(gè)使用機(jī)器學(xué)習(xí)來揭露的完美例子。因此，總的來說，我們應(yīng)該研究一系列豐富的問題，再一次呼吁，把人文主義者，倫理學(xué)家，法律學(xué)者，性別研究專家融入到研究中。
主持人：同意。不過，在那篇文章發(fā)表之前，我就知道好萊塢是性別歧視的。
李飛飛：你是個(gè)聰明人。
主持人：讓我來問你，因?yàn)橛腥娜藛栠@個(gè)問題，那就是，似乎人工智能的集中力讓數(shù)據(jù)和最好的電腦更強(qiáng)大，然后，無論是在國內(nèi)還是在世界范圍內(nèi)，都會(huì)加劇收入不平等，對吧？正如你所提到的國家那樣，首先中美兩國拔得頭籌，而歐洲各國緊隨其后，而加拿大更遜色一籌，但它們都要遙遙領(lǐng)先于中美洲。這一現(xiàn)象會(huì)加劇全球收入不平等。A，你覺得有可能嗎？B，你有多擔(dān)心？
李飛飛：我們一遍又一遍注意到的一件事，即使是在建立以人為本的人工智能社區(qū)以及內(nèi)部和外部人員交談的過程中，世界各地的企業(yè)和世界各國政府是有機(jī)會(huì)考慮他們的數(shù)據(jù)和人工智能策略的。對公司和國家而言，仍然有很多機(jī)會(huì)讓他們真正認(rèn)識到，這是他們的國家，他們的地區(qū)，他們的企業(yè)進(jìn)入數(shù)字時(shí)代的重要時(shí)刻。我認(rèn)為，當(dāng)你談到這些潛在的危險(xiǎn)和世界上那些還沒有真正趕上數(shù)字變革的地方缺乏數(shù)據(jù)的時(shí)候，現(xiàn)在是時(shí)候了，我們希望提高這種意識并鼓勵(lì)這種變革。
主持人：下一個(gè)問題是：這里有斯坦福大學(xué)的人員,他們將幫助建立一些公司，將進(jìn)一步推動(dòng)數(shù)據(jù)殖民化進(jìn)程，或逆轉(zhuǎn)或?qū)⒔?，至少由斯坦福大學(xué)資助的，努力創(chuàng)建一個(gè)虛擬墻和基于人工智能的世界正在迅速崛起。對在座的所有學(xué)生，你希望他們?nèi)绾慰创斯ぶ悄?？你想讓他們學(xué)到什么？讓我們用最后10分鐘的時(shí)間來討論一下在座各位應(yīng)該做些什么。
李飛飛：如果你是計(jì)算機(jī)科學(xué)或工程學(xué)的學(xué)生，那就選Rob的課程。如果你是人文主義者，就上我的課。我教的是深度學(xué)習(xí)。但說真的，我想說的是斯坦福的學(xué)生，你們有很好的機(jī)會(huì)。我們有一段把這項(xiàng)技術(shù)帶到生活的自豪的歷史。斯坦福處于人工智能誕生的最前沿。事實(shí)上，我們的教授 John McCarthy創(chuàng)造了人工智能這個(gè)詞，他于1963年來到斯坦福大學(xué)，建立了這個(gè)國家最古老的人工智能實(shí)驗(yàn)室之一。從那時(shí)起，斯坦福大學(xué)的人工智能研究一直處于每一波人工智能變革的最前沿。2019年，我們也站在了以人為中心的人工智能革命的最前沿，或者說，我們正在書寫新的人工智能篇章。在過去的60年里，我們?yōu)槟銈冏隽诉@一切，為那些走進(jìn)來的人，為那些即將畢業(yè)成為實(shí)踐者、領(lǐng)導(dǎo)者和公民社會(huì)的一部分的人，這就是我們的底線所在。以人為中心的人工智能需要由下一代的技術(shù)人員來編寫，這些技術(shù)人員上過像Rob這樣的課程，去思考倫理含義，人類的福祉。它也將由那些來自斯坦福大學(xué)人文學(xué)科和商學(xué)院的潛在未來決策者來撰寫，他們精通技術(shù)的細(xì)節(jié)，他們理解這項(xiàng)技術(shù)的含義，他們有能力與技術(shù)專家交流。也就是說，無論我們?nèi)绾瓮饣虿煌猓钪匾氖?，我們需要這種多語言的領(lǐng)導(dǎo)人、思想家和實(shí)踐者。這就是斯坦福大學(xué)以人為中心的人工智能研究所的宗旨。
主持人：好的，飛飛，讓我們快速地看幾個(gè)問題。我們經(jīng)常談?wù)搧碜源蠊镜淖陨隙碌娜斯ぶ悄埽覀儜?yīng)該如何設(shè)計(jì)個(gè)人的人工智能來幫助加速我們的生活和事業(yè)？我對這個(gè)問題的解釋是，很多人工智能都是在大公司里工作的。如果你想在小公司或個(gè)人擁有人工智能，能做到嗎？
李飛飛：首先，確實(shí)有很多投資、努力和資源投入到大公司的人工智能研究和開發(fā)中，但并不是所有的人工智能都發(fā)生在那里。我想說的是學(xué)術(shù)界繼續(xù)在人工智能的研究和發(fā)展中發(fā)揮著巨大的作用，尤其是在人工智能的長期探索中。什么是學(xué)術(shù)界？學(xué)術(shù)界是一個(gè)由學(xué)生和教授組成的世界范圍的網(wǎng)絡(luò)，他們對不同的觀點(diǎn)進(jìn)行非常獨(dú)立和創(chuàng)造性的思考。所以從這個(gè)角度來看，這是人工智能研究中的一種非?；鶎拥呐?，這種努力還在繼續(xù)。小企業(yè)和獨(dú)立研究機(jī)構(gòu)也可以發(fā)揮作用。有很多公開可用的數(shù)據(jù)集。這是一個(gè)在分享和傳播知識和技術(shù)方面非常開放的全球社區(qū)。所以，是的，無論如何我們都希望全球參與進(jìn)來。
主持人：好吧，這是我最喜歡的問題。不幸的是，這是匿名者發(fā)來的。如果我在八年級，我還需要學(xué)習(xí)嗎？
李飛飛：作為一個(gè)媽媽，我會(huì)告訴你是的。回去寫作業(yè)吧。
主持人：飛飛，75分鐘前，你說我們不會(huì)得出任何結(jié)論你覺得我們有什么進(jìn)展嗎？
李飛飛：嗯，我們開啟了人文主義者和技術(shù)專家之間的對話，我想看到更多這樣的對話。
主持人：太好了。非常感謝。謝謝你，飛飛。
雷鋒網(wǎng)注：本文編譯自WIRED
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
