圖片來(lái)源：Michal Czerwonka / Redux

周五下午通常是發(fā)布?jí)南⒌狞S金時(shí)間，這是政客們和資本家熱愛(ài)的公關(guān)傳統(tǒng)。因此，當(dāng)去年12月，特斯拉創(chuàng)始人Elon Musk和Y Combinator創(chuàng)始人Sam Altman在一周的AI會(huì)議后，在周五的末尾突然宣布成立一個(gè)新的AI公司，大家都感到詭異。

但是他們那么晚宣布消息也是有原因的。并不是因?yàn)闆](méi)有人會(huì)注意到，而是因?yàn)殛P(guān)注太過(guò)火爆。硅谷一些最有權(quán)勢(shì)的公司一聽(tīng)到風(fēng)聲，就開(kāi)始向OpenAI新鮮組成的骨干研究員們拋出大把支票，目的是將他們占為己有。這些臨時(shí)抱佛腳的支票——有一些就是在大會(huì)上開(kāi)出的——太大了，以至于Musk和Altman得推遲宣布新公司的消息?！斑@錢(qián)多得快要瘋掉了?！盬ojciech Zaremba說(shuō)，他在谷歌和Facebook都做過(guò)實(shí)習(xí)生，然后加入了OpenAI，他也在最后一秒收到了天價(jià)的工作邀請(qǐng)。

多少錢(qián)算“多得快要瘋”？?jī)赡昵?，隨著機(jī)器學(xué)習(xí)的市場(chǎng)真正開(kāi)始火熱，微軟研究副總裁Peter Lee說(shuō)，一個(gè)頂尖AI研究員的成本讓美國(guó)國(guó)家橄欖球聯(lián)盟的頂尖四分衛(wèi)都黯然失色——他說(shuō)的是通常情況下，如果硅谷的兩個(gè)最出名的創(chuàng)業(yè)家想獵你的人才，那當(dāng)然又是另一碼事了。Zaremba說(shuō)，隨著OpenAI的成立，其他公司給他開(kāi)出的薪水是他市場(chǎng)價(jià)值的二到三倍。

OpenAI并沒(méi)有給出同等高的天價(jià)薪水。但是公司給出了另一種誘惑：一個(gè)純粹為了未來(lái)而研究的機(jī)會(huì)，不為任何產(chǎn)品或季度收益，并且最終會(huì)與任何希望獲得研究成果的人分享大部分——或者全部——的研究成果。對(duì)，你沒(méi)聽(tīng)錯(cuò)：Musk、Altman和公司希望免費(fèi)贈(zèng)送可能是21世紀(jì)最能夠改變世界的科技——免費(fèi)贈(zèng)送。

Zaremba說(shuō)，那些高得發(fā)瘋的薪水邀請(qǐng)實(shí)際上讓他不舒服，盡管他對(duì)谷歌和Facebook抱有極大尊敬。他覺(jué)得，這錢(qián)是為了買(mǎi)他的人力，但是，同時(shí)也是為了阻止OpenAI的成立，這讓他更喜愛(ài)OpenAI的大氣?！拔乙庾R(shí)到，OpenAI是我能去的最好的地方?！癦aremba說(shuō)。

這就是這個(gè)故事最大的諷刺：即使世界上最大的科技公司們想要保留住研究員，就像橄欖球隊(duì)想留住他們的明星球員，研究員們自己還是想要分享。在AI研究的純凈空氣里，最睿智的頭腦們想的并不是下一個(gè)產(chǎn)品周期和利潤(rùn)空間——至少，想得不只是這些。他們想讓AI變得更好，而如果你把最新的發(fā)現(xiàn)都變成自己的小秘密，AI就沒(méi)法變得更好。

今天，OpenAI將發(fā)布它的第一批AI軟件，一個(gè)打造人工智能系統(tǒng)的工具包，利用一種叫做“增強(qiáng)學(xué)習(xí)”的技術(shù)——這也是打敗圍棋冠軍的谷歌AlphaGo背后的關(guān)鍵技術(shù)之一。有了這個(gè)工具包，你可以建造系統(tǒng)來(lái)模擬新的機(jī)器人后代、玩Atari游戲、以及——對(duì)，你也可以——成為圍棋大師。

但是玩游戲只是個(gè)開(kāi)頭。OpenAI是一個(gè)幾十億美元的項(xiàng)目，為了推動(dòng)AI走向未來(lái)。你可以從公司創(chuàng)建的方式和未來(lái)的計(jì)劃中，看到一種新的創(chuàng)新浪潮。我們還不知道OpenAI是否會(huì)成為這種變化的主力軍。但是那些推動(dòng)這個(gè)特殊公司的各種推力中，我們可以看到新一代的AI主力軍不僅會(huì)帶來(lái)新的科技，還會(huì)帶來(lái)新的建造科技的方式。

圖片：OpenAI研究總監(jiān)Ilya Sutskever。圖片來(lái)源：Christie Hemm Klok / Wired

無(wú)處不在的AI

夸夸其談在硅谷不算什么稀罕事。遇到任何口氣不小的人，最好還是保持懷疑。但是在AI的領(lǐng)域，變革是來(lái)真的。在谷歌和Facebook，叫做深度學(xué)習(xí)的技術(shù)已經(jīng)幫助他們實(shí)現(xiàn)在照片中識(shí)別人臉等各種各樣的服務(wù)。這種技術(shù)不僅能讓機(jī)器完成任務(wù)，還能讓它們邊干邊學(xué)。一些人相信，這會(huì)讓機(jī)器最終獲得常識(shí)，一種能像人類(lèi)一樣思考的能力。

隨之而來(lái)的是各種擔(dān)憂(yōu)。Musk和Altman擔(dān)心，如果人們能造出做好事的AI，那么人們也能造出做壞事的AI。擔(dān)心機(jī)器人統(tǒng)治人類(lèi)的并不只是他倆，但是也許這很違反直覺(jué)，他倆認(rèn)為對(duì)抗“壞”AI的最好方式，不是限制人們接觸AI的渠道，而是擴(kuò)大之。這為他們吸引了一批超級(jí)聰明的理想主義年輕人，來(lái)到他們的新項(xiàng)目。

OpenAI起源于去年夏天的某個(gè)夜晚，在硅谷Rosewood Hotel一間私人客房——一個(gè)農(nóng)場(chǎng)風(fēng)格的高檔城市酒店，在Menlo Park的Sand Hill路，就在風(fēng)投世界的中心。Elon Musk在和Ilya Sutskever一起吃飯，后者當(dāng)時(shí)正在谷歌Brain工作。Sutskever是項(xiàng)目最頂尖的學(xué)者之一。當(dāng)時(shí)，更大的想法正在萌發(fā)。

Sam Altman的Y Combinator幫助了例如Airbnb、Dropbox和Coinbase等公司成長(zhǎng)，他安排了這次見(jiàn)面，將幾位AI研究員和一位年輕但有實(shí)戰(zhàn)經(jīng)驗(yàn)的企業(yè)建設(shè)家Greg Brockman聚集到了一起。Brockman之前是硅谷數(shù)字支付創(chuàng)業(yè)公司Stripe（也是一家Y Combinator公司）的CTO。這是一個(gè)精選小組。但是他們都有一個(gè)共同目標(biāo)：創(chuàng)造一種新的AI實(shí)驗(yàn)室，不僅不受谷歌的控制，而且不受任何人控制。“我想象中自己能做的最好的事情，”Brockman說(shuō)，“就是讓人類(lèi)以安全方式建造真實(shí)AI?！?/span>

Musk來(lái)是因?yàn)樗茿ltman的老朋友——也因?yàn)锳I對(duì)于他各項(xiàng)業(yè)務(wù)的未來(lái)非常關(guān)鍵，或者說(shuō)，對(duì)整個(gè)未來(lái)非常關(guān)鍵。特斯拉需要AI來(lái)造它遲早要造的無(wú)人車(chē)。SpaceX，Musk的另一家公司，需要AI來(lái)將人送到太空，并讓人在太空生存。但是，Musk也是AI批判者中音量最大的一個(gè)，警告人們?nèi)绻到y(tǒng)強(qiáng)大到可以自主學(xué)習(xí)，也許有一天我們會(huì)失去控制系統(tǒng)的能力。

這件事的問(wèn)題就在于：那么多最能夠解決這些問(wèn)題的人已經(jīng)在為谷歌工作了（還有為微軟和Facebook和百度和Twitter）。當(dāng)晚，沒(méi)有人確定這些學(xué)者能否被一個(gè)新公司吸引，即便這是Musk和Altman在背后支持的公司。但是一個(gè)關(guān)鍵人物至少對(duì)于跳槽還是保持開(kāi)放的態(tài)度?！拔腋杏X(jué)這里面有風(fēng)險(xiǎn)，”Sutskever說(shuō)，“但是我還覺(jué)得，這是很有趣的事情，值得嘗試?！?/p>

打破僵局

在與Musk、Altman和其他Rosewood的人們對(duì)話(huà)以后，Brockman壯了膽，很快下決心建造他們想要的這個(gè)實(shí)驗(yàn)室。他全力攻克這個(gè)項(xiàng)目，并前去找了Yoshua Bengio。Bengio是蒙特利爾大學(xué)的計(jì)算機(jī)科學(xué)家，也是深度學(xué)習(xí)運(yùn)動(dòng)的奠基人之一。領(lǐng)域內(nèi)另外兩名先鋒——Geoff Hinton和Yann LeCun——目前分別在谷歌和Facebook工作，但是Bengio致力于學(xué)術(shù)界，大致上不參與行業(yè)活動(dòng)。他列出了行業(yè)內(nèi)最好的一些研究員，在接下來(lái)的幾周，Brockman聯(lián)系了名單上所有能聯(lián)系的人，還有一些名單外的人。

很多研究員喜歡這個(gè)想法，但是他們也擔(dān)心轉(zhuǎn)變。為了打破這種僵局，Brockman選了10個(gè)他最想要的研究員，邀請(qǐng)他們周六來(lái)Napa Valley的一個(gè)酒窖喝酒、吃飯。對(duì)Brockman來(lái)說(shuō)，連開(kāi)車(chē)進(jìn)入Napa Valley的這段路也是項(xiàng)目的催化劑?！比藗兌紱](méi)意識(shí)到，這種情景非常能讓人走到一塊去，因?yàn)槟銢](méi)法讓車(chē)子開(kāi)得更快些?！八f(shuō)，”你不得不去，所以，你不得不聊聊天?！爱?dāng)他們到達(dá)了酒窖，氛圍也繼續(xù)維持著?！蹦憧梢灾婪諊馨?，“Brockman說(shuō)。或者按Sutskever的話(huà)說(shuō)：”跟聊天相比，酒是第二位的。“

最后，Brockman邀請(qǐng)了所有十位研究員加入實(shí)驗(yàn)室，并給了他們?nèi)艿目紤]時(shí)間。到截止日期的時(shí)候，其中九位研究員加入了，并且一直留在項(xiàng)目中，盡管硅谷巨頭們給他們開(kāi)出了天價(jià)薪酬。“他們?yōu)榱俗屛伊粝抡娴呐煤苈≈?，所以要辭職不是個(gè)簡(jiǎn)單的決定?！盨utskever說(shuō)到他的前雇主谷歌，“但是最后，我決定去OpenAI，部分因?yàn)槟菐蛯?shí)力很強(qiáng)的人，還有很大程度上，因?yàn)镺penAI的愿景?！?/strong>

深度學(xué)習(xí)運(yùn)動(dòng)源于學(xué)術(shù)界。直到最近，類(lèi)似谷歌、Facebook和微軟的公司才將它應(yīng)用起來(lái)，由于計(jì)算能力的進(jìn)步讓深度神經(jīng)網(wǎng)絡(luò)成為現(xiàn)實(shí)而不再是一個(gè)理論假設(shè)。Hinton和LuCun等人離開(kāi)學(xué)術(shù)界進(jìn)入企業(yè)，因?yàn)槠髽I(yè)有大量的資源。但是他們也保留與其他學(xué)者合作的意愿。的確，正如LeCun所說(shuō)，深度學(xué)習(xí)研究需要這種自由的思想流動(dòng)。“當(dāng)你偷偷地做研究，你就會(huì)落后?！盠eCun如是說(shuō)。

因此，大公司現(xiàn)在分享很多他們的研究。這是一個(gè)很大的改變，得多虧谷歌。谷歌一直以來(lái)都將技術(shù)視為核心機(jī)密。最近，谷歌將推動(dòng)神經(jīng)網(wǎng)絡(luò)的軟件做了開(kāi)源。但是谷歌還是保留了未來(lái)競(jìng)爭(zhēng)的內(nèi)部核心。Brockman、Altman和Musk希望進(jìn)一步推進(jìn)開(kāi)放度，說(shuō)他們不想看見(jiàn)一兩家大公司控制人工智能的未來(lái)。

Greg Brockman，他是OpenAI的CTO和奠基人之一。圖片來(lái)源：Christie Hemm Klok / Wired。

開(kāi)放的限度

以上所有聽(tīng)起來(lái)都很棒。但是對(duì)于OpenAI的理想主義來(lái)說(shuō)，很多研究者可能還是會(huì)面臨同樣的妥協(xié)。開(kāi)放是有限度的。AI的長(zhǎng)遠(yuǎn)考慮并不只是唯一的考慮。OpenAI不是一個(gè)慈善組織。Musk的公司們可以從OpenAI的研究中大大獲益，同樣還有Altman的Y Combinator支持的公司們?！爱?dāng)然有一些競(jìng)爭(zhēng)目標(biāo)?！盠eCun說(shuō)，“這不是公益組織，而且還有與Y Combinator的緊密聯(lián)系。而且，人們就像在其他企業(yè)中一樣，干活也是有錢(qián)拿的?！?/p>

據(jù)Brockman說(shuō)，實(shí)驗(yàn)室給出的薪酬不像谷歌和Facebook那樣高。但是他說(shuō)，實(shí)驗(yàn)室的確希望給研究員”好的報(bào)酬“，同時(shí)也提供股權(quán)，先是在Y Combinator，然后也許在Space X（不像特斯拉，SpaceX還是一家未上市的公司）。

盡管如此，Brockman堅(jiān)稱(chēng)OpenAI不會(huì)對(duì)姐妹公司們提供特殊待遇。OpenAI是一個(gè)研究組織，他說(shuō)，不是咨詢(xún)公司。但是在追問(wèn)下，他承認(rèn)OpenAI的理想主義也是有極限的。公司可能不會(huì)將所有的成果都開(kāi)源，雖然最終希望會(huì)分享大部分研究，不論通過(guò)研究論文還是互聯(lián)網(wǎng)服務(wù)?！肮_(kāi)進(jìn)行所有研究不一定是最好的方式。你需要好好培養(yǎng)一個(gè)想法，看看它會(huì)發(fā)展成為什么，然后再發(fā)表它?！盉rockman說(shuō)，“我們會(huì)帶來(lái)很多的開(kāi)源代碼。但是我們還要會(huì)有很多東西，還沒(méi)有準(zhǔn)備好發(fā)布出來(lái)。“

Sutskever和Brockman都補(bǔ)充道，OpenAI還可能給一部分成功加上專(zhuān)利。“我們不會(huì)在短期內(nèi)做任何專(zhuān)利，”Brockman說(shuō)，“但是我們隊(duì)長(zhǎng)期的策略改變還是保持開(kāi)放的，如果我們覺(jué)得這是最好的方式?！崩?，他說(shuō)OpanAI可能會(huì)做搶先專(zhuān)利申請(qǐng)，一種防止其他人申請(qǐng)專(zhuān)利的策略。

但是對(duì)于一些人來(lái)說(shuō)，專(zhuān)利意味著盈利動(dòng)機(jī)——至少，相較于創(chuàng)始人的開(kāi)源愿景來(lái)說(shuō)，這項(xiàng)動(dòng)機(jī)更弱一些?！斑@就是專(zhuān)利系統(tǒng)真正的意義，”艾倫人工智能研究院的負(fù)責(zé)人Oren Etzioni說(shuō)，“這讓我懷疑他們真正要做的是什么?！?/p>

超級(jí)智能問(wèn)題

當(dāng)Musk與Altman為OpenAI揭幕，他們將項(xiàng)目描繪為中和“惡意”超級(jí)人工智能的威脅。當(dāng)然，他們所說(shuō)的超級(jí)智能也可能從OpenAI的技術(shù)中誕生，但是他們堅(jiān)持說(shuō)，任何威脅都會(huì)被降低，因?yàn)榧夹g(shù)可以被任何人使用?！拔覀冇X(jué)得，更可能的是許多AI一起來(lái)組織偶然出現(xiàn)的壞AI?！盇ltman說(shuō)。

并不是每個(gè)人都吃這一套。牛津哲學(xué)家Nick Bostrom像Musk一樣警告了AI的危險(xiǎn)，他指出，如果你毫無(wú)控制地分享研究，壞人就能在有人保證安全之前就獲得技術(shù)。“如果你有一個(gè)按鈕可以做壞事，”Bostrom說(shuō)，“你不會(huì)想把它公開(kāi)，給任何人使用?！?/strong>另一方面，如果OpenAI決定保留研究，不讓壞人接觸到，Bostrom又懷疑OpenAI與谷歌或Facebook沒(méi)有什么區(qū)別。

他確實(shí)是說(shuō)，OpenAI的非盈利性質(zhì)會(huì)帶來(lái)改變——雖然不一定。他說(shuō)，項(xiàng)目真正的力量在于他的確能對(duì)谷歌和Facebook之類(lèi)的巨頭帶來(lái)制約。“這減少了超級(jí)智能被壟斷的可能性。他減少了這種可能：某一集團(tuán)可以比其他人擁有好得更多的AI?！?/p>

不過(guò)，就像這位哲學(xué)家在一份新的論中說(shuō)的，一個(gè)類(lèi)似OpenAI這樣愿意免費(fèi)分享其成功的組織，其首要的影響是加速AI的進(jìn)展，至少在短期內(nèi)。而且從長(zhǎng)期來(lái)說(shuō)它也能推進(jìn)技術(shù)進(jìn)步，如果它處于互助的原因“選擇的開(kāi)放度比商業(yè)運(yùn)行所允許的更高?！?/p>

“不過(guò)，一個(gè)帶著慈善目的研究資助者可以以公開(kāi)進(jìn)行科研的方式，更好地推進(jìn)技術(shù)進(jìn)展?！?/span>

就像Xerox PARC一樣

1月初，Brockman的9位AI研究員在他舊金山的公寓碰頭。項(xiàng)目還很新，以至于他們連白板也沒(méi)有。他們買(mǎi)了幾塊白板，然后開(kāi)始工作（你能想象嗎這畫(huà)面？）。

Brockman說(shuō)OpenAI將開(kāi)始探索增強(qiáng)學(xué)習(xí)，一種讓機(jī)器學(xué)習(xí)任務(wù)的方式，通過(guò)讓機(jī)器不停重復(fù)，追蹤哪些方法能夠帶來(lái)最好的結(jié)果。但是另一個(gè)主要目標(biāo)是“無(wú)監(jiān)督學(xué)習(xí)“——?jiǎng)?chuàng)造可以真正自學(xué)的機(jī)器，不需要人類(lèi)來(lái)指導(dǎo)。今天，深度學(xué)習(xí)是由仔細(xì)標(biāo)注的數(shù)據(jù)驅(qū)動(dòng)的。如果你想教一個(gè)神經(jīng)網(wǎng)絡(luò)識(shí)別貓咪的照片，你得給系統(tǒng)輸入一些例子，這些例子必須注明”貓咪“。而且學(xué)習(xí)過(guò)程是由人類(lèi)監(jiān)督的。但是像很多其他研究員一樣，OpenAI想創(chuàng)造的神經(jīng)網(wǎng)絡(luò)不需要這樣標(biāo)注的數(shù)據(jù)就能夠?qū)W習(xí)。

Brockman說(shuō)：“如果你有很好的無(wú)人監(jiān)督學(xué)習(xí)，機(jī)器就能從互聯(lián)網(wǎng)的這些知識(shí)中學(xué)習(xí)——就像人一樣，通過(guò)到處看看就會(huì)學(xué)到知識(shí)——或者通過(guò)閱讀書(shū)籍?！?/p>

他構(gòu)想的OpenAI，是70年代科技研究實(shí)驗(yàn)室Xerox PARC的現(xiàn)代化身。就像PARC大部分公開(kāi)和不受干擾的研究推動(dòng)了從圖形用戶(hù)界面、激光打印機(jī)到面向?qū)ο缶幊陶Z(yǔ)言，Brockman和工作人員希望，進(jìn)一步深入之前被認(rèn)為是科幻小說(shuō)的領(lǐng)域。是的，PARC是屬于Xerox的，但是它還支持了許多其他公司，包括最著名的蘋(píng)果，因?yàn)槔鐔滩妓沟热硕紖⑴c它的研究。在OpanAI，Brockman希望每個(gè)人都參與它的研究。

本月，為了將這種動(dòng)力推向極致，Brockman和公司揪住了其他幾位出名的研究員，包括Ian Goodfellow，另一個(gè)谷歌Brain團(tuán)隊(duì)的前高級(jí)研究員。“PARC的特殊之處是，他們將一群聰明人聚在一起，讓他們做自己想做的事情?！盉rockman說(shuō)，“你需要一個(gè)共同目標(biāo)，沒(méi)有中央控制?！?/strong>

放棄控制就是開(kāi)源理想的核心。如果足夠多的人能致力于這個(gè)共同目標(biāo)，最終結(jié)果會(huì)超過(guò)你偷偷研究的結(jié)果。但是如果AI成了我們預(yù)想中那么強(qiáng)大，情況就變了。我們必須確保新的AI也遵守同樣的互助原則，那些讓它們能夠誕生于世的原則。Musk、Altman和Brockman將他們的希望寄托在群體的智慧中。但是如果他們是正確的，這個(gè)群體在未來(lái)就不完全是人類(lèi)了。

via Wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。