2
| 本文作者： 逸炫 | 2016-04-28 17:47 |
周五下午通常是發(fā)布壞消息的黃金時間，這是政客們和資本家熱愛的公關(guān)傳統(tǒng)。因此，當(dāng)去年12月，特斯拉創(chuàng)始人Elon Musk和Y Combinator創(chuàng)始人Sam Altman在一周的AI會議后，在周五的末尾突然宣布成立一個新的AI公司，大家都感到詭異。
但是他們那么晚宣布消息也是有原因的。并不是因為沒有人會注意到，而是因為關(guān)注太過火爆。硅谷一些最有權(quán)勢的公司一聽到風(fēng)聲，就開始向OpenAI新鮮組成的骨干研究員們拋出大把支票，目的是將他們占為己有。這些臨時抱佛腳的支票——有一些就是在大會上開出的——太大了，以至于Musk和Altman得推遲宣布新公司的消息?！斑@錢多得快要瘋掉了?！盬ojciech Zaremba說，他在谷歌和Facebook都做過實習(xí)生，然后加入了OpenAI，他也在最后一秒收到了天價的工作邀請。
多少錢算“多得快要瘋”？兩年前，隨著機器學(xué)習(xí)的市場真正開始火熱，微軟研究副總裁Peter Lee說，一個頂尖AI研究員的成本讓美國國家橄欖球聯(lián)盟的頂尖四分衛(wèi)都黯然失色——他說的是通常情況下，如果硅谷的兩個最出名的創(chuàng)業(yè)家想獵你的人才，那當(dāng)然又是另一碼事了。Zaremba說，隨著OpenAI的成立，其他公司給他開出的薪水是他市場價值的二到三倍。
OpenAI并沒有給出同等高的天價薪水。但是公司給出了另一種誘惑：一個純粹為了未來而研究的機會，不為任何產(chǎn)品或季度收益，并且最終會與任何希望獲得研究成果的人分享大部分——或者全部——的研究成果。對，你沒聽錯：Musk、Altman和公司希望免費贈送可能是21世紀(jì)最能夠改變世界的科技——免費贈送。
Zaremba說，那些高得發(fā)瘋的薪水邀請實際上讓他不舒服，盡管他對谷歌和Facebook抱有極大尊敬。他覺得，這錢是為了買他的人力，但是，同時也是為了阻止OpenAI的成立，這讓他更喜愛OpenAI的大氣。“我意識到，OpenAI是我能去的最好的地方。“Zaremba說。
這就是這個故事最大的諷刺：即使世界上最大的科技公司們想要保留住研究員，就像橄欖球隊想留住他們的明星球員，研究員們自己還是想要分享。在AI研究的純凈空氣里，最睿智的頭腦們想的并不是下一個產(chǎn)品周期和利潤空間——至少，想得不只是這些。他們想讓AI變得更好，而如果你把最新的發(fā)現(xiàn)都變成自己的小秘密，AI就沒法變得更好。
今天，OpenAI將發(fā)布它的第一批AI軟件，一個打造人工智能系統(tǒng)的工具包，利用一種叫做“增強學(xué)習(xí)”的技術(shù)——這也是打敗圍棋冠軍的谷歌AlphaGo背后的關(guān)鍵技術(shù)之一。有了這個工具包，你可以建造系統(tǒng)來模擬新的機器人后代、玩Atari游戲、以及——對，你也可以——成為圍棋大師。
但是玩游戲只是個開頭。OpenAI是一個幾十億美元的項目，為了推動AI走向未來。你可以從公司創(chuàng)建的方式和未來的計劃中，看到一種新的創(chuàng)新浪潮。我們還不知道OpenAI是否會成為這種變化的主力軍。但是那些推動這個特殊公司的各種推力中，我們可以看到新一代的AI主力軍不僅會帶來新的科技，還會帶來新的建造科技的方式。
圖片：OpenAI研究總監(jiān)Ilya Sutskever。圖片來源：Christie Hemm Klok / Wired
夸夸其談在硅谷不算什么稀罕事。遇到任何口氣不小的人，最好還是保持懷疑。但是在AI的領(lǐng)域，變革是來真的。在谷歌和Facebook，叫做深度學(xué)習(xí)的技術(shù)已經(jīng)幫助他們實現(xiàn)在照片中識別人臉等各種各樣的服務(wù)。這種技術(shù)不僅能讓機器完成任務(wù)，還能讓它們邊干邊學(xué)。一些人相信，這會讓機器最終獲得常識，一種能像人類一樣思考的能力。
隨之而來的是各種擔(dān)憂。Musk和Altman擔(dān)心，如果人們能造出做好事的AI，那么人們也能造出做壞事的AI。擔(dān)心機器人統(tǒng)治人類的并不只是他倆，但是也許這很違反直覺，他倆認(rèn)為對抗“壞”AI的最好方式，不是限制人們接觸AI的渠道，而是擴大之。這為他們吸引了一批超級聰明的理想主義年輕人，來到他們的新項目。
OpenAI起源于去年夏天的某個夜晚，在硅谷Rosewood Hotel一間私人客房——一個農(nóng)場風(fēng)格的高檔城市酒店，在Menlo Park的Sand Hill路，就在風(fēng)投世界的中心。Elon Musk在和Ilya Sutskever一起吃飯，后者當(dāng)時正在谷歌Brain工作。Sutskever是項目最頂尖的學(xué)者之一。當(dāng)時，更大的想法正在萌發(fā)。
Sam Altman的Y Combinator幫助了例如Airbnb、Dropbox和Coinbase等公司成長，他安排了這次見面，將幾位AI研究員和一位年輕但有實戰(zhàn)經(jīng)驗的企業(yè)建設(shè)家Greg Brockman聚集到了一起。Brockman之前是硅谷數(shù)字支付創(chuàng)業(yè)公司Stripe（也是一家Y Combinator公司）的CTO。這是一個精選小組。但是他們都有一個共同目標(biāo)：創(chuàng)造一種新的AI實驗室，不僅不受谷歌的控制，而且不受任何人控制。“我想象中自己能做的最好的事情，”Brockman說，“就是讓人類以安全方式建造真實AI。”
Musk來是因為他是Altman的老朋友——也因為AI對于他各項業(yè)務(wù)的未來非常關(guān)鍵，或者說，對整個未來非常關(guān)鍵。特斯拉需要AI來造它遲早要造的無人車。SpaceX，Musk的另一家公司，需要AI來將人送到太空，并讓人在太空生存。但是，Musk也是AI批判者中音量最大的一個，警告人們?nèi)绻到y(tǒng)強大到可以自主學(xué)習(xí)，也許有一天我們會失去控制系統(tǒng)的能力。
這件事的問題就在于：那么多最能夠解決這些問題的人已經(jīng)在為谷歌工作了（還有為微軟和Facebook和百度和Twitter）。當(dāng)晚，沒有人確定這些學(xué)者能否被一個新公司吸引，即便這是Musk和Altman在背后支持的公司。但是一個關(guān)鍵人物至少對于跳槽還是保持開放的態(tài)度?！拔腋杏X這里面有風(fēng)險，”Sutskever說，“但是我還覺得，這是很有趣的事情，值得嘗試?！?/p>
在與Musk、Altman和其他Rosewood的人們對話以后，Brockman壯了膽，很快下決心建造他們想要的這個實驗室。他全力攻克這個項目，并前去找了Yoshua Bengio。Bengio是蒙特利爾大學(xué)的計算機科學(xué)家，也是深度學(xué)習(xí)運動的奠基人之一。領(lǐng)域內(nèi)另外兩名先鋒——Geoff Hinton和Yann LeCun——目前分別在谷歌和Facebook工作，但是Bengio致力于學(xué)術(shù)界，大致上不參與行業(yè)活動。他列出了行業(yè)內(nèi)最好的一些研究員，在接下來的幾周，Brockman聯(lián)系了名單上所有能聯(lián)系的人，還有一些名單外的人。
很多研究員喜歡這個想法，但是他們也擔(dān)心轉(zhuǎn)變。為了打破這種僵局，Brockman選了10個他最想要的研究員，邀請他們周六來Napa Valley的一個酒窖喝酒、吃飯。對Brockman來說，連開車進入Napa Valley的這段路也是項目的催化劑。”人們都沒意識到，這種情景非常能讓人走到一塊去，因為你沒法讓車子開得更快些。“他說，”你不得不去，所以，你不得不聊聊天?！爱?dāng)他們到達了酒窖，氛圍也繼續(xù)維持著?！蹦憧梢灾婪諊馨?，“Brockman說?；蛘甙碨utskever的話說：”跟聊天相比，酒是第二位的。“
最后，Brockman邀請了所有十位研究員加入實驗室，并給了他們?nèi)艿目紤]時間。到截止日期的時候，其中九位研究員加入了，并且一直留在項目中，盡管硅谷巨頭們給他們開出了天價薪酬?！八麄?yōu)榱俗屛伊粝抡娴呐煤苈≈?，所以要辭職不是個簡單的決定?！盨utskever說到他的前雇主谷歌，“但是最后，我決定去OpenAI，部分因為那幫實力很強的人，還有很大程度上，因為OpenAI的愿景。”
深度學(xué)習(xí)運動源于學(xué)術(shù)界。直到最近，類似谷歌、Facebook和微軟的公司才將它應(yīng)用起來，由于計算能力的進步讓深度神經(jīng)網(wǎng)絡(luò)成為現(xiàn)實而不再是一個理論假設(shè)。Hinton和LuCun等人離開學(xué)術(shù)界進入企業(yè)，因為企業(yè)有大量的資源。但是他們也保留與其他學(xué)者合作的意愿。的確，正如LeCun所說，深度學(xué)習(xí)研究需要這種自由的思想流動?！爱?dāng)你偷偷地做研究，你就會落后。”LeCun如是說。
因此，大公司現(xiàn)在分享很多他們的研究。這是一個很大的改變，得多虧谷歌。谷歌一直以來都將技術(shù)視為核心機密。最近，谷歌將推動神經(jīng)網(wǎng)絡(luò)的軟件做了開源。但是谷歌還是保留了未來競爭的內(nèi)部核心。Brockman、Altman和Musk希望進一步推進開放度，說他們不想看見一兩家大公司控制人工智能的未來。
Greg Brockman，他是OpenAI的CTO和奠基人之一。圖片來源：Christie Hemm Klok / Wired。
以上所有聽起來都很棒。但是對于OpenAI的理想主義來說，很多研究者可能還是會面臨同樣的妥協(xié)。開放是有限度的。AI的長遠考慮并不只是唯一的考慮。OpenAI不是一個慈善組織。Musk的公司們可以從OpenAI的研究中大大獲益，同樣還有Altman的Y Combinator支持的公司們?！爱?dāng)然有一些競爭目標(biāo)?！盠eCun說，“這不是公益組織，而且還有與Y Combinator的緊密聯(lián)系。而且，人們就像在其他企業(yè)中一樣，干活也是有錢拿的。”
據(jù)Brockman說，實驗室給出的薪酬不像谷歌和Facebook那樣高。但是他說，實驗室的確希望給研究員”好的報酬“，同時也提供股權(quán)，先是在Y Combinator，然后也許在Space X（不像特斯拉，SpaceX還是一家未上市的公司）。
盡管如此，Brockman堅稱OpenAI不會對姐妹公司們提供特殊待遇。OpenAI是一個研究組織，他說，不是咨詢公司。但是在追問下，他承認(rèn)OpenAI的理想主義也是有極限的。公司可能不會將所有的成果都開源，雖然最終希望會分享大部分研究，不論通過研究論文還是互聯(lián)網(wǎng)服務(wù)?！肮_進行所有研究不一定是最好的方式。你需要好好培養(yǎng)一個想法，看看它會發(fā)展成為什么，然后再發(fā)表它?！盉rockman說，“我們會帶來很多的開源代碼。但是我們還要會有很多東西，還沒有準(zhǔn)備好發(fā)布出來。“
Sutskever和Brockman都補充道，OpenAI還可能給一部分成功加上專利?！拔覀儾粫诙唐趦?nèi)做任何專利，”Brockman說，“但是我們隊長期的策略改變還是保持開放的，如果我們覺得這是最好的方式?！崩纾?strong>他說OpanAI可能會做搶先專利申請，一種防止其他人申請專利的策略。
但是對于一些人來說，專利意味著盈利動機——至少，相較于創(chuàng)始人的開源愿景來說，這項動機更弱一些?！斑@就是專利系統(tǒng)真正的意義，”艾倫人工智能研究院的負(fù)責(zé)人Oren Etzioni說，“這讓我懷疑他們真正要做的是什么?！?/p>
當(dāng)Musk與Altman為OpenAI揭幕，他們將項目描繪為中和“惡意”超級人工智能的威脅。當(dāng)然，他們所說的超級智能也可能從OpenAI的技術(shù)中誕生，但是他們堅持說，任何威脅都會被降低，因為技術(shù)可以被任何人使用?！拔覀冇X得，更可能的是許多AI一起來組織偶然出現(xiàn)的壞AI?！盇ltman說。
并不是每個人都吃這一套。牛津哲學(xué)家Nick Bostrom像Musk一樣警告了AI的危險，他指出，如果你毫無控制地分享研究，壞人就能在有人保證安全之前就獲得技術(shù)。“如果你有一個按鈕可以做壞事，”Bostrom說，“你不會想把它公開，給任何人使用。”另一方面，如果OpenAI決定保留研究，不讓壞人接觸到，Bostrom又懷疑OpenAI與谷歌或Facebook沒有什么區(qū)別。
他確實是說，OpenAI的非盈利性質(zhì)會帶來改變——雖然不一定。他說，項目真正的力量在于他的確能對谷歌和Facebook之類的巨頭帶來制約?！斑@減少了超級智能被壟斷的可能性。他減少了這種可能：某一集團可以比其他人擁有好得更多的AI?！?/p>
不過，就像這位哲學(xué)家在一份新的論中說的，一個類似OpenAI這樣愿意免費分享其成功的組織，其首要的影響是加速AI的進展，至少在短期內(nèi)。而且從長期來說它也能推進技術(shù)進步，如果它處于互助的原因“選擇的開放度比商業(yè)運行所允許的更高。”
“不過，一個帶著慈善目的研究資助者可以以公開進行科研的方式，更好地推進技術(shù)進展?！?/span>
1月初，Brockman的9位AI研究員在他舊金山的公寓碰頭。項目還很新，以至于他們連白板也沒有。他們買了幾塊白板，然后開始工作（你能想象嗎這畫面？）。
Brockman說OpenAI將開始探索增強學(xué)習(xí)，一種讓機器學(xué)習(xí)任務(wù)的方式，通過讓機器不停重復(fù)，追蹤哪些方法能夠帶來最好的結(jié)果。但是另一個主要目標(biāo)是“無監(jiān)督學(xué)習(xí)“——創(chuàng)造可以真正自學(xué)的機器，不需要人類來指導(dǎo)。今天，深度學(xué)習(xí)是由仔細標(biāo)注的數(shù)據(jù)驅(qū)動的。如果你想教一個神經(jīng)網(wǎng)絡(luò)識別貓咪的照片，你得給系統(tǒng)輸入一些例子，這些例子必須注明”貓咪“。而且學(xué)習(xí)過程是由人類監(jiān)督的。但是像很多其他研究員一樣，OpenAI想創(chuàng)造的神經(jīng)網(wǎng)絡(luò)不需要這樣標(biāo)注的數(shù)據(jù)就能夠?qū)W習(xí)。
Brockman說：“如果你有很好的無人監(jiān)督學(xué)習(xí)，機器就能從互聯(lián)網(wǎng)的這些知識中學(xué)習(xí)——就像人一樣，通過到處看看就會學(xué)到知識——或者通過閱讀書籍。”
他構(gòu)想的OpenAI，是70年代科技研究實驗室Xerox PARC的現(xiàn)代化身。就像PARC大部分公開和不受干擾的研究推動了從圖形用戶界面、激光打印機到面向?qū)ο缶幊陶Z言，Brockman和工作人員希望，進一步深入之前被認(rèn)為是科幻小說的領(lǐng)域。是的，PARC是屬于Xerox的，但是它還支持了許多其他公司，包括最著名的蘋果，因為例如喬布斯等人都參與它的研究。在OpanAI，Brockman希望每個人都參與它的研究。
本月，為了將這種動力推向極致，Brockman和公司揪住了其他幾位出名的研究員，包括Ian Goodfellow，另一個谷歌Brain團隊的前高級研究員?！癙ARC的特殊之處是，他們將一群聰明人聚在一起，讓他們做自己想做的事情?！盉rockman說，“你需要一個共同目標(biāo)，沒有中央控制?！?/strong>
放棄控制就是開源理想的核心。如果足夠多的人能致力于這個共同目標(biāo)，最終結(jié)果會超過你偷偷研究的結(jié)果。但是如果AI成了我們預(yù)想中那么強大，情況就變了。我們必須確保新的AI也遵守同樣的互助原則，那些讓它們能夠誕生于世的原則。Musk、Altman和Brockman將他們的希望寄托在群體的智慧中。但是如果他們是正確的，這個群體在未來就不完全是人類了。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
