0
今天，麻省理工科技評(píng)論的一篇文章再次把 OpenAI 推上輿論的風(fēng)頭浪尖。
作為由鋼鐵直男Elon Musk和YC創(chuàng)始人Sam Altman等人共同創(chuàng)立的項(xiàng)目，OpenAI盡管成立只有4年的時(shí)間，但已經(jīng)成長(zhǎng)為在AI研究領(lǐng)域媲美于Google、Facebook、亞馬遜、DeepMind等最優(yōu)秀研究機(jī)構(gòu)的存在。
但是最近一年，OpenAI卻備受批評(píng)，先是發(fā)布最強(qiáng)“通用”NLP模型GPT-2而不開(kāi)源；再而是接受微軟10億美元投資，從而轉(zhuǎn)為“有限盈利”企業(yè)違背初心.......種種跡象表明，OpenAI 與4年前馬斯克所聲明的那個(gè)“人工智能非營(yíng)利組織”已然不同。
（雷鋒網(wǎng)）
那么OpenAI 的現(xiàn)狀到底如何？針對(duì)這一問(wèn)題，麻省理工科技評(píng)論的記者Karen Hao 前后花了六個(gè)月的時(shí)間，做了36次采訪，揭露出了OpenAI的真實(shí)面貌。Karen 發(fā)現(xiàn) OpenAI似乎放棄了其先前的開(kāi)放性和透明性承諾；換句話說(shuō)，競(jìng)爭(zhēng)的壓力正在侵蝕“理想主義”。
上次OpenAI讓大眾眼前一亮研究還是它在2019年發(fā)布的最強(qiáng)“通用”NLP模型GPT-2，從那之后，也就是其轉(zhuǎn)型為“有限盈利”企業(yè)這將近一年的時(shí)間，這種能夠帶來(lái)突破性的研究的“光環(huán)”已經(jīng)從OpenAI身上漸漸退去。
（雷鋒網(wǎng)）
當(dāng)時(shí)還是非營(yíng)利組織的OpenAI憲章第一條還是“首要信托責(zé)任是人類”（primary fiduciary duty is to humanity）。這個(gè)神圣的信條也使他與其他頂級(jí)AI研究機(jī)構(gòu)區(qū)分開(kāi)來(lái)。
“為每個(gè)人而不是股東創(chuàng)造價(jià)值”的條款讓OpenAI匯集了一群世界頂級(jí)研究員，包括首席技術(shù)官原支付公司Stripe的格雷格·布羅克曼（Greg Brockman）；研究總監(jiān)是Ilya Sutskever；另外還有從頂尖人才中選拔出來(lái)的七名頂尖人才，他們共同組成了OpenAI的核心技術(shù)團(tuán)隊(duì)。
然而，盡管有馬斯克等人在最初注資的10億美元，但AI研究是一個(gè)太過(guò)耗費(fèi)資源的領(lǐng)域。據(jù)OpenAI的CTO 布羅克曼介紹，大概每過(guò)3~4個(gè)月，研究所需的計(jì)算資源就會(huì)增加一倍。為了保證研究有效進(jìn)行，就必須有足夠的資金匹配這一指數(shù)級(jí)別的增長(zhǎng)，這就需要在忠于使命的同時(shí)，能有一個(gè)能夠迅速積累資金的新組織模式。
于是在去年，OpenAI轉(zhuǎn)變?yōu)椤坝邢抻逼髽I(yè)。在那之后，OpenAI的高層重新建立了薪酬結(jié)構(gòu)，根據(jù)任務(wù)承擔(dān)來(lái)發(fā)放薪資。OpenAI為其員工設(shè)計(jì)了激烈競(jìng)爭(zhēng)與不斷增加的壓力。
這種方式，確實(shí)給它帶來(lái)了更多的資金，但也破壞了其最初開(kāi)放、透明、協(xié)作的精神。其實(shí)早在2018年的4月份，OpenAI在重新發(fā)布公司章程時(shí)候就有了轉(zhuǎn)換公司模式的苗頭，那份章程除了重新闡明了實(shí)驗(yàn)室的核心價(jià)值之外，還巧妙地用語(yǔ)言道出了新的需求——對(duì)資金的需求。
OpenAI會(huì)議室，圖片來(lái)源：麻省理工科技評(píng)論
轉(zhuǎn)換之后，員工和領(lǐng)導(dǎo)都有一個(gè)過(guò)渡期，員工對(duì)外界不斷的批評(píng)感到沮喪，而領(lǐng)導(dǎo)層的擔(dān)心也在逐漸破壞OpenAI的影響力和招聘優(yōu)秀人才的能力。
其實(shí)破壞實(shí)驗(yàn)室影響力的因素不光是“盈利企業(yè)”這一項(xiàng)。
和其他公司一樣，OpenAI同樣存在多樣性的缺乏，根據(jù)實(shí)驗(yàn)室的發(fā)言人介紹，女性員工不足四分之一，在接近120名員工中，絕大多數(shù)是白人或亞洲人。多樣性和包容性是影響一個(gè)團(tuán)隊(duì)進(jìn)步的長(zhǎng)遠(yuǎn)因素，雖然OpenAI在這方也做出了許多努力，顯然還遠(yuǎn)遠(yuǎn)不夠。
在總體運(yùn)行戰(zhàn)略方面也有許多可圈可點(diǎn)之處，比如現(xiàn)在的研究總監(jiān)Amodei將實(shí)驗(yàn)室的戰(zhàn)略分為兩部分：第一部分是如何實(shí)現(xiàn)高地AI的功能，不同的研究團(tuán)隊(duì)對(duì)這個(gè)策略的理解不同，例如語(yǔ)言團(tuán)隊(duì)認(rèn)為，可以讓機(jī)器通過(guò)單純的語(yǔ)言學(xué)習(xí)重塑對(duì)世界的理解；機(jī)器人團(tuán)隊(duì)則認(rèn)為智能的發(fā)展需要突破物理的限制。
實(shí)驗(yàn)室戰(zhàn)略的第二部分是如何讓AI系統(tǒng)變得更加安全，如何讓它正確反映人類的價(jià)值觀.....
很明顯，實(shí)驗(yàn)室的兩個(gè)策略似乎都在為實(shí)現(xiàn)AGI而努力。
但是最大的問(wèn)題正如Amodei所述：“我們不知道AGI是什么樣子”。
這就意味著策略的建立存在很多雜亂無(wú)章的地方：策略的建立較少的基于已有的理論，更多的是基于直覺(jué)。
具體到研究突破層面來(lái)講，OpenAI更多的是在重復(fù)別的實(shí)驗(yàn)室開(kāi)發(fā)出的創(chuàng)新成果：依靠大量的計(jì)算資源投入來(lái)獲得最佳的效果。
也就是說(shuō)，運(yùn)行策略的不合理正在阻礙OpenAI的發(fā)展。
另外公司還有一條鐵律：未經(jīng)公關(guān)部門的明確許可，不準(zhǔn)向記者吐露任何事情。這意味著現(xiàn)在的OpenAI已經(jīng)沒(méi)有了其最初“完全受信任”的影響力，大眾不再認(rèn)為它是機(jī)器學(xué)習(xí)和AGI研究最受信任機(jī)構(gòu)。
其保密的范圍不僅針對(duì)媒體，其公司內(nèi)部也有相應(yīng)的保密級(jí)別。例如對(duì)于OpenAI正在進(jìn)行的研究項(xiàng)目，有關(guān)消息稱這可能是OpenAI成立幾年來(lái)最高水平的研究項(xiàng)目。
但就是這樣一個(gè)項(xiàng)目，卻不允許實(shí)習(xí)生參加。現(xiàn)在的OpenAI，盡管有著遠(yuǎn)大的抱負(fù)，但卻致力于“保密”。
隨著時(shí)間的流逝，OpenAI的高層已經(jīng)沒(méi)了最初的想法，“開(kāi)放是構(gòu)建AGI的最佳方法”在OpenAI內(nèi)部似乎已經(jīng)不再適用，OpenAI 目前所忙活的炒作、吸引資金和人才似乎才是對(duì)它最有幫助的?；蛟S吧，正如布羅克曼所言，OpenAI現(xiàn)在的抱負(fù)是“要做最好的事”。
MITReview的記者 Karen Hao在其twitter上也指出，這篇報(bào)道事實(shí)上并不僅僅是關(guān)于一個(gè)實(shí)驗(yàn)室（OpenAI）的問(wèn)題，更是一個(gè)系統(tǒng)的問(wèn)題：競(jìng)爭(zhēng)和資金壓力如何推動(dòng)創(chuàng)新？
據(jù)OpenAI的一份分析報(bào)告指出，從2012年至2018年，最大規(guī)模的AI訓(xùn)練所需要的算力已經(jīng)增長(zhǎng)了30萬(wàn)倍（到2020年的今天，這數(shù)字應(yīng)該已經(jīng)翻了更多倍），平均每3.5個(gè)月便翻一番。
（雷鋒網(wǎng)）
正是基于對(duì)算力的渴求，在去年7月份，OpenAI接受了微軟10億元的投資，微軟成為OpenAI的獨(dú)家云供應(yīng)商，同時(shí) OpenAI 也會(huì)和微軟合作開(kāi)發(fā) Azure AI 超級(jí)計(jì)算技術(shù)，并授權(quán)微軟使用其部分技術(shù)進(jìn)行商業(yè)化。
這一舉措，也受到不少業(yè)內(nèi)人士的質(zhì)疑，人們擔(dān)心OpenAI將會(huì)受到微軟的影響，屈服于財(cái)政壓力和其他因素，無(wú)法再像以前一樣保持開(kāi)放、平等傳播的姿態(tài)。
事實(shí)上，這種擔(dān)心不無(wú)佐證，在去年3月份，OpenAI便已經(jīng)進(jìn)行了一輪重組，成立了名為“OpenAI LP”的子公司，目的便是為了更好地籌集資金，吸引人才，從而能夠與Google、Facebook等大公司在AI領(lǐng)域進(jìn)行競(jìng)爭(zhēng)。人工智能研發(fā)不僅需要的巨大算力，也需要龐大的資金。
一個(gè)非營(yíng)利組織在籌款上是有極限的，而彌補(bǔ)成本最有效的方式，就是改變現(xiàn)有架構(gòu)。但也有人為OpenAI做出辯解：面臨這種取舍，除了缺錢，更重要還是因?yàn)樗龀龅膽?zhàn)略選擇；作為一個(gè)非營(yíng)利性組織，它要和類似Google、Facebook這樣的大公司進(jìn)行競(jìng)爭(zhēng)，以保證能夠先于它們做到AGI，這種壓力會(huì)迫使它們做出一些似乎偏離其初衷的決定，它們需要吸引資金和人才，并保護(hù)自己的研究，從而來(lái)保持長(zhǎng)期的優(yōu)勢(shì)。
類似于OpenAI，事實(shí)上在美國(guó)同樣還有一些其他的非營(yíng)利性組織在積極探索人工智能的未來(lái)，例如總部位于西雅圖的AI2。不同于OpenAI的地方是，AI2的資金來(lái)源于微軟聯(lián)合創(chuàng)始人、已故的億萬(wàn)富翁保羅·艾倫（Paul Allen）留下自籌資金，在可預(yù)期的未來(lái)，AI2將不會(huì)受到資金的壓力。
OpenAI作為一個(gè)非營(yíng)利性組織缺一位“富有的慈善捐贈(zèng)者”。因此，正如 Karen Hao在文章最后所說(shuō)，OpenAI需要賺錢來(lái)做研究，而不是反過(guò)來(lái)。缺錢，才是OpenAI不斷向現(xiàn)實(shí)妥協(xié)的本質(zhì)原因；任何非營(yíng)利組織，背后都不可或缺一個(gè)龐大的資金來(lái)源。
資金的壓力迫使OpenAI漸漸違背了其最初的保證。但不可否認(rèn)的是 OpenAI 仍然是一個(gè)人才和前沿研究的堡壘，充滿了真誠(chéng)地為人類利益而努力工作的人們。
換句話說(shuō)，它的初心仍未變，仍然有時(shí)間去糾偏匡正。
而另一方面，正是由于他們?cè)趪L試進(jìn)入一個(gè)未知的領(lǐng)域，所以才會(huì)有各種各樣的錯(cuò)誤出現(xiàn)。作為旁觀者，我們應(yīng)該為他們提供正確的批評(píng)。誰(shuí)會(huì)希望，在未來(lái)AGI是由像Google、亞馬遜、Facebook、蘋(píng)果或阿里巴巴這樣的企業(yè)開(kāi)發(fā)出來(lái)，而非OpenAI這樣的非營(yíng)利性組織呢？
但放棄控制才是理想的開(kāi)源的邏輯本質(zhì)。倘若真的集齊足夠多的最強(qiáng)大腦來(lái)共同完成AGI目標(biāo)，打敗憑借個(gè)人私力控制人工智能世界的惡念最好的方式是讓每個(gè)人都擁有這項(xiàng)技術(shù)。
針對(duì)這個(gè)問(wèn)題，馬斯克也非常關(guān)心，其在twitter上表示：OpenAI應(yīng)該更多的開(kāi)放。
但是堅(jiān)持初衷，完全開(kāi)放對(duì)于一家只是實(shí)驗(yàn)室的OpenAI來(lái)說(shuō)是最好的選擇么？或許正如微博大V“愛(ài)可可-愛(ài)生活”引用Fran?ois Chollet一段話那樣吧：相比初衷，是否有持續(xù)正確的激勵(lì)，真正決定了實(shí)驗(yàn)室將走向何方、能走多遠(yuǎn)。
參考：[1] The messy, secretive reality behind OpenAI’s bid to save the world,
https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
[2] 拿了微軟 10 億美元的 OpenAI，到底想做什么？,
https://baike.baidu.com/tashuo/browse/content?id=df6178d6a398cbbcb21dc4ad&lemmaId=19758408&fromLemmaModule=pcRight
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
