0
| 本文作者： 奕欣 | 2017-12-02 10:32 |
所以我時常害怕，愿中國青年都擺脫冷氣，只是向上走，不必聽自暴自棄者流的話。能做事的做事，能發(fā)聲的發(fā)聲。有一分熱，發(fā)一分光，就令螢火一般，也可以在黑暗里發(fā)一點光，不必等候炬火。此后如竟沒有炬火：我便是唯一的光。
——魯迅《熱風(fēng)》隨感錄 四十一
雷鋒網(wǎng) AI 科技評論按：對于清華大學(xué)計算機科學(xué)與技術(shù)系自然語言處理實驗室團隊而言，今年或許是一個頻頻「做事」兼「發(fā)聲」的季節(jié)。清華大學(xué)計算機科學(xué)與技術(shù)系自然語言處理實驗室是由孫茂松教授領(lǐng)導(dǎo)、劉洋副教授與劉知遠助理教授協(xié)同組成的一支 NLP 研究團隊，有20余名研究生、訪問學(xué)者和訪問學(xué)生。
今年 6 月，劉洋副教授開源的神經(jīng)機器翻譯工具包，包含被選為 ACL 2017 杰出論文的神經(jīng)網(wǎng)絡(luò)可視化的源代碼和圖形化界面。（Github頁面詳見：https://github.com/thumt/THUMT）；10 月份，孫茂松教授發(fā)布的九歌計算機古詩作詩系統(tǒng)，beta1.0 版本現(xiàn)已上線集句詩、絕句和藏頭詩三種功能。 （頁面：http://jiuge.thunlp.org/ ）
10 月底，在孫茂松教授的帶領(lǐng)與指導(dǎo)下，劉知遠與學(xué)生團隊先后開源了兩個工具包 OpenNE（Open-Source Network Embedding）與 OpenKE（Open-Source Knowledge Embedding），分別針對網(wǎng)絡(luò)表示學(xué)習(xí)和知識表示學(xué)習(xí)進行了系統(tǒng)梳理。
而除了在學(xué)術(shù)領(lǐng)域有所貢獻外，劉知遠更為人熟悉的另一個身份是「知乎達人」。在劉知遠的不少高質(zhì)量回答中，他在深入淺出回答技術(shù)問題時頻頻引經(jīng)據(jù)典，旁征博引，充分展現(xiàn)了他的學(xué)術(shù)和文學(xué)涵養(yǎng)。作為自然語言處理、深度學(xué)習(xí)、機器學(xué)習(xí)的優(yōu)秀回答者，從 2013 年開始玩知乎的他，累積關(guān)注者超過 25000 人，收獲了 22206 次贊同，包括 3666 次感謝和 11109 次收藏?！缸鳛橐幻ぷ鞣泵Φ母咝＝處煟瑒⒅h哪有時間回答那么多問題呢？」這是雷鋒網(wǎng) AI 科技評論筆者在調(diào)研的時候，大家最好奇最關(guān)心的問題之一。
在清華大學(xué) FIT 樓，雷鋒網(wǎng) AI 科技評論有幸與清華大學(xué)的劉知遠助理教授進行了一次對話，他向筆者分享了他工作、生活的點點滴滴。
劉知遠，清華大學(xué)計算機科學(xué)與技術(shù)系自然語言處理實驗室助理教授。主要研究方向為表示學(xué)習(xí)、知識圖譜和社會計算。2011 年獲得清華大學(xué)博士學(xué)位，已在 AAAI、IJCAI、ACL 等人工智能領(lǐng)域的著名國際期刊和會議發(fā)表相關(guān)論文 30 余篇，Google Scholar 統(tǒng)計引用超過 1200 次。承擔(dān)多項國家自然科學(xué)基金。曾獲清華大學(xué)優(yōu)秀博士學(xué)位論文、中國人工智能學(xué)會優(yōu)秀博士學(xué)位論文、清華大學(xué)優(yōu)秀博士后、中文信息學(xué)會青年創(chuàng)新獎，入選 CCF-Intel 青年學(xué)者提升計劃、中國科協(xié)青年人才托舉工程。擔(dān)任中文信息學(xué)會青年工作委員會執(zhí)委、副主任，中文信息學(xué)會社會媒體處理專委會委員、秘書，SCI 期刊 Frontiers of Computer Science 青年編委。擔(dān)任 ACL、IJCAI、AAAI、NAACL、EMNLP、WWW、WSDM 等著名學(xué)術(shù)會議的程序委員會委員以及 TKDE、TOIS、JCST 等著名學(xué)術(shù)期刊審稿人。
個人主頁：http://nlp.csai.tsinghua.edu.cn/~lzy/
不論是中文詞法分析工具包 THULAC、中文文本分類工具 THUCTC、關(guān)鍵詞抽取與社會標(biāo)簽推薦工具包 THUCTC，或是關(guān)鍵詞抽取與社會標(biāo)簽推薦工具包 THUTag 等（部分整理可參考劉知遠此前的知乎回答：目前常用的自然語言處理開源項目/開發(fā)包有哪些？- 劉知遠的回答 ），清華自然語言處理實驗室團隊此前的工作更傾向于單點突擊，所開源的項目也比較零散；而最近開源的 OpenNE 和 OpenKE，實際上是清華團隊針對過往研究的一個較為系統(tǒng)的梳理。雷鋒網(wǎng)此前也做過覆蓋與報道，可參見：清華大學(xué)團隊開源OpenKE與OpenNE工具包，助力NLP系統(tǒng)梳理。
清華大學(xué)博士生涂存超和本科生張正彥貢獻的 OpenNE（Open-Source Network Embedding）針對網(wǎng)絡(luò)表示學(xué)習(xí)（NE/NRL）進行了系統(tǒng)梳理，統(tǒng)一了 NE 模型的輸入/輸出/評測接口，并修訂復(fù)現(xiàn)了經(jīng)典的網(wǎng)絡(luò)表示學(xué)習(xí)模型，包括 DeepWalk, LINE, node2vec, GraRep, TADW, GCN 等。
清華大學(xué)博士生韓旭、林衍凱和已畢業(yè)碩士生謝若冰于近期共同完成整理推出 OpenKE 平臺，實現(xiàn)了 TransE 、TransH、TransR、TransD、RESCAL、DistMult、HolE、ComplEx 等算法的統(tǒng)一接口的高效實現(xiàn)，此外，能面向 WikiData 和 Freebase 兩大通用 KG 全量數(shù)據(jù)的預(yù)訓(xùn)練好的知識表示模型下載。
很多學(xué)者基于一些大規(guī)模知識圖譜如 WikiData 與 Freebase 開展研究工作，往往需要研究者自行訓(xùn)練知識表示模型，OpenKE 則將在 WikiData 和 Freebase 全量數(shù)據(jù)上訓(xùn)練的表示模型也開放出來，供大家參考和使用，避免了大量重復(fù)勞動。劉知遠表示，「這兩個工具包主要是為了進一步推進表示學(xué)習(xí)的發(fā)展，并讓更多的人關(guān)注這個方向和相關(guān)成果，認識到表示學(xué)習(xí)的重要意義和價值?！?/p>
從今年年初，劉知遠帶領(lǐng)兩撥學(xué)生團隊開始分頭著手做 OpenNE 和 OpenKE，前后也經(jīng)歷了近一年的時間。劉知遠認為，在高校做開源工具包的邏輯實際上與工業(yè)界有些不同，這些參與項目的高校學(xué)生往往都是 NLP 研究一線的成員，梳理工具包的過程不僅對自己是一種鍛煉，內(nèi)心深處也自然多一分對這個項目的認同感，希望能在這個過程中更深入、更全面地了解 NLP 領(lǐng)域。此外，也有一部分團隊成員是學(xué)校的本科生，受其他課業(yè)的任務(wù)影響，整個項目的周期也屬于細水長流的類型。
除了工具包外，數(shù)據(jù)庫也是一個研究者們嘗試涉足的方向。譬如目前比較常用的 WikiData 和 Freebase，屬于大規(guī)模通用的知識圖譜，探討的是這個世界事物之間的相互關(guān)系。
像谷歌、百度這樣的搜索引擎是通用知識圖譜的真正應(yīng)用場景所在，而從高校的科研力量來權(quán)衡，在劉知遠看來，他的「小目標(biāo)」更傾向于從應(yīng)用和實際的角度做一些規(guī)模不大、但非常重要的一些知識庫，例如語言知識圖譜。「其實在語言上，我們也需要考慮到這種知識和關(guān)系。比如看到一件事物產(chǎn)生了聯(lián)想，這便是隱喻知識庫?！?/p>
在今年 ACL 2017 和 IJCAI 2017 上，劉知遠團隊都有語言知識庫的相關(guān)成果發(fā)表，本科生牛藝霖和碩士生謝若冰的 Improved Word Representation Learning with Sememes，將 HowNet 義原信息引入詞表示學(xué)習(xí)，發(fā)現(xiàn)義原對于復(fù)雜語境下的詞義精確識別具有重要價值；本科生袁星馳和碩士生謝若冰的 Lexical Sememe Prediction via Word Embeddings and Matrix Factorization，則提出了一種新的面向新詞的義原自動標(biāo)注算法。
利用義原更好地理解詞匯語義，進行詞義消歧等工作，在劉知遠看來是探索通用語言知識的一種嘗試，而在深度學(xué)習(xí)的新場景、新浪潮下，NLP如何充分利用人類先驗語言知識和世界知識，實現(xiàn)真正的自然語言理解，是非常重要的研究課題。
劉知遠曾經(jīng)在知乎的回答中提及關(guān)于自然語言處理未來趨勢的看法，其中也提及了先驗語言知識與深度學(xué)習(xí)模型的融合。在彼時，團隊也在模型中考慮先驗知識的作用，并做出了一些嘗試，但在劉知遠看來，「這些工作是在一些任務(wù)上完成的，考慮的都是一些特別具體的知識。但是，如果你真的像人一樣，把關(guān)于這個世界的各種各樣的知識都裝在大腦里面，那么它們是如何經(jīng)過融合，讓你更好理解這個世界的？」
但在 2017 年，他同樣提及了先驗語言知識與深度學(xué)習(xí)模型的有機融合對于理解世界的作用。劉知遠認為，理解世界本身是一件系統(tǒng)的任務(wù)，需要考慮如何用更多形式的知識并綜合地利用它們，實現(xiàn)各種各樣的真正的能力。
在這個提問中，劉知遠提及的另一個亮點則是近年流行起來的對抗訓(xùn)練思想（GAN）的應(yīng)用。目前，這一思想已經(jīng)在 NMT 等模型中發(fā)揮重要作用。而針對 GAN 的流行，劉知遠認為這些機器學(xué)習(xí)思想和模型對NLP更多是工具，他更看重的是如何利用這些工具實現(xiàn)兼顧復(fù)雜語境下的語言理解能力。
「語言理解本身是一個結(jié)合多模態(tài)復(fù)雜場景的、豐富語境下的消歧問題，」劉知遠告訴雷鋒網(wǎng) AI 科技評論，「僅僅從考慮文章上下文的能力來看，NLP技術(shù)還遠沒有達到一個理想的狀態(tài)?！?/p>
劉知遠表示，清華團隊過去更多在 NLP 做了一些增量性的貢獻，還需要進一步積累達到質(zhì)變。「目前大家都還是在做一些分而治之的工作，也就是說，團隊先把這個問題定義明確了，然后盡可能地提升它的效率。在未來的話，學(xué)者們需要把這種更復(fù)雜的語境綜合在一起，之后才能真正解決語言理解的問題?！?/p>
2002 年就讀清華本科，2011年博士畢業(yè)，到 2013 年博士后出站留校任教至今，劉知遠一直沒有離開過這座象牙塔。在不少人的眼里，劉知遠能在國內(nèi)一流學(xué)府深造，并成為桃李滿天下的人民教師，著實非常幸運。但更多人不知道的是，劉知遠的經(jīng)歷并非我們所想象的那般順利，他也自嘲「自認資質(zhì)普通，沒有智商和競賽等光環(huán)加成」。
劉知遠第一年高考時被南京郵電大學(xué)錄用，從山東前往南京就學(xué)。但是，當(dāng)他以大一新生的身份呆了兩個月后，劉知遠覺得這兒依然「不是特別符合我對大學(xué)的期望」。
雖然南京郵電大學(xué)是一所優(yōu)秀的高校，不少同學(xué)也能在研究生階段步入清華大學(xué)就讀，但劉知遠和父母在多次長談后，最終還是決定「回爐重造」，再戰(zhàn)高考?！溉?、四年后的事情其實很難預(yù)估，所以與其我去追求幾年后的一個不確定的未來，不如多花一年的時間去換一個相對確定的結(jié)果?！?/p>
這個決定在今天的劉知遠看來當(dāng)然「無比正確」，但不可否認的是，這段經(jīng)歷也深刻地影響了他的求學(xué)之路。由于那一屆的清華生物系和電子工程都錄滿了，劉知遠陰差陽錯地來到了計算機科學(xué)與技術(shù)系就讀，并在四年后師從孫茂松教授攻讀博士。劉知遠曾在知乎上的一個回答中如是說：「我本科屬于『三無』人員，沒有像樣的科研經(jīng)歷和論文，沒有程序設(shè)計競賽經(jīng)驗，成績也不突出，在年級和班級都排名1/3 左右，所以特別感謝孫茂松老師在 2005 年推研中接收了我?！?/p>
但劉知遠的博士之路也經(jīng)歷了不少糾結(jié)。2006 年復(fù)雜網(wǎng)絡(luò)理論非?；馃?，因此在直博的最初兩年里，他開展了詞匯同現(xiàn)網(wǎng)絡(luò)、詞匯依存網(wǎng)絡(luò)的分析研究。
和大多數(shù)求學(xué)者一樣，劉知遠一開始的研究方向也是瞄準(zhǔn)了最熱門的領(lǐng)域來做，但困擾很快便出現(xiàn)了：這些分析結(jié)論對 NLP 有什么用？這成了當(dāng)時劉知遠最為苦惱的問題。他征詢了不少老師同學(xué)的意見，甚至翻遍了各種資料文獻，試圖為語言復(fù)雜網(wǎng)絡(luò)的應(yīng)用找尋成功應(yīng)用的蛛絲馬跡，為這一研究方向提供例證。但現(xiàn)實并沒有令他滿意。
誠然，也有學(xué)者嘗試利用復(fù)雜網(wǎng)絡(luò)做關(guān)鍵詞抽取的任務(wù)，但劉知遠認為，從理論到應(yīng)用還存在著一定的鴻溝?！改阕隽艘粋€漢語的復(fù)雜網(wǎng)絡(luò)，發(fā)現(xiàn)了其中的一些規(guī)律和統(tǒng)一特征，但有什么用呢？這個其實我自己也解答不了，我也不希望在博士畢業(yè)的時候還是解答不了，所以最終決定調(diào)整研究重點?！褂谑?，劉知遠仍然沿著語言網(wǎng)絡(luò)的思路，開始利用更有效的 PageRank 等圖算法來開展關(guān)鍵詞抽取等研究工作。
在兩年的反復(fù)糾結(jié)后，劉知遠最終在 2008 年將博士論文的研究方向轉(zhuǎn)移到自然語言處理應(yīng)用任務(wù)上來，先是做了詞匯層面的語義分析工作，在 WWW 2008 發(fā)表了 poster 工作，再擴展成一篇 PAKDD。之后，劉知遠開始做關(guān)鍵詞抽取與標(biāo)簽推薦研究，直到 2009 年才發(fā)了第一篇 ENMLP （自然語言處理的三大會議之一）論文，隨后，以每年一篇 EMNLP 論文結(jié)束了博士生涯。
在 CCF 2015 年公示的人工智能領(lǐng)域?qū)W術(shù)會議列表中，ACL 屬于 A 類會議，而 EMNLP 則是 B 類會議?！冈谀莻€時候，因為你的見識等各種因素的限制，你掌握不了投遞論文的技巧，（所以沒能在 ACL 上發(fā)論文，）但是并不意味著說你的實力到不了那個水平。」回看這段經(jīng)歷的劉知遠告訴雷鋒網(wǎng) AI 科技評論，「至少那四五年博士期間，其實還是挺努力的，一直在努力地想怎么能夠做更好的研究」。劉知遠發(fā)在 EMNLP 的這三篇論文，在 Google Scholar 上的引用次數(shù)統(tǒng)計也達到了近 400 次，因而，他對自己的博士生涯還是比較滿意的。
雖然劉知遠一開始回憶這段經(jīng)歷時，告訴雷鋒網(wǎng) AI 科技評論，自己「印象已經(jīng)不太深了」，但實際上，卻是他在整個訪談過程中聊得最多的一段內(nèi)容。而近年來，越來越多的中國高校在國際頂級學(xué)術(shù)會議上嶄露頭角。以劉知遠所在的團隊為例，僅今年的 ACL 上，孫茂松教授領(lǐng)導(dǎo)的清華自然語言處理組就有7篇論文被錄用。
劉知遠表示，在他求學(xué)時期，ACL、EMNLP 這類會議的錄用結(jié)果一出來，至少他們也會第一時間去看看研究的新趨勢；而近幾年，基于交流條件的提升，信息溝通的壁壘已經(jīng)慢慢消失，一篇國外的熱門論文剛出來，馬上就會有中文版本流傳；此外，通過參與國際學(xué)術(shù)會議交流學(xué)習(xí)，或是邀請海外學(xué)者來華訪問演講，中西方的信息傳遞也變得越來越快，中國高校的眼界和見識也隨之水漲船高，也間接促進了學(xué)術(shù)論文的投遞數(shù)和錄用率。
但劉知遠也指出，來自國內(nèi)的論文雖然絕對數(shù)目在增加，但從相對比例上講，與國外還是存在一定的差距?！肝矣X得這本身也和國內(nèi)研究 NLP 的群體比較少有關(guān)，也是未來需要不斷往前走的一個過程?！苟@就需要高校持續(xù)地培養(yǎng)相應(yīng)的研究人才。
「做高水平研究，其實是培養(yǎng)人的一個途徑，你想培養(yǎng)高水平的人才，那你就一定是通過做高水平研究來完成。你不可能說，你做低水平研究，你能培養(yǎng)高水平的人才，對吧？所以我覺得兩者是相輔相成的。高校最重要的還是培養(yǎng)人，它本身承擔(dān)著要持續(xù)為社會培養(yǎng)高水平人才的任務(wù)?！?/p>
對于劉知遠來說，從事教師職業(yè)幾乎是一件不需要猶豫和懷疑的事情。身為老師的爺爺從小帶給劉知遠耳濡目染的影響，而劉知遠小時候最喜歡的就是當(dāng)小老師給弟弟妹妹上課，也覺得當(dāng)老師是一件「挺好的事」。
在劉知遠看來，留在學(xué)校的人多多少少都有些情懷在其中，畢竟工業(yè)界所給的待遇也不差，而且隨著近年來的人工智能熱，擁有深厚學(xué)術(shù)沉淀的博士生也同樣是炙手可熱的香餑餑?！府?dāng)老師這件事，但凡你稍微有點不確定，你可能也就做不了老師了?！?/p>
在學(xué)校，同學(xué)們都親切地叫他「劉導(dǎo)」，實際上并不是「導(dǎo)師」、「博導(dǎo)」的意思，而是「輔導(dǎo)員」。從本科的時候，劉知遠就開始參與學(xué)院的行政事務(wù)，研究生階段當(dāng)起了輔導(dǎo)員，留校后，這個工作還一直伴隨著他，便有了這個簡稱。
在雷鋒網(wǎng) AI 科技評論筆者看來，輔導(dǎo)員的工作非常繁瑣，實際上是一個吃力不討好的活兒。劉知遠是這樣回應(yīng)的，「我覺得，如果你做的事是有意義的，其實（當(dāng)輔導(dǎo)員這件事）還挺好。本來你在高校的目的就是為了培養(yǎng)人，如果能做一些對同學(xué)有益的事情，這也就是你在學(xué)校的意義?！?/p>
「這也是我『好為人師』的一種體現(xiàn)吧，」劉知遠在整個采訪中提了兩次這個詞。還有一次，是他用來形容自己玩知乎的動機時提及的。
劉知遠玩知乎已經(jīng)快四年了，不少人認識劉知遠也同樣是因為知乎。截至目前，劉知遠擁有超過 25000 名關(guān)注者，收獲了 22206 次贊同，包括 3666 次感謝和 11109 次收藏，并被知乎認證為「自然語言處理、深度學(xué)習(xí)、機器學(xué)習(xí)的優(yōu)秀回答者」，儼然成為了知乎上的一名「網(wǎng)紅」。
其實，劉知遠一開始在知乎上只是看看別人有信息量的回答，了解一些自己不知道的東西?！钙鋵嵞氵@一生都不見得會去經(jīng)歷別的領(lǐng)域的一些事情，那么別人把自己的經(jīng)歷告訴你了，我覺得挺有意思的。那么假如你知道一些事情，把它分享給別人，而且對方也得到了幫助，我覺得挺有意思的。這也算是『好為人師』的一種吧。」
近兩年來，劉知遠開始比較頻繁地在知乎上回答問題。在共計 389 個回答中，劉知遠的回答主要是圍繞 NLP 等學(xué)術(shù)問題的探討，也有對清華、計算機學(xué)科的一些評價。雖然偶爾也愛抖抖機靈，但劉知遠自認是一個「三觀比較正」的人，或許也是因為如此，他的回答也得到了不少認可，關(guān)注者也越來越多。
劉知遠也笑稱，大家欽羨的「高產(chǎn)」其實是一種誤解，只不過是因為他把玩知乎當(dāng)作了自己的一種愛好，而其它人花在娛樂休閑上的時間，于他而言就是花在知乎上回答問題了。
在劉知遠的不少回答中，時常能看到他引經(jīng)據(jù)典、旁征博引，這一點從他的辦公桌一角得到了證明。除了字典、教科書等工具書外，各種散文、小說也是?？?。2016 年，在一個題為「有哪些值得購買其大部分作品的作家？」的知乎問題中，劉知遠是這樣回答的：「魯迅，所有的小說，散文，雜文，史論，書信，都很值得看?！苟B在書叢最頂端的，正是《魯迅全集》的第一部，書簽夾在全書中間的位置。
在以前，劉知遠會「刻意地」閱讀經(jīng)典書目，甚至還會嘗試閱讀一些比較學(xué)究的歷史古籍。但現(xiàn)在，他將看書當(dāng)作是一種「享受的過程」，不再刻意把閱讀當(dāng)作目標(biāo)?！高@樣不那么費腦，比較舒服?！箘⒅h告訴雷鋒網(wǎng) AI 科技評論，他對自己目前的生活感到「挺充實、挺滿意的」。說完，他拿起星巴克馬克杯喝了一口水。因為經(jīng)常喝咖啡，杯沿的咖啡漬看起來有一些歷史了。
劉知遠今天穿得比較正式，因為在采訪結(jié)束后，他還需要去做嘉賓的接待工作。但在熟悉的 FIT 樓實驗室里，腳上的一雙深藍色拖鞋「出賣」了他。提起這個，他不好意思地笑笑，「我們到實驗室基本就這樣，便裝還是比較輕松舒服。」
處于一種努力、充實而不失舒適的狀態(tài)——這也許才是一個更真實的劉知遠吧。
頭圖 via www. phdcomics.com
AI慕課學(xué)院近期推出了《NLP工程師入門實踐班：基于深度學(xué)習(xí)的自然語言處理》課程!
三大模塊，五大應(yīng)用，海外博士講師手把手教你入門NLP，更有豐富項目經(jīng)驗相授；算法+實踐，搭配典型行業(yè)應(yīng)用；隨到隨學(xué)，專業(yè)社群，講師在線答疑！
課程地址：http://www.mooc.ai/course/427
加入AI慕課學(xué)院人工智能學(xué)習(xí)交流QQ群：624413030，與AI同行一起交流成長
相關(guān)文章：
清華大學(xué)團隊開源OpenKE與OpenNE工具包，助力NLP系統(tǒng)梳理
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
