AI科技評(píng)論按：2020年9月6日，中國(guó)計(jì)算機(jī)學(xué)會(huì)自然語(yǔ)言處理專(zhuān)業(yè)委員會(huì)（CCF-NLP）發(fā)起、聯(lián)合AI研習(xí)社及各個(gè)知名高校開(kāi)展的“CCF-NLP走進(jìn)高校”系列高校NLP研究分享報(bào)告會(huì)——華南理工大學(xué)站，通過(guò)線上直播的方式進(jìn)行。
本期報(bào)告會(huì)邀請(qǐng)了華為諾亞方舟實(shí)驗(yàn)室首席科學(xué)家劉群、北京大學(xué)王選計(jì)算機(jī)研究所研究員&博士生導(dǎo)師趙東巖、天津大學(xué)張梅山副教授三位特邀報(bào)告嘉賓，北京大學(xué)語(yǔ)言計(jì)算與互聯(lián)網(wǎng)挖掘研究室負(fù)責(zé)人&自然語(yǔ)言處理專(zhuān)業(yè)委員會(huì)秘書(shū)長(zhǎng)萬(wàn)小軍教授和西湖大學(xué)特聘研究員張?jiān)澜淌?/span>主持了本次報(bào)告會(huì)。在本次報(bào)告會(huì)上，專(zhuān)家們圍繞預(yù)訓(xùn)練語(yǔ)言模型、跨語(yǔ)言遷移學(xué)習(xí)做了精彩報(bào)告，在AI研習(xí)社、Bilibili等平臺(tái)上觀看的用戶合計(jì)4.2萬(wàn)人次，報(bào)告會(huì)反響熱烈。此外，本次活動(dòng)?xùn)|道主華南理工大學(xué)組織了部分學(xué)生進(jìn)行了線下報(bào)告聽(tīng)講交流。
自然語(yǔ)言處理專(zhuān)業(yè)委員會(huì)主任、蘇州大學(xué)NLP帶頭人周?chē)?guó)棟教授作為開(kāi)場(chǎng)嘉賓分別作了開(kāi)場(chǎng)介紹。周?chē)?guó)棟教授首先對(duì)組織者的準(zhǔn)備以及報(bào)告嘉賓的到來(lái)表示熱烈的歡迎和衷心的感謝，并指出，以自然語(yǔ)言處理為代表的人工智能技術(shù)受到了學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注，第一期CCF-NLP走進(jìn)高校報(bào)告會(huì)在華南理工大學(xué)召開(kāi)，可謂正當(dāng)其時(shí)、恰逢其勢(shì)。隨后，另一位開(kāi)場(chǎng)嘉賓、東道主華南理工大學(xué)蔡毅教授也介紹了華南理工大學(xué)及其團(tuán)隊(duì)在NLP領(lǐng)域的研究情況。
接下來(lái)的報(bào)告環(huán)節(jié)中首先進(jìn)行分享的是華為諾亞方舟實(shí)驗(yàn)室首席科學(xué)家劉群，報(bào)告題目為《預(yù)訓(xùn)練語(yǔ)言模型研究進(jìn)展》。
劉群老師介紹了預(yù)訓(xùn)練語(yǔ)言模型的發(fā)展歷程，并結(jié)合諾亞方舟開(kāi)發(fā)自研的預(yù)訓(xùn)練語(yǔ)言模型哪吒（NEZHA）的技術(shù)特色介紹了諾亞方舟實(shí)驗(yàn)室的中文預(yù)訓(xùn)練語(yǔ)言模型的具體工作，包括用概率掩碼的預(yù)訓(xùn)練語(yǔ)言模型同時(shí)實(shí)現(xiàn)自然語(yǔ)言的理解和任意詞序的生成；通過(guò)擾動(dòng)掩碼實(shí)現(xiàn)基于BERT的無(wú)監(jiān)督句法分析；兩個(gè)模型壓縮的工作TinyBERT（預(yù)訓(xùn)練語(yǔ)言模型的極限壓縮）和DynaBERT（動(dòng)態(tài)可伸縮的預(yù)訓(xùn)練語(yǔ)言模型）。在報(bào)告結(jié)束后劉群老師還就聽(tīng)眾提出的常規(guī)方法研究的前景、掩碼概率的調(diào)節(jié)、預(yù)訓(xùn)練模型在自然語(yǔ)言推斷（NLI）任務(wù)方面的效果、大模型中間層蒸餾的效果等問(wèn)題進(jìn)行了解答。（具體分享內(nèi)容可進(jìn)入文末報(bào)告會(huì)視頻回放頁(yè)面進(jìn)行了解）
在劉群老師之后，北京大學(xué)王選計(jì)算機(jī)研究所研究員，博士生導(dǎo)師趙東巖進(jìn)行了題為《基于知識(shí)的文本語(yǔ)義理解與文本生成》的報(bào)告。報(bào)告共分為三個(gè)部分進(jìn)行，分別是知識(shí)圖譜的研究背景、基于知識(shí)的文本語(yǔ)義理解與生成及應(yīng)用實(shí)例。趙東巖教授從類(lèi)人智能研究動(dòng)態(tài)開(kāi)始，引出基于知識(shí)圖譜的語(yǔ)義理解技術(shù)與研究工作，進(jìn)而講解基于知識(shí)圖譜的智能應(yīng)用，并重點(diǎn)介紹了知識(shí)圖譜的動(dòng)態(tài)構(gòu)建、事件抽取、新聞事件觸發(fā)的知識(shí)更新、知識(shí)圖譜的融合并探討了如何基于知識(shí)圖譜理解語(yǔ)義，進(jìn)而實(shí)現(xiàn)智能問(wèn)答等智能應(yīng)用的理論方法和技術(shù)路線，最后介紹了北京大學(xué)王選計(jì)算機(jī)研究所在這個(gè)研究方向上的具體進(jìn)展，包括高考因果類(lèi)問(wèn)題解答、融合多種知識(shí)資源的事實(shí)類(lèi)問(wèn)題求解和智能投資助手等。在問(wèn)答環(huán)節(jié)，趙東巖教授也回答了聽(tīng)眾關(guān)于構(gòu)建常識(shí)性的知識(shí)圖譜的方法、結(jié)合多模態(tài)的知識(shí)對(duì)知識(shí)圖譜進(jìn)行擴(kuò)展等問(wèn)題，用多模態(tài)信息來(lái)獲取知識(shí)并輔助解決“雞兔同籠”等傳統(tǒng)方法難以解決問(wèn)題的例子也給聽(tīng)眾留下了深刻印象。最后一位進(jìn)行報(bào)告的天津大學(xué)張梅山副教授的報(bào)告主題為《基于翻譯的無(wú)監(jiān)督跨語(yǔ)言遷移學(xué)習(xí)》。
跨語(yǔ)言遷移學(xué)習(xí)是解決資源稀缺語(yǔ)言自然語(yǔ)言處理的一個(gè)非常有效的方法，對(duì)于某個(gè)特定的任務(wù)，我們假定在例如英語(yǔ)這種資源豐富語(yǔ)言上存在一定規(guī)模的標(biāo)注語(yǔ)料，然后輔助一個(gè)機(jī)器翻譯系統(tǒng)，便可以為目標(biāo)語(yǔ)言提供自動(dòng)構(gòu)建的訓(xùn)練語(yǔ)料，從而指導(dǎo)目標(biāo)資源稀缺語(yǔ)言的模型訓(xùn)練。在報(bào)告中，張梅山副教授介紹了兩個(gè)任務(wù)的相關(guān)工作，分別針對(duì)依存句法分析和語(yǔ)義角色標(biāo)注，調(diào)研基于翻譯的方法在這兩個(gè)任務(wù)上面的有效性。
最后，萬(wàn)小軍教授進(jìn)行了活動(dòng)總結(jié)，并再次向參加活動(dòng)的各位專(zhuān)家學(xué)者表示感謝，并期待更多的專(zhuān)家、老師和同學(xué)能關(guān)注NLP領(lǐng)域的進(jìn)展。此后還將會(huì)有更多的高校加入CCF -NLP走進(jìn)高校系列活動(dòng)，第二場(chǎng)分享會(huì)已定于9月27日，走進(jìn)鄭州大學(xué)，更多分享會(huì)信息請(qǐng)持續(xù)關(guān)注AI科技評(píng)論。中國(guó)計(jì)算機(jī)學(xué)會(huì)自然語(yǔ)言處理專(zhuān)委會(huì)（CCF-NLP）1987年10月成立, 專(zhuān)委會(huì)成立之初即確定了“中國(guó)語(yǔ)言文字處理的計(jì)算機(jī)系統(tǒng)”和“以計(jì)算機(jī)為工具研究語(yǔ)言文字處理技術(shù)”兩個(gè)主要研究方向，主要包括（或涉及）中國(guó)各民族語(yǔ)言文字的自然語(yǔ)言處理、機(jī)器翻譯、信息抽取、數(shù)據(jù)挖掘、信息檢索、智能問(wèn)答、語(yǔ)音識(shí)別與合成、社會(huì)網(wǎng)絡(luò)計(jì)算等眾多學(xué)術(shù)領(lǐng)域，以及中文計(jì)算，即中國(guó)語(yǔ)言文字處理的應(yīng)用技術(shù)領(lǐng)域。專(zhuān)委會(huì)致力于團(tuán)結(jié)、聯(lián)合、組織中文信息技術(shù)相關(guān)領(lǐng)域的各界專(zhuān)業(yè)人士，開(kāi)展學(xué)術(shù)/技術(shù)交流、發(fā)展戰(zhàn)略研究、專(zhuān)業(yè)技術(shù)標(biāo)準(zhǔn)制定、專(zhuān)業(yè)技術(shù)評(píng)測(cè)、專(zhuān)業(yè)培訓(xùn)等相關(guān)活動(dòng)，提高中文信息技術(shù)領(lǐng)域的科研、教學(xué)、應(yīng)用水平，促進(jìn)研究成果的應(yīng)用和向產(chǎn)品的轉(zhuǎn)化，提升在國(guó)家科技活動(dòng)和國(guó)際學(xué)術(shù)方面的影響力。為了促進(jìn)更多師生對(duì)自然語(yǔ)言處理前沿進(jìn)展的了解，幫助在校計(jì)算機(jī)及相關(guān)專(zhuān)業(yè)大學(xué)生成長(zhǎng)和發(fā)展，CCF-NLP致力于讓領(lǐng)域內(nèi)的權(quán)威大牛們走進(jìn)更多的高校，與師生進(jìn)行溝通和交流。這是成為我國(guó)NLP領(lǐng)域發(fā)展的迫切需求。自然語(yǔ)言處理專(zhuān)委會(huì)為此將舉辦一系列 CCF -NLP走進(jìn)高校系列活動(dòng)。CCF-NLP后續(xù)還將與更多高校合作，繼續(xù)召開(kāi)一系列的“走進(jìn)高校”分享活動(dòng)，進(jìn)一步促進(jìn)各高校之間的學(xué)術(shù)交流，推動(dòng)科研合作發(fā)展，為 NLP 的研究添磚加瓦。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
