0
本文作者: AI科技評論 | 2020-06-19 10:33 | 專題:ACL 2019 |
2020年4月3日,NLP 頂會 ACL 2020 公布錄用論文以來,AI科技評論相繼與哈工大、復(fù)旦大學(xué)、清華大學(xué)重磅推出了足足五期「系列解讀」直播活動,受到廣大師生的關(guān)注和好評。
第二期:ACL 2020 - 復(fù)旦大學(xué)系列解讀
第四期:ACL 2020 - 清華大學(xué) THUNLP 系列解讀
接下來,AI 科技評論又將攜手誰,將 ACL「系列解讀」直播活動進(jìn)行到底呢?
答案就是:東北大學(xué)自然語言處理實驗室!
在 NLP 領(lǐng)域,東北大學(xué)自然語言處理實驗室一直都是一個不容忽視的存在。1980年,在姚天順教授和王寶庫教授的主導(dǎo)下,東北大學(xué)自然語言處理實驗室正式成立,后經(jīng)其弟子朱靖波教授的發(fā)揚(yáng)光大,在 ACL、EMNLP 、IJCAI 等國際學(xué)術(shù)頂會上都少不了東北大學(xué)自然語言處理實驗室?guī)熒纳碛啊Ec此同時,實驗室更是培養(yǎng)出了一大批 NLP 領(lǐng)域的頂尖人才,其中就包括接下朱靖波教授的衣缽,現(xiàn)任自然語言處理實驗室主任的肖桐副教授。
這次將為大家?guī)?ACL 工作分享的,便是朱靖波教授和肖桐副教授的兩位門生!
6月22日,東北大學(xué)自然語言處理實驗室博士生李垠橋?qū)碇黝}為“基于擴(kuò)展搜索空間的網(wǎng)絡(luò)結(jié)構(gòu)搜索方法”的分享,他在ACL、IJCAI等會議期刊發(fā)表論文若干,也曾多次參與 WMT、CWMT等機(jī)器翻譯評測任務(wù),主要研究方向為網(wǎng)絡(luò)結(jié)構(gòu)搜索、語言建模以及機(jī)器翻譯等。
接著在6月23日,同實驗室的博士生李北也將帶來這次在ACL 的工作:"多編碼器是否能夠有效幫助篇章級翻譯模型捕獲上下文信息"。他的頂會論文發(fā)表經(jīng)歷同樣豐富,先后在ACL、WMT、NLPCC、CCMT、中文信息學(xué)報等會議期刊發(fā)表學(xué)術(shù)論文若干,也曾屢次參加WMT、CWMT等機(jī)器翻譯評測。研究方向包括神經(jīng)機(jī)器翻譯、深層網(wǎng)絡(luò)建模,篇章級翻譯,解碼加速等。
就在不久前,由朱靖波、肖桐兩位老師編著《機(jī)器翻譯:統(tǒng)計建模與深度學(xué)習(xí)方法》教程為大家呈上了一份超贊的學(xué)習(xí)資源,引起了廣大學(xué)生的叫好!想要了解兩位 NLP 大佬最新工作的小伙伴們,自然也不要錯過這兩場直播哦!
第一期:基于擴(kuò)展搜索空間的網(wǎng)絡(luò)結(jié)構(gòu)搜索方法
分享嘉賓:李垠橋
分享背景:
網(wǎng)絡(luò)結(jié)構(gòu)搜索是目前機(jī)器學(xué)習(xí)領(lǐng)域中的一項研究熱點(diǎn),旨在能夠讓模型能夠像學(xué)習(xí)網(wǎng)絡(luò)參數(shù)一樣自動地對模型結(jié)構(gòu)進(jìn)行搜索。在本次公開課中,講者將對網(wǎng)絡(luò)結(jié)構(gòu)搜索的歷史以及整體框架進(jìn)行介紹,同時分享一種通過擴(kuò)大模型結(jié)構(gòu)搜索空間的方式提升搜索到的模型性能的方法,該項工作被收錄在ACL 2020會議中。
分享提綱:
1、從“人工”到“自動”的突圍
2、網(wǎng)絡(luò)結(jié)構(gòu)搜索的整體框架
3、基于拓展搜索空間的網(wǎng)絡(luò)結(jié)構(gòu)搜索方法
分享時間:(北京時間)6月22日(星期一)20:00
第二期:多編碼器是否能夠有效幫助篇章級翻譯模型捕獲上下文信息?
分享嘉賓:李北
分享背景:
篇章級機(jī)器翻譯是目前比較熱門的一個研究話題,通過捕獲句子間的上下文聯(lián)系得到更為流暢、連貫的譯文。本次報告針對篇章級翻譯的建模手段進(jìn)行簡要的介紹,同時結(jié)合實驗驗證了多編碼器在篇章級任務(wù)上性能的提升并不是來源于上下文編碼器對篇章級語義信息的編碼,其更像是一個噪聲生成器,為模型的訓(xùn)練提供了額外的訓(xùn)練信號。其次,在解碼階段屏蔽上下文編碼器對BLEU并沒有影響,進(jìn)一步證明了上下文編碼器在訓(xùn)練中類似于dropout作用。本文已被ACL 2020收錄。
分享提綱:
1. 篇章級機(jī)器翻譯的建模方法
2. 上下文編碼器在訓(xùn)練中起到了正則化的作用
3. 提出了一種基于高斯噪聲的正則化訓(xùn)練手段
分享時間:(北京時間)6月23日(星期二)20:00
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。