0
本文作者: 汪思穎 | 2018-07-15 16:49 | 專題:ACL 2018 |
雷鋒網(wǎng) AI 科技評(píng)論按:繼 2017 年的溫哥華之旅后,ACL 2018 在澳大利亞墨爾本舉辦,舉辦地點(diǎn)為墨爾本會(huì)展中心,也是 IJCAI2017 舉辦地。
今天是大會(huì) tutorial 環(huán)節(jié),雖然主會(huì)在明天召開(kāi),但作為計(jì)算機(jī)語(yǔ)言學(xué)和自然語(yǔ)言處理領(lǐng)域最頂尖的會(huì)議之一,tutorial 也吸引到不少參會(huì)者前來(lái)注冊(cè)。從引導(dǎo)大家進(jìn)入會(huì)場(chǎng)的指示牌上可以看到眾多熟悉的國(guó)內(nèi)企業(yè),如字節(jié)跳動(dòng)為大會(huì)鉆石贊助商,此外,百度、京東、騰訊、華為等企業(yè)也赫然在列。
作為 ACL 延續(xù)至今的傳統(tǒng),tutorial 旨在幫助領(lǐng)域新手了解計(jì)算機(jī)語(yǔ)言學(xué)與自然語(yǔ)言處理的最新進(jìn)展以及核心技術(shù),促進(jìn)大家相互交流與探討。今年的 Tutorial 主席為康奈爾大學(xué)的 Yoav Artzi 和佐治亞理工學(xué)院的 Jacob Eisenstein,據(jù)介紹,今年的 tutorial 選擇參照了質(zhì)量、相關(guān)性、興趣以及平衡四個(gè)度量。
相較去年的六個(gè)議程,今年增加到八個(gè)。
上午的四個(gè)議題分別為:
100 件你總想知道但卻害怕去問(wèn)的語(yǔ)義學(xué)&語(yǔ)用學(xué)知識(shí)
對(duì)話 AI 系統(tǒng)的神經(jīng)網(wǎng)絡(luò)方法
變分推理和深度生成模型
將語(yǔ)言和視覺(jué)與行動(dòng)聯(lián)系起來(lái)
下午的四個(gè)議題分別為:
超越多詞表達(dá)的方法:處理習(xí)語(yǔ)和隱喻
神經(jīng)語(yǔ)義分析
NLP 中的深度強(qiáng)化學(xué)習(xí)
多語(yǔ)言實(shí)體發(fā)現(xiàn)和鏈接
相較于去年深度學(xué)習(xí)占據(jù)絕大多數(shù)議題,今年的內(nèi)容則更加多樣化,如語(yǔ)言與視覺(jué)、語(yǔ)義&語(yǔ)用學(xué)知識(shí)、多語(yǔ)言實(shí)體等。雷鋒網(wǎng) AI 科技評(píng)論在現(xiàn)場(chǎng)看到,最受歡迎的議題有上午的 Neural Approaches to Conversational AI 和下午的 Deep Reinforcement Learning for NLP,引發(fā)眾多參會(huì)人員關(guān)注。目前,tutorial PPT 大多已經(jīng)公布,想要了解更多的同學(xué)及研究人員,可以在會(huì)議官網(wǎng)進(jìn)行下載。(注:4 *8 個(gè)小時(shí)的 tutorials,上千張 PPT,相信一定會(huì)為大家開(kāi)啟新世界的大門)
以下為雷鋒網(wǎng) AI 科技評(píng)論對(duì)這八個(gè)議題的簡(jiǎn)要介紹:
Tutorial 1:100 Things You Always Wanted to Know about Semantics & Pragmatics But Were Afraid to Ask
地址:http://faculty.washington.edu/ebender/papers/Bender-ACL2018-tutorial.pdf
meaning 是自然語(yǔ)言處理 (NLP) 中的一個(gè)基本概念,NLP 的目標(biāo)是建立一個(gè)能向你表達(dá)、理解你的表達(dá)的系統(tǒng)。為了使 NLP 能從解決部分特定任務(wù)應(yīng)用到更為廣泛的領(lǐng)域,它必須了解人類如何使用語(yǔ)言來(lái)表達(dá)和理解社交意圖。這一 tutorial 的目的是提供一些有用的語(yǔ)義學(xué)和語(yǔ)用學(xué)信息。
Tutorial 2:Neural Approaches to Conversational AI
將闡述近幾年來(lái)對(duì)話人工智能系統(tǒng)上基于神經(jīng)網(wǎng)絡(luò)方法。對(duì)話系統(tǒng)分為三類:?jiǎn)柎鹬悄荏w;任務(wù)導(dǎo)向型智能體;社交機(jī)器人,在這一 tutorial 上會(huì)回顧最先進(jìn)的神經(jīng)網(wǎng)絡(luò)方法,在基于神經(jīng)網(wǎng)絡(luò)的方法和傳統(tǒng)符號(hào)方法之間建立聯(lián)系,使用特定的系統(tǒng)和模型作為研究案例,來(lái)討論我們所取得的進(jìn)展和面臨的挑戰(zhàn)。
Tutorial 3:Variational Inference and Deep Generative Models
地址:https://github.com/philschulz/VITutorial#general
這一 tutorial 將對(duì)變分推理進(jìn)行介紹,對(duì)如何使用變分方法來(lái)訓(xùn)練深度生成模型(DGMs)進(jìn)行了詳細(xì)講解,包括一系列實(shí)際案例。同時(shí),將提及這些學(xué)習(xí)算法所需的數(shù)學(xué)背景,提供實(shí)現(xiàn)指南。也將介紹連續(xù)和離散變量模型。
Tutorial 4:Connecting Language and Vision to Actions
地址:https://lvatutorial.github.io/
這一 tutorial 將介紹結(jié)合文本和視覺(jué)理解的多模式任務(wù)和數(shù)據(jù)集,會(huì)為大家?guī)?lái)現(xiàn)有的 image captioning、視覺(jué)問(wèn)題回答 (VQA) 和視覺(jué)對(duì)話等任務(wù)的最先進(jìn)技術(shù),評(píng)價(jià)訓(xùn)練模型時(shí)主要的模塊 (如 co-attention ) 和一些最新算法 (如一些合作/對(duì)抗博弈)。然后,將討論結(jié)合語(yǔ)言、視覺(jué)和動(dòng)作在當(dāng)前面臨的挑戰(zhàn)和即將面臨的挑戰(zhàn),并介紹一些最新發(fā)布的用于此類研究的交互式 3D 模擬環(huán)境。
Tutorial 5:Beyond Multiword Expressions: Processing Idioms and Metaphors
Tutorial 主講人 Valia Kordoni 表示,這一 tutorial 的目標(biāo)受眾是機(jī)器學(xué)習(xí)、解析 (句法和語(yǔ)義) 和語(yǔ)言技術(shù)方面的研究人員和實(shí)踐者,并不一定需要是習(xí)語(yǔ)和隱喻方面的專家。這一 tutorial 的目的是建立與會(huì)者對(duì)如下幾點(diǎn)的清晰認(rèn)知:習(xí)語(yǔ)和隱喻的語(yǔ)言特點(diǎn);使用當(dāng)前領(lǐng)先 NLP 技術(shù)的習(xí)語(yǔ)和隱喻計(jì)算模型;深度學(xué)習(xí)和自然語(yǔ)言處理之間的相關(guān)性;未來(lái)將要做的一系列工作。
Tutorial 6:Neural Semantic Parsing
地址:https://github.com/allenai/acl2018-semantic-parsing-tutorial(待更新)
語(yǔ)義分析是將自然語(yǔ)言表達(dá)翻譯成機(jī)器可執(zhí)行的符號(hào)的研究,已有很多成熟應(yīng)用,如問(wèn)答系統(tǒng)、語(yǔ)音助手和代碼生成等等。在過(guò)去的兩年間,隨著神經(jīng)編解碼方法的引入,語(yǔ)義分析模型發(fā)生了巨大的變化,我們得以重新思考許多先前對(duì)語(yǔ)義分析的假設(shè)。
這一 tutorial 將描述研究人員采用的各種對(duì)語(yǔ)義分析的研究,還將評(píng)估語(yǔ)義分析器所使用的正式語(yǔ)言,并探討為什么最近的工作會(huì)選擇使用標(biāo)準(zhǔn)的編程語(yǔ)言而不是更多語(yǔ)言驅(qū)動(dòng)的表示。然后,將描述語(yǔ)義分析的一個(gè)極具挑戰(zhàn)的設(shè)置——在將自然語(yǔ)言轉(zhuǎn)換為正式語(yǔ)言時(shí),解析器必須考慮額外的上下文或交互,接下來(lái)將描述這方面的最新工作。最后,將介紹 AllenNLP 用于語(yǔ)義分析研究的一些工具。
Tutorial 7:Deep Reinforcement Learning for NLP
地址:https://www.cs.ucsb.edu/~william/papers/ACL2018DRL4NLP.pdf
許多自然語(yǔ)言處理 (NLP) 任務(wù) (包括生成、推理、信息提取、關(guān)聯(lián)解析和對(duì)話等) 都可以表示為深度強(qiáng)化學(xué)習(xí) (deep reinforcement learning, DRL) 問(wèn)題。然而,由于語(yǔ)言往往是離散的,所有句子的空間都是無(wú)限的,因此在將 NLP 任務(wù)構(gòu)想為強(qiáng)化學(xué)習(xí)問(wèn)題時(shí)存在許多挑戰(zhàn)。在這次 tutorial 上,將介紹 NLP 中一些實(shí)用的 DRL 解決方案。我們描述了在 NLP 中設(shè)計(jì)深度強(qiáng)化學(xué)習(xí)算法方面的最新進(jìn)展,特別關(guān)注于生成、對(duì)話和信息提取。最后,我們討論了這些算法成功及失敗的原因,旨在提供一些關(guān)于深度強(qiáng)化學(xué)習(xí)的實(shí)用建議,以解決實(shí)際的 NLP 問(wèn)題。
Tutorial 8:Multi-lingual Entity Discovery and Linking
地址:https://sites.google.com/view/xlingedl/home/tutorial-materials(待更新)
本 tutorial 的主要目標(biāo)是評(píng)估跨語(yǔ)言 EL 框架。會(huì)先討論傳統(tǒng)的 EL 技術(shù)和度量,然后,將介紹更近的方法,如神經(jīng) EL(Neural EL),將評(píng)估最先進(jìn)的神經(jīng) EL 系統(tǒng)的基本模塊,分析當(dāng)前一些關(guān)于英文 EL 的結(jié)果。然后,將回到跨語(yǔ)言 EL,討論一些在多種語(yǔ)言間使用的方法。特別地,主講人會(huì)討論和比較使用多語(yǔ)言詞嵌入的多種方法,最后,還將討論跨語(yǔ)言 EL 在搜索引擎和商業(yè)產(chǎn)品銷售應(yīng)用程序等各種 App 中的應(yīng)用。
以上就是對(duì)今天 tutorial 的全部介紹,選取 Neural Approaches to Conversational AI 上一張有意思的 PPT 分享給大家:
在 tutorial 結(jié)束后,接下來(lái)是 welcome reception 接待環(huán)節(jié)。第一天的議程就此落下帷幕,正會(huì)即將于明天召開(kāi),敬請(qǐng)期待雷鋒網(wǎng) AI 科技評(píng)論帶來(lái)的報(bào)道。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
本專題其他文章