0
雷鋒網(wǎng) AI 科技評(píng)論按：國(guó)際語(yǔ)言學(xué)會(huì)（ACL）下屬的 SIGDAT 小組主辦的自然語(yǔ)言處理頂級(jí)會(huì)議 EMNLP 2018 即將于 10 月 31 日到 11 月 4 日在比利時(shí)布魯塞爾舉行，另一個(gè)也有不小影響力的會(huì)議，ACL 下屬的 SIGNLL 主辦的計(jì)算自然語(yǔ)言學(xué)習(xí)會(huì)議 CoNLL 2018 也將與 EMNLP 共同召開(kāi)，時(shí)間為 10 月 31 日到 11 月 1 日。
10 月 30 日（美國(guó)時(shí)間 10 月 29 日），CoNLL 2018 大會(huì)公布了論文獎(jiǎng)。雷鋒網(wǎng) AI 科技評(píng)論介紹如下。
最佳論文獎(jiǎng)
Uncovering Divergent Linguistic Information in Word Embeddings with Lessons for Intrinsic and Extrinsic Evaluation
從本征評(píng)價(jià)和外部評(píng)價(jià)的對(duì)比中學(xué)習(xí)，揭開(kāi)詞嵌入中包含的多樣化語(yǔ)言信息
論文摘要：隨著單詞嵌入（word embeddings）近年來(lái)獲得巨大的成功，有人提出「并不存在完美的單詞表征」的觀(guān)點(diǎn)，因?yàn)椴煌哪Ｐ涂倳?huì)傾向于捕捉不同的語(yǔ)言成分，有時(shí)候甚至是互相沖突的成分， 比如語(yǔ)義還是句法，以及相似度還是關(guān)聯(lián)性。在這篇論文中，作者們表明了每種詞嵌入模型捕捉的信息實(shí)際上都比直接體現(xiàn)出的要多。無(wú)需任何額外的資源，一個(gè)改變模型的相似性順序的線(xiàn)性變換就可以讓它在這些方面展現(xiàn)出更好的表現(xiàn)，這為我們提供了新的視角來(lái)理解嵌入對(duì)多種語(yǔ)言信息的共同編碼。除此之外，作者們也探索了本征評(píng)價(jià)方法與外部評(píng)價(jià)方法之間的關(guān)系，他們發(fā)現(xiàn)所用的線(xiàn)性變換對(duì)后續(xù)任務(wù)產(chǎn)生的影響中，對(duì)于無(wú)監(jiān)督學(xué)習(xí)系統(tǒng)產(chǎn)生的影響比有監(jiān)督學(xué)習(xí)系統(tǒng)更大。
特別獎(jiǎng) - 受人類(lèi)語(yǔ)言學(xué)習(xí)和處理啟發(fā)法的最佳研究論文
Sequence Classification with Human Attention
利用人類(lèi)注意力的序列分類(lèi)
論文摘要：學(xué)習(xí)注意力函數(shù)需要非常大規(guī)模的數(shù)據(jù)，不過(guò)有很多自然語(yǔ)言處理任務(wù)都是對(duì)人類(lèi)行為的模擬，在這篇論文中作者們就表明人類(lèi)的注意力確實(shí)可以為 NLP 中的許多注意力函數(shù)提供一個(gè)不錯(cuò)的歸納偏倚。具體來(lái)說(shuō)，作者們根據(jù)人類(lèi)閱讀語(yǔ)料時(shí)的眼睛動(dòng)作追蹤數(shù)據(jù)估計(jì)出了「人類(lèi)注意力」，然后用它對(duì) RNN 網(wǎng)絡(luò)中的注意力函數(shù)進(jìn)行正則化。作者們的實(shí)驗(yàn)表明，人類(lèi)注意力在大量不同的任務(wù)中都帶來(lái)了顯著的表現(xiàn)提升，包括情感分析、語(yǔ)法錯(cuò)誤檢測(cè)以及暴力語(yǔ)言檢測(cè)。
更多 CoNLL 2018 及 EMNLP 2018 報(bào)道，請(qǐng)繼續(xù)關(guān)注雷鋒網(wǎng) AI 科技評(píng)論。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
