0
本文作者: sanman | 2018-08-03 18:42 |
雷鋒網(wǎng) AI 科技評(píng)論按:類比推理是反映語(yǔ)言規(guī)則的一種高效方式,本文將介紹一種漢語(yǔ)語(yǔ)言推理任務(wù),論文作者來(lái)自北京師范大學(xué)和中國(guó)人民大學(xué),論文題為:漢語(yǔ)形態(tài)語(yǔ)義關(guān)系的類比推理(論文地址:http://aclweb.org/anthology/P18-2023)。該論文在 ACL 2018大會(huì)上發(fā)表,相關(guān)資源在Github發(fā)布后獲得了超過(guò)2000星好評(píng)。雷鋒網(wǎng)將論文內(nèi)容概括如下(感謝論文作者對(duì)本文的審核和修改)。
類比推理可以很好地刻畫語(yǔ)言規(guī)則,舉例說(shuō)明,「人」等價(jià)于person,「人人」則等價(jià)于英文的 every person,那么如果「天」代表 day,我們就可以類比推理「天天」代表 every day。目前類比推理也是評(píng)估詞嵌入的一個(gè)可靠方法。類比推理還可以用于詞形轉(zhuǎn)換、語(yǔ)義關(guān)系探測(cè)和翻譯未知詞等任務(wù)。但是不同語(yǔ)言之間擁有很大的形態(tài)差異,類比推理針對(duì)各個(gè)語(yǔ)言的研究也不盡相同。以漢語(yǔ)來(lái)說(shuō),漢語(yǔ)是公認(rèn)的缺乏詞形變化的分析性語(yǔ)言。目前漢語(yǔ)類比推理的相關(guān)工作也屈指可數(shù),僅有的中文類比數(shù)據(jù)集也只是英文數(shù)據(jù)集的部分翻譯,且數(shù)據(jù)規(guī)模較小,只包含 134個(gè) 中文詞,并且不涉及到任何語(yǔ)法知識(shí)。因此,作者團(tuán)隊(duì)決定深入研究漢語(yǔ)類比推理,并且發(fā)布了一個(gè)標(biāo)準(zhǔn) benchmark 用以評(píng)估中文詞嵌入(附帶 100 多個(gè)開源預(yù)訓(xùn)練嵌入)。
在詞法關(guān)系方面,作者主要研究了兩個(gè)內(nèi)容,一是重疊(Reduplication),二是半詞綴(Semi-affixation)。所謂重疊就是詞語(yǔ)中的部分漢字以一定的形式發(fā)生重疊,從而引起語(yǔ)法或語(yǔ)義差異,作者總結(jié)出六種重疊模式,如下圖所示。
以 A-A 為例,對(duì)于漢語(yǔ)中的名詞來(lái)說(shuō),這種結(jié)構(gòu)可以表示“親屬關(guān)系”(爸->爸爸)或者表示“每一個(gè)”(天->天天),對(duì)于動(dòng)詞來(lái)說(shuō),這種結(jié)構(gòu)可以表示動(dòng)作時(shí)間短暫或嘗試(看->看看),這種結(jié)構(gòu)還能將形容詞轉(zhuǎn)為副詞(深->深深)。
由于漢語(yǔ)缺乏典型的詞綴,一些成分既發(fā)揮了類似詞綴的作用同時(shí)又能當(dāng)作獨(dú)立使用的語(yǔ)素,這些成分按劉月華老師的觀點(diǎn)稱之為半詞綴。目前作者團(tuán)隊(duì)總結(jié)了 21 個(gè)半前綴,和 41 個(gè)半后綴。例如,半前綴可以將數(shù)詞變?yōu)樾驍?shù)詞,如「第」(一->第一),半后綴還有將形容詞名詞化的能力,如「子」(胖->胖子)
在語(yǔ)義關(guān)系方面,作者團(tuán)隊(duì)從地理、歷史、自然和人物四個(gè)方面提出了 28 種語(yǔ)義關(guān)系。舉個(gè)地域方面的例子,「浙江」是省名,「浙」是「浙江」簡(jiǎn)稱,「杭州」是「浙江」省會(huì),「越劇」是「浙江」代表戲劇,這就是他們之間的語(yǔ)義關(guān)系。通過(guò)語(yǔ)義關(guān)系可以形成類比問(wèn)題(如「皖」是「安徽」的省會(huì),那么「浙」是哪個(gè)省的省會(huì)?)。
為了滿足漢語(yǔ)類比推理任務(wù)的要求,作者團(tuán)隊(duì)自建了 CA8 數(shù)據(jù)集(共17813 個(gè)問(wèn)題),包含大量的類比問(wèn)題,對(duì)語(yǔ)法和語(yǔ)義都有涉及。CA8 相較于之前翻譯自英文數(shù)據(jù)集的 CA_translated 有很大改進(jìn)。如下圖所示。
最后,作者的實(shí)驗(yàn)基于 68 種形態(tài)關(guān)系和 28 種語(yǔ)義關(guān)系,他們采用基于詞向量的計(jì)算方法來(lái)挑戰(zhàn)這個(gè)任務(wù)。實(shí)驗(yàn)結(jié)果表明,向量表示模型、上下文特征和訓(xùn)練語(yǔ)料庫(kù)都對(duì)漢語(yǔ)類比推理有重要影響。同時(shí)實(shí)驗(yàn)也證明了 CA8 的確是評(píng)價(jià)漢語(yǔ)詞嵌入的可靠 benchmark。 CA8 和同期發(fā)布的上百種中文詞向量資源將成為漢語(yǔ) NLP 任務(wù)的堅(jiān)實(shí)基礎(chǔ)。論文相關(guān)資源和代碼在Github發(fā)布以來(lái),已獲得超過(guò)2000星,是今年NLP領(lǐng)域最受歡迎的項(xiàng)目之一。
以上就是雷鋒網(wǎng)對(duì)于這篇論文的全部介紹。
詳情請(qǐng)查看論文:http://aclweb.org/anthology/P18-2023
Github項(xiàng)目:https://github.com/Embedding/Chinese-Word-Vectors
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。