0
本文作者: skura | 2020-01-16 10:10 |
神經(jīng)網(wǎng)絡(luò)為建模語(yǔ)言提供了強(qiáng)大的新工具,并已被用于解決很多過(guò)去不容易解決的新問(wèn)題。近日,CMU 2020年「神經(jīng)網(wǎng)絡(luò) NLP」課程開(kāi)課啦!對(duì)正在學(xué)習(xí)自然語(yǔ)言處理的同學(xué)們來(lái)說(shuō),這是一份不可多得的好資源。
課程內(nèi)容
卡內(nèi)基梅隆大學(xué)語(yǔ)言技術(shù)學(xué)院將從神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)要概述開(kāi)始,然后花大部分時(shí)間演示如何將神經(jīng)網(wǎng)絡(luò)應(yīng)用于解決自然語(yǔ)言問(wèn)題。每一節(jié)將介紹自然語(yǔ)言中的一個(gè)特殊問(wèn)題或現(xiàn)象,描述建模的難點(diǎn),并演示幾種用來(lái)解決這個(gè)問(wèn)題的模型。
該課程將涵蓋在創(chuàng)建神經(jīng)網(wǎng)絡(luò)模型中各種有用的技術(shù),包括處理大小不一的結(jié)構(gòu)化句子、高效處理大數(shù)據(jù)、半監(jiān)督和無(wú)監(jiān)督學(xué)習(xí)、結(jié)構(gòu)化預(yù)測(cè)和多語(yǔ)言建模。
需要具備的知識(shí)
參加學(xué)習(xí)的同學(xué),需要具備一定的 NLP 知識(shí),例如,n-gram 語(yǔ)言建模、CKY 解析、詞匯對(duì)齊等等。
具體日程安排
課程從 1 月 14 日開(kāi)始,到 4 月底結(jié)束,總時(shí)長(zhǎng)2個(gè)半月。具體安排如下:
2020 年 1 月 14 日:課程簡(jiǎn)介、Bag-of-words 模型、多層感知器
2020 年 1 月 16 日:序列標(biāo)記和語(yǔ)言建模
2020 年 1 月 21 日:用于文本的卷積神經(jīng)網(wǎng)絡(luò)
2020 年 1 月 23 日:用于句子或語(yǔ)言建模的遞歸網(wǎng)絡(luò)
2020 年 1 月 28 日:神經(jīng)網(wǎng)絡(luò)的高效技巧
2020 年 1 月 30 日:條件生成
2020 年 2 月 4 日:注意力機(jī)制
2020 年 2 月 6 日:分布詞義與詞向量
2020 年 2 月 11 日:句子和上下文單詞表示法
2020 年 2 月 13 日:調(diào)試神經(jīng)網(wǎng)絡(luò)
2020 年 2 月 18 日:具有本地獨(dú)立性假設(shè)的結(jié)構(gòu)化預(yù)測(cè)
2020 年 2 月 20 日:增量生成樹(shù)或圖
2020 年 2 月 25 日:動(dòng)態(tài)程序生成樹(shù)
2020 年 3 月 2 日:基于搜索的結(jié)構(gòu)化預(yù)測(cè)
2020 年 3 月 5 日:強(qiáng)化學(xué)習(xí)
2020 年 3 月 17 日:文本對(duì)抗方法
2020 年 3 月 19 日:潛在隨機(jī)變量
2020 年 3 月 24 日:無(wú)監(jiān)督和半監(jiān)督結(jié)構(gòu)化學(xué)習(xí)
2020 年 3 月 26 日:模型解釋
2020 年 3 月 31 日:客座講座
2020 年 4 月 2 日:客座講座
2020 年 4 月 7 日:知識(shí)圖譜
2020 年 4 月 9 日:神經(jīng)網(wǎng)絡(luò)機(jī)器閱讀
2020 年 4 月 14 日:多任務(wù)多語(yǔ)言學(xué)習(xí)模式
2020 年 4 月 23 日:高級(jí)搜索算法
2020 年 4 月 25 日:長(zhǎng)序列建模
課程網(wǎng)址:http://phontron.com/class/nn4nlp2020/index.html
感興趣的同學(xué)們,快快加入學(xué)習(xí)吧~
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。