0
本文作者: 夏睿 | 2017-02-09 16:55 | 專題:AAAI 2017 |
雷鋒網(wǎng)-AI科技評(píng)論前線報(bào)道:美國(guó)太平洋時(shí)間2月8日早上8:30,在舊金山的AAAI 2017大會(huì)進(jìn)行了最佳論文的頒獎(jiǎng)典禮。最佳論文頒發(fā)給了斯坦福大學(xué)的Russell Steward以及其導(dǎo)師Stefano Drmon撰寫的論文《Label-Free Supervision of Neural Networks with Physics and Domain Knowledge》。該文章從已知的關(guān)系(如物理定律)入手,通過(guò)輸出必須滿足物理定律的約束來(lái)訓(xùn)練學(xué)習(xí)。
論文摘要
在許多機(jī)器學(xué)習(xí)應(yīng)用中,帶標(biāo)簽的數(shù)據(jù)數(shù)量稀少,而想要獲得更多的標(biāo)簽需要付出高昂的代價(jià)。我們引入了一種新的神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)方法,不同于采用直接給出輸入-輸出對(duì)的直接示例的傳統(tǒng)方案。這種方法通過(guò)特定的約束條件來(lái)指定輸出空間,而這些約束條件來(lái)源于先前的特定領(lǐng)域知識(shí),例如已知的物理定律。我們展示了這種方法在現(xiàn)實(shí)世界和模擬計(jì)算機(jī)視覺任務(wù)的有效性。利用這種方法,我們可以在訓(xùn)練樣本沒(méi)有帶任何標(biāo)簽的情況下,成功訓(xùn)練了一個(gè)卷積神經(jīng)網(wǎng)絡(luò)來(lái)檢測(cè)和跟蹤對(duì)象。這一方法還可以顯著減少對(duì)標(biāo)記的訓(xùn)練數(shù)據(jù)的需要,并同時(shí)帶來(lái)了將先驗(yàn)知識(shí)編碼為適當(dāng)?shù)膿p失函數(shù)的新挑戰(zhàn)。(論文全文參見網(wǎng)址:http://www.aaai.org/Conferences/AAAI/2017/PreliminaryPapers/12-Stewart-14967.pdf。
PPT全文
在頒獎(jiǎng)典禮后,Russell Steward進(jìn)行了關(guān)于這篇論文的講解。以下是其講解的PPT全文:
大數(shù)據(jù)是好東西,但“大標(biāo)簽”會(huì)讓你痛不欲生。那怎么辦呢?我們可以利用約束條件而非標(biāo)簽。
1.建立從f:X→Y的影射。
2.學(xué)習(xí)如何跟蹤物體運(yùn)動(dòng)軌跡。約束條件是輸出結(jié)果(按照物理規(guī)則)必須是一個(gè)拋物線。
3.預(yù)測(cè)與標(biāo)記的對(duì)比。
4.計(jì)算f(xi)值。
下面舉兩個(gè)例子:
例子1:預(yù)測(cè)未標(biāo)記的圖片中人的水平位置
例子2:預(yù)測(cè)圖片是否包含馬里奧和桃子
結(jié)論
我們可以使用已知的高等級(jí)不變性關(guān)系來(lái)訓(xùn)練分類器。所以,相比起打標(biāo)簽,高等級(jí)不變性關(guān)系要更直接。
隨著未來(lái)更多普遍關(guān)系的挖掘,相信未來(lái)在這一領(lǐng)域會(huì)有著更多的應(yīng)用出現(xiàn)。
文章由雷鋒網(wǎng)-AI科技評(píng)論前線報(bào)道,轉(zhuǎn)載請(qǐng)聯(lián)系雷鋒網(wǎng)-AI科技評(píng)論。
【兼職召集令!】
如果你對(duì)未來(lái)充滿憧憬,喜歡探索改變世界的科技進(jìn)展,look no further!
我們需要這樣的你:
精通英語(yǔ),對(duì)技術(shù)與產(chǎn)品感興趣,關(guān)注人工智能學(xué)術(shù)動(dòng)態(tài)的蘿莉&萌妹子&技術(shù)宅;
文字不求妙筆生花,但希望通俗易懂;
在這里,你會(huì)收獲:
一群來(lái)自天南地北、志同道合的小伙伴;
前沿學(xué)術(shù)科技動(dòng)態(tài),每天為自己充充電;
更高的生活品質(zhì),翻翻文章就能掙到零花錢;
有意向的小伙伴們把個(gè)人介紹/簡(jiǎn)歷發(fā)至 guoyixin@leiphone.com,如有作品,歡迎一并附上。
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
本專題其他文章