0
本文作者: 夏睿 | 2017-02-09 16:55 | 專題:AAAI 2017 |
雷鋒網(wǎng)-AI科技評論前線報(bào)道:美國太平洋時(shí)間2月8日早上8:30,在舊金山的AAAI 2017大會進(jìn)行了最佳論文的頒獎典禮。最佳論文頒發(fā)給了斯坦福大學(xué)的Russell Steward以及其導(dǎo)師Stefano Drmon撰寫的論文《Label-Free Supervision of Neural Networks with Physics and Domain Knowledge》。該文章從已知的關(guān)系(如物理定律)入手,通過輸出必須滿足物理定律的約束來訓(xùn)練學(xué)習(xí)。
論文摘要
在許多機(jī)器學(xué)習(xí)應(yīng)用中,帶標(biāo)簽的數(shù)據(jù)數(shù)量稀少,而想要獲得更多的標(biāo)簽需要付出高昂的代價(jià)。我們引入了一種新的神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)方法,不同于采用直接給出輸入-輸出對的直接示例的傳統(tǒng)方案。這種方法通過特定的約束條件來指定輸出空間,而這些約束條件來源于先前的特定領(lǐng)域知識,例如已知的物理定律。我們展示了這種方法在現(xiàn)實(shí)世界和模擬計(jì)算機(jī)視覺任務(wù)的有效性。利用這種方法,我們可以在訓(xùn)練樣本沒有帶任何標(biāo)簽的情況下,成功訓(xùn)練了一個(gè)卷積神經(jīng)網(wǎng)絡(luò)來檢測和跟蹤對象。這一方法還可以顯著減少對標(biāo)記的訓(xùn)練數(shù)據(jù)的需要,并同時(shí)帶來了將先驗(yàn)知識編碼為適當(dāng)?shù)膿p失函數(shù)的新挑戰(zhàn)。(論文全文參見網(wǎng)址:http://www.aaai.org/Conferences/AAAI/2017/PreliminaryPapers/12-Stewart-14967.pdf。
PPT全文
在頒獎典禮后,Russell Steward進(jìn)行了關(guān)于這篇論文的講解。以下是其講解的PPT全文:
大數(shù)據(jù)是好東西,但“大標(biāo)簽”會讓你痛不欲生。那怎么辦呢?我們可以利用約束條件而非標(biāo)簽。
1.建立從f:X→Y的影射。
2.學(xué)習(xí)如何跟蹤物體運(yùn)動軌跡。約束條件是輸出結(jié)果(按照物理規(guī)則)必須是一個(gè)拋物線。
3.預(yù)測與標(biāo)記的對比。
4.計(jì)算f(xi)值。
下面舉兩個(gè)例子:
例子1:預(yù)測未標(biāo)記的圖片中人的水平位置
例子2:預(yù)測圖片是否包含馬里奧和桃子
結(jié)論
我們可以使用已知的高等級不變性關(guān)系來訓(xùn)練分類器。所以,相比起打標(biāo)簽,高等級不變性關(guān)系要更直接。
隨著未來更多普遍關(guān)系的挖掘,相信未來在這一領(lǐng)域會有著更多的應(yīng)用出現(xiàn)。
文章由雷鋒網(wǎng)-AI科技評論前線報(bào)道,轉(zhuǎn)載請聯(lián)系雷鋒網(wǎng)-AI科技評論。
【兼職召集令!】
如果你對未來充滿憧憬,喜歡探索改變世界的科技進(jìn)展,look no further!
我們需要這樣的你:
精通英語,對技術(shù)與產(chǎn)品感興趣,關(guān)注人工智能學(xué)術(shù)動態(tài)的蘿莉&萌妹子&技術(shù)宅;
文字不求妙筆生花,但希望通俗易懂;
在這里,你會收獲:
一群來自天南地北、志同道合的小伙伴;
前沿學(xué)術(shù)科技動態(tài),每天為自己充充電;
更高的生活品質(zhì),翻翻文章就能掙到零花錢;
有意向的小伙伴們把個(gè)人介紹/簡歷發(fā)至 guoyixin@leiphone.com,如有作品,歡迎一并附上。
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
本專題其他文章