今日 Paper | 小樣本學習；視覺情感分類；神經(jīng)架構(gòu)搜索；自然圖像摳像等

本文作者： AI研習社

2020-01-17 15:11

導語：每天都為你精選關(guān)于人工智能的前沿學術(shù)論文供你學習參考

為了幫助各位學術(shù)青年更好地學習前沿研究成果和技術(shù)，AI 研習社重磅推出【今日 Paper】欄目，每天都為你精選關(guān)于人工智能的前沿學術(shù)論文供你學習參考。以下是今日的精選內(nèi)容——

基于深度學習的步行者慣性導航：方法、數(shù)據(jù)集和設(shè)備推理
用于視覺情感分類的多源域自適應(yīng)
用多尺度自監(jiān)督表征提高小樣本學習的表現(xiàn)
在神經(jīng)架構(gòu)搜索里使用權(quán)值共享真的有效、可靠嗎？
通過引導的上下文注意進行自然圖像摳像

基于深度學習的步行者慣性導航：方法、數(shù)據(jù)集和設(shè)備推理

論文名稱：Deep Learning based Pedestrian Inertial Navigation: Methods, Dataset and On-Device Inference

作者：Chen Changhao /Zhao Peijun /Lu Chris Xiaoxuan /Wang Wei /Markham Andrew /Trigoni Niki

發(fā)表時間：2020/1/13

論文鏈接：https://paper.yanxishe.com/review/8987?from=leiphonecolumn_paperreview0117

推薦原因：這篇論文嘗試將深度學習進一步應(yīng)用于慣性導航研究中。

慣性測量單元被廣泛部署在智能設(shè)備和移動機器人上。在新興的物聯(lián)網(wǎng)中，利用慣性數(shù)據(jù)獲得準確可靠的行人導航支持是一項重要的服務(wù)。近年來，運用深度神經(jīng)網(wǎng)絡(luò)處理動作感知和坐標估計逐漸變得流行。但是，缺乏足夠標注數(shù)據(jù)來訓練和評估基線模型成為這一應(yīng)用的限制。這篇論文的貢獻是提出了一個名為Oxford Inertial Odometry Dataset（OxIOD）的新數(shù)據(jù)集，即首個用于深度學習慣性導航研究的數(shù)據(jù)集，在每條序列中都有微調(diào)好的標注信息。進一步，為了在邊緣計算上保證更高效的推理，這篇論文還提出一個新的輕量級框架，從原始的IMU數(shù)據(jù)上學習和重構(gòu)行人軌跡。實驗表明所提數(shù)據(jù)集與方法能夠在資源受限的設(shè)備上獲得精準的行人慣性導航信息。

今日 Paper | 小樣本學習；視覺情感分類；神經(jīng)架構(gòu)搜索；自然圖像摳像等

用于視覺情感分類的多源域自適應(yīng)

論文名稱：Multi-source Domain Adaptation for Visual Sentiment Classification

作者：Lin Chuang /Zhao Sicheng /Meng Lei /Chua Tat-Seng

發(fā)表時間：2020/1/12

論文鏈接：https://paper.yanxishe.com/review/8988?from=leiphonecolumn_paperreview0117

這篇論文考慮的是視覺情感分類問題。

視覺情感分類任務(wù)的現(xiàn)有域自適應(yīng)方法通常是針對單源場景。在這種場景中，模型從充分標注好的源領(lǐng)域數(shù)據(jù)學習完畢后，遷移到只有較寬松標注或無標注數(shù)據(jù)的目標領(lǐng)域。不過在實踐中，從單一源領(lǐng)域來的數(shù)據(jù)通常容量有限，很難覆蓋目標領(lǐng)域的全部特征。為了解決這個問題，這篇論文提出了一個新的名為多源情感生成對抗網(wǎng)絡(luò)的多源域自適應(yīng)方法，用于處理視覺情感分類。為了處理來自多個源域的數(shù)據(jù)，新模型通過端到端的循環(huán)一致對抗學習，學習如何找到一個統(tǒng)一的情感潛在空間，在該空間來自源域和目標域的數(shù)據(jù)共享相似的分布。在四個基準數(shù)據(jù)集上的實驗證明，在情感分類任務(wù)上，這篇論文提出的新模型顯著優(yōu)于目前的最佳模型。

用多尺度自監(jiān)督表征提高小樣本學習的表現(xiàn)

論文名稱：Few-shot Learning with Multi-scale Self-supervision

作者：Zhang Hongguang /Torr Philip H. S. /Koniusz Piotr

發(fā)表時間：2020/1/6

論文鏈接：https://paper.yanxishe.com/review/9112?from=leiphonecolumn_paperreview0117

推薦原因

從深度學習流行以來，需要大量數(shù)據(jù)的這一特點就經(jīng)常被指責，更有人指出人類的智慧只需要幾個甚至一個樣本就可以學會某個任務(wù)或者某種概念 —— 這就是小樣本學習，有許多研究人員就在這個方向做著努力。近期，“二階池化”（second-order pooling）的方法在小樣本學習中發(fā)揮了很好的效果，主要是因為其中的聚合操作不需要對CNN網(wǎng)絡(luò)做修改就可以處理各種不同的圖像分辨率，同時還能找到有代表性的共同特征。

不過，學習每張圖像的時候只使用一種分辨率不是最優(yōu)的方法（即便整個數(shù)據(jù)集中所有圖像的分辨率都各自不同），因為每張圖像中的內(nèi)容相比于整張圖像的粒度粗細不是固定不變的，實際上這受到內(nèi)容本身和圖像標簽的共同影響，比如，常見的大類物體的分類更依賴整體外觀形狀，而細粒度的物體分類更多依賴圖像中局部的紋理模式。也所以，圖像去模糊、超分辨率、目標識別等任務(wù)中都已經(jīng)引入了多尺度表征的概念，用來更好地處理不同分類粒度。

這篇論文里作者們就嘗試了在小樣本學習中引入多尺度表征。他們主要需要克服的困難是，要避免多尺度表征把標準方法的使用變得過于復(fù)雜。他們的方法是，在二階池化的屬性的基礎(chǔ)上設(shè)計一個新型的多尺度關(guān)系網(wǎng)絡(luò)，用來在小樣本學習中預(yù)測圖像關(guān)系。作者們也設(shè)計了一系列方法優(yōu)化模型的表現(xiàn)。最終，他們在幾個小樣本學習數(shù)據(jù)集上都刷新了最好成績。

在神經(jīng)架構(gòu)搜索里使用權(quán)值共享真的有效、可靠嗎？

論文名稱：Deeper Insights into Weight Sharing in Neural Architecture Search

作者：Zhang Yuge /Lin Zejun /Jiang Junyang /Zhang Quanlu /Wang Yujing /Xue Hui /Zhang Chen /Yang Yaming

發(fā)表時間：2020/1/6

論文鏈接：https://paper.yanxishe.com/review/9111?from=leiphonecolumn_paperreview0117

推薦原因

神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（NAS）是讓深度學習自動化、在指定任務(wù)上獲得最佳模型的一個好辦法。但NAS的問題也很明顯，模型結(jié)構(gòu)需要迭代更新，每個更新出的結(jié)構(gòu)還需要經(jīng)過訓練才能了解表現(xiàn)如何，所以從頭開始做NAS非常消耗能源和時間。

近期有一些研究用權(quán)值共享的方式，節(jié)省了評估結(jié)構(gòu)表現(xiàn)的時間；具體來說，權(quán)重共享是首先獲得一個大網(wǎng)絡(luò)的所有權(quán)值，然后對于在大網(wǎng)絡(luò)基礎(chǔ)上簡化出的小網(wǎng)絡(luò)，就直接使用對應(yīng)的權(quán)值。但是這種做法是沒有經(jīng)過嚴謹?shù)睦碚撟C明的，實際使用中的影響也還沒有得到完善的研究。

這篇論文就對現(xiàn)有的權(quán)值共享方法做了詳細的實驗研究，作者們發(fā)現(xiàn)，1，來源稍有區(qū)別的模型之間可以有巨大的表現(xiàn)差別；2，即便子網(wǎng)絡(luò)之間的表現(xiàn)有很大差別，訓練那個大網(wǎng)絡(luò)也很有價值；3，不同子模型之間的干擾是造成表現(xiàn)區(qū)別的重要原因；4，適當降低權(quán)值共享的程度可以有效降低表現(xiàn)波動、提高表現(xiàn)

通過引導的上下文注意進行自然圖像摳像

論文名稱：Natural Image Matting via Guided Contextual Attention

作者：Li Yaoyi /Lu Hongtao

發(fā)表時間：2020/1/13

論文鏈接：https://paper.yanxishe.com/review/8989?from=leiphonecolumn_paperreview0117

推薦原因

這篇論文考慮的是自然圖像摳像的問題。

基于深度學習的方法在自然圖像摳像（natural image matting）方面取得顯著進步。受基于親和力方法與上下文注意力機制的成功啟發(fā)，這篇論文開發(fā)了一種新的使用指引的上下文注意力模塊的端到端方法。指引上下文注意力模塊會根據(jù)學習到的低級關(guān)聯(lián)信息，直接在全局范圍內(nèi)傳播高級不透明信息。新方法可以模仿基于親和力方法的信息流，并同時利用深度神經(jīng)網(wǎng)絡(luò)學到的豐富特征。在Composition-1k測試集和Alphamatting.com基準數(shù)據(jù)集上的實驗結(jié)果表明，這篇論文提出的新方法在自然圖像摳像方面優(yōu)于之前的最新方法。

論文作者團隊招募

為了更好地服務(wù)廣大 AI 青年，AI 研習社正式推出全新「論文」版塊，希望以論文作為聚合 AI 學生青年的「興趣點」，通過論文整理推薦、點評解讀、代碼復(fù)現(xiàn)。致力成為國內(nèi)外前沿研究成果學習討論和發(fā)表的聚集地，也讓優(yōu)秀科研得到更為廣泛的傳播和認可。

我們希望熱愛學術(shù)的你，可以加入我們的論文作者團隊。

入論文作者團隊你可以獲得

1.署著你名字的文章，將你打造成最耀眼的學術(shù)明星

2.豐厚的稿酬

3.AI 名企內(nèi)推、大會門票福利、獨家周邊紀念品等等等。

加入論文作者團隊你需要：

1.將你喜歡的論文推薦給廣大的研習社社友

2.撰寫論文解讀

如果你已經(jīng)準備好加入 AI 研習社的論文兼職作者團隊，可以添加運營小姐姐的微，備注“論文兼職作者”

今日 Paper | 小樣本學習；視覺情感分類；神經(jīng)架構(gòu)搜索；自然圖像摳像等