今日 Paper | PolarMask；時(shí)間序列；面部表情編輯；ELECTRA 等

本文作者： AI研習(xí)社

2020-03-25 15:55

導(dǎo)語(yǔ)：為了更好地服務(wù)廣大 AI 青年，AI 研習(xí)社正式推出全新「論文」版塊。

PolarMask: 一階段實(shí)例分割新思路

論文名稱：PolarMask: Single Shot Instance Segmentation with Polar Representation

作者：Enze Xie

發(fā)表時(shí)間：2019/12/24

論文鏈接：https://paper.yanxishe.com/review/13545?from=leiphonecolumn_paperreview0325

推薦原因

本文的研究意義：

在本文中，作者介紹了一種新的單實(shí)例分割方法——PolarMask，該方法完全卷積且網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單，可以最大限度的將其嵌入到大多數(shù)現(xiàn)成的檢測(cè)方法中使用。通過(guò)PolarMask方法可以將實(shí)例分割問(wèn)題轉(zhuǎn)化為研究中心分類和極坐標(biāo)距離回歸的輪廓預(yù)測(cè)問(wèn)題。此外，作者還對(duì)處理高質(zhì)量采樣的中心示例和密集距離回歸優(yōu)化進(jìn)行了探索，發(fā)現(xiàn)采用該方法可以顯著提高性能并簡(jiǎn)化訓(xùn)練過(guò)程。最后作者通過(guò)實(shí)驗(yàn)證明了提出的PolarMask框架在實(shí)例分割任務(wù)中是明顯優(yōu)于其他的方法。

今日 Paper | PolarMask；時(shí)間序列；面部表情編輯；ELECTRA 等

特例化的時(shí)間序列模型特征重要度度量

論文名稱：What went wrong and when? Instance-wise Feature Importance for Time-series Models

作者：Sana Tonekaboni /Shalmali Joshi /David Duvenaud /Anna Goldenberg

發(fā)表時(shí)間：2020/3/5

論文鏈接：https://paper.yanxishe.com/review/13468?from=leiphonecolumn_paperreview0325

推薦原因

1 核心問(wèn)題：

本文主要研究的是探究在時(shí)間序列模型中，何種特征在哪個(gè)時(shí)間段對(duì)預(yù)測(cè)結(jié)果影響最大的問(wèn)題。

2 創(chuàng)新點(diǎn)：

在在時(shí)間序列分析中，大部分特征重要度的分布模型都把注意力放在全局級(jí)別的重要度中，但是，全局級(jí)別的的重要度可能無(wú)法產(chǎn)生對(duì)個(gè)體樣本實(shí)例的局部解釋，此類模型不利于用戶理解某個(gè)特例的模型結(jié)果。本文的工作則聚焦在時(shí)間序列中例子級(jí)別的特征重要度，提出了一個(gè)通用的時(shí)間序列觀測(cè)重要度度量方法。該方法在個(gè)體歷史數(shù)據(jù)的分布中采樣，基于合理的反事實(shí)上的積分，去估計(jì)了在觀測(cè)前后預(yù)測(cè)分布的差異來(lái)度量重要度。根據(jù)該方法，可以得到在不同時(shí)間上的相關(guān)特征復(fù)雜度，并且可以得到每個(gè)特征最有影響力（重要度最高）的特定時(shí)間點(diǎn)。

3 研究意義：

（1）本文將得到的重要度度量，和基于梯度的解釋，注意力機(jī)制以及其他基準(zhǔn)在模擬和臨床ICU數(shù)據(jù)的結(jié)果進(jìn)行了比較，說(shuō)明了本文的方法可以生成最精確的結(jié)果（2）同時(shí)，本模型還具有價(jià)格低廉，通用的特點(diǎn)（3）并且可以使用在任意復(fù)雜時(shí)間序列模型和預(yù)測(cè)器中（4）最后，本文提出的設(shè)計(jì)是唯一一個(gè)對(duì)時(shí)間序列中每一個(gè)特征都可以確定其重要時(shí)間點(diǎn)的方法。

Cascade EF-GAN：以局部焦點(diǎn)進(jìn)行漸進(jìn)式面部表情編輯

論文名稱：Cascade EF-GAN: Progressive Facial Expression Editing with Local Focuses

作者：Wu Rongliang /Zhang Gongjie /Lu Shijian /Chen Tao

發(fā)表時(shí)間：2020/3/12

論文鏈接：https://paper.yanxishe.com/review/14229?from=leiphonecolumn_paperreview0325

推薦原因

這篇論文被CVPR 2020接收，考慮的是面部表情編輯的問(wèn)題。

生成對(duì)抗網(wǎng)絡(luò)易于在表達(dá)密集區(qū)域周圍產(chǎn)生偽影和模糊，且在處理諸如從憤怒到笑的轉(zhuǎn)換時(shí)，常會(huì)引入不希望的重疊偽影。為克服這些局限性，這篇論文提出級(jí)聯(lián)表情聚焦生成對(duì)抗網(wǎng)絡(luò)（Cascade Expression Focal GAN，Cascade EF-GAN），能以局部表情為重點(diǎn)進(jìn)行漸進(jìn)式面部表情編輯。引入局部焦點(diǎn)后，Cascade EF-GAN可以更好保留與身份相關(guān)的特征和眼睛、鼻子、嘴巴周圍的細(xì)節(jié)，從而進(jìn)一步減少生成的面部圖像中的偽影和模糊。此外，通過(guò)將大型面部表情轉(zhuǎn)換分成多個(gè)小面部表情，這篇論文還設(shè)計(jì)了一種新的級(jí)聯(lián)轉(zhuǎn)換策略，這有助于抑制重疊的偽像并在處理大間隙表情轉(zhuǎn)換時(shí)產(chǎn)生更逼真的編輯效果。在兩個(gè)公開(kāi)面部表情數(shù)據(jù)集上進(jìn)行的大量實(shí)驗(yàn)表明，Cascade EF-GAN具有出色的面部表情編輯性能。

ELECTRA：預(yù)訓(xùn)練文本編碼器作為鑒別器而不是生成器

論文名稱：ELECTRA: PRE-TRAINING TEXT ENCODERS AS DISCRIMINATORS RATHER THAN GENERATORS

作者：Kevin Clark /Minh-Thang Luong /Quoc V. Le /Christopher D. Manning

發(fā)表時(shí)間：2020/9/24

論文鏈接：https://paper.yanxishe.com/review/14226?from=leiphonecolumn_paperreview0325

推薦原因

本文重點(diǎn)：隨著bert的爆發(fā)，現(xiàn)在在NLP領(lǐng)域眾多的預(yù)訓(xùn)練語(yǔ)言模型已經(jīng)成為當(dāng)下的熱點(diǎn)，這篇論文完成了類似的工作

創(chuàng)新點(diǎn)：在NLP領(lǐng)域擁有語(yǔ)言模型（LM）和掩碼語(yǔ)言模型（MLM），其中BERT就是掩碼語(yǔ)言模型。而本論文提出了一種新的任務(wù)replaced token detection，它像語(yǔ)言模型，又像掩碼語(yǔ)言模型。它像MLM一樣訓(xùn)練一個(gè)雙向模型，也像LM一樣學(xué)習(xí)所有輸入位置。它使用偽token替換真實(shí)的token。首先使用一個(gè)生成器預(yù)測(cè)句中被mask掉的token，接下來(lái)使用預(yù)測(cè)的token替代句中的[MASK]標(biāo)記，然后使用一個(gè)判別器區(qū)分句中的每個(gè)token是原始的還是替換后的。

研究意義：他超過(guò)了之前的BERT和XLNET模型。

FOAL：用于心臟運(yùn)動(dòng)估計(jì)的快速在線自適應(yīng)學(xué)習(xí)

論文名稱：FOAL: Fast Online Adaptive Learning for Cardiac Motion Estimation

作者：Yu Hanchao /Sun Shanhui /Yu Haichao /Chen Xiao /Shi Honghui /Huang Thomas /Chen Terrence

發(fā)表時(shí)間：2020/3/10

論文鏈接：https://paper.yanxishe.com/review/14059?from=leiphonecolumn_paperreview0325

推薦原因

這篇論文被CVPR 2020接收，考慮的是心臟運(yùn)動(dòng)估計(jì)的問(wèn)題。

心臟MRI視頻動(dòng)態(tài)估計(jì)對(duì)于評(píng)估人體心臟的解剖結(jié)構(gòu)和功能至關(guān)重要。在臨床部署中，由于訓(xùn)練和測(cè)試數(shù)據(jù)集之間分布不匹配，深度學(xué)習(xí)模型的性能急劇下降。這篇論文提出了一種新的快速在線自適應(yīng)學(xué)習(xí)（Fast Online Adaptive Learning ，F(xiàn)OAL）框架，包括一種基于在線梯度下降的優(yōu)化器，該優(yōu)化器由元學(xué)習(xí)器進(jìn)行優(yōu)化。元學(xué)習(xí)器使在線優(yōu)化器能夠執(zhí)行快速而強(qiáng)大的調(diào)整。這篇論文通過(guò)在兩個(gè)公共臨床數(shù)據(jù)集上的廣泛實(shí)驗(yàn)評(píng)估了所提方法。結(jié)果表明，與離線訓(xùn)練的跟蹤方法相比，F(xiàn)OAL準(zhǔn)確性更高。