CVPR 2017精彩論文解讀：顯著降低模型訓(xùn)練成本的主動(dòng)增量學(xué)習(xí)

本文作者：楊曉凡

2017-07-29 19:29

專題：CVPR 2017

導(dǎo)語(yǔ)：CVPR 2017有那么多有價(jià)值的研究成果，我們也會(huì)邀請(qǐng)懂行的人繼續(xù)為大家進(jìn)行解讀

雷鋒網(wǎng) AI 科技評(píng)論按：計(jì)算機(jī)視覺(jué)盛會(huì) CVPR 2017已經(jīng)結(jié)束了，雷鋒網(wǎng) AI 科技評(píng)論帶來(lái)的多篇大會(huì)現(xiàn)場(chǎng)演講及收錄論文的報(bào)道相信也讓讀者們對(duì)今年的 CVPR 有了一些直觀的感受。

論文的故事還在繼續(xù)

相對(duì)于 CVPR 2017收錄的共783篇論文，即便雷鋒網(wǎng) AI 科技評(píng)論近期挑選報(bào)道的獲獎(jiǎng)?wù)撐摹I(yè)界大公司論文等等是具有一定特色和代表性的，也仍然只是滄海一粟，其余的收錄論文中仍有很大的價(jià)值等待我們?nèi)ネ诰?，生物醫(yī)學(xué)圖像、3D視覺(jué)、運(yùn)動(dòng)追蹤、場(chǎng)景理解、視頻分析等方面都有許多新穎的研究成果。

所以我們繼續(xù)邀請(qǐng)了宜遠(yuǎn)智能的劉凱博士對(duì)生物醫(yī)學(xué)圖像方面的多篇論文進(jìn)行解讀，延續(xù)之前最佳論文直播講解活動(dòng)，從8月1日起陸續(xù)解讀4篇不同的論文。

劉凱博士是宜遠(yuǎn)智能的總裁兼聯(lián)合創(chuàng)始人，有著香港浸會(huì)大學(xué)的博士學(xué)位，曾任聯(lián)想（香港）主管研究員、騰訊高級(jí)工程師。半個(gè)月前宜遠(yuǎn)智能的團(tuán)隊(duì)剛剛在阿里舉辦的天池 AI 醫(yī)療大賽上從全球2887支參賽隊(duì)伍中脫穎而出取得了第二名的優(yōu)異成績(jī)。

最佳論文直播講解＃03

分享論文：「Fine-tuning Convolutional Neural Networks for Biome?dical Image Analysis: Actively and Incrementally??」

時(shí)間：8 月 1 日（周二） 20：00

地點(diǎn)： AI 研習(xí)社微信群

論文簡(jiǎn)介

劉凱博士要為我們解讀的生物醫(yī)學(xué)圖像論文中的第一篇是「Fine-tuning Convolutional Neural Networks for Biome?dical Image Analysis: Actively and Incrementally?」（用于生物醫(yī)學(xué)圖像分析的精細(xì)調(diào)節(jié)卷積神經(jīng)網(wǎng)絡(luò)：主動(dòng)的，增量的）。它主要解決了一個(gè)深度學(xué)習(xí)中的重要問(wèn)題：如何使用盡可能少的標(biāo)簽數(shù)據(jù)來(lái)訓(xùn)練一個(gè)效果有潛力的分類器。

論文簡(jiǎn)介：用卷積神經(jīng)網(wǎng)絡(luò)（CNNs）解決生物醫(yī)學(xué)圖像分析問(wèn)題的方法不僅引發(fā)了密切注意，它的影響范圍也越來(lái)越大。然而這種方法要獲得全面的成功，最大的阻礙之一就是缺乏生物醫(yī)學(xué)圖像方面的大規(guī)模有標(biāo)注數(shù)據(jù)集。為生物醫(yī)學(xué)圖像做人工標(biāo)注不僅單調(diào)乏味、耗費(fèi)時(shí)間，而且具有這些專業(yè)知識(shí)技能的醫(yī)生所需費(fèi)用也很高，這就導(dǎo)致大規(guī)模有標(biāo)注數(shù)據(jù)集往往是無(wú)法得到的。為了顯著降低圖像標(biāo)注費(fèi)用，這篇論文提出了一種新穎的方法“AFIT”（active, incremental fine-tuning 主動(dòng)增量精細(xì)調(diào)節(jié)），它把主動(dòng)學(xué)習(xí)（active learning）和遷移學(xué)習(xí)（transfer learning）自然地整合進(jìn)了同一個(gè)框架中。

在 AIFT 中，一個(gè)經(jīng)過(guò)預(yù)訓(xùn)練的 CNN 會(huì)在無(wú)標(biāo)注圖像中尋找“有價(jià)值”的圖像讓專家進(jìn)行標(biāo)注，然后新標(biāo)注的圖像會(huì)參與到 CNN 的精細(xì)調(diào)節(jié)中來(lái)；這樣，CNN 在逐次迭代中能夠借助新標(biāo)注的圖像樣本持續(xù)進(jìn)行精細(xì)調(diào)節(jié)，CNN 在目標(biāo)領(lǐng)域的表現(xiàn)也就以增量的方式得到了增強(qiáng)。論文通過(guò)三種不同的生物醫(yī)學(xué)圖像應(yīng)用對(duì)所提的方法進(jìn)行了評(píng)估，結(jié)果表明這種方法至少可以減少一半的標(biāo)注費(fèi)用。這樣的效果就是所提的 AIFT 方法中先進(jìn)的主動(dòng)學(xué)習(xí)和增量能力的優(yōu)勢(shì)的最佳體現(xiàn)。