雷鋒網(wǎng) AI 科技評(píng)論按：CapsNet 作者 Sara Sabour 聯(lián)合 Geoffrey Hinton 及牛津大學(xué)研究者在最新的論文《Stacked Capsule Autoencoders》中提出膠囊網(wǎng)絡(luò)的改進(jìn)版本，該膠囊網(wǎng)絡(luò)可以無(wú)監(jiān)督地學(xué)習(xí)圖像中的特征，并取得了最先進(jìn)的結(jié)果。

一個(gè)物體可以看作是一組相互關(guān)聯(lián)的幾何組成部分，因此，一個(gè)明確利用這些幾何關(guān)系來(lái)識(shí)別物體的系統(tǒng)，在應(yīng)對(duì)視點(diǎn)的變化上理應(yīng)具有魯棒性，因?yàn)閮?nèi)在幾何關(guān)系的視點(diǎn)是不會(huì)有變化的。

在這篇論文中，他們提出一個(gè)無(wú)監(jiān)督版本的膠囊網(wǎng)絡(luò)，通過(guò)可查看所有部件的神經(jīng)編碼器，進(jìn)而推斷物體膠囊的位置與姿勢(shì)。該編碼器通過(guò)解碼器進(jìn)行反向傳播訓(xùn)練，通過(guò)混合式姿勢(shì)預(yù)測(cè)方案來(lái)預(yù)測(cè)已發(fā)現(xiàn)部件的姿勢(shì)。同樣是使用神經(jīng)編碼器，通過(guò)推斷部件及其仿射變換，可以直接從圖像中發(fā)現(xiàn)具體的部件。換句話說(shuō)，每個(gè)相應(yīng)的解碼器圖像像素建模，都是仿射變換部分做出的混合預(yù)測(cè)結(jié)果。他們通過(guò)未標(biāo)記的數(shù)據(jù)習(xí)得物體及其部分膠囊，然后再對(duì)物體膠囊的存在向量進(jìn)行聚類(lèi)。

最后，該成果在 SVHN 上獲得了最先進(jìn)的無(wú)監(jiān)督分類(lèi)結(jié)果 (55%)，同時(shí)在 MNIST 上獲得了接近最先進(jìn)的分類(lèi)結(jié)果。(98.5%)。

該膠囊網(wǎng)絡(luò)全名 Stacked Capsule Autoencoder (SCAE)，具體可分為兩個(gè)階段：Part Capsule Autoencoder（PCAE）及 Object Capsule Autoencoder (OCAE)。

PCAE 負(fù)責(zé)將圖像分割成組件，借此推斷其姿勢(shì)，并將圖像像素重構(gòu)為轉(zhuǎn)換后的部件模板像素的混合產(chǎn)物；OCAE 則試圖將發(fā)現(xiàn)的部件及其姿勢(shì)組成更小的一組對(duì)象，再結(jié)合針對(duì)每個(gè)部件的混合預(yù)測(cè)方案來(lái)解釋部件的姿勢(shì)。

每個(gè)物體膠囊通過(guò)將姿勢(shì)-對(duì)象-視圖-關(guān)系（OV）乘以相關(guān)的物體-部件-關(guān)系 (OP) 來(lái)為這些混合物提供組件。SCAE 在未經(jīng)標(biāo)記的數(shù)據(jù)上進(jìn)行訓(xùn)練時(shí)借此捕獲整個(gè)物體及其部件之間的空間關(guān)系。

Stacked Capsule Autoencoder (SCAE)

總的來(lái)說(shuō)，該工作的主要貢獻(xiàn)在于提出了一種全新的表示學(xué)習(xí)方法，其中高度結(jié)構(gòu)化的解碼器可以用來(lái)訓(xùn)練編碼器網(wǎng)絡(luò)，進(jìn)而將圖像分割成相應(yīng)的部件及其姿勢(shì)，而另一個(gè)編碼器網(wǎng)絡(luò)則可以將這些部件組成連貫的整體。盡管訓(xùn)練目標(biāo)不涉及分類(lèi)/聚類(lèi)，但 SCAE 依然是唯一一個(gè)在無(wú)監(jiān)督對(duì)象分類(lèi)任務(wù)中不依賴于互信息（MI）中也能獲得有競(jìng)爭(zhēng)力結(jié)果的方法。

via https://arxiv.org/pdf/1906.06818.pdf

雷鋒網(wǎng) AI 科技評(píng)論 雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。