0
本文作者: 岑大師 | 2017-09-20 14:39 |
雷鋒網(wǎng)消息,近日伯克利大學人工智能實驗室(BAIR)在Arxiv上發(fā)布了一篇名為《One-Shot Visual Imitation Learning via Meta-Learning》的論文,該論文將當前AI研究的兩個瓶頸即元學習(Meta-Learning)和一次性學習(One-shot learning)相結(jié)合,并被CORL(Conference on Robot Learning, 2017)接收,CORL 2017將于今年11月在美國加州山景城舉行。
我們都知道,深度學習是在大數(shù)據(jù)的背景下火起來的,傳統(tǒng)的基于梯度的深度神經(jīng)網(wǎng)絡需要大量的數(shù)據(jù)學習,而絕大多數(shù)的深度學習內(nèi)容否基于大數(shù)據(jù)量下的廣泛迭代訓練,當遇到新信息時往往會出現(xiàn)模型失效的情況從而需要重新進行學習。在機器人領(lǐng)域,深度神經(jīng)網(wǎng)絡可以是機器人展示出復雜的技能,但在實際應用中,一旦環(huán)境發(fā)生變化,從頭學習技能并不可行。因此,如何讓機器“一次性學習”,即在“看”了一次演示后無需事先了解新的環(huán)境場景,能在不同環(huán)境中重復工作尤為重要。
研究發(fā)現(xiàn),具有增強記憶能力的架構(gòu)如神經(jīng)圖靈機(NTMs)可以快速編碼和見多新信息,從而起到消除常規(guī)模型的缺點。在本論文中,作者介紹了一種元-模擬學習(Meta-Imitation Learning,MIL)算法,使機器人可以更有效學習如何自我學習,從而在一次演示后即可學得新的技能。與之前的單次學習模擬方法不同的是,這一方法可以擴展到原始像素輸入,并且需要用于學習新技能的訓練數(shù)據(jù)明顯減少。從在模擬平臺和真實的機器人平臺上的試驗也表明了這一點。
目標:賦予機器人在只“看過”一次演示的情況下,學習與新物品互動的能力。
做法:
收集大量任務的Demo;
使用元-模擬學習進行訓練;
在未知的新任務中進行測試。
創(chuàng)新內(nèi)容:在第一個全連接層通過偏差轉(zhuǎn)換增加梯度表現(xiàn)。
模擬測試環(huán)節(jié),這一環(huán)節(jié)使用算法提供的虛擬3D物品進行模擬,MIL比Contexual和LSTM更好地完成了任務。
在實際場景測試環(huán)節(jié),該團隊設計了一個抓取物品并將其放到指定容器中的任務。從上圖我們可以看到,在這一環(huán)節(jié)用于訓練的物品與實際測試的物品無論在形狀、大小、紋理上都有著差別,MIL算法同樣較好地完成了任務。
雷鋒網(wǎng)發(fā)現(xiàn),除了BAIR,Google Deepmind(參見雷鋒網(wǎng)之前文章《只訓練一次數(shù)據(jù)就能識別出物體,谷歌全新 AI 算法“單次學習”》)、OpenAI也有在進行關(guān)于“一次性學習”的研究?!耙淮涡詫W習”通常被認為是計算機視覺中的對象分類問題,旨在從一個或僅少數(shù)幾個訓練圖像中學習關(guān)于對象類別的信息,并且已經(jīng)成功應用到包括計算機視覺和藥物研發(fā)在內(nèi)的具有高維數(shù)據(jù)的領(lǐng)域。今年5月,OpenAI也發(fā)布了類似的在虛擬場景下通過一次性學習,完成堆疊方塊等任務的論文。
在《人類的由來》中,達爾文這樣寫道:“人和其他高等動物在精神上的差異雖然很大,但這種差別肯定只是程度上、而非種類上的差別。”而這些在一次性學習和元學習上的研究也證明,當前的人工智能與未來世界的超級人工智能之間的差異,或許也只是程度上的差異,而非種類上的差異。在深度學習發(fā)展的過程中,類似的優(yōu)化看起來只是一小步,但加速化發(fā)展的趨勢已經(jīng)很明顯:當你在閱讀傳統(tǒng)期刊上的論文時,在Arxiv上或許已經(jīng)出現(xiàn)了新的替代版本。或許在不久之后,創(chuàng)造出更聰明、具有適應力的實用機器人并不是難事。
論文地址:https://arxiv.org/pdf/1709.04905.pdf
視頻演示及更多詳細說明:https://sites.google.com/view/one-shot-imitation
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。