0
| 本文作者： 周蕾 | 2019-12-23 08:51 |
Facebook AI研究院的首席AI科學(xué)家Yann LeCun認(rèn)為，AR（增強(qiáng)現(xiàn)實）眼鏡有望成為機(jī)器學(xué)習(xí)從業(yè)者的理想挑戰(zhàn)目標(biāo)——一個殺手級應(yīng)用，因為它涉及了多個未解決的問題。
完美的AR眼鏡需要把對話式AI、計算機(jī)視覺和其他復(fù)雜系統(tǒng)結(jié)合起來，這些系統(tǒng)必須能夠像眼鏡那樣小巧，便于操作。低功耗AI不可或缺，這將確保合理的電池壽命，從而使得用戶擁有較長的可以佩戴和使用眼鏡的時間。
與蘋果，Niantic和高通這些公司一樣，今年秋天，F(xiàn)acebook確認(rèn)了到2025年制造增強(qiáng)現(xiàn)實眼鏡的計劃。
“對于硬件而言，這是一個巨大的挑戰(zhàn)，因為你的眼鏡可能帶有可在可變延遲下實時跟蹤視覺的攝像頭，因此在移動時……這需要大量的計算。你希望能夠通過語音與助手互動，以便助手一直在聽你的聲音，并且也會與你說話。您想要手勢[識別]，以便助手[可以執(zhí)行]實時的手部追蹤，”他說。
LeCun說，實時手部跟蹤已經(jīng)可以工作，不過“我們只是不知道如何以小巧的外形來做到這一點，同時功耗與AR眼鏡適配?！?/p>
“就更大的型號來說，功耗、性能和外觀，這些確實都超出了我們現(xiàn)在的能力范圍，因此必須使用人們從未想到過的技巧，神經(jīng)網(wǎng)絡(luò)就是其中之一。”他說。
LeCun這個月在全球最大的機(jī)器學(xué)習(xí)研究會議NeurIPS上的“EMC2節(jié)能機(jī)器學(xué)習(xí)”研討會上發(fā)表了講話。他談到了硬件局限性如何限制研究人員的想象，并表示好的想法有時候會在硬件太慢、軟件不易獲得或?qū)嶒炿y以重現(xiàn)時被拋棄。
他還談到了特定的深度學(xué)習(xí)方法，例如差分聯(lián)想記憶和卷積神經(jīng)網(wǎng)絡(luò)，它們構(gòu)成了挑戰(zhàn)，可能需要新的硬件。差分關(guān)聯(lián)存儲器（軟RAM）是一種計算方法，目前已在自然語言處理（NLP）中廣泛使用，在計算機(jī)視覺應(yīng)用程序中也越來越常見。
“未來幾年，深度學(xué)習(xí)和機(jī)器學(xué)習(xí)架構(gòu)將發(fā)生很大變化。你已經(jīng)可以看到很多這樣的情況了?，F(xiàn)在有了NLP，城里唯一的游戲基本上就是變換網(wǎng)絡(luò)（Transformer networks）?！彼f。
他補(bǔ)充說，更有效的批處理和自我監(jiān)督學(xué)習(xí)技術(shù)，可以幫助AI像人類和動物一樣學(xué)習(xí)更多，也可能有助于提高AI的能效。
在LeCun演講之后，麻省理工學(xué)院的電氣工程與計算機(jī)科學(xué)副教授Vivienne Sze談到了需要一種系統(tǒng)的方法來評估深度神經(jīng)網(wǎng)絡(luò)的需求。SlidesLive報道稱，在本周早些時候，Sze關(guān)于高效深度神經(jīng)網(wǎng)絡(luò)的演講是這次NeurIPS視頻中備受關(guān)注的一個，獲得了相當(dāng)多的點擊率。
Sze說：“更大更遠(yuǎn)的存儲器往往會消耗更多的電量”， 并指出“所有權(quán)重都不相等?！?Sze還演示了Accelergy，這是MIT開發(fā)的一種能夠估算硬件能耗的框架。
除講座外，研討會的海報發(fā)布會還展示了值得注意的低功耗AI解決方案。其中包括DistilBERT，這是谷歌BERT（Bidirectional Encoder Representations from Transformers）的輕便版本，后者是Hugging Face團(tuán)隊特別為在邊緣設(shè)備上快速部署而制造的；以及SRI International和Latent AI對深度神經(jīng)網(wǎng)絡(luò)的量化比較。
許多知名人士呼吁機(jī)器學(xué)習(xí)社區(qū)應(yīng)對氣候變化，并表示這種關(guān)注可以推動創(chuàng)新。上周在NeurIPS上的一次小組討論中，另一位深度學(xué)習(xí)先驅(qū)Yoshua Bengio呼吁研究人員更重視影響氣候變化的機(jī)器學(xué)習(xí)上，并減少他們所獲得的出版物數(shù)量。
在接受VentureBeat采訪時，谷歌AI負(fù)責(zé)人Jeff Dean說，他支持創(chuàng)建“每瓦計算標(biāo)準(zhǔn)”的想法，以鼓勵使用更高效的硬件。
除了在NeurIPS上進(jìn)行解釋深度學(xué)習(xí)算法的理論工作外，會議上的許多工作都強(qiáng)調(diào)了將AI對氣候變化的貢獻(xiàn)考慮在內(nèi)的重要性，其中就有一篇名為“能源使用報告：算法責(zé)任中的環(huán)境意識”的論文。
該論文寫道：“必須對算法的碳足跡進(jìn)行測量并透明地報告，以便計算機(jī)科學(xué)家可以在環(huán)境可持續(xù)性方面發(fā)揮誠實和積極的作用。”
根據(jù)這一說法，會議的組織者早先建議，2020年向NeurIPS提交工作的AI研究人員可能需要分享他們提交供審議的工作的碳足跡。
美國研究機(jī)構(gòu)AI Now Institute最近發(fā)布的2019年報告，就將測量算法的碳足跡納入了十幾項建議當(dāng)中去，稱這些建議可以帶來一個更公正的社會。
在其他與節(jié)能有關(guān)的AI新聞中，Element AI和Mila Quebec AI研究所的機(jī)器學(xué)習(xí)從業(yè)人員上周推出了一種新工具，該工具可使用GPU訓(xùn)練AI模型來計算碳排放量，從而根據(jù)使用時間長短和云區(qū)域等因素預(yù)測能源使用情況。
朝著更高效的機(jī)器學(xué)習(xí)的方向發(fā)展，可能會帶來改變地球的創(chuàng)新。但是，大的想法和挑戰(zhàn)需要一個焦點——理論要讓人感覺更實際，需要解決實際的特定問題。LeCun認(rèn)為，AR眼鏡可能是機(jī)器學(xué)習(xí)從業(yè)人員的理想用例。
雷鋒網(wǎng)編譯， via VentureBeat
雷鋒網(wǎng)勞雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
