目前在人工智能領(lǐng)域，不管是學(xué)術(shù)圈還是工業(yè)圈，大家都認(rèn)同一個(gè)趨勢(shì)，那就是在很多應(yīng)用場(chǎng)景上計(jì)算需要落地到設(shè)備上，讓設(shè)備擁有智能化——即嵌入式的AI，這個(gè)是人工智能領(lǐng)域新開辟出的一個(gè)分支。

 中科創(chuàng)達(dá)技術(shù)總監(jiān)王璠堅(jiān)定的對(duì)雷鋒網(wǎng)說。

在近日（4月28日）的北京GMIC大會(huì)新技術(shù)演示Show上，王璠向外界展示了中科創(chuàng)達(dá)在嵌入式人工智能方面所做的工作。這位百度出身的90后的技術(shù)總監(jiān)，目前帶領(lǐng)著一支30人的 ThunderView 技術(shù)團(tuán)隊(duì)專注于嵌入式AI的算法研究。我們現(xiàn)在做的工作是將深度學(xué)習(xí)放在嵌入式設(shè)備上，王璠進(jìn)一步解釋道。

↑ 王璠

那么什么是嵌入式 AI 呢？

據(jù)雷鋒網(wǎng)了解，所謂嵌入式AI，就是設(shè)備無須聯(lián)網(wǎng)通過云端數(shù)據(jù)中心進(jìn)行大規(guī)模計(jì)算去實(shí)現(xiàn)人工智能，而是在本地計(jì)算，在不聯(lián)網(wǎng)的情況下就可以做實(shí)時(shí)的環(huán)境感知、人機(jī)交互、決策控制。

談及嵌入式AI和云端計(jì)算的AI的區(qū)別，王璠告訴雷鋒網(wǎng)，對(duì)于一般的AI系統(tǒng)，數(shù)據(jù)可以在服務(wù)器端進(jìn)行計(jì)算，人們往往會(huì)通過增加模型的大小、網(wǎng)絡(luò)的深度，調(diào)用盡可能多的計(jì)算資源，以期得到更加精確的計(jì)算結(jié)果。而對(duì)于嵌入式AI來說，就需要反其道而行之了，王璠總結(jié)道，云端計(jì)算的AI致力于如何更好的解決問題，而嵌入式的AI則致力于如何更加經(jīng)濟(jì)的解決問題。

嵌入式AI的應(yīng)用場(chǎng)景有哪些？

對(duì)于嵌入式AI的應(yīng)用場(chǎng)景，王璠表示，云端計(jì)算雖然精確度高，但并不是所有的場(chǎng)景都適合，比如：

• 輔助駕駛或者自動(dòng)駕駛系統(tǒng)，如果在云端計(jì)算，設(shè)備端采集到數(shù)據(jù)后上傳，計(jì)算完成后再返回終端，這樣會(huì)不可避免的帶來一定的延時(shí)，而在駕駛的場(chǎng)景中，這種延時(shí)意味著危險(xiǎn)系數(shù)的提高。

• 數(shù)據(jù)安全，比如家里安裝了一個(gè)監(jiān)控?cái)z像頭，用來關(guān)注老人和孩子的安全，上傳到云端的計(jì)算也意味著隱私被泄露的風(fēng)險(xiǎn)提升。

• 脫機(jī)，雖然現(xiàn)在通信技術(shù)發(fā)展的很快，但是仍然會(huì)碰到在地下停車場(chǎng)、商場(chǎng)里沒有信號(hào)的情況，這時(shí)候就不能指望云端計(jì)算有很好的用戶體驗(yàn)了。

所以，嵌入式的人工智能還是有很大的市場(chǎng)需求的。

同樣是做嵌入式的人工智能，地平線CEO余凱曾經(jīng)說過，嵌入式AI的應(yīng)用場(chǎng)景地平線看好三個(gè)方向：安防、智能家庭、智能駕駛。對(duì)此，王璠也表示贊同，同時(shí)表示這三個(gè)方向在實(shí)現(xiàn)難度上也是逐漸遞增的。

從算法方面來看，目前ThunderView算法解決方案包括深度學(xué)習(xí)算法、算法優(yōu)化、算法集成三個(gè)部分。王璠提到，深度學(xué)習(xí)算法和算法優(yōu)化這兩個(gè)部分在執(zhí)行過程中是高度耦合在一起的，同時(shí)算法優(yōu)化部分的工作非常重要，難度也最大。目前他們已經(jīng)在圖像處理、機(jī)器視覺等領(lǐng)域取得了一些成果，王璠告訴雷鋒網(wǎng)：

在2017年的國際消費(fèi)類電子產(chǎn)品展覽會(huì)（CES）及世界移動(dòng)通信大會(huì)（MWC）上，我們團(tuán)隊(duì)攜手高通公司在高通展臺(tái)上展示了我們的物體識(shí)別及智能拍照引導(dǎo)算法。這些算法獨(dú)立運(yùn)行在高通的便攜設(shè)備上，支持單機(jī)運(yùn)行，不需要聯(lián)網(wǎng)。實(shí)時(shí)識(shí)別物體，實(shí)時(shí)對(duì)用戶的拍照行為進(jìn)行引導(dǎo)。

也是在今年的MWC上，我們聯(lián)合ARM公司在ARM展臺(tái)展示了食品識(shí)別及熱量估算的算法。利用在ARM設(shè)備上的深度學(xué)習(xí)引擎，我們?cè)贏RM雙攝設(shè)備上展示了食品識(shí)別和熱量估算的移動(dòng)應(yīng)用程序。

↑ MWC2017高通展臺(tái)展示的ThunderView 算法技術(shù)

因?yàn)閷?duì)于深度學(xué)習(xí)的網(wǎng)絡(luò)模型而言，如果一個(gè)應(yīng)用場(chǎng)景優(yōu)化的比較好的話，是可以將其適配到不同的任務(wù)中的。所以目前我們的選擇是先把基本場(chǎng)景做好，然后再將技術(shù)推廣至不同的領(lǐng)域。比如現(xiàn)在和高通的合作是在檢測(cè)方面，和ARM的合作是在分割和識(shí)別方面，而我們的目標(biāo)是要在每一個(gè)領(lǐng)域至少做到業(yè)界 state of the art 的水平，王璠信心滿滿的告訴雷鋒網(wǎng)。

那么如何更加經(jīng)濟(jì)的用嵌入式AI解決問題呢？

王璠表示，嵌入式設(shè)備的計(jì)算資源有限，雖然移動(dòng)芯片的計(jì)算能力突飛猛進(jìn)，拿現(xiàn)在能力最強(qiáng)的高通驍龍835為例，它的單精浮點(diǎn)運(yùn)算性能為630GFLOPS，比起2000年前后的超算，已經(jīng)可以進(jìn)入前100了。但是比起現(xiàn)在PC端的Tesla P100，其單精浮點(diǎn)運(yùn)算性能可達(dá)10TFLOPS，仍有十幾倍的差距。這就意味著嵌入式AI和PC端的玩法將完全不同。

一般來說嵌入式的開發(fā)層級(jí)從上到下可以分為：應(yīng)用層（Application），算法層（AI Algorithms），操作系統(tǒng)層（OS），驅(qū)動(dòng)層以及芯片層。由于移動(dòng)芯片計(jì)算能力的限制，嵌入式人工智能除了需要優(yōu)化算法層之外，還需要關(guān)注底層驅(qū)動(dòng)和操作系統(tǒng)的優(yōu)化——這就需要算法團(tuán)隊(duì)不僅在操作系統(tǒng)領(lǐng)域里經(jīng)驗(yàn)豐富，還需要和芯片廠商有緊密的合作。

同時(shí)，對(duì)于嵌入式，用戶對(duì)功耗和發(fā)熱等性能要求又極為敏感。所以王璠表示，綜合這些因素后，現(xiàn)階段我們做嵌入式的計(jì)算必須要有高效、經(jīng)濟(jì)的算法。而要達(dá)到這個(gè)目標(biāo)，則需要從硬件和軟件兩方面著手。

硬件

對(duì)于中科創(chuàng)達(dá)，硬件是基于高通、ARM這些廠商的芯片。不僅如此，王璠提到，他們?cè)诩夹g(shù)層面的合作已非常深入，目前的合作方式為硬件廠商開發(fā)加速引擎，并將芯片提前提供給中科創(chuàng)達(dá)算法團(tuán)隊(duì)來開發(fā)技術(shù)，這個(gè)過程中硬件廠商會(huì)基于算法團(tuán)隊(duì)提出的一些意見來改進(jìn)引擎。王璠舉了個(gè)例子，中科創(chuàng)達(dá)在MWC2017上和高通合作系統(tǒng)，高通在硬件優(yōu)化上面提供了很大的幫助，他們內(nèi)部開發(fā)了一個(gè)完全針對(duì)與深度學(xué)習(xí)算法的加速引擎，使運(yùn)算獲得了5倍左右速度的提升。一個(gè)好的引擎，可以讓AI系統(tǒng)落地到嵌入式設(shè)備上取得事半功倍的效果。

軟件

軟件方面則需要更加經(jīng)濟(jì)的計(jì)算模型，在保證準(zhǔn)確率的前提下，盡量減少計(jì)算量。

首先是一個(gè)經(jīng)濟(jì)的網(wǎng)絡(luò)設(shè)計(jì)。

用深度學(xué)習(xí)的方法來處理AI，很多時(shí)候是一個(gè)搭積木的過程。隨著現(xiàn)在人工智能方面開源的程度越來越大，從網(wǎng)上能得到的公開資源諸如文章、網(wǎng)絡(luò)結(jié)構(gòu)、評(píng)測(cè)、訓(xùn)練好的模型等等都很多，善用這些資源，把各模塊嵌到網(wǎng)絡(luò)里面，達(dá)到既滿足你當(dāng)前的需求，又具有更好效果的網(wǎng)絡(luò)。

第二，從繁入簡(jiǎn)。傳統(tǒng)的AI的算法，都是在一個(gè)很龐大的集群來運(yùn)行的。在這種情況下，網(wǎng)絡(luò)的大小可能到幾百兆，甚至幾個(gè)G，速度也比較慢。假如要放到嵌入式上，就需要從繁入簡(jiǎn)。這里有兩個(gè)方法：

• 一個(gè)是老師-學(xué)生模型，設(shè)計(jì)一個(gè)小網(wǎng)絡(luò)，從原有的復(fù)雜網(wǎng)絡(luò)里面學(xué)習(xí)它的知識(shí)。典型的方案是 Hinton 提出的模型蒸餾，包括現(xiàn)在很多的半監(jiān)督學(xué)習(xí)也會(huì)用類似的方式來做。這是特別有效的縮減網(wǎng)絡(luò)規(guī)模的方式。

• 另外一點(diǎn)就是裁減和近似。這里的關(guān)鍵在于縮減之后，很可能會(huì)降低性能，這時(shí)就需要算法工程師需要做出平衡和取舍了，什么樣的程度才可以在滿足當(dāng)前需求的同時(shí)達(dá)到最佳的效果。

第三點(diǎn)，適用場(chǎng)景。對(duì)于不同的任務(wù)場(chǎng)景，最優(yōu)的網(wǎng)絡(luò)設(shè)計(jì)是不一樣的。尤其在嵌入式上，需要盡可能的讓運(yùn)行速度更快。測(cè)試集和用戶實(shí)際使用場(chǎng)景是不一樣的，所以在模型設(shè)計(jì)好后還需要根據(jù)用戶可能碰到的實(shí)際情況做適配。

↑ MWC2017ARM展臺(tái)展示的ThunderView 算法技術(shù)

第四點(diǎn)是共享參數(shù)。盡可能的用同一套參數(shù)來完成多種不同的任務(wù)。比如在MWC上，創(chuàng)達(dá)和ARM聯(lián)合做的一個(gè)技術(shù)，主要是做食物的識(shí)別和卡路里的計(jì)算。我們需要完成的任務(wù)，降到算法層級(jí)來說，需要第一知道是什么食物，第二要知道這個(gè)食物在哪里，輪廓是多大，知道體積后才能估計(jì)它有多少卡路里。在做食物分類的時(shí)候，在深度學(xué)習(xí)的參數(shù)內(nèi)部已經(jīng)包含了很多關(guān)于這個(gè)食物的信息。當(dāng)最后把分割任務(wù)加進(jìn)去的時(shí)候，實(shí)際上并沒有浪費(fèi)任何一個(gè)多余的參數(shù)，只是最后抽出來一些特征，做一個(gè)簡(jiǎn)單的擬合，就可以得到一個(gè)比較好的效果。

最后，王璠總結(jié)道，要想嵌入式人工智能玩得好，必須做到軟硬件的充分結(jié)合。

（完）

---

實(shí)戰(zhàn)特訓(xùn)：遠(yuǎn)場(chǎng)語音交互技術(shù)  

智能音箱這么火，聽聲智科技CTO教你深入解析AI設(shè)備語音交互關(guān)鍵技術(shù)！

課程鏈接：http://www.mooc.ai/course/80

加入AI慕課學(xué)院人工智能學(xué)習(xí)交流QQ群：624413030，與AI同行一起交流成長(zhǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。