目前在人工智能領(lǐng)域，不管是學(xué)術(shù)圈還是工業(yè)圈，大家都認(rèn)同一個趨勢，那就是在很多應(yīng)用場景上計算需要落地到設(shè)備上，讓設(shè)備擁有智能化——即嵌入式的AI，這個是人工智能領(lǐng)域新開辟出的一個分支。

 中科創(chuàng)達(dá)技術(shù)總監(jiān)王璠堅定的對雷鋒網(wǎng)說。

在近日（4月28日）的北京GMIC大會新技術(shù)演示Show上，王璠向外界展示了中科創(chuàng)達(dá)在嵌入式人工智能方面所做的工作。這位百度出身的90后的技術(shù)總監(jiān)，目前帶領(lǐng)著一支30人的 ThunderView 技術(shù)團隊專注于嵌入式AI的算法研究。我們現(xiàn)在做的工作是將深度學(xué)習(xí)放在嵌入式設(shè)備上，王璠進(jìn)一步解釋道。

↑ 王璠

那么什么是嵌入式 AI 呢？

據(jù)雷鋒網(wǎng)了解，所謂嵌入式AI，就是設(shè)備無須聯(lián)網(wǎng)通過云端數(shù)據(jù)中心進(jìn)行大規(guī)模計算去實現(xiàn)人工智能，而是在本地計算，在不聯(lián)網(wǎng)的情況下就可以做實時的環(huán)境感知、人機交互、決策控制。

談及嵌入式AI和云端計算的AI的區(qū)別，王璠告訴雷鋒網(wǎng)，對于一般的AI系統(tǒng)，數(shù)據(jù)可以在服務(wù)器端進(jìn)行計算，人們往往會通過增加模型的大小、網(wǎng)絡(luò)的深度，調(diào)用盡可能多的計算資源，以期得到更加精確的計算結(jié)果。而對于嵌入式AI來說，就需要反其道而行之了，王璠總結(jié)道，云端計算的AI致力于如何更好的解決問題，而嵌入式的AI則致力于如何更加經(jīng)濟的解決問題。

嵌入式AI的應(yīng)用場景有哪些？

對于嵌入式AI的應(yīng)用場景，王璠表示，云端計算雖然精確度高，但并不是所有的場景都適合，比如：

• 輔助駕駛或者自動駕駛系統(tǒng)，如果在云端計算，設(shè)備端采集到數(shù)據(jù)后上傳，計算完成后再返回終端，這樣會不可避免的帶來一定的延時，而在駕駛的場景中，這種延時意味著危險系數(shù)的提高。

• 數(shù)據(jù)安全，比如家里安裝了一個監(jiān)控攝像頭，用來關(guān)注老人和孩子的安全，上傳到云端的計算也意味著隱私被泄露的風(fēng)險提升。

• 脫機，雖然現(xiàn)在通信技術(shù)發(fā)展的很快，但是仍然會碰到在地下停車場、商場里沒有信號的情況，這時候就不能指望云端計算有很好的用戶體驗了。

所以，嵌入式的人工智能還是有很大的市場需求的。

同樣是做嵌入式的人工智能，地平線CEO余凱曾經(jīng)說過，嵌入式AI的應(yīng)用場景地平線看好三個方向：安防、智能家庭、智能駕駛。對此，王璠也表示贊同，同時表示這三個方向在實現(xiàn)難度上也是逐漸遞增的。

從算法方面來看，目前ThunderView算法解決方案包括深度學(xué)習(xí)算法、算法優(yōu)化、算法集成三個部分。王璠提到，深度學(xué)習(xí)算法和算法優(yōu)化這兩個部分在執(zhí)行過程中是高度耦合在一起的，同時算法優(yōu)化部分的工作非常重要，難度也最大。目前他們已經(jīng)在圖像處理、機器視覺等領(lǐng)域取得了一些成果，王璠告訴雷鋒網(wǎng)：

在2017年的國際消費類電子產(chǎn)品展覽會（CES）及世界移動通信大會（MWC）上，我們團隊攜手高通公司在高通展臺上展示了我們的物體識別及智能拍照引導(dǎo)算法。這些算法獨立運行在高通的便攜設(shè)備上，支持單機運行，不需要聯(lián)網(wǎng)。實時識別物體，實時對用戶的拍照行為進(jìn)行引導(dǎo)。

也是在今年的MWC上，我們聯(lián)合ARM公司在ARM展臺展示了食品識別及熱量估算的算法。利用在ARM設(shè)備上的深度學(xué)習(xí)引擎，我們在ARM雙攝設(shè)備上展示了食品識別和熱量估算的移動應(yīng)用程序。

↑ MWC2017高通展臺展示的ThunderView 算法技術(shù)

因為對于深度學(xué)習(xí)的網(wǎng)絡(luò)模型而言，如果一個應(yīng)用場景優(yōu)化的比較好的話，是可以將其適配到不同的任務(wù)中的。所以目前我們的選擇是先把基本場景做好，然后再將技術(shù)推廣至不同的領(lǐng)域。比如現(xiàn)在和高通的合作是在檢測方面，和ARM的合作是在分割和識別方面，而我們的目標(biāo)是要在每一個領(lǐng)域至少做到業(yè)界 state of the art 的水平，王璠信心滿滿的告訴雷鋒網(wǎng)。

那么如何更加經(jīng)濟的用嵌入式AI解決問題呢？

王璠表示，嵌入式設(shè)備的計算資源有限，雖然移動芯片的計算能力突飛猛進(jìn)，拿現(xiàn)在能力最強的高通驍龍835為例，它的單精浮點運算性能為630GFLOPS，比起2000年前后的超算，已經(jīng)可以進(jìn)入前100了。但是比起現(xiàn)在PC端的Tesla P100，其單精浮點運算性能可達(dá)10TFLOPS，仍有十幾倍的差距。這就意味著嵌入式AI和PC端的玩法將完全不同。

一般來說嵌入式的開發(fā)層級從上到下可以分為：應(yīng)用層（Application），算法層（AI Algorithms），操作系統(tǒng)層（OS），驅(qū)動層以及芯片層。由于移動芯片計算能力的限制，嵌入式人工智能除了需要優(yōu)化算法層之外，還需要關(guān)注底層驅(qū)動和操作系統(tǒng)的優(yōu)化——這就需要算法團隊不僅在操作系統(tǒng)領(lǐng)域里經(jīng)驗豐富，還需要和芯片廠商有緊密的合作。

同時，對于嵌入式，用戶對功耗和發(fā)熱等性能要求又極為敏感。所以王璠表示，綜合這些因素后，現(xiàn)階段我們做嵌入式的計算必須要有高效、經(jīng)濟的算法。而要達(dá)到這個目標(biāo)，則需要從硬件和軟件兩方面著手。

硬件

對于中科創(chuàng)達(dá)，硬件是基于高通、ARM這些廠商的芯片。不僅如此，王璠提到，他們在技術(shù)層面的合作已非常深入，目前的合作方式為硬件廠商開發(fā)加速引擎，并將芯片提前提供給中科創(chuàng)達(dá)算法團隊來開發(fā)技術(shù)，這個過程中硬件廠商會基于算法團隊提出的一些意見來改進(jìn)引擎。王璠舉了個例子，中科創(chuàng)達(dá)在MWC2017上和高通合作系統(tǒng)，高通在硬件優(yōu)化上面提供了很大的幫助，他們內(nèi)部開發(fā)了一個完全針對與深度學(xué)習(xí)算法的加速引擎，使運算獲得了5倍左右速度的提升。一個好的引擎，可以讓AI系統(tǒng)落地到嵌入式設(shè)備上取得事半功倍的效果。

軟件

軟件方面則需要更加經(jīng)濟的計算模型，在保證準(zhǔn)確率的前提下，盡量減少計算量。

首先是一個經(jīng)濟的網(wǎng)絡(luò)設(shè)計。

用深度學(xué)習(xí)的方法來處理AI，很多時候是一個搭積木的過程。隨著現(xiàn)在人工智能方面開源的程度越來越大，從網(wǎng)上能得到的公開資源諸如文章、網(wǎng)絡(luò)結(jié)構(gòu)、評測、訓(xùn)練好的模型等等都很多，善用這些資源，把各模塊嵌到網(wǎng)絡(luò)里面，達(dá)到既滿足你當(dāng)前的需求，又具有更好效果的網(wǎng)絡(luò)。

第二，從繁入簡。傳統(tǒng)的AI的算法，都是在一個很龐大的集群來運行的。在這種情況下，網(wǎng)絡(luò)的大小可能到幾百兆，甚至幾個G，速度也比較慢。假如要放到嵌入式上，就需要從繁入簡。這里有兩個方法：

• 一個是老師-學(xué)生模型，設(shè)計一個小網(wǎng)絡(luò)，從原有的復(fù)雜網(wǎng)絡(luò)里面學(xué)習(xí)它的知識。典型的方案是 Hinton 提出的模型蒸餾，包括現(xiàn)在很多的半監(jiān)督學(xué)習(xí)也會用類似的方式來做。這是特別有效的縮減網(wǎng)絡(luò)規(guī)模的方式。

• 另外一點就是裁減和近似。這里的關(guān)鍵在于縮減之后，很可能會降低性能，這時就需要算法工程師需要做出平衡和取舍了，什么樣的程度才可以在滿足當(dāng)前需求的同時達(dá)到最佳的效果。

第三點，適用場景。對于不同的任務(wù)場景，最優(yōu)的網(wǎng)絡(luò)設(shè)計是不一樣的。尤其在嵌入式上，需要盡可能的讓運行速度更快。測試集和用戶實際使用場景是不一樣的，所以在模型設(shè)計好后還需要根據(jù)用戶可能碰到的實際情況做適配。

↑ MWC2017ARM展臺展示的ThunderView 算法技術(shù)

第四點是共享參數(shù)。盡可能的用同一套參數(shù)來完成多種不同的任務(wù)。比如在MWC上，創(chuàng)達(dá)和ARM聯(lián)合做的一個技術(shù)，主要是做食物的識別和卡路里的計算。我們需要完成的任務(wù)，降到算法層級來說，需要第一知道是什么食物，第二要知道這個食物在哪里，輪廓是多大，知道體積后才能估計它有多少卡路里。在做食物分類的時候，在深度學(xué)習(xí)的參數(shù)內(nèi)部已經(jīng)包含了很多關(guān)于這個食物的信息。當(dāng)最后把分割任務(wù)加進(jìn)去的時候，實際上并沒有浪費任何一個多余的參數(shù)，只是最后抽出來一些特征，做一個簡單的擬合，就可以得到一個比較好的效果。

最后，王璠總結(jié)道，要想嵌入式人工智能玩得好，必須做到軟硬件的充分結(jié)合。

（完）

---

實戰(zhàn)特訓(xùn)：遠(yuǎn)場語音交互技術(shù)  

智能音箱這么火，聽聲智科技CTO教你深入解析AI設(shè)備語音交互關(guān)鍵技術(shù)！

課程鏈接：http://www.mooc.ai/course/80

加入AI慕課學(xué)院人工智能學(xué)習(xí)交流QQ群：624413030，與AI同行一起交流成長

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。