雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

本文作者：劉芳平

2018-05-16 16:02

導(dǎo)語：云知聲在北京舉行“匠芯致物”發(fā)布會，推出全球首款面向 IoT 的 AI 芯片 UniOne。

5 月 16 日，物聯(lián)網(wǎng)人工智能服務(wù)商云知聲在北京舉行“匠芯致物”發(fā)布會，推出全球首款面向 IoT 的 AI 芯片 UniOne 及其解決方案——雨燕（Swift）。

云知聲創(chuàng)始人/CEO 黃偉表示，“在 AIoT 市場加速爆發(fā)的今天，云端方案在網(wǎng)絡(luò)、帶寬、能耗、隱私以及邊緣計算等方面的限制，使得面向物聯(lián)網(wǎng)的 AI 芯片成為必然選擇。在推出芯片產(chǎn)品之前，云知聲已在家居、智能音箱、兒童機器人等市場方面，基于通用芯片方案（IVM）百萬級出貨量的產(chǎn)品形態(tài)，驗證了芯片市場、產(chǎn)品和用戶場景的合理性。第一代 UniOne 物聯(lián)網(wǎng) AI 芯片雨燕量產(chǎn)后，將能快速切入市場客戶并滿足更多產(chǎn)品種類和形態(tài)上對成本、穩(wěn)定性、集成度方面的需求。”

“UniOne 不是一顆芯片，而是一系列芯片，它代表了云知聲對于物聯(lián)網(wǎng) AI 芯片發(fā)展戰(zhàn)略的整體構(gòu)想?！?IoT 事業(yè)部副總裁李霄寒指出。

UniOne 芯片性能特點

1、提供面向物聯(lián)網(wǎng)，跨設(shè)備形態(tài)的 AI 感知能力和本地推理能力；

2、全新深度學習網(wǎng)絡(luò)架構(gòu)，支持 DNN、LSTM 等多種網(wǎng)絡(luò)模型，性能提升 50 倍；

3、面向深度學習的內(nèi)存調(diào)度機制，數(shù)據(jù)帶寬需求下降 90%；

4、重新設(shè)計的專用 DSP 處理器；

5、AIOS + AI Chip 的 Turnkey 解決方案；

6、從算法到芯片深度學習加速硬件核心完全自主設(shè)計、自主知識產(chǎn)權(quán)。

第一代物聯(lián)網(wǎng) AI 芯片及解決方案——雨燕

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

芯片展示

云知聲第一代 UniOne 物聯(lián)網(wǎng) AI 芯片及解決方案——雨燕采用 CPU+uDSP+DeepNet 架構(gòu)，支持 8/16bit 向量、矩陣運算，基于深度學習網(wǎng)絡(luò)架構(gòu)，可將面向語音 AI 的并行運算性能發(fā)揮到極致，在更低成本和功耗下提供更高的算力。

在架構(gòu)靈活性方面，雨燕通過 Scratch-Pad 將主控 CPU 與 AI 加速器內(nèi)部 RAM 相連，可提供高效的 CPU 與 AI 加速器之間的數(shù)據(jù)通道，便于 CPU 對 AI 加速器運算結(jié)果進行二次處理。

另外，連接各個運算單元的可編程互聯(lián)矩陣架構(gòu)，提供了擴展運算指令的功能，從而進一步提升硬件架構(gòu)的靈活性及可擴展性。

同時，芯片采用多級多模式喚醒，從能量檢測，到人類聲音檢測，再到喚醒詞檢測，針對語音設(shè)備及使用場景的定制化Power Domain等技術(shù)，可將芯片功耗降低至最低。具體而言，雨燕包括以下幾大顯著特征：

高性能深度學習加速：面向深度學習和語音信號處理的 AI 定制指令以及體系架構(gòu)，將面向語音 AI 的并行運算性能發(fā)揮到極致，系統(tǒng)運算能力提升50倍以上；
高性能內(nèi)部互聯(lián)網(wǎng)絡(luò)：結(jié)合片內(nèi) Memory 及內(nèi)部互聯(lián)網(wǎng)絡(luò)，提高片內(nèi)總線帶寬的利用效率提升20倍；
低功耗架構(gòu)：異構(gòu) AMP架構(gòu)可保證高性能與低功耗的有機結(jié)合，從而獲得最佳的能效比，更適合IoT場景；
端云結(jié)合：混合應(yīng)用架構(gòu)設(shè)計，獲得本地與云端能力的最佳平衡；

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

雨燕芯片架構(gòu)

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

云知聲自研數(shù)字信號處理器 uDSP

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

雨燕的多級電源模式

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

雨燕針對 AI 任務(wù)的性能提升

云知聲聯(lián)合創(chuàng)始人/芯片負責人李霄寒表示，云知聲不僅提供雨燕芯片和終端引擎，還將應(yīng)用部分向客戶開源，同時提供相應(yīng)定制化工具以及云端AI能力服務(wù)。

通過云端芯結(jié)合，云知聲基于雨燕提供的是面向一個個具體場景如智能家居、智能音箱、智能車載等的Turn-key解決方案?；谟暄喾桨福勺尶蛻粽驹诟叩脑O(shè)計起點，以更低的成本在更短的時間內(nèi)打造出更穩(wěn)定可靠的產(chǎn)品。同時，開源的方案也可確?？蛻艋谝烟峁┑?AI 能力自行設(shè)計其它各種長尾產(chǎn)品形態(tài)，構(gòu)建更為豐富的 AIoT 生態(tài)。

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

李霄寒還透露了云知聲 AI 芯片發(fā)展路徑：2019 年將發(fā)布支持多模態(tài)的雪豹，2020年將推出提供通用 AI 邊緣算力的旗魚。

在本次發(fā)布會上，除了UniOne的重磅發(fā)布之外，云知聲還公布了與京東智能、億咖通科技的戰(zhàn)略合作。在智能家居領(lǐng)域，云知聲攜手京東智能，推動人工智能芯片在智能家居領(lǐng)域的應(yīng)用。與京東Alpha平臺合力打造定制化智能標桿產(chǎn)品，實現(xiàn)跨品牌、跨品類智能設(shè)備的互聯(lián)互通。針對智能網(wǎng)聯(lián)汽車領(lǐng)域，云知聲將攜手億咖通科技，共同研發(fā)汽車前裝車規(guī)級AI芯片。

為什么要做芯片？

雷鋒前線 | 籌劃 3 年，云知聲發(fā)布首款面向 IoT 的 AI 芯片

黃偉指出，無論是 CPU 還是 GPU、FPGA，現(xiàn)有的芯片架構(gòu)并非為 AI 專門設(shè)計，并不能滿足物聯(lián)網(wǎng) AI 算力需求，且考慮了太多的向后兼容性，因此性能上遠非最優(yōu)。

較之于傳統(tǒng)芯片，定制化的 AI 芯片由于應(yīng)用場景和 AI 算法相對確定，因此在硬件設(shè)計上更加專門化，在面向此類任務(wù)時相對于通用芯片在計算密度及功耗上有絕對優(yōu)勢。因此，相較通用芯片而言，AI 芯片可以在更低的主頻、更小的芯片面積，完成機器學習中同等任務(wù)量的計算，做到成本、功耗、算力等多維需求之間的平衡。

黃偉認為，AIoT 的破局點在芯片，原因有三：

AI 落地的關(guān)鍵在于選擇場景
應(yīng)用場景定義 AI 芯片
芯片可以加速 AI 應(yīng)用落地

UniOne 芯片的研發(fā)負責人，李霄寒告訴雷鋒網(wǎng)，

原來 IVM 的既有市場，像智能家居，在芯片出來之后，可以實現(xiàn)無縫替換，客戶那邊可能什么都不需要改，直接用新的芯片替換原來那個板子上的老芯片就可以了。

所以，對于客戶來講，更新?lián)Q代的成本是非常低的，他只感覺到了性能的提升，功耗和價格的下降。

為什么云知聲要自己做而不是跟其它廠商合作定制芯片呢？李霄寒表示，

AI 芯片的整體架構(gòu)還遠沒有成熟，并不是說像 CPU 一樣，采購誰的都一樣，沒必要自己去重復(fù)發(fā)明一個 CPU。我們面臨的問題和 PC 上的 CPU 問題是完全不一樣的。

現(xiàn)在從整個產(chǎn)品定義，到里面的架構(gòu)都是在一個探索階段，沒有標準化，你去找一個合作伙伴的話，很可能最后做出來的東西不能夠滿足場景的需求。這也是為什么我們堅決要自己做。

而且我們在這方面有比較大的優(yōu)勢，因為我們做了 2 年多將近 3 年的時間，團隊已經(jīng)從算法到應(yīng)用到芯片都打磨出來了。后面做芯片的迭代，架構(gòu)以及整體方案的演進，成本是比較低的。

所以，對于我們來講，肯定是還是選擇自己做，勝過跟別人去合作。

從“云端芯”到“云+芯”

2016 年，云知聲 CEO 黃偉接受雷鋒網(wǎng)專訪時透露了公司的品牌升級方向————從智能語音公司，到物聯(lián)網(wǎng)人工智能服務(wù)商。

而實現(xiàn)這種轉(zhuǎn)型，在產(chǎn)品層面上云知聲提出了“云端芯”的概念，通過芯片將終端和云端連接起來。黃偉對雷鋒網(wǎng)表示，云知聲的人工智能產(chǎn)品包括以下三塊：

AI 芯，目前你可以將其理解成連網(wǎng)的麥克風；
AIUI，用戶與終端之間的交互方式，目前主要就是語音；
AI Service，云端服務(wù)。

云知聲要做的，是將 AI 芯放進從家電到汽車的各種產(chǎn)品里，讓它們都能連網(wǎng)并進行通過語音交互，并連接至云端服務(wù)。

2017 年 8 月，云知聲宣布獲 3 億元戰(zhàn)略投資，融資目的之一就是加大人工智能專用芯片 UniOne 的研發(fā)力度，進一步完善以“云端芯”為核心的產(chǎn)品開發(fā)和商業(yè)落地。5 月 11 日，云知聲宣布獲得 1 億美金 C 輪融資。現(xiàn)在，云知聲自行設(shè)計的 AI 芯片終于在 5 月 16 日對外發(fā)布。

發(fā)布會上，黃韋宣布，云知聲的戰(zhàn)略從芯片發(fā)布后，將從“云端芯”轉(zhuǎn)變?yōu)椤霸?芯”。

造芯是水到渠成，不是頭腦發(fā)熱

對云知聲來說，造芯不是目的，而是手段。人工智能時代，廠商的競爭力在于其向客戶提供解決方案的能力，而芯片正是解決方案的重要一環(huán)。

李霄寒告訴雷鋒網(wǎng)，云知聲設(shè)計自己的芯片是一件水到渠成的事，“我們先用一個通用型的方案，去拓展、打磨這個產(chǎn)品，然后找到我們的客戶和應(yīng)用場景。然后，我們再做芯片，去替代原有的產(chǎn)品?！睂Ρ戎?，一些公司是先設(shè)計出芯片再去找客戶和應(yīng)用場景。

而所謂“造芯”，并非是將設(shè)計、研發(fā)、生產(chǎn)整個流程都做了，“我們不光要涉及到芯片的設(shè)計，還要涉及到整個上面的系統(tǒng)，包括相關(guān)的云端服務(wù)和算法”，李霄寒對雷鋒網(wǎng)透露，芯片及方案開發(fā)團隊有四五十人。

之所以投入的人力并不龐大，是因為云知聲只抓最核心的設(shè)計部分，包括用于 AI 加速的 NPU、用于信號處理的 DSP 以及其它一些 know-how，其它一些核心模塊都采用 IP 復(fù)用的方式，這也是當下許多芯片設(shè)計所用的方法。

李霄寒認為，做好 AI 芯片的三個關(guān)鍵要素：

第一，需要對算法有足夠的了解，對算法要有 know-how。如果你拿到的是比較普通的算法，可能你的優(yōu)化也是比較普通的，如果你的 know-how 比較多，那可能優(yōu)化可以做的比較精細。
第二，需要對芯片重視，要能夠設(shè)計芯片，把它做出來，能夠給出比較好的架構(gòu)。我們經(jīng)過 3 年的打磨已經(jīng)完全具備了這方面的能力。
第三，很多人會忽略的一點，就是對應(yīng)用的 know-how。做芯片不是軍備競賽，不是說效能比越高，或者說關(guān)鍵參數(shù)，主頻、制程越高越好。計算力并不是越高越好，而是要滿足場景的需求。

UniOne 并不是一款芯片，而是一個產(chǎn)品系列，并讓每一款產(chǎn)品在特別的場景下做到極致，“我們會有一系列的芯片，比如第一款芯片解決智能家居領(lǐng)域里面的多模態(tài)交互問題，第二款芯片解決車載環(huán)境下的一些交互，或者是別的需求，會把它這個方向做到極致。”李霄寒告訴雷鋒網(wǎng)。