自2017年以來(lái)，人工智能（AI）的發(fā)展熱潮已經(jīng)蔓延到集成電路領(lǐng)域，不僅如英偉達(dá)、海思、英特爾等大廠但凡有個(gè)風(fēng)吹草動(dòng)就能霸占頭條，諸多新晉公司也相繼重磅發(fā)布了有關(guān)人工智能芯片的產(chǎn)品。如果說(shuō)當(dāng)今科技界什么最火，AI芯片毫無(wú)疑問(wèn)是最大熱門(mén)之一。

泓觀科技（otureo.ai），由三位清華校友創(chuàng)立于2015年的科技型公司，一直致力于通過(guò)邊緣計(jì)算實(shí)現(xiàn)深度學(xué)習(xí)高效率賦能于嵌入端設(shè)備和應(yīng)用，與上下游合作伙伴攜手共筑人工智能產(chǎn)業(yè)生態(tài)。一貫低調(diào)潛行的他們，也在用著自己的方式開(kāi)拓著另一條產(chǎn)品線，如今破繭而出——面向物聯(lián)網(wǎng)（IoT）物聯(lián)端率先推出超低功耗異步AI芯片，上演了一次另辟蹊徑的厚積薄發(fā)。

泓觀科技選擇了一個(gè)AI芯片領(lǐng)域中獨(dú)特的發(fā)力點(diǎn)潛心磨礪，提出并設(shè)計(jì)了一種全新的基于異步架構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)AI芯片，劍指loT物聯(lián)端的超低功耗智能化場(chǎng)景應(yīng)用需求，可以極大的降低loT場(chǎng)景下智能數(shù)據(jù)分析所需的功耗。目前，首款該類芯片已經(jīng)由泓觀科技的團(tuán)隊(duì)率先設(shè)計(jì)完成并實(shí)現(xiàn)流片（如下圖），這是迄今面向IoT領(lǐng)域的異步架構(gòu)AI芯片的第一次問(wèn)世。

泓觀科技的創(chuàng)始人向雷鋒網(wǎng)介紹到：“從近20年前我們進(jìn)入清華大學(xué)微電子學(xué)專業(yè)讀書(shū)時(shí)算起，雖然后面的職業(yè)生涯不斷帶來(lái)更多元化的知識(shí)背景，但畢竟都算是集成電路這一行里多年的從業(yè)者了，對(duì)于芯片這個(gè)龐大產(chǎn)業(yè)的自身規(guī)律有著自己的理解和認(rèn)知。既然決定在AI芯片這里也做點(diǎn)兒事情，構(gòu)建第二產(chǎn)品線，我們希望選擇一個(gè)獨(dú)特而有趣的著力點(diǎn)，對(duì)應(yīng)具有一定差異化的應(yīng)用領(lǐng)域和生態(tài)位置，同時(shí)可以與我們依托平臺(tái)型系統(tǒng)芯片的第一產(chǎn)品線，兼容互補(bǔ)，相得益彰?！?/p>

泓觀科技所采用的異步架構(gòu)，與這個(gè)領(lǐng)域中先前已推出的各類AI芯片有著顯著的區(qū)別。先前的AI芯片有一個(gè)共同的特點(diǎn)，就是遵循功能與性能優(yōu)先的設(shè)計(jì)原則。其針對(duì)的應(yīng)用場(chǎng)景主要分為兩類：基于云端的在線計(jì)算和基于前端設(shè)備的離線計(jì)算。前者如Google TPU系列、比特大陸Sophon系列等；后者如Movidius Myriad系列、海思包含NPU的Kirin970、Apple包含Neural Engine的A11等，即使作為前端AI芯片，其應(yīng)用環(huán)境也集中在手機(jī)、無(wú)人機(jī)等高端設(shè)備上。

然而對(duì)于IoT設(shè)備及其應(yīng)用場(chǎng)景而言，上述AI芯片的架構(gòu)與特點(diǎn)并不適合。“一則因?yàn)閘oT 設(shè)備通常專注于某種單一功能，例如針對(duì)視頻采集的設(shè)備一般情況下無(wú)需運(yùn)行語(yǔ)音識(shí)別和自然語(yǔ)言處理的相關(guān)算法；二則相較于手機(jī)、無(wú)人機(jī)這樣的高端設(shè)備，大部分loT設(shè)備的剛性需求在于超低功耗，性能并非第一考慮因素?！便^科技的創(chuàng)始人這樣告訴雷鋒網(wǎng)，“像我們這樣，遵循著完全不同的設(shè)計(jì)原則和技術(shù)路線來(lái)實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)AI芯片，可以說(shuō)有點(diǎn)卓爾不群甚至頗為超前。就目前已知的媒體報(bào)道，我們應(yīng)該是率先實(shí)現(xiàn)異步卷積神經(jīng)網(wǎng)絡(luò)電路方案并實(shí)現(xiàn)流片的創(chuàng)業(yè)公司，不論在中國(guó)還是世界范圍內(nèi)?！?/p>

關(guān)于這款具有首創(chuàng)意義的超低功耗異步卷積神經(jīng)網(wǎng)絡(luò)AI芯片，泓觀科技的創(chuàng)始人向雷鋒網(wǎng)予以了頗為詳盡的講解。

“首先要從架構(gòu)設(shè)計(jì)上入手。IoT 設(shè)備大多無(wú)需集成通用型芯片，只需根據(jù)應(yīng)用需求設(shè)計(jì)定制架構(gòu)即可?！便^科技在芯片架構(gòu)上專注于卷積模型所支持的特定操作（如卷積、池化等），并針對(duì)識(shí)別場(chǎng)景的特點(diǎn)，考慮芯片工藝、面積、片上存儲(chǔ)等因素，對(duì)支持的網(wǎng)絡(luò)架構(gòu)加入一定的約束（如層數(shù)、通道數(shù)量等）。

“大量的loT設(shè)備只有在被喚醒時(shí)才工作，設(shè)備經(jīng)常處在休眠狀態(tài)，如何在設(shè)備休眠狀態(tài)下嚴(yán)格控制功耗產(chǎn)生，是重中之重?！痹谶@個(gè)環(huán)節(jié)，泓觀科技采用了異步（asynchronous）電路技術(shù)，與常規(guī)的同步（synchronous）電路對(duì)比（如上圖），異步電路能夠保證芯片在設(shè)備休眠時(shí)，產(chǎn)生的功耗可以忽略不計(jì)。

“接下來(lái)優(yōu)化訪存同樣是一個(gè)關(guān)鍵環(huán)節(jié)。”受限于芯片面積和成本，片上存儲(chǔ)的容量也非常有限，傳統(tǒng)解決辦法是引入大量的片外I/O 訪存，但由于 IoT 設(shè)備的自身特點(diǎn)，偏低的片外訪存效率會(huì)導(dǎo)致性能下降和功耗增加。泓觀科技則采用了多層融合的架構(gòu)技術(shù)（如上圖）來(lái)減少 I/O 訪存——通過(guò)架構(gòu)和算法的交互優(yōu)化（co-design），保證算法層的輸出數(shù)據(jù)能夠被有效緩存。

此外，神經(jīng)網(wǎng)絡(luò)操作對(duì)數(shù)據(jù)存在較強(qiáng)的魯棒性，因而網(wǎng)絡(luò)對(duì)于數(shù)據(jù)的精度變化并不敏感。泓觀科技通過(guò)定點(diǎn)化處理神經(jīng)網(wǎng)絡(luò)，使用16位數(shù)據(jù)甚至更低的比特?cái)?shù)可以保持網(wǎng)絡(luò)性能基本不下降，并通過(guò)自動(dòng)化搜索不同網(wǎng)絡(luò)層定點(diǎn)化配置的方法，對(duì)權(quán)值和輸入/輸出采用不同的策略（如上圖）。

同時(shí)，泓觀團(tuán)隊(duì)設(shè)計(jì)了一種自動(dòng)化剪枝算法（如上圖），對(duì)神經(jīng)網(wǎng)絡(luò)的每一層建立單獨(dú)的剪枝參數(shù)，從而解決了神經(jīng)網(wǎng)絡(luò)本身存在的冗余性。

基于上述設(shè)計(jì)要點(diǎn)的異步卷積神經(jīng)網(wǎng)絡(luò)芯片，其整體框架圖如上。泓觀科技的創(chuàng)始人告訴雷鋒網(wǎng)，“在同樣的芯片制程、達(dá)到相同性能的情況下，位于芯片active ratio（工作時(shí)間占比）較低的應(yīng)用區(qū)間，相比基于傳統(tǒng)同步電路，采用異步電路設(shè)計(jì)可以顯著減少功耗，而這一區(qū)間恰恰是大量的物聯(lián)網(wǎng)終端智能化應(yīng)用場(chǎng)景的分布重心。”下圖顯示了不同active ratio條件下，同步電路和異步電路的功耗對(duì)比?？梢钥吹?，在物聯(lián)端應(yīng)用重點(diǎn)分布的低active ratio區(qū)間，采用異步架構(gòu)的AI芯片，可以將功耗降低近一個(gè)量級(jí)甚至更多。

這款獨(dú)特而全新的異步卷積神經(jīng)網(wǎng)絡(luò)芯片，其功能聚焦于物體識(shí)別等智能化視覺(jué)分析,面向可穿戴設(shè)備、智能家居、自供能（如太陽(yáng)能）監(jiān)控等對(duì)超低功耗有剛性需求的IoT終端領(lǐng)域，逐步賦能實(shí)現(xiàn)AI應(yīng)用落地?！斑@個(gè)路線及發(fā)力點(diǎn)的選擇，來(lái)源于我們對(duì)技術(shù)發(fā)展和市場(chǎng)定位的思考與判斷?！?泓觀科技的創(chuàng)始人這樣總結(jié)到，“屆時(shí)從不久的未來(lái)里回望，這款芯片所代表的特質(zhì)，應(yīng)當(dāng)不再是獨(dú)特和另類。對(duì)于AI和IoT這兩大領(lǐng)域的廣泛交匯和深度融合，相信這一次意味著一個(gè)開(kāi)端?！?/p>

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。