1
| 本文作者： 趙青暉 | 2017-11-02 21:39 |
人工智能的出現(xiàn)，讓所有的廠商都站在了同一起跑線，對(duì)于傳統(tǒng)芯片企業(yè)來說是一個(gè)重新起跑的機(jī)會(huì)。
10月31日，杭州國(guó)芯（下簡(jiǎn)稱「國(guó)芯」）攜手合作伙伴Rokid、思必馳、Cadence在深圳華僑城洲際大酒店舉辦了一場(chǎng)發(fā)布會(huì)，發(fā)布了一款人工智能芯片「GX8010」，發(fā)布會(huì)現(xiàn)場(chǎng)，國(guó)芯總經(jīng)理兼CEO黃智杰博士在臺(tái)上講出了開篇的那句話。
人工智能大熱是近兩年才開始的事，而國(guó)芯在2001年就成立了，在沒有進(jìn)入人工智能領(lǐng)域之前，該公司主要專注于數(shù)字電視芯片和機(jī)頂盒芯片。
從傳統(tǒng)的數(shù)字電視芯片、機(jī)頂盒芯片到AI芯片，看似跨度奇大，實(shí)際上其中還是有些關(guān)聯(lián)的，比如電視機(jī)頂盒芯片處理圖像和聲音的能力，正是當(dāng)下人工智能領(lǐng)域極力想要攻克的。
2016年，國(guó)芯成立了AI事業(yè)部，想要做一款面向物聯(lián)網(wǎng)市場(chǎng)的專用AI芯片，能夠在本地離線、低功耗、可移動(dòng)的工作，由此才誕生了「GX8010」。
「邊緣計(jì)算」是國(guó)芯發(fā)布會(huì)上重點(diǎn)提及的一個(gè)詞，按照當(dāng)前AI行業(yè)的說法：
邊緣計(jì)算指在靠近物或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè)，融合網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用核心能力的開放平臺(tái)，就近提供邊緣智能服務(wù)，滿足行業(yè)數(shù)字化在敏捷連接、實(shí)時(shí)業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護(hù)等方面的關(guān)鍵需求。
這看似生僻的「邊緣計(jì)算」，其實(shí)并不「邊緣」，且意義重大，邊緣計(jì)算和云計(jì)算有些類似，都是處理大數(shù)據(jù)的計(jì)算運(yùn)行方式。但不同的是，這一次，數(shù)據(jù)不用再傳到遙遠(yuǎn)的云端，在邊緣側(cè)就能解決，更適合實(shí)時(shí)的數(shù)據(jù)分析和智能化處理，也更加高效而且安全。
那么為什么要重點(diǎn)提「邊緣計(jì)算」，更簡(jiǎn)潔的來說，邊緣在一定程度上代表了「終端」，這其中有個(gè)AI發(fā)展的邏輯，就是終端和云端的需求不盡相同。
目前深度學(xué)習(xí)對(duì)于計(jì)算力有著很高的要求，目前業(yè)界更多的是將多數(shù)計(jì)算力放在云端處理，云端設(shè)備不會(huì)考慮服務(wù)器大小、功耗大小這些問題，成本也不是首要的，但是，世界不只是云端組成，還有很多很多的終端，比如手機(jī)、智能音箱、智能設(shè)備等等，當(dāng)把AI技術(shù)應(yīng)受到這些售價(jià)親民的大眾性設(shè)備終端時(shí)，云端沒有考慮在內(nèi)的細(xì)節(jié)就都成了問題，物聯(lián)網(wǎng)終端要考慮帶寬、功耗、延時(shí)等多個(gè)方面，這些就要靠終端芯片來解決。
AI芯片里到底有什么，它和傳統(tǒng)芯片有何差別，以及各種在物聯(lián)網(wǎng)上部署人工智能的難點(diǎn)和痛點(diǎn)到底是什么？
黃智杰在發(fā)布會(huì)上講到了這些問題，在其中提出了三個(gè)痛點(diǎn)并給出了解決方案。
本地神經(jīng)絡(luò)計(jì)算問題
目前來說，物聯(lián)網(wǎng)設(shè)備中內(nèi)存帶寬普遍小，因此國(guó)芯專門設(shè)計(jì)了神經(jīng)網(wǎng)絡(luò)壓縮引擎 NCompressor，能利用神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)稀疏特性，壓縮計(jì)算權(quán)重，可實(shí)現(xiàn)6~10倍的壓縮效果，神經(jīng)網(wǎng)絡(luò)經(jīng)過壓縮后，需要的內(nèi)存容量和帶寬大幅減少，同時(shí)運(yùn)算的速度也得到了提高。
此外，針對(duì)壓縮，國(guó)芯還提供了編譯工具，可以一鍵實(shí)現(xiàn)模型的量化壓縮，然后通過芯片中的硬件引擎解壓，無需重訓(xùn)練和額外處理，在芯片架構(gòu)、編譯工具、和編譯壓縮工具一起，國(guó)芯還發(fā)布了全套神經(jīng)網(wǎng)絡(luò)開發(fā)SDK，只需要簡(jiǎn)單三步，就能完成模型從服務(wù)器到芯片的部署。
考慮到物聯(lián)網(wǎng)應(yīng)用中的成本和功耗因素，這一代的gxNPU中并沒有堆砌非常多的MAC陣列，而是選擇了64x64的配置。國(guó)芯方面表示，在典型應(yīng)用的性能評(píng)測(cè)中，gxNPU@200MHz仍然比樹莓派中的多核CPU@1GHz，快了近30倍，能效提升100倍以上。
AI交互系統(tǒng)復(fù)雜，成本高
人工智能芯片如果想要真正的落地，光有NPU還是遠(yuǎn)遠(yuǎn)不夠的，因?yàn)檎麄€(gè)AI交互是一個(gè)非常復(fù)雜的過程，除了神經(jīng)網(wǎng)絡(luò)計(jì)算還包括傳感器接入，信號(hào)處理，檢測(cè)識(shí)別，以及軟件層面的決策和反饋等。環(huán)節(jié)眾多，每一處需要的算法和計(jì)算特性還不一樣。
以智能語音交互為例，當(dāng)前語音識(shí)別的巨大挑戰(zhàn)仍在前端的語音降噪，為了解決噪聲和有效語音分離問題，業(yè)內(nèi)引入了麥克風(fēng)陣列，利用空間信息進(jìn)行降噪濾波。多個(gè)麥克風(fēng)的引入首先對(duì)硬件上的接口就提出了要求，一些傳統(tǒng)芯片沒有這么多接口只能通過其它器件來擴(kuò)展。同時(shí)多路信號(hào)的接入，也使得前端語音處理計(jì)算量大增，傳統(tǒng)芯片中大家用CPU軟解已是十分吃力。
為了解決這些問題，國(guó)芯在芯片中集成了Cadence Tensilica最高階的語音DSP Hifi-4，據(jù)雷鋒網(wǎng)了解，Cadence Tensilica HiFi DSP系列是全球使用最廣泛的音頻、聲音、語音處理器，DSP Hifi-4專門為智能語音而設(shè)計(jì)，可以高效地進(jìn)行各種語音信號(hào)處理計(jì)算。同時(shí)GX8010芯片中支持8通道麥克風(fēng)接口，不僅支持PDM和I2S數(shù)字接口，還內(nèi)置了8路ADC直接支持模擬麥克風(fēng)。
在語音算法方面，國(guó)芯也選擇了國(guó)內(nèi)知名語音AI公司Rokid和思必馳作為合作伙伴，將他們的算法移植進(jìn)來，合作推出低成本、低功耗的整體語音解決方案。
除了語音系統(tǒng)外，GX8010還構(gòu)建了視覺系統(tǒng)，支持1080P攝像頭輸入，圖像預(yù)處理，MJPEG編碼等模塊。語音和圖像的信號(hào)處理完后，都送到中央的決策和應(yīng)用系統(tǒng)進(jìn)行業(yè)務(wù)和應(yīng)用處理。
功耗大
物聯(lián)網(wǎng)產(chǎn)品的一大應(yīng)用難點(diǎn)在于體積較小、場(chǎng)景多樣，很多時(shí)候需要電池供電，這便對(duì)產(chǎn)品的功耗提出了較高的要求。
針對(duì)這一難題，國(guó)芯也給出了他們的解決方案。
在動(dòng)態(tài)功耗上，芯片充分利用多核異構(gòu)的優(yōu)勢(shì)，合理安排每個(gè)模塊的工作頻率和啟停時(shí)機(jī)，可以做到按需使用、用完即停的效果。
據(jù)國(guó)芯方面介紹：
在典型的語音交互中，GX8010只需要100-200MHz即可完成離線語音識(shí)別，DSP工作在300-400MHz即可實(shí)現(xiàn)多麥克風(fēng)陣列處理，CPU更是可以根據(jù)系統(tǒng)負(fù)荷進(jìn)行動(dòng)態(tài)調(diào)整。這種方案讓芯片在高效運(yùn)轉(zhuǎn)的同時(shí)，又能保持非常低的功耗。據(jù)測(cè)試，在離線語音交互的場(chǎng)景下全速運(yùn)行，GX8010的功耗可以做到0.7W以內(nèi)（包括DRAM）。
而關(guān)于待機(jī)歡迎問題，國(guó)芯做出了「多級(jí)喚醒機(jī)制」的方案，可以根據(jù)是否有聲音、是否有人聲，是否是關(guān)鍵詞這多個(gè)等級(jí)來做硬件劃分，逐級(jí)喚醒系統(tǒng)。這種逐級(jí)喚醒的機(jī)制，既保證了語音助手能實(shí)時(shí)響應(yīng)指令，又能大幅延長(zhǎng)設(shè)備的續(xù)航時(shí)間。據(jù)測(cè)試，GX8010可以在0.05W的待機(jī)功耗下實(shí)現(xiàn)語音喚醒。
AI 終端芯片滿足了終端設(shè)備的需求，但是僅僅是芯片亦或技術(shù)并不是大眾的最終需求，AI技術(shù)只有落地才能惠及用戶。在這點(diǎn)上，國(guó)芯選擇了Rokid和思必馳兩家合作，借力智能音箱、消費(fèi)機(jī)器人等物聯(lián)網(wǎng)產(chǎn)品進(jìn)行AI 落地。
在講述為何選擇合作伙伴時(shí)，黃智杰也談到，此舉是希望能夠滿足不同設(shè)備的需求，讓需求商能夠找到更合適的方案，一個(gè)成熟的芯片就應(yīng)該是多方共同努力的結(jié)果。
Rokid 創(chuàng)始人Misa在群訪時(shí)也表示：就像我們也不會(huì)自己做芯片一樣，國(guó)芯不需要把所有的技術(shù)都包攬。
在現(xiàn)場(chǎng)，思必馳VP趙恒藝也講到：
如果要完成一個(gè)很好的語音交互，就需要把整個(gè)端到端的閉環(huán)打通。但是，端到端的閉環(huán)是不是完全由一個(gè)公司來做成的？我不認(rèn)為是這樣的，任何一個(gè)行業(yè)成熟的標(biāo)志，一定是非常多的玩家一起參與進(jìn)來，然后去推動(dòng)這個(gè)行業(yè)向前發(fā)展。
目前市面上已經(jīng)有很多包括巨頭在內(nèi)的廠商都推出了自己的AI芯片，算是在短時(shí)間內(nèi)掀起了一股AI芯片的小熱潮，從現(xiàn)在的發(fā)展趨勢(shì)來看，智能設(shè)備對(duì)AI芯片的需求也在不斷擴(kuò)大，未來還會(huì)出現(xiàn)更多的AI芯片廠商和研發(fā)團(tuán)隊(duì)。而相對(duì)于目前市場(chǎng)上從「單一功能芯片」入手的團(tuán)隊(duì)，國(guó)芯直接選擇了語音和視覺的全能芯片，這也得益于此前他們?cè)趥鹘y(tǒng)行業(yè)的積累。
未來AI芯片要進(jìn)入更多的終端設(shè)備、應(yīng)用場(chǎng)景，在這個(gè)過程中，也需要更多像國(guó)芯這樣從「?jìng)鹘y(tǒng)芯片」加入的AI玩家一起努力，從底層推動(dòng)整個(gè)人工智能行業(yè)的發(fā)展，反而言之，就如黃智杰所說，人工智能帶來了新的起跑線，給了傳統(tǒng)芯片廠商重新起航的機(jī)會(huì)。
關(guān)注雷鋒網(wǎng)旗下公眾號(hào)「新智造」，跟雷鋒網(wǎng)一起讀懂智能&未來
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
