AIoT 融合落地方興未艾，工業(yè)制造智能轉(zhuǎn)型迫在眉睫。

為了構(gòu)建行業(yè)對 AIoT 產(chǎn)業(yè)的全新認(rèn)知，解析 AIoT 泛產(chǎn)業(yè)的 “云、管、邊、端” 及智能制造產(chǎn)業(yè)的發(fā)展，探討當(dāng)下 AIoT 行業(yè)落地困境及工業(yè)互聯(lián)網(wǎng)發(fā)展思路，2019 年 11 月 22 日，全球 AIoT 產(chǎn)業(yè)· 智能制造峰會在深圳隆重舉行，本次會議由雷鋒網(wǎng)主辦，由深圳市軟件行業(yè)協(xié)會、深圳市大數(shù)據(jù)產(chǎn)業(yè)協(xié)會、深圳市人工智能學(xué)會、深圳市人工智能行業(yè)協(xié)會作為支持單位。

作為雷鋒網(wǎng)精心打造的唯一年度 AIoT 盛會，峰會聚焦 AI、IoT、5G、邊緣計算及其場景應(yīng)用在內(nèi)的關(guān)鍵技術(shù)發(fā)展；聚焦智能家居、智能制造、智慧城市為核心的關(guān)鍵產(chǎn)業(yè)落地，致力于打造探討 AIoT 技術(shù)發(fā)展及產(chǎn)業(yè)落地中關(guān)鍵問題的行業(yè)技術(shù)峰會。為產(chǎn)學(xué)研思想碰撞、融合應(yīng)用提供一個前沿陣地，為政企各界專業(yè)人士提供一個交流互動的專業(yè)平臺。

在上午的「AIoT 技術(shù)變革」論壇上，地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙帶來了《邊緣 AI 芯片賦能行業(yè)，共建普惠 AI 時代》的分享。他表示，AIoT設(shè)備數(shù)量的快速增長背后隱藏著巨大的需求和商業(yè)機(jī)會。這其中，邊緣產(chǎn)生的數(shù)據(jù)和有限的骨干網(wǎng)的處理能力之間的矛盾愈加凸顯，要解決這個矛盾一定是云、端、邊緣相結(jié)合。

地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙

在邊緣側(cè)，邊緣AI芯片光有算力還不夠，還要看算力的有效利用率。不僅如此，AI芯片不應(yīng)該只是一個硬件，而是需要軟硬結(jié)合。具體到AIoT的場景，張永謙認(rèn)為AI的落地面臨多形態(tài)產(chǎn)品、場景效果、快速開發(fā)應(yīng)用、硬件開發(fā)、系統(tǒng)整合5個挑戰(zhàn)，并且具體介紹了地平線如何一步步拆解解決這些挑戰(zhàn)。

以下為雷鋒網(wǎng)做了不改變原意編輯整理的演講實(shí)錄：

AI確實(shí)已經(jīng)越來越多地和我們的生產(chǎn)、生活相結(jié)合，也開始去創(chuàng)造一些真實(shí)的價值。我今天要和大家分享的是地平線在邊緣側(cè)如何做Al芯片解決方案，以及如何把邊緣側(cè)和云端結(jié)合在一起，讓整個AI落地。

首先談一下計算，計算從中央往邊緣越來越分散，一開始大家用的是大型機(jī)，然后到PC，每個家庭一臺，到了手機(jī)每人一部，到AloT的時代，終端設(shè)備的智能化的趨勢越來越明顯，我們認(rèn)為在不久的將來智能設(shè)備的數(shù)量可能比全球總?cè)丝跀?shù)量高一個數(shù)量級，甚至兩個數(shù)量級。這個過程背后隱藏著巨大的需求和商業(yè)機(jī)會，這個也是我們非常感興趣的一個地方。

5G其實(shí)是為AloT去做準(zhǔn)備的，它可以讓端側(cè)、邊緣側(cè)接入的設(shè)備數(shù)量大大增加，接入的質(zhì)量也大大增加。但5G會帶來一個更大的矛盾，就是在邊緣側(cè)巨大的數(shù)據(jù)每天都在產(chǎn)生，但建設(shè)骨干網(wǎng)和云端，擴(kuò)容和成本都是非常大的挑戰(zhàn)。

也就是說到了5G時代，邊緣側(cè)產(chǎn)生的數(shù)據(jù)和比較有限的骨干網(wǎng)的處理能力之間的矛盾會愈加凸顯。要解決這個矛盾，將來AI的落地一定是云、端、邊緣相結(jié)合，需要達(dá)到一個動態(tài)的平衡。前端我們必須做智能化的處理，一個大的架構(gòu)是前端做大量的感知，真正的云端做比較復(fù)雜的認(rèn)知，這其中就形成了一個動態(tài)的平衡，讓整個網(wǎng)絡(luò)的性價比達(dá)到最優(yōu)。

邊緣計算這幾年比較火，因?yàn)樗€有一些別的優(yōu)點(diǎn)，比如在隱私保護(hù)上面，相比把數(shù)據(jù)傳到云端，數(shù)據(jù)留在端上可以被更好地保護(hù)。當(dāng)然邊緣計算這個詞也越來越火，現(xiàn)在跟云計算并列成為整個架構(gòu)里面一個關(guān)鍵的元素。

講到邊緣計算的時候不能不提邊緣AI芯片，這幾年國內(nèi)很多的公司都在提AI芯片，地平線從公司創(chuàng)立之初一直在做這個事情。從我們的角度看，邊緣AI芯片跟傳統(tǒng)的芯片有一個很大的不一樣的地方，就是傳統(tǒng)的芯片大家基本都是講PPA，也就是Power功耗、Performance性能，Area芯片面積（成本）。這些要素主宰了摩爾定律在過去二十年到三十年間的快速發(fā)展。

到了AI邊緣側(cè)計算的時候，這個評估變得很復(fù)雜。首先大家在提AI芯片的時候會提我有幾個T的邊緣算力，但是光有算力不夠，還要看算力的有效利用率。比如你有一個T的算力，但是你在實(shí)際場景只有30%的有效利用率，意味著70%的成本包括維持芯片正常工作的功耗都被白白浪費(fèi)。

這之上要再看AI芯片的處理場景，針對這個場景處理的輸出結(jié)果的有效性指標(biāo)是不是最優(yōu)，也是衡量整個AI芯片，包括上面算法一個最重要的指標(biāo)。我們把這幾點(diǎn)結(jié)合在一起，最終才能真正去評估。

基于上面的分析，地平線2015年成立之初做AI芯片的時候，就不單純是一個芯片公司，我們做了大量的軟件工作。我們在設(shè)計芯片的時候，除了芯片的架構(gòu)，還設(shè)計了相應(yīng)的指令級、編譯器以及模型結(jié)構(gòu)。這些其實(shí)都是我們對于未來幾年主流邊緣側(cè)、AI場景的一個預(yù)判。我們在設(shè)計芯片整個架構(gòu)和模型時，都會和這個預(yù)判緊密結(jié)合，把整個軟硬件結(jié)合在一起。我們認(rèn)為只有這樣才能滿足邊緣側(cè)對性價比、能耗比非?？量痰囊?，才能把邊緣側(cè)AI芯片做好。

在我們看來，AI芯片不應(yīng)該只是一個硬件，而是需要軟硬結(jié)合。最好的踐行者就是蘋果，大家用蘋果手機(jī)即使用得很久，也會覺得非常流暢，因?yàn)樗衍浻布龅梅浅：?。即便蘋果的主頻和純粹的物理計算力可能比高通要低，但事實(shí)上蘋果手機(jī)運(yùn)行操作系統(tǒng)，工作兩三年以后，它的流暢性和工作性能，要高于同等主頻下面的芯片廠商提供芯片的手機(jī)，這是一個很好的例子解釋軟硬結(jié)合的威力。

這是我們公司自己做的一個評估，在我們公司自主研發(fā)的芯片上面輸入720p的圖象，運(yùn)行一個人臉識別的場景的算法。如果我們不考慮軟件、編譯器和架構(gòu)，單楨消耗是141.9 MB per Frame，單楨計算延遲43.77毫秒，計算資源利用率57%。我們把編譯器打開之后做優(yōu)化，它單楨的帶寬消耗是大大降低了，計算的資源利用率可以達(dá)到95%，它跟外面存儲數(shù)據(jù)的交換次數(shù)和時間大大減少。這個例子體現(xiàn)了軟硬結(jié)合的威力，這是我們公司成立到現(xiàn)在一直在努力的方向，我們在底層賦能的上面給用戶帶來的價值就是軟硬結(jié)合。

我們有信心把摩爾定律延續(xù)下去，傳統(tǒng)的摩爾定律是工藝為主，臺積電已經(jīng)在籌備3納米的工廠。但是通過軟硬件的結(jié)合，我們可以看到還有很大的發(fā)展空間。

下面講一下地平線，地平線是2015年7月份成立，是中國第一家軟硬結(jié)合的、真正面向AI做芯片的公司，率先提出了軟硬結(jié)合的BPU架構(gòu)。

2017年12月份，地平線發(fā)布了中國第一款邊緣AI芯片——旭日一代和征程一代，旭日一代面向AloT，征程一代面向智能駕駛，我們比較榮幸是臺積電全球第一家流片AI芯片的公司。

2018年，我們的征程芯片登陸美國頂級的Robotaxi車隊(duì)。2018年底，旭日一代落地的首年，我們的芯片和解決方案出貨量達(dá)到了六位數(shù)。

今天這個大會的主題是“智能制造”，所以這里我就是給大家介紹一下我們面向AloT 的AI芯片，地平線在剛剛結(jié)束的安博會上發(fā)布了旭日二代，這是面向AloT的邊緣芯片處理器，等效算力是4T。

除了剛剛講到的軟硬結(jié)合的芯片理念之外，我接下來講一下我們的邊緣AI芯片是如何賦能整個行業(yè)的。

在我們軟硬結(jié)合的基礎(chǔ)之上，面對行業(yè)里面非常有能力的客戶，我們會提供一個底層的工具鏈，這些客戶都有很好的算法團(tuán)隊(duì)，有非常豐富的行業(yè)里的場景和數(shù)據(jù)，他們可以用我們的芯片和工具鏈，在這之上訓(xùn)練出來他們自己的模型。

這個訓(xùn)練區(qū)別于普通的計算芯片，對于未來的主流場景的算法演進(jìn)趨勢，我們投入力量做了非常大的預(yù)判，在我們的芯片里，我們對非常多的算法做了進(jìn)一步的加速，這樣，客戶用我們的處理器和工具鏈結(jié)合他們的數(shù)據(jù)做訓(xùn)練的時候，相當(dāng)于站在我們的肩膀之上。如果是一個普通的AI處理器，可能需要幾位比較資深的算法工程師，花較長的時間進(jìn)行訓(xùn)練，但是在我們這上面需要幾位相對來說比較入門的或者不需要那么資深的工程師，同樣可以快速地訓(xùn)練出來模型。這是對于很多新的應(yīng)用和分散的邊緣側(cè)的應(yīng)用有好處的事情，能夠大大降低企業(yè)的投入和產(chǎn)品上市的時間。

2015年到現(xiàn)在四年多的時間， AloT在整個邊緣側(cè)落地的局面里存在一個問題，真正自己有很強(qiáng)AI能力的公司，包括算法能力、數(shù)據(jù)能力，占的比例非常少，可能連1%都不到。

大量的企業(yè)都有著非常豐富的行業(yè)經(jīng)驗(yàn)，可能他們也有些行業(yè)數(shù)據(jù)，但是對于如何把AI在邊緣側(cè)做好，這個事情其實(shí)對他們來說挑戰(zhàn)非常大。因?yàn)檫@是一個系統(tǒng)級的事情，大家可以看到它面臨著非常多的挑戰(zhàn)：

第一是各種形態(tài)的AI產(chǎn)品，比如像攝像頭、智能面板機(jī)、各種形態(tài)的機(jī)器人、智能家電等等。這么多的AI產(chǎn)品形態(tài)，如何能夠把它進(jìn)行產(chǎn)品化，是一個非常挑戰(zhàn)的過程。

第二是場景下的智能效果，你可以去購買一個AI芯片，再從某個算法公司里面找到你想要的算法，之后你要把這么多的東西自己整合在一起，還要考慮輸入的圖象質(zhì)量，真正打造一個在邊緣側(cè)可以非常好地去做智能感知、分析，解決場景化需求的產(chǎn)品。其實(shí)做出來一個demo級的東西和一個產(chǎn)品級真正可用的東西，中間的需要投入的資源差別非常之大。如何能夠把邊緣側(cè)的產(chǎn)品效果、AI的效果做得非常好，不光要有算力，還要把效果做好，也很難。

第三是如何快速開發(fā)上層的智能應(yīng)用。因?yàn)樵谶吘墏?cè)落地的場景的復(fù)雜度，即便有芯片、有算法、有很好的圖象輸入仍然不夠，因?yàn)檎麄€前端的場景的策略非常復(fù)雜，你今天有一個基礎(chǔ)的算法，輸出一些結(jié)構(gòu)化的信息，但是這些結(jié)構(gòu)化的信息離你想要的有用信息其實(shí)是往往差得非常遠(yuǎn)，怎樣能夠快速地基于應(yīng)用，把跟應(yīng)用相結(jié)合的有效的軟件開發(fā)出來，這中間還有一個很大的鴻溝。而且你每到一個場景會發(fā)現(xiàn)，可能策略都不太一樣，這個時候怎么樣快速開發(fā)上層的智能應(yīng)用是第三個挑戰(zhàn)。

第四是硬件的挑戰(zhàn)，因?yàn)槲覀冊谶@個過程之中發(fā)現(xiàn)，AI因?yàn)樗歉鷪鼍按蛲ǖ?，并不是像傳統(tǒng)的產(chǎn)業(yè)鏈分工這樣，做產(chǎn)品的做產(chǎn)品，做硬件的做硬件，然后再賣給那些真正在行業(yè)里面落地的。其實(shí)有非常多的行業(yè)和應(yīng)用里的客戶，他們離場景最近，知道AI怎么用，他們非常想自己擁有一個智能的產(chǎn)品，而不是再從某個第三方采購，他希望他可以直接拿到一個智能化的非常好的產(chǎn)品，但是硬件開發(fā)對他們來說其實(shí)是非常頭疼的，因?yàn)榇罅康墓驹瓉韽膩頉]有做過硬件的開發(fā)。

第五是系統(tǒng)級的整合。一個做AI芯片的公司，即便像地平線這樣的公司軟硬結(jié)合做得非常好，還提供工具鏈，但是會發(fā)現(xiàn)真正賦能行業(yè)的時候99%的用戶用不起來，太復(fù)雜了，產(chǎn)業(yè)的分工還沒有形成，產(chǎn)業(yè)鏈沒有變得那么成熟，需要我們多做一步去賦能，去克服這些挑戰(zhàn)。

后面我會詳細(xì)介紹一下，我們賦能的方式，就是針對邊緣側(cè)的場景做芯片級的解決方案，進(jìn)一步地賦能我們客戶。

AloT是一個很大的概念，我們做解決方案的時候從上面的挑戰(zhàn)一步步拆解，第一是不同形態(tài)的AI產(chǎn)品，這里面主要是做三類，第一類是攝像頭，大家都知道攝像頭芯片覆蓋的場景非常廣。第二是帶屏幕智能產(chǎn)品，可以用來交互的面板機(jī)的產(chǎn)品，主要用在一些近距離的交互上。第三種邊緣側(cè)的計算盒子的解決方案，比較靈活地對接各種前端的感知的數(shù)據(jù)，這是目前基于地平線第一代旭日芯片和第二代旭日芯片的邊緣側(cè)AI解決方案。

首先說一下大家最關(guān)心的智能，我們有一個全棧的智能算法的能力，我列出來最主要針對人的智能化，因?yàn)槿说闹悄芑袌瞿壳翱雌饋硎亲钕嚷涞氐囊粋€市場。一級結(jié)構(gòu)化，對一些原子的智能檢測，到二級的結(jié)構(gòu)化，可以做一些識別，包括做屬性的分析和語音，然后再到最外層的三級結(jié)構(gòu)化，對被分析目標(biāo)的時間和空間的運(yùn)動做進(jìn)一步的語義級的分析，像Re  ID，基于旭日芯片，地平線有全棧的能力賦能我們的客戶。這是對密集人群3D的建模，包括實(shí)時的跟蹤，包括五個關(guān)鍵點(diǎn)的分析，這樣能夠?yàn)闀r空里面的追蹤、Re  ID包括行為分析打下一個非常好的邊緣側(cè)的基礎(chǔ)。

所有的密集人群里面的時空分析，其實(shí)都是在2瓦左右的邊緣側(cè)的一個小的AI芯片上完成的，它的性價比比傳統(tǒng)的服務(wù)器大大提高，能耗也大大降低。

有了好的算法之后還需要有好的圖象輸入，這個圖象輸入也是一個技術(shù)活，不是選定了某一個芯片里的某一個ISP就好了，對于不同的場景要做大量的微觀的調(diào)試，通過算法克服場景里圖象輸入帶來的一些干擾，比如在室外布了一個智能感知的設(shè)備，一天中太陽的角度從早晨到中午、到晚上，冬天到夏天，強(qiáng)光、暗光，然后背光、逆光等等，在不停地變化，怎么讓這個設(shè)備在一天中能夠自動地去獲取最好的圖象效果，就要做非常多的圖象的調(diào)優(yōu)。

下面談一下工程，怎么樣在邊緣側(cè)和端側(cè)快速開發(fā)不同的智能產(chǎn)品。我們在軟件架構(gòu)上做了統(tǒng)一的規(guī)劃，讓我們快速推出這些方案，也讓客戶在這個軟硬架構(gòu)上面可以快速地基于我們提供的底層做上層的應(yīng)用開發(fā)。我們把這些智能能力都封裝好，把整個硬件，包括OTA升級和云對接的SDK這些工作在我們的方案里面打包做好，用戶可以很快的在這上面開發(fā)他們的應(yīng)用。

我們除了把與我們芯片周邊相關(guān)的做了完整的算法設(shè)計，去確保圖象識別的效果，我們還對智能攝像頭的模組也進(jìn)行了設(shè)計，這樣客戶可以直接用已經(jīng)調(diào)試好的整套硬件的核心部分，再加上外圍自己擴(kuò)展的部分，快速完成硬件的設(shè)計。

真正去布到場景里去的時候，即便把剛才那些都做了，效果可能還會受一些非常小的因素帶來的很大影響，比如在低照的情況下如何補(bǔ)光，又比如有的時候通過可見光做不好，要補(bǔ)其他的光線，像紅外光。

補(bǔ)光燈的位置、功率多少也會直接影響到圖象輸入，以及最終的效果。整個這些參考設(shè)計，我們都會在里面做好，讓客戶真的可以快速地完成產(chǎn)品化的過程。

除了這些，我們還會幫助我們的客戶在一些比較關(guān)鍵的行業(yè)去過行業(yè)檢測。我們推出第一代的AI芯片之后逐步摸索，慢慢給廣大的客戶去賦能，梳理清楚要做的事情及思路。目前我們已經(jīng)推出了三個系列的解決方案，最上面是針對智能面板機(jī)的解決方案，另外是針對智能IPC的方案，還有像通行、考勤、可視對講等，這里面主要針對人臉的智能化。攝像頭里面人臉的識別現(xiàn)在用得最多，還包括在商業(yè)場景用的客流分析，以及在一些相對要求復(fù)雜的場景里做人員的結(jié)構(gòu)化分析，以及行為分析。這些也都同樣可以沉淀在我們邊緣側(cè)的分析單元里。

最后我想總結(jié)一下：地平線是專注于邊緣AI芯片及解決方案的公司，我們在底層通過軟硬結(jié)合，以及整套的解決方案去賦能，目前在行業(yè)里面像我們能夠有這么大的投入、有這么全面能力的公司其實(shí)非常少，因?yàn)檫@個路確實(shí)比較艱苦，又要做芯片、又要做算法、又要做方案。

我們的服務(wù)理念是堅(jiān)決不做行業(yè)應(yīng)用，我們不會和我們的客戶去競爭，也不會因?yàn)榭吹侥骋粋€行業(yè)在大爆發(fā)，就直接沖到最下游去，既做產(chǎn)品又做項(xiàng)目，然后把我們合作伙伴的事都給做了。我們還是恪守我們的本份，做底層的技術(shù)賦能。

我們最終的目標(biāo)是希望能夠讓AI更加普惠，不是只在少數(shù)有實(shí)力的組織才能去玩的東西，而是通過我們的軟硬結(jié)合和解決方案，能夠讓AI走到行業(yè)客戶的面前，客戶在上面再把整個行業(yè)的應(yīng)用進(jìn)行更好的開發(fā)，然后在邊緣側(cè)形成一個非常好的智能感知的輸入和篩選。在邊緣側(cè)的AI再和云端的AI相結(jié)合，最后讓這個技術(shù)整個在行業(yè)里面真正地落地。

關(guān)注「雷鋒網(wǎng)」公眾號，發(fā)關(guān)鍵詞「2019 AIoT峰會—地平線」，獲取本文精彩演講PPT。

相關(guān)文章：

大咖云集，觀點(diǎn)碰撞！《全球 AIoT 產(chǎn)業(yè)· 智能制造峰會》圓滿落幕

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。