AIoT 融合落地方興未艾，工業(yè)制造智能轉型迫在眉睫。

為了構建行業(yè)對 AIoT 產(chǎn)業(yè)的全新認知，解析 AIoT 泛產(chǎn)業(yè)的 “云、管、邊、端” 及智能制造產(chǎn)業(yè)的發(fā)展，探討當下 AIoT 行業(yè)落地困境及工業(yè)互聯(lián)網(wǎng)發(fā)展思路，2019 年 11 月 22 日，全球 AIoT 產(chǎn)業(yè)· 智能制造峰會在深圳隆重舉行，本次會議由雷鋒網(wǎng)主辦，由深圳市軟件行業(yè)協(xié)會、深圳市大數(shù)據(jù)產(chǎn)業(yè)協(xié)會、深圳市人工智能學會、深圳市人工智能行業(yè)協(xié)會作為支持單位。

作為雷鋒網(wǎng)精心打造的唯一年度 AIoT 盛會，峰會聚焦 AI、IoT、5G、邊緣計算及其場景應用在內(nèi)的關鍵技術發(fā)展；聚焦智能家居、智能制造、智慧城市為核心的關鍵產(chǎn)業(yè)落地，致力于打造探討 AIoT 技術發(fā)展及產(chǎn)業(yè)落地中關鍵問題的行業(yè)技術峰會。為產(chǎn)學研思想碰撞、融合應用提供一個前沿陣地，為政企各界專業(yè)人士提供一個交流互動的專業(yè)平臺。

在上午的「AIoT 技術變革」論壇上，地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙帶來了《邊緣 AI 芯片賦能行業(yè)，共建普惠 AI 時代》的分享。他表示，AIoT設備數(shù)量的快速增長背后隱藏著巨大的需求和商業(yè)機會。這其中，邊緣產(chǎn)生的數(shù)據(jù)和有限的骨干網(wǎng)的處理能力之間的矛盾愈加凸顯，要解決這個矛盾一定是云、端、邊緣相結合。

地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙

在邊緣側，邊緣AI芯片光有算力還不夠，還要看算力的有效利用率。不僅如此，AI芯片不應該只是一個硬件，而是需要軟硬結合。具體到AIoT的場景，張永謙認為AI的落地面臨多形態(tài)產(chǎn)品、場景效果、快速開發(fā)應用、硬件開發(fā)、系統(tǒng)整合5個挑戰(zhàn)，并且具體介紹了地平線如何一步步拆解解決這些挑戰(zhàn)。

以下為雷鋒網(wǎng)做了不改變原意編輯整理的演講實錄：

AI確實已經(jīng)越來越多地和我們的生產(chǎn)、生活相結合，也開始去創(chuàng)造一些真實的價值。我今天要和大家分享的是地平線在邊緣側如何做Al芯片解決方案，以及如何把邊緣側和云端結合在一起，讓整個AI落地。

首先談一下計算，計算從中央往邊緣越來越分散，一開始大家用的是大型機，然后到PC，每個家庭一臺，到了手機每人一部，到AloT的時代，終端設備的智能化的趨勢越來越明顯，我們認為在不久的將來智能設備的數(shù)量可能比全球總人口數(shù)量高一個數(shù)量級，甚至兩個數(shù)量級。這個過程背后隱藏著巨大的需求和商業(yè)機會，這個也是我們非常感興趣的一個地方。

5G其實是為AloT去做準備的，它可以讓端側、邊緣側接入的設備數(shù)量大大增加，接入的質量也大大增加。但5G會帶來一個更大的矛盾，就是在邊緣側巨大的數(shù)據(jù)每天都在產(chǎn)生，但建設骨干網(wǎng)和云端，擴容和成本都是非常大的挑戰(zhàn)。

也就是說到了5G時代，邊緣側產(chǎn)生的數(shù)據(jù)和比較有限的骨干網(wǎng)的處理能力之間的矛盾會愈加凸顯。要解決這個矛盾，將來AI的落地一定是云、端、邊緣相結合，需要達到一個動態(tài)的平衡。前端我們必須做智能化的處理，一個大的架構是前端做大量的感知，真正的云端做比較復雜的認知，這其中就形成了一個動態(tài)的平衡，讓整個網(wǎng)絡的性價比達到最優(yōu)。

邊緣計算這幾年比較火，因為它還有一些別的優(yōu)點，比如在隱私保護上面，相比把數(shù)據(jù)傳到云端，數(shù)據(jù)留在端上可以被更好地保護。當然邊緣計算這個詞也越來越火，現(xiàn)在跟云計算并列成為整個架構里面一個關鍵的元素。

講到邊緣計算的時候不能不提邊緣AI芯片，這幾年國內(nèi)很多的公司都在提AI芯片，地平線從公司創(chuàng)立之初一直在做這個事情。從我們的角度看，邊緣AI芯片跟傳統(tǒng)的芯片有一個很大的不一樣的地方，就是傳統(tǒng)的芯片大家基本都是講PPA，也就是Power功耗、Performance性能，Area芯片面積（成本）。這些要素主宰了摩爾定律在過去二十年到三十年間的快速發(fā)展。

到了AI邊緣側計算的時候，這個評估變得很復雜。首先大家在提AI芯片的時候會提我有幾個T的邊緣算力，但是光有算力不夠，還要看算力的有效利用率。比如你有一個T的算力，但是你在實際場景只有30%的有效利用率，意味著70%的成本包括維持芯片正常工作的功耗都被白白浪費。

這之上要再看AI芯片的處理場景，針對這個場景處理的輸出結果的有效性指標是不是最優(yōu)，也是衡量整個AI芯片，包括上面算法一個最重要的指標。我們把這幾點結合在一起，最終才能真正去評估。

基于上面的分析，地平線2015年成立之初做AI芯片的時候，就不單純是一個芯片公司，我們做了大量的軟件工作。我們在設計芯片的時候，除了芯片的架構，還設計了相應的指令級、編譯器以及模型結構。這些其實都是我們對于未來幾年主流邊緣側、AI場景的一個預判。我們在設計芯片整個架構和模型時，都會和這個預判緊密結合，把整個軟硬件結合在一起。我們認為只有這樣才能滿足邊緣側對性價比、能耗比非常苛刻的要求，才能把邊緣側AI芯片做好。

在我們看來，AI芯片不應該只是一個硬件，而是需要軟硬結合。最好的踐行者就是蘋果，大家用蘋果手機即使用得很久，也會覺得非常流暢，因為它把軟硬件做得非常好。即便蘋果的主頻和純粹的物理計算力可能比高通要低，但事實上蘋果手機運行操作系統(tǒng)，工作兩三年以后，它的流暢性和工作性能，要高于同等主頻下面的芯片廠商提供芯片的手機，這是一個很好的例子解釋軟硬結合的威力。

這是我們公司自己做的一個評估，在我們公司自主研發(fā)的芯片上面輸入720p的圖象，運行一個人臉識別的場景的算法。如果我們不考慮軟件、編譯器和架構，單楨消耗是141.9 MB per Frame，單楨計算延遲43.77毫秒，計算資源利用率57%。我們把編譯器打開之后做優(yōu)化，它單楨的帶寬消耗是大大降低了，計算的資源利用率可以達到95%，它跟外面存儲數(shù)據(jù)的交換次數(shù)和時間大大減少。這個例子體現(xiàn)了軟硬結合的威力，這是我們公司成立到現(xiàn)在一直在努力的方向，我們在底層賦能的上面給用戶帶來的價值就是軟硬結合。

我們有信心把摩爾定律延續(xù)下去，傳統(tǒng)的摩爾定律是工藝為主，臺積電已經(jīng)在籌備3納米的工廠。但是通過軟硬件的結合，我們可以看到還有很大的發(fā)展空間。

下面講一下地平線，地平線是2015年7月份成立，是中國第一家軟硬結合的、真正面向AI做芯片的公司，率先提出了軟硬結合的BPU架構。

2017年12月份，地平線發(fā)布了中國第一款邊緣AI芯片——旭日一代和征程一代，旭日一代面向AloT，征程一代面向智能駕駛，我們比較榮幸是臺積電全球第一家流片AI芯片的公司。

2018年，我們的征程芯片登陸美國頂級的Robotaxi車隊。2018年底，旭日一代落地的首年，我們的芯片和解決方案出貨量達到了六位數(shù)。

今天這個大會的主題是“智能制造”，所以這里我就是給大家介紹一下我們面向AloT 的AI芯片，地平線在剛剛結束的安博會上發(fā)布了旭日二代，這是面向AloT的邊緣芯片處理器，等效算力是4T。

除了剛剛講到的軟硬結合的芯片理念之外，我接下來講一下我們的邊緣AI芯片是如何賦能整個行業(yè)的。

在我們軟硬結合的基礎之上，面對行業(yè)里面非常有能力的客戶，我們會提供一個底層的工具鏈，這些客戶都有很好的算法團隊，有非常豐富的行業(yè)里的場景和數(shù)據(jù)，他們可以用我們的芯片和工具鏈，在這之上訓練出來他們自己的模型。

這個訓練區(qū)別于普通的計算芯片，對于未來的主流場景的算法演進趨勢，我們投入力量做了非常大的預判，在我們的芯片里，我們對非常多的算法做了進一步的加速，這樣，客戶用我們的處理器和工具鏈結合他們的數(shù)據(jù)做訓練的時候，相當于站在我們的肩膀之上。如果是一個普通的AI處理器，可能需要幾位比較資深的算法工程師，花較長的時間進行訓練，但是在我們這上面需要幾位相對來說比較入門的或者不需要那么資深的工程師，同樣可以快速地訓練出來模型。這是對于很多新的應用和分散的邊緣側的應用有好處的事情，能夠大大降低企業(yè)的投入和產(chǎn)品上市的時間。

2015年到現(xiàn)在四年多的時間， AloT在整個邊緣側落地的局面里存在一個問題，真正自己有很強AI能力的公司，包括算法能力、數(shù)據(jù)能力，占的比例非常少，可能連1%都不到。

大量的企業(yè)都有著非常豐富的行業(yè)經(jīng)驗，可能他們也有些行業(yè)數(shù)據(jù)，但是對于如何把AI在邊緣側做好，這個事情其實對他們來說挑戰(zhàn)非常大。因為這是一個系統(tǒng)級的事情，大家可以看到它面臨著非常多的挑戰(zhàn)：

第一是各種形態(tài)的AI產(chǎn)品，比如像攝像頭、智能面板機、各種形態(tài)的機器人、智能家電等等。這么多的AI產(chǎn)品形態(tài)，如何能夠把它進行產(chǎn)品化，是一個非常挑戰(zhàn)的過程。

第二是場景下的智能效果，你可以去購買一個AI芯片，再從某個算法公司里面找到你想要的算法，之后你要把這么多的東西自己整合在一起，還要考慮輸入的圖象質量，真正打造一個在邊緣側可以非常好地去做智能感知、分析，解決場景化需求的產(chǎn)品。其實做出來一個demo級的東西和一個產(chǎn)品級真正可用的東西，中間的需要投入的資源差別非常之大。如何能夠把邊緣側的產(chǎn)品效果、AI的效果做得非常好，不光要有算力，還要把效果做好，也很難。

第三是如何快速開發(fā)上層的智能應用。因為在邊緣側落地的場景的復雜度，即便有芯片、有算法、有很好的圖象輸入仍然不夠，因為整個前端的場景的策略非常復雜，你今天有一個基礎的算法，輸出一些結構化的信息，但是這些結構化的信息離你想要的有用信息其實是往往差得非常遠，怎樣能夠快速地基于應用，把跟應用相結合的有效的軟件開發(fā)出來，這中間還有一個很大的鴻溝。而且你每到一個場景會發(fā)現(xiàn)，可能策略都不太一樣，這個時候怎么樣快速開發(fā)上層的智能應用是第三個挑戰(zhàn)。

第四是硬件的挑戰(zhàn)，因為我們在這個過程之中發(fā)現(xiàn)，AI因為他是跟場景打通的，并不是像傳統(tǒng)的產(chǎn)業(yè)鏈分工這樣，做產(chǎn)品的做產(chǎn)品，做硬件的做硬件，然后再賣給那些真正在行業(yè)里面落地的。其實有非常多的行業(yè)和應用里的客戶，他們離場景最近，知道AI怎么用，他們非常想自己擁有一個智能的產(chǎn)品，而不是再從某個第三方采購，他希望他可以直接拿到一個智能化的非常好的產(chǎn)品，但是硬件開發(fā)對他們來說其實是非常頭疼的，因為大量的公司原來從來沒有做過硬件的開發(fā)。

第五是系統(tǒng)級的整合。一個做AI芯片的公司，即便像地平線這樣的公司軟硬結合做得非常好，還提供工具鏈，但是會發(fā)現(xiàn)真正賦能行業(yè)的時候99%的用戶用不起來，太復雜了，產(chǎn)業(yè)的分工還沒有形成，產(chǎn)業(yè)鏈沒有變得那么成熟，需要我們多做一步去賦能，去克服這些挑戰(zhàn)。

后面我會詳細介紹一下，我們賦能的方式，就是針對邊緣側的場景做芯片級的解決方案，進一步地賦能我們客戶。

AloT是一個很大的概念，我們做解決方案的時候從上面的挑戰(zhàn)一步步拆解，第一是不同形態(tài)的AI產(chǎn)品，這里面主要是做三類，第一類是攝像頭，大家都知道攝像頭芯片覆蓋的場景非常廣。第二是帶屏幕智能產(chǎn)品，可以用來交互的面板機的產(chǎn)品，主要用在一些近距離的交互上。第三種邊緣側的計算盒子的解決方案，比較靈活地對接各種前端的感知的數(shù)據(jù)，這是目前基于地平線第一代旭日芯片和第二代旭日芯片的邊緣側AI解決方案。

首先說一下大家最關心的智能，我們有一個全棧的智能算法的能力，我列出來最主要針對人的智能化，因為人的智能化市場目前看起來是最先落地的一個市場。一級結構化，對一些原子的智能檢測，到二級的結構化，可以做一些識別，包括做屬性的分析和語音，然后再到最外層的三級結構化，對被分析目標的時間和空間的運動做進一步的語義級的分析，像Re  ID，基于旭日芯片，地平線有全棧的能力賦能我們的客戶。這是對密集人群3D的建模，包括實時的跟蹤，包括五個關鍵點的分析，這樣能夠為時空里面的追蹤、Re  ID包括行為分析打下一個非常好的邊緣側的基礎。

所有的密集人群里面的時空分析，其實都是在2瓦左右的邊緣側的一個小的AI芯片上完成的，它的性價比比傳統(tǒng)的服務器大大提高，能耗也大大降低。

有了好的算法之后還需要有好的圖象輸入，這個圖象輸入也是一個技術活，不是選定了某一個芯片里的某一個ISP就好了，對于不同的場景要做大量的微觀的調(diào)試，通過算法克服場景里圖象輸入帶來的一些干擾，比如在室外布了一個智能感知的設備，一天中太陽的角度從早晨到中午、到晚上，冬天到夏天，強光、暗光，然后背光、逆光等等，在不停地變化，怎么讓這個設備在一天中能夠自動地去獲取最好的圖象效果，就要做非常多的圖象的調(diào)優(yōu)。

下面談一下工程，怎么樣在邊緣側和端側快速開發(fā)不同的智能產(chǎn)品。我們在軟件架構上做了統(tǒng)一的規(guī)劃，讓我們快速推出這些方案，也讓客戶在這個軟硬架構上面可以快速地基于我們提供的底層做上層的應用開發(fā)。我們把這些智能能力都封裝好，把整個硬件，包括OTA升級和云對接的SDK這些工作在我們的方案里面打包做好，用戶可以很快的在這上面開發(fā)他們的應用。

我們除了把與我們芯片周邊相關的做了完整的算法設計，去確保圖象識別的效果，我們還對智能攝像頭的模組也進行了設計，這樣客戶可以直接用已經(jīng)調(diào)試好的整套硬件的核心部分，再加上外圍自己擴展的部分，快速完成硬件的設計。

真正去布到場景里去的時候，即便把剛才那些都做了，效果可能還會受一些非常小的因素帶來的很大影響，比如在低照的情況下如何補光，又比如有的時候通過可見光做不好，要補其他的光線，像紅外光。

補光燈的位置、功率多少也會直接影響到圖象輸入，以及最終的效果。整個這些參考設計，我們都會在里面做好，讓客戶真的可以快速地完成產(chǎn)品化的過程。

除了這些，我們還會幫助我們的客戶在一些比較關鍵的行業(yè)去過行業(yè)檢測。我們推出第一代的AI芯片之后逐步摸索，慢慢給廣大的客戶去賦能，梳理清楚要做的事情及思路。目前我們已經(jīng)推出了三個系列的解決方案，最上面是針對智能面板機的解決方案，另外是針對智能IPC的方案，還有像通行、考勤、可視對講等，這里面主要針對人臉的智能化。攝像頭里面人臉的識別現(xiàn)在用得最多，還包括在商業(yè)場景用的客流分析，以及在一些相對要求復雜的場景里做人員的結構化分析，以及行為分析。這些也都同樣可以沉淀在我們邊緣側的分析單元里。

最后我想總結一下：地平線是專注于邊緣AI芯片及解決方案的公司，我們在底層通過軟硬結合，以及整套的解決方案去賦能，目前在行業(yè)里面像我們能夠有這么大的投入、有這么全面能力的公司其實非常少，因為這個路確實比較艱苦，又要做芯片、又要做算法、又要做方案。

我們的服務理念是堅決不做行業(yè)應用，我們不會和我們的客戶去競爭，也不會因為看到某一個行業(yè)在大爆發(fā)，就直接沖到最下游去，既做產(chǎn)品又做項目，然后把我們合作伙伴的事都給做了。我們還是恪守我們的本份，做底層的技術賦能。

我們最終的目標是希望能夠讓AI更加普惠，不是只在少數(shù)有實力的組織才能去玩的東西，而是通過我們的軟硬結合和解決方案，能夠讓AI走到行業(yè)客戶的面前，客戶在上面再把整個行業(yè)的應用進行更好的開發(fā)，然后在邊緣側形成一個非常好的智能感知的輸入和篩選。在邊緣側的AI再和云端的AI相結合，最后讓這個技術整個在行業(yè)里面真正地落地。

關注「雷鋒網(wǎng)」公眾號，發(fā)關鍵詞「2019 AIoT峰會—地平線」，獲取本文精彩演講PPT。

相關文章：

大咖云集，觀點碰撞！《全球 AIoT 產(chǎn)業(yè)· 智能制造峰會》圓滿落幕

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。