0
| 本文作者： 張瑞 | 2019-08-21 15:29 |
制約AI安防芯片規(guī)模化應用的核心技術問題是什么？
這是不少芯片企業(yè)面對安防場景時，不斷向自己提出的疑問。在提高AI安防芯片性能，加強算力的同時，從業(yè)者們也逐漸發(fā)現(xiàn)，芯片中最為關鍵的其實并不是單純提升算力，如果不進行存儲優(yōu)化，那么芯片實際提供的計算力會大大降低。
“要突破AI芯片的瓶頸，并不能只是簡單的增加計算算力，而是一定要把數(shù)據(jù)存儲管理做好?！碧骄晨萍紕?chuàng)始人兼CEO魯勇說道。而對于存儲問題的解決，仍是一個探索中的新方向。
AI芯片對于傳統(tǒng)芯片帶來的挑戰(zhàn)，并不只是計算架構(gòu)上的，更多是在存儲架構(gòu)間的。
傳統(tǒng)的芯片采用的是馮·諾依曼架構(gòu)，其核心架構(gòu)中計算模塊和存儲單元是分離的。CPU和內(nèi)存條并不集成在一起，只在CPU中設置了容量極小的高速緩存。
也就是說，CPU在執(zhí)行命令時必須先從存儲單元中讀取數(shù)據(jù)。每一項任務，如果有十個步驟，那么CPU會依次進行十次讀取，執(zhí)行，再讀取，再執(zhí)行……這就造成了延時，以及大量功耗花費在數(shù)據(jù)讀取上。
這一問題也被稱為傳統(tǒng)芯片的“內(nèi)存墻”問題。
而在AI 應用中，馮·諾伊曼“瓶頸”問題顯得愈發(fā)嚴重。AI依賴的算法是一個龐大和復雜的網(wǎng)絡，有很多參數(shù)要存儲，也需要完成大量的計算，這些計算中又會產(chǎn)生大量數(shù)據(jù)。在完成大量計算的過程中，一般芯片的設計思路是大量增加并行的運算單元，例如上千個卷積單元，需要調(diào)用的存儲資源也在增大。
不夸張地說，AI初創(chuàng)芯片公司雖然采用不同的路徑打造芯片，但事實上都在努力對這一問題予以解決。大部分針對 AI，尤其是加速神經(jīng)網(wǎng)絡處理而提出的硬件架構(gòu)創(chuàng)新，都是在與這個問題做斗爭。
而成立于2017年的AI芯片初創(chuàng)公司探境科技，也在這一路途上跋涉。不過不同的是，探境科技選擇另辟蹊徑，直接從存儲子系統(tǒng)的優(yōu)化入手，解決“內(nèi)存墻”問題。
而如何解決這一問題呢？
目前解決這一問題的方法有幾種，較為常見的方法是加大存儲帶寬，采用高帶寬的外部存儲，以及從算法入手，設計低比特權(quán)重的神經(jīng)網(wǎng)絡。
除此之外，存算一體化也被看做是未來的發(fā)展方向，在實現(xiàn)上也分為不同的路徑。
其一是SSD中植入計算芯片或者邏輯計算單元，可以被叫做存內(nèi)處理或者近數(shù)據(jù)計算，這其實是深度學習的一種應用場景，并非是AI芯片架構(gòu)的創(chuàng)新。
另一種就是存儲和計算完全結(jié)合在一起，使用存儲的器件單元直接完成計算，比較適合神經(jīng)網(wǎng)絡推理類應用。
而探境科技則另辟蹊徑，提出了完全不同的解決方案。
魯勇提到，并不認同目前存算一體的處理方式，主要原因是成本太高，并不符合市場需求。
“存算一體的處理方式，其實違反了芯片中的成本結(jié)構(gòu)。芯片中，之所以設計和區(qū)分片上的緩存SRAM，及片外的DRAM，就是因為如果所有存儲都放入芯片內(nèi)部，成本就大幅上升，會上升幾十倍到上百倍?！?/p>
因而，拋開將存儲全部放入芯片內(nèi)部的方式，探境科技自創(chuàng)了SFA（Storage First Architecture，簡稱SFA），即存儲優(yōu)先架構(gòu)。
不同于常見的解決內(nèi)存瓶頸的方法，SFA是“以存儲調(diào)度為核心”的計算架構(gòu)，數(shù)據(jù)在存儲之間的搬移過程之中就完成了計算，計算對于數(shù)據(jù)來說只是一種演變。
“與通常計算的先有計算指令然后提供數(shù)據(jù)相反，SFA架構(gòu)，存儲是我們優(yōu)先的出發(fā)點。考慮數(shù)據(jù)在搬移過程中做計算，也就是由數(shù)據(jù)帶動計算而非由算子帶動數(shù)據(jù)。”魯勇進一步解釋。
這一點與AI大神Lecun所宣稱的所有的神經(jīng)網(wǎng)絡都是圖計算問題不謀而合。
那么打破傳統(tǒng)馮·諾依曼架構(gòu)，自研存算一體架構(gòu)的依據(jù)是什么？
這可以談到人類大腦的存儲和計算方式。從生物角度講，大腦存儲大量的知識，能夠快速提取并訪問，而大腦的內(nèi)存和計算并不是分開的，更多的是存在一定的相容性。因而，未來的計算機可能不是基于計算的memory，而是基于memory的計算，更多做到融合。
不過，因為當前芯片領域?qū)τ贏I算法的關注還較多，針對AI的結(jié)構(gòu)改進嘗試還偏少。未來，memory與computing結(jié)合的嘗試，會更可期。
魯勇也介紹道，目前專注于從存儲子系統(tǒng)入手，著力解決AI芯片的存儲計算架構(gòu)問題的企業(yè)并不多，而其中很多公司從事的都是成本結(jié)構(gòu)并不合理的存算一體架構(gòu)，符合合理的成本結(jié)構(gòu)并優(yōu)化存儲子系統(tǒng)的公司更是屈指可數(shù)。
安防作為計算機視覺較快落地的領域，也成為探境科技較為看好的場景之一。
探境科技的創(chuàng)始人兼CEO魯勇，出身全球十大芯片廠商之一的Marvell半導體，是位在半導體業(yè)摸爬滾打了15年的老兵。
在成立探境科技之前，魯勇曾是Marvell半導體的中國芯片研發(fā)總監(jiān)。據(jù)魯勇介紹，在Marvell這十年里，他從零開始，一手搭建了Marvell的中國芯片研發(fā)團隊。
探境科技創(chuàng)始人&CEO 魯勇
在創(chuàng)立探境科技之前，幾位在?？低?、大華股份等安防巨頭中任職的朋友都陸續(xù)來找到魯勇，咨詢英特爾Movidius VPU是否能夠適用于終端AI處理的需求。
魯勇認為，目前市場上還沒有足夠優(yōu)秀的適合安防前端的通用芯片，也沒有一款很適用安防的AI芯片出現(xiàn)。不過Movidius的火爆，恰好說明了市場對邊緣端芯片的強大需求。
于是，2017年，魯勇決定離開Marvell，與一群老朋友成立了探境科技。
在安防領域里面，有大量的算法需要前置。目前的算法基本都是基于深度學習。
而探境科技的芯片，如何更好適用于安防大量非結(jié)構(gòu)化數(shù)據(jù)的處理需求呢？
魯勇講到，安防領域的數(shù)據(jù)特點，主要在于需要實時的處理大量連續(xù)的圖像數(shù)據(jù)流。“安防領域的數(shù)據(jù)處理，在于兩個維度。第一是每秒處理幀率要越來越高，第二是圖像分辨率上要高。在這兩個維度上，安防對邊緣芯片提出了要求?！倍骄晨萍嫉膬?yōu)勢則在于，基于SFA架構(gòu)，能更好優(yōu)化存儲和計算，從而更好解決這一問題。
安防領域，邊緣端的芯片，已有不少廠家入場。其中大廠有之，明星初創(chuàng)公司亦有之。
目前來看，邊緣終端市場有兩種形態(tài)的芯片產(chǎn)品，一種是針對特定應用的SoC，一種是通用加速器做獨立芯片。
如在安防領域，SoC面向?qū)Ｓ檬袌?，在芯片中深度學習加速計算事實上只是一部分，而其他大部分芯片面積則交給了主控處理器、視頻解碼等模塊。
終端通用深度學習加速器芯片市場的應用則剛起步。許多公司的市場布局主要一是培養(yǎng)開發(fā)者生態(tài)，另一方面也探索研究哪一領域最有潛力，針對幾個重要的場景推出相應的優(yōu)化芯片。而探境科技的目標就是做支持所有神經(jīng)網(wǎng)絡的通用型AI處理器。不僅在安防領域，也瞄準了其他應用場景。
魯勇認為，探境科技基于SFA架構(gòu)的AI芯片，在優(yōu)化了存儲架構(gòu)的同時，能夠適用于智能家居、智能安防、智能穿戴、智能車載、智能外設等更多場景，低功耗低效能的解決更多問題。
目前，探境已量產(chǎn)了應用這一架構(gòu)的語音識別芯片音旋風611，視覺芯片今年下半年也將發(fā)布。
但實際上，近兩年，許多AI企業(yè)的芯片紛紛宣布流片，尤其針對安防領域的芯片并不少，但似乎還并未出現(xiàn)強勢的對傳統(tǒng)芯片的替代或繼任者。而作為一個芯片界的老兵，如何看待AI芯片行業(yè)的發(fā)展呢？
魯勇認為，AI芯片確實是被公認的一個國內(nèi)企業(yè)彎道超車的機會。相較于國外更看重云端場景，國內(nèi)有在邊緣端有大量市場，這為國內(nèi)AI企業(yè)在邊緣芯片的發(fā)展提供了良好的機會。
但國內(nèi)雖有很多公司關注對AI芯片的底層架構(gòu)的研發(fā)，也有不少AI芯片公司“只追求有，不追求好”，用拼湊的方式來做芯片。很多公司為了順應市場形勢，將自己包裝為一個AI芯片公司。這樣就給市場造成了很大泡沫。并且，國內(nèi)AI芯片企業(yè)，也普遍缺乏后端設計的人才。
后端設計相對于前端的邏輯設計，更多涉及到芯片的工藝，也相對更需要豐富的經(jīng)驗。國內(nèi)在后端設計人才上更為緊缺。因而，很多廠商會通過外包的方式做后端服務，來完成生產(chǎn)。這對芯片廠商來說，其實是一個很大的競爭劣勢。
AI芯片，“登高”似乎也面臨著“跌重”的風險。
不過，大浪淘沙。在2017年就看到，并率領團隊致力于解決AI芯片中的存儲問題，魯勇顯然對自己和探境科技都更有信心。
“芯片，作為一個贏者通吃的行業(yè)，對技術和產(chǎn)品的能力要求都非常高。行業(yè)最終會看到，技術和產(chǎn)品會主導AI芯片的格局。具備兩者實力的AI芯片公司，會最后存活下來?！濒斢抡f道。雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
