AI技術(shù)正成為巨頭們保持領(lǐng)先地位的關(guān)鍵之一，各領(lǐng)域的頭部公司特別是科技巨頭們，大都花費重金投資AI，但他們很快就遇到一個問題，芯片的算力無法滿足AI算法的需求。因此，國外的谷歌、亞馬遜，國內(nèi)的百度、阿里都紛紛開始自主研發(fā)AI芯片。

值得注意的是，根據(jù)公開資料，騰訊投資針對AI芯片的投資直到去年八月才曝光，當(dāng)時燧原科技宣布獲得騰訊領(lǐng)投的Pre-A輪3.4億元人民幣投資。本周三，燧原科技發(fā)布首款云端訓(xùn)練芯片邃思DTU，這款芯片從啟動研發(fā)到發(fā)布量產(chǎn)僅耗時20個月，基于該芯片云燧T10加速卡單卡單精度算力達到20 TFLOPS，堪稱業(yè)界最強。

不過，燧原科技首款芯片及加速卡云燧T10的發(fā)布只是其創(chuàng)業(yè)成功的起點。

燧原科技 CEO 趙立東

挑戰(zhàn)AI云端芯片市場的勇氣

縱觀如今的芯片市場，成功的芯片公司背后都有一個極其強大的生態(tài)，特別是在高性能計算領(lǐng)域，生態(tài)的重要性更加明顯。因此，即便新一輪的AI熱潮引發(fā)了芯片行業(yè)鮮見的創(chuàng)業(yè)潮，但大都選擇了邊緣AI芯片，這是因為其相比云端AI芯片技術(shù)難度更低，也可以避開云端AI芯片壟斷的市場格局。

燧原科技顯然是少有的云端AI芯片創(chuàng)業(yè)公司。對于為何敢于挑戰(zhàn)云端AI芯片，燧原科技 CEO 趙立東在發(fā)布會上表示，我們的信心源自天時、地利、人和。天時是CPU、GPU生態(tài)成熟，切入困難，但深度學(xué)習(xí)爆發(fā)式發(fā)展僅有7年的時間，這是一個更加開放的戰(zhàn)場，有更大的發(fā)展空間。地利是現(xiàn)在是做AI高端芯片的黃金時代，中國有廣泛應(yīng)用、人口紅利、海量數(shù)據(jù)、市場機會，既有國家政策引領(lǐng)，也有資本給予支持。人和則是上海近20年在集成電路領(lǐng)域儲備了大量的集成電路人才，同時，上海通過在AI領(lǐng)域的發(fā)展，可提供成熟算法、軟件、架構(gòu)人才，這也是燧原科技選擇上海的重要原因。

對此問題，燧原科技創(chuàng)始人兼 COO 張亞林接受雷鋒網(wǎng)采訪時補充表示，燧原做芯片高舉高打是我們CEO定下來的，這其中包含了我們的家國情懷，也是希望夠做一件對得起選擇創(chuàng)業(yè)這個決定的事情。AI發(fā)展一個很大的挑戰(zhàn)是模型不夠，但新的模型都掌握在國外大公司手中，比如谷歌，其中很關(guān)鍵的是它們有TPU。我們希望能夠提供更強的算力，讓中國人也擁有更多的AI模型。

燧原科技創(chuàng)始人兼 COO 張亞林

不容忽視的是，兩位重要創(chuàng)始人的經(jīng)歷也十分關(guān)鍵。CEO趙立東本科畢業(yè)于清華大學(xué)電子工程系，后又獲得美國猶他州立大學(xué)電子與計算機系碩士學(xué)位。2007年加入AMD，歷任計算事業(yè)部高級總監(jiān)、產(chǎn)品工程部高級總監(jiān)，負(fù)責(zé)CPU/GPU/APU及多個相關(guān)核心IP的研發(fā)，團隊規(guī)模超過千人，并參與成立中國研發(fā)中心。

COO張亞林也曾是AMD的一員，他本科畢業(yè)于復(fù)旦大學(xué)電子工程系，比趙立東晚一年（2008）加入AMD，歷任資深芯片經(jīng)理、技術(shù)總監(jiān)，曾在AMD上海研發(fā)中心領(lǐng)導(dǎo)開發(fā)并量產(chǎn)微軟XBOX-ONE系列主芯片、融合芯片APU等多款世界級芯片。

2014年，趙立東離開了AMD加入了紫光通信科技集團任副總裁，2015年3月兼任紫光集團旗下銳迪科微電子公司總裁，2017年3月任紫光集團副總裁。而張亞林直到?jīng)Q定和趙立東一起創(chuàng)業(yè)才選擇離開AMD。

雷鋒網(wǎng)認(rèn)為，兩位核心創(chuàng)始成員都是技術(shù)背景出生，都在AMD積累了豐富的經(jīng)驗，這讓他們不僅能夠判斷市場對于AI芯片的需求，也有自信敢去挑戰(zhàn)AI云端芯片。

首款云端AI加速卡單精度性能全球最高

目前看來，燧原科技在融資和產(chǎn)品上都十分順利。燧原科技2018年3月19日在上海注冊成立，1個月后就完成了2400萬人民幣種子輪融資，并啟動第一顆云端訓(xùn)練芯片的研發(fā)。同年7月，完成騰訊戰(zhàn)略領(lǐng)投的3.4億人民幣Pre-A輪融資。

就算在資本的寒冬，今年5月，燧原科技又獲得了紅點創(chuàng)投中國基金領(lǐng)投的3億元人民幣A輪融資。同月還有一個好消息，首款芯片按計劃準(zhǔn)時流片。

從2018年4月開始研發(fā)到2019年9月芯片點亮開始軟硬件聯(lián)調(diào)，燧原科技僅用了14個月的時間，加上產(chǎn)品的正式發(fā)布并開始量產(chǎn)，也僅用了20個月。

之所以說是僅用，是因為一款大型CPU和GPU從設(shè)計到量產(chǎn)通常需要三年甚至更長時間。燧原科技之所以能快速完成一款復(fù)雜芯片從設(shè)計到量產(chǎn)，其團隊有大量處理器專家是重要原因。張亞林透露，我們團隊現(xiàn)在有207人，其中很多人從2000年就開始設(shè)計處理器，經(jīng)驗非常豐富。但能夠快速實現(xiàn)芯片從設(shè)計到量產(chǎn)還因為團隊文化非常同步，大家的目標(biāo)都是盡快落地和量產(chǎn)，每個設(shè)計指標(biāo)把控的都很嚴(yán)格。

張亞林認(rèn)為，能夠這么快推出云端訓(xùn)練芯片簡直就是奇跡，因為這款芯片是從零開始設(shè)計。

“邃思DTU的架構(gòu)有非常大的創(chuàng)新，我們最核心處理器里的架構(gòu)都是我們從無到有設(shè)計的，并且受到專利保護?！?/strong>張亞林介紹。

另外，邃思DTU基于可重構(gòu)芯片的設(shè)計理念，其計算核心包含32個通用可擴展神經(jīng)元處理器（SIP），每8個SIP組合成1個可擴展智能計算群（SIC）。SIC之間通過HBM實現(xiàn)高速互聯(lián)，通過片上調(diào)度算法，數(shù)據(jù)在搬遷中完成計算，實現(xiàn)SIP利用率最大化。

“端上的可重構(gòu)更多是低功耗以及可以輕易移植應(yīng)用。云端的可重構(gòu)主要的是把整個數(shù)學(xué)計算變成一種可編程的指令集和可控的流水線，讓數(shù)學(xué)計算的模型可以重構(gòu)，這樣可以保證芯片的通用性，也能夠適應(yīng)快速迭代的AI算法?！睆垇喠诌M一步解釋。

最終，燧原科技選擇基于格羅方德12nm FinFET工藝打造邃思DTU，集成141億個晶體管，芯片面積為480平方毫米，采用先進的2.5D封裝?；阱渌糄TU的云燧T10也表現(xiàn)不俗：

• 超強算力：單精度（FP32）下算力20TFLOPS；半精度及混合精度（BF16/FP16）下算力80TFLOPS，而最大功耗僅為225W，能效比領(lǐng)先；

• 模型通用：支持CNN、RNN、LSTM、BERT等常用人工訓(xùn)練模型，可用于圖像、流數(shù)據(jù)、語音等訓(xùn)練場景；

• 高速互聯(lián)：采用燧原ESL互聯(lián)技術(shù)，滿足E級數(shù)據(jù)中心規(guī)模部署需求；

• 接口兼容：標(biāo)準(zhǔn)PCIe接口，廣泛兼容主流AI服務(wù)器；

• 生態(tài)開放：支持主流深度學(xué)習(xí)框架，通過SDK提供深度定制。

張亞林強調(diào)，為應(yīng)對云端數(shù)據(jù)中心大規(guī)模訓(xùn)練集群的挑戰(zhàn)，我們創(chuàng)造性地提出200GB雙向ESL互聯(lián)技術(shù)，在1024節(jié)點集群規(guī)模下，訓(xùn)練線性度加速比達86%。在相同互聯(lián)帶寬下，相比InfiniBand組網(wǎng)，能較大幅度降低組網(wǎng)的復(fù)雜度和成本。云燧T10將于2020年第一季度上市。

云燧T10的性能是一個什么樣的水平？做一個簡單的對比，友商同級別最新旗艦單卡的單精度算力為 16.4TFLOPS，云燧T10單卡單精度算力為20TFLOPS。友商旗艦的功耗是250W，云燧T10的最大功耗為225W。ResNeT-50模型的Benchmark無論是FPS還是FPS/W 云燧T10表現(xiàn)都比友商旗艦表現(xiàn)更好。

更小的芯片面積可以實現(xiàn)更成本，加上更高的高每瓦算力讓云燧T10可以達到更高的有效算力，這也是業(yè)界越來越關(guān)注地衡量AI芯片的指標(biāo)。

市場策略關(guān)乎成敗

更高的有效算力確實能夠吸引客戶，但想要打動用戶易用性和遷移成本同樣關(guān)鍵。在產(chǎn)品層面，燧原科技發(fā)布硬件產(chǎn)品的同時也發(fā)布軟件平臺馭算，目前已經(jīng)完全支持 TensorFlow，明年上半年將實現(xiàn)對 PyTorch、MXNet、ONNX 等主流深度學(xué)習(xí)框架提供支持，提供完整的編譯、調(diào)試、調(diào)優(yōu)工具鏈，并在硬件層開放SDK，為深度開發(fā)者提供細(xì)粒度算力編程接口。

趙立東接受采訪時表示，我們搭建一個最基礎(chǔ)的，支持TensorFlow的堆棧，但要提供完整、易用、友好的界面和工具，不是一朝一夕可以做到的，需要更長的時間。

在持續(xù)完善軟件平臺的同時，為了能實現(xiàn)無縫遷移燧原科技也有自己的方法。趙立東稱之為熱啟動，也就是在產(chǎn)品研發(fā)的過程中，就與業(yè)界合作伙伴進行技術(shù)交流和項目合作，將市場的需求融合到產(chǎn)品的開發(fā)過程。這樣可以讓產(chǎn)品更快在實際場景中落地。

張亞林表示，我們和客戶做有限接觸的時候，先是去適配他們主要的模型和業(yè)務(wù)形態(tài)，從他們的業(yè)務(wù)模型中進行泛化和抽取，通過交流我們獲得了不少信息，然后再去適配，這樣客戶就能夠很容易地進行遷移。

但對于燧原科技這樣一家初創(chuàng)公司而言，在精力有限以及面對強大競爭對手的時候，策略以及合作伙伴的選擇至關(guān)重要。燧原科技選擇的初期客戶都是現(xiàn)有產(chǎn)品能夠很好支持的合作伙伴。

趙立東介紹，目前我們已經(jīng)與騰訊針對通用人工智能應(yīng)用場景的項目開展密切的合作，未來也將會擴展到更多AI應(yīng)用場景。

據(jù)悉，燧原還將面向云服務(wù)公司、傳統(tǒng)領(lǐng)域的行業(yè)服務(wù)公司、AI超算中心和智慧城市選擇合作伙伴。趙立東表示，三個方向都在談可能的合作伙伴，我們希望與合作伙伴不是純粹的供應(yīng)商和客戶的關(guān)系，而是能夠一起進行深入合作，為他們做一些深度定制。我們希望能夠以點實現(xiàn)破冰的突破，然后由一個點變成多個點，由點連成線，再由線形成面，逐漸擴大。

深度定制也正是燧原科技進入云端AI芯片市場的策略。趙立東表示：“在壟斷市場，所有客戶都希望有新的選擇，這樣他們才能稍有議價能力，因此市場有這樣的痛點。除此之外，他們還希望有更高的性價比和能效比，特別是在落地的場景可以實現(xiàn)的有效性能?！?/p>

“科技公司們想要在競爭中不一樣，取得更好的成績就需要做差異化。但是在壟斷市場，想要得到的技術(shù)支持將會非常有限，這也會限制差異化的實現(xiàn)。所以我們希望和客戶深度定制合作，幫客戶實現(xiàn)差異化?！壁w立東進一步表示。

但隨著AI模型的成熟，市場對云端AI訓(xùn)練需求的增速將會降低，云端AI推理的市場規(guī)模將會迅速增加，并有望在2022年超過訓(xùn)練市場。對此，趙立東表示，云端AI訓(xùn)練的需求不會降低，因為還有很多公司因為價格的原因還沒有機會進來，這也是我們首先推出的是云端訓(xùn)練芯片的原因，這是市場目前最迫切需要也是量最大的。未來我們也會推出云端推理芯片，但因為推理比訓(xùn)練芯片對功耗和成本更加敏感，所以我們也會謹(jǐn)慎選擇市場的切入點。

雷鋒網(wǎng)小結(jié)

燧原科技成立于2018年的資本寒冬，不僅融資沒有受到影響，還成為了目前騰訊投資的一家AI芯片初創(chuàng)公司，這其中重要的原因是騰訊提出的產(chǎn)品熱啟動的概念與燧原科技創(chuàng)始人的理念不謀而合。作為為數(shù)不多的云端AI訓(xùn)練芯片的初創(chuàng)公司，燧原科技從產(chǎn)品研發(fā)到發(fā)布量產(chǎn)僅用了20個月的時間，這是其創(chuàng)始團隊實力的體現(xiàn)，當(dāng)然也是其執(zhí)行力非常好地說明。

不過，性能參數(shù)漂亮的芯片發(fā)布和量產(chǎn)只是AI芯片初創(chuàng)公司成功的開始，燧原科技高性價比、高能效比的硬件，持續(xù)完善的軟件平臺，以及差異化、定制化的市場策略能否獲得更多合作伙伴的認(rèn)可，才是其走向下一步成功的關(guān)鍵。

挑戰(zhàn)云端AI訓(xùn)練芯片市場困難很多，風(fēng)險很大，但云燧T10的發(fā)布讓我們對中國AI的發(fā)展增加了信心。

相關(guān)文章：

騰訊首投國內(nèi)AI芯片公司，成立僅5個月專注數(shù)據(jù)中心深度學(xué)習(xí)芯片

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。