本周二，成立近四年的天數(shù)智芯召開名為數(shù)應(yīng)于“芯“的戰(zhàn)略新品發(fā)布會，并發(fā)布首款AI芯片Iluvatar CoreX I，這款面向邊緣AI推理的芯片具備高精度特性，峰值算力的能效比主流競品提升10倍，應(yīng)用遷移僅需1-2周（其它芯片需1-3個月），并且是工業(yè)級的解決方案。這些技術(shù)和性能特色顯然具有很大吸引力，但天數(shù)智芯將帶來的改變，不僅來自于硬件。

天數(shù)智芯創(chuàng)始人兼CEO李云鵬在發(fā)布會上表示，“硬件芯片是一個傳統(tǒng)行業(yè)，它的生命周期要求相當?shù)拈L，我們不僅僅要支持今天火熱以AI為代表的數(shù)據(jù)驅(qū)動應(yīng)用，也要承載過去長期商務(wù)智能等大規(guī)模需求，還要應(yīng)用未來可能發(fā)生的算法變化，提供通用性的算力支撐，這是天數(shù)智芯產(chǎn)品戰(zhàn)略，軟硬件結(jié)合系統(tǒng)產(chǎn)品?！笔聦嵣?，在技術(shù)與產(chǎn)業(yè)的融合方面，該方案目前已經(jīng)得到醫(yī)療、安防監(jiān)控等行業(yè)客戶的實際應(yīng)用，實現(xiàn)了技術(shù)的商業(yè)化落地。

首款AI芯片的5大亮點

與大多數(shù)公司一樣，天數(shù)智芯推出AI芯片為的就是滿足數(shù)據(jù)時代的需求，有所不同的是，天數(shù)智芯對于邊緣端AI芯片的理解。天數(shù)智芯副總裁梁斌在新品發(fā)布會上表示：“我們發(fā)現(xiàn)目前邊緣端芯片產(chǎn)品解決方案有四大痛點：第一、大部分產(chǎn)品聚焦于低精度、低功耗、低算力的應(yīng)用場景，為了追求性價比，在一定程度上犧牲了對精度的要求；第二、大部分AI芯片產(chǎn)品聚焦在消費級產(chǎn)品，不能適應(yīng)一些工業(yè)級的產(chǎn)品要求；第三、由于大部分芯片產(chǎn)品采用自研的硬件架構(gòu)，通過軟件編譯工具跟主流的框架兼容，造成現(xiàn)有的應(yīng)用遷移成本很高，耗時耗力；第四、由于芯片的自研架構(gòu)和自研的開發(fā)系統(tǒng)，造成用戶開發(fā)門檻高，有很多的端到端需求無法滿足?！?/p>

針對這些痛點，天數(shù)智芯提出了新的解決方案，Iluvatar CoreX I芯片采用16nm工藝，采用全自研數(shù)據(jù)流架構(gòu)，內(nèi)核可提供32路數(shù)據(jù)并行處理的能力，有很好的可擴展性，具有五大亮點：

• 第一，提供FP16的高精度，提升準確率；

• 第二，在小于5瓦的功耗下，提供單芯片最高4.8TFlops的算力，和每秒1000幀的圖像處理能力；

• 第三：提供原生TensorFlow的兼容，可透明遷移；

• 第四：可以滿足高穩(wěn)定性的工業(yè)級需求，也可以滿足高性價比的消費級需求；

• 第五：提供一站式、端到端的完整解決方案，對于開發(fā)用戶，提供軟硬件結(jié)合的開發(fā)環(huán)境。

Iluvatar CoreX I在芯片層面體現(xiàn)出了5大亮點，系統(tǒng)層級則有CPU靈活性和算力可擴展兩大特性，所謂CPU的靈活性，是CoreX I AI加速芯片可以適配x86 CPU、Arm CPU以及國產(chǎn)自研CPU，比如龍芯CPU?？蓴U展性指的則是與PCIE 4.0充分融合，通過單卡、雙卡、四卡的配置，可以有效線性擴展算力，并保持延時的可控。據(jù)悉，在8卡配置，單機可提供超過38TFLOPS的算力。

能效比與應(yīng)用透明遷移有多重要？

梁斌指出，通過對主流算法的優(yōu)化，基于數(shù)據(jù)流的高能效運算，高帶寬、高容量的本地內(nèi)存，Iluvatar CoreX I有效解決了目前主流競品計算力不足的核心問題。根據(jù)梁斌給出的數(shù)據(jù)，目前市面上15瓦的AI芯片，提供1.5TFLops的算力，能效比大概是0.1，天數(shù)智芯Iluvatar CoreX I在低于4.7瓦的功耗下，就提供4.8TFLOPS的計算力，相比主流競品，提供超過十倍的能效比。

在主流的邊緣端應(yīng)用的基準測試實測中，物體分類場景天數(shù)智芯提供超過兩倍的性能提升，能效方面提供超過8倍的提升，在物體識別場景也提供了接近兩倍的性能提升和接近7倍的能效提升。

不過，李云鵬在接受雷鋒網(wǎng)等媒體采訪時表示，客戶對算力的需求是能夠?qū)^去、現(xiàn)在和未來的負載都有很好的支撐。“從我的經(jīng)驗來看，用戶看的并不是峰值數(shù)據(jù)，他們更看重實際場景中的性能提升。因此，雖然我們的能效比數(shù)據(jù)讓大家眼前一亮，但我們更關(guān)注用戶的使用。這就包括上面提到的CPU靈活性與可擴展性，當然也還有透明遷移。所謂透明遷移是上層建筑不做任何修改，通過軟件的方式能夠有一個延續(xù)性?！?/p>

天數(shù)智芯創(chuàng)始人、CEO李云鵬

梁斌介紹，通常AI應(yīng)用包括幾個方面，從底層往上涉及到芯片、軟件庫、TensorFlow運算符，TensorFlow API函數(shù)，天數(shù)智芯通過與成熟的開發(fā)生態(tài)系統(tǒng)原生兼容，客戶可以無需任何代碼改動，實現(xiàn)應(yīng)用的遷移，平均平臺的適配周期1-2周。而市面上第三方的AI芯片產(chǎn)品，大部分芯片產(chǎn)品基于底層軟件庫和自研開發(fā)編譯器SDK，客戶的應(yīng)用通過耗時耗力的代碼轉(zhuǎn)換，適配周期大多耗時1-3個月甚至更長。

為了更好的滿足客戶需求，天數(shù)智芯基于全新AI芯片提供的是邊緣計算系統(tǒng)板和PCIe加速卡兩大方案。雷鋒網(wǎng)了解到，邊緣計算系統(tǒng)板主要面向嵌入式一體解決方案應(yīng)用在邊緣端的應(yīng)用場景，比如智能垃圾分類、智能零售、智能監(jiān)控等。PCIe邊緣端加速卡可以直接配置在邊緣服務(wù)器上，單卡配置可以支持一顆芯片，也可以支持兩顆、四顆芯片。

還需指出的是，天數(shù)智芯也布局了邊緣端、邊緣云、中心云三個系列的芯片，同樣為了更好滿足AI和5G的需求。梁斌透露：“我們下一款將發(fā)布的芯片是高端云端訓練GPGPU芯片，基于7納米工藝，采用全自研GPGPU芯片架構(gòu)，提供業(yè)界最高檔混合精度算力，CUDA原生兼容。第三款將要發(fā)布的芯片是中端GPGPU芯片，也將采用先進的工藝制程，提供混合精度算力，CUDA原生兼容，同樣也是全自研的GPGPU架構(gòu)，聚焦在圖形圖像的邊緣云推理場景?！?/p>

軟硬一體化將帶來的變革

天數(shù)智芯副總裁梁斌

從軟件角度看，天數(shù)智芯已經(jīng)推出了四代SkyDiscovery，這是一款一站式人工智能軟件平臺，提供一站式服務(wù)平臺，提供數(shù)據(jù)集成，智能數(shù)據(jù)存儲，模型評估服務(wù)部署的一站式服務(wù)。SkyDiscovery的作用是銜接開源生態(tài)，這個工具可以讓開源生態(tài)中各種各樣的應(yīng)用實現(xiàn)無縫遷移，并且讓已有開源的整套系統(tǒng)解決方案更加可擴展、高可用、可靠、高性能

但這種生態(tài)的銜接是否也會讓客戶更容易離開？李云鵬表示，我們在銜接開源生態(tài)以后，還會根據(jù)客戶的需求，提供一些專用的支持，這一旦做了，它要挪走是有難度的，這也是所有企業(yè)級產(chǎn)品公司的必由之路。

從算力的角度，這個平臺要為數(shù)據(jù)應(yīng)用程序提供接口樞紐。天數(shù)智芯要做的是通用架構(gòu)處理器，支持所有通用型的并行計算。未來，隨著市場逐漸成熟，可以把AI融合進架構(gòu)之中。李云鵬透露，天數(shù)智芯在芯片架構(gòu)設(shè)計上花了接近一年時間，但具體到一款新品從確定指標到設(shè)計和流片只用了不到四個月時間。

顯然，軟硬件天數(shù)智芯突出的是標準通用。李云鵬表示：“我們也很難預測三、五年后會是什么樣的算法，以及什么是最有效的提取數(shù)據(jù)價值的方式。但我們做到了通用性，確保未來也能使用，讓一款芯片能夠有10年、20甚至30年的生命周期?！?/p>

李云鵬還表示，我希望花20年時間，把我們的自主知識產(chǎn)權(quán)芯片和軟件做到國際一流的入門水平。這也就意味著天數(shù)智芯在做一件大事，然而大事就是難事。

就目前而言，天數(shù)智芯提供的是軟件和硬件進行融合的邊緣計算系統(tǒng)板卡和PCIe加速卡。李云鵬表示，中國客戶的特征是要解決方案。正是因為在芯片之上，還通過軟件的方式累加了新的價值，從商業(yè)上來說也價值更高。

據(jù)了解，天數(shù)智芯軟硬件結(jié)合的方案已經(jīng)得到醫(yī)療、安防監(jiān)控等行業(yè)客戶的實際應(yīng)用，未來將會在智能制造、智慧新零售、智慧醫(yī)療、智慧園區(qū)、智能垃圾分類等多個行業(yè)及領(lǐng)域應(yīng)用。發(fā)布會現(xiàn)場天數(shù)智芯也展示了軟硬件產(chǎn)品在藥品識別、垃圾分類、人臉識別的應(yīng)用。

不過，李云鵬希望的是與更多合作伙伴一起在石油、天然氣開采、運輸行業(yè)、風電為代表的新能源行業(yè)，以及船舶制造等大型裝備制造行業(yè)，推廣智能化解決方案，最終推動智能制造產(chǎn)業(yè)互聯(lián)網(wǎng)的發(fā)展。

李云鵬也透露，天數(shù)智芯剛剛開完務(wù)虛會，公司希望三年左右時間實現(xiàn)在中國整個工業(yè)制造領(lǐng)域構(gòu)建一個基于天數(shù)智芯的工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟。我們也希望在三年左右時間，能夠不僅僅盈虧平衡，而且能夠有足夠的利潤擴充自己的基礎(chǔ)投入團隊，能夠讓我們有機地發(fā)展20年，把自己的產(chǎn)品做到國際一流的入門水平，我覺得這是一個基礎(chǔ)性質(zhì)的。

雷鋒網(wǎng)小結(jié)

兩次采訪李云鵬，每次能夠感受到他的情懷以及清晰而明確的目標。從2015年創(chuàng)立之初就把公司的目標設(shè)立為谷歌那樣的系統(tǒng)公司，以高大上公司不愿意做軟件和IT服務(wù)開始，獲得用戶和營收，經(jīng)歷野蠻的生長之后走向芯片的自研。如今AI芯片的發(fā)布意味著芯云戰(zhàn)略的落地，也是天數(shù)智芯展現(xiàn)軟硬一體優(yōu)勢新的開始。

這也與發(fā)布會地點的選擇的初衷相契合。天數(shù)智芯總部位于南京，卻選擇在杭州舉辦發(fā)布會，李云鵬說，1949年新中國成立，五年之后毛主席在西子湖畔國賓館內(nèi)撰寫了我們國家第一部憲法，代表著新中國邁向了新的起點。天數(shù)智芯經(jīng)歷了初創(chuàng)期的懵懂、野蠻生長和碰壁，走過了一條完整的初創(chuàng)型閉環(huán)。他表示，之所以選擇在杭州西子湖畔開發(fā)布會，是希望天數(shù)智芯和它的祖國一樣，站到一個可期的新起點。

相關(guān)文章：

終于，有家AI云端芯片初創(chuàng)公司不對標英偉達卻要與Google競爭

天數(shù)智芯李云鵬：數(shù)據(jù)驅(qū)動的春天即將來臨 | CCF-GAIR 2019

集產(chǎn)品、方案和云服務(wù)為一體，天數(shù)智芯如何做到“AI時代芯魂合一”

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。