（微軟微軟全球執(zhí)行副總裁、人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋博士在微軟2018人工智能大會(huì)）

在近來(lái)的大會(huì)上，微軟反復(fù)強(qiáng)調(diào)其全新的世界觀“智能云&智能邊緣”。在移動(dòng)互聯(lián)網(wǎng)時(shí)代掉隊(duì)的微軟，似乎要以這個(gè)新口號(hào)在人工智能時(shí)代脫胎換骨。

然而，以Windows操作系統(tǒng)起家的微軟，并沒(méi)有放棄“系統(tǒng)”。2017年，微軟定位北京，成立了微軟亞洲研究院-微軟（亞洲）互聯(lián)網(wǎng)工程院人工智能系統(tǒng)聯(lián)合中心，旨在為微軟的AI生態(tài)搭建最核心、最基礎(chǔ)的系統(tǒng)平臺(tái)。

6月20日，微軟亞洲研究院副院長(zhǎng)、人工智能系統(tǒng)聯(lián)合中心負(fù)責(zé)人周禮棟以及其團(tuán)隊(duì)召開(kāi)了一次深度workshop，向包括雷鋒網(wǎng)在內(nèi)的十余家科技媒體介紹微軟如何做“人工智能時(shí)代的系統(tǒng)創(chuàng)新”。

何為系統(tǒng)？微軟給出的定義是系統(tǒng)就是把零散、復(fù)雜的個(gè)體組織成有序的整體。在計(jì)算機(jī)領(lǐng)域，不妨將這個(gè)抽象又簡(jiǎn)單的名詞理解為平臺(tái)。“一直以來(lái)，微軟都是一個(gè)平臺(tái)公司，從早期的操作系統(tǒng)、數(shù)據(jù)庫(kù)，到云平臺(tái)、分布式系統(tǒng)，其實(shí)都可以被稱為‘系統(tǒng)’?！?/p>

PC時(shí)代有操作系統(tǒng)，互聯(lián)網(wǎng)時(shí)代有分布式系統(tǒng)，AI對(duì)系統(tǒng)提出了新的要求?，F(xiàn)階段的人工智能有三個(gè)非常重要的支柱點(diǎn)——大數(shù)據(jù)、新算法和大計(jì)算。而“系統(tǒng)”作為連接數(shù)據(jù)和算法的紐帶，是一個(gè)不為大眾所熟知的關(guān)鍵要素，一個(gè)好的系統(tǒng)可以有效支撐AI應(yīng)用的架構(gòu)、開(kāi)發(fā)、部署和落地。

周禮棟介紹道，微軟人工智能系統(tǒng)聯(lián)合中心要做一個(gè)全棧的AI平臺(tái)（AI Stack），可以為AI開(kāi)發(fā)者提供全方位支持，讓廣大AI開(kāi)發(fā)者、AI應(yīng)用背后的技術(shù)團(tuán)隊(duì)，讓他們?cè)陂_(kāi)發(fā)AI應(yīng)用時(shí)更加得心應(yīng)手，沒(méi)有后顧之憂，目前主要分為三個(gè)層次：

一，AI計(jì)算能力。從硬件到基礎(chǔ)設(shè)施再到管理系統(tǒng)全部覆蓋，充分利用GPU、FPGA等新興技術(shù)，以及云計(jì)算、大數(shù)據(jù)等現(xiàn)有的相對(duì)成熟的大規(guī)模分布式系統(tǒng)，讓AI的計(jì)算能力實(shí)現(xiàn)價(jià)值最大化。

二，AI平臺(tái)中間層。其中包括編程語(yǔ)言、各種工具包等，供開(kāi)發(fā)AI算法的人使用，為他們提供完善的開(kāi)發(fā)和運(yùn)行環(huán)境。

三，AI算法。提供成熟的AI算法供應(yīng)用開(kāi)發(fā)者使用，例如讓微軟認(rèn)知工具包CNTK與TensorFlow、Caffe等框架實(shí)現(xiàn)靈活轉(zhuǎn)換，在一種框架下訓(xùn)練好的模型，可以在另一種框架下無(wú)縫使用，并將更多算法集成到Visual Studio中去。

全棧AI平臺(tái)（AI Stack）體現(xiàn)了微軟的系統(tǒng)理念，連接底層技術(shù)和工具包直接提升開(kāi)發(fā)者進(jìn)行深度學(xué)習(xí)開(kāi)發(fā)、模型訓(xùn)練的效率，但是對(duì)于開(kāi)發(fā)者來(lái)說(shuō)整個(gè)系統(tǒng)又像是無(wú)形的、不可見(jiàn)的。這樣的系統(tǒng)思路有助于實(shí)現(xiàn)“AI普及化”，打造一個(gè)通用AI平臺(tái)的目標(biāo)。當(dāng)然，目前還需要各個(gè)層面的協(xié)同發(fā)展。

雷鋒網(wǎng)了解到，在AI計(jì)算能力方面，英特爾、谷歌等主要發(fā)力AI芯片，微軟則強(qiáng)調(diào)Azure智能云。Azure智能云匯聚了微軟在人工智能領(lǐng)域的大量投入與技術(shù)積累，是開(kāi)發(fā)、部署、運(yùn)行人工智能的云平臺(tái)，同時(shí)也是將智能云與智能邊緣融會(huì)貫通的關(guān)鍵環(huán)節(jié)。微軟一直在拓展Azure的功能。

Azure目前有四個(gè)方面：公有云Azure、混合云Azure Stack、物聯(lián)網(wǎng)Azure IoT Edge和Azure Sphere，以這四個(gè)方面打造出完整的計(jì)算環(huán)境，支持全新應(yīng)用場(chǎng)景。

在AI平臺(tái)中間層，微軟已有多種工具：Project Brainwave 、ML.NET、ONNX、OpenPAI、Tools for AI、NNI等，都旨在提供更簡(jiǎn)易、高效的人工智能開(kāi)發(fā)工具。

微軟于2017年發(fā)布的Project Brainwave能利用Azure上的FPGA基礎(chǔ)架構(gòu)完成實(shí)時(shí)的人工智能處理。用戶只需要通過(guò)實(shí)時(shí)的單一批數(shù)據(jù)，就能得到以往需要多得多的批量數(shù)據(jù)處理才能得到的結(jié)果。

在Build 2018微軟全球開(kāi)發(fā)者大會(huì)上，微軟宣布推出跨平臺(tái)、開(kāi)源機(jī)器學(xué)習(xí)框架ML.NET的預(yù)覽版。ML.NET讓任何開(kāi)發(fā)者都能開(kāi)發(fā)出自己的定制化機(jī)器學(xué)習(xí)模型，并將其融入到自己的應(yīng)用中去——開(kāi)發(fā)者完全無(wú)需具備開(kāi)發(fā)和調(diào)試機(jī)器學(xué)習(xí)模型的經(jīng)驗(yàn)。

在隨后的微軟2018人工智能大會(huì)上，微軟介紹了兩個(gè)新的工具：Open Platform for AI（OpenPAI）和Tools for AI。

OpenPAI由微軟亞洲研究院和微軟（亞洲）互聯(lián)網(wǎng)工程院聯(lián)合研發(fā)，旨在為深度學(xué)習(xí)提供一個(gè)深度定制和優(yōu)化的人工智能集群管理平臺(tái)，其支持多種深度學(xué)習(xí)、機(jī)器學(xué)習(xí)及大數(shù)據(jù)任務(wù)，可提供大規(guī)模GPU集群調(diào)度、集群監(jiān)控、任務(wù)監(jiān)控、分布式存儲(chǔ)等功能。

Tools for AI也是中國(guó)團(tuán)隊(duì)打造，為開(kāi)發(fā)者提供了一個(gè)全平臺(tái)、全軟件產(chǎn)品生命周期、支持各種深度學(xué)習(xí)框架的開(kāi)發(fā)套件。開(kāi)發(fā)者可以通過(guò)熟悉的Visual Studio和Visual Studio Code開(kāi)發(fā)工具，快速開(kāi)發(fā)深度學(xué)習(xí)相關(guān)的程序。Tools for AI的一鍵安裝功能可以幫助開(kāi)發(fā)者配置深度學(xué)習(xí)的開(kāi)發(fā)環(huán)境，配合Visual Studio (Code)自帶的Python語(yǔ)言開(kāi)發(fā)功能，開(kāi)發(fā)者可以方便地編輯和調(diào)試基于CNTK、TensorFlow、PyTorch等主流深度學(xué)習(xí)框架下構(gòu)建的深度學(xué)習(xí)訓(xùn)練程序。

除了以上已經(jīng)發(fā)布的工具外，微軟亞洲研究院資深研究員伍鳴和研究員薛卉在workshop現(xiàn)場(chǎng)演示了微軟在人工智能系統(tǒng)上的創(chuàng)新。

伍鳴展示了三種深度學(xué)習(xí)框架后端優(yōu)化路徑，第一種是一種硬件網(wǎng)絡(luò)技術(shù)RDMA網(wǎng)卡，目前許多以深度學(xué)習(xí)為目標(biāo)應(yīng)用的GPU集群都部署了這樣的網(wǎng)絡(luò)。為了更好地利用如RDMA、NVLink等的高速網(wǎng)絡(luò)硬件的能力，微軟設(shè)計(jì)了一種零拷貝通信機(jī)制，將Tensor數(shù)據(jù)直接傳輸?shù)浇邮斩?。?jīng)過(guò)在TensorFlow上的實(shí)驗(yàn)，該方法在一系列神經(jīng)網(wǎng)絡(luò)模型上的收斂速度提高2-8倍。第二種是內(nèi)核融合，其主要思路是如何自動(dòng)對(duì)任意深度學(xué)習(xí)網(wǎng)絡(luò)模型實(shí)施優(yōu)化，提升單個(gè)計(jì)算單元運(yùn)算效率，實(shí)現(xiàn)約10倍左右的性能加速。第三種是擴(kuò)展TensorFlow API，使用戶可以在模型腳本中直接控制壓縮和量化，另一個(gè)思路是將輸入數(shù)據(jù)異步拷貝到CPU中，掩蓋數(shù)據(jù)拷貝的開(kāi)銷(xiāo)，這種做法需要和內(nèi)核融合結(jié)合。

研究員薛卉介紹了其開(kāi)發(fā)的NNI。薛卉原本從事自然語(yǔ)言處理，在加入系統(tǒng)組后，從自身在上層技術(shù)領(lǐng)域進(jìn)行科研工作的切身體會(huì)出發(fā)，和微軟亞洲研究院首席研究員楊懋一起開(kāi)發(fā)了名為Neural Network Intelligence（NNI）的底層框架。NNI項(xiàng)目源起于傳統(tǒng)機(jī)器學(xué)習(xí)開(kāi)發(fā)的繁瑣流程，特別是深度學(xué)習(xí)目前還處于黑箱狀態(tài)，研究人員往往需要花費(fèi)大量的時(shí)間進(jìn)行模型選擇和超參數(shù)調(diào)試。NNI的誕生不僅可以支持不同的操作系統(tǒng)和編程語(yǔ)言，自動(dòng)地幫助使用者完成數(shù)據(jù)分析、模型比對(duì)、參數(shù)調(diào)試和性能分析工作，還能方便使用者將模型運(yùn)行在不同的分布式系統(tǒng)上。近期，NNI就會(huì)以開(kāi)源工具包的形式對(duì)外發(fā)布，這將給研究、開(kāi)發(fā)人員更多嘗試創(chuàng)新的可能性，加快科研和技術(shù)發(fā)展的腳步。

做系統(tǒng)最重要的是易用性，微軟以上的項(xiàng)目通過(guò)系統(tǒng)的優(yōu)化、創(chuàng)新，能夠賦能更多科研人員、開(kāi)發(fā)者和實(shí)踐者。

雷鋒網(wǎng)了解到，目前除了微軟，其他巨頭公司也在積極推廣人工智能系統(tǒng)/平臺(tái)，英特爾有其“人工智能全棧解決方案”，囊括了芯片、處理器、數(shù)據(jù)庫(kù)、開(kāi)源軟件工具等；蘋(píng)果有機(jī)器學(xué)習(xí)框架Core ML、Create ML、對(duì)話式人工智能Siri。未來(lái)，人工智能時(shí)代的標(biāo)志性系統(tǒng)究竟是什么樣？還需要我們繼續(xù)探索。

 

 

相關(guān)文章：

微軟 Build 發(fā)布會(huì)總覽：雖然 Windows 10 缺席，但亮點(diǎn)依然很多

Build 大會(huì)中的 AI：微軟 AI 云服務(wù)全線更新

微軟收購(gòu)Semantic Machines，Cortana對(duì)話式AI能力將進(jìn)一步提升

微軟收購(gòu)AI創(chuàng)企Bonsai，探索深度強(qiáng)化學(xué)習(xí)商業(yè)化

一口氣看完微軟人工智能布局和產(chǎn)品落地 | 微軟2018人工智能大會(huì)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。