（微軟微軟全球執(zhí)行副總裁、人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋博士在微軟2018人工智能大會）

在近來的大會上，微軟反復(fù)強調(diào)其全新的世界觀“智能云&智能邊緣”。在移動互聯(lián)網(wǎng)時代掉隊的微軟，似乎要以這個新口號在人工智能時代脫胎換骨。

然而，以Windows操作系統(tǒng)起家的微軟，并沒有放棄“系統(tǒng)”。2017年，微軟定位北京，成立了微軟亞洲研究院-微軟（亞洲）互聯(lián)網(wǎng)工程院人工智能系統(tǒng)聯(lián)合中心，旨在為微軟的AI生態(tài)搭建最核心、最基礎(chǔ)的系統(tǒng)平臺。

6月20日，微軟亞洲研究院副院長、人工智能系統(tǒng)聯(lián)合中心負(fù)責(zé)人周禮棟以及其團隊召開了一次深度workshop，向包括雷鋒網(wǎng)在內(nèi)的十余家科技媒體介紹微軟如何做“人工智能時代的系統(tǒng)創(chuàng)新”。

何為系統(tǒng)？微軟給出的定義是系統(tǒng)就是把零散、復(fù)雜的個體組織成有序的整體。在計算機領(lǐng)域，不妨將這個抽象又簡單的名詞理解為平臺?！耙恢币詠恚④浂际且粋€平臺公司，從早期的操作系統(tǒng)、數(shù)據(jù)庫，到云平臺、分布式系統(tǒng)，其實都可以被稱為‘系統(tǒng)’?！?/p>

PC時代有操作系統(tǒng)，互聯(lián)網(wǎng)時代有分布式系統(tǒng)，AI對系統(tǒng)提出了新的要求?，F(xiàn)階段的人工智能有三個非常重要的支柱點——大數(shù)據(jù)、新算法和大計算。而“系統(tǒng)”作為連接數(shù)據(jù)和算法的紐帶，是一個不為大眾所熟知的關(guān)鍵要素，一個好的系統(tǒng)可以有效支撐AI應(yīng)用的架構(gòu)、開發(fā)、部署和落地。

周禮棟介紹道，微軟人工智能系統(tǒng)聯(lián)合中心要做一個全棧的AI平臺（AI Stack），可以為AI開發(fā)者提供全方位支持，讓廣大AI開發(fā)者、AI應(yīng)用背后的技術(shù)團隊，讓他們在開發(fā)AI應(yīng)用時更加得心應(yīng)手，沒有后顧之憂，目前主要分為三個層次：

一，AI計算能力。從硬件到基礎(chǔ)設(shè)施再到管理系統(tǒng)全部覆蓋，充分利用GPU、FPGA等新興技術(shù)，以及云計算、大數(shù)據(jù)等現(xiàn)有的相對成熟的大規(guī)模分布式系統(tǒng)，讓AI的計算能力實現(xiàn)價值最大化。

二，AI平臺中間層。其中包括編程語言、各種工具包等，供開發(fā)AI算法的人使用，為他們提供完善的開發(fā)和運行環(huán)境。

三，AI算法。提供成熟的AI算法供應(yīng)用開發(fā)者使用，例如讓微軟認(rèn)知工具包CNTK與TensorFlow、Caffe等框架實現(xiàn)靈活轉(zhuǎn)換，在一種框架下訓(xùn)練好的模型，可以在另一種框架下無縫使用，并將更多算法集成到Visual Studio中去。

全棧AI平臺（AI Stack）體現(xiàn)了微軟的系統(tǒng)理念，連接底層技術(shù)和工具包直接提升開發(fā)者進(jìn)行深度學(xué)習(xí)開發(fā)、模型訓(xùn)練的效率，但是對于開發(fā)者來說整個系統(tǒng)又像是無形的、不可見的。這樣的系統(tǒng)思路有助于實現(xiàn)“AI普及化”，打造一個通用AI平臺的目標(biāo)。當(dāng)然，目前還需要各個層面的協(xié)同發(fā)展。

雷鋒網(wǎng)了解到，在AI計算能力方面，英特爾、谷歌等主要發(fā)力AI芯片，微軟則強調(diào)Azure智能云。Azure智能云匯聚了微軟在人工智能領(lǐng)域的大量投入與技術(shù)積累，是開發(fā)、部署、運行人工智能的云平臺，同時也是將智能云與智能邊緣融會貫通的關(guān)鍵環(huán)節(jié)。微軟一直在拓展Azure的功能。

Azure目前有四個方面：公有云Azure、混合云Azure Stack、物聯(lián)網(wǎng)Azure IoT Edge和Azure Sphere，以這四個方面打造出完整的計算環(huán)境，支持全新應(yīng)用場景。

在AI平臺中間層，微軟已有多種工具：Project Brainwave 、ML.NET、ONNX、OpenPAI、Tools for AI、NNI等，都旨在提供更簡易、高效的人工智能開發(fā)工具。

微軟于2017年發(fā)布的Project Brainwave能利用Azure上的FPGA基礎(chǔ)架構(gòu)完成實時的人工智能處理。用戶只需要通過實時的單一批數(shù)據(jù)，就能得到以往需要多得多的批量數(shù)據(jù)處理才能得到的結(jié)果。

在Build 2018微軟全球開發(fā)者大會上，微軟宣布推出跨平臺、開源機器學(xué)習(xí)框架ML.NET的預(yù)覽版。ML.NET讓任何開發(fā)者都能開發(fā)出自己的定制化機器學(xué)習(xí)模型，并將其融入到自己的應(yīng)用中去——開發(fā)者完全無需具備開發(fā)和調(diào)試機器學(xué)習(xí)模型的經(jīng)驗。

在隨后的微軟2018人工智能大會上，微軟介紹了兩個新的工具：Open Platform for AI（OpenPAI）和Tools for AI。

OpenPAI由微軟亞洲研究院和微軟（亞洲）互聯(lián)網(wǎng)工程院聯(lián)合研發(fā)，旨在為深度學(xué)習(xí)提供一個深度定制和優(yōu)化的人工智能集群管理平臺，其支持多種深度學(xué)習(xí)、機器學(xué)習(xí)及大數(shù)據(jù)任務(wù)，可提供大規(guī)模GPU集群調(diào)度、集群監(jiān)控、任務(wù)監(jiān)控、分布式存儲等功能。

Tools for AI也是中國團隊打造，為開發(fā)者提供了一個全平臺、全軟件產(chǎn)品生命周期、支持各種深度學(xué)習(xí)框架的開發(fā)套件。開發(fā)者可以通過熟悉的Visual Studio和Visual Studio Code開發(fā)工具，快速開發(fā)深度學(xué)習(xí)相關(guān)的程序。Tools for AI的一鍵安裝功能可以幫助開發(fā)者配置深度學(xué)習(xí)的開發(fā)環(huán)境，配合Visual Studio (Code)自帶的Python語言開發(fā)功能，開發(fā)者可以方便地編輯和調(diào)試基于CNTK、TensorFlow、PyTorch等主流深度學(xué)習(xí)框架下構(gòu)建的深度學(xué)習(xí)訓(xùn)練程序。

除了以上已經(jīng)發(fā)布的工具外，微軟亞洲研究院資深研究員伍鳴和研究員薛卉在workshop現(xiàn)場演示了微軟在人工智能系統(tǒng)上的創(chuàng)新。

伍鳴展示了三種深度學(xué)習(xí)框架后端優(yōu)化路徑，第一種是一種硬件網(wǎng)絡(luò)技術(shù)RDMA網(wǎng)卡，目前許多以深度學(xué)習(xí)為目標(biāo)應(yīng)用的GPU集群都部署了這樣的網(wǎng)絡(luò)。為了更好地利用如RDMA、NVLink等的高速網(wǎng)絡(luò)硬件的能力，微軟設(shè)計了一種零拷貝通信機制，將Tensor數(shù)據(jù)直接傳輸?shù)浇邮斩?。?jīng)過在TensorFlow上的實驗，該方法在一系列神經(jīng)網(wǎng)絡(luò)模型上的收斂速度提高2-8倍。第二種是內(nèi)核融合，其主要思路是如何自動對任意深度學(xué)習(xí)網(wǎng)絡(luò)模型實施優(yōu)化，提升單個計算單元運算效率，實現(xiàn)約10倍左右的性能加速。第三種是擴展TensorFlow API，使用戶可以在模型腳本中直接控制壓縮和量化，另一個思路是將輸入數(shù)據(jù)異步拷貝到CPU中，掩蓋數(shù)據(jù)拷貝的開銷，這種做法需要和內(nèi)核融合結(jié)合。

研究員薛卉介紹了其開發(fā)的NNI。薛卉原本從事自然語言處理，在加入系統(tǒng)組后，從自身在上層技術(shù)領(lǐng)域進(jìn)行科研工作的切身體會出發(fā)，和微軟亞洲研究院首席研究員楊懋一起開發(fā)了名為Neural Network Intelligence（NNI）的底層框架。NNI項目源起于傳統(tǒng)機器學(xué)習(xí)開發(fā)的繁瑣流程，特別是深度學(xué)習(xí)目前還處于黑箱狀態(tài)，研究人員往往需要花費大量的時間進(jìn)行模型選擇和超參數(shù)調(diào)試。NNI的誕生不僅可以支持不同的操作系統(tǒng)和編程語言，自動地幫助使用者完成數(shù)據(jù)分析、模型比對、參數(shù)調(diào)試和性能分析工作，還能方便使用者將模型運行在不同的分布式系統(tǒng)上。近期，NNI就會以開源工具包的形式對外發(fā)布，這將給研究、開發(fā)人員更多嘗試創(chuàng)新的可能性，加快科研和技術(shù)發(fā)展的腳步。

做系統(tǒng)最重要的是易用性，微軟以上的項目通過系統(tǒng)的優(yōu)化、創(chuàng)新，能夠賦能更多科研人員、開發(fā)者和實踐者。

雷鋒網(wǎng)了解到，目前除了微軟，其他巨頭公司也在積極推廣人工智能系統(tǒng)/平臺，英特爾有其“人工智能全棧解決方案”，囊括了芯片、處理器、數(shù)據(jù)庫、開源軟件工具等；蘋果有機器學(xué)習(xí)框架Core ML、Create ML、對話式人工智能Siri。未來，人工智能時代的標(biāo)志性系統(tǒng)究竟是什么樣？還需要我們繼續(xù)探索。

 

 

相關(guān)文章：

微軟 Build 發(fā)布會總覽：雖然 Windows 10 缺席，但亮點依然很多

Build 大會中的 AI：微軟 AI 云服務(wù)全線更新

微軟收購Semantic Machines，Cortana對話式AI能力將進(jìn)一步提升

微軟收購AI創(chuàng)企Bonsai，探索深度強化學(xué)習(xí)商業(yè)化

一口氣看完微軟人工智能布局和產(chǎn)品落地 | 微軟2018人工智能大會

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。