10 月 3 日，在首屆 PyTorch 開發(fā)者大會上，F(xiàn)acebook 正式發(fā)布 PyTorch 1.0 開發(fā)者預(yù)覽版，在帶來 PyTorch 1.0 一系列更新的同時，還重點介紹了該框架的生態(tài)支持和教育方面的合作。

早在今年 5 月份的 Facebook F8 大會上，F(xiàn)acebook 就宣布在未來幾個月中將開源 PyTorch 1.0 框架。時隔五個月的今日，F(xiàn)acebook 終于將這一計劃變成了現(xiàn)實。

Facebook 表示，PyTorch 1.0 是 PyTorch 推出以來最重要的版本，1.0 代表著該框架版本已經(jīng)非常穩(wěn)定、成熟，而今天發(fā)布的預(yù)覽版，其中 90% 的功能已經(jīng)能夠經(jīng)受住業(yè)界的考驗。那 PyTorch 1.0 現(xiàn)在到底有了怎樣的進(jìn)展呢？雷鋒網(wǎng)接下來從 PyTorch 1.0 的重要更新、生態(tài)支持以及教育合作三個角度進(jìn)行介紹。

PyTorch 1.0 三大重要更新

雷鋒網(wǎng)獲悉，經(jīng)過五個月左右的開源，PyTorch 1.0 框架主要迎來了三大更新：

第一，添加了一個新的混合前端（hybrid front end），支持從 Eager 模式到圖形模式的跟蹤和腳本模型，以彌合研究和生產(chǎn)部署之間的差距。

第二，增加了經(jīng)過改進(jìn)的 torch.distributed 庫，使得開發(fā)者可以在 Python 和 C++環(huán)境中實現(xiàn)更快的訓(xùn)練。

第三，增加了針對關(guān)鍵性能研究的 Eager 模式 C++接口，這一接口會在測試版中發(fā)布。

目前，研究人員和工程師必須使用多個框架和工具來研究新的深度學(xué)習(xí)模型，并將其轉(zhuǎn)移到生產(chǎn)環(huán)境中大規(guī)模運(yùn)運(yùn)行，然而這些框架和工具通常是不兼容的。這樣的話，就會降低開發(fā)者對突破性 AI 研究進(jìn)行產(chǎn)品化的速度和效率。

而在 PyTorch 1.0 這個最新版本，F(xiàn)acebook 將現(xiàn)有 PyTorch 框架的靈活性與 Caffe2（今年 5 月宣布 Caffe2 并入 PyTorch）的生產(chǎn)能力結(jié)合，提供從研究到 AI 研究產(chǎn)品化的無縫對接。

PyTorch 1.0 生態(tài)的深度支持

除了軟硬件方面的重要更新，F(xiàn)acebook 還介紹了其他廠商對 PyTorch 1.0 生態(tài)的深度支持，這些支持來自于亞馬遜、Google 和微軟等軟件、產(chǎn)品和云服務(wù)提供商以及英偉達(dá)、高通、英特爾等技術(shù)提供方。

其中，亞馬遜、Google 和微軟針對 Pytorch 的云平臺、產(chǎn)品和服務(wù)的框架方面，來加深對 PyTorch 1.0 的支持。例如，亞馬遜大規(guī)模訓(xùn)練、部署機(jī)器學(xué)習(xí)模型的全棧管理平臺 Amazon Sagemaker，現(xiàn)在能為 PyTorch 1.0 提供預(yù)配置環(huán)境，包括自動模型調(diào)優(yōu)這樣的功能。

Google 宣布為 AI 開發(fā)者制定的多種軟件和硬件工具將與 PyTorch 1.0 實現(xiàn)集成。除了 Google 云平臺的深度學(xué)習(xí)虛擬機(jī)現(xiàn)在有了一個預(yù)安裝了 NVIDIA 驅(qū)動與教程的新的 PyTorch 1.0 VM 鏡像文件，Google 還為 PyTorch 提供了用于機(jī)器學(xué)習(xí)的定制化專用集成芯片（ASIC）——張量處理單元（TPU）。目前，在 Google Cloud TPU 團(tuán)隊和 PyTorch 團(tuán)隊的合作推動下，基于 PyTorch 1.0 的模型可以使用這種定制化的硬件。

而微軟則早就和 Facebook 開始合作了另一個重要項目——開源的神經(jīng)網(wǎng)絡(luò)交換格式 ONNX。目前，微軟也正進(jìn)一步在 Azure 機(jī)器學(xué)習(xí)服務(wù)、數(shù)據(jù)科學(xué)虛擬機(jī)（DSVM）、Azure Notebooks、Visual Studio Code 的 AI 擴(kuò)展工具等機(jī)器學(xué)習(xí)產(chǎn)品套件中為 PyTorch 提供一流的支持。

而英偉達(dá)、高通、英特爾等技術(shù)伙伴，正在通過直接優(yōu)化、kernel 庫集成以及對編譯器和推斷運(yùn)行時的附加工具進(jìn)行優(yōu)化，來支持 PyTorch 1.0。這種支持可以確保 PyTorch 可以在數(shù)據(jù)中心和邊緣設(shè)備的各種硬件上正常運(yùn)行，并在這些硬件上實現(xiàn)模型訓(xùn)練和推斷的優(yōu)化。

通過教育與課程方式推廣 PyTorch

增強(qiáng) PyTorch 自身的實力以外，F(xiàn)acebook 還致力于通過教育與課程方式推廣 PyTorch 打造深度學(xué)習(xí)框架。

據(jù)雷鋒網(wǎng)了解，目前許多教育提供方采用 PyTorch 作為教學(xué)框架。同時，PyTorch 也已經(jīng)通過在線視頻和大學(xué)課程為眾多的學(xué)生提供深度學(xué)習(xí)框架，PyTorch 框架以其易用性及與 Python 深度集成的特性可以非常容易實現(xiàn)各種深度學(xué)習(xí)概念，能讓學(xué)生快速理解和實驗深度模型。

例如，Udacity 就正與 Facebook 合作，為開發(fā)者提供免費的深度學(xué)習(xí)入門課程，而這些課程完全使用 PyTorch 作為框架。同時，F(xiàn)acebook 還將贊助 300 名成功完成該中級課程的學(xué)生，繼續(xù)在 Udacity 中完成深度學(xué)習(xí)納米學(xué)位項目，現(xiàn)在該計劃已經(jīng)調(diào)整為在 PyTorch 1.0 上運(yùn)行。

值得一提的是，fast.ai 也發(fā)布了首個基于 PyTorch 1.0 構(gòu)建的開源深度學(xué)習(xí)庫——fastai 1.0。該學(xué)習(xí)庫在帶來更高的準(zhǔn)確性以及更快的速度的同時，還能使代碼顯著減少，讓深度學(xué)習(xí)無論是對初學(xué)者還是對經(jīng)驗豐富的開發(fā)人員都更加友好。

「1.0 是讓 PyTorch 進(jìn)入生產(chǎn)環(huán)境的第一步，開發(fā)者們還會在未來繼續(xù)推進(jìn)它的發(fā)展?！笷acebook 研究工程師 Soumith Chintala 在發(fā)布會上表示，「PyTorch 1.0 的最終穩(wěn)定版會在 NIPS2018 大會之前發(fā)布?！?/p>

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。