10 月 3 日，在首屆 PyTorch 開發(fā)者大會上，F(xiàn)acebook 正式發(fā)布 PyTorch 1.0 開發(fā)者預(yù)覽版，在帶來 PyTorch 1.0 一系列更新的同時，還重點介紹了該框架的生態(tài)支持和教育方面的合作。

早在今年 5 月份的 Facebook F8 大會上，F(xiàn)acebook 就宣布在未來幾個月中將開源 PyTorch 1.0 框架。時隔五個月的今日，F(xiàn)acebook 終于將這一計劃變成了現(xiàn)實。

Facebook 表示，PyTorch 1.0 是 PyTorch 推出以來最重要的版本，1.0 代表著該框架版本已經(jīng)非常穩(wěn)定、成熟，而今天發(fā)布的預(yù)覽版，其中 90% 的功能已經(jīng)能夠經(jīng)受住業(yè)界的考驗。那 PyTorch 1.0 現(xiàn)在到底有了怎樣的進展呢？雷鋒網(wǎng)接下來從 PyTorch 1.0 的重要更新、生態(tài)支持以及教育合作三個角度進行介紹。

PyTorch 1.0 三大重要更新

雷鋒網(wǎng)獲悉，經(jīng)過五個月左右的開源，PyTorch 1.0 框架主要迎來了三大更新：

第一，添加了一個新的混合前端（hybrid front end），支持從 Eager 模式到圖形模式的跟蹤和腳本模型，以彌合研究和生產(chǎn)部署之間的差距。

第二，增加了經(jīng)過改進的 torch.distributed 庫，使得開發(fā)者可以在 Python 和 C++環(huán)境中實現(xiàn)更快的訓(xùn)練。

第三，增加了針對關(guān)鍵性能研究的 Eager 模式 C++接口，這一接口會在測試版中發(fā)布。

目前，研究人員和工程師必須使用多個框架和工具來研究新的深度學(xué)習(xí)模型，并將其轉(zhuǎn)移到生產(chǎn)環(huán)境中大規(guī)模運運行，然而這些框架和工具通常是不兼容的。這樣的話，就會降低開發(fā)者對突破性 AI 研究進行產(chǎn)品化的速度和效率。

而在 PyTorch 1.0 這個最新版本，F(xiàn)acebook 將現(xiàn)有 PyTorch 框架的靈活性與 Caffe2（今年 5 月宣布 Caffe2 并入 PyTorch）的生產(chǎn)能力結(jié)合，提供從研究到 AI 研究產(chǎn)品化的無縫對接。

PyTorch 1.0 生態(tài)的深度支持

除了軟硬件方面的重要更新，F(xiàn)acebook 還介紹了其他廠商對 PyTorch 1.0 生態(tài)的深度支持，這些支持來自于亞馬遜、Google 和微軟等軟件、產(chǎn)品和云服務(wù)提供商以及英偉達、高通、英特爾等技術(shù)提供方。

其中，亞馬遜、Google 和微軟針對 Pytorch 的云平臺、產(chǎn)品和服務(wù)的框架方面，來加深對 PyTorch 1.0 的支持。例如，亞馬遜大規(guī)模訓(xùn)練、部署機器學(xué)習(xí)模型的全棧管理平臺 Amazon Sagemaker，現(xiàn)在能為 PyTorch 1.0 提供預(yù)配置環(huán)境，包括自動模型調(diào)優(yōu)這樣的功能。

Google 宣布為 AI 開發(fā)者制定的多種軟件和硬件工具將與 PyTorch 1.0 實現(xiàn)集成。除了 Google 云平臺的深度學(xué)習(xí)虛擬機現(xiàn)在有了一個預(yù)安裝了 NVIDIA 驅(qū)動與教程的新的 PyTorch 1.0 VM 鏡像文件，Google 還為 PyTorch 提供了用于機器學(xué)習(xí)的定制化專用集成芯片（ASIC）——張量處理單元（TPU）。目前，在 Google Cloud TPU 團隊和 PyTorch 團隊的合作推動下，基于 PyTorch 1.0 的模型可以使用這種定制化的硬件。

而微軟則早就和 Facebook 開始合作了另一個重要項目——開源的神經(jīng)網(wǎng)絡(luò)交換格式 ONNX。目前，微軟也正進一步在 Azure 機器學(xué)習(xí)服務(wù)、數(shù)據(jù)科學(xué)虛擬機（DSVM）、Azure Notebooks、Visual Studio Code 的 AI 擴展工具等機器學(xué)習(xí)產(chǎn)品套件中為 PyTorch 提供一流的支持。

而英偉達、高通、英特爾等技術(shù)伙伴，正在通過直接優(yōu)化、kernel 庫集成以及對編譯器和推斷運行時的附加工具進行優(yōu)化，來支持 PyTorch 1.0。這種支持可以確保 PyTorch 可以在數(shù)據(jù)中心和邊緣設(shè)備的各種硬件上正常運行，并在這些硬件上實現(xiàn)模型訓(xùn)練和推斷的優(yōu)化。

通過教育與課程方式推廣 PyTorch

增強 PyTorch 自身的實力以外，F(xiàn)acebook 還致力于通過教育與課程方式推廣 PyTorch 打造深度學(xué)習(xí)框架。

據(jù)雷鋒網(wǎng)了解，目前許多教育提供方采用 PyTorch 作為教學(xué)框架。同時，PyTorch 也已經(jīng)通過在線視頻和大學(xué)課程為眾多的學(xué)生提供深度學(xué)習(xí)框架，PyTorch 框架以其易用性及與 Python 深度集成的特性可以非常容易實現(xiàn)各種深度學(xué)習(xí)概念，能讓學(xué)生快速理解和實驗深度模型。

例如，Udacity 就正與 Facebook 合作，為開發(fā)者提供免費的深度學(xué)習(xí)入門課程，而這些課程完全使用 PyTorch 作為框架。同時，F(xiàn)acebook 還將贊助 300 名成功完成該中級課程的學(xué)生，繼續(xù)在 Udacity 中完成深度學(xué)習(xí)納米學(xué)位項目，現(xiàn)在該計劃已經(jīng)調(diào)整為在 PyTorch 1.0 上運行。

值得一提的是，fast.ai 也發(fā)布了首個基于 PyTorch 1.0 構(gòu)建的開源深度學(xué)習(xí)庫——fastai 1.0。該學(xué)習(xí)庫在帶來更高的準(zhǔn)確性以及更快的速度的同時，還能使代碼顯著減少，讓深度學(xué)習(xí)無論是對初學(xué)者還是對經(jīng)驗豐富的開發(fā)人員都更加友好。

「1.0 是讓 PyTorch 進入生產(chǎn)環(huán)境的第一步，開發(fā)者們還會在未來繼續(xù)推進它的發(fā)展?！笷acebook 研究工程師 Soumith Chintala 在發(fā)布會上表示，「PyTorch 1.0 的最終穩(wěn)定版會在 NIPS2018 大會之前發(fā)布?！?/p>

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。