丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
人工智能開(kāi)發(fā)者 正文
發(fā)私信給skura
發(fā)送

0

清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階

本文作者: skura 編輯:張路 2020-03-22 09:24
導(dǎo)語(yǔ):清華開(kāi)源計(jì)圖,背后是三代人的共同努力。

雷鋒網(wǎng)AI源創(chuàng)評(píng)論報(bào)道,據(jù)官方消息,清華大學(xué)計(jì)算機(jī)系圖形實(shí)驗(yàn)室宣布開(kāi)源一個(gè)全新的深度學(xué)習(xí)框架:Jittor,中文名計(jì)圖。 

Jittor 是一個(gè)采用元算子表達(dá)神經(jīng)網(wǎng)絡(luò)計(jì)算單元、完全基于動(dòng)態(tài)編譯(Just-in-Time)的深度學(xué)習(xí)框架。[1]

據(jù)介紹,Jittor 內(nèi)部使用創(chuàng)新的元算子和統(tǒng)一計(jì)算圖的深度學(xué)習(xí)框架。和 Numpy 相比,元算子在保證易用性的同時(shí),能夠?qū)崿F(xiàn)更復(fù)雜、更高效的操作。而統(tǒng)一計(jì)算圖則是融合了靜態(tài)計(jì)算圖和動(dòng)態(tài)計(jì)算圖的諸多優(yōu)點(diǎn),在易于使用的同時(shí),提供高性能的優(yōu)化?;谠阕娱_(kāi)發(fā)的深度學(xué)習(xí)模型,可以被計(jì)圖實(shí)時(shí)自動(dòng)優(yōu)化并且運(yùn)行 CPU、GPU 等指定的硬件上。

Jittor 特性

Jittor 是基于易用、可定制、實(shí)現(xiàn)與優(yōu)化分離、即時(shí)的理念設(shè)計(jì)的。用戶只需要數(shù)行代碼,就可定義新的算子和模型,且所有的代碼都是即時(shí)編譯運(yùn)行。

在 Jittor 上,多個(gè)元算子之間可以相互融合,成為更加復(fù)雜的算子,進(jìn)一步構(gòu)成神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)應(yīng)用。 

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

支持計(jì)算任意高階導(dǎo)數(shù)。元算子在 Jittor 上反向傳播后仍然是元算子,因此,在深度學(xué)習(xí)開(kāi)發(fā)過(guò)程中,你不用算子的反向傳播而重復(fù)開(kāi)發(fā)。同時(shí),還可以使用統(tǒng)一的優(yōu)化策略。

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

使用 Jittor 內(nèi)置的元算子編譯器,用戶可以直接將通過(guò)元算子編寫的 Python 代碼動(dòng)態(tài)編譯成更高效的 C++ 代碼。

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

Jittor 能夠自動(dòng)優(yōu)化動(dòng)態(tài)編譯的代碼。其內(nèi)置的優(yōu)化編譯遍(complier pass)兼容 LLVM,可以根據(jù)設(shè)備進(jìn)行自動(dòng)優(yōu)化,生成的底層算子對(duì)計(jì)算設(shè)備非常友好。 

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

Jittor 統(tǒng)一管理 GPU 和 CPU 的內(nèi)存。當(dāng)深度學(xué)習(xí)耗盡 GPU 內(nèi)存資源時(shí),將用 CPU 內(nèi)存彌補(bǔ)。

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

Jittor 同時(shí)提供同步接口和異步接口,用戶可以同時(shí)享受同步接口的易用性和異步接口的高效性。

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

使用輔助轉(zhuǎn)換腳本,PyTorch 代碼可以直接轉(zhuǎn)換成 Jittor 模型。在參數(shù)保存和數(shù)據(jù)傳輸上,Jittor使用和 PyTorch 一樣的 Numpy+pickle 協(xié)議,二者的模型可以相互加載和調(diào)用。

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

性能超越 Pytorch

雖然這是清華大學(xué)第一次發(fā)布開(kāi)源機(jī)器學(xué)習(xí)框架,但與國(guó)際主流平臺(tái)相比,Jittor 豪不遜色。 目前 ResNet、VGG、SSD、DeepLab、LSGAN 等多個(gè)網(wǎng)絡(luò)模型已經(jīng)在 Jittor 平臺(tái)實(shí)現(xiàn),可供用戶使用。與同類型框架相比,Jittor 在收斂精度一致情況下,推理速度取得了 10%-50% 的性能提升 。

       清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階      

目前,Jittor 得到了國(guó)家自然科學(xué)基金項(xiàng)目、北京信息科學(xué)與技術(shù)國(guó)家研究中心團(tuán)隊(duì)項(xiàng)目和清華-騰訊聯(lián)合實(shí)驗(yàn)室項(xiàng)目的資助和支持。

清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階

【 雷鋒網(wǎng)注:圖片來(lái)源:Pixabay  所有者:Gerd Altmann 】

開(kāi)源超級(jí)玩家

開(kāi)源,特別是人工智能領(lǐng)域的開(kāi)源,逐漸成為綜合實(shí)力的象征。清華在這方面有著獨(dú)到的優(yōu)勢(shì)。

首先,是在人工智能領(lǐng)域的學(xué)術(shù)傳承。2019 年,清華人工智能研究院動(dòng)作頻頻,在張鈸院士的帶領(lǐng)下,4 月成立聽(tīng)覺(jué)智能研究中心,由鄭方教授擔(dān)任主任,5 月成立基礎(chǔ)理論研究中心,朱軍任主任,在基礎(chǔ)算法、AI 框架、AI 應(yīng)用、數(shù)據(jù)資源等方面早已布好基礎(chǔ)。

第一代院士打好基礎(chǔ),第二代老師形成了中堅(jiān)力量。此次驚艷推出的計(jì)圖(Jittor),牽頭人就是清華大學(xué)計(jì)算機(jī)系的胡事民教授,1969 年生人,正屬于中堅(jiān),而開(kāi)發(fā)團(tuán)隊(duì)的主體,正是他帶領(lǐng)的圖形學(xué)實(shí)驗(yàn)室的一批博士生。今天出世的計(jì)圖更不免讓人想到當(dāng)年的清華畢業(yè)生賈揚(yáng)清,他在加州大學(xué)伯克利分校攻讀博士期間創(chuàng)建了 Caffe 項(xiàng)目。

清華大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室(THUNLP)也有一個(gè)知名的開(kāi)源項(xiàng)目,叫 OpenNRE。[2] 這是一個(gè)在自然語(yǔ)言處理里進(jìn)行關(guān)系提取的開(kāi)源框架,可以用于擴(kuò)展知識(shí)圖譜,是推薦系統(tǒng)、搜索引擎、問(wèn)題解答這些應(yīng)用的基礎(chǔ)和關(guān)鍵技術(shù)。

實(shí)驗(yàn)室由孫茂松教授領(lǐng)銜,帶出了一批骨干老師,以及本碩博的尖子。THUNLP 在 GitHub 上得到的 star,已經(jīng)跟全球最強(qiáng)的斯坦福 NLP 小組的 star 差不多了。

由此帶出的第三代學(xué)生梯隊(duì)也人才濟(jì)濟(jì)。清華姚班自不必說(shuō),去年以本科人才培養(yǎng)著名的姚期智教授又開(kāi)設(shè)智班,重點(diǎn)培養(yǎng)人工智能領(lǐng)域的后備軍。

姚班畢業(yè),目前在 MIT 就讀的博士生胡淵鳴,設(shè)計(jì)、實(shí)現(xiàn)了 Taichi 編程語(yǔ)言及其優(yōu)化編譯器,后生可畏。[3]

另外,清華和企業(yè)以實(shí)驗(yàn)室形式的合作,碩果累累,吸引了像張亞勤、沈向洋這樣的大師級(jí)科學(xué)家加入。

比如,清華和微軟研究院合作了 Convlab 開(kāi)源端到端對(duì)話系統(tǒng) [4],和美團(tuán)合作了視頻動(dòng)作分析的開(kāi)源數(shù)據(jù)集 COIN [5]。

去年,清華-伯克利深圳學(xué)院更是成立了“RISC-V 國(guó)際開(kāi)源實(shí)驗(yàn)室”,直接將圖靈獎(jiǎng)得主、最早提出“精簡(jiǎn)指令集”(RISC)體系的大衛(wèi)·帕特森(David Patterson)引入,抓住了開(kāi)源和源創(chuàng)的源頭,有可能在芯片領(lǐng)域形成新的開(kāi)源 CPU 生態(tài)體系,打造國(guó)家重器。

 

引用來(lái)源:

[1] Jittor

官網(wǎng):https://cg.cs.tsinghua.edu.cn/jittor/ 

github:https://github.com/Jittor/Jittor 

[2] OpenNRE , https://github.com/thunlp/OpenNRE 

[3] Taichi , https://github.com/yuanming-hu/difftaichi 

[4] Convlab , https://convlab.github.io/ 

[5] COIN , https://coin-dataset.github.io/ 

雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。

清華開(kāi)源深度學(xué)習(xí)框架計(jì)圖,開(kāi)源超級(jí)玩家再進(jìn)階

分享:
相關(guān)文章
當(dāng)月熱門文章
最新文章
請(qǐng)?zhí)顚懮暾?qǐng)人資料
姓名
電話
郵箱
微信號(hào)
作品鏈接
個(gè)人簡(jiǎn)介
為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說(shuō)