0
本文作者: 三川 | 2017-02-23 13:18 |
Ring Allreduce 本是 HPC (高性能計(jì)算)領(lǐng)域的一項(xiàng)技術(shù)。日前,百度硅谷 AI 實(shí)驗(yàn)室已成功將其移植到深度學(xué)習(xí)平臺(tái),借此來加速 GPU 之間的數(shù)據(jù)傳輸速率。目前,在 GPU 并行計(jì)算中,它們之間的通信瓶頸是制約深度學(xué)習(xí)模型訓(xùn)練速度的主要障礙之一。百度宣布,Ring Allreduce 算法的引入將移除該瓶頸,大幅提升多 GPU 和分布式計(jì)算環(huán)境下的深度學(xué)習(xí)模型運(yùn)算效率。雷鋒網(wǎng)獲得消息,該技術(shù)已被百度成功應(yīng)用于語音識(shí)別。
該算法以庫和 Tensorflow 補(bǔ)丁的形式向開發(fā)者開源,分別為 baidu-allreduce 和 tensorflow-allreduce,已在 GitHub 上線。
GitHub:https://github.com/baidu-research/baidu-allreduce
https://github.com/baidu-research/tensorflow-allreduce
詳情:http://www.ozgbdpf.cn/news/201702/QaSmvdQNbiY4CxBy.html
百度博客(英文):http://research.baidu.com/bringing-hpc-techniques-deep-learning/
與 Linus、Windows,Mac OS 等優(yōu)先系統(tǒng)兼容性和通用性的考慮不同,Kaspersky OS 的設(shè)計(jì)目的有且只有一個(gè):最大化安全。因此 Kaspersky OS 采用了 Flux 高級(jí)安全內(nèi)核架構(gòu)(FLASK)??ò退够坏硎?Kaspersky OS 要做世界上最安全的操作系統(tǒng),還宣稱, Kaspersky OS 的密鑰只有量子計(jì)算機(jī)級(jí)別的計(jì)算能力才能破解。
雷鋒網(wǎng)獲知,該系統(tǒng)面向的并非消費(fèi)者終端(PC),而是網(wǎng)絡(luò)設(shè)備、工業(yè)控制系統(tǒng)和物聯(lián)網(wǎng)設(shè)備。它同時(shí)兼容 X86 和 ARM 兩大架構(gòu)平臺(tái)。值得注意的是,卡巴斯基聲稱該系統(tǒng)和 Linux 沒有任何關(guān)系,從頭到尾完全自行設(shè)計(jì),并因此耗費(fèi)了巨大人力——公司 CEO Eugene Kaspersky 表示,該系統(tǒng)秘密研制已有 14 年。
谷歌表示,tf.Transform 將改善 TensorFlow 的數(shù)據(jù)預(yù)處理和格式轉(zhuǎn)化難題。
以下是谷歌對(duì)tf.Transform 的技術(shù)介紹:
“今天我們正式發(fā)布 tf.Transform,一個(gè)基于 TensorFlow 的全新功能組件,它允許用戶在大規(guī)模數(shù)據(jù)處理框架中定義預(yù)處理流水線(preprocessing pipelines),同時(shí)還可以將這些流水線導(dǎo)出,將其作為 TensorFlow 計(jì)算圖(TensorFlow graph)的一部分。
用戶可以通過組合 Python 函數(shù)來定義該流水線,然后在 Apache Beam 框架下通過 tf.Transform 執(zhí)行。(注:Apache Beam 是一個(gè)用于大規(guī)模的、高效的、分布式的數(shù)據(jù)處理的開源框架)目前,基于 Apache Beam 框架的流水線可以在 Google Cloud Dataflow 平臺(tái)上運(yùn)行,并計(jì)劃在未來支持更多的平臺(tái)(可能包括 Apache Apex,Apache Flink 和 Apache Spark 等)。值得一提的是,通過 tf.Transform 導(dǎo)出的 TensorFlow 計(jì)算圖還可以在模型預(yù)測階段將這種數(shù)據(jù)預(yù)處理步驟復(fù)用(例如,通過 Tensorflow Serving 提供模型時(shí))?!?/p>
GitHub:https://github.com/tensorflow/transform
谷歌博客:http://research.googleblog.com/2017/02/preprocessing-for-machine-learning-with.html
眾所周知,此前的深度學(xué)習(xí)技術(shù)雖然能將輸入的年輕人臉圖像,輸出為老年圖像,但在這過程中會(huì)失去一些面部特征與識(shí)別信息,其結(jié)果并不準(zhǔn)確——嚴(yán)格來說,輸出的圖像不能說是對(duì)同一個(gè)人衰老長相的預(yù)測。
但現(xiàn)在,法國的一組研究人員成功實(shí)現(xiàn)了用深度學(xué)習(xí)算法,將同一個(gè)人的面部照片做“衰老”或“年輕化”處理。換句話說,既能預(yù)測老年相貌,也能重現(xiàn)年輕時(shí)的面容。上圖是研究結(jié)果示范。
該研究發(fā)表于 ArXiv,題目為“Face Aging With Conditional Generative Adversarial Networks”。
“老得不敢拍照片”或許將退出歷史舞臺(tái)。美圖對(duì)此怎么看?
ArXiv:https://arxiv.org/abs/1702.01983
AMD 于昨晚 AMD Ryzen Tech Day 正式發(fā)布 Ryzen。這來得有些突然——此前媒體與行業(yè)人士普遍估計(jì) Ryzen 將在 MWC 發(fā)布。不過,Ryzen 發(fā)貨時(shí)間仍然是 3 月 3 日(國行),目前預(yù)售開啟。
我們來看看預(yù)售的三款 7 系 Ryzen 的國行售價(jià):
Ryzen 7 1800X 3999 元
Ryzen 7 1700X 3099 元
Ryzen 7 1700 2499 元
不同電商平臺(tái)上有 200~300 元不等的預(yù)訂優(yōu)惠,感興趣的可關(guān)注。
雷鋒網(wǎng)提醒:由于事出突然,全世界范圍內(nèi) Ryzen 的評(píng)測還沒有放出。目前我們對(duì)于它的所有了解,完全基于 AMD 官方宣傳信息,以及此前泄露的工程版本芯片跑分。因此,對(duì)于這三款芯片之間的性能差距到底有多大、是否值得這中間的差價(jià),尚無定論。業(yè)內(nèi)對(duì)“X ”版本性能強(qiáng)在哪里、與非 X 版本的超頻潛力差別也尚有疑慮。僅給正在選擇的買主做個(gè)提醒。
順便說一句,蘇媽給出的官方 Cinebench R15 nt 跑分是:
Ryzen 7 1700:1410 ;
Ryzen 7 1700X:1537;
Ryzen 7 1800X:1601
根據(jù)得分,大家最關(guān)心的 1700X 比 1700 有約 9% 的性能提升。與之對(duì)比的英特爾跑分:
酷睿 i7 7700k:967;
酷睿 i7 6800k:1108
酷睿 i7 6900k:1474
史上最強(qiáng)凌動(dòng) 英特爾發(fā)布 Atom C3000
這是凌動(dòng)產(chǎn)品線首個(gè) 16 核 CPU,它整合了多項(xiàng)多見于服務(wù)器芯片中的技術(shù):比如 RAS 功能,該功能可即時(shí)修正數(shù)據(jù)錯(cuò)誤,并防止網(wǎng)絡(luò)和存儲(chǔ)設(shè)備崩潰。 與現(xiàn)有凌動(dòng)產(chǎn)品線面向移動(dòng)設(shè)備的定位不同,Atom C3000 的服務(wù)對(duì)象將是存儲(chǔ)陣列、網(wǎng)絡(luò)設(shè)備和物聯(lián)網(wǎng)設(shè)備。將為它們帶來更強(qiáng)大的數(shù)據(jù)處理能力。
簡而言之,這是款與消費(fèi)者無關(guān)、但關(guān)乎網(wǎng)絡(luò)設(shè)備開發(fā)商的凌動(dòng)。
相關(guān)文章:
國外大神的機(jī)器學(xué)習(xí)算法大匯總;如何用 50 行 PyTorch 代碼實(shí)現(xiàn) GANs | AI開發(fā)者頭條
AI加持,計(jì)算機(jī)要擁有嗅覺了;GPU終于可用于Google Compute Engine | AI開發(fā)者頭條
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。