最新 MLPerf 基準(zhǔn)表明：AI 的訓(xùn)練速度比去年提升了幾乎兩倍

6月29日，開放工程聯(lián)盟 MLCommons 發(fā)布了 MLPerf 基準(zhǔn)的最新訓(xùn)練結(jié)果，發(fā)現(xiàn)今年機(jī)器學(xué)習(xí)系統(tǒng)的訓(xùn)練速度幾乎是去年的兩倍，超越了摩爾定律（每18-24個(gè)月翻一倍）。

MLPerf 由八個(gè)基準(zhǔn)測(cè)試組成：圖像識(shí)別、醫(yī)學(xué)影像分割、兩個(gè)版本的對(duì)象檢測(cè)、語(yǔ)音識(shí)別、自然語(yǔ)言處理、推薦和強(qiáng)化學(xué)習(xí)。在這八個(gè)基準(zhǔn)測(cè)試中，英偉達(dá)的加速器都拔得頭籌，表現(xiàn)優(yōu)異。

MLPerf Training v2.0 結(jié)果包括來(lái)自 21 個(gè)不同提交者的 250 多個(gè)性能結(jié)果，包括 Azure、百度、戴爾、富士通、技嘉、谷歌、Graphcore、HPE、浪潮、英特爾-HabanaLabs、聯(lián)想、Nettrix、NVIDIA、三星和 Supermicro等等。（IEEE Spectrum）

宋舒然獲得機(jī)器人頂會(huì) RSS 2022 公布最佳論文獎(jiǎng)

機(jī)器人頂會(huì) RSS（Robotics: Science and Systems） 于 6 月 27 日至 7 月 1 日在紐約召開，并公布了最佳論文、最佳系統(tǒng)論文、最佳學(xué)生論文等全部獎(jiǎng)項(xiàng)。

其中，目前任職于哥倫比亞大學(xué)的中國(guó)學(xué)者宋舒然與團(tuán)隊(duì)獲得 RSS 2022 最佳論文獎(jiǎng)，獲獎(jiǎng)工作是“Iterative Residual Policy for Goal-Conditioned Manipulation of Deformable Objects”。宋舒然是機(jī)器人研究領(lǐng)域的知名青年學(xué)者，曾獲得多項(xiàng)會(huì)議最佳論文獎(jiǎng)，并獲得2022年素有“諾貝爾風(fēng)向標(biāo)”之稱的斯隆研究獎(jiǎng)。

此前，AI科技評(píng)論曾對(duì)宋舒然博士進(jìn)行專訪，鏈接如下：

谷歌提出新的語(yǔ)言模型 Mineva 來(lái)解決定量推理問(wèn)題

最近，谷歌研究院提出了一個(gè)能夠用逐步推理來(lái)解決數(shù)學(xué)和科學(xué)問(wèn)題的語(yǔ)言模型——Mineva。

據(jù)團(tuán)隊(duì)介紹，目前語(yǔ)言模型在定量推理問(wèn)題（即結(jié)合數(shù)學(xué)和信息來(lái)解決現(xiàn)實(shí)世界問(wèn)題）中的性能仍遠(yuǎn)遠(yuǎn)低于人類，而他們通過(guò)收集與定量推理問(wèn)題相關(guān)的訓(xùn)練數(shù)據(jù)、大規(guī)模訓(xùn)練模型和采用先進(jìn)的推理技術(shù)，實(shí)現(xiàn)了 AI 模型在定量推理任務(wù)上的顯著進(jìn)步。

論文鏈接：https://storage.googleapis.com/minerva-paper/minerva_paper.pdf

在技術(shù)架構(gòu)上，Mineva基于谷歌在幾個(gè)月前提出的 PaLM 架構(gòu)。訓(xùn)練中，對(duì) arXiv 上 118G 的科學(xué)論文數(shù)據(jù)集和包含 LaTex 數(shù)學(xué)表達(dá)的網(wǎng)頁(yè)進(jìn)行了訓(xùn)練。研究表明，Mineva在高中數(shù)學(xué)競(jìng)賽水平題庫(kù) MATH、大學(xué)水平的 STEM 任務(wù)上都取得了不錯(cuò)的表現(xiàn)。

英國(guó)學(xué)者聯(lián)合發(fā)布因果機(jī)器學(xué)習(xí)百頁(yè)調(diào)查報(bào)告

最近，英國(guó)牛津大學(xué)與倫敦大學(xué)學(xué)院（UCL）的學(xué)者聯(lián)合發(fā)布了一份因果機(jī)器學(xué)習(xí)方向的調(diào)查綜述，長(zhǎng)達(dá)165頁(yè)。因果機(jī)器學(xué)習(xí)主要研究如何將數(shù)據(jù)生成過(guò)程轉(zhuǎn)換為結(jié)構(gòu)因果模型（SCM），可以讓人們推斷這一過(guò)程的變化（即干預(yù)）的影響，以及事后會(huì)發(fā)生的事情（即反事實(shí)）。

這篇綜述討論了因果機(jī)器學(xué)習(xí)的五大方向：因果監(jiān)督學(xué)習(xí)、因果生成建模、因果解釋、因果公平與因果強(qiáng)化學(xué)習(xí)。

論文鏈接：https://arxiv.org/pdf/2206.15475.pdf

消息鏈接：

https://spectrum.ieee.org/mlperf-rankings-2022

https://ai.googleblog.com/2022/06/minerva-solving-quantitative-reasoning.html

更多內(nèi)容，點(diǎn)擊下方關(guān)注：

歡迎提供前沿資訊，掃碼添加 AI 科技評(píng)論 微信號(hào)，投稿&進(jìn)群：

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。