0
“什么是最偉大的?”
“最偉大的是那些善待他人的人?!?/p>
在英偉達 GTC 2021 大會上,黃仁勛的開幕演講以一段極具哲學性和未來感的對話畫上句號。
回答者不是黃仁勛本人,而是以黃仁勛為原型的對話式虛擬形象——Toy Jensen。黃仁勛在開幕演講中介紹,這一虛擬形象是基于目前訓練的最大自然語言處理模型和光線追蹤的精美圖像而合成實時形象。
“有了最近才實現(xiàn)的一些驚人技術,Toy-me 得以打造而成,而這些技術在以前看來幾乎都是不可能實現(xiàn)的。”
Toy Jensen 的呈現(xiàn),透露了英偉達的元宇宙愿景,此外,按照慣例,英偉達還在此次GTC上推出了一系列AI技術與產(chǎn)品:
目前為止最先進的端到端的網(wǎng)絡平臺 Quantum-2,多節(jié)點分布式推理功能的 NVIDIA Triton 推理服務器,NVIDIA A2 Tensor Core GPU加速器,全球最小、功能最強大、能效最高的下一代超級計算機NVIDIA Jetson AGX Orin 等系列產(chǎn)品等等。
Omniverse 更新升級,加速 2D 互聯(lián)網(wǎng)向 3D 演變
在去年的 GTC 大會上,英偉達宣布推出 Omniverse,并介紹其為世界上第一個基于英偉達 RTX 的三維仿真和協(xié)作平臺,融合了物理和虛擬世界,實時模擬現(xiàn)實并具有真實感的細節(jié),無論是藝術家還是人工智能,都能夠在不同世界使用不同的工具,共同創(chuàng)造一個全新的世界。
經(jīng)歷近一年的發(fā)展,已經(jīng)有 70000 多名創(chuàng)作者下載,500 多家公司的專業(yè)人士使用 Omniverse 公測版,寶馬集團、CannonDesign、Epigraph、Ericsson、建筑公司 HKS 和 KPF、Lockheed Martin 以及 Sony Pictures Animation 都包括在內(nèi)。
其中,Ericsson 正在使用 Omniverse 平臺創(chuàng)建數(shù)字孿生,模擬和可視化信號傳播,以加速 5G 網(wǎng)絡的功能開發(fā)和洞察。
與此同時,Omniverse 本身也隨之更新升級。
Omniverse Avatar 是英偉達推出的一個能夠用于生成交互式 AI 虛擬化身的技術平臺,連接英偉達語音 AI、計算機視覺、自然語言理解、推薦引擎和模擬方面技術,即將 Metropolis 的感知能力、Riva 的語音識別能力、Merlin 的推薦能力、Omniverse 的動畫渲染能力等交匯于一體。
其中,NVIDIA Riva 語音 AI 軟件新增了一項 Riva 定制語音功能,只需要 30 分鐘的音頻數(shù)據(jù),就能在一天之內(nèi)打造類似真人的定制語音,幾乎類似于科幻愛情電影《她》中的薩曼莎,擁有斯嘉麗的迷人聲線,且擁有超強的學習能力。
落地到具體應用中,企業(yè)可以使用 Riva 定制語音打造專屬語音的虛擬助理,開發(fā)具有辨識度的品牌語音,開發(fā)者也可以借助其創(chuàng)建各種各樣的應用程序,為有語言障礙的人提供支持。
基于 Omniverse Avatar 這一平臺,原本處于 2D 狀態(tài)的虛擬助手就有能力變成一個擁有常識、推理能力和生動的 3D 視覺形象,理解多種語言,且在同人類的交流中給出更加智能的回答。正如在直播中看到的那樣,當英偉達的 3 位工作人員分別向 Toy Jensen 提出有關氣候變化、天文學以及生物蛋白質(zhì)等棘手的問題時,這個小家伙都能對答如流。
再者,英偉達演示了基于對話操作臺 Tokkio 基于 Omniverse Avatar 平臺的應用程序,當餐廳有兩位顧客同時點餐時,客戶服務的虛擬化身能夠同顧客進行眼神交流,并根據(jù)兩位顧客的用餐需求給出推薦菜單。
而 Omniverse 本身,也更新了4大功能,包括 Showroom、Farm、AR和VR。
其中,Showroom 作為 Omniverse 公測版中的應用程序提供,允許非技術用戶使用 Omniverse 技術演示,展示平臺的實時物理和渲染技術;
Farm 允許團隊同時使用多個工作站或服務器,為渲染、合成數(shù)據(jù)生成或文件轉(zhuǎn)換等任務提供支持;
VR 推出領先的完全圖像、光線追蹤 VR,支持開發(fā)者在平臺上構建自己的 VR 功能,最終用戶可以直接享受 VR 功能;AR 同理。
另外,英偉達還宣布 Omniverse Enterprise 已進入正式發(fā)布階段。它允許跨多個軟件套件工作的全球 3D 設計團隊在共享虛擬空間中通過任意設備實時協(xié)作。Omniverse 的生態(tài)系統(tǒng)正在不斷擴展。
最新 Triton 推理服務器,助力實時大型語言模型開發(fā)與部署
構建交流如此自如的 Toy Jensen,同樣離不開強大的自然語言處理模型,其背后的技術邏輯也在此次大會上得以展現(xiàn)。
英偉達推出了為訓練具有數(shù)萬億參數(shù)的語言模型而優(yōu)化的 NVIDIA NeMo Megatron 框架,為新領域和語言進行訓練的可定制大型語言模型(LLM)Megatron 530B 以及具有多 GPU、多節(jié)點分布式推理能力的 NVIDIA Triton 推理服務器。
而基于這些工具,不僅僅能構建 Toy Jensen,企業(yè)也可以建立自己的、特定領域的聊天機器人、個人助理以及其他 AI 應用程序,高水平理解語言中細微的差別。
NVIDIA NeMo Megatron 是在 Megatron 的基礎上發(fā)展起來的開源項目,由 NVIDIA 研究人員主導,研究大型轉(zhuǎn)換語言模型的高效訓練。Megatron 530B 是世界上最大的可定制語言模型。
NeMo Megatron 框架經(jīng)過優(yōu)化,可以在 NVIDIA DGX SuperPOD 的大規(guī)模加速計算基礎設施上進行擴展。
有了大型語音模型,如何存儲和運行呢?尤其是這些模型對內(nèi)存的需求極大,超過單個 GPU 甚至是多個GPU 服務器所能夠提供給的內(nèi)存,且在實際應用中對推理實時性要求較高。
NVIDIA Triton 推理服務器的出現(xiàn)解決這一問題,英偉達在此次大會上發(fā)布的最新 NVIDIA Triton 具有多 GPU、多節(jié)點特性,使大型語言模型推理工作負載能夠?qū)崟r在多個 GPU 和節(jié)點上擴展。
借助 Triton 推理服務器,Megatron 530B 能在兩個 NVIDIA DGX 系統(tǒng)上運行,將處理時間從 CPU 服務器上的 1 分鐘以上縮短到 0.5 秒,令實時部署部署大型語言模型成為可能。
事實上已經(jīng)有不少企業(yè)在使用 NVIDIA DGX SuperPOD 構建大型復雜語言模型,SiDi、京東探索研究院和VinBrai都包括在內(nèi)。
其他AI新進展:Quantum-2 和 Jentson AGX Orin
展望元宇宙的英偉達,在其他產(chǎn)品線方面也保持著持續(xù)更新。
首先是推出了可進行云原生超級計算的 Quantum-2 平臺,即 400Gbps 的 InfiniBand 網(wǎng)絡平臺,包括 NVIDIA Quantum-2 交換機、ConnectX-7 網(wǎng)卡、BlueField-3 數(shù)據(jù)處理器 DPU(數(shù)據(jù)處理器)和所有支持這種新架構的軟件。這也是迄今為止最先進的端到端網(wǎng)絡平臺。ConnectX-7 將于明年1月問世。
其中,Quantum-2 InfiniBand 交換機基于新的 Quantum-2 ASIC,采用臺積電 7nm 節(jié)點,包含 570 億個晶體管,超過有 540 億晶體管的 A100 GPU。
Quantum-2 InfiniBand 擁有 400Gbps 的高吞吐量,將網(wǎng)絡速度提高 1 倍,網(wǎng)絡端口數(shù)量增加了 3 倍。它在性能提升 3 倍的同時,還將對數(shù)據(jù)中心網(wǎng)絡所需的交換機數(shù)量減少了 6 倍,于此同時,數(shù)據(jù)中心的能耗和空間各減少了 7%。
另外,全球最小、功能強大、能效最高的新一代 AI 超級計算機 NVIDIA Jetson AGX Orin,算力高達 200TOPS ,用于機器人、自主機器、醫(yī)療器械和其他形式的邊緣嵌入式計算。
Jetson AGX Orin 基于 NVIDIA Ampere 架構,與其前身 Jetson AGX Xavier 保持外形和引腳兼容性一直,不過處理能力擴大至 6 倍,每秒可提供 200 萬億次操作,它類似于支持 GPU 的服務器,但大小僅相當于人的手掌。
新的 Jetson 計算機可加速完整的 NVIDIA AI 軟件棧,使開發(fā)人員能夠部署最大、最復雜的模型,以解決自然語言理解、3D 感知、多傳感器融合等邊緣 AI 和機器人任務。
小結(jié)
上周,英偉達市值突破7000億美元,不少分析師稱其市值上漲的背后,是元宇宙在助力,此次GT C大會上表現(xiàn)也確實證明,英偉達以其Omniverse平臺為基礎,構建了一個元宇宙愿景。
不過,不要忘了,英偉達依然是一家在AI和高性能計算領域有深厚積累的科技公司,除了火熱的元宇宙外,此次大會期間,也將有更多有關加速計算、深度學習領域的內(nèi)容呈現(xiàn)。
雷鋒網(wǎng)
相關文章:
英偉達市值超 7000 億美元,元宇宙成引擎|雷鋒網(wǎng)
英偉達 AI 軟件新進展,AI Enterprise 全球上市
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。