雷遞網(wǎng) 樂天 5月29日
英偉達(dá)(NVIDIA)創(chuàng)始人兼首席執(zhí)行官黃仁勛日前發(fā)布為企業(yè)提供超強(qiáng)AI性能的DGX GH200 大內(nèi)存 AI 超級(jí)計(jì)算機(jī)。英偉達(dá)稱,通過NVIDIA NVLink,這臺(tái)超級(jí)計(jì)算機(jī)將多達(dá)256塊 NVIDIA GH200 Grace Hopper 超級(jí)芯片整合到一個(gè)數(shù)據(jù)中心大小的GPU中。
(資料圖片僅供參考)
黃仁勛宣布,GH200超級(jí)芯片現(xiàn)已全面投產(chǎn),將節(jié)能的NVIDIA Grace CPU 與高性能的 NVIDIA H100 Tensor Core GPU 整合到一個(gè)超級(jí)芯片中。
DGX GH200提供1 exaflop 性能與144 TB共享內(nèi)存,比單個(gè)NVIDIA DGX A100 320GB系統(tǒng)高出近500倍。這讓開發(fā)者可以構(gòu)建用于生成式AI聊天機(jī)器人的大型語言模型、用于推薦系統(tǒng)的復(fù)雜算法,以及用于欺詐檢測(cè)和數(shù)據(jù)分析的圖形神經(jīng)網(wǎng)絡(luò)。
谷歌云、Meta和微軟是首批有望接入DGX GH200的企業(yè),它們將探索這臺(tái)超級(jí)計(jì)算機(jī)在生成式AI工作負(fù)載方面的能力。
NVIDIA正在建造自己的大規(guī)模AI超級(jí)計(jì)算機(jī)NVIDIA Helios。這臺(tái)超級(jí)計(jì)算機(jī)將于今年上線,它將使用四個(gè)與NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)相連的DGX GH200系統(tǒng),可提供訓(xùn)練大型AI模型所需要的數(shù)據(jù)吞吐量。
黃仁勛宣布,將有超過400種采用NVIDIA 最新版本Hopper,Grace,Ada Lovelace和BlueField架構(gòu)的系統(tǒng)上市。這些系統(tǒng)將被用于解決AI,數(shù)據(jù)科學(xué)和高性能計(jì)算領(lǐng)域的復(fù)雜挑戰(zhàn)。
黃仁勛表示,“加速計(jì)算和AI標(biāo)志著計(jì)算的革新”。為了展示它的力量,他展示了一個(gè)文本提示,為他的主題演講生成一首主題曲,可以像任何卡拉 OK 曲調(diào)一樣演唱。
“我們現(xiàn)在正處于一個(gè)全新計(jì)算時(shí)代的轉(zhuǎn)折點(diǎn),加速計(jì)算和 AI 已經(jīng)被世界上幾乎所有的計(jì)算和云公司所采用。” 他表示,如今有 40,000 家大公司和 15,000 家初創(chuàng)公司使用 NVIDIA 技術(shù),僅去年一年,CUDA 軟件的下載量就達(dá)到 2,500 萬次。
Grace Hopper推動(dòng)5G/6G發(fā)展
黃仁勛表示,NVIDIA正在助力塑造未來5G、 6G 無線和視頻通信。演講中展示通過Grace Hopper 上運(yùn)行的 AI ,將當(dāng)今的 2D 視頻通話轉(zhuǎn)變?yōu)楦普娴?D體驗(yàn)。
黃仁勛宣布, NVIDIA正在與電信巨頭軟銀合作,在日本建立分布式數(shù)據(jù)中心網(wǎng)絡(luò),為提供新型服務(wù)奠定基礎(chǔ)。它將在通用云平臺(tái)上提供 5G 服務(wù)和生成式AI應(yīng)用程序。
這些數(shù)據(jù)中心將使用模塊化MGX系統(tǒng)中的NVIDIA GH200超級(jí)芯片和NVIDIA BlueField-3 DPU以及NVIDIA Spectrum以太網(wǎng)交換機(jī)提供5G協(xié)議所需的高精度計(jì)時(shí)。該平臺(tái)將通過提高頻譜效率來降低成本和能耗。
這些系統(tǒng)將幫助軟銀探索5G和6G在自動(dòng)駕駛、AI工廠、增強(qiáng)和虛擬現(xiàn)實(shí)、計(jì)算機(jī)視覺以及數(shù)字孿生方面的應(yīng)用,未來甚至可能被用于3D視頻會(huì)議、全息通信等。
加速云網(wǎng)絡(luò)
黃仁勛發(fā)布了專門用于提高以太網(wǎng)AI云性能和效率的網(wǎng)絡(luò)平臺(tái)NVIDIA Spectrum-X。該平臺(tái)將Spectrum-4以太網(wǎng)交換機(jī)與BlueField-3 DPU和軟件相結(jié)合,相較于傳統(tǒng)的以太網(wǎng)結(jié)構(gòu),AI性能和電源效率提高了1.7倍。
生成式AI也影響著人們玩游戲的方式。
黃仁勛發(fā)布了NVIDIA Avatar Cloud Engine(ACE)游戲開發(fā)版。開發(fā)者可以使用這項(xiàng)代工服務(wù)構(gòu)建和部署定制化的語音、對(duì)話和動(dòng)畫AI模型。該引擎將賦予非玩家角色(NPC)對(duì)話技能,使他們能夠以進(jìn)化出的逼真?zhèn)€性回答問題。
NVIDIA ACE游戲開發(fā)版包含NVIDIA Riva等AI基礎(chǔ)模型,可檢測(cè)并轉(zhuǎn)錄玩家的語音。
NVIDIA NeMo可根據(jù)文本提示生成定制化的回答并通過NVIDIA Omniverse Audio2Face實(shí)現(xiàn)動(dòng)畫化。
使用AI加速裝配線
例如,在全球生產(chǎn)筆記本電腦、智能手機(jī)等300種產(chǎn)品的和碩,正使用Omniverse、Isaac Sim和Metropolis創(chuàng)建虛擬工廠。該公司能夠在虛擬工廠中的模擬環(huán)境測(cè)試各種流程,為其節(jié)省了時(shí)間和成本。
和碩還使用NVIDIA DeepStream軟件開發(fā)套件開發(fā)智能視頻應(yīng)用,將吞吐量提高了10倍。
富士康工業(yè)互聯(lián)網(wǎng)是這家全球超大技術(shù)制造商的服務(wù)部門,該部門攜手NVIDIA Metropolis合作伙伴,一起實(shí)現(xiàn)其電路板質(zhì)控檢查點(diǎn)重要環(huán)節(jié)的自動(dòng)化。
黃仁勛在一段視頻中展示了廣達(dá)的子公司Techman Robot如何使用NVIDIA Isaac Sim優(yōu)化其生產(chǎn)線上的檢測(cè)。實(shí)際上,這是在使用模擬機(jī)器人,來訓(xùn)練機(jī)器人制造出更好的機(jī)器人。
黃仁勛還發(fā)布了一個(gè)新平臺(tái),以支持下一代自主移動(dòng)機(jī)器人 (AMR) 車隊(duì)。 Isaac AMR 可以幫助模擬、部署和管理自主移動(dòng)機(jī)器人車隊(duì)。
———————————————
雷遞由媒體人雷建平創(chuàng)辦,若轉(zhuǎn)載請(qǐng)寫明來源。
責(zé)任編輯:Rex_29