6月13日，GTIC 2023全球汽車(chē)芯片創(chuàng)新峰會(huì)將在上海國(guó)際低碳智慧出行展覽會(huì)同期舉辦，首批演講嘉賓已揭曉，歡迎報(bào)名。
黃仁勛臺(tái)北激情演講2小時(shí)：連甩7項(xiàng)重磅發(fā)布，想讓全球企業(yè)都用上生成式AI。作者 | ZeR0
編輯 | 漠影
芯東西5月29日消息，繼上周遠(yuǎn)超預(yù)期的財(cái)報(bào)業(yè)績(jī)預(yù)測(cè)引得股價(jià)和市值史詩(shī)級(jí)暴漲后，今日，英偉達(dá)（NVIDIA）創(chuàng)始人兼CEO黃仁勛穿著標(biāo)志性的皮衣，意氣風(fēng)發(fā)地出現(xiàn)在臺(tái)北電腦展COMPUTEX 2023上，在主題演講期間先是現(xiàn)場(chǎng)給自家顯卡帶貨，然后一連公布涉及加速計(jì)算和人工智能（AI）的多項(xiàng)進(jìn)展。
面向生成式AI歷史性浪潮，英偉達(dá)的一系列發(fā)布包括：推出大內(nèi)存生成式AI超級(jí)計(jì)算機(jī)DGX GH200，可加速生成式AI設(shè)計(jì)的Grace Hopper超級(jí)芯片GH200已全面投產(chǎn)，推出全新加速以太網(wǎng)平臺(tái)Spectrum-X，為游戲提供定制化AI模型代工服務(wù)，與全球最大的營(yíng)銷(xiāo)服務(wù)機(jī)構(gòu)WPP合作打造生成式AI內(nèi)容引擎，多家世界頂級(jí)電子制造商采用英偉達(dá)生成式AI工具與Omniverse平臺(tái)構(gòu)建先進(jìn)的數(shù)字工廠。
英偉達(dá)還發(fā)布了MGX服務(wù)器規(guī)范，為系統(tǒng)制造商提供快速高效構(gòu)建100多種服務(wù)器配置的模塊化參考架構(gòu)。黃仁勛說(shuō)，有超過(guò)1600家生成式AI公司采用了英偉達(dá)技術(shù)。
目前，英偉達(dá)最新市值為9632億美元，離“萬(wàn)億市值俱樂(lè)部會(huì)員”只差臨門(mén)一腳。一旦突破萬(wàn)億大關(guān)，英偉達(dá)將成為美股市值第五大公司、第七家市值越過(guò)1萬(wàn)億美元的美國(guó)上市公司，以及第一家由華人創(chuàng)立的萬(wàn)億美元市值公司。
01.生成式AI超算堪比“巨型GPU”：E級(jí)算力，谷歌云、Meta、微軟首批試用
首先來(lái)看下英偉達(dá)今日推出的采用英偉達(dá)最新GPU和CPU的系統(tǒng)巔峰之作——新型大內(nèi)存AI超級(jí)計(jì)算機(jī)DGX GH200。
這臺(tái)超算預(yù)計(jì)今年年底問(wèn)世，旨在為生成式AI語(yǔ)言應(yīng)用、推薦系統(tǒng)、數(shù)據(jù)分析工作負(fù)載開(kāi)發(fā)大型下一代模型。黃仁勛認(rèn)為，生成式AI、大型語(yǔ)言模型和推薦系統(tǒng)是現(xiàn)代經(jīng)濟(jì)的數(shù)字引擎。據(jù)他介紹，DGX GH200 AI超級(jí)計(jì)算機(jī)集成了英偉達(dá)最先進(jìn)的加速計(jì)算和網(wǎng)絡(luò)技術(shù)。
DGX GH200是首款將Grace Hopper超級(jí)芯片與英偉達(dá)NVLink Switch系統(tǒng)搭配的超級(jí)計(jì)算機(jī)，通過(guò)采用新互連方式，將256個(gè)Grace Hopper超級(jí)芯片連接在一起，使它們能像單個(gè)巨型GPU一樣協(xié)同運(yùn)行，從而提供了1EFLOPS的性能和144TB的共享內(nèi)存，比2020年推出的上一代DGX A100 320GB系統(tǒng)的內(nèi)存多出近500倍。
谷歌云、Meta、微軟等是首批獲得DGX GH200訪問(wèn)權(quán)限、用于生成式AI工作負(fù)載的公司。英偉達(dá)也打算將DGX GH200設(shè)計(jì)藍(lán)圖提供給云服務(wù)商及其他超大規(guī)模計(jì)算廠商，以便他們可以進(jìn)一步為其基礎(chǔ)設(shè)施定制DGX GH200。
此外，英偉達(dá)正在打造自己的基于DGX GH200的大型AI超級(jí)計(jì)算機(jī)NVIDIA Helios，以支持其研究和開(kāi)發(fā)團(tuán)隊(duì)的工作。它采用4個(gè)DGX GH200系統(tǒng)，每個(gè)都將與英偉達(dá)Quantum-2 InfiniBand網(wǎng)絡(luò)連接，帶寬高達(dá)400Gb/s，以提高訓(xùn)練大型AI模型的數(shù)據(jù)吞吐量。Helios將包括1024顆Grace Hopper超級(jí)芯片，將于今年年底上線。DGX GH200超級(jí)計(jì)算機(jī)包含英偉達(dá)軟件，可為AI和數(shù)據(jù)分析工作負(fù)載提供全套解決方案。英偉達(dá)Base Command軟件提供AI工作流管理、企業(yè)級(jí)集群管理、加速計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)基礎(chǔ)設(shè)施的庫(kù)，以及為運(yùn)行AI工作負(fù)載而優(yōu)化的系統(tǒng)軟件。英偉達(dá)AI平臺(tái)的軟件層AI Enterprise提供了100多個(gè)框架、預(yù)訓(xùn)練模型和開(kāi)發(fā)工具，以簡(jiǎn)化AI生產(chǎn)的開(kāi)發(fā)和部署。
02.生成式AI的引擎：GH200 Grace Hopper超級(jí)芯片全面投產(chǎn)
英偉達(dá)宣布，GH200 Grace Hopper超級(jí)芯片已全面投產(chǎn)，將為運(yùn)行復(fù)雜的AI和高性能計(jì)算工作負(fù)載提供動(dòng)力。
基于GH200的系統(tǒng)加入了全球系統(tǒng)制造商基于英偉達(dá)最新Grace、Hopper、Ada Lovelace架構(gòu)的400多個(gè)系統(tǒng)配置。GH200 Grace Hopper超級(jí)芯片采用NVIDIA NVLink-C2C互連技術(shù)，將基于Arm的英偉達(dá)Grace CPU和Hopper GPU架構(gòu)組合在同一封裝中，提供了高達(dá)900GB/s的總帶寬——比傳統(tǒng)加速系統(tǒng)中的標(biāo)準(zhǔn)PCIe Gen5通道帶寬高7倍，互連功耗降低到原來(lái)的1/5，能夠滿(mǎn)足苛刻的生成式AI和高性能計(jì)算（HPC）應(yīng)用。
位于歐美的幾家全球超大規(guī)模計(jì)算企業(yè)和超算中心客戶(hù)將可使用GH200驅(qū)動(dòng)的系統(tǒng)。采用GH200的系統(tǒng)預(yù)計(jì)將于今年晚些時(shí)候上市。
03.推出新型加速以太網(wǎng)平臺(tái)正打造數(shù)億美元生成式AI超算
黃仁勛還宣布推出NVIDIA Spectrum-X，這是一個(gè)旨在提高基于以太網(wǎng)的AI云的性能和效率的網(wǎng)絡(luò)平臺(tái)。
它基于網(wǎng)絡(luò)創(chuàng)新，將英偉達(dá)Spectrum-4以太網(wǎng)交換機(jī)與英偉達(dá)BlueField-3 DPU緊密耦合，實(shí)現(xiàn)了相比傳統(tǒng)以太網(wǎng)結(jié)構(gòu)1.7倍的整體AI性能和能效提升，并通過(guò)性能隔離增強(qiáng)了多租戶(hù)功能，在多租戶(hù)環(huán)境中保持一致、可預(yù)測(cè)的性能。
Spectrum-X具有高度通用性，可用于各種AI應(yīng)用。它使用完全基于標(biāo)準(zhǔn)的以太網(wǎng)，并可與基于以太網(wǎng)的堆?；ゲ僮?。該網(wǎng)絡(luò)平臺(tái)由英偉達(dá)加速軟件和軟件開(kāi)發(fā)工具包（SDK）進(jìn)行增強(qiáng)，支持開(kāi)發(fā)者構(gòu)建軟件定義的云原生AI應(yīng)用程序。端到端功能的交付減少了大規(guī)?；赥ransformer的生成式AI模型的運(yùn)行時(shí)間。該平臺(tái)支持256個(gè)200Gb/s端口，通過(guò)單個(gè)交換機(jī)連接，或在兩層leaf-spine拓?fù)渲刑峁?6000個(gè)端口，以支持AI云的增長(zhǎng)和擴(kuò)展，同時(shí)保持高水平的性能并最大限度地減少網(wǎng)絡(luò)延遲。
全球領(lǐng)先的云計(jì)算提供商正在采用Spectrum-X平臺(tái)擴(kuò)展生成式AI服務(wù)。Spectrum-X、Spectrum-4交換機(jī)、BlueField-3 DPU等現(xiàn)已在戴爾、聯(lián)想、超微等系統(tǒng)制造商處提供。
作為Spectrum-X參考設(shè)計(jì)的藍(lán)圖和測(cè)試平臺(tái)，英偉達(dá)正在其以色列數(shù)據(jù)中心構(gòu)建一臺(tái)超大規(guī)模生成式AI超級(jí)計(jì)算機(jī)Israel-1。這臺(tái)AI超算價(jià)值數(shù)億美元，將采用戴爾PowerEdge XE9680服務(wù)器、英偉達(dá)HGX H100超級(jí)計(jì)算平臺(tái)、內(nèi)置BlueField-3 DPU和Spectrum-4交換機(jī)的Spectrum-X平臺(tái)。
04.發(fā)布MGX服務(wù)器規(guī)范提供模塊化參考架構(gòu)
為了滿(mǎn)足各種規(guī)模的數(shù)據(jù)中心的需求，黃仁勛發(fā)布了NVIDIA MGX服務(wù)器規(guī)范，為系統(tǒng)制造商提供了模塊化參考架構(gòu)。系統(tǒng)制造商可使用它快速且經(jīng)濟(jì)高效地構(gòu)建100多種服務(wù)器配置，以適應(yīng)廣泛的AI、HPC及NVIDIA Omniverse應(yīng)用。
MGX支持英偉達(dá)全系列GPU、CPU、DPU和網(wǎng)絡(luò)適配器，以及各種x86及Arm處理器。其模塊化設(shè)計(jì)使系統(tǒng)制造商能夠更有效地滿(mǎn)足每個(gè)客戶(hù)的獨(dú)特預(yù)算、電力輸送、熱設(shè)計(jì)和機(jī)械要求。
永擎（ASRock Rack）、華碩（ASUS）、技嘉（GIGABYTE）、和碩（Pegatron）、QCT、超微（Supermicro）等將采用MGX構(gòu)建下一代加速計(jì)算機(jī)，可將開(kāi)發(fā)成本削減多達(dá)3/4，并將開(kāi)發(fā)時(shí)間縮短2/3至僅需6個(gè)月。有了MGX，制造商可以從為其服務(wù)器機(jī)箱加速計(jì)算優(yōu)化的基本系統(tǒng)架構(gòu)開(kāi)始，然后選擇GPU、DPU和CPU。AI訓(xùn)練和5G等多項(xiàng)任務(wù)可以在一臺(tái)機(jī)器上處理，升級(jí)到下一代硬件也很方便。MGX還能輕松集成到云和企業(yè)數(shù)據(jù)中心中。不同于英偉達(dá)HGX，MGX提供了與英偉達(dá)產(chǎn)品靈活的多代兼容性，以確保系統(tǒng)構(gòu)建者可以重用現(xiàn)有設(shè)計(jì)并輕松采用下一代產(chǎn)品。同樣MGX也提供英偉達(dá)完整軟件堆棧的支持。QCT和超微將率先進(jìn)入市場(chǎng)，MGX的設(shè)計(jì)將于8月面世。超微今日公布的ARS-221GL-NR系統(tǒng)將采用Grace CPU，而QCT的S74G-2U系統(tǒng)將采用Grace Hopper。黃仁勛還宣布，英偉達(dá)與日本電信巨頭軟銀合作，在日本建立一個(gè)分布式數(shù)據(jù)中心網(wǎng)絡(luò)。它將在一個(gè)共同的云平臺(tái)上提供5G服務(wù)和生成式AI應(yīng)用。
數(shù)據(jù)中心將在模塊化MGX系統(tǒng)中使用Grace Hopper、BlueField-3 DPU以及Spectrum以太網(wǎng)交換機(jī)，以提供5G協(xié)議所需的高精度定時(shí)。該平臺(tái)將通過(guò)提高頻譜效率來(lái)降低成本，同時(shí)降低能耗。這些系統(tǒng)有助于探索自動(dòng)駕駛、AI工廠、AR/VR、計(jì)算機(jī)視覺(jué)和數(shù)字孿生等領(lǐng)域的應(yīng)用。未來(lái)的用途可能包括3D視頻會(huì)議和全息通信。
05.ACE代工服務(wù)：用生成式AI激活游戲角色生命，支持云端及PC低成本部署
生成式AI將改變玩家與游戲角色間的互動(dòng)方式，并極大提高游戲的沉浸感。對(duì)此，黃仁勛宣布推出面向游戲的NVIDIA Avatar云引擎（ACE）。
這是一項(xiàng)定制AI模型代工服務(wù)，中間件、工具和游戲開(kāi)發(fā)者可以使用它來(lái)構(gòu)建和部署定制的語(yǔ)音、對(duì)話(huà)和動(dòng)畫(huà)AI模型。它能賦予非玩家角色（NPC）更智能且不斷進(jìn)化的對(duì)話(huà)技能，使其能夠以栩栩如生的個(gè)性來(lái)回答玩家的問(wèn)題。基于英偉達(dá)Omniverse，ACE for Games為語(yǔ)音、對(duì)話(huà)和角色動(dòng)畫(huà)提供了優(yōu)化的AI基礎(chǔ)模型，包括：英偉達(dá)NeMo，使用專(zhuān)有數(shù)據(jù)，構(gòu)建、定制和部署語(yǔ)言模型；英偉達(dá)Riva，用于自動(dòng)語(yǔ)音識(shí)別和文本轉(zhuǎn)語(yǔ)音，以實(shí)現(xiàn)實(shí)時(shí)語(yǔ)音對(duì)話(huà)；英偉達(dá)Omniverse Audio2Face，用于即時(shí)創(chuàng)建游戲角色的表情動(dòng)畫(huà)，以匹配任何語(yǔ)音軌道。開(kāi)發(fā)人員可以集成整個(gè)NVIDIA ACE for Games解決方案，也可以只使用他們需要的組件。英偉達(dá)與專(zhuān)注于為虛擬游戲世界開(kāi)發(fā)先進(jìn)對(duì)話(huà)AI的英偉達(dá)Inception初創(chuàng)公司Convai合作，展示了如何快速用英偉達(dá)ACE for Games來(lái)構(gòu)建游戲NPU。在一款名為Kairos的演示中，玩家與拉面店的供應(yīng)商Jin互動(dòng)?；谏墒紸I，Jin雖是個(gè)NPC，卻能擬真地回答自然語(yǔ)言問(wèn)題，且回答內(nèi)容與敘述的背景故事一致。它是在虛幻引擎5中使用最新光線追蹤功能和英偉達(dá)DLSS渲染的。
支持英偉達(dá)ACE for Games的神經(jīng)網(wǎng)絡(luò)針對(duì)不同的功能進(jìn)行了優(yōu)化，有不同的大小、性能和質(zhì)量折中。ACE for Games代工服務(wù)將幫助開(kāi)發(fā)者為其游戲重新調(diào)整模型，然后通過(guò)英偉達(dá)DGX Cloud、GeForce RTX PC或本地部署進(jìn)行實(shí)時(shí)推理。這些模型針對(duì)延遲進(jìn)行了優(yōu)化，有助于優(yōu)化游戲的沉浸式交互體驗(yàn)。多家游戲開(kāi)發(fā)商和初創(chuàng)公司已采用英偉達(dá)的生成式AI技術(shù)。黃仁勛還介紹了英偉達(dá)和微軟如何在生成式AI時(shí)代合作推動(dòng)Windows PC的創(chuàng)新。新的和增強(qiáng)的工具、框架和驅(qū)動(dòng)程序使PC開(kāi)發(fā)者更容易開(kāi)發(fā)和部署AI。例如，用于優(yōu)化和部署GPU加速AI模型和新圖形驅(qū)動(dòng)程序的微軟Olive工具鏈將提高帶有英偉達(dá)GPU的Windows PC上的DirectML性能。此次合作將增強(qiáng)和擴(kuò)展搭載RTX GPU的1億臺(tái)PC的安裝基礎(chǔ)，可提升400多個(gè)AI加速的Windows應(yīng)用程序和游戲的性能。
06.英偉達(dá)與WPP合作為數(shù)字廣告打造生成式AI內(nèi)容引擎
生成式AI也正為價(jià)值7000億美元的數(shù)字廣告行業(yè)帶來(lái)了新機(jī)遇?；贜VIDIA AI和Omniverse的突破性引擎將來(lái)自領(lǐng)先軟件制造商的創(chuàng)意3D和AI工具連接在一起，以大規(guī)模革新品牌內(nèi)容和體驗(yàn)。全球最大的營(yíng)銷(xiāo)服務(wù)機(jī)構(gòu)英國(guó)WPP集團(tuán)正與英偉達(dá)合作，在Omniverse Cloud上構(gòu)建首個(gè)生成式AI內(nèi)容引擎，使創(chuàng)意團(tuán)隊(duì)能夠更快、更高效、更大規(guī)模地制作高質(zhì)量的商業(yè)內(nèi)容，同時(shí)與客戶(hù)的品牌保持完全一致。
新引擎連接了3D設(shè)計(jì)、制造和創(chuàng)意供應(yīng)鏈工具的生態(tài)系統(tǒng)，包括來(lái)自Adobe和Getty Images的工具。在演講中，黃仁勛展示了創(chuàng)意團(tuán)隊(duì)如何將他們的3D設(shè)計(jì)工具連接起來(lái)，在Omniverse中構(gòu)建客戶(hù)產(chǎn)品的數(shù)字孿生。生成式AI的內(nèi)容經(jīng)過(guò)負(fù)責(zé)任的數(shù)據(jù)來(lái)源訓(xùn)練，并與英偉達(dá)Picasso一起構(gòu)建，將使其能快速生成虛擬集。然后WPP客戶(hù)可使用完整的場(chǎng)景生成大量廣告、視頻和3D體驗(yàn)，供全球市場(chǎng)和用戶(hù)在任何網(wǎng)絡(luò)設(shè)備上體驗(yàn)。WPP首席執(zhí)行官馬克·里德（Mark Read）說(shuō)，生成式AI正以驚人的速度改變營(yíng)銷(xiāo)世界，WPP與英偉達(dá)合作所提供的獨(dú)特競(jìng)爭(zhēng)優(yōu)勢(shì)是當(dāng)今市場(chǎng)上其他客戶(hù)無(wú)法獲得的，這項(xiàng)新技術(shù)將改變品牌為商業(yè)用途創(chuàng)建內(nèi)容的方式，并鞏固WPP在為世界頂級(jí)品牌創(chuàng)造性應(yīng)用AI方面的行業(yè)領(lǐng)導(dǎo)者地位。
07.電子制造商采用生成式AI實(shí)現(xiàn)數(shù)字化的智能工廠
全球電子制造商正在使用一種全新的綜合參考工作流程推進(jìn)其工業(yè)數(shù)字化工作，在廣泛合作伙伴網(wǎng)絡(luò)的支持下，該工作流程結(jié)合了英偉達(dá)用于生成式AI、3D協(xié)作、仿真和自主機(jī)器的技術(shù)，可幫助制造商規(guī)劃、構(gòu)建、運(yùn)營(yíng)和優(yōu)化其工廠。這些技術(shù)包括：英偉達(dá)Omniverse，它連接了頂級(jí)計(jì)算機(jī)輔助設(shè)計(jì)應(yīng)用以及生成式AI的API和前沿框架；用于模擬和測(cè)試機(jī)器人的英偉達(dá)Isaac Sim應(yīng)用程序；英偉達(dá)Metropolis視覺(jué)AI框架，用于自動(dòng)光學(xué)檢測(cè)。“世界上最大的工業(yè)生產(chǎn)物理產(chǎn)品。先用數(shù)字化構(gòu)建它們可節(jié)省大量成本?！彼劦?，英偉達(dá)使電子制造商能輕松構(gòu)建和運(yùn)營(yíng)虛擬工廠，將其制造和檢驗(yàn)工作流程數(shù)字化，并大大提高質(zhì)量和安全，減少代價(jià)高昂的最后一刻意外和延誤。黃仁勛現(xiàn)場(chǎng)展示了一個(gè)完全數(shù)字化的智能工廠的演示。
富士康工業(yè)互聯(lián)網(wǎng)、宜鼎國(guó)際、和碩、廣達(dá)和緯創(chuàng)正在使用新的參考工作流程，以?xún)?yōu)化他們的工作單元和裝配線運(yùn)營(yíng)，同時(shí)降低生產(chǎn)成本，具體用例包括電路板質(zhì)保檢測(cè)點(diǎn)自動(dòng)化、光學(xué)檢測(cè)自動(dòng)化、建設(shè)虛擬工廠、模擬協(xié)作機(jī)器人、構(gòu)建及運(yùn)營(yíng)數(shù)字孿生等。英偉達(dá)正在與幾家領(lǐng)先的制造工具和服務(wù)提供商合作，構(gòu)建一個(gè)全棧、單一的架構(gòu)，每個(gè)架構(gòu)都適用于每個(gè)工作流程級(jí)別。在系統(tǒng)層面，英偉達(dá)IGX Orin提供了一個(gè)一體化的邊緣AI平臺(tái)，將工業(yè)級(jí)硬件與企業(yè)級(jí)軟件和支持相結(jié)合。IGX滿(mǎn)足邊緣計(jì)算獨(dú)特的耐用性和低功耗要求，同時(shí)提供開(kāi)發(fā)和運(yùn)行AI應(yīng)用程序所需的高性能。其制造商合作伙伴們正在開(kāi)發(fā)IGX驅(qū)動(dòng)的系統(tǒng)，以服務(wù)于工業(yè)和醫(yī)療市場(chǎng)。在平臺(tái)層面，Omniverse連接了世界領(lǐng)先的3D、模擬和生成式AI提供商。團(tuán)隊(duì)可在他們最喜歡的應(yīng)用程序之間構(gòu)建互操作性，比如來(lái)自Adobe、Autodesk和Siemens的應(yīng)用程序。
08.結(jié)語(yǔ)：生成式AI正催生大量加速計(jì)算需求
生成式AI等變革性技術(shù)正滲透到消費(fèi)者的生活方式中，并在醫(yī)療、金融、商業(yè)服務(wù)等許多行業(yè)催生新的商機(jī)，隨著越來(lái)越多企業(yè)加入AI競(jìng)爭(zhēng)，數(shù)據(jù)中心性能正邁向下一個(gè)階段。訓(xùn)練AI大模型是一項(xiàng)資源和時(shí)間密集型任務(wù)，需要強(qiáng)大、綠色、可擴(kuò)展的基礎(chǔ)設(shè)施，以滿(mǎn)足不斷增長(zhǎng)的加速計(jì)算能力、減少碳排放、控制成本等多方面的需求。
英偉達(dá)今日發(fā)布的一系列硬件基礎(chǔ)設(shè)施及軟件工具，目的性非常明確地圍繞企業(yè)開(kāi)發(fā)和部署生成式AI應(yīng)用的核心痛點(diǎn)，通過(guò)先進(jìn)互連技術(shù)和共享內(nèi)存設(shè)計(jì)突破大規(guī)模AI的算力瓶頸，提供更快的計(jì)算性能、更高的能效以及加速開(kāi)發(fā)流程的工具。這將幫助企業(yè)及研究機(jī)構(gòu)節(jié)省大量時(shí)間和成本，將生成式AI用于解決科研挑戰(zhàn)、優(yōu)化工作流程和增強(qiáng)商業(yè)競(jìng)爭(zhēng)力。
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
加入技術(shù)交流群
