當地時間5月29日,COMPUTEX 2023上,英偉達(NVDA)掌門人黃仁勛向傳統(tǒng)CPU服務器集群發(fā)起“挑戰(zhàn)”,“CPU擴展的時代已結束,新計算時代引爆點已到來。”當日,黃仁勛在大會上宣布,“我們已到達生成式AI引爆點。從此,全世界的每個角落,都會有計算需求。”
如今英偉達掌握著全球多家科技公司“算力命脈”,而在這場大會上,黃仁勛激情演講2個小時,甩出了多項重磅新發(fā)布,包括算力“殺器”DGX GH200超級計算機、針對游戲的ACE代工服務、MGX服務器規(guī)范等內容。
圖片來源:NVIDIA主題演講視頻截圖
據澎湃新聞5月29日報道,在當天的大會上,黃仁勛現場演示AI音樂創(chuàng)作,隨機輸入歌詞一鍵生成一首歌。他還帶領現場觀眾跟著節(jié)拍演唱。
圖片來源:NVIDIA主題演講視頻截圖
上周,由于對處理AI任務的數據中心芯片的強烈需求,英偉達大幅提高了對本季度的業(yè)績指引,比分析師的估計高出近40億美元。業(yè)績指引的提高使該股創(chuàng)下歷史新高,并使英偉達的估值接近1萬億美元,這還是芯片業(yè)中首次有公司市值達到這一高度。
黃仁勛演講的主要內容來了
1、英偉達面向游戲玩家的GForce RTX 4080 Ti GPU現已全面投產,并已經開始量產。
2、黃仁勛宣布推出適用于游戲的英偉達Avatar Cloud Engine(ACE),這是一種可定制的AI模型代工服務,為游戲開發(fā)人員提供預訓練模型。它將通過AI支持的語言交互賦予非玩家角色更多個性。
3、英偉達Cuda計算模型現在服務于400萬開發(fā)者和超過3000個應用程序。Cuda的下載量達到了4000萬次,其中僅去年一年就達到了2500萬次。
4、GPU服務器HGX H100的全面量產已經開始,他補充說,這是世界上第一臺裝有變壓器引擎的計算機。
圖片來源:NVIDIA主題演講視頻截圖
5、黃仁勛將英偉達2019年以69億美元收購超級計算機芯片制造商Mellanox稱為其有史以來做出的“最偉大的戰(zhàn)略決策之一”。
6、下一代Hopper GPU的生產將于2024年8月開始,也就是第一代開始生產兩年后。
7、英偉達的GH200 Grace Hopper現已全面投產。超級芯片提升了4 PetaFIOPS TE、72個通過芯片到芯片鏈路連接的Arm CPU、96GB HBM3和576 GPU內存。黃仁勛將其描述為世界上第一個具有巨大內存的加速計算處理器:“這是一臺計算機,而不是芯片。”它專為高彈性數據中心應用而設計。
8、如果Grace Hopper的內存不夠用,英偉達有解決方案——DGX GH200。它是通過首先將8個Grace Hoppers與3個NVLINK交換機以900GB傳輸速度的Pod連接在一起,再將32個這樣的組件連接在一起,再加上一層開關,連接總共256個Grace Hopper芯片。由此產生的ExaFLOPS Transformer Engine具有144 TB的GPU內存,可用作巨型GPU。黃仁勛說Grace Hopper速度非??欤梢栽谲浖羞\行5G堆棧。谷歌云、Meta和微軟將是第一批獲得DGX GH200訪問權限的公司,并將對其功能進行研究。
9、英偉達和軟銀已建立合作伙伴關系,將Grace Hopper超級芯片引入軟銀在日本的新分布式數據中心。這些將能夠在多租戶通用服務器平臺中托管生成式人工智能和無線應用程序,從而降低成本和能源。
10、軟銀和英偉達的合作伙伴關系將基于英偉達MGX參考架構,該架構目前正在與一些公司合作使用。它為系統(tǒng)制造商提供了一個模塊化的參考架構,幫助他們構建100多個用于AI、加速計算和全方位用途的服務器變體。合作的公司包括ASRock Rack、Asus、Gigabyte、Pegatron、QCT和Supermicro。
11、黃仁勛發(fā)布了Spectrum-X加速網絡平臺,以提高基于以太網的云的速度。它包括Spectrum 4交換機,它有128個端口,每秒400GB和每秒51.2TB的傳輸速度。黃仁勛說,該交換機旨在實現新型以太網,并設計為端到端以進行自適應路由、隔離性能和進行結構內計算。它還包括Bluefield 3 Smart Nic,它連接到Spectrum 4交換機以執(zhí)行擁塞控制。
12、世界上最大的廣告公司WPP已與英偉達Nvidia合作開發(fā)基于英偉達Omniverse的內容引擎。它將能夠制作用于廣告的照片和視頻內容。
13、機器人平臺英偉達Isaac ARM現在可供任何想要構建機器人的人使用,并且是全棧的,從芯片到傳感器。Isaac ARM從名為Nova Orin的芯片開始,是第一個機器人全參考堆棧,Huang說。
圖片來源:NVIDIA主題演講視頻截圖
在本次大會上,黃仁勛還“拉踩”了一波CPU。他從功耗、處理數據量等方面,指出使用GPU勝過CPU。“買越多,省越多。”黃仁勛再次表示。
同時,他也列出了數據中心成本公式:數據中心總持有成本=f[成本(芯片、系統(tǒng)、硬件生態(tài)系統(tǒng))、吞吐量(GPU、Algo軟件、網絡、系統(tǒng)軟件、軟件生態(tài)系統(tǒng))、使用率(Algo Lib,軟件生態(tài)系統(tǒng))、采購運營、生命周期最佳化、電力]。
黃仁勛臺大演講:我曾經歷三次失敗
在5月27日的臺灣大學發(fā)表了畢業(yè)典禮演講上,黃仁勛再次強調了掌握AI技術的重要性:很多人擔心,AI會搶走自己的工作。但真正會搶走你飯碗的,是掌握了AI技術的人。他表示,從各方面來看,AI的興盛是計算機產業(yè)的再生契機。在下個十年,我們的產業(yè)將使用新型AI電腦,取代價值萬億美元的傳統(tǒng)電腦。
據證券時報5月29日報道,5月27日,黃仁勛在臺灣大學的演講刷屏科技圈。AI,無疑是黃仁勛演講的主題之一。他指出,所有人即將進入一個巨大變革的世界,就像個人電腦、晶片革命一樣,當前正處于AI的起跑線上,每個行業(yè)都將被革命。AI為所有人帶來了巨大的機遇,反應敏捷的企業(yè)將利用AI技術提升競爭力,而未能善用AI的企業(yè)將面臨衰退。
黃仁勛表示,AI將改變每一份工作,大幅提升工程師、設計師、藝術家等的工作表現。他預計,每家公司和大家都必須學會善用AI,盡管有些人擔心AI可能會奪走他們的工作。現階段正處于AI技術時代的開端,AI將從根本上重塑電腦,是電腦科技產業(yè)的再一次重生,也是中國臺灣廠商的黃金機遇。“請借助人工智能,完成難以想象和不可思議的事情。”
有些人擔心AI可能會搶走工作機會,有些人擔心AI發(fā)展出自我意志。對此,黃仁勛回應到,“我們正處于一個新領域的開始,就像個人電腦、網絡、移動設備與云端技術一樣。但是AI的影響更為根本,每個運算層面都會被重新改寫。它改變了我們撰寫軟件的方式、執(zhí)行軟件的方式。從各方面來看,這是電腦產業(yè)的再生契機,對于企業(yè)而言更是一個黃金機遇。你們正是這個產業(yè)的重要基石。”
據界面新聞28日報道,在演講中,黃仁勛提及了英偉達創(chuàng)業(yè)時期的三個“失敗故事”,公司一路磕磕絆絆,險些瀕臨倒閉。他說,“在英偉達,我經歷了失敗,極大的失敗,所有的失敗都令人羞愧和尷尬,幾乎使我們走向了滅亡。”
他以這3個“失敗故事”勉勵畢業(yè)生們認清錯誤,堅持意志,知時而變。黃仁勛總結稱,撤退對所有人而言并不容易。然而,戰(zhàn)略性撤退、犧牲、決定放棄什么才是成功的核心,并且非常關鍵。
黃仁勛強調,以謙遜之心面對錯誤,并尋求幫助,拯救了英偉達。這些特質對聰明又成功的人來說,特別困難,一如在場的畢業(yè)生。