「我們需要更大的GPU」　英偉達宣告推出最強AI芯片　老本以及能耗較前代改善25倍

號稱往年全天下頭號家养智能（AI）領域開發者大會的們需英偉達2024 GTC AI大會於美東時間3月18日周一拉開帷幕。往年是更大告推英偉達時隔五年初次讓年度GTC重回線下，也是達宣代改此前合成認為英偉達要「拿出點真傢伙」的AI盛會。

當地時間周一下战书，英偉英偉達創始人兼CEO黃仁勛在美國加州聖何塞SAP中间進行主題為「面向開發者的出最1#AI峰會」（1#AI Conference for Developers）演講。黃仁勛介紹了運行AI模子的片老新一代芯片以及軟件。英偉達正式推驰名為Blackwell的本及新一代AI圖形處理器（GPU），預計將在往年晚些時候發貨。較前

Blackwell平台能夠在萬億參數級的善倍大型語言模子（LLM）上構建以及運行實時天生式AI，而老本以及能耗比前身低25倍。們需

另據媒體報道，更大告推英偉達CEO黃仁勛在GTC宣告，達宣代改將在其企業軟件訂閱中削减一款名為NIM的英偉新產品。NIM可能更易地运用舊的出最英偉達GPU進行推理，並允許公司繼續运用他們已经經擁有的片老數億個英偉達GPU。該產品將使新家养智能模子的初始訓練推理所需的算力更少。該公司的策略是讓購買英偉達服務器的客戶註冊英偉達企業版，每一個GPU每一年收取費用4500美元。黃仁勛展现，該軟件還將幫助在配備GPU的筆記本電腦上運行家养智能，而不是在雲服務器上運行。

此外，英偉達CEO黃仁勛宣告推出下一代家养智能超級計算機，英偉達還發布6G钻研雲平台，以便用AI技術推進無綫通讯。

英偉達推新AI芯片

據外媒報道，英偉達於周一宣告推出新一代家养智能芯片以及用於運行家养智能模子的軟件。該公司在美國聖何塞舉行的開發者大會上宣告了這一新闻，正值這家芯片製造商尋求鞏固其作為家养智能公司首選供應商的位置。

自OpenAI的ChatGPT於2022年尾掀起家养智能熱潮以來，英偉達的股價上漲了五倍，總銷售額增長了兩倍多。英偉達的高端服務器GPU對於訓練以及部署大型AI模子至關紧张。微軟以及Meta等公司已经經花費了數十億美元購買這些芯片。

新一代AI圖形處理器命名為Blackwell。首款Blackwell芯片名為GB200，將於往年晚些時候發貨。英偉達正在用更強大的芯片排汇客戶，以宽慰新訂單。好比，各公司以及軟件製造商仍在爭相搶購當前一代的「Hopper」H100芯片及類似產品。

「Hopper很棒，但我們需要更大的GPU，」英偉達首席執行官黃仁勛周一在該公司於加利福尼亞州舉行的開發者大會上展现。不過，周一盤後生意中，英偉達股價上涨超過1%。該公司還推出了名為NIM的創收軟件，該軟件將簡化AI的部署，為客戶提供了在日益削减的競爭者中堅持运用英偉達芯片的另一個理由。

英偉達高管展现，該公司正從一個唯利是圖的芯片提供商轉變為更像微軟或者蘋果的平台提供商，其余公司可能在此基礎上構建軟件。

「Blackwell不僅僅是一款芯片，而是一個平台的名稱，」黃仁勛展现。

英偉達企業副總裁Manuvir Das在接受採訪時展现：「可銷售的商業產品是GPU，而軟件則是為了幫助人們以差距的方式运用GPU。當然，我們現在依然這樣做。但真正改變的是，我們現在真的有了商業軟件業務。」

Das展现，英偉達的新軟件將更易在任何英偉達GPU上運行挨次，致使是那些可能更適合部署而不是構建AI的老舊GPU。「假如你是開發者，你有一個幽默的模子，你愿望人們採用它，假如你把它放入NIM中，我們會確保它可能在我們所有的GPU上運行，這樣你就能覆蓋良多人，」Das說道。

Blackwell擁有六項革命性技術

英偉達每一兩年更新一次其GPU架構，實現功能的飛躍。過去一年發布的許多AI模子都是在該公司的Hopper架構上訓練的，該架構被用於H100等芯片，於2022年宣告推出。

據悉，英偉達稱，Blackwell擁有六項革命性的技術，可能反对于多達10萬億參數的模子進行AI訓練以及實時LLM推理：

• 全天下最強大的芯片：Blackwell架構GPU由2080億個晶體管組成，採用量身定製的台積電4納米工藝製造，兩個reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個統一的GPU。
• 第二代Transformer引擎：結合了Blackwell Tensor Core技術以及TensorRT-LLM以及NeMo Megatron框架中的英偉達先進動態範圍规画算法，Blackwell將通過新的4位浮點AI反对于雙倍的計算以及模子巨细推理能耐。
• 第五代NVLink：為后退數萬億參數以及混合專家AI模子的功能，最新一代英偉達NVLink為每一個GPU提供了突破性的1.8TB/s雙向吞吐量，確保最複雜LLM之間多達576個GPU之間的無縫高速通讯。
• RAS引擎：Blackwell反对于的GPU搜罗一個專用引擎，實現坚贞性、可用性以及服務性。此外，Blackwell架構還削减了芯片級功能，运用基於AI的預防性維護進行診斷以及預測坚贞性問題。這可能最大限度地延長系統个别運行時間，並普及大部署規模AI的彈性，使其能連續運行數周致使數月，並飞腾運營老本。
• 清静家养智能：先進的機密計算功能可在不影響功能的情況下保護AI模子以及客戶數據，並反对于新的本機接口加密協議，這對於醫療保健以及金融服務等隱私敏感行業至關紧张。
• 解壓縮引擎：專用解壓縮引擎反对于最新格式，减速數據庫查詢，提供數據合成以及數據科學的最高功能。未來幾年，在企業每一年花費數百億美元的數據處理方面，將越來越多地由GPU减速。

Blackwell GPU體積龐大，將兩個單獨製造的晶粒組分解一個由台積電製造的芯片。它還將作為一款名為GB200 NVLink 2的整個服務器提供，該服務器結合了72個Blackwell GPU以及其余旨在訓練AI模子的英偉達部件。

亞馬遜、google、微軟以及甲骨文將通過雲服務提供對GB200的訪問。GB200將兩個B200 Blackwell GPU與一個基於Arm的Grace CPU配對。英偉達展现，亞馬遜網絡服務將構建一個搜罗20000個GB200芯片的服務器集群。

英偉達沒有提供新款GB200或者其运用系統的老本。據合成師估計，英偉達基於Hopper的H100芯片老本在2.5萬至4萬美元之間，而整個系統的老本高達20萬美元。

英偉達推理微服務

英偉達還宣告，將在其英偉達企業軟件訂閱中削减一款名為NIM（英偉達推理微服務）的新產品。NIM讓运用較舊的英偉達GPU進行推理（或者運行AI軟件的過程）變患上愈加簡單，並允許公司繼續运用其已经經擁有的數億個英偉達GPU。與新AI模子的初始訓練比照，推理所需的計算能耐較少。對於那些愿望運行自己的AI模子，而不是從OpenAI等公司購買AI結果作為服務的企業來說，NIM無疑是他們的患上力助手。

英偉達的策略是排汇購買基於英偉達的服務器的客戶註冊英偉達企業版，每一個GPU每一年的許可費為4500美元。

英偉達將與微軟或者Hugging Face等AI公司相助，確保他們的AI模子能夠在所有兼容的英偉達芯片上運行。隨後，開發者可能运用NIM在自有服務器或者基於雲真个英偉達服務器上高效運行模子，無需繁瑣的配置装备部署過程。

「在我原本調用OpenAI的代碼中，我惟独替換一行代碼，將其指向從英偉達獲取的NIM即可。」Das說道。

英偉達展现，該軟件還將助力AI在配備GPU的筆記本電腦上運行，而非僅限於雲端服務器。

（來源：逐日經濟新聞）

責任編輯： 文劼