英偉達當?shù)貢r間周二在洛杉磯舉行的SIGGRAPH大會上宣布了一項人工智能芯片的新配置,英偉達創(chuàng)始人CEO黃仁勛表示,新的芯片能加速生成式人工智能應用程序,并降低大模型的運行成本,讓數(shù)據(jù)中心規(guī)?;?。
這款最新發(fā)布的人工智能芯片GH200使用與英偉達當前最高端的AI芯片H100相同的GPU,但配備141GB的內存以及72核的ARM芯片,H100的內存為80GB。
(資料圖)
“這款芯片是為全球數(shù)據(jù)中心的橫向擴展而設計的。”黃仁勛在發(fā)布會上表示。
黃仁勛還表示,新的芯片將于明年第二季度起通過英偉達的經(jīng)銷商供貨,并在今年年底前提供樣品。但目前這款芯片的價格仍未公布。
英偉達副總裁Ian Buck在一場媒體發(fā)布會上表示,新版本的芯片增加了高帶寬內存的數(shù)量,這種設計能夠驅動更大的AI模型運行。GH200經(jīng)過優(yōu)化,可以執(zhí)行AI推理功能,從而有效地為類似ChatGPT等生成式AI應用程序提供支持。
英偉達發(fā)布新型芯片的背景是人工智能大模型的規(guī)模正在不斷擴大。“隨著模型參數(shù)的增加,它們需要更大的內存才能在不相互連接的單獨芯片系統(tǒng)上運行,額外的內存提高了GPU的性能。”Buck說道。
目前英偉達在人工智能芯片市場占據(jù)主導地位,據(jù)估計市場份額超過80%。例如支持谷歌的Bard和OpenAI的ChatGPT運行的都是英偉達的GPU。而隨著全球的科技巨頭、云服務提供商和初創(chuàng)公司都在搶奪GPU資源來開發(fā)自己的人工智能模型,英偉達的芯片供不應求。
通常,使用人工智能模型的過程至少分為兩個部分:訓練和推理。首先,使用大量數(shù)據(jù)訓練模型,這個過程可能需要數(shù)月時間,有時需要數(shù)千個GPU;然后,模型在軟件中使用推理來進行預測或生成內容。與訓練一樣,推理的計算成本很高,并且每次軟件運行時都需要大量處理能力。且與訓練不同的是,推理幾乎持續(xù)進行,而訓練只有當模型需要更新時才需要重新進行。
“你幾乎可以在GH200上運行任何你想要的大型語言模型,它會瘋狂地進行推理。”黃仁勛說,“大型語言模型的推理成本將大幅下降。”
英偉達還發(fā)布了一個系統(tǒng),將兩個GH200芯片組合成一臺計算機,適用于更大的模型。黃仁勛稱之為“全球最大的單體GPU”。
在人工智能芯片供不應求之際,上周英偉達的主要競爭對手AMD發(fā)布了一款AI芯片MI300X,該芯片可支持192GB內存,并具有AI推理能力。谷歌和亞馬遜等公司也在設計自己的定制人工智能推理芯片。
英偉達發(fā)布會的另一個亮點為OpenUSD的相關進展。OpenUSD近期由美國3D內容行業(yè)的5家主要公司:蘋果、英偉達、皮克斯、Adobe和Autodesk聯(lián)合成立,目標是有一天可能成為“元宇宙”的3D圖形標準。該組織正通過促進3D工具和數(shù)據(jù)更大的互操作性,使開發(fā)者和內容創(chuàng)作者能夠描述、編寫和模擬大型3D項目,并構建范圍不斷擴大的3D產(chǎn)品和服務。
今年的SIGGRAPH上,IBM高級副總裁Darío Gil的主題演講涉及量子計算的未來以及它如何幫助解決實際問題。索尼首席技術官Hiroaki Kitano也在SIGGRAPH上主持一個關于電影創(chuàng)意產(chǎn)業(yè)的論壇。
SIGGRAPH也一直是展示在混合虛擬現(xiàn)實(XR)研究前沿的場所,今年也不例外。Meta展示了兩款VR和MR頭戴設備,其中一款是Butterscotch Varifocal,它將變焦技術與視網(wǎng)膜分辨率VR顯示相結合;另一個是Flamera,這是一款計算相機,使用光場技術。Butterscotch Varifocal和Flamera均仍處于Meta的研發(fā)階段,但這些技術可能會在未來激發(fā)電子消費產(chǎn)品的靈感。
標簽:
- 貴安新區(qū):“新市民”擁抱“向往的生活” 2023-08-09 10:35:46
- 清晨恰最新鮮的小可愛【941】 2023-08-09 10:11:55
- 虛擬運營商號段都有哪些?173、171是怎么補辦的? 2023-08-09 09:40:58
- 抗擊汛情沖鋒在前 保障通信全力以赴中國移動... 2023-08-09 09:17:42
- 英偉達發(fā)布AI芯片GH200,黃仁勛稱“它會瘋狂推理” 2023-08-09 10:29:26
- 2023廣東專項職業(yè)能力補貼(指導)標準 2023-08-09 10:24:01
- 2023廣東職業(yè)技能提升補貼申請指引 2023-08-09 10:35:50
- 貴州茅臺商標訴訟獲賠47萬 2023-08-09 10:25:45
- 貴安新區(qū):“新市民”擁抱“向往的生活” 2023-08-09 10:35:46
- 中國電子地圖2008序列號(中國電子地圖2008序列號) 2023-08-09 10:16:24
- 清晨恰最新鮮的小可愛【941】 2023-08-09 10:11:55
- 共享新時代文明實踐成果 江西于都志愿服務豐富多彩 2023-08-09 10:13:44
- 新上巡·新格局·新風貌 2023上海市職業(yè)高爾... 2023-08-09 10:13:06
- 國際觀察:美國對華“去風險化”本身是巨大風險 2023-08-09 10:14:34
- 穗莞深城際前海至皇崗口岸段建設進度刷新 2023-08-09 10:06:38
- 輸球依舊大聲鼓勵!泰山隊最鐵的球迷讓隊員們... 2023-08-09 09:52:48
- 延邊鵬程人參交易市場試營業(yè) 為旅游消費市場... 2023-08-09 09:48:28
- 挪威監(jiān)管機構:若Meta不能妥善解決用戶隱私泄... 2023-08-09 09:42:23
- “鄉(xiāng)村夜話”熱議“幸福食堂” 2023-08-09 09:41:40
- 虛擬運營商號段都有哪些?173、171是怎么補辦的? 2023-08-09 09:40:58
- 用友CRM:提供全面客戶管理解決方案的領導者 2023-08-09 09:34:08
- 東北地區(qū)眾志成城,全力以赴搶險救援 2023-08-09 09:16:21
- 為什么會有太監(jiān)要閹掉(為什么會有太監(jiān)) 2023-08-09 09:23:35
- 復興中路這座“工字型”的老建筑,你知道它是... 2023-08-09 09:22:22
- 亞泰集團:8月8日融資買入1194.89萬元,融資融... 2023-08-09 09:13:29
- 易電行美股漲17% 2023-08-09 09:08:53
- 抗擊汛情沖鋒在前 保障通信全力以赴中國移動... 2023-08-09 09:17:42
- 《氫能產(chǎn)業(yè)標準體系建設指南(2023版)》印發(fā) 2023-08-09 08:50:20
- 安井食品(603345)8月8日主力資金凈賣出6399.32萬元 2023-08-09 08:35:09
- 市場監(jiān)管總局:不得銷售洪水浸泡、包裝破損的食品 2023-08-09 08:46:38
- 美國證監(jiān)會:11家華爾街交易商因“非渠道”溝... 2023-08-09 08:38:56
- 7月保險罰單總額超1600萬元 財險業(yè)罰款占74%... 2023-08-09 08:35:59
- 南昌市電商“十百千萬”促銷活動正式啟動 2023-08-09 08:36:56
- 證券日報:勿制造“北向資金”神話 2023-08-09 08:11:42






