前往主要內容
工商時報LOGO

GTC登場 黃仁勳放大絕 Blackwell架構B200晶片

黃仁勳GTC演講。圖/鄭淑芳
黃仁勳GTC演講。圖/鄭淑芳

已將目前網頁的網址複製到您的剪貼簿!

眾所矚目輝達(NVIDIA)創辦人、AI教父黃仁勳,發表GTC 2024的主題演講-見證AI的變革時刻。鑑於過去一年多時間裡AI帶來的生產力變革,老黃的演講已成為全球引領期盼之熱門事件。在這場兩小時的演講中,黃仁勳公布搭載B200晶片的GB200 Grace Blackwell超級晶片系統,以及輝達在AI軟體(NIM微服務)、Omiverse雲端、人型機器人方面的最新發展。

本屆GTC參與者,包含微軟、亞馬遜、谷歌等科技巨頭,台廠如台積電、聯發科、鴻海、台達電、緯創等,黃仁勳強調,這些公司不只是來參會,而是有自己的東西要來展示。

黃仁勳表示,GTC將討論新產業的許多問題,重要的是如何進行計算、要如何為產業構建軟體類型,並導入新行業中的新應用;擘劃產品未來,要如何從今天開始準備。

數位孿生,為輝達使用模擬工具協助個產業發展,黃仁勳指出,不僅是為降低運算成本,更是擴大運算規模。希望能夠以完全擬真、完全數位化的方式,模擬生產之產品,其中便包含汽車、新藥等。

接著,黃仁勳開始介紹開始一系列「新加速生態系統」合作夥伴,包括ANSYS、Synopsis、Cadence等。更提到,台積電和Synopsys將突破性的運算微影平台投入生產。

黃仁勳強調,隨著transformer模型被發明,以驚人的速度擴展大型語言模型,實際上每六個月就能翻倍;而為了訓練這些越來越大的模型,需要更強的算力!

輝達數位孿生協助各行業進行模擬、降低生產成本。圖/鄭淑芳
輝達數位孿生協助各行業進行模擬、降低生產成本。圖/鄭淑芳

Grace-Blackwell系統正式亮相,包含兩個Blackwell GPU、四個Die與一個Grace CPU連接在一起。GB200將兩台B200 Blackwell GPU與一個基於Arm的Grace CPU進行配對,擁有2080億個晶體管,並能同時存取與晶片連接的記憶體;此外,為了處理大規模資料中心的GPU互連,也需要更強NVlink。

黃仁勳分析,過往使用8,000張Hopper GPU,訓練一個1.8兆參數量的GPT模型,需要消耗15兆瓦的電力,連續跑上90天;但如果使用Blackwell GPU,只需要2000張,同樣跑90天只要消耗四分之一的電力,當然不只是訓練,生成Token的成本也會隨之降低。黃仁勳揭露,微軟Azure、AWS、Google等一眾科技巨頭,都是Blackwell架構的首批使用者。

另外,人型機器人,更是黃仁勳演講爆點。黃仁勳表示,「在我們的世界裡,人型機器人很有可能會發揮更大的作用,包括設置工作站、製造和物流的方式,都將帶來革命性改變。」

黃仁勳同時宣布名為GR00T的項目,推動輝達在具備人工智慧機器人的進展;由GR00T驅動的機器人可以理解自然語言,並透過觀察人類動作,進一步模擬運動。現場,也展示迪士尼orange和green機器人,該機器人用的即為輝達替機器人設計的首款AI晶片Jetson。

輝達 BlueField-3 DPU 基礎架構運算平台。圖/鄭淑芳
輝達 BlueField-3 DPU 基礎架構運算平台。圖/鄭淑芳

您可能感興趣的話題

留言討論

返回頁首
LOADING

本網頁已閒置超過3分鐘。請點撃框外背景,或右側關閉按鈕(X),即可回到網頁。