前往主要內容
工商時報LOGO

NVIDIA與Oracle攜手 加速AI及處理龐大資料

已將目前網頁的網址複製到您的剪貼簿!

NVIDIA與Oracle攜手加速AI及大規模資料處理,協助企業推動創新。隨著企業對人工智慧(AI)運算能力的需求日益增長,兩家公司共同推出全新解決方案,旨在提升AI訓練與推論效能,幫助企業加快資料處理並獲得更高的投資回報。

在Oracle CloudWorld大會上,Oracle宣布推出全球首個zettascale(10的21次方)運算規模的OCI Supercluster。該系統由NVIDIA Blackwell平台加速運行,支持超過10萬顆NVIDIA最新一代GPU,用於訓練和部署下一代AI模型。OCI Supercluster系統將於2024年上半年推出,並可擴展至131,072顆Blackwell GPU,峰值AI運算能力達到2.4zettaflops。該系統還支援NVIDIA ConnectX-7NIC和Quantum-2InfiniBand網路,適用於內部部署、公有雲和主權雲環境,為企業提供靈活部署選項。

Oracle還宣布推出NVIDIA GB200NVL72液冷裸機執行個體,支援生成式AI應用的訓練和推論。該執行個體利用Quantum-2InfiniBand,能夠在72顆GPU的NVLink網域內運行,實現上兆個參數模型的即時推論。OCI也將於今年提供NVIDIA HGX H200GPU平台,透過NVLink和NVLink Switch連接8 顆H200Tensor核心GPU,並在RoCEv2網路上擴展至65,536顆GPU,支持大規模即時推論和訓練工作負載。

此外,Oracle宣布推出針對中階AI工作負載及NVIDIA Omniverse視覺化應用的L40S GPU加速執行個體,進一步擴展企業在邊緣及雲端環境中的AI運算能力。Oracle的Roving Edge Device v2邊緣產品,現可支援最多三個NVIDIA L4Tensor核心GPU,幫助企業在遠端環境中運行AI應用。

多家企業已利用NVIDIA加速的OCI Supercluster推動AI創新。AI新創公司Reka就在此叢集上開發了多模態AI模型,用於開發能聽、說、讀、看的企業代理。Reka共同創辦人Dani Yogatama表示,該公司的多模態AI模型依賴於NVIDIA GPU加速基礎設施,能夠輕鬆處理大規模模型並高效擴展訓練工作負載。

NVIDIA與Oracle也展示了三項基於GPU的功能,展示如何加速生成式AI應用的開發,包括向量嵌入加速、向量圖索引加速以及推論微服務的應用,進一步提升企業資料處理效能。

透過這些創新,NVIDIA 與 Oracle 正協助全球企業和政府實現 AI 應用的突破,滿足資料主權需求並加強經濟韌性。

工業AI解決顧客痛點 數據賦能時代已來臨 台灣產業如何持續升級創造新價值? ft.馬里蘭大學特聘教授暨工業AI中心主任 李傑

您可能感興趣的話題

留言討論

返回頁首
LOADING

本網頁已閒置超過3分鐘。請點撃框外背景,或右側關閉按鈕(X),即可回到網頁。