前往主要內容
工商時報LOGO

輝達 GH200超級晶片 於MLPerf產業基準測試領先群雄

圖為輝達。圖/Unsplash
圖為輝達。圖/Unsplash

已將目前網頁的網址複製到您的剪貼簿!

輝達GH200為連結Hopper GPU 和Grace CPU之超級晶片。該組合提供更多記憶體、頻寬,以及能在CPU和GPU之間自動調節電力,以最佳化表現。總體來說,這次測試結果為NVIDIA自2018年MLPerf基準推出以來,在每輪人工智慧訓練和推論方面效能領先的記錄。

Grace Hopper 超級晶片和 H100 GPU 在所有 MLPerf 的資料中心測試中,包括電腦視覺推論、語音識別和醫學成像,以及要求更高的推薦系統應用案例和生成式人工智慧中使用的大型語言模型(LLMs),都達到最佳的表現。

值得一提的是,在最新的MLPerf基準測試中,NVIDIA L4 GPU在各種工作負載上表現也同樣出色。例如,L4 GPU運行於功耗為72W的轉接卡上,與功耗高出近 5 倍的 CPU 相較之下,L4 GPU提供高出 6 倍效能。

除此之外,L4 GPU內建專屬的媒體引擎,在NVIDIA的測試中與CUDA軟體合用能加速電腦視覺應用達120倍,拿來做小規模的推論、訓練也已綽綽有餘。

您可能感興趣的話題

留言討論

返回頁首
LOADING

本網頁已閒置超過3分鐘。請點撃框外背景,或右側關閉按鈕(X),即可回到網頁。