前往主要內容
工商時報LOGO

AI時代的核心 一文讀懂算力是什麼?

示意圖。圖/freepik
示意圖。圖/freepik

已將目前網頁的網址複製到您的剪貼簿!

輝達CEO黃仁勳曾表示:「ChatGPT相當於AI界iPhone問世,世界對數據中心的需求量將會增長。」生成式人工智慧所帶出的典範轉移,無疑是半導體一個重要的轉折點,未來「算力」儼然成為下一個戰略資源,企業乃至各國政府只會繼續追求更快速的運算速度。

AI人工智慧是目前全球重點關注的發展方向。不管是哪個領域,都在研究人工智慧的應用。人工智慧的三大核心要素,就是算力、演算法和數據。

以Open AI的GPT-3模型來說,訓練參數高達1,750億個,GPT-3模型便是演算法,參數便是數據,實現該模型的AI伺服器便是衡量算力的指標,所以空有演算法或是數據,沒有算力,是無法達到AI快速計算的要求。

更具體來說,算力是通過對訊息、數據進行處理,實現目標結果,輸出的計算能力。而要實現高算力,目前的解決方式是利用GPU晶片,主要是因為演算法涉及複雜的矩陣、向量等乘法及加法計算。

近期AI算法模型規模的指數級增長,極大的激發對算力的需求,各種AI加速晶片,都要通過算力來衡量,目前算力常用TOPS(Tera Operations Per Second)或者TFLOPS(Tera Floating point Operations Per Second)做為衡量單位,分別表示每秒晶片能完成多少Tera(1 A100就具備了312 TFLOPS的深度學習運算效能。總而言之,算力可以說是人工智慧晶片性能最核心的指標。

您可能感興趣的話題

返回頁首
LOADING

本網頁已閒置超過3分鐘。請點撃框外背景,或右側關閉按鈕(X),即可回到網頁。