香港商報
-- 天氣
有片丨比英偉達快10倍 AI芯片新星Groq橫空出世 專家:並不能取代英偉達

有片丨比英偉達快10倍 AI芯片新星Groq橫空出世 專家:並不能取代英偉達

責任編輯:謝燁挺 2024-02-23 10:38:59 來源:香港商報網

 英偉達的挑戰者登場!近日,美國企業Groq公布新型Al芯片(LPU)爆火全網,推理速度較英偉達GPU提高10倍,成本只有英偉達的1/10。Groq主打一個「快」,每秒能輸出500個tokens(註:語言模型中用來表示最小文本單元)。相比之下,ChatGPT-3.5每秒生成速度為40個tokens。有芯片專家認為,Groq的芯片目前並不能取代英偉達,Groq極高的速度是建立在很有限的單卡吞吐能力上,要保證H100同樣吞吐量,則需要更多的卡,成本要比英偉達高出不少。(謝燁挺)

責任編輯:謝燁挺 有片丨比英偉達快10倍 AI芯片新星Groq橫空出世 專家:並不能取代英偉達
熱門排行
24小時
7天
香港商報PDF
股市

友情鏈接

承印人、出版人:香港商報有限公司 地址:香港九龍觀塘道332號香港商報大廈 香港商報有限公司版權所有,未經授權,不得複製或轉載。 Copyright © All Rights Reserved
聯絡我們

電話:(香港)852-2564 0768

(深圳)86-755-83518792 83517835 83518291

地址:香港九龍觀塘道332號香港商報大廈