Meta購入大量NVIDIA GPU,助力大語言模型訓練
Meta(原Facebook)宣布,為了構(gòu)建一個強大的計算平臺,將購買多達 35 萬塊 NVIDIA H100 GPU,用于訓練其下一代大語言模型 Llama 3。這將使 Meta 的總算力相當于近 60 萬塊 H100。
據(jù) Omdia 透露,2023 年,Meta 已購買了 15 萬塊 NVIDIA GPU,與之匹敵的只有微軟。亞馬遜、甲骨文、谷歌和騰訊等公司僅分別獲得了約 5 萬塊。
業(yè)內(nèi)分析師預計,基于 Hopper 架構(gòu)的 GPU,包括 H100、H200、GH100、GH200 和 H20 等,在 2024 年第一季度將出貨量達到 77.3 萬塊,第二季度增至 81.1 萬塊。而在 2023 年第二季度,Hopper 家族 GPU 的出貨量僅為 30 萬塊。
此外,Meta 還購買了 AMD Instinct MI300 系列 GPU,數(shù)量未知。微軟也是 AMD Instinct 的主要客戶。
(舉報)