11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵?lái)騰訊云選購(gòu)吧!
AI火爆之后,NVIDIA的顯卡成為香餑餑,尤其是高端的H100加速卡,售價(jià)超過(guò)25萬(wàn)元依然供不應(yīng)求它的性能也非??鋸?,最新的AI測(cè)試中全面刷新記錄,基于GPT-3的大語(yǔ)言模型訓(xùn)練任務(wù)紀(jì)錄已經(jīng)被刷至11分鐘。機(jī)器學(xué)習(xí)及人工智能領(lǐng)域開放產(chǎn)業(yè)聯(lián)盟MLCommons公布了最新的MLPerf基準(zhǔn)評(píng)測(cè),其中包括8個(gè)負(fù)載測(cè)試,LLM大語(yǔ)言模型中就有基于GPT-3開源模型的,很考驗(yàn)平臺(tái)的AI性能。FP64/FP3260TFlops,F(xiàn)P162000TFlops,TF321000TFlops,都三倍于A100,F(xiàn)P84000TFlops,六倍于A100。
最近幾個(gè)月來(lái)以ChatGPT為代表的AI大火,也導(dǎo)致了訓(xùn)練AI用的NVIDIA加速顯卡備受追捧,黃仁勛也多次推薦大家購(gòu)買A100顯卡,不過(guò)這并不是NVIDIA最新最強(qiáng)的AI卡,去年發(fā)布的H100才是性能猛獸。至于黃仁勛為何不重點(diǎn)推H100加速卡,主要是這款顯卡之前產(chǎn)量不多,但在日前的GTC2023大會(huì)上,黃仁勛宣布H100已經(jīng)全面投產(chǎn),并部署在多家客戶的云計(jì)算服務(wù)中,包括微軟的Azure、谷歌、甲骨文等客戶數(shù)據(jù)中心。H100的官方建議價(jià)一直沒(méi)公布,但日本市場(chǎng)之前預(yù)售的價(jià)格是475萬(wàn)日元,約合人民幣24.2萬(wàn)元,比A100的價(jià)格至少翻倍了。