幺妹直播官方版_幺妹直播直播视频在线观看免费版下载_幺妹直播安卓高清版下载

首頁(yè) > 業(yè)界 > 關(guān)鍵詞  > HBM2e高帶寬最新資訊  > 正文

性能暴漲4.5倍!NVIDIA H100計(jì)算卡強(qiáng)勢(shì)壟斷AI:對(duì)手?不存在

2023-04-06 17:15 · 稿源: 快科技

AI世界如今最大的贏家是誰(shuí)?

毫無(wú)疑問(wèn)是黃仁勛的NVIDIA,布局早,技術(shù)強(qiáng),根本找不到對(duì)手,躺著”就可以掙大錢了。

現(xiàn)在,NVIDIA又公布了最新一代Hopper H100計(jì)算卡在MLPerf AI測(cè)試中創(chuàng)造的新紀(jì)錄。

Hopper H100早在2022年3月就發(fā)布了,GH100 GPU核心,臺(tái)積電4nm工藝,800億晶體管,814平方毫米面積。

它集成18432個(gè)CUDA核心、576個(gè)Tensor核心、60MB二級(jí)緩存,搭配6144-bit位寬的六顆HBM3/HBM2e高帶寬內(nèi)存,支持第四代NVLink、PCIe 5.0總線。

相比于ChatGPT等目前普遍使用的A100,H100的理論性能提升了足足6倍。

不過(guò)直到最近,H100才開(kāi)始大規(guī)模量產(chǎn),微軟、谷歌、甲骨文等云計(jì)算服務(wù)已開(kāi)始批量部署。

性能暴漲4.5倍!NVIDIA H100計(jì)算卡強(qiáng)勢(shì)壟斷AI:對(duì)手?不存在

性能暴漲4.5倍!NVIDIA H100計(jì)算卡強(qiáng)勢(shì)壟斷AI:對(duì)手?不存在

MLPerf Inference是測(cè)試AI推理性能的行業(yè)通行標(biāo)準(zhǔn),最新版本v3.0,也是這個(gè)工具誕生以來(lái)的第七個(gè)大版本更新。

對(duì)比半年前的2.1版本,NVIDIA H100的性能在不同測(cè)試項(xiàng)目中提升了7-54%不等,其中進(jìn)步最大的是RetinaNet全卷積神經(jīng)網(wǎng)絡(luò)測(cè)試,3D U-Net醫(yī)療成像網(wǎng)絡(luò)測(cè)試也能提升31%。

性能暴漲4.5倍!NVIDIA H100計(jì)算卡強(qiáng)勢(shì)壟斷AI:對(duì)手?不存在

對(duì)比A100,跨代提升更是驚人,無(wú)延遲離線測(cè)試的變化幅度少則1.8倍,多則可達(dá)4.5倍,延遲服務(wù)器測(cè)試少則超過(guò)1.7倍,多則也能接近4倍。

其中,DLRM、BERT訓(xùn)練模型的提升最為顯著。

NVIDIA還頗為羞辱性地列上了Intel最新數(shù)據(jù)中心處理器旗艦至強(qiáng)鉑金8480 的成績(jī),雖然有56個(gè)核心,但畢竟術(shù)業(yè)有專攻,讓通用處理器跑AI訓(xùn)練實(shí)在有點(diǎn)為難,可憐的分?jǐn)?shù)不值一提,BERT 99.9%甚至都無(wú)法運(yùn)行,而這正是NVIDIA H100的最強(qiáng)項(xiàng)。

性能暴漲4.5倍!NVIDIA H100計(jì)算卡強(qiáng)勢(shì)壟斷AI:對(duì)手?不存在

此外,NVIDIA還第一次公布了L4 GPU的性能。

它基于最新的Ada架構(gòu),只有Tensor張量核心,支持FP8浮點(diǎn)計(jì)算,主要用于AI推理,也支持AI視頻編碼加速。

對(duì)比上代T4,L4的性能可加速2.2-3.1倍之多,最關(guān)鍵的是它功耗只有72W,再加上單槽半高造型設(shè)計(jì),可謂小巧彪悍。

幾乎所有的大型云服務(wù)供應(yīng)商都部署了T4,升級(jí)到L4只是時(shí)間問(wèn)題,Google就已經(jīng)開(kāi)始內(nèi)測(cè)。

舉報(bào)

  • 相關(guān)推薦
  • 聯(lián)發(fā)科與NVIDIA合作 為NVIDIA 個(gè)人AI超級(jí)計(jì)算機(jī)設(shè)計(jì)NVIDIA GB10超級(jí)芯片

    聯(lián)發(fā)科近日宣布與NVIDIA合作設(shè)計(jì)NVIDIAGB10GraceBlackwell超級(jí)芯片,將應(yīng)用于NVIDIA的個(gè)人AI超級(jí)計(jì)算機(jī)NVIDIA?ProjectDIGITS。聯(lián)發(fā)科在智能手機(jī)、智能電視、Android平板電腦、語(yǔ)音助理設(shè)備,以及基于Arm架構(gòu)Chromebook的芯片出貨量皆居行業(yè)翹楚,并大力投資多項(xiàng)技術(shù),為各類采用Arm架構(gòu)SoC的設(shè)備提供卓越的AI、通信、多媒體與高能效用戶體驗(yàn)。聯(lián)發(fā)科秉持著將AI帶到世界各個(gè)角落的愿景,在多元產(chǎn)品組合中提供先進(jìn)的AI功能,包含面向智能手機(jī)和平板電腦的天璣系列、智能物聯(lián)網(wǎng)設(shè)備的Genio系列、智能電視的Pentonic系列、基于Arm架構(gòu)Chromebook的Kompanio系列,以及車用平臺(tái)天璣汽車座艙系列。

  • NVIDIA、蘋果多年恩怨糾葛大起底:從喬布斯在任就開(kāi)始

    如今隨著AI的不斷發(fā)展,各大公司都紛紛投入巨資搶購(gòu)NVIDIA的GPU,但蘋果卻非NVIDIA的主要客戶雙方恩怨可追溯到約20年前。根據(jù)TheInformation的報(bào)道,10位熟悉內(nèi)情的前蘋果員工透露,蘋果高層對(duì)NVIDIA的不滿由來(lái)已久,可追溯至喬布斯擔(dān)任CEO時(shí)期。NVIDIA與蘋果的恩怨也就延續(xù)至今,有報(bào)道指出,蘋果有意減少對(duì)NVIDIA昂貴且供應(yīng)短缺的AI芯片依賴,正博通合作開(kāi)發(fā)針對(duì)AI運(yùn)算設(shè)計(jì)的服?

  • 還能再漲23%!AI寵兒NVIDIA成大摩明年首選

    據(jù)報(bào)道,摩根士丹利最新報(bào)告指出,NVIDIA仍是其明年的首選股”。大摩重申了對(duì)英偉達(dá)股票的增持”評(píng)級(jí),并給出了每股166美元的目標(biāo)價(jià),按照當(dāng)前水平計(jì)算還能再漲約23%。但他們相信到2025年,ASIC的最大用戶實(shí)際上會(huì)轉(zhuǎn)購(gòu)買GPU,預(yù)計(jì)GPU明年的表現(xiàn)將明顯優(yōu)于ASIC。

  • NVIDIA App被指致游戲幀率下降15%!關(guān)閉這個(gè)功能馬上恢復(fù)

    英偉達(dá)前不久推出了顯卡配套程序NVIDIAApp正式版,用以替代使用多年的NVIDIAGeForceExperience和NVIDIA控制面板等。但是卻有部分用戶反映安裝該應(yīng)用后游戲幀率出現(xiàn)了下降,有用戶發(fā)布了一系列測(cè)試數(shù)據(jù),顯示安裝NVIDIAApp后,游戲性能最高下降了15%卸載應(yīng)用后性能恢復(fù)正常。對(duì)于已經(jīng)安裝NVIDIAApp的用戶,解決問(wèn)題的方法非常簡(jiǎn)單:打開(kāi)NVIDIAApp,點(diǎn)擊設(shè)置”,然后取消勾選NVIDIAOverlay”選項(xiàng),操作后游戲幀率應(yīng)該就能恢復(fù)正常,甚至可能比之前更高。

  • 一年吸金近300億美元!NVIDIA成2024散戶最愛(ài)

    VandaResearc數(shù)據(jù)顯示,截至今年12月17日,散戶投資者凈買入英偉達(dá)股票接近300億美元,成為今年散戶資金流入最多的公司。Vanda高級(jí)副總裁MarcoIachini表示:事實(shí)證明,英偉達(dá)在某種程度上搶了特斯拉的風(fēng)頭,因?yàn)樗膬r(jià)格漲幅令人印象深刻。英偉達(dá)是散戶投資者的第二大持倉(cāng),僅次于特斯拉,今年,散戶資金對(duì)英偉達(dá)的凈流入較三年前增長(zhǎng)了超過(guò)885%。

  • NVIDIA、Intel、AMD三巨頭罕見(jiàn)聯(lián)手!共同投了AI芯片獨(dú)角獸Ayar Labs

    硅谷光互連芯片設(shè)計(jì)公司AyarLabs宣布,完成由AdventGlobalOpportunities和LightStreetCapital領(lǐng)投的1.55億美元融資。目前公司累計(jì)融資額達(dá)到3.7億美元,估值超過(guò)10億美元,成為新晉芯片獨(dú)角獸。此次融資的領(lǐng)投方AdventGlobalOpportunities和LightStreetCapital對(duì)AyarLabs的光互連技術(shù)充滿信心,認(rèn)為其將徹底改變AI基礎(chǔ)設(shè)施的未來(lái)。

  • Nvidia RTX5090包裝泄露:32GB GDDR7內(nèi)存確認(rèn),性能飆升

    Nvidia的RTX5090顯卡今天通過(guò)一張未公布的包裝盒照片泄露,進(jìn)一步驗(yàn)證了之前關(guān)于其搭載32GBGDDR7內(nèi)存的傳聞。此次泄露來(lái)自VideoCardz網(wǎng)站,圖片展示了Inno3DRTX5090iChillX3版本的包裝。業(yè)內(nèi)人士猜測(cè),RTX5080可能會(huì)在1月21日率先亮相,隨后其他型號(hào)也會(huì)陸續(xù)發(fā)布。

  • 阿丘科技榮獲「2024 NVIDIA 創(chuàng)業(yè)企業(yè)展示——年度“榮耀企業(yè)”」稱號(hào)!

    在備受矚目的「2024NVIDIA創(chuàng)業(yè)企業(yè)展示」中,阿丘科技以其卓越的創(chuàng)新能力和深遠(yuǎn)影響力,榮獲年度“榮耀企業(yè)”稱號(hào),再次證明阿丘科技在人工智能領(lǐng)域的優(yōu)秀成績(jī)。NVIDIA創(chuàng)業(yè)企業(yè)展示是NVIDIA主辦的系列活動(dòng)。阿丘科技也將以此次榮譽(yù)為新的起點(diǎn),在科技的浩瀚星空中綻放更加耀眼的光芒,為社會(huì)的科技進(jìn)步與創(chuàng)新發(fā)展貢獻(xiàn)更多智慧與力量。

  • 英偉達(dá)正式回應(yīng)NVIDIA App導(dǎo)致游戲幀率暴降15%:官方解決辦法來(lái)了

    針對(duì)NVIDIAApp導(dǎo)致游戲幀率暴降15%”一事,英偉達(dá)方面正式做出了回應(yīng)。WeareawareofareportedperformanceissuerelatedtoGameFiltersandareactivelylookingintoit.YoucanturnoffGameFiltersfromtheNVIDIAAppSettingsFeaturesOverlayGameFiltersandPhotoMode,andthenrelaunchyourgame.”我們已經(jīng)注意到與游戲?yàn)V鏡相關(guān)的性能問(wèn)題,并正在積極調(diào)查。它引入了重新設(shè)計(jì)的游戲內(nèi)浮窗,方便使用強(qiáng)大的游戲錄制工具、性能監(jiān)控浮窗和游戲增強(qiáng)濾鏡,包括專為RTX用戶提供的、AI增強(qiáng)的全新濾鏡。

  • AMD看完無(wú)可奈何!NVIDIA新核彈RTX 5090、5080售價(jià)泄露:玩家要破產(chǎn)了

    NVIDIA新一代旗艦顯卡RTX5090、5080即將于1月份的CES2025大展期間官宣。大家最期待的,莫過(guò)于新卡的定價(jià)了。RTX5080則是改用GB203芯片,10752個(gè)CUDA核心,功耗400W。

熱文

  • 3 天
  • 7天