11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享。快來騰訊云選購吧!
電子元件工業(yè)聯(lián)合會(JEDEC)今天正式發(fā)布了 HBM3高帶寬內(nèi)存標(biāo)準(zhǔn),規(guī)范了產(chǎn)品的功能、性能以及容量、帶寬等特性...除了6.4Gb/s 速率 @819GB/s 的帶寬,它還支持16-Hi 堆棧 @64GB 容量...為了滿足市面上對于這類內(nèi)存可靠性、壽命的需求,HBM3引入了強大的片上 ECC 糾錯功能,同時具有實時報告錯誤的能力...
除了 6.4 Gb/s 速率 @ 819 GB/s 的帶寬,它還支持 16-Hi 堆棧 @ 64GB 容量...● 在經(jīng)過驗證的 HBM2 架構(gòu)的基礎(chǔ)上進一步擴展帶寬,將每個引腳的速率提升一倍(定義 6.4 GB/s),以實現(xiàn) 819 GB/s 的高帶寬...● 支持每層 8~32 Gb 的容量密度,可輕松支持 4GB(8Gb 4-Hi)到 64GB(32Gb 16-Hi)設(shè)備密度,預(yù)計初代產(chǎn)品將基于 16Gb 存儲層......
上月,SK 海力士確認已開發(fā) 24GB HBM3 芯片,且每堆棧帶寬高達 819 GB/s 。而在 2021 OCP 峰會期間,我們終于看到了該公司展示的 12-Hi 堆棧 @ 24GB HBM3 內(nèi)存模塊,傳輸速率為 6400 Mbps 。WCCFTech 指出,下一代 CPU / GPU 需要更快更強的內(nèi)存,HBM3 或許是個不錯的解決方案。負責(zé)制定 HBM3 規(guī)范的 JEDEC 組織,尚未頒布最終草案。不過從 SK 海力士分享的早期測試結(jié)果來看,其速率從 5.2 到 6.4 Gbps 不等。2021 OCP 現(xiàn)場展示的
據(jù)集邦咨詢最新報告,NVIDIA將在今年下半年供貨Blackwell架構(gòu)的新一代B100、B200GPU,供應(yīng)CSP云客戶,同時增加一款精簡版的B200A,面向有邊緣AI需求的OEM企業(yè)客戶。臨時增加B200A的主要原因是B200所用的臺積電CoWoS-L封裝產(chǎn)能持續(xù)吃緊,需要集中滿足CSP客戶需求,B200A則會改用相對簡單和寬松的CoWoS-S封裝技術(shù)。集邦咨詢預(yù)計,NVIDIA高端GPU明年的出貨量將增長55%。
三星電子于周二宣布研發(fā)出一款全新高帶寬內(nèi)存芯片,被譽為行業(yè)內(nèi)“容量最大”產(chǎn)品。這款名為HBM3E12H的芯片據(jù)稱“性能和容量均提升超過50%”?!弊詈?,三星電子強調(diào)該內(nèi)存芯片的未來發(fā)展前景,并計劃于2024年上半年開始量產(chǎn)。
韓國ChosunBiz近日報道,NVIDIA已經(jīng)向SK海力士、鎂光,交付了700億至1萬億韓元的預(yù)付款,業(yè)內(nèi)預(yù)計了這筆款項在10.8億美元到15.4億美元之間。雖然沒有說明具體用途,但業(yè)界普遍認為,NVIDIA是為了確保2024年HBM供應(yīng)穩(wěn)定,避免新一代AI、HPCGPU因為發(fā)布后庫存不足掉鏈子。畢竟在NVIDIA在AI、HPC領(lǐng)域遙遙領(lǐng)先,這也是為什么需要大量HBM內(nèi)存,來確保H200GPU、以及GH200超級芯片的產(chǎn)品供應(yīng)。
據(jù)TrendForce集邦咨詢最新HBM市場研究顯示,為了更妥善且健全的供應(yīng)鏈管理,英偉達也規(guī)劃加入更多的HBM供應(yīng)商。三星的HBM3預(yù)期于今年12月在NVIDIA完成驗證。在HBM4中,將首次看到最底層的Logicdie將首次采用采用12nm制程晶圓,該部分將由晶圓代工廠提供,使得單顆HBM產(chǎn)品需要晶圓代工廠與存儲器廠合作。
HBM3e在行業(yè)中的意義是巨大的,因為它將為下一代AIGPU鋪平道路這對于實現(xiàn)高計算性能至關(guān)重要。據(jù)BusinessKorea報道,三星電子已確認將其第五代HBM3E產(chǎn)品命名為「Shinebolt」。我們將進一步擴大生產(chǎn)以為客戶提供定制HBM。
由于人工智能需求的大幅增加,英偉達計劃將其下一代BlackwellB100GPU的發(fā)布日期從2024年第四季度提前到2024年第二季度。該公司預(yù)計將使用SK海力士的HBM3eDRAM來驅(qū)動其最新的芯片。這表明英偉達正在加快其AIGPU的步伐,希望在未來幾年繼續(xù)保持領(lǐng)先地位。
將在明年初大批量出貨交付HBM3E高帶寬內(nèi)存,首要客戶就是NVIDIA。NVIDIAA100/H100計算卡熱賣,對于HBM的需求也空前高漲,動輒單卡幾十GB,最近宣布的GraceHopper超級芯片,雙路系統(tǒng)就需要282GBHBM3E。美光還將在明年初出貨32GBDDR5顆粒,可以輕松做成單條桌面32GB、服務(wù)器128GB,甚至能達成單條1TB。
不到一年時間,生成式人工智能已經(jīng)成為企業(yè)計算的主導(dǎo)影響力,因此處理器創(chuàng)新也需要快速推進。英偉達在宣布其新的GH200超級芯片不到三個月后,已經(jīng)對GH200進行了「提升」。新版本與5月份在Computex上發(fā)布的NVIDIAMGX服務(wù)器規(guī)范完全兼容,這意味著制造商可以輕松地將其添加到許多不同的服務(wù)器版本中。
2023年HBM市場的主導(dǎo)產(chǎn)品是HBM2e,該產(chǎn)品由英偉達A100/A800、AMDMI200以及大多數(shù)云服務(wù)提供商的自主開發(fā)的加速器芯片所采用。隨著對AI加速器芯片需求的不斷發(fā)展,制造商計劃在2024年推出新的HBM3e產(chǎn)品,預(yù)計HBM3和HBM3e將成為明年市場的主流。
據(jù)韓國經(jīng)濟日報消息,存儲芯片制造商三星電子將為英偉達公司提供高性能半導(dǎo)體和封裝服務(wù),有望在其它大型科技公司中贏得訂單。根據(jù)周二首爾的行業(yè)消息,三星和英偉達正在對 HBM3 芯片進行技術(shù)驗證和封裝服務(wù)。一旦完成工作,預(yù)計三星將負責(zé)封裝 H100,英偉達最新的人工智能 GPU,同時為處理器供應(yīng) HBM3 芯片。
SK 海力士剛剛宣布,其已開始量產(chǎn)業(yè)內(nèi)性能領(lǐng)先的 HBM3 DRAM 存儲器...以英偉達為例,這家 GPU 巨頭于近期完成了對 SK 海力士 HBM3 樣品的性能評估,預(yù)計相關(guān)產(chǎn)品可于今年 3 季度開始出貨...為滿足客戶需求,SK 海力士將遵循英偉達的新品發(fā)布時間表...規(guī)格方面,SK 海力士的 HBM3 有望大幅提升加速計算應(yīng)用的性能表現(xiàn) —— 可提供高達 819 GB/s 的緩存帶寬,相當(dāng)于每秒傳輸 163 部 @ 5GB 的全高清(FHD)電影......
TechPowerUp 報道稱:在 3 月 21 - 24 日舉辦的英偉達 GPU 技術(shù)大會上,SK 海力士介紹了該公司最新研發(fā)的 HBM3 高帶寬顯存...在“完全堆疊”狀態(tài)下,HBM3 高帶寬顯存可輕松達成 24GB 的容量,輔以較 HBM2E 翻倍的 16 通道架構(gòu) @ 6.4 Gbps 頻率...預(yù)計到 2025 年,還可進一步上升至 35%...作為該公司的最新舉措之一,其展示了 SK 海力士致力于保護環(huán)境、創(chuàng)建可持續(xù)和創(chuàng)新的內(nèi)存生態(tài)系統(tǒng)的承諾的決心......
在 2021 年度技術(shù)日活動期間,三星電子透露了有關(guān)下一代硬件開發(fā)的諸多規(guī)劃。首先從遵循 JEDEC 規(guī)范的 DDR5 標(biāo)準(zhǔn)內(nèi)存模組開始,該公司計劃后續(xù)推出更高規(guī)格的 SKU 。雖然仍處于開發(fā)階段,許多細節(jié)還有待進一步證實,但我們大可期待 DDR5-6400、甚至 DDR5-8400 之類的高頻模組將會到來。其次是下一代 DDR6 內(nèi)存標(biāo)準(zhǔn),據(jù)說其速率是 DDR5 的兩倍。盡管 DDR6 規(guī)范仍處于早期開發(fā)階段,但據(jù) TechPowerUp 所述,每條內(nèi)存模組的通道數(shù)量從
SK 海力士剛剛宣布了 HBM3 DRAM 存儲器的最新開發(fā)進展,可知新一代內(nèi)存標(biāo)準(zhǔn)不僅帶來了更高的帶寬,還可通過垂直堆疊來增加容量。從去年 7 月量產(chǎn) HBM2E 內(nèi)存開始,該公司就已經(jīng)在著手 HBM3 新品的研發(fā)。隨著今日的公告,我們得知 SK 海力士將帶來兩款衍生型號。除了基于 8-Hi 堆棧的 16GB SKU,SK 海力士還計劃推出由 2GB DRAM 組成 12-Hi 堆棧的 24GB SKU,此外該公司提到其已將 DRAM 芯片的層高縮減至 30 μm 。負責(zé) DRAM 開發(fā)的
在 HotChips33 年度會議期間,臺積電介紹了該公司最先進的封裝技術(shù)路線圖,并且展示了為下一代小芯片架構(gòu)和內(nèi)存設(shè)計做好準(zhǔn)備的最新一代 CoWoS 解決方案。WCCFTech 指出,這家業(yè)內(nèi)領(lǐng)先的半導(dǎo)體巨頭在先進芯片封裝技術(shù)方面取得了快速進展。過去十年,該公司已經(jīng)推出五代不同的基板上芯片封裝工藝,且涵蓋了消費級與服務(wù)器芯片領(lǐng)域。預(yù)計 TSMC 將于今年晚些時候宣布第 5 代 CoWoS 封裝技術(shù),其有望將晶體管數(shù)量翻至第 3 代封裝解決方?
JEDEC標(biāo)準(zhǔn)組織還沒有公布下一代HBM3高帶寬內(nèi)存/顯存的具體規(guī)范,SK海力士已經(jīng)坐不住了,預(yù)告了自己的規(guī)劃。SK海力士稱,他們的HBM3可以做到I/O輸入輸出速度不低于5.2Gbps,帶寬則不低于665GB/s,相比于HBM2E 3.6Gbps、460GB/s的規(guī)格都猛增了多達45%。如果使用四顆,帶寬就可以做到恐怖的2.6TB/s,GDDR6X什么的都弱爆了。SK海力士2019年8月第一個提出了HBM2E,2020年7月投入量產(chǎn),利用TSV硅穿孔技術(shù)垂直堆疊八顆16Gb(2GB),單顆容?
SK 海力士剛剛公布了下一代高帶寬內(nèi)存(HBM3)的技術(shù)規(guī)格,可知其在提升傳輸速率和增大容量的同時,還引入了散熱方面的最新改進。具體說來是,該公司的 HBM3 產(chǎn)品將提供高達 665 Gbps 的帶寬、翻倍的容量、以及下一代散熱解決方案。在官方產(chǎn)品頁上,SK 海力士還分享了一張對比圖表,以直觀地展示從 HBM2E 到 HBM3 的變化。這家 DRAM 制造商表示,HBM3 有望實現(xiàn) 5.2 Gbps 的 I/O 速率,較現(xiàn)有的 HBM2E 提升 44%,從而大幅提升整體的
NVIDIABlackwellGPU系列產(chǎn)品無疑是AI市場上的頭號寵兒,甚至未來半年的產(chǎn)能都賣光了,NVIDIA對于產(chǎn)業(yè)鏈的供應(yīng)也十分饑渴,比如臺積電CoWoS封裝,比如HBM內(nèi)存芯片。SK海力士董事長崔泰源就透露,他們原計劃2025年下半年向客戶供貨下一代HBM4芯片,但是黃仁勛明確要求,必須加快速度,提前6個月交貨。不過在Rubin之前會有一代升級版的BlackwellUltraB300系列是搭配HBM3E。
在SKIcheonForum2024論壇上,SK海力士副總裁RyuSeong-su宣布,該公司正計劃開發(fā)一種新的HBM內(nèi)存標(biāo)準(zhǔn),該標(biāo)準(zhǔn)將比目前HBM產(chǎn)品快20-30倍。RyuSeong-su表示,公司的目標(biāo)是推出性能大幅提升的差異化產(chǎn)品,以期在HBM市場中取得領(lǐng)先地位。SK海力士還表達了創(chuàng)建其存儲半導(dǎo)體的意向,根據(jù)計劃,SK海力士和三星都計劃在2025年中或年底之前發(fā)布各自的HBM4產(chǎn)品,以便及時集成到下一代產(chǎn)品中,如英偉達Robin等架構(gòu)。
隨著AI市場的爆發(fā),不僅CPU、GPU算力被帶動了,HBM內(nèi)存也成為香餑餑有2.5D、3D封裝技術(shù),但是它們的產(chǎn)能之前很受限制,除了成本高,焊接工藝復(fù)雜也是問題。芯片焊接目前主要采用高溫焊,焊料主要是SAC錫、銀、銅材質(zhì),熔點超過250℃,這個溫度的焊接技術(shù)對大部分芯片來說沒問題,但HBM內(nèi)存使用了TSV硅通孔技術(shù),這樣的高溫焊接就有可能導(dǎo)致變形。三星、SK海力士等公司正在擴大HBM內(nèi)存的生產(chǎn),這種低溫焊技術(shù)很快也會得到大面積使用。
作為當(dāng)前最火的AI應(yīng)用,ChatGPT已經(jīng)成為各大科技巨頭必爭之地,陸續(xù)都會推出類似的產(chǎn)品這也帶火了硬件行業(yè),受益最大的是GPU顯卡,但HBM內(nèi)存吃到了流量,正在發(fā)愁內(nèi)存跌價的韓國廠商天降驚喜,找到賺錢的地方了。在AI算力中,除了GPU性能,內(nèi)存也非常重要,NVIDIA的高端加速卡也上了HBM2/2e之類的內(nèi)存,其帶寬及延遲性能遠高于GDDR內(nèi)存,A100加速顯卡上最高配備了80GBHBM2內(nèi)存。三星近年來也加大了HBM內(nèi)存的投入跟AMD合作首發(fā)了HBM-PIM技術(shù),將HBM內(nèi)存與AI處理器集成在一起,大幅提高性能。
MI200回歸單芯封裝,規(guī)格、性能幾乎完全就是MI250砍去一半:291億個晶體管,104組計算單元,6656個流處理器核心,416個矩陣核心,4096-bit 64GB HBM2e顯存,三條Infinity Link互連總線......
前不久剛剛表態(tài)對挖礦業(yè)務(wù)沒有什么興趣的AMD,私底下已經(jīng)在暗度陳倉”了?爆料好手貼出的圖片顯示,基于7nm Navi 12核心打造的AMD BC-160礦卡現(xiàn)身,訊景設(shè)計,外形比較簡約素雅。此前Navi 12核心被用于筆記本平臺的Radeon Pro 5600M顯卡,其集成2560顆流處理器。而BC-160則配備2304個流處理器,輔以8GB HBM2顯存,走PCIe 4.0 x16插槽。算力方面,150瓦功耗下以太坊算力69.5MH/s,直接把RX 6900 XT也超了,主流顯卡中僅次于RTX 3080
英偉達可能正在升級Ampere A100 GPU。現(xiàn)有的NVIDIA A100 HPC加速器是在去年6月推出的,看起來英偉達正計劃給它進行重大規(guī)格升級。該芯片基于英偉達最大的安培GPU - A100,其尺寸為826平方毫米,容納了540億個晶體管,令人難以置信。在規(guī)格方面,A100 PCIe GPU加速器在核心配置方面沒有什么變化。GA100 GPU保留了我們在250W版本上看到的規(guī)格,有6912個CUDA核心,排列在108個SM單元中,432個張量核心,但是內(nèi)存升級到80GB HBM2e內(nèi)存?
我們知道,Intel重返獨立顯卡市場的Xe GPU架構(gòu)分為四種不同級別,從低到高分別是Xe LP、Xe HPG、Xe HP、Xe HPC,覆蓋從輕薄本到高性能計算等各種領(lǐng)域。如果說相當(dāng)于核顯級別的Xe LP只是牛刀小試,Xe HPG就是游戲玩家的期待,Xe HP、Xe HPC則是高端計算的利器?,F(xiàn)在,我們第一次看到了Xe HP架構(gòu)的加速卡,規(guī)格很殘暴,而且還有更殘暴的。Xe HP加速卡代號Arctic Sound,采用一種名為Tile”的模塊化堆積設(shè)計方式(類似chiplets小芯片)?
除了5nm、4nm、3nm、2nm工藝進展和規(guī)劃,臺積電近日還公布了不少新的芯片封裝技術(shù),畢竟隨著高性能計算需求的與日俱增、半導(dǎo)體工藝的日益復(fù)雜,單靠升級制程工藝已經(jīng)不能解決所有問題。臺積電
目前在顯存行業(yè)有兩個方向,一是傳統(tǒng)的GDDR繼續(xù)演化,NVIDIA RTX 20系列已經(jīng)用上最新的GDDR6,二就是高帶寬的HBM,已經(jīng)進化到第二代,NVIDIA、AMD的專業(yè)計算卡以及AMD的部分高端顯卡都配備了它。