11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵眚v訊云選購吧!
【新智元導(dǎo)讀】兩天前,馬斯克得意自曝:團(tuán)隊僅用122天,就建成了10萬張H100的Colossus集群,未來還會擴(kuò)展到15萬張H100和5萬張H200。此消息一出,奧特曼都被嚇到了:xAI的算力已經(jīng)超過OpenAI了給員工承諾了價值2億期權(quán),這是要上天?馬斯克的xAI一路狂飆突進(jìn),把SamAltman都整怕了!就在9月3日,馬斯克在推上得意自曝:團(tuán)隊僅僅用了122天時間,就建成了有10萬張H100的Colossus集群,是世界上
日前,蔚來舉辦了150kWh首臺量產(chǎn)電池包下線儀式,有網(wǎng)友曬出了下線儀式的現(xiàn)場照片。蔚來董事長李斌表示,目前,一代與二代平臺的所有車型都已經(jīng)完成了驗證和公告,團(tuán)隊也進(jìn)行了各種測試,續(xù)航里程等性能表現(xiàn)超過預(yù)期。對于蔚來車主來說,150kWh電池包上線之后,車輛的續(xù)航能力隨之升級,有長途出行需求時,只需在換電站租賃150kWh電池包即可,可靈活選用。
【新智元導(dǎo)讀】就在剛剛,老黃又來打破摩爾定律了:英偉達(dá)新核彈B200,一塊能頂5個H100,30倍推理加速,能訓(xùn)萬億參數(shù)大模型!同時推出的AI推理微服務(wù)NIM,號稱讓全世界用上AI。就在剛剛結(jié)束的GTC人工智能大會上,英偉達(dá)的新一代性能巨獸Backwell誕生了!BlackwellB200GPU,是如今世界上最強(qiáng)大的AI芯片,旨在「普惠萬億參數(shù)的AI」。有了世界最強(qiáng)的處理器Blackwell,新一輪技術(shù)革命即將開啟。
3月13日,社交、科技巨頭Meta在官網(wǎng)公布了兩個全新的24KH100GPU集群,專門用于訓(xùn)練大模型Llama-3。Llama-3使用了RoCEv2網(wǎng)絡(luò),基于Tectonic/Hammerspace的NFS/FUSE網(wǎng)絡(luò)存儲,繼續(xù)使用了PyTorch機(jī)器學(xué)習(xí)庫。將Meta的Tectonic分布式存儲解決方案和Hammerspace結(jié)合在一起,可以在不影響規(guī)模的情況下實現(xiàn)快速功能迭代。
英偉達(dá)團(tuán)隊推出了全新的模型Nemotron-4,150億參數(shù),在8Ttoken上完成了訓(xùn)練。值得一提的是,Nemotron-4在英語、多語言和編碼任務(wù)方面令人印象深刻。這種能力凸顯了Nemotron-415B對廣泛的自然語言的深刻理解。
英偉達(dá)最新推出的Nemotron-4語言模型引起廣泛關(guān)注。這一通用大模型擁有150億參數(shù),經(jīng)過在8Ttoken上的訓(xùn)練,在英語、多語言和編碼任務(wù)中表現(xiàn)出色。Nemotron-4的推出標(biāo)志著英偉達(dá)在通用大模型領(lǐng)域的一次重要突破,為單個A100或H100GPU上運行的最佳通用大模型設(shè)定了新標(biāo)準(zhǔn)。
近日,英偉達(dá)首次向外界公布了其最新的面向企業(yè)的AI超級計算機(jī)Eos,同時也是英偉達(dá)目前速度最快的AI超級計算機(jī)。Eos共配備了4608個英偉達(dá)H100GPU,同時還配備了1152個英特爾XeonPlatinum8480C處理器。英偉達(dá)表示,Eos整合了其在AI領(lǐng)域的專業(yè)技術(shù)和經(jīng)驗,是先前DGX超級計算機(jī)知識的結(jié)晶,可以幫助企業(yè)處理最具挑戰(zhàn)性的項目,并實現(xiàn)AI目標(biāo)。
【新智元導(dǎo)讀】今天,小扎正式宣戰(zhàn)「開源AGI」!下一代大模型Llama3正在訓(xùn)練,年底將擁有35萬塊H100,屆時算力總和達(dá)60萬塊H100。為了追趕OpenAI,成立十年的FAIR團(tuán)隊納入GenAI,全力奔赴AGI。這是一種令人愉悅的狀態(tài)。
隨著國產(chǎn)存儲顆粒的高速發(fā)展,內(nèi)存和固態(tài)硬盤價格逐漸穩(wěn)定,正是新裝機(jī)、配置升級的好時機(jī)。然內(nèi)存條選擇DDR4還是DDR5往往讓人非常糾結(jié)。目前宏碁暗影騎士?龍DH100DDR43200MHz單條8GB內(nèi)存條售價僅為129元,性價比非常突出,推薦選購。
小米汽車技術(shù)發(fā)布會于今日下午舉辦,會上,雷軍正式發(fā)布了小米800V電池包。電池包是純電車的基石,是核心部件,成本占到整車的40%-50%,并且影響著車輛的續(xù)航、安全、操控。小米還行業(yè)首創(chuàng)了電芯倒置技術(shù)”,可保證電芯在極端熱失控情況下,快速向下釋放熱源,最大程度保證乘員艙安全。
【新智元導(dǎo)讀】最近,兩位哈佛輟學(xué)生共同創(chuàng)立的AI芯片公司,估值已達(dá)3400萬美元,并計劃明年交付一款名為「Sohu」的AI推理加速芯片——其LLM推理性能達(dá)到H100的10倍單價吞吐量更是高達(dá)140倍。像Pika一樣的神級創(chuàng)業(yè)故事又要再次上演了?兩位哈佛退學(xué)的年輕人,想要制造一款專用于大語言模型加速的AI加速器芯片,將于2024年第三季度交付,推理性能達(dá)H100的10倍。CerebrasSystems的CEO
【新智元導(dǎo)讀】Inflection-2最新發(fā)布!性能碾壓一眾大廠模型,僅輸一手GPT-4要集成到Pi?最近,InflectionAI發(fā)布了全新的一款A(yù)I模型。更炸裂的是InfectionAI對這款模型的評價——性能直超谷歌和Meta開發(fā)的兩款模型,緊隨OpenAI的GPT-4之后。真能充當(dāng)心理咨詢的角色呢。
H100再次在MLPerf中刷新了記錄!英偉達(dá)超算NVIDIAEos在GPT-3模型的基準(zhǔn)測試中,只用了3.9分鐘就完成了訓(xùn)練。這比6月份的刷新記錄的成績——10.9分鐘,提升了近3倍。為了遵守新規(guī),HGXH20、L20PCle和L2PCleGPU不僅性能是殘血的還只配備了殘血版的NVLink連接。
在最新一輪MLPerf訓(xùn)練v3.1的結(jié)果中,盡管大部分成績并不激動人心,但兩個結(jié)果引人注目。NVIDIA使用MLPerf來展示其最新的霍珀一代超級計算機(jī)。NVIDIA試圖展示它在圖表上有一個更長的條形圖,但在爭取更長條形圖的比賽中,它失去了規(guī)模效率,給了英特爾一個大勝利。
★深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、生成式AI、深度神經(jīng)網(wǎng)絡(luò)、抽象學(xué)習(xí)、Seq2Seq、VAE、GAN、GPT、BERT、預(yù)訓(xùn)練語言模型、Transformer、ChatGPT、GenAI、多模態(tài)大模型、視覺大模型、TensorFlow、PyTorch、Batchnorm、Scale、Crop算子、L40S、A100、H100、A800、H800隨著生成式AI應(yīng)用的迅猛發(fā)展,我們正處在前所未有的大爆發(fā)時代。四、性價比較根據(jù)SuperMicro的數(shù)據(jù),L40S在性價比上相較于A100具有優(yōu)勢,為希望部署高效且具有競爭力的生成式人工智能解決方案的用戶提供更多選擇。在模型分發(fā)和運行過程中,提供全面的賬號認(rèn)證和日志審計功能,全方位保障模型和數(shù)據(jù)的安全性。
【新智元導(dǎo)讀】現(xiàn)在,34BCodeLlama模型已經(jīng)能夠在M2Ultra上的Mac運行了推理速度超過每秒20個token,背后殺器竟是「投機(jī)采樣」。開源社區(qū)的一位開發(fā)者GeorgiGerganov發(fā)現(xiàn),自己可以在M2Ultra上運行全F16精度的34BCodeLlama模型推理速度超過了20token/s。投機(jī)解碼就是一個很好的例子,可以幫助我們從系統(tǒng)的角度進(jìn)行思考。
據(jù)三名接近英偉達(dá)的人士透露,英偉達(dá)計劃將其頂級H100人工智能處理器的產(chǎn)量至少提高兩倍。按照英偉達(dá)人士的說法,H100的2024年預(yù)計出貨量在150萬至200萬顆之間,相較于今年預(yù)計的50萬出貨量,這是一個巨大的增幅。百度、字節(jié)跳動、騰訊和阿里巴巴等互聯(lián)網(wǎng)巨頭在爭相購買英偉達(dá)的高性能芯片,訂單總和價值高達(dá)50億美元沙特和阿聯(lián)酋被曝正在瘋狂下單”英偉達(dá)的AI芯片。
作為目前最受歡迎的AI顯卡供應(yīng)商,NVIDIA今年贏麻了,旗下的AI顯卡供不應(yīng)求,其中H100售價25萬元以上,利潤極為豐厚。此前有人算了H100的賺錢能力,生產(chǎn)制造成本只有3320美元,實際的售價在2.5萬到3萬美元之間,賺的利潤最高接近10倍。H100這樣的大型芯片,具體需要多少工程師不確定,但數(shù)千工程師三五年時間還是需要的,當(dāng)代高性能芯片,包括CPU及GPU,研發(fā)投入都是10億美元起步的,光是先進(jìn)工藝設(shè)計到流片的費用就價值不菲。
乘著人工智能熱潮,今年NVIDIA的AI計算卡真的賺瘋了。據(jù)Tomshardware報道,《巴倫周刊》資深撰稿人TaeKim最近在社交媒體上發(fā)布的帖子估計,NVIDIA每銷售一臺H100加速卡,就能獲得1000%的利潤。Tomshardware此前報道稱,NVIDIA今年內(nèi)計劃出售超過55萬塊H100加速卡,其中大部分是出貨給美國公司,不過這一說法還沒有被得到NVIDIA證實。
GPT-5的訓(xùn)練,需要5萬張H100加持。英偉達(dá)GPU已成為各大AI公司開發(fā)大模型的首選利器。但無論你怎么看,英偉達(dá)就是堡壘里的綠色國王。
AI世界如今最大的贏家是誰?毫無疑問是黃仁勛的NVIDIA,布局早,技術(shù)強(qiáng),根本找不到對手,躺著”就可以掙大錢了。幾乎所有的大型云服務(wù)供應(yīng)商都部署了T4,升級到L4只是時間問題,Google就已經(jīng)開始內(nèi)測。
最近幾個月來以ChatGPT為代表的AI大火,也導(dǎo)致了訓(xùn)練AI用的NVIDIA加速顯卡備受追捧,黃仁勛也多次推薦大家購買A100顯卡,不過這并不是NVIDIA最新最強(qiáng)的AI卡,去年發(fā)布的H100才是性能猛獸。至于黃仁勛為何不重點推H100加速卡,主要是這款顯卡之前產(chǎn)量不多,但在日前的GTC2023大會上,黃仁勛宣布H100已經(jīng)全面投產(chǎn),并部署在多家客戶的云計算服務(wù)中,包括微軟的Azure、谷歌、甲骨文等客戶數(shù)據(jù)中心。H100的官方建議價一直沒公布,但日本市場之前預(yù)售的價格是475萬日元,約合人民幣24.2萬元,比A100的價格至少翻倍了。
正在預(yù)研固態(tài)電池技術(shù),該技術(shù)采用固態(tài)電解質(zhì)替代傳統(tǒng)電解液,能夠提高電池的能量密度,改善低溫放電性能和安全性。雖然金屬鋰負(fù)極的實際應(yīng)用仍然存在困難,但實驗室測試顯示,采用固態(tài)電池技術(shù)可以讓電池的能量密度突破1000Wh/L,在小米13的機(jī)身空間內(nèi)裝進(jìn)6000mAh超大容量電池,大大改善了續(xù)航表現(xiàn)。小米的固態(tài)電池技術(shù)研究目前仍處于初級階段,但小米表示將繼續(xù)投入大量精力和資源進(jìn)行研發(fā),為消費者提供更優(yōu)質(zhì)的移動電源解決方案。
小米固態(tài)電池技術(shù)能量密度突破1000Wh/L,同時,低溫下放電性能提升20%,針刺實驗通過率大幅提升。在小米13為原型的小機(jī)身空間內(nèi),可裝進(jìn)6000mAh超大容量顯著改善續(xù)航。小米技術(shù)團(tuán)隊,通過在正極底涂固態(tài)電解質(zhì)陶瓷的方式,當(dāng)針刺扎穿電池時,這層固態(tài)電解質(zhì)會形成下彎將正極集流體包裹起來與負(fù)極隔開,阻斷正極鋁箔與負(fù)極材料的接觸,避免正負(fù)極連通從將針刺實驗的通過率大幅提升,保證使用安全性。
今天全球TOP500超算半年一次的排行升級了,TOP10中新面孔不多,只有一臺是新的,最好的還是基于AMD處理器及加速卡的Frontier,也是唯一的一套百億億次超算。Frontier是唯一一個經(jīng)過TOP500認(rèn)證的百億億次超算,國內(nèi)實際上也有2套百億億次超算,但是沒有參與TOP500比賽了。H100的官方建議價一直沒公布,但日本市場之前預(yù)售的價格是475萬日元,約合人民幣24萬元,作為當(dāng)前性能最強(qiáng)的計算卡,這個價格對行業(yè)用戶來說不虧。
至于為何缺貨、漲價,NVIDIA官方目前還沒有回應(yīng),有消息稱NVIDIA是把產(chǎn)能轉(zhuǎn)向了更高端的H100加速卡了,這顯卡價格要比RTX 4090顯卡貴得多,之前日本泄露的信息顯示PCIe版本的都要475多萬日元,人民幣要24萬元以上了,SXM版價格應(yīng)該會更貴...H100計算卡有SXM、PCIe 5.0兩種樣式,其中SXM版本15872個CUDA核心、528個Tensor核心,PCIe 5.0版本14952個CUDA核心、456個Tensor核心,功耗最高達(dá)700W......
索尼今天舉行音頻產(chǎn)品發(fā)布會,正式發(fā)布國行版WH-1000XM5,售價 2999 元...索尼為 WH-1000XM5 新開發(fā)了 30mm 振膜以及電路優(yōu)化,它采用高剛性、低重量的碳纖維材料,呈現(xiàn)低頻動感有力的高頻可高達(dá) 40kHz...
作為索尼史上最輕*1盈、最小巧、舒適的入耳式降噪耳機(jī),LinkBuds S的耳機(jī)本體重量僅約4.8g,在索尼業(yè)界盛名的降噪技術(shù)和通透的環(huán)境聲模式加持下,結(jié)合出色高解析度音質(zhì)表現(xiàn),新品充分詮釋了LinkBuds系列滿足用戶時時在線的產(chǎn)品開發(fā)理念,讓用戶得以在長時間佩戴無負(fù)擔(dān)的舒適體驗下,實現(xiàn)在自我世界沉浸和外界互動溝通間的自由切換。一同登場的索尼頭戴式降噪新旗艦WH-1000XM5,搭載集成處理器V1、HD降噪處理器QN1 雙芯驅(qū)動和 8 顆麥克風(fēng),性能強(qiáng)勁,將降噪水準(zhǔn)推進(jìn)到新的高度。同時,富有表現(xiàn)力的高解析度音質(zhì),高質(zhì)量的通話效果,結(jié)合舒?
索尼今日舉行了音頻產(chǎn)品發(fā)布會,旗下新品索尼WH-1000XM5國行版已在官網(wǎng)正式開啟預(yù)售,價格為2999元...索尼WH-1000XM5搭載了V1+QN1雙處理器,高性能集成處理器V1通過強(qiáng)大的運算能力,處理8麥克風(fēng)系統(tǒng)采集的環(huán)境噪聲,讓HD降噪處理器QN1充分發(fā)揮性能,更好地運算反相噪聲...另外開啟降噪后使用總時長達(dá)到約30個小時,關(guān)閉降噪續(xù)航更可長達(dá)約40小時...索尼為WH-1000XM5新開發(fā)了30mm振膜以及電路優(yōu)化,它采用高剛性、低重量的碳纖維材料,呈現(xiàn)低頻動感有力的高頻可高達(dá)40kHz......
5月19日 索尼官宣了頭戴式降噪新旗艦WH-1000XM5,新品搭載了雙芯片以及8顆麥克風(fēng),售價2999元...外部的6顆麥克風(fēng)會先將環(huán)境噪聲傳遞給高性能集成處理器V1進(jìn)行處理,處理后的數(shù)據(jù)發(fā)送給HD降噪處理器QN1,精確生成反相曲線抵消噪聲...新品支持20級可控環(huán)境聲模式和AI降噪,可以根據(jù)用戶的行為方式,自動切換環(huán)境聲等級,也可根據(jù)用戶的佩戴情況和環(huán)境氣壓情況,自動優(yōu)化降噪效果,差旅途中、出勤路上或公共空間,減少多種噪音的干擾...