11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務器首年1.8折起,買1年送3個月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵眚v訊云選購吧!
OpenBuddy團隊發(fā)布了基于MetaLlama370B的最新成果:OpenBuddy-Llama3-70B-v21.1-8k,這是他們首次在Llama370B基座上的中文跨語言訓練嘗試。Llama370B是一個15T訓練集訓練成的稠密大模型,然由于訓練集中缺少中文數(shù)據(jù),Meta官方的Llama3系列對話模型在中文領域的認知、理能力較弱,容易出現(xiàn)以英文回答中文問題的現(xiàn)象。值得一提的是,于量化版模型能力下降較為明顯,他們本次只發(fā)布了模型的完整版權重,后續(xù)會嘗優(yōu)化70B模型的量化后性能,并挑選合適時機發(fā)布量化版。