幺妹直播官方版_幺妹直播直播视频在线观看免费版下载_幺妹直播安卓高清版下载

首頁(yè) > 業(yè)界 > 關(guān)鍵詞  > nGPT最新資訊  > 正文

英偉達(dá)nGPT重塑Transformer，AI訓(xùn)練速度暴增20倍！文本越長(zhǎng)，加速越快

2024-10-21 08:39 · 稿源： 新智元公眾號(hào)

【新智元導(dǎo)讀】LLM訓(xùn)練速度還可以再飆升20倍!英偉達(dá)團(tuán)隊(duì)祭出全新架構(gòu)歸一化Transformer（nGPT），上下文越長(zhǎng)，訓(xùn)練速度越快，還能維持原有精度。AI的未來(lái)，或許就此改寫(xiě)......最近，英偉達(dá)團(tuán)隊(duì)拋出的一枚重磅炸彈，提出了全新神經(jīng)網(wǎng)絡(luò)架構(gòu)——?dú)w一化Transformer（nGPT），基于超球

......

本文由站長(zhǎng)之家合作伙伴自媒體作者“新智元公眾號(hào)”授權(quán)發(fā)布于站長(zhǎng)之家平臺(tái)，本平臺(tái)僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時(shí)間超過(guò)平臺(tái)更新維護(hù)時(shí)間，為了保證文章信息的及時(shí)性，內(nèi)容觀點(diǎn)的準(zhǔn)確性，平臺(tái)將不提供完全的內(nèi)容展現(xiàn)，本頁(yè)面內(nèi)容僅為平臺(tái)搜索索引使用。需閱讀完整內(nèi)容的用戶(hù)，請(qǐng)查看原文，獲取內(nèi)容詳情。

即將跳轉(zhuǎn)到外部網(wǎng)站
安全性未知，是否繼續(xù)

（舉報(bào)）

  • 相關(guān)推薦
  • 大家在看
關(guān)鍵詞：

  • Cloudgov.ai:AI 驅(qū)動(dòng)的多云成本優(yōu)化平臺(tái)

    AI 驅(qū)動(dòng)的云成本管理優(yōu)化平臺(tái)，適用于多云環(huán)境，支持主流云服務(wù)提供商，幫助企業(yè)控制成本、提高財(cái)務(wù)可見(jiàn)性、簡(jiǎn)化操作。價(jià)格為免費(fèi)試用，目標(biāo)受眾是希望控制云成本的組織。

  • 宣小二:新媒體投放營(yíng)銷(xiāo)平臺(tái)，提供新聞稿發(fā)布和軟文推廣服務(wù)。

    宣小二是一家專(zhuān)注于新媒體投放營(yíng)銷(xiāo)的平臺(tái)，提供新聞稿發(fā)布、軟文推廣、短視頻矩陣發(fā)布等服務(wù)，旨在幫助廣告主、媒體主和編輯記者實(shí)現(xiàn)一站式的媒體發(fā)稿和內(nèi)容營(yíng)銷(xiāo)。平臺(tái)通過(guò)匯聚多方資源，打通內(nèi)容創(chuàng)作與發(fā)布全鏈路，共創(chuàng)價(jià)值新高度。宣小二以其全面覆蓋熱門(mén)渠道、精準(zhǔn)定位目標(biāo)受眾、高效提升品牌影響力等特點(diǎn)，開(kāi)啟了數(shù)字化營(yíng)銷(xiāo)的新篇章。

  • Ultravox.ai:下一代語(yǔ)音AI，打造自然溝通的AI語(yǔ)音代理。

    Ultravox.ai是一個(gè)先進(jìn)的語(yǔ)音語(yǔ)言模型（SLM），直接處理語(yǔ)音，無(wú)需轉(zhuǎn)換為文本，實(shí)現(xiàn)更自然、流暢的對(duì)話(huà)。它支持多語(yǔ)言，易于適應(yīng)新語(yǔ)言或口音，確保與不同受眾的順暢溝通。產(chǎn)品背景信息顯示，Ultravox.ai是一個(gè)開(kāi)源模型，用戶(hù)可以根據(jù)自己的需求進(jìn)行定制和部署，價(jià)格為每分鐘5美分。

  • LLaMA-Mesh:3D網(wǎng)格生成與語(yǔ)言模型的統(tǒng)一

    LLaMA-Mesh是一項(xiàng)將大型語(yǔ)言模型（LLMs）預(yù)訓(xùn)練在文本上擴(kuò)展到生成3D網(wǎng)格的能力的技術(shù)。這項(xiàng)技術(shù)利用了LLMs中已經(jīng)嵌入的空間知識(shí)，并實(shí)現(xiàn)了對(duì)話(huà)式3D生成和網(wǎng)格理解。LLaMA-Mesh的主要優(yōu)勢(shì)在于它能夠?qū)?D網(wǎng)格的頂點(diǎn)坐標(biāo)和面定義表示為純文本，允許與LLMs直接集成而無(wú)需擴(kuò)展詞匯表。該技術(shù)的主要優(yōu)點(diǎn)包括能夠從文本提示生成3D網(wǎng)格、按需產(chǎn)生交錯(cuò)的文本和3D網(wǎng)格輸出，以及理解和解釋3D網(wǎng)格。LLaMA-Mesh在保持強(qiáng)大的文本生成性能的同時(shí)，實(shí)現(xiàn)了與從頭開(kāi)始訓(xùn)練的模型相當(dāng)?shù)木W(wǎng)格生成質(zhì)量。

  • Comfyui_Object_Migration:基于DIT模型自注意力能力的單概念遷移研究

    Comfyui_Object_Migration是一個(gè)實(shí)驗(yàn)性項(xiàng)目，專(zhuān)注于Stable Diffusion (SD)模型。該項(xiàng)目通過(guò)使用DIT模型的自注意力能力，實(shí)現(xiàn)了在單次生成的圖像中，同一對(duì)象或角色保持高度一致性。項(xiàng)目通過(guò)簡(jiǎn)化預(yù)處理邏輯，開(kāi)發(fā)出了一種高效的遷移方法，能夠引導(dǎo)模型關(guān)注所需內(nèi)容，提供驚人的一致性。目前已開(kāi)發(fā)出適用于服裝的遷移模型，能夠?qū)崿F(xiàn)卡通服裝到現(xiàn)實(shí)風(fēng)格或現(xiàn)實(shí)服裝到卡通風(fēng)格的遷移，并通過(guò)權(quán)重控制激發(fā)設(shè)計(jì)創(chuàng)造力。

  • Early:自動(dòng)生成和維護(hù)經(jīng)過(guò)驗(yàn)證的單元測(cè)試，提升軟件產(chǎn)品質(zhì)量。

    Early是一個(gè)專(zhuān)注于自動(dòng)化單元測(cè)試的在線(xiàn)平臺(tái)，它通過(guò)人工智能技術(shù)自動(dòng)生成和維護(hù)經(jīng)過(guò)驗(yàn)證的單元測(cè)試，幫助開(kāi)發(fā)者提升代碼質(zhì)量，增加代碼覆蓋率，減少bug影響，并預(yù)防代碼回歸。Early支持多種編程語(yǔ)言和框架，與主流IDE集成，使得測(cè)試工作更加便捷和高效。Early的主要優(yōu)點(diǎn)包括節(jié)省時(shí)間、提高代碼質(zhì)量、增強(qiáng)代碼覆蓋率和快速發(fā)現(xiàn)潛在問(wèn)題。產(chǎn)品背景信息顯示，Early能夠在短時(shí)間內(nèi)生成大量高質(zhì)量的測(cè)試用例，顯著提高開(kāi)發(fā)效率。

  • SRE.ai:企業(yè)團(tuán)隊(duì)的先進(jìn)自然語(yǔ)言DevOps平臺(tái)

    SRE.ai AI DevOps Agents是一個(gè)由頂尖AI機(jī)構(gòu)工程師打造，并得到頂級(jí)投資者支持的先進(jìn)自然語(yǔ)言DevOps平臺(tái)。該平臺(tái)通過(guò)AI代理增強(qiáng)團(tuán)隊(duì)，實(shí)現(xiàn)任何工作流程的定制化，提供前所未有的自動(dòng)化和速度。它支持快速部署和回退，能夠在開(kāi)發(fā)周期早期識(shí)別和解決合并、依賴(lài)和集成沖突，確保更快速、更安全的發(fā)布。此外，它還能通過(guò)模擬和影響報(bào)告提前獲得發(fā)布洞察，實(shí)現(xiàn)真正全面的自動(dòng)化，并與整個(gè)技術(shù)棧深度集成，保護(hù)數(shù)據(jù)免受損失，并提供無(wú)縫備份和災(zāi)難恢復(fù)方案。

  • Qwen2.5-Coder-3B-Instruct-GPTQ-Int8:Qwen2.5-Coder系列中的3B參數(shù)量指令調(diào)優(yōu)模型

    Qwen2.5-Coder-3B-Instruct-GPTQ-Int8是Qwen2.5-Coder系列中的一種大型語(yǔ)言模型，專(zhuān)門(mén)針對(duì)代碼生成、代碼推理和代碼修復(fù)進(jìn)行了優(yōu)化。該模型基于Qwen2.5，訓(xùn)練數(shù)據(jù)包括源代碼、文本代碼關(guān)聯(lián)、合成數(shù)據(jù)等，達(dá)到5.5萬(wàn)億個(gè)訓(xùn)練令牌。Qwen2.5-Coder-32B已成為當(dāng)前最先進(jìn)的開(kāi)源代碼大型語(yǔ)言模型，其編碼能力與GPT-4o相匹配。該模型還為現(xiàn)實(shí)世界中的應(yīng)用提供了更全面的基礎(chǔ)，如代碼代理，不僅增強(qiáng)了編碼能力，還保持了在數(shù)學(xué)和通用能力方面的優(yōu)勢(shì)。

  • Qwen2.5-Coder-3B-Instruct-GPTQ-Int4:Qwen2.5-Coder系列中的3B參數(shù)指令調(diào)優(yōu)模型

    Qwen2.5-Coder是Qwen大型語(yǔ)言模型的最新系列，專(zhuān)為代碼生成、推理和修復(fù)而設(shè)計(jì)。該模型基于Qwen2.5，擴(kuò)展了訓(xùn)練令牌至5.5萬(wàn)億，包括源代碼、文本代碼基礎(chǔ)、合成數(shù)據(jù)等。Qwen2.5-Coder-32B是目前開(kāi)源代碼LLM中的佼佼者，其編碼能力與GPT-4o相匹配。此模型為GPTQ-量化的4位指令調(diào)優(yōu)3B參數(shù)Qwen2.5-Coder模型，具有因果語(yǔ)言模型、預(yù)訓(xùn)練和后訓(xùn)練階段、transformers架構(gòu)等特點(diǎn)。

  • Qwen2.5-Coder-3B-Instruct-GGUF:Qwen2.5-Coder系列中的3B參數(shù)指令調(diào)優(yōu)模型

    Qwen2.5-Coder是Qwen大型語(yǔ)言模型的最新系列，專(zhuān)注于代碼生成、代碼推理和代碼修復(fù)?；趶?qiáng)大的Qwen2.5，訓(xùn)練令牌擴(kuò)展到5.5萬(wàn)億，包括源代碼、文本代碼接地、合成數(shù)據(jù)等。Qwen2.5-Coder-32B已成為當(dāng)前最先進(jìn)的開(kāi)源代碼大型語(yǔ)言模型，其編碼能力與GPT-4o相匹配。該模型在實(shí)際應(yīng)用中提供了更全面的基礎(chǔ)，如代碼代理，不僅增強(qiáng)了編碼能力，還保持了在數(shù)學(xué)和通用能力方面的優(yōu)勢(shì)。

  • Hello Patient:AI驅(qū)動(dòng)的醫(yī)療通信助手，自動(dòng)化電話(huà)和短信溝通。

    Hello Patient是一個(gè)AI驅(qū)動(dòng)的醫(yī)療通信平臺(tái)，旨在通過(guò)自動(dòng)化電話(huà)和短信溝通來(lái)提高醫(yī)療服務(wù)效率。該平臺(tái)通過(guò)集成EHR、CRM和PMS系統(tǒng)，確保在正確的時(shí)間進(jìn)行一致性和符合腳本的電話(huà)和短信溝通，從而提升患者忠誠(chéng)度和醫(yī)療服務(wù)質(zhì)量。產(chǎn)品背景信息顯示，Hello Patient致力于減輕醫(yī)療工作者的工作負(fù)擔(dān)，通過(guò)AI技術(shù)提高患者互動(dòng)的及時(shí)性和一致性，同時(shí)降低運(yùn)營(yíng)成本。

  • MinerU:一站式開(kāi)源高質(zhì)量數(shù)據(jù)提取工具，將PDF轉(zhuǎn)換成Markdown和JSON格式。

    MinerU是一個(gè)開(kāi)源工具，專(zhuān)注于將PDF文件轉(zhuǎn)換成機(jī)器可讀的格式，如Markdown和JSON，便于內(nèi)容的提取和進(jìn)一步處理。它在科學(xué)文獻(xiàn)中解決符號(hào)轉(zhuǎn)換問(wèn)題，支持多種輸出格式，并兼容多種操作系統(tǒng)。MinerU的主要優(yōu)點(diǎn)包括去除頁(yè)眉、頁(yè)腳、腳注等，保持文檔原有結(jié)構(gòu)，自動(dòng)識(shí)別和轉(zhuǎn)換文檔中的公式和表格，支持OCR功能，并且支持多達(dá)84種語(yǔ)言的檢測(cè)和識(shí)別。

  • MagicQuill:智能交互式圖像編輯系統(tǒng)

    MagicQuill是一個(gè)集成的圖像編輯系統(tǒng)，旨在支持用戶(hù)快速實(shí)現(xiàn)創(chuàng)意。該系統(tǒng)以簡(jiǎn)潔而功能強(qiáng)大的界面為起點(diǎn)，使用戶(hù)能夠通過(guò)簡(jiǎn)單的幾筆操作表達(dá)他們的想法，如插入元素、擦除對(duì)象、改變顏色等。這些交互由多模態(tài)大型語(yǔ)言模型（MLLM）實(shí)時(shí)監(jiān)控，以預(yù)測(cè)用戶(hù)意圖，無(wú)需輸入提示。最后，我們應(yīng)用強(qiáng)大的擴(kuò)散先驗(yàn)，通過(guò)精心學(xué)習(xí)的雙分支插件模塊，精確控制編輯請(qǐng)求。

  • Knowing:革命性的樹(shù)狀視圖應(yīng)用，與AI直接協(xié)作，組織和互動(dòng)你的想法。

    Knowing?是一個(gè)創(chuàng)新的樹(shù)狀視圖應(yīng)用，它改變了組織和與想法互動(dòng)的方式。通過(guò)層次結(jié)構(gòu)直接與AI協(xié)作，確保用戶(hù)始終能看到全貌。產(chǎn)品以其極簡(jiǎn)界面、樹(shù)狀視圖、AI集成、用戶(hù)自定義動(dòng)作和功能、輕松重組、協(xié)作和云存儲(chǔ)、免費(fèi)且無(wú)與倫比的靈活性等特點(diǎn)，成為思考者、作家、頭腦風(fēng)暴者、商業(yè)開(kāi)發(fā)者和創(chuàng)作者的終極工具。它集成了結(jié)構(gòu)化知識(shí)管理與強(qiáng)大的AI協(xié)作，使用戶(hù)能夠以無(wú)與倫比的便捷和靈活性組織、創(chuàng)新和創(chuàng)造。

  • AI Sound Effect Generator:AI聲音效果生成器，快速創(chuàng)建高質(zhì)量聲音效果

    AI Sound Effect Generator是一個(gè)利用人工智能技術(shù)創(chuàng)建和操作各種聲音效果的工具。它能夠生成從環(huán)境聲音、機(jī)器噪音到動(dòng)物叫聲等各種音頻效果，使用先進(jìn)的算法和機(jī)器學(xué)習(xí)技術(shù)。這個(gè)工具的主要優(yōu)點(diǎn)包括快速創(chuàng)建定制和逼真的聲音效果，節(jié)省時(shí)間和資源，通過(guò)自動(dòng)化聲音設(shè)計(jì)過(guò)程提供大量高質(zhì)量的音頻效果。它適合于電影、視頻游戲、音樂(lè)制作和多媒體項(xiàng)目中的聲音設(shè)計(jì)。

  • Kagi Translate:跨244種語(yǔ)言的精準(zhǔn)翻譯工具

    Kagi Translate是一個(gè)提供精確翻譯服務(wù)的網(wǎng)站，它使用先進(jìn)的語(yǔ)言模型支持244種語(yǔ)言之間的翻譯。用戶(hù)可以通過(guò)在瀏覽器地址欄前添加'translate.kagi.com/'來(lái)翻譯任何網(wǎng)頁(yè)，或者將書(shū)簽工具拖到瀏覽器書(shū)簽欄，實(shí)現(xiàn)一鍵翻譯頁(yè)面上選定的文本或整個(gè)網(wǎng)頁(yè)。該產(chǎn)品以其高效的翻譯能力、廣泛的語(yǔ)言支持和便捷的使用方式，滿(mǎn)足了全球化背景下人們對(duì)多語(yǔ)言翻譯的需求。

  • Parafact:使用AI進(jìn)行寫(xiě)作事實(shí)核查

    Parafact是一個(gè)利用人工智能技術(shù)進(jìn)行文本事實(shí)核查的平臺(tái)。它能夠?qū)崟r(shí)識(shí)別人類(lèi)或AI撰寫(xiě)文本中的不準(zhǔn)確之處，并提供可靠的來(lái)源。產(chǎn)品背景信息表明，Parafact旨在提高信息的準(zhǔn)確性和可靠性，特別是在信息泛濫的互聯(lián)網(wǎng)時(shí)代。產(chǎn)品價(jià)格分為三個(gè)檔次，滿(mǎn)足不同用戶(hù)的需求，從個(gè)人用戶(hù)到大型組織。

  • Earth Copilot:https//science.nasa.gov/earth

    NASA’s new Earth Copilot 是一個(gè)結(jié)合了微軟AI能力的創(chuàng)新工具，旨在簡(jiǎn)化對(duì)復(fù)雜地球科學(xué)數(shù)據(jù)的訪(fǎng)問(wèn)和分析。通過(guò)使用Azure OpenAI Service，Earth Copilot 使得用戶(hù)能夠通過(guò)自然語(yǔ)言查詢(xún)與NASA的地球科學(xué)數(shù)據(jù)進(jìn)行交互，極大地降低了技術(shù)門(mén)檻，使得科學(xué)家、教育工作者、政策制定者和公眾都能輕松訪(fǎng)問(wèn)和利用這些數(shù)據(jù)。這一工具的開(kāi)發(fā)符合NASA的開(kāi)放科學(xué)計(jì)劃，旨在使科學(xué)研究更加透明、包容和協(xié)作，通過(guò)消除數(shù)據(jù)發(fā)現(xiàn)的障礙，為新的發(fā)現(xiàn)時(shí)代鋪平道路。

  • Jazon lyzr:全球首個(gè)真正智能的AI銷(xiāo)售開(kāi)發(fā)代表

    Jazon是一款A(yù)I驅(qū)動(dòng)的銷(xiāo)售開(kāi)發(fā)代表(SDR)工具，它通過(guò)結(jié)合人工智能、自動(dòng)化和智能集成來(lái)簡(jiǎn)化整個(gè)銷(xiāo)售流程。Jazon不僅管理電子郵件活動(dòng)，還進(jìn)行深入研究、個(gè)性化溝通和后續(xù)跟進(jìn)，實(shí)現(xiàn)端到端的自動(dòng)化，減少人工干預(yù)的需求。Jazon的主要優(yōu)點(diǎn)包括高度定制化、隱私保護(hù)和無(wú)縫集成，旨在滿(mǎn)足獨(dú)特的業(yè)務(wù)需求。它通過(guò)持續(xù)學(xué)習(xí)和適應(yīng)，優(yōu)化銷(xiāo)售策略，提供詳細(xì)的報(bào)告和洞察，幫助企業(yè)提高效率和轉(zhuǎn)化率。

  • .NET 9:，跨平臺(tái)開(kāi)發(fā)的最新力作。

    .NET 9是微軟推出的最新跨平臺(tái)開(kāi)發(fā)框架，它集成了數(shù)千項(xiàng)性能、安全性和功能改進(jìn)，使得開(kāi)發(fā)者能夠以統(tǒng)一的平臺(tái)構(gòu)建應(yīng)用程序，并輕松地將AI融入應(yīng)用。.NET 9不僅提升了運(yùn)行時(shí)性能，還增強(qiáng)了對(duì)AI的支持，改進(jìn)了ASP.NET Core和Blazor框架，以及對(duì).NET MAUI的多平臺(tái)應(yīng)用開(kāi)發(fā)進(jìn)行了增強(qiáng)。

今日大家都在搜的詞：

熱文

  • 3 天
  • 7天

站長(zhǎng)商機(jī)

廣告