站長之家(ChinaZ.com) 7 月 21 日消息:英偉達（Nvidia）和法國初創(chuàng)公司 Mistral AI 日前聯(lián)合宣布推出一款新語言模型，旨在將強大的 AI 功能直接帶到企業(yè)桌面。這款名為 Mistral-NeMo的模型擁有 120 億個參數(shù)和 128，000 個 Token 上下文窗口，是尋求在不依賴大量云資源的情況下實施 AI 解決方案的企業(yè)的強大工具。
Nvidia 應(yīng)用深度學(xué)習(xí)研究副總裁 Bryan Catanzaro 在接受媒體采訪時強調(diào)了該模型的可訪問性和高效性。他說：「我們與 Mistral 共同訓(xùn)練了一款 120 億參數(shù)的模型，并將其以 Apache 2.0 許可發(fā)布。我們對該模型在許多任務(wù)中的準確性非常滿意?！?/p>
Nvidia 作為 GPU 制造和 AI 硬件領(lǐng)域的巨頭，與歐洲 AI 新星 Mistral AI 的合作，標志著 AI 行業(yè)在企業(yè)解決方案方面的重大轉(zhuǎn)變。通過專注于更小但功能強大的模型，這一合作旨在讓更多企業(yè)能夠接觸到先進的 AI 技術(shù)。
在巨人之間的小人物：小型模型如何改變游戲規(guī)則
Catanzaro 進一步解釋了小型模型的優(yōu)勢：「小型模型顯然更易于獲取和運行，商業(yè)模式也可以不同，因為人們可以在自己的系統(tǒng)上運行這些模型。實際上，這個模型可以在許多人已經(jīng)擁有的 RTX GPU 上運行。」
這一發(fā)展正值 AI 行業(yè)的關(guān)鍵時刻。雖然目前大量關(guān)注集中在像 OpenAI 的 GPT-4 這樣擁有數(shù)百億參數(shù)的巨大模型上，但越來越多的人對能夠在企業(yè)硬件上本地運行的高效模型產(chǎn)生興趣。這一轉(zhuǎn)變主要是因為數(shù)據(jù)隱私、低延遲需求以及更具成本效益的 AI 解決方案等因素。
Mistral-NeMo 的 128，000 個 Token 上下文窗口是其一大亮點，使該模型能夠處理和理解比許多競爭對手更大的文本塊。Catanzaro 表示：「我們認為長上下文能力對許多應(yīng)用非常重要。如果它們可以避免微調(diào)，那就使得部署更加簡單?！?/strong>
長短之分：上下文在 AI 中的重要性
這一擴展的上下文窗口對處理長文檔、復(fù)雜分析或復(fù)雜編碼任務(wù)的企業(yè)非常有用。它可能消除頻繁的上下文刷新需求，從而帶來更連貫和一致的輸出。
該模型的高效性和本地部署能力可能會吸引那些互聯(lián)網(wǎng)連接有限或有嚴格數(shù)據(jù)隱私要求的企業(yè)。然而，Catanzaro 澄清了該模型的預(yù)期使用情況：「我認為更多是針對筆記本電腦和臺式機，而不是智能手機?！?/p>
這種定位表明，雖然 Mistral-NeMo 將 AI 帶到個人企業(yè)用戶的身邊，但它還沒有達到移動設(shè)備部署的階段。
行業(yè)分析師認為，這一發(fā)布可能會顯著擾亂 AI 軟件市場。Mistral-NeMo 的推出可能會改變企業(yè) AI 部署的方式。通過提供一個可以在本地硬件上高效運行的模型，Nvidia 和 Mistral AI 正在解決企業(yè)在廣泛采用 AI 時面臨的許多問題，如數(shù)據(jù)隱私、延遲和高昂的云解決方案成本。
這一舉措可能使資源有限的小企業(yè)也能利用以前只有大型企業(yè)才能使用的 AI 能力。然而，這一發(fā)展的真正影響將取決于模型在實際應(yīng)用中的表現(xiàn)以及圍繞它的工具和支持生態(tài)系統(tǒng)的發(fā)展。
該模型目前以 NVIDIA NIM 推理微服務(wù)的形式提供，并且很快將推出可下載版本。其 Apache 2.0 許可允許商業(yè)使用，這可能會加速其在企業(yè)中的采用。
民主化 AI：將智能帶到每一個桌面的競賽
隨著各行業(yè)企業(yè)繼續(xù)努力將 AI 整合到運營中，像 Mistral-NeMo 這樣的模型代表了更高效、可部署的 AI 解決方案的趨勢。是否會挑戰(zhàn)大型云模型的主導(dǎo)地位還有待觀察，但它無疑為企業(yè)中的 AI 集成開辟了新的可能性。
Catanzaro 在采訪中以展望未來的聲明總結(jié)道：「我們相信，這個模型代表了讓 AI 對各類企業(yè)更可訪問和實用的方向的重要一步。這不僅是關(guān)于模型的強大能力，還在于將這種能力直接交到可以用它來推動日常運營中創(chuàng)新和效率的人們手中?！?/p>
隨著 AI 領(lǐng)域的不斷發(fā)展，Mistral-NeMo 的發(fā)布標志著為企業(yè)提供更可訪問、高效和強大的 AI 工具方面的重要里程碑。這將如何影響更廣泛的 AI 生態(tài)系統(tǒng)還有待觀察，但可以肯定的是：將 AI 能力更接近最終用戶的競賽正在升溫，Nvidia 和 Mistral AI 已經(jīng)在這一方向上邁出了大膽的一步。
（舉報）
