聲明：本文來(lái)自微信公眾號(hào)“新智元”，作者:LRS，，授權(quán)站長(zhǎng)之家轉(zhuǎn)載發(fā)布。

AI技術(shù)日新月異，像Netflix這樣的大公司已經(jīng)開(kāi)始用AI制作特效，而新的AI模型也在游戲和科學(xué)研究中超越了人類(lèi)。未來(lái)一年，我們可能會(huì)看到?jīng)]有編程技能的人也能創(chuàng)造熱門(mén)應(yīng)用，甚至AI創(chuàng)作的歌曲也可能登上音樂(lè)排行榜前十。

AI發(fā)展之勢(shì)迅猛，從技術(shù)、政策到產(chǎn)品風(fēng)險(xiǎn)，相比從前都有了很大變化。

最近，State of AI發(fā)布了2024產(chǎn)業(yè)報(bào)告，也是調(diào)研團(tuán)隊(duì)發(fā)布的第七份年度報(bào)告，從研究進(jìn)展、行業(yè)局勢(shì)、現(xiàn)有政策、安全問(wèn)題、未來(lái)預(yù)測(cè)等角度出發(fā)，對(duì)人工智能行業(yè)的現(xiàn)狀和預(yù)期進(jìn)行了深度分析。

報(bào)告鏈接:https://docs.google.com/presentation/d/1GmZmoWOa2O92BPrncRcTKa15xvQGhq7g4I4hJSNlC0M/edit?usp=sharing

報(bào)告主要關(guān)注以下內(nèi)容:

1. 前沿實(shí)驗(yàn)室的性能開(kāi)始趨同，專(zhuān)有模型的優(yōu)勢(shì)逐漸消失，GPT-4與其他模型之間的差距正在縮小。OpenAI的o1模型再次讓實(shí)驗(yàn)室在排行榜上名列前茅，但還能持續(xù)多久呢?

2. 規(guī)劃和推理在大型語(yǔ)言模型（LLM）研究中占據(jù)了優(yōu)先地位，各公司正在探索將LLM與強(qiáng)化學(xué)習(xí)、進(jìn)化算法和自我改進(jìn)相結(jié)合，以解鎖未來(lái)的智能體應(yīng)用。

3. 基礎(chǔ)模型展示了它們突破語(yǔ)言的能力，支持跨數(shù)學(xué)、生物學(xué)、基因組學(xué)、物理科學(xué)和神經(jīng)科學(xué)的多模態(tài)研究。

4. 美國(guó)對(duì)中國(guó)實(shí)驗(yàn)室實(shí)施的制裁對(duì)其生產(chǎn)高性能模型的能力影響有限，因?yàn)閹?kù)存、獲批硬件、走私和云訪問(wèn)的結(jié)合使國(guó)內(nèi)能夠構(gòu)建高性能的（V）LLM，但國(guó)內(nèi)的半導(dǎo)體產(chǎn)業(yè)發(fā)展仍然較為混亂。

5. 因?yàn)樯鲜泄窘?jīng)歷了人工智能曝光的牛市，人工智能公司的企業(yè)價(jià)值已達(dá)到9萬(wàn)億美元。對(duì)私營(yíng)人工智能公司的投資也有所增加，但盡管美國(guó)出現(xiàn)了GenAI巨額融資，增幅卻小了一個(gè)數(shù)量級(jí)。

6. 一些人工智能公司開(kāi)始產(chǎn)生可觀的收入，包括基礎(chǔ)模型構(gòu)建者和從事視頻和音頻生成的初創(chuàng)公司。然而，隨著模型作為企業(yè)搶占市場(chǎng)的一部分而變得更便宜，圍繞長(zhǎng)期可持續(xù)性的疑問(wèn)仍未得到解答。

7. 偽收購(gòu)成為人工智能公司的一條出路，因?yàn)橐恍┕倦y以找到可行的商業(yè)模式，因?yàn)楸３旨夹g(shù)領(lǐng)先的成本很高。

8. OpenAI未遂的政變之后，關(guān)于存在風(fēng)險(xiǎn)的討論已經(jīng)降溫。然而，研究人員一直在深化人們對(duì)潛在模型漏洞和濫用的了解，并提出了可能的修復(fù)措施和保障措施。

研究進(jìn)展

1. 前沿實(shí)驗(yàn)室的性能正在趨同，但OpenAI在推出o1后保持了其領(lǐng)先地位，規(guī)劃和推理成為主要的研究前沿。

2. 基礎(chǔ)模型展示了它們超越語(yǔ)言的能力，多模態(tài)研究推動(dòng)了數(shù)學(xué)、生物學(xué)、基因組學(xué)、物理科學(xué)和神經(jīng)科學(xué)的發(fā)展。

3. 美國(guó)的制裁并沒(méi)有阻止中國(guó)的大型語(yǔ)言模型（V）LLM在社區(qū)排行榜上的崛起。

行業(yè)局勢(shì)

1. 英偉達(dá)（NVIDIA）仍是全球最強(qiáng)大的公司之一，享受著市值達(dá)到3萬(wàn)億美元的輝煌時(shí)刻，而監(jiān)管機(jī)構(gòu)也正在調(diào)查生成式人工智能(GenAI)內(nèi)部的權(quán)力集中問(wèn)題。

2. 更成熟的GenAI公司帶來(lái)了數(shù)十億美元的收入，而初創(chuàng)公司開(kāi)始在視頻和音頻生成等領(lǐng)域獲得關(guān)注。盡管公司開(kāi)始從模型轉(zhuǎn)向產(chǎn)品，但圍繞定價(jià)和可持續(xù)性長(zhǎng)期問(wèn)題仍未解決。

3. 在公開(kāi)市場(chǎng)的牛市推動(dòng)下，人工智能公司的市值達(dá)到了9萬(wàn)億美元，而私營(yíng)公司的投資水平也在健康增長(zhǎng)。

現(xiàn)有政策

1. 雖然全球治理努力陷入僵局，但國(guó)家和地區(qū)的人工智能監(jiān)管繼續(xù)推進(jìn)，美國(guó)和歐盟通過(guò)了幾份有爭(zhēng)議的立法法案。

2. 計(jì)算需求的現(xiàn)實(shí)迫使大型科技公司面對(duì)擴(kuò)張的現(xiàn)實(shí)世界物理限制和排放目標(biāo)。與此同時(shí)，政府自身在建設(shè)能力方面的嘗試仍在落后。

3. 預(yù)期人工智能對(duì)選舉、就業(yè)和其他敏感領(lǐng)域的影響尚未實(shí)現(xiàn)。

安全問(wèn)題

1. 隨著之前警告我們?nèi)祟?lèi)滅絕即將到來(lái)的公司需要增加企業(yè)銷(xiāo)售和消費(fèi)者應(yīng)用程序的使用，從安全轉(zhuǎn)向加速的氛圍發(fā)生了變化。

2. 世界各地的政府模仿英國(guó)在人工智能安全方面建立國(guó)家能力，成立研究所并研究關(guān)鍵國(guó)家基礎(chǔ)設(shè)施的潛在漏洞。

3. 每一個(gè)提出的破解「修復(fù)」方案都失敗了，研究人員開(kāi)始關(guān)注更復(fù)雜、長(zhǎng)期的攻擊。

2025十大預(yù)測(cè)

預(yù)測(cè)覆蓋了人工智能領(lǐng)域的各個(gè)方面，從大型投資到無(wú)代碼應(yīng)用的興起，再到數(shù)據(jù)隱私和人工智能法規(guī)的實(shí)施，甚至還涉及了開(kāi)源技術(shù)的競(jìng)爭(zhēng)、市場(chǎng)領(lǐng)導(dǎo)者的挑戰(zhàn)、人形機(jī)器人的發(fā)展趨勢(shì)。

1. 一個(gè)主權(quán)國(guó)家向美國(guó)的大型人工智能實(shí)驗(yàn)室投資超過(guò)100億美元，引發(fā)國(guó)家安全審查。

2. 一個(gè)完全沒(méi)有編碼能力的人創(chuàng)建的應(yīng)用或網(wǎng)站走紅，比如進(jìn)入蘋(píng)果應(yīng)用商店前100名。

3. 前沿實(shí)驗(yàn)室在案件開(kāi)始審判后，對(duì)數(shù)據(jù)收集的實(shí)踐方式發(fā)生了重大轉(zhuǎn)變。

4. 早期歐盟人工智能法案的實(shí)施結(jié)果比預(yù)期的要寬松，立法者可能會(huì)擔(dān)心他們做得太過(guò)分了。

5. 開(kāi)源的OpenAI o1替代品在一系列推理基準(zhǔn)測(cè)試中實(shí)現(xiàn)超越。

6. 挑戰(zhàn)者未能在英偉達(dá)的市場(chǎng)地位上取得任何有意義的突破。

7. 由于公司難以實(shí)現(xiàn)產(chǎn)品市場(chǎng)契合，對(duì)人形機(jī)器人的投資水平將下降。

8. 蘋(píng)果在設(shè)備上的研究取得了強(qiáng)勁的成果，加速了圍繞個(gè)人設(shè)備上人工智能的勢(shì)頭。

9. 由人工智能科學(xué)家生成的研究論文被一個(gè)主要的機(jī)器學(xué)習(xí)會(huì)議或研討會(huì)接受。

10. 一個(gè)以「生成式人工智能」為元素互動(dòng)的視頻游戲?qū)?huì)取得突破性地位。

2023年度報(bào)告預(yù)測(cè)結(jié)果

正確預(yù)測(cè)

1. 好萊塢級(jí)別的制作公司開(kāi)始使用生成式人工智能來(lái)制作視覺(jué)特效。

證據(jù):雖然大部分效果還不理想，但生成式人工智能視覺(jué)特效已經(jīng)在Netflix和HBO的作品中出現(xiàn)。

2. 美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）或英國(guó)競(jìng)爭(zhēng)與市場(chǎng)管理局(CMA)基于競(jìng)爭(zhēng)理由調(diào)查微軟/OpenAI的交易。

證據(jù):兩個(gè)監(jiān)管機(jī)構(gòu)都在調(diào)查合作伙伴關(guān)系。

3. 在全球人工智能治理方面，進(jìn)展非常有限，會(huì)超出高層次的主動(dòng)承諾（high-level voluntary commitments）。

證據(jù):是的，來(lái)自布萊切利和首爾峰會(huì)的承諾仍然是自愿和高層次的。

4. 一首由人工智能創(chuàng)作的歌曲進(jìn)入公告牌Hot100前10名或Spotify2024年熱門(mén)榜單。

證據(jù):歌曲「Heart on My Sleeve」就是例子，也可以看到一首由人工智能創(chuàng)作的歌曲在德國(guó)中位列第27名，并保持了幾天。

5. 隨著推理工作負(fù)載和成本的顯著增長(zhǎng)，一家大型人工智能公司（例如OpenAI）收購(gòu)或建立了一個(gè)專(zhuān)注于推理的人工智能芯片公司。

證據(jù):據(jù)報(bào)道Sam Altman正在籌集大量資金來(lái)實(shí)現(xiàn)，而谷歌、亞馬遜、Meta和微軟等公司也在繼續(xù)構(gòu)建和改進(jìn)他們自己的人工智能芯片。

錯(cuò)誤預(yù)測(cè)

1. 有生成式人工智能媒體公司因其在2024年美國(guó)選舉期間的濫用行為受到調(diào)查。

解釋:目前還沒(méi)有，但讓子彈飛一會(huì)。

2. 自我改進(jìn)的人工智能智能體在復(fù)雜環(huán)境中（例如AAA級(jí)游戲、工具使用、科學(xué)探索）超越了現(xiàn)有技術(shù)的最高水平。

解釋:還沒(méi)有，盡管在開(kāi)放性方面有一些比較有前景的工作，如在游戲上的強(qiáng)勁表現(xiàn)。

3. 科技IPO市場(chǎng)解凍，至少看到一家以人工智能為重點(diǎn)的公司上市（例如DBRX）。

解釋:雖然the Magnificent Seven公司已經(jīng)獲得了強(qiáng)勁的增長(zhǎng)，但私營(yíng)公司仍在等待市場(chǎng)穩(wěn)定;人工智能芯片公司Cerebras已經(jīng)申請(qǐng)IPO。

4. 在生成式人工智能的擴(kuò)展熱潮中，有一個(gè)團(tuán)隊(duì)花費(fèi)超過(guò)10億美元來(lái)訓(xùn)練一個(gè)大規(guī)模模型。

解釋:還沒(méi)有完全達(dá)到，可以等明年再看看。

5. 金融機(jī)構(gòu)推出GPU債務(wù)基金，以取代風(fēng)險(xiǎn)投資股權(quán)美元用于計(jì)算資金。

解釋:還沒(méi)有，一些風(fēng)險(xiǎn)投資基金傳聞提供GPU以換取股權(quán)，但還沒(méi)見(jiàn)過(guò)有人走上債務(wù)路線。

參考資料:

https://x.com/nathanbenaich/status/1844263448831758767

https://www.stateof.ai/

（舉報(bào)）