【新智元導(dǎo)讀】ChatGPT橫空出世后，RLHF成為研究人員關(guān)注的焦點。谷歌最新研究提出，不用人類標(biāo)注，AI標(biāo)注偏好后，也能取得與RLHF一樣的效果。如果說，RLHF中的「人類」被取代，可行嗎?谷歌團(tuán)隊的最新研究提出了，用大模型替代人類，進(jìn)行偏好標(biāo)注，也就是AI反饋強化學(xué)習(xí)（RLAIF）
......
本文由站長之家合作伙伴自媒體作者“新智元公眾號”授權(quán)發(fā)布于站長之家平臺，本平臺僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時間超過平臺更新維護(hù)時間，為了保證文章信息的及時性，內(nèi)容觀點的準(zhǔn)確性，平臺將不提供完全的內(nèi)容展現(xiàn)，本頁面內(nèi)容僅為平臺搜索索引使用。需閱讀完整內(nèi)容的用戶，請查看原文，獲取內(nèi)容詳情。
（舉報）
OpenAI連續(xù)12日圣誕發(fā)布”終于迎來激動人心的大結(jié)局，OpenAI推出重磅收官新品，其迄今最強前沿推理模型的升級版o3。OpenAI號稱o3在一些條件下接近通用人工智能，共有o3和精簡版o3-mini兩個版本。12、o1下一代模型o3亮相，推出兩個版本，正式版o3以及精簡版o3-mini。
快科技12月24日消息，360公司創(chuàng)始人周鴻祎今日分享了他對AI的最新見解。他提醒公眾，在過去的十二天里，人類及全球的命運或許已悄然發(fā)生了變化，但許多人尚未意識到這一點。在這短短的十二天內(nèi)，幾家國際科技巨頭在人工智能領(lǐng)域展開了一場激烈的競爭。據(jù)周鴻祎觀察，人工智能正以前所未有的速度接近甚至超越人類的某些能力極限。它在邏輯推理、問題解決以及模仿?
2024年諾貝爾物理學(xué)獎得主、素有AI教父”之稱的辛頓表示，AI有10%-20%可能性在未來30年內(nèi)導(dǎo)致人類滅亡。當(dāng)主持人詢問辛頓對可能出現(xiàn)的AI末日和10%發(fā)生機(jī)率是否有變化時，辛頓稱沒什么變化是10%到20%?！?，唯一能迫使這些大型公司投入更多資源進(jìn)行安全研究，正是政府的監(jiān)管。
科技企業(yè)家埃隆·馬斯克在社交媒體上分享了他對人工智能未來發(fā)展的預(yù)測，其觀點引發(fā)了廣泛關(guān)注。馬斯克認(rèn)為，AI的發(fā)展速度超出了人類的認(rèn)知速度，他預(yù)言到2025年底，AI的智力水平將超過任何單一的人類個體。馬斯克的預(yù)測和Hassabis的警告，共同勾勒出了AI發(fā)展的雙重圖景，既有巨大的潛力也有不可忽視的風(fēng)險。
SpaceX航天公司創(chuàng)始人埃隆?馬斯克認(rèn)為，火星殖民后應(yīng)按直接民主原則管理。馬斯克在回答X社交網(wǎng)絡(luò)用戶關(guān)于火星將以何種方式管理的問題時寫道：火星人將決定他們將有什么樣的管理。今年9月，馬斯克表示，人類應(yīng)掌握星際飛行，否則未來人類可能會因為太陽膨脹或地球與小行星相撞消失。
知識密集型工作也敗了!大型語言模型在預(yù)測神經(jīng)科學(xué)結(jié)果方面超越了人類專家，平均準(zhǔn)確率達(dá)到81%人類專家僅為63%;模型通過整合大量文獻(xiàn)數(shù)據(jù)，展現(xiàn)出了驚人的前瞻性預(yù)測能力，預(yù)示著未來科研工作中人機(jī)協(xié)作的巨大潛力。在現(xiàn)代化工具的幫助下，科研人員的群體規(guī)模、效率都有顯著提升，發(fā)表科學(xué)文獻(xiàn)的數(shù)量幾乎是呈指數(shù)級增長人類的閱讀效率卻幾乎沒有提升，新入行的研
奇點將至?奧特曼再次釋放「六字」神秘信號!谷歌文檔之父、機(jī)器學(xué)習(xí)博士紛紛預(yù)測，AGI降臨那天，95%人類工作或被AI取代。奇點又進(jìn)了一步?!昨天，OpenAI智能體安全研究員StephenMcAleer突然發(fā)出一番感慨:緊隨其后，奧特曼發(fā)表了意味深長的「六字箴言」:nearthesingularity;unclearwhichside——奇點臨近;不知身處何方。從道德上講，公司應(yīng)該與公眾分享計劃中的細(xì)節(jié)，尤其是影響力更大的A
2024年諾貝爾物理學(xué)獎得主、被譽為“AI教父”的杰弗里·辛頓在BBC廣播4臺的《今日》節(jié)目中提出警告，他認(rèn)為在未來三十年內(nèi)，人工智能導(dǎo)致人類滅亡的概率可能在10%到20%之間。人工智能的發(fā)展速度“非常非?？?，比我預(yù)期的要快得多”，并強調(diào)這一變化速度遠(yuǎn)超預(yù)期。辛頓的言論提醒我們，在享受人工智能帶來的便利和進(jìn)步的同時，也需要對其潛在的風(fēng)險保持警覺，并采取相應(yīng)的預(yù)防措施。
近日在過圣誕節(jié)的全球首富馬斯克，周三在X平臺上發(fā)布的兩條推文，再度聚焦全球生育率下降的嚴(yán)峻問題。馬斯克在其中一則推文中寫道，日本人口目前每年減少近100萬”。鼓勵生育的馬斯克曾表示，聯(lián)合國對人口增長的預(yù)測是一派胡言”。
根據(jù)OpenAI公布的數(shù)據(jù)顯示，新模型o3在Codeforces上的評級為2727，比全球99.8%程序員都要好。如果轉(zhuǎn)化為智商大約在157，歷史上的愛因斯坦還能與AI較量一下。同時很多困擾人類幾十年甚至上百年的數(shù)學(xué)、物理難題都可能得到解決。
