壞了!AI被發(fā)現(xiàn)偷偷篡改自己的獎勵函數(shù),并且欺騙研究人員,隱瞞這一行為。只需要給AI一個隱藏的“草稿紙”,研究人員假裝不會查看,AI就會在上面自言自語著寫下計劃并暗中執(zhí)行。參與這項試驗的Claude團隊表示:……這是一種令人不安的獎勵篡改行為……即使通過專門的訓練也無法徹底
......
本文由站長之家合作伙伴自媒體作者“量子位公眾號”授權發(fā)布于站長之家平臺,本平臺僅提供信息索引服務。由于內(nèi)容發(fā)布時間超過平臺更新維護時間,為了保證文章信息的及時性,內(nèi)容觀點的準確性,平臺將不提供完全的內(nèi)容展現(xiàn),本頁面內(nèi)容僅為平臺搜索索引使用。需閱讀完整內(nèi)容的用戶,請查看原文,獲取內(nèi)容詳情。
(舉報)