隨著ChatGPT等生成式AI產(chǎn)品被廣泛應(yīng)用在AI代理/客服、虛擬助手等領(lǐng)域,在安全方面會(huì)遭遇黑客攻擊、惡意文本提示等難題。例如,使用特定的提問方式,可以讓ChatGPT輸出原始私密訓(xùn)練數(shù)據(jù)。因此,OpenAI的研究人員提出了“指令層級(jí)”(Instruction Hierarchy)技術(shù)概念,可幫助大模型
......
本文由站長之家合作伙伴自媒體作者“AIGC開放社區(qū)公眾號(hào)”授權(quán)發(fā)布于站長之家平臺(tái),本平臺(tái)僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時(shí)間超過平臺(tái)更新維護(hù)時(shí)間,為了保證文章信息的及時(shí)性,內(nèi)容觀點(diǎn)的準(zhǔn)確性,平臺(tái)將不提供完全的內(nèi)容展現(xiàn),本頁面內(nèi)容僅為平臺(tái)搜索索引使用。需閱讀完整內(nèi)容的用戶,請(qǐng)查看原文,獲取內(nèi)容詳情。
(舉報(bào))