要點(diǎn):

1、TOFU框架包含遺忘、數(shù)據(jù)集、評估等多個模塊，提升大模型的安全性。

2、TOFU數(shù)據(jù)集幫助深入理解大模型的遺忘過程，并提供全新的評估方案。

3、TOFU的遺忘模塊可以幫助開發(fā)者移除敏感數(shù)據(jù)，使大模型在行為上表現(xiàn)得好像從未學(xué)習(xí)過這些遺忘數(shù)據(jù)一樣。

站長之家（ChinaZ.com）1月19日 消息:TOFU框架是一個旨在提升大模型安全性的工具，由卡內(nèi)基梅隆大學(xué)研究人員開發(fā)。該框架包含遺忘、數(shù)據(jù)集、評估等多個模塊，幫助開發(fā)者提升大模型的安全性。

項(xiàng)目地址:https://top.aibase.com/tool/tofu

論文地址:https://arxiv.org/pdf/2401.06121.pdf

TOFU數(shù)據(jù)集則致力于幫助開發(fā)人員更深入地理解大模型的遺忘過程，并提供了全新的評估方案，涵蓋了遺忘質(zhì)量和模型效用兩個方面的比較。TOFU的遺忘模塊可以幫助開發(fā)者從大語言模型中移除敏感數(shù)據(jù)，使其在行為上表現(xiàn)得好像從未學(xué)習(xí)過這些遺忘數(shù)據(jù)一樣。

TOFU框架的核心功能之一是遺忘模塊，它可以幫助開發(fā)者從大語言模型中移除敏感數(shù)據(jù)，使其在行為上表現(xiàn)得好像從未學(xué)習(xí)過這些遺忘數(shù)據(jù)一樣。遺忘模塊需要根據(jù)遺忘集的數(shù)據(jù)對模型進(jìn)行調(diào)整，以實(shí)現(xiàn)遺忘效果。

主要包含參數(shù)調(diào)整和樣本選擇兩種方法。參數(shù)調(diào)整通過修改模型的參數(shù)，重新訓(xùn)練模型以減少對遺忘集的依賴性，達(dá)到遺忘敏感信息的效果。而樣本選擇則是通過選擇性地使用遺忘數(shù)據(jù)集的樣本，以逐漸遺忘與這些樣本相關(guān)的敏感信息或相關(guān)性進(jìn)行篩選，以便更有針對性地移除敏感數(shù)據(jù)。

綜上所述，TOFU框架的發(fā)布為大模型的安全性提供了有力支持，其包含的數(shù)據(jù)集和評估方案為開發(fā)者提供了更多的工具和方法來保護(hù)用戶隱私數(shù)據(jù)。遺忘模塊的實(shí)現(xiàn)更是為大模型的安全應(yīng)用提供了切實(shí)可行的解決方案。這一框架的開源將為整個領(lǐng)域的發(fā)展帶來新的動力和方向。

（舉報(bào)）