站長之家(ChinaZ.com) 7月25日 消息:美國白宮于7月21日發(fā)布的一份情況說明書正式披露，一些在美國運營的最大的生成式人工智能公司計劃為其內(nèi)容添加水印。亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 就生成式人工智能的使用和監(jiān)督（包括水?。┻_成了八項自愿承諾。
此前，白宮在三月份發(fā)表了一份聲明，表達了對人工智能濫用的擔(dān)憂。此外，自2022年11月ChatGPT將人工智能內(nèi)容置于公眾視野以來，監(jiān)管機構(gòu)正在制定管理生成式人工智能對技術(shù)以及人們與其互動方式的影響的程序。
白宮人工智能的八項安全承諾包括:
人工智能系統(tǒng)發(fā)布前的內(nèi)部和外部安全測試。
在整個行業(yè)以及與政府、民間社會和學(xué)術(shù)界共享有關(guān)管理人工智能風(fēng)險的信息。
投資網(wǎng)絡(luò)安全和內(nèi)部威脅防護措施，特別是保護模型權(quán)重，這會影響人工智能模型關(guān)聯(lián)的偏見和概念。
鼓勵第三方發(fā)現(xiàn)和報告其人工智能系統(tǒng)中的漏洞。
公開報告所有人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不適當(dāng)使用的領(lǐng)域。
優(yōu)先研究偏見和隱私。
幫助將人工智能用于癌癥研究等有益目的。
開發(fā)強大的水印技術(shù)機制。
水印承諾涉及生成人工智能公司開發(fā)一種將文本、音頻或視覺內(nèi)容標(biāo)記為機器生成的方法;它將適用于水印系統(tǒng)鎖定后創(chuàng)建的任何公開可用的生成人工智能內(nèi)容。由于水印系統(tǒng)尚未創(chuàng)建，因此判斷內(nèi)容是否由人工智能生成的標(biāo)準(zhǔn)方法將公開可用還需要一段時間。
此舉是為了解決目前 AI 技術(shù)面臨的一些重要問題，如偏見、不可靠性和潛在的危險性。通過這些保證，公司將能夠更好地管理和控制 AI 系統(tǒng)的風(fēng)險，確保其在使用過程中不會對人類造成傷害。這份清單的發(fā)布得到了業(yè)界的廣泛關(guān)注和贊賞，被認(rèn)為是 AI 安全領(lǐng)域的重要一步。
（舉報）