站長(zhǎng)之家(ChinaZ.com) 4月19日消息:據(jù)彭博消息，根據(jù)以色列網(wǎng)絡(luò)風(fēng)險(xiǎn)公司 Team8 的一份報(bào)告，使用 ChatGPT 等生成式人工智能工具的公司可能會(huì)將客戶的機(jī)密信息和商業(yè)秘密置于危險(xiǎn)之中。

該報(bào)告說(shuō)，新的人工智能聊天機(jī)器人和寫(xiě)作工具的廣泛采用可能使公司容易受到數(shù)據(jù)泄露和訴訟的影響。人們擔(dān)心的是，聊天機(jī)器人可能被黑客利用，獲取敏感的公司信息或?qū)静扇⌒袆?dòng)。還有人擔(dān)心，現(xiàn)在輸入聊天機(jī)器人的機(jī)密信息將來(lái)可能會(huì)被人工智能公司利用。

包括微軟公司和 Alphabet 公司在內(nèi)的主要技術(shù)公司正在競(jìng)相增加生成式人工智能能力，以改善聊天機(jī)器人和搜索引擎，在從互聯(lián)網(wǎng)上搜刮的數(shù)據(jù)上訓(xùn)練他們的模型，為用戶提供一站式的查詢(xún)服務(wù)。報(bào)告說(shuō)，如果這些工具被輸入機(jī)密或私人數(shù)據(jù)，那么要消除這些信息將是非常困難的。

「企業(yè)使用 GenAI 可能會(huì)導(dǎo)致通過(guò)用戶直接輸入或 API 訪問(wèn)和處理敏感信息、知識(shí)產(chǎn)權(quán)、源代碼、商業(yè)秘密和其他數(shù)據(jù)，包括客戶或私人信息和機(jī)密信息，」報(bào)告說(shuō)，將風(fēng)險(xiǎn)列為 「高」。如果引入適當(dāng)?shù)谋Ｕ洗胧?，它將風(fēng)險(xiǎn)描述為「可控」。

Team8 的報(bào)告強(qiáng)調(diào)，聊天機(jī)器人的查詢(xún)并沒(méi)有被送入大型語(yǔ)言模型來(lái)訓(xùn)練人工智能，這與最近關(guān)于這種提示有可能被他人看到的報(bào)道相悖。「截至目前，大型語(yǔ)言模型不能實(shí)時(shí)更新自己，因此不能將一個(gè)人的輸入返回到另一個(gè)人的回應(yīng)，有效地駁斥了這種擔(dān)憂。然而，對(duì)于這些模型的未來(lái)版本的訓(xùn)練來(lái)說(shuō)，這不一定是真的，」它說(shuō)。

該文件指出了整合生成式人工智能工具的其他三個(gè)「高風(fēng)險(xiǎn)」問(wèn)題，并強(qiáng)調(diào)了越來(lái)越多的信息通過(guò)第三方應(yīng)用程序共享的高度威脅。微軟已經(jīng)在其必應(yīng)搜索引擎和微軟 365 工具中嵌入了一些人工智能聊天機(jī)器人功能。它說(shuō)：「例如，在用戶方面，利用 GenAI API 的第三方應(yīng)用程序，如果被破壞，有可能提供對(duì)電子郵件和網(wǎng)絡(luò)瀏覽器的訪問(wèn)，攻擊者還有可能冒充用戶采取行動(dòng)。

Team8 認(rèn)為，使用生成式人工智能有一個(gè)「中等風(fēng)險(xiǎn)」，即可能增加歧視，損害公司的聲譽(yù)，或使其面臨版權(quán)問(wèn)題的法律訴訟。

微軟公司副總裁 Ann Johnson 參與了該報(bào)告的起草工作。微軟已經(jīng)向 ChatGPT 的開(kāi)發(fā)商 OpenAI 投資了數(shù)十億美元。微軟發(fā)言人說(shuō)：「微軟鼓勵(lì)在安全和人工智能社區(qū)對(duì)不斷變化的網(wǎng)絡(luò)風(fēng)險(xiǎn)進(jìn)行透明討論?！?/span>

數(shù)十個(gè)美國(guó)公司的首席信息安全官也被列為該報(bào)告的貢獻(xiàn)者。Team8 的報(bào)告還得到了美國(guó)國(guó)家安全局和美國(guó)網(wǎng)絡(luò)司令部前負(fù)責(zé)人的認(rèn)可。

（舉報(bào)）