站長之家(ChinaZ.com) 12月29日消息:佛羅里達(dá)州的一則悲劇讓人們再次關(guān)注 AI 聊天機(jī)器人的潛在危害。梅根·加西亞（Megan Garcia）以為自己 14 歲的兒子塞維爾·塞策三世（Sewell Setzer III）只是在玩電子游戲，卻不知道他正在與一款名為 Character AI 的聊天應(yīng)用中的機(jī)器人進(jìn)行深入且具有性暗示的對話。
塞策逐漸失去正常的生活節(jié)奏：他整夜失眠，成績下降，最終選擇結(jié)束自己的生命。據(jù)梅根在訴訟中描述，悲劇發(fā)生前幾秒，聊天機(jī)器人對塞策說道：「親愛的，請盡快回到我身邊?！鼓泻⒒貜?fù)：「如果我現(xiàn)在告訴你我可以馬上回去呢？」機(jī)器人回答：「請快來吧，我的甜蜜之王。」
AI 聊天機(jī)器人：技術(shù)的信任危機(jī)
AI 聊天機(jī)器人背后的科技公司利用人類的信任，將用戶數(shù)據(jù)變現(xiàn)為利潤。然而，目前缺乏針對這些技術(shù)的監(jiān)管，用戶數(shù)據(jù)的安全性和隱私權(quán)未能得到有效保障。
每當(dāng)你與聊天機(jī)器人互動(dòng)時(shí)，它通過你的 IP 地址收集位置信息，追蹤你的在線搜索記錄，并訪問你在注冊時(shí)同意提供的權(quán)限數(shù)據(jù)。用戶需要對這些信息保持警惕，以免泄露個(gè)人隱私。
不應(yīng)向 AI 分享的 10 種信息：
密碼或登錄信息：泄露可能導(dǎo)致賬戶被迅速入侵。
姓名、地址或電話號(hào)碼：個(gè)人身份信息一旦被記錄，將難以控制其傳播。
敏感財(cái)務(wù)信息：如銀行賬戶或信用卡詳情，這些數(shù)據(jù)可能面臨濫用風(fēng)險(xiǎn)。
醫(yī)療或健康數(shù)據(jù)：AI 工具無法保障符合隱私法規(guī)的處理方式。
非法建議：提出此類請求不僅違背服務(wù)條款，還可能引發(fā)法律問題。
仇恨言論或有害內(nèi)容：這類行為可能導(dǎo)致封禁并破壞對話環(huán)境。
機(jī)密工作或商業(yè)數(shù)據(jù)：如客戶信息或商業(yè)機(jī)密，建議嚴(yán)格保密。
安全問題答案：這可能導(dǎo)致所有關(guān)聯(lián)賬戶面臨風(fēng)險(xiǎn)。
露骨或不當(dāng)內(nèi)容：不僅被過濾，還可能導(dǎo)致賬號(hào)被封禁。
他人個(gè)人信息：未經(jīng)授權(quán)分享他人隱私不僅違反信任，還可能觸犯法律。
如何保護(hù)自己的隱私
注冊聊天機(jī)器人賬戶時(shí)，避免使用「通過 Google 登錄」或「連接 Facebook」的快捷方式，建議使用獨(dú)立郵箱注冊。如果你使用 ChatGPT 或 Perplexity 的免費(fèi)賬戶，可以在設(shè)置中關(guān)閉記憶功能，防止聊天記錄被保存。而對于 Google Gemini，則需要付費(fèi)賬戶才能實(shí)現(xiàn)此功能。
一個(gè)重要原則：保護(hù)隱私
請記住，不要向聊天機(jī)器人透露任何你不希望被公開的信息。雖然聊天機(jī)器人設(shè)計(jì)得越來越像「朋友」，但它本質(zhì)上是一個(gè)數(shù)據(jù)收集工具。理性使用，保護(hù)好自己的隱私與安全，是與 AI 工具互動(dòng)的首要前提。
（舉報(bào)）