據(jù)《紐約時(shí)報(bào)》報(bào)道，一位關(guān)心此事的父親稱(chēng)，在用他的Android智能手機(jī)拍攝了他的幼兒腹股溝感染的照片后，Google將這些圖片標(biāo)記為兒童性虐待材料(CSAM)。該公司關(guān)閉了他的賬戶(hù)并向美國(guó)家失蹤和被剝削兒童中心(NCMEC)提交了一份報(bào)告，這引發(fā)了警方的調(diào)查。

這一情況凸顯了在潛在虐待和無(wú)辜照片成為用戶(hù)數(shù)字圖書(shū)館的一部分后試圖區(qū)分兩者之間的復(fù)雜情況。

去年，當(dāng)蘋(píng)果宣布其兒童安全(Child Safety)計(jì)劃時(shí)，人們對(duì)模糊哪些內(nèi)容應(yīng)被視為隱私的后果表示關(guān)切。作為該計(jì)劃的一部分，蘋(píng)果將在蘋(píng)果設(shè)備上的圖像上傳到iCloud之前進(jìn)行本地掃描，然后將這些圖像跟NCMEC的已知CSAM哈希數(shù)據(jù)庫(kù)進(jìn)行匹配。如果發(fā)現(xiàn)足夠多的匹配，人類(lèi)管理員就會(huì)審查這些內(nèi)容，如果內(nèi)容包含CSAM則就會(huì)鎖定用戶(hù)的賬戶(hù)。

非營(yíng)利性數(shù)字權(quán)利--組織電子前沿基金會(huì)(EFF)抨擊了蘋(píng)果的計(jì)劃，稱(chēng)它可能會(huì)為用戶(hù)的私人生活打開(kāi)一個(gè)后門(mén)，“它代表了所有iCloud照片用戶(hù)隱私的減少而不是改進(jìn)”。

蘋(píng)果最終擱置了存儲(chǔ)圖像掃描部分，但隨著iOS 15.2的推出，它繼續(xù)在家庭共享計(jì)劃中推出了一個(gè)兒童賬戶(hù)的可選功能。如果父母選擇加入，那么在孩子的賬戶(hù)上，信息應(yīng)用會(huì)分析圖像附件并確定照片是否包含裸體與此同時(shí)保持信息的端到端加密。如果檢測(cè)到裸體，那么它將模糊圖像、為孩子顯示一個(gè)警告并向他們提供旨在幫助在線(xiàn)安全的資源。

《紐約時(shí)報(bào)》強(qiáng)調(diào)的主要事件發(fā)生在2021年2月，當(dāng)時(shí)由于COVID-19大流行，一些醫(yī)生辦公室仍在關(guān)閉。正如《紐約時(shí)報(bào)》所指出的，Mark（他的姓氏未被透露）注意到他孩子的生殖器區(qū)域有腫脹，并在一名護(hù)士的要求下在視頻咨詢(xún)前發(fā)送了該問(wèn)題的圖像。醫(yī)生最終開(kāi)出了治愈感染的抗生素。

據(jù)《紐約時(shí)報(bào)》報(bào)道，馬克在拍攝這些照片僅兩天后就收到了Google的通知，稱(chēng)他的賬戶(hù)被鎖定，原因是含有害內(nèi)容，這被認(rèn)為“嚴(yán)重違反了Google的政策，并可能是非法的”。

像許多互聯(lián)網(wǎng)公司一樣，包括Facebook、Twitter和Reddit，Google已經(jīng)使用微軟的PhotoDNA進(jìn)行哈希匹配以?huà)呙枭蟼鞯膱D片并檢測(cè)跟已知CSAM的匹配。

2018年，Google宣布推出其內(nèi)容安全API人工智能工具包，它可以主動(dòng)識(shí)別從未見(jiàn)過(guò)的CSAM圖像以便對(duì)其進(jìn)行審查，如果確認(rèn)為CSAM則盡快刪除并報(bào)告。它將該工具用于自己的服務(wù)，并跟YouTube工程師開(kāi)發(fā)的視頻目標(biāo)CSAI Match哈希匹配解決方案一起，同時(shí)也提供給其他人使用。

一位Google發(fā)言人告訴《紐約時(shí)報(bào)》，Google只在用戶(hù)采取肯定行動(dòng)時(shí)掃描用戶(hù)的個(gè)人圖像，這顯然包括將他們的照片備份到Google照片。該家媒體指出，當(dāng)Google標(biāo)記出剝削性圖片時(shí)，那么聯(lián)邦法律要求Google將潛在的犯罪者報(bào)告給NCMEC的CyberTipLine。2021年，Google向NCMEC的CyberTipLine報(bào)告了621,583起CSAM案件，而NCMEC向當(dāng)局提醒了4260名潛在受害者，《紐約時(shí)報(bào)》稱(chēng)這個(gè)名單包括Mark的兒子。

據(jù)報(bào)道，Mark最終失去了對(duì)他的電子郵件、聯(lián)系人、照片乃至他的電話(huà)號(hào)碼的訪(fǎng)問(wèn)權(quán)--因?yàn)樗褂肎oogle Fi的移動(dòng)服務(wù)。Mark立即試圖對(duì)Google的決定提出上訴，但Google拒絕了他的請(qǐng)求。Mark居住的舊金山警察局則在2021年12月對(duì)馬克展開(kāi)了調(diào)查并掌握了他在Google存儲(chǔ)的所有信息。《紐約時(shí)報(bào)》指出，負(fù)責(zé)此案的調(diào)查員最終發(fā)現(xiàn)，該事件不符合犯罪的要素且沒(méi)有發(fā)生犯罪。

Google發(fā)言人Christa Muldoon在給The Verge的電子郵件聲明中說(shuō)道：“兒童性虐待材料(CSAM)是令人憎惡的，我們致力于防止它在我們的平臺(tái)上傳播。我們遵循美國(guó)法律來(lái)定義什么是CSAM并使用哈希匹配技術(shù)和人工智能的組合來(lái)識(shí)別它并從我們的平臺(tái)上刪除它。此外，我們的兒童安全專(zhuān)家團(tuán)隊(duì)審查標(biāo)記的內(nèi)容是否準(zhǔn)確并跟兒科醫(yī)生協(xié)商，以此來(lái)幫助確保我們能夠識(shí)別用戶(hù)可能尋求醫(yī)療建議的情況?！?/p>

雖然保護(hù)兒童免受虐待的重要性毋庸置疑，但批評(píng)者認(rèn)為，掃描用戶(hù)照片的做法不合理地侵犯了他們的隱私。EFF的技術(shù)項(xiàng)目主任Jon Callas在給《紐約時(shí)報(bào)》的一份聲明中稱(chēng)Google的做法是侵入性的?！斑@正是我們都擔(dān)心的惡夢(mèng)。他們要掃描我的家庭相冊(cè)，然后我就會(huì)遇到麻煩，”Callas這樣跟《紐約時(shí)報(bào)》說(shuō)道。

（舉報(bào)）