1 月 13 日，抖音發(fā)布“ 2024 網(wǎng)絡(luò)黑產(chǎn)治理盤點”，過去一年平臺持續(xù)打擊網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈，通過升級AI大模型技術(shù)、迭代風(fēng)控策略、優(yōu)化舉報機制等系列舉措，加強對網(wǎng)絡(luò)黑產(chǎn)的識別和治理能力，封禁欺詐、水軍和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號超 600 萬個，并向相關(guān)部門提供涉嫌違法犯罪的線索，全力守護用戶的用網(wǎng)安全。
前置攔截欺詐信息多渠道提醒用戶謹防被騙
2024 年，仿冒領(lǐng)導(dǎo)、親友和官方客服是最受關(guān)注的欺詐類型，尤其是仿冒抖音客服的黑產(chǎn)，用廣撒網(wǎng)方式撥打電話、發(fā)送短信、即時通訊軟件撥號等方法，與受害人直接聯(lián)系，一步步引導(dǎo)對方共享屏幕或者下載第三方app，從中獲取用戶銀行卡賬戶信息、誘導(dǎo)用戶不斷轉(zhuǎn)賬等。
刷單詐騙、購物詐騙也是 2024 年平臺重點打擊的欺詐類型。刷單詐騙黑產(chǎn)以招工、兼職、致富為由，或偽裝成單身交友人設(shè)，誘導(dǎo)用戶下載第三方軟件進行欺詐;另一類黑產(chǎn)鏈路則以售賣演唱會內(nèi)部門票、贈送小馬寶莉卡、低價轉(zhuǎn)游戲皮膚等噱頭，鎖定目標(biāo)用戶去第三方平臺進行交易欺詐。
平臺根據(jù)黑產(chǎn)作弊鏈路，在評論、建群、拉人等多個場景阻斷黑產(chǎn)觸達受害者，上線反詐客服“驗證助手”，并根據(jù)黑產(chǎn)的特征每月迭代反詐策略 200 個以上，在站內(nèi)外多個渠道發(fā)送反詐提醒，日均保護潛在受害人 200 萬次。 2024 年，警方根據(jù)抖音提供的線索，打擊詐騙團伙 69 個，抓獲犯罪嫌疑人 451 名。
準(zhǔn)確識別網(wǎng)絡(luò)水軍重點打擊四大類
售賣水軍服務(wù)、惡意控評、流量造假、惡意舉報，是過去一年抖音重點打擊的四類水軍行為。黑產(chǎn)在站內(nèi)售賣刷粉刷贊、招募水軍等違規(guī)服務(wù)，或有組織、有目的地批量發(fā)布評論錯誤引導(dǎo)用戶認知，利用作弊手段偽造虛假流量、炒作熱度，甚至利用平臺舉報規(guī)則牟利，惡意舉報導(dǎo)致他人賬號受影響。
2024 年抖音搭建刷手、買手用戶模型，準(zhǔn)確識別風(fēng)險賬號，并實施攔截異常操作，阻斷水軍造假途徑;通過大模型技術(shù)提升識別能力，對機器賬號和受騙用戶差異化處置。一年來抖音日均攔截違規(guī)信息 6200 萬次，共封禁賬號 110 萬個，并將涉嫌違法行為的線索上報相關(guān)部門。過去一年根據(jù)抖音提供的線索，警方抓獲水軍黑產(chǎn)犯罪嫌疑人 90 名。
升級視頻關(guān)鍵幀識別能力 阻斷違規(guī)外鏈導(dǎo)流風(fēng)險
除了欺詐和水軍，黑產(chǎn)集中的另一方向是違規(guī)外鏈。黑產(chǎn)組織通過作弊手段繞過平臺風(fēng)控策略，在多種渠道插入二維碼、聯(lián)系方式、圖片、網(wǎng)址等，引導(dǎo)用戶點擊跳轉(zhuǎn)至第三方違規(guī)、違法網(wǎng)站，這些第三方網(wǎng)站則大多以提供色情、賭博等違法服務(wù)為主。
為應(yīng)對黑產(chǎn)新手法，抖音風(fēng)控團隊在前置識別的基礎(chǔ)上，新增了自動黑樣本庫，通過AI技術(shù)可自動識別、歸類違規(guī)行為并進行處置;結(jié)合黑產(chǎn)行為模式，升級視頻截取關(guān)鍵幀模型能力，可第 一時間定位黑產(chǎn)在視頻中植入的違規(guī)頁面;新增彈幕場景模型，有效運行該場景的違規(guī)攔截策略。 2024 年，抖音封禁相關(guān)違規(guī)賬號超 120 萬個，同時警方根據(jù)抖音提供的線索，打擊違規(guī)導(dǎo)流團伙 8 個，抓獲嫌疑人 40 名。
（推廣）