快科技1月10日消息，西藏日喀則市定日縣發(fā)生地震后，災(zāi)情牽動(dòng)著全國人民的心，然而，在這令人揪心的特殊時(shí)刻，少數(shù)別有用心之人卻妄圖利用AI技術(shù)制造謠言，博取關(guān)注。

今日，抖音安全中心發(fā)布于治理災(zāi)害期間不當(dāng)使用AI生成內(nèi)容”的公告。

公告稱，近期西藏自治區(qū)發(fā)生地震災(zāi)害，全網(wǎng)出現(xiàn)多起不當(dāng)利用AI技術(shù)生成災(zāi)害場景的情況，給救災(zāi)工作帶來了干擾，平臺(tái)已嚴(yán)肅處置23652條涉地震不實(shí)信息并配發(fā)了辟謠內(nèi)容。

抖音發(fā)現(xiàn)，有部分用戶發(fā)布AI生成的災(zāi)難圖片時(shí)，自認(rèn)為這是藝術(shù)創(chuàng)作”，目的是祈福”，主觀上并非要造謠”。

在此，抖音重申，AI創(chuàng)作易讓人混淆虛假與現(xiàn)實(shí)，創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，須遵循以下規(guī)范：

1、發(fā)布者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場景。

2、發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無論內(nèi)容是如何生成的。

3、虛擬人需在平臺(tái)進(jìn)行注冊，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。

4、禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于侵犯肖像權(quán)、知識(shí)產(chǎn)權(quán)等。 一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

5、禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。 一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

2023年和2024年，抖音先后發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，《關(guān)于不當(dāng)利用AI生成虛擬人物的治理公告》，明確平臺(tái)不鼓勵(lì)利用AI生成虛擬人物進(jìn)行低質(zhì)創(chuàng)作，將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。

據(jù)了解，最近，一系列小男孩被埋圖”在網(wǎng)上廣泛傳播，并配文日喀則地震等關(guān)鍵詞，其中，一張戴著帽子的小男孩被壓在廢墟下”的圖片在多個(gè)賬號(hào)發(fā)布，獲得大量轉(zhuǎn)評贊。

但事實(shí)上，這張圖片并非真實(shí)的地震現(xiàn)場畫面，而是通過AI生成的圖片，且這張圖片于2024年11月18日首發(fā)，作者在發(fā)布時(shí)并未關(guān)聯(lián)地震且聲明是AI生成。

據(jù)媒體報(bào)道，經(jīng)查，青海某網(wǎng)民為博取眼球，將小男孩被埋圖”與日喀則地震相關(guān)的信息進(jìn)行關(guān)聯(lián)拼湊、移花接木，混淆視聽、誤導(dǎo)群眾，致使謠言信息傳播擴(kuò)散。

目前，涉案人員已被屬地公安機(jī)關(guān)依法行政拘留。

（舉報(bào)）