隨著互聯(lián)網(wǎng)在社會(huì)生活中的廣泛應(yīng)用,網(wǎng)絡(luò)空間環(huán)境也變得日益復(fù)雜,網(wǎng)絡(luò)安全標(biāo)準(zhǔn)成為維護(hù)網(wǎng)絡(luò)秩序和公民權(quán)益的重要基石。近期,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)(以下簡(jiǎn)稱“網(wǎng)安標(biāo)委”) 2024 年第二次“標(biāo)準(zhǔn)周”活動(dòng)在海南省??谑信e辦。活動(dòng)由網(wǎng)安標(biāo)委秘書處、中國電子技術(shù)標(biāo)準(zhǔn)化研究院、海南省委網(wǎng)信辦共同承辦。合合信息圖像算法研發(fā)總監(jiān)郭豐俊博士參與技術(shù)研討會(huì)活動(dòng),分享了AI圖像安全技術(shù)實(shí)踐和標(biāo)準(zhǔn)探索。
合合信息(股票代碼:SH688615)創(chuàng)立于 2006 年,是一家人工智能及大數(shù)據(jù)科技企業(yè)?;谧灾餮邪l(fā)的智能文字識(shí)別及商業(yè)大數(shù)據(jù)核心技術(shù),為全球C端用戶和多元行業(yè)B端客戶提供數(shù)字化、智能化的產(chǎn)品及服務(wù)。公司旗下C端APP產(chǎn)品掃描全能王,名片全能王等產(chǎn)品已服務(wù)全球百余個(gè)國家和地區(qū)的億級(jí)用戶;B端產(chǎn)品已在 30 個(gè)行業(yè)中落地應(yīng)用。
“標(biāo)準(zhǔn)周”活動(dòng)期間,共有來自 300 余家單位的 900 余名代表參與技術(shù)研討、知識(shí)培訓(xùn)等多場(chǎng)活動(dòng),圍繞當(dāng)前新興技術(shù)、未來產(chǎn)業(yè)熱點(diǎn)開展討論。在人工智能安全標(biāo)準(zhǔn)研究與應(yīng)用研討會(huì)上,郭豐俊博士進(jìn)行了《人工智能技術(shù)在圖像安全領(lǐng)域的技術(shù)探索與落地實(shí)踐》主題分享。他表示,進(jìn)入AI時(shí)代,圖像更容易被不法分子進(jìn)行局部或全域生成式篡改,帶來隱私安全風(fēng)險(xiǎn)、金融安全風(fēng)險(xiǎn)、社會(huì)輿論風(fēng)險(xiǎn)和法律監(jiān)管風(fēng)險(xiǎn)等諸多問題。
圖說:合合信息圖像算法研發(fā)總監(jiān)郭豐俊進(jìn)行《人工智能技術(shù)在圖像安全領(lǐng)域的技術(shù)探索與落地實(shí)踐》主題分享
針對(duì)上述問題,郭豐俊介紹了合合信息技術(shù)團(tuán)隊(duì)在圖像安全領(lǐng)域的技術(shù)探索,基于數(shù)據(jù)驅(qū)動(dòng)的神經(jīng)網(wǎng)絡(luò)模型,合合信息推出了行業(yè)領(lǐng)先水平的圖像篡改檢測(cè)方案,可提取篡改留下的細(xì)微痕跡,檢測(cè)出多種篡改形式,目前已在金融、保險(xiǎn)等場(chǎng)景得到了應(yīng)用。除此之外,郭豐俊還從主動(dòng)安全和被動(dòng)安全兩個(gè)角度,介紹了產(chǎn)學(xué)研多方應(yīng)對(duì)圖像偽造的前沿技術(shù)。他認(rèn)為,大模型的出現(xiàn),能夠幫助解決篡改檢測(cè)技術(shù)泛化能力不足、偽造手段多樣化等問題,優(yōu)化檢測(cè)效果。
當(dāng)前,大量的偽造圖像已經(jīng)滲透到金融、消費(fèi)等多個(gè)關(guān)鍵領(lǐng)域,針對(duì)這些現(xiàn)實(shí)場(chǎng)景,合合信息不斷嘗試實(shí)現(xiàn)技術(shù)突破。在今年由中國圖象圖形學(xué)學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟(CSA)大中華區(qū)聯(lián)合主辦的AI大模型攻防賽中,合合信息基于自主研發(fā)的圖像篡改檢測(cè)系統(tǒng),實(shí)現(xiàn)了對(duì)萬級(jí)金融場(chǎng)景憑證材料的準(zhǔn)確檢測(cè),最終從全球超千支參賽團(tuán)隊(duì)中脫穎而出,獲得“AI核身-金融場(chǎng)景憑證篡改檢測(cè)“賽道較高排名,這也是繼去年ICDAR2023 上獲得文檔圖像篡改檢測(cè)較高排名后,合合信息團(tuán)隊(duì)在圖像篡改檢測(cè)領(lǐng)域重要全球性競(jìng)賽中,連續(xù)第 2 年獲得較高排名。
圖像內(nèi)容安全關(guān)乎整個(gè)社會(huì)秩序的正常運(yùn)轉(zhuǎn),打擊圖像造假,確保技術(shù)合法合規(guī)應(yīng)用是企業(yè)應(yīng)盡的責(zé)任。未來,合合信息將繼續(xù)探索圖像篡改檢測(cè)技術(shù)在多樣場(chǎng)景中的應(yīng)用,用AI解決公眾的安全需求,積極參與行業(yè)交流與合作,推進(jìn)圖像安全行業(yè)健康有序發(fā)展。
(推廣)