11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買(mǎi)1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵?lái)騰訊云選購(gòu)吧!
研究人員在美國(guó)馬里蘭大學(xué)成功開(kāi)發(fā)了一種高效的方法,可以在一分鐘內(nèi)誘導(dǎo)大型語(yǔ)言模型產(chǎn)生有害反應(yīng),他們將這一技術(shù)命名為BEAST。BEAST技術(shù)利用NvidiaRTXA6000GPU、48GB內(nèi)存和即將發(fā)布的開(kāi)源代碼,僅需一分鐘的GPU處理時(shí)間,就能讓LLM飛越其防護(hù)欄?!贝搜芯繌?qiáng)調(diào)了確保未來(lái)更強(qiáng)大AI模型的安全部署需要制定可證明的安全保證。
據(jù)darkreading報(bào)道,谷歌研究人員已經(jīng)發(fā)現(xiàn)了針對(duì)現(xiàn)實(shí)世界人工智能系統(tǒng)的六種特定攻擊,發(fā)現(xiàn)這些常見(jiàn)的攻擊向量表現(xiàn)出一種獨(dú)特的復(fù)雜性,他們指出,這將需要結(jié)合對(duì)抗性模擬和人工智能專(zhuān)家的幫助來(lái)構(gòu)建一個(gè)堅(jiān)實(shí)的防御。該公司在本周發(fā)布的一份報(bào)告中透露,其專(zhuān)門(mén)的人工智能紅隊(duì)已經(jīng)發(fā)現(xiàn)了這項(xiàng)快速發(fā)展的技術(shù)面臨的各種威脅,主要基于攻擊者如何操縱驅(qū)動(dòng)生成式人工智
今日,國(guó)內(nèi)最權(quán)威的信息安全會(huì)議之一,第19屆XCon安全焦點(diǎn)信息安全技術(shù)峰會(huì)于北京舉行,騰訊朱雀實(shí)驗(yàn)室首度亮相公眾視野。這個(gè)頗有神秘色彩的安全實(shí)驗(yàn)室由騰訊安全平臺(tái)部孵化,專(zhuān)注于實(shí)戰(zhàn)攻擊技術(shù)研究和AI安全技術(shù)研究,以攻促防,守護(hù)騰訊業(yè)務(wù)及用戶安全。會(huì)上,騰訊朱雀實(shí)驗(yàn)室高級(jí)安全研究員nEINEI分享了一項(xiàng)AI安全創(chuàng)新研究:模擬實(shí)戰(zhàn)中的黑客攻擊路徑,擺脫傳統(tǒng)利用“樣本投毒”的AI攻擊方式?
隨著ChatGPT等生成式AI產(chǎn)品被廣泛應(yīng)用在AI代理/客服、虛擬助手等領(lǐng)域,在安全方面會(huì)遭遇黑客攻擊、惡意文本提示等難題。使用特定的提問(wèn)方式,可以讓ChatGPT輸出原始私密訓(xùn)練數(shù)據(jù)。即使面對(duì)未見(jiàn)過(guò)的惡意攻擊指令,經(jīng)過(guò)上下文蒸餾訓(xùn)練的模型也能夠更好地學(xué)習(xí)到這些知識(shí),以識(shí)別和處理新的安全威脅。
CheckPoint的最新威脅指數(shù)報(bào)告強(qiáng)調(diào)了在當(dāng)前網(wǎng)絡(luò)形勢(shì)下AI驅(qū)動(dòng)型惡意軟件攻擊日益猖獗2024年10月–領(lǐng)先的云端AI網(wǎng)絡(luò)安全提供商CheckPoint?軟件技術(shù)有限公司發(fā)布了其2024年9月《全球威脅指數(shù)》報(bào)告。該報(bào)告著重介紹了網(wǎng)絡(luò)安全領(lǐng)域中一個(gè)值得注意的趨勢(shì),即AI驅(qū)動(dòng)型惡意軟件的興起,以及勒索軟件威脅的持續(xù)肆虐。該團(tuán)隊(duì)由100多名分析師和研究人員組成,能夠與其他安全廠商、執(zhí)?
在當(dāng)今這個(gè)生成式AI迅猛發(fā)展的時(shí)代,自動(dòng)化攻擊的威脅日益加劇。在人工智能浪潮下,如何利用AI對(duì)抗AI,從實(shí)現(xiàn)全方位的網(wǎng)絡(luò)安全防護(hù)?隨著AI技術(shù)的進(jìn)一步發(fā)展,瑞數(shù)信息將繼續(xù)引領(lǐng)網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)創(chuàng)新,確保在不斷演變的威脅環(huán)境中,始終為客戶提供最強(qiáng)大的安全保護(hù)。
今天蘋(píng)果對(duì)AirPods全系列無(wú)線耳機(jī)及Beats系列無(wú)線耳機(jī)發(fā)布了固件更新,此次更新主要是修復(fù)安全漏洞。該漏洞允許攻擊者在藍(lán)牙連接范圍內(nèi)偽造設(shè)備信息,進(jìn)強(qiáng)行連接耳機(jī)并播放內(nèi)容。需要注意的是,AirPodsPro的固件更新通常會(huì)在連接到運(yùn)行iOS系統(tǒng)的設(shè)備時(shí)自動(dòng)進(jìn)行,用戶無(wú)法手動(dòng)干預(yù)。
如今API作為連接服務(wù)和傳輸數(shù)據(jù)的重要通道,已成為數(shù)字時(shí)代的新型基礎(chǔ)設(shè)施,但隨之來(lái)的安全問(wèn)題也日益凸顯。隨著數(shù)字化技術(shù)的發(fā)展和WebAPI數(shù)量的爆發(fā)性增長(zhǎng),API面臨的安全攻擊風(fēng)險(xiǎn)比其他類(lèi)型的攻擊更加復(fù)雜和更難防護(hù)。通過(guò)加強(qiáng)對(duì)API安全的關(guān)注和投入,企業(yè)可以更好地保護(hù)其API,守護(hù)核心數(shù)據(jù)資產(chǎn)。
上半年最受關(guān)注的促銷(xiāo)活動(dòng)無(wú)疑是當(dāng)下火熱進(jìn)行中的618大促。從5月中旬起,各個(gè)電商平臺(tái)就先后公布了618大促活動(dòng)的節(jié)奏與玩法,相比往年,今年618大促,價(jià)格力仍是電商平臺(tái)競(jìng)逐的關(guān)鍵。在應(yīng)對(duì)這一挑戰(zhàn)的同時(shí),這些解決方案需要變得更加簡(jiǎn)化和集成,從能夠以更簡(jiǎn)單高效的方式為企業(yè)提供關(guān)鍵的保護(hù)。
【新智元導(dǎo)讀】AI系統(tǒng)越來(lái)越擅長(zhǎng)欺騙、操作人類(lèi)了。來(lái)自MIT、ACU等機(jī)構(gòu)的研究人員通過(guò)各種實(shí)例研究發(fā)現(xiàn),AI在各類(lèi)游戲中,通過(guò)佯裝、歪曲偏好等方式欺騙人類(lèi),實(shí)現(xiàn)了目標(biāo)。作為一個(gè)社會(huì),我們需要盡可能用更多的時(shí)間,為未來(lái)AI產(chǎn)品和開(kāi)源模型的更高級(jí)欺騙做準(zhǔn)備。
AI系統(tǒng)越來(lái)越擅長(zhǎng)欺騙、操作人類(lèi)了。來(lái)自MIT、ACU等機(jī)構(gòu)的研究人員通過(guò)各種實(shí)例研究發(fā)現(xiàn),AI在各類(lèi)游戲中,通過(guò)佯裝、歪曲偏好等方式欺騙人類(lèi),實(shí)現(xiàn)了目標(biāo)。作為一個(gè)社會(huì),我們需要盡可能用更多的時(shí)間,為未來(lái)AI產(chǎn)品和開(kāi)源模型的更高級(jí)欺騙做準(zhǔn)備。
根據(jù)新一期的AkamaiSOTI研究報(bào)告顯示,APJ地區(qū)制造業(yè)成為遭受API攻擊最多的行業(yè),API攻擊量占總數(shù)的近三分之一。2024年3月27日–負(fù)責(zé)支持和保護(hù)網(wǎng)絡(luò)生活的云服務(wù)提供商阿卡邁技術(shù)公司,近日發(fā)布了新一期的互聯(lián)網(wǎng)現(xiàn)狀報(bào)告——《潛伏在陰影之中:攻擊趨勢(shì)揭示了API威脅》。借助全球廣泛分布的覆蓋從云到邊緣的計(jì)算平臺(tái)AkamaiConnectedCloud,我們幫助客戶輕松開(kāi)發(fā)和運(yùn)行應(yīng)用程序,同時(shí)讓體驗(yàn)更貼近用戶,讓威脅距離用戶更遠(yuǎn)。
【新智元導(dǎo)讀】神經(jīng)網(wǎng)絡(luò)由于自身的特點(diǎn)容易受到對(duì)抗性攻擊,然,谷歌DeepMind的最新研究表明,我們?nèi)祟?lèi)的判斷也會(huì)受到這種對(duì)抗性擾動(dòng)的影響人類(lèi)的神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)的關(guān)系是什么?有位老師曾經(jīng)這樣比喻:就像是老鼠和米老鼠的關(guān)系?,F(xiàn)實(shí)中的神經(jīng)網(wǎng)絡(luò)功能強(qiáng)大,但與人類(lèi)的感知、學(xué)習(xí)和理解方式完全不同。延長(zhǎng)觀察時(shí)間,是對(duì)抗性擾動(dòng)產(chǎn)生實(shí)際后果的關(guān)鍵。
來(lái)自GoogleDeepmind、華盛頓大學(xué)、康奈爾大學(xué)、卡內(nèi)基梅隆大學(xué)、加州大學(xué)伯克利分校和蘇黎世聯(lián)邦理工學(xué)院的一組研究人員成功地讓OpenAI的聊天機(jī)器人ChatGPT揭示了用于訓(xùn)練AI模型的一些數(shù)據(jù)。研究團(tuán)隊(duì)使用了一種創(chuàng)新性的手法,即通過(guò)不斷迭代地要求ChatGPT重復(fù)一個(gè)特定的詞匯,比如“詩(shī)歌”,來(lái)引導(dǎo)模型透露其訓(xùn)練數(shù)據(jù)。這一研究為我們敲響了警鐘,提醒我們?cè)谕苿?dòng)AI發(fā)展的同時(shí),需謹(jǐn)慎處理其隱私和能源消耗的問(wèn)題。
據(jù)報(bào)道,OpenAI前CEOSamAltman與前總裁GregBrockman在OpenAI舊金山總部與公司高管會(huì)面。微軟和其他投資人正在努力恢復(fù)SamAltman的職位。項(xiàng)目地址:https://github.com/LC1332/Chat-Haruhi-Suzumiya/tree/main/research/personality浙大研究者提出UrbanGIRAFFE,解決城市場(chǎng)景的可控3D感知圖像合成浙江大學(xué)的UrbanGIRAFFE方法通過(guò)可控的相機(jī)姿勢(shì)和場(chǎng)景內(nèi)容,以及精妙的3D場(chǎng)景分解,實(shí)現(xiàn)了對(duì)復(fù)雜城市環(huán)境的多樣控制,?
根據(jù)調(diào)查顯示,研究顯示,五分之三的企業(yè)認(rèn)為生成人工智能是一個(gè)很好的機(jī)會(huì),但許多人擔(dān)心自己會(huì)受到網(wǎng)絡(luò)攻擊。據(jù)會(huì)計(jì)巨頭普華永道的研究顯示,在新興技術(shù)競(jìng)爭(zhēng)激烈的情況下,企業(yè)如果不愿意冒險(xiǎn),就無(wú)法取得進(jìn)步。在這個(gè)充滿不確定性的時(shí)代,冒險(xiǎn)似乎是企業(yè)取得進(jìn)步的必由之路。
GoogleBard推出了強(qiáng)大的擴(kuò)展功能,使其能夠訪問(wèn)YouTube、搜索航班和酒店,以及用戶的個(gè)人文檔和電子郵件。這也為潛在的安全漏洞敞開(kāi)了大門(mén)。但漏洞的具體修復(fù)方式尚不明確。
業(yè)界最領(lǐng)先的大模型們,竟然集體“越獄”了!不止是GPT-4,就連平時(shí)不咋出錯(cuò)的Bard、BingChat也全線失控,有的要黑掉網(wǎng)站,有的甚至揚(yáng)言要設(shè)計(jì)惡意軟件入侵銀行系統(tǒng):這并非危言聳聽(tīng)是南洋理工大學(xué)等四所高校提出的一種大模型“越獄”新方法MasterKey。大模型“越獄”成功率從平均7.3%直接暴漲至21.5%。所有的安全研究最終都會(huì)落地,將大模型做得更好。
愛(ài)奇藝升級(jí)AI搜索,區(qū)別于傳統(tǒng)搜索第一步只能搜到片名,升級(jí)后的愛(ài)奇藝AI搜索主打讓觀眾在搜索環(huán)節(jié)便能一鍵直達(dá)心儀內(nèi)容。WPSAI宣布接入WPSMac版提供內(nèi)容生成等功能WPS宣布,Mac版的WPS已經(jīng)接入了WPSAI,這將帶來(lái)內(nèi)容生成、內(nèi)容修改和輔助閱讀等功能。1OpenCSG還發(fā)布了大模型研發(fā)和應(yīng)用開(kāi)發(fā)平臺(tái)StarNet,以及OpenNova系列開(kāi)源大模型。
OpenAI的DALL-E3是一種強(qiáng)大的圖像生成AI技術(shù),但最新的事件表明,它并非沒(méi)有漏洞。一位名為PeterGostev的LinkedIn用戶發(fā)現(xiàn)了一種越獄技巧,成功生成了一組令人震驚的圖像,顯示兒童正在吸煙。在這個(gè)不斷演進(jìn)的領(lǐng)域,我們必須追求平衡,以確保技術(shù)的益處不會(huì)被濫用。
烏克蘭最近引發(fā)了國(guó)際社會(huì)關(guān)注的舉措,他們正在測(cè)試一款名為“SakerScout”的自主攻擊型無(wú)人機(jī),這也被稱為“殺手機(jī)器”的首次使用。這款無(wú)人機(jī)不僅可以手動(dòng)操作可用于偵察任務(wù),或者自主攻擊目標(biāo)。美國(guó)還向?yàn)蹩颂m提供了100架“Switchblade”自殺式無(wú)人機(jī)。
富士通于2023年9月26日宣布推出兩項(xiàng)新的人工智能信任技術(shù),旨在提高對(duì)話型人工智能模型的可靠性,從增強(qiáng)其在各種用例中的安全性。這兩項(xiàng)新技術(shù)包括檢測(cè)對(duì)話型人工智能模型中的幻覺(jué)以及檢測(cè)通過(guò)注入虛假信息進(jìn)行的對(duì)抗性攻擊所植入的網(wǎng)絡(luò)釣魚(yú)網(wǎng)址的技術(shù)。富士通計(jì)劃將這兩項(xiàng)新技術(shù)未來(lái)推廣到全球市場(chǎng)。
本文概要:1.通過(guò)研究發(fā)現(xiàn),無(wú)線鍵盤(pán)發(fā)出的擊鍵聲音可以被檢測(cè)和解釋?zhuān)蔀樾滦吐晫W(xué)攻擊方式。2.研究人員使用自注意力變換層訓(xùn)練了一個(gè)深度學(xué)習(xí)模型,可以通過(guò)監(jiān)聽(tīng)附近手機(jī)記錄的擊鍵聲中竊取數(shù)據(jù),準(zhǔn)確率高達(dá)95%。研究人員強(qiáng)調(diào),他們的結(jié)果證明了通過(guò)現(xiàn)有普通的設(shè)備和算法,也能輕易進(jìn)行旁路攻擊。
微軟透露了公司內(nèi)部從2018年就成立團(tuán)隊(duì)來(lái)負(fù)責(zé)找出如何攻擊AI平臺(tái),從揭示AI弱點(diǎn)。在成立的五年里,微軟的AI紅隊(duì)已經(jīng)從一個(gè)實(shí)質(zhì)上是實(shí)驗(yàn)性的項(xiàng)目發(fā)展成為一個(gè)完整的跨學(xué)科團(tuán)隊(duì),由機(jī)器學(xué)習(xí)專(zhuān)家、網(wǎng)絡(luò)安全研究人員,甚至社會(huì)工程師組成。“對(duì)我來(lái)說(shuō),洞察力是AI紅隊(duì)現(xiàn)在不僅包括安全性失敗包括負(fù)責(zé)任的AI失敗。
CheckPoint?軟件技術(shù)有限公司的研究人員對(duì)電子郵件安全展開(kāi)調(diào)研,結(jié)果顯示憑證收集仍是主要攻擊向量,59%的報(bào)告攻擊與之相關(guān)。它還在商業(yè)電子郵件入侵攻擊中發(fā)揮了重要作用,造成了15%的攻擊。CheckPoint有信心幫助用戶在惡意郵件攻擊日趨嚴(yán)峻的形勢(shì)下,依然可以享有最高級(jí)別的安全防護(hù),確保核心數(shù)字資產(chǎn)無(wú)虞。
網(wǎng)絡(luò)安全公司Darktrace+的研究人員發(fā)現(xiàn),在2023年的前兩個(gè)月,攻擊者使用ChatGPT等生成式+AI,通過(guò)增加文本描述、句子長(zhǎng)度以及標(biāo)點(diǎn)符號(hào),讓社會(huì)工程攻擊量增加了135%。Darktrace+還發(fā)現(xiàn),帶有附件或鏈接的惡意電子郵件數(shù)量有所減少。87%+的員工表示,他們擔(dān)心自己的在線個(gè)人信息量可能會(huì)被用于網(wǎng)絡(luò)釣魚(yú)或電子郵件詐騙。
+2023+年3+月15+日+–+++負(fù)責(zé)支持和保護(hù)網(wǎng)絡(luò)生活的云服務(wù)提供商阿卡邁技術(shù)公司,于近日今天推出了+Akamai+Hunt+安全服務(wù)。該服務(wù)使客戶能夠利用+Akamai+Guardicore+Segmentation+的基礎(chǔ)架構(gòu)、Akamai+的全球攻擊監(jiān)測(cè)能力以及專(zhuān)業(yè)的安全研究人員來(lái)搜尋和修復(fù)其環(huán)境中逃逸的威脅和風(fēng)險(xiǎn)。借助全球廣泛分布的覆蓋從云到邊緣的計(jì)算平臺(tái),我們幫助客戶輕松開(kāi)發(fā)和運(yùn)行應(yīng)用程序,同時(shí)讓體驗(yàn)更貼近用戶,讓威脅距離用戶更遠(yuǎn)。
《互聯(lián)網(wǎng)現(xiàn)狀》報(bào)告顯示,亞太地區(qū)及日本的 Web 應(yīng)用程序和 API 網(wǎng)絡(luò)攻擊年同比增長(zhǎng) 449%,從 2021 年的 5 千萬(wàn)增長(zhǎng)到 2022 年的 2.4 億起2022 年12 月19 日 – 負(fù)責(zé)支持和保護(hù)網(wǎng)絡(luò)生活的云服務(wù)提供商阿卡邁技術(shù)公司,于近日發(fā)布全新《互聯(lián)網(wǎng)現(xiàn)狀》報(bào)告。報(bào)告顯示隨著攻擊者加強(qiáng)攻擊并改用更復(fù)雜的技術(shù),亞太地區(qū)及日本 金融服務(wù)業(yè)面臨重大風(fēng)險(xiǎn)。借助全球廣泛分布的覆蓋從云到邊緣的計(jì)算平臺(tái),我們幫助客戶輕松開(kāi)發(fā)和運(yùn)行應(yīng)用程序,同時(shí)讓體驗(yàn)更貼近用戶,讓威脅距離用戶更遠(yuǎn)。
據(jù)Akamai最近的調(diào)查結(jié)果表明,全球最 大的勒索軟件團(tuán)伙Conti發(fā)起的全球勒索軟件攻擊中有近30%以制造業(yè)為目標(biāo)...“攻擊者仍然有經(jīng)濟(jì)動(dòng)機(jī),制造業(yè)是勒索軟件攻擊的主要目標(biāo),因?yàn)樗麄儫o(wú)法承受停機(jī)和中斷,尤其是當(dāng)長(zhǎng)供應(yīng)鏈依賴于零件或產(chǎn)品時(shí)...結(jié)合受害者的收入趨勢(shì)來(lái)看,中小企業(yè)更有可能成為潛在的攻擊目標(biāo),絕大多數(shù)Conti受害者是年收入介于 1000 萬(wàn)到2. 5 億美元之間的企業(yè)......
Akamai表示,游戲行業(yè)不斷增長(zhǎng)的價(jià)值吸引了更多的犯罪分子,他們?cè)噲D擾亂網(wǎng)絡(luò)游戲,竊取有價(jià)值的玩家的賬戶。根據(jù)Akamai Technologies的一份新報(bào)告,針對(duì)游戲行業(yè)的網(wǎng)絡(luò)攻擊在該行業(yè)最近的蓬勃發(fā)展中迅速上升。Akamai指出,在與COVID-19有關(guān)的封鎖和社會(huì)疏遠(yuǎn)中,游戲行業(yè)經(jīng)歷了一次重大的推動(dòng),直到現(xiàn)在這種增長(zhǎng)并沒(méi)有放緩,但不斷上升的價(jià)值已經(jīng)吸引了網(wǎng)絡(luò)犯罪分子的注意。該公司最新的互聯(lián)網(wǎng)狀況報(bào)告稱,在過(guò)去12個(gè)月中,針對(duì)游戲公司和玩家賬戶的網(wǎng)絡(luò)應(yīng)用攻擊增長(zhǎng)了167個(gè)百分點(diǎn),影響了世界各地?cái)?shù)百萬(wàn)的游戲玩家。報(bào)告稱,這些攻擊使玩