鳳凰網(wǎng)科技訊 《AI前哨》北京時間6月29日消息，網(wǎng)絡安全公司Surfshark發(fā)布的報告顯示，隨著人工智能(AI)的快速發(fā)展，AI的“翻車事故”(AI incident)數(shù)量在十年時間內(nèi)(按階段)增長了15倍，三家主要AI公司占據(jù)了其中的四分之一。

所謂AI翻車事故指的是AI引發(fā)的故障、錯誤、欺詐、用于影響政治的深度偽造等欺騙行為、聊天機器人提供的不良健康信息，以及危及行人的自動駕駛汽車。Surfshark數(shù)據(jù)顯示，人類歷史上第一次AI翻車事故差點造成了核戰(zhàn)爭。1983年，蘇聯(lián)的一個自動化系統(tǒng)誤認為它探測到了來自美國的核導彈，險些釀成全球沖突。

報告統(tǒng)計了自2010年5月8日至2023年5月29日的AI翻車事故數(shù)量。2010年時，報告只記錄了一次AI翻車事故。但是到2023年5月29日時，數(shù)量已增至55起。按階段劃分，在AI發(fā)展初期(2010年至2013年)，AI翻車事故的數(shù)量為18起，只占據(jù)總量的3.5%。但是在2020年至2023年，數(shù)量已增加至293起，占據(jù)總量的56.6%，較2010年至2013年增長了大約15倍。截至今年5月，2023年發(fā)生的AI翻車事故已超過去年的一半，預計將成為翻車事故最多的一年。

2023年預計將成為AI翻車事故最多的一年

雖然AI翻車事故快速增長，但是考慮到過去一年的AI投資和使用量大幅增加，這并不令人感到震驚。根據(jù)軟件評論服務公司G2的數(shù)據(jù)，從2022年2月到2023年2月，聊天機器人的搜索流量增長了261%。而且，G2整個數(shù)據(jù)庫中增長最快的三個軟件產(chǎn)品都是AI產(chǎn)品。

Surfshark發(fā)言人埃琳娜巴巴斯凱特(Elena Babarskaite)表示：“最近的一個著名案例就是教皇方濟各穿著白色羽絨夾克的深度偽造圖像，這表明AI圖像生成器可以實現(xiàn)超逼真的視覺效果?！?/p>

然而，鑒于AI增強的假新聞可能會在未來繼續(xù)誤導公眾，它的影響將不僅僅是娛樂領域。其他更嚴重的AI事件可能會導致種族主義、暴力或犯罪。

“罪魁禍首”

在這些事故中，有三家公司“貢獻不小”。數(shù)據(jù)顯示，特斯拉、臉書以及OpenAI的AI技術所造成的翻車事故占據(jù)了目前所有已知事故的24.5%。

三巨頭占據(jù)了AI翻車事故的四分之一

特斯拉的AI問題主要集中在自動輔助駕駛系統(tǒng)(Autopilot)和全自動駕駛系統(tǒng)(FSD)，這些問題會導致汽車意外剎車，或者汽車無法識別前方的汽車和行人。2022年底，特斯拉“幽靈剎車”問題導致舊金山發(fā)生了一起8車相撞的事故。

臉書面臨的挑戰(zhàn)則是，其算法無法發(fā)現(xiàn)暴力內(nèi)容，騙子利用臉書上深度偽造的圖像和視頻來欺騙人們。

OpenAI的麻煩通常是AI訓練所產(chǎn)生的數(shù)據(jù)侵權問題、用戶的隱私問題。最新報道稱，由于OpenAI在訓練ChatGPT時大規(guī)模從互聯(lián)網(wǎng)上抓住數(shù)據(jù)，涉嫌侵犯了數(shù)據(jù)版權和無數(shù)人的隱私，該公司在美國被提起集體訴訟。

盡管大多數(shù)人對AI系統(tǒng)抱有懷疑態(tài)度，但是那些購買AI軟件的商業(yè)高管們似乎相信這項技術。G2最近對1700名軟件買家進行了調(diào)查，結果發(fā)現(xiàn)，“盡管人們對AI的使用普遍持懷疑態(tài)度，但78%的受訪者表示，他們相信AI解決方案的準確性和可靠性”。

（舉報）