??劃重點(diǎn):
1. Google AI負(fù)責(zé)人Demis Hassabis認(rèn)為,人工智能的發(fā)展對人類構(gòu)成了類似氣候變化的威脅,擔(dān)心出現(xiàn)超級智能系統(tǒng)失控等惡意可能性。
2. 他強(qiáng)調(diào)必須像氣候變化一樣認(rèn)真對待AI的風(fēng)險(xiǎn),并呼吁建立類似聯(lián)合國氣候變化政府間專門委員會(IPCC)的獨(dú)立機(jī)構(gòu)來監(jiān)管AI。
3. Google、微軟、OpenAI和Anthropic宣布成立了1,000萬美元的AI安全基金,旨在推動對最有能力的AI模型進(jìn)行有效測試和評估的研究。
站長之家(ChinaZ.com) 10月27日 消息:谷歌AI負(fù)責(zé)人Demis Hassabis表示,人工智能的發(fā)展對人類構(gòu)成了一種存在威脅,類似于氣候變化。
他在接受《衛(wèi)報(bào)》采訪時指出,他擔(dān)心人類可能會開發(fā)出一個失控的超級智能系統(tǒng),以及其他惡意可能性。他認(rèn)為我們必須像對待氣候變化一樣認(rèn)真對待人工智能的風(fēng)險(xiǎn)。他還指出,AI技術(shù)可能會使制造生物武器變得容易,類似于氣候變化問題,國際社會協(xié)調(diào)有效的全球應(yīng)對措施可能會拖延,而我們將為此付出代價。因此,他強(qiáng)調(diào)我們不能在處理AI方面出現(xiàn)同樣的延遲。
圖源備注:圖片由AI生成,圖片授權(quán)服務(wù)商Midjourney
盡管AI在許多領(lǐng)域,如醫(yī)療領(lǐng)域,具有巨大潛力,但Hassabis呼吁建立一個獨(dú)立機(jī)構(gòu)來監(jiān)管AI,類似于聯(lián)合國的氣候變化政府間專門委員會(IPCC)。這一觀點(diǎn)得到了前谷歌首席執(zhí)行官埃里克·施密特的支持。
事實(shí)上,在Hassabis的采訪發(fā)表后的一天,谷歌、微軟、OpenAI和Anthropic宣布成立了1,000萬美元的AI安全基金,旨在推動對最有能力的AI模型進(jìn)行有效測試和評估的研究。Hassabis在X(之前被稱為Twitter)上發(fā)帖稱贊了這一舉措,表示我們正處在人工智能歷史上的關(guān)鍵時刻。
盡管AI領(lǐng)域的專家公開表達(dá)了對AI安全和道德的擔(dān)憂,但人們對于像Hassabis和谷歌這樣的公司在AI安全和倫理方面的認(rèn)真程度存在疑慮。2020年,谷歌因AI倫理學(xué)家Timnit Gebru和AI研究員Margaret Mitchell共同撰寫的一篇有爭議的論文未達(dá)到谷歌的發(fā)表標(biāo)準(zhǔn)而將他們解雇。這篇論文提出了有關(guān)AI的若干風(fēng)險(xiǎn),這些風(fēng)險(xiǎn)現(xiàn)在看來非常準(zhǔn)確:其環(huán)境影響,如何影響邊緣化社群,訓(xùn)練數(shù)據(jù)中的偏見,數(shù)據(jù)集如此龐大以至于難以審核,以及它們可能被用來欺騙人們。
(舉報(bào))