站長之家(ChinaZ.com) 10 月 23 日消息:一位受邀參加下個(gè)月 Rishi Sunak 國際人工智能安全峰會的高管警告說，這次會議可能收效甚微，并指責(zé)強(qiáng)大的科技公司試圖「操縱」這場具有里程碑意義的會議。

人工智能安全研究公司 Conjecture 的首席執(zhí)行官 Connor Leahy 表示，他相信政府首腦準(zhǔn)備同意一種監(jiān)管方式，允許企業(yè)繼續(xù)開發(fā)「上帝般」的人工智能，幾乎不受限制。

Leahy 是僅有的 100 位受邀者之一，包括外國政府部長、科技高管和民間社會人士，他們受邀參加 11 月在 Bletchley Park 舉行的峰會。英國政府希望這次峰會將標(biāo)志著高級 AI 技術(shù)的開發(fā)方式發(fā)生轉(zhuǎn)變。

官員們已經(jīng)發(fā)布了峰會議程，提到了「負(fù)責(zé)任的能力擴(kuò)展」的重要性，即大型科技公司應(yīng)根據(jù)一套指南開發(fā)他們的尖端 AI 模型。

然而，Leahy 和其他人認(rèn)為應(yīng)該完全停止開發(fā)人工通用智能——能夠在人類或超越人類智能水平執(zhí)行任務(wù)的 AI 模型。

Leahy 表示：「負(fù)責(zé)任擴(kuò)展的主要目標(biāo)是提供一個(gè)看起來好像有所作為的框架，以便政客們可以回家說：『我們已經(jīng)做了一些事情?！坏珜?shí)際政策什么都沒有。」

Leahy 和其他人已經(jīng)發(fā)起了一個(gè)名為「Control AI」的運(yùn)動(dòng)，敦促政策制定者更進(jìn)一步，敦促政策制定者進(jìn)一步利用 Bletchley Park 峰會暫停開發(fā)最復(fù)雜的人工智能形式。

與行業(yè)中的一些其他人一樣，Leahy 認(rèn)為，如果人類開發(fā)了一個(gè)能夠逃避人類控制的 AI 系統(tǒng)，人類將面臨風(fēng)險(xiǎn)。

他說：「如果你構(gòu)建的系統(tǒng)在操縱、商業(yè)、政治、科學(xué)等各方面都比人類更有能力，而我們無法控制它們，那么未來將屬于它們，而不屬于我們?！?/p>

「特別是人工智能公司和它們周圍的其他組織正在試圖登上頂峰，鎖定一場不受監(jiān)管的災(zāi)難競賽的現(xiàn)狀，」他補(bǔ)充道。

Leahy 引用了 AI 公司 Anthropic 首席執(zhí)行官 Dario Amodei 最近的一次采訪，Amodei 表示，AI 系統(tǒng)「在人類文明規(guī)模上出現(xiàn)災(zāi)難性錯(cuò)誤」的機(jī)會在 10% 到 25% 之間。

Leahy 說：「如果你正在構(gòu)建一個(gè)有這種機(jī)會的機(jī)器，那么我的建議是：不要這樣做?！?/p>

政府發(fā)言人表示，這次峰會是關(guān)于 AI 的「全球?qū)υ挕沟拈_始，將歡迎「多元的觀點(diǎn)」。

然而，Leahy 的言論與 AI 領(lǐng)域的其他人最近發(fā)出的警告相吻合。

被稱為「AI 教父」的 Geoffrey Hinton 最近辭去了谷歌的工作，發(fā)出了關(guān)于數(shù)字智能帶來的「生存風(fēng)險(xiǎn)」的警告。

幾周后，包括 Leahy 在內(nèi)的一群 AI 行業(yè)的高管發(fā)布了一份簡短的聲明，稱「減輕 AI 帶來的滅絕風(fēng)險(xiǎn)應(yīng)該是全球首要任務(wù)，與大流行和核戰(zhàn)等社會規(guī)模的風(fēng)險(xiǎn)并列」。

這些警告促使 Sunak 于 11 月 1 日至 2 日召開峰會。這次峰會旨在成為國家元首和科技高管首次親自討論這些問題的論壇。

英國官員一直在全球各地鼓勵(lì)各國元首參加這次會議，他們希望這將是一系列此類峰會中的第一次。

前谷歌首席執(zhí)行官 Eric Schmidt 和 Inflection 和 DeepMind 的聯(lián)合創(chuàng)始人 Mustafa Suleyman 上周呼吁國際領(lǐng)袖設(shè)立一個(gè)類似于氣候變化政府間專門委員會的全球 AI 專家委員會。英國官員表示，他們支持這樣一個(gè)機(jī)構(gòu)，但認(rèn)為應(yīng)該將其運(yùn)作的具體細(xì)節(jié)留給聯(lián)合國的討論。

相反，英國政府消息人士表示，他們希望看到 AI 行業(yè)放慢其人工通用智能的發(fā)展，他們表示，這樣的舉措在技術(shù)史上是前所未有的。

然而，Leahy 認(rèn)為，模糊的承諾繼續(xù)負(fù)責(zé)任地開發(fā)先進(jìn)的 AI 將不夠，他補(bǔ)充說，這將意味著技術(shù)公司勝過監(jiān)管機(jī)構(gòu)。

政府發(fā)言人表示：「AI 安全峰會將匯集各類與會者，包括國際政府、學(xué)術(shù)界、工業(yè)界和民間社會，作為共同合作的一部分，推動(dòng)安全和負(fù)責(zé)任的 AI 發(fā)展的有針對性、迅速的國際行動(dòng)?！?/p>

「對于這種性質(zhì)的峰會來說，這是完全正常的，我們不會提前這么長時(shí)間確認(rèn)與會者。這是關(guān)于前沿人工智能風(fēng)險(xiǎn)的全球?qū)υ挼拈_始，我們歡迎不同的觀點(diǎn)——這是峰會的優(yōu)勢?！?/p>

（舉報(bào)）