站長之家(ChinaZ.com) 11 月 29 日消息:以太坊創(chuàng)始人 Vitalik Buterin 近日在反思 Marc Andreessen 于 10 月發(fā)布的《技術(shù)樂觀主義宣言》時,分享了他對「技術(shù)樂觀主義」的看法。Buterin 對 Andreessen 對 AI 的積極展望表示贊同,同時強(qiáng)調(diào)了 AI 發(fā)展方式及其未來方向的重要性。
圖源備注:圖片由AI生成,圖片授權(quán)服務(wù)商Midjourney
Buterin 認(rèn)識到了人工智能的存在風(fēng)險,包括導(dǎo)致人類滅絕的可能性。
他說:「這是一個極端的說法:即使是氣候變化、人造疫情或核戰(zhàn)爭等最壞情況所造成的傷害,也仍有許多文明島嶼能夠幸存下來重建。但是,如果超級智能 AI 決定反抗我們,可能會徹底消滅人類,甚至火星也可能不安全。」
Buterin 指出了 2022 年 AI Impacts 進(jìn)行的一項調(diào)查,該調(diào)查顯示,5% 至 10% 的參與者認(rèn)為,人類面臨著因 AI 或人類無法控制 AI 而滅絕的風(fēng)險。他認(rèn)為,以安全為重點(diǎn)的開源運(yùn)動是領(lǐng)導(dǎo) AI 發(fā)展的理想選擇,而不是封閉且專有的公司和風(fēng)險資本基金。
Buterin 繼續(xù)說,所需的是積極的人類意圖來選擇其方向和結(jié)果?!浮?span id="79nn5nnn" class="spamTxt">最大化利潤』的公式不會自動實(shí)現(xiàn)這些目標(biāo)?!?/p>
Buterin 表達(dá)了對技術(shù)的熱愛,因為它擴(kuò)展了人類的潛力,指出了從手工工具到智能手機(jī)等創(chuàng)新的歷史。
他說:「我相信這些東西是非常好的,擴(kuò)展人類的能力達(dá)到行星和恒星也是非常好的,因為我相信人類是非常善良的?!?/p>
Buterin 表示,盡管他相信變革性技術(shù)將為人類帶來更美好的未來,但他反對世界應(yīng)該保持現(xiàn)狀、只是減少貪婪和增加公共醫(yī)療保健的觀念。
他說:「有些類型的技術(shù)比其他類型更可靠地改善世界。有些類型的技術(shù)如果開發(fā)出來,可以減輕其他類型技術(shù)的負(fù)面影響?!?/p>
Buterin 對數(shù)字威權(quán)主義的崛起和反對政府的人使用的監(jiān)控技術(shù)提出了警告,這些技術(shù)被少數(shù)技術(shù)官僚控制。他說,大多數(shù)人寧愿看到高度先進(jìn)的 AI 被推遲十年,也不愿看到它被單一集團(tuán)壟斷。
他說:「我擔(dān)心的是,同樣的管理技術(shù)使 OpenAI 能夠以 500 名員工服務(wù)超過一億客戶,也將使 500 人的政治精英,甚至是 5 人董事會,能夠?qū)φ麄€國家維持鐵腕統(tǒng)治。」
Buterin 表示,盡管他對有效加速(也稱為「e/acc」)運(yùn)動表示同情,但他對其對技術(shù)的熱情有著復(fù)雜的感受。
他說:「對現(xiàn)代技術(shù)作為善的力量的熱情似乎需要相信,主導(dǎo)技術(shù)力量在大多數(shù)沖突中,現(xiàn)在和將來都可靠地是好人。」他引用了一種觀點(diǎn),即技術(shù)是好的,因為它是由美國建造和控制的,而美國是好的。
他問道:「成為 e/acc 是否需要成為美國極端主義者,把一切賭在政府現(xiàn)在和將來的道德上,以及這個國家的未來成功上?」
Buterin 警告不要把「極端和不透明的權(quán)力」賦予少數(shù)人,并希望他們明智地使用它,而是傾向于「d/acc」哲學(xué)——即防御、去中心化、民主和差異。他說,這種心態(tài)可以適應(yīng)有效的利他主義者、自由主義者、多元主義者、區(qū)塊鏈倡導(dǎo)者和太陽能和月球朋克。
他說:「一個偏向防御的世界是一個更好的世界,原因有很多。首先當(dāng)然是安全的直接好處:更少的人死亡,更少的經(jīng)濟(jì)價值被摧毀,更少的時間浪費(fèi)在沖突上。」
他總結(jié)說:「但人們較少意識到的是,一個偏向防御的世界使更健康、更開放、更尊重自由的治理形式更容易繁榮?!?/p>
盡管他強(qiáng)調(diào)了建設(shè)和加速的需要,Buterin 說,社會應(yīng)該定期詢問我們正在加速的方向。Buterin 暗示,21 世紀(jì)可能是「人類的關(guān)鍵世紀(jì)」,可能決定了人類未來千年的命運(yùn)。
他說:「這些是具有挑戰(zhàn)性的問題。但我期待著觀看并參與我們物種為找到答案而進(jìn)行巨大的集體努力?!?/p>
(舉報)