站長之家(ChinaZ.com) 11 月 20 日消息:在上周的開發(fā)者大會(huì)上，微軟宣布了其在人工智能競賽中的最新貢獻(xiàn)：一款可以生成新頭像和聲音，或復(fù)制用戶現(xiàn)有外觀和語音的軟件，這引發(fā)了人們對它可能加劇深度偽造創(chuàng)造的擔(dān)憂。深度偽造是指使用 AI 制作的未曾發(fā)生事件的視頻。
在 2023 年的 Microsoft Ignite 大會(huì)上宣布的 Azure AI Speech，經(jīng)過人類圖像訓(xùn)練，允許用戶輸入腳本，然后可以由用人工智能創(chuàng)建的逼真頭像「朗讀」該腳本。用戶可以選擇預(yù)加載的微軟頭像，或上傳他們想要復(fù)制其聲音和相貌的人的錄像。微軟在上周三發(fā)布的博客文章中表示，該工具可用于構(gòu)建「對話代理、虛擬助手、聊天機(jī)器人等」。
文章中寫道：「客戶可以為他們的頭像選擇預(yù)建的或自定義的神經(jīng)聲音。如果用于自定義神經(jīng)聲音和自定義文本到語音頭像的是同一個(gè)人的聲音和相貌，頭像將與那個(gè)人非常相似?！?/p>
微軟表示，新的文本到語音軟件發(fā)布時(shí)配備了多種限制和保護(hù)措施，以防止濫用?！缸鳛槲④泴ω?fù)責(zé)任 AI 的承諾的一部分，文本到語音頭像的設(shè)計(jì)意圖是保護(hù)個(gè)人和社會(huì)的權(quán)利，促進(jìn)透明的人機(jī)互動(dòng)，并抵制有害深度偽造和誤導(dǎo)性內(nèi)容的泛濫，」公司說。
「客戶可以上傳自己的 Avatar talent 的視頻錄像，該功能用于訓(xùn)練自定義頭像說話的合成視頻，」博客文章中寫道?！?Avatar talent」是為 AI 的比喻性攝像機(jī)擺姿勢的人。
該公告迅速引起批評，稱微軟發(fā)布了一個(gè)「深度偽造制造器」，這將更容易讓一個(gè)人的相貌被復(fù)制并使其說出和做出該人未曾說過或做過的事情。微軟自己的總裁在 5 月表示，深度偽造是他對人工智能崛起的「最大擔(dān)憂」。
在一份聲明中，微軟公司對這些批評進(jìn)行了反駁，稱定制頭像現(xiàn)在是一個(gè)「限制訪問」的工具，客戶必須申請并獲得微軟的批準(zhǔn)。用戶還將被要求披露在創(chuàng)建合成聲音或頭像時(shí)使用了 AI。
微軟的負(fù)責(zé)任 AI 工程部門的 Sarah Bird 在一份聲明中說：「有了這些保障措施，我們有助于限制潛在風(fēng)險(xiǎn)，并使客戶能夠以透明和安全的方式將先進(jìn)的語音和語音能力融入他們的 AI 應(yīng)用?！?/p>
文本到語音頭像制造工具是主要科技公司近年來搶占人工智能熱潮的最新工具之一。在微軟支持的公司 OpenAI 推出的 ChatGPT 大受歡迎后，像 Meta 和 Google 這樣的公司也推出了自己的人工智能工具。
隨著 AI 的興起，人們越來越擔(dān)心這項(xiàng)技術(shù)的能力，OpenAI 首席執(zhí)行官 Sam Altman 警告國會(huì)，它可能被用于選舉干預(yù)，必須實(shí)施保護(hù)措施。
專家表示，深度偽造在選舉干預(yù)方面具有特別的危險(xiǎn)性。微軟本月早些時(shí)候推出了一款工具，允許政客和競選活動(dòng)認(rèn)證和水印他們的視頻，以驗(yàn)證其合法性并防止深度偽造的傳播。Meta 本周宣布了一項(xiàng)政策，要求披露在政治廣告中使用 AI 的情況，并禁止競選活動(dòng)使用 Meta 自己的生成 AI 工具進(jìn)行廣告。
（舉報(bào)）
