劃重點:

- ??清華系初創(chuàng)公司生數(shù)科技聯(lián)合高校推出全球首個基于「骨骼動畫」的4D 動畫生成框架「AnimatableDreamer」

- ??可將2D 視頻素材一鍵轉換成動態(tài)立體模型，并支持個性化角色生成

- ??研究團隊通過規(guī)范得分蒸餾策略實現(xiàn)了文本到4D 骨骼動畫的生成，將交互體驗豐富化，推動內容生態(tài)發(fā)展

站長之家（ChinaZ.com）1月19日 消息:目前內容產(chǎn)業(yè)的數(shù)據(jù)積累在3D 模型和4D 動畫等方面仍較為薄弱。為了滿足即將到來的多維沉浸式體驗，清華系創(chuàng)業(yè)團隊生數(shù)科技近期聯(lián)合清華大學、同濟大學等高校推出了全球首個基于「骨骼動畫」的4D 動畫生成框架「AnimatableDreamer」。

這一框架能夠直接將2D 視頻素材一鍵轉換成動態(tài)立體模型，同時支持通過文字輸入進行個性化角色生成。簡單的說，「AnimatableDreamer」的提出直接打通文本到4D 骨骼動畫的生成，建模、貼圖、骨骼綁定、動作驅動。輸入自然語言描述，自動輸出立體動畫視頻，普通人也能直接上手，輕松定制動畫內容。以下為生成的動物模型:

傳統(tǒng)的制作立體動畫流程需要經(jīng)過復雜的3D 建模、貼圖渲染、骨骼綁定和動畫制作等步驟，效率低且成本高昂。而「AnimatableDreamer」可以自動提取視頻中目標對象的骨骼動作，并通過文本描述將該對象轉換為任意的帶骨骼動畫模型。這一過程不受模版限制，支持任意視頻長度和任意類型的動作，并且導出的動態(tài)立體模型能夠在任意3D 環(huán)境中進行渲染。

該團隊創(chuàng)新地提出了規(guī)范得分蒸餾策略（Canonical Score Distillation，簡稱 CSD），實現(xiàn)了文本到4D 骨骼動畫的生成。通過在相機空間中對不同幀及不同視角的3D 模型進行渲染和降噪，并將梯度回傳至規(guī)范空間中進行蒸餾，「AnimatableDreamer」能夠生成具有高度時間一致性和幾何合理性的模型。無論是在有限視角還是大幅度運動的場景中，該框架都能自動補全畫面信息，實現(xiàn)較好的生成質量。

「AnimatableDreamer」的推出將大大降低3D、4D 數(shù)字內容的生產(chǎn)難度，豐富交互體驗，并讓每個人都能夠進行創(chuàng)意內容的生成和編輯。未來，用戶可以在虛擬世界中快速搭建自定義的數(shù)字空間，打造個性化的交互體驗。而對于游戲開發(fā)和影視動畫等領域的3D 建模和動畫制作流程來說，這一技術有望帶來更高的效率。

清華系創(chuàng)業(yè)團隊生數(shù)科技在不到一年的時間里推出了多個產(chǎn)品，包括3D 資產(chǎn)創(chuàng)建工具 VoxCraft 和4D 骨骼動畫生成框架「AnimatableDreamer」。這些技術的創(chuàng)新能力將為未來的多維數(shù)字體驗和人機交互帶來更多可能性，從而開啟全新的內容娛樂與消費模式。

項目網(wǎng)址:https://top.aibase.com/tool/animatabledreamer

論文網(wǎng)址:https://arxiv.org/pdf/2312.03795.pdf

（舉報）