by rainchu | 12 月 19, 2024 | AI, 影片製作, 語音合成, 音樂
MMAudio 是一款開源的多模態影片轉音訊工具，透過多模態聯合訓練技術，可以將高品質的影片與音訊合成。該專案由伊利諾大學厄巴納-香檳分校、Sony AI 及 Sony 集團公司合作開發，適用於影片配音、虛擬角色語音等多媒體創作場景。
主要特色：
- 多模態聯合訓練： MMAudio 採用多模態聯合訓練方法，能夠同時處理影片和文字輸入，生成與內容同步的音訊。
- 高品質音訊合成： 透過先進的模型架構，MMAudio 能夠生成高品質且自然的音訊，適用於各類應用場景。
- 同步模組： MMAudio 的同步模組確保生成的音訊與影片畫面精確匹配，實現高度同步。
適用場景：
- 影片配音： 自動為無聲影片生成對應的音訊，提升影片的可觀賞性。
- 虛擬角色語音生成： 為虛擬角色生成符合其動作和表情的語音，增強互動性。
- 多媒體內容創作： 協助創作者快速為視覺內容添加音訊，豐富作品表現力。
技術原理：
MMAudio 基於深度學習技術，特別是神經網路，理解和生成音訊資料。模型能夠處理影片和文字輸入，透過深度學習網路提取特徵，進行音訊合成。在訓練時，模型考慮音訊、影片和文字資料，使生成的音訊能夠與影片和文字內容相匹配。透過同步模組，確保音訊輸出與影片畫面或文字描述的時間軸完全對應，實現同步。
使用方法：
MMAudio 提供命令列介面和 Gradio 介面，使用者可以根據需求選擇使用。在命令列中，使用者可以透過指定影片路徑和文字提示，生成對應的音訊。Gradio 介面則提供了更友善的使用者介面，支援影片到音訊和文字到音訊的合成。
已知限制：
目前，MMAudio 存在以下限制：
- 有時會生成不清晰的語音或背景音樂。
- 對某些陌生概念的處理不夠理想。
相關資源：
by rainchu | 12 月 3, 2024 | AI, 圖型處理
TryOffDiff：開創虛擬脫衣的新方向
在電子商務與生成式模型的發展中，虛擬試穿（Virtual Try-On, VTON）技術早已佔據重要一席之地，讓用戶能在數位環境中模擬穿戴效果，但一項新興的任務——虛擬脫衣（Virtual Try-Off, VTOFF）正在改變我們對電子商務中的服裝數位化處理的理解。
什麼是 VTOFF？
虛擬脫衣（VTOFF）是可以從穿著者的單張照片中提取標準化的服裝影像，而不是僅僅模擬服裝穿著的效果，最大的好處是幫助你快速分離模特兒身上的衣服，VTOFF 的挑戰在於，如何準確捕捉服裝的形狀、材質與細節紋理，同時去除穿著者的影響，生成一個純粹且高還原度的服裝影像。
這項任務的核心價值在於：
- 提供標準化的服裝圖像，有助於電子商務中的產品展示。
- 評估生成式模型的重建能力，成為模型研究與改進的重要工具。
試用 VTOFF
TryOffDiff：專為 VTOFF 打造的生成模型
針對 VTOFF 的挑戰，TryOffDiff 模型應運而生。這是一種基於 Stable Diffusion 的生成架構，結合了 SigLIP 視覺條件技術，確保高還原度與細節保留。與傳統的虛擬試穿和姿態轉移技術相比，TryOffDiff 擁有以下優勢：
- 重建品質卓越：TryOffDiff 在處理服裝紋理、複雜細節以及準確的形狀表現上表現突出。
- 簡化處理流程：不需要繁瑣的前處理與後處理步驟，顯著提高效率。
- 改進的評估方法：傳統影像生成指標難以準確衡量重建品質，TryOffDiff 使用 DISTS（Deep Image Structure and Texture Similarity） 作為評估標準，提供更可靠的結果分析。
實驗成果與應用前景
TryOffDiff 的實驗基於改進版的 VITON-HD 資料集進行，結果顯示其重建表現超越現有基準方法。特別是在以下領域：
- 電子商務：幫助商家輕鬆生成標準化產品影像，提升顧客的購物體驗。
- 生成式模型評估：作為生成模型評估的重要參考，推動更高還原度的技術研究。
- 未來發展：激發針對高品質影像重建的新技術創新。
參考資料
by rainchu | 12 月 3, 2024 | AI, 人臉辨識
完全開源的 AI 換臉工具，也提供了預先編譯好的程式碼，只需要簡單的三個步驟
有支援多人臉的尋找以及合成，合成的效果還不錯，只是訓練的時間有點久
近期留言