首頁 > 其他 > DMAD是什麼?擴散模型蒸餾和應用詳解

DMAD是什麼?擴散模型蒸餾和應用詳解

更新時間:2026-10-17 09:14:10 發布時間:11小時前 閱讀:7 views次

DMAD是位元組跳動聯合Texas A&M大學推出的擴散模型蒸餾方法,全稱Distribution Matching as Adversarial Distillation。它用對抗訓練直接學習分佈差異,無需輔助擴散模型,將50步教師模型壓縮成4步學生模型。DMAD已在SDXL、Wan2.1、MiniMax-H3等主流模型上驗證,生成品質業界最優,程式碼和權重全部開源。

DMAD擴散模型蒸餾

DMAD是什麼

全稱和發佈背景

DMAD在2026年10月正式發佈推理程式碼和蒸餾權重,這是繼LCM、一致性模型之後擴散模型加速領域最新的技術突破。位元組跳動與Texas A&M University的聯合研究,成果發表在arXiv上,GitHub倉庫迅速獲得行業關注。兩週內陸續放開了推理程式碼、MiniMax-H3蒸餾模型、Wan2.1訓練資料集和ComfyUI整合,整個開源進度遠快於業界同類項目。

DMAD的英文全名叫Distribution Matching as Adversarial Distillation,中文直譯就是分佈匹配作為對抗蒸餾。這個名字本身揭示了核心方法論:用對抗學習的框架來解決分佈匹配問題,而不是像傳統蒸餾那樣直接擬合模型輸出。

發佈時間是2026年10月初,第一版本包含推理實現和四步學生模型權重。到10月中旬,位元組跳動又開源了Wan2.1的42158張精選訓練資料,展示DMAD蒸餾管道的可復現性。這個快速迭代的節奏表明團隊對技術穩定性和實用性的把握已經相當成熟。

解決了什麼問題

擴散模型最大的痛點就是慢。SDXL標準配置需要25到50步推理,Wan2.1影片模型需要50步,這意味著生成一張圖要幾秒,生成影片要好幾分鐘。對實時應用、移動端和成本敏感的場景,這個速度完全不可接受。

之前的DMD等分佈蒸餾方法理論上可行,但實際部署有兩個致命傷。第一個是需要訓練額外的輔助擴散模型來擬合學生模型的時間演變分佈,這吃記憶體吃顯存,兩個模型一起訓練更容易爆炸。第二個是初始化敏感,容易出現模式崩潰,生成多樣性大幅下降。DMAD通過重新設計目標函數,徹底避免了這兩個坑。

核心思路是什麼

DMAD的核心思路是用判別器的logit差直接學習分佈對數密度比。具體做法很巧妙:訓練兩個分類頭共享同一個骨幹網路,教師頭判別教師樣本和學生樣本,真實頭判別真實樣本和學生樣本。在判別器達到最優的時候,兩個logit的線性組合就等於兩個分佈的對數密度比,這是從對流理論推匯出來的。學生網路梯度就來自這個對數密度比,自動獲得了正確的最佳化方向。

另一個巧思是噪聲時刻自適應加權。教師和學生在不同噪聲水平的差異不一樣,高噪聲階段差異大,低噪聲階段差異小。DMAD用真實頭兩類樣本的logit差來估計各個噪聲時刻的真實困難度,自動提高困難區間的權重。這種自適應策略讓蒸餾過程穩定得多,學到的特徵也更加均衡。

和LCM速比哪個好

LCM是2023年發的一致性模型蒸餾,也能做到4步生成。DMAD雖然同樣是4步,但生成品質明顯領先。在ImageNet-64一步生成上,DMAD達到1.04 FID,LCM系列方法做不到這個水平。MiniMax-H3影片生成對比,DMAD對DMD2的人類偏好率79.1%,對rCM達84.6%,品質差異一目瞭然。

推理速度兩者沒有本質區別,都是4步採樣。但DMAD的優勢在訓練側。DMAD支援離線快取教師樣本,訓練時不用每次都調用教師模型,這大幅降低開銷。在4張H200上訓練MiniMax-H3 LoRA,每個迭代從818秒直接降到233秒,加速倍數3.51倍。LCM雖然每步計算量看似少,但實際端到端的訓練時間不見得更優。

擴散模型蒸餾

蒸餾到底在蒸餾什麼

蒸餾在深度學習裡由來已久,但用在擴散模型上是這兩年的事。要理解DMAD為什麼這麼與衆不同,得先搞懂擴散蒸餾的本質是什麼,到底在蒸餾什麼東西,以及現有方法存在的問題。

很多人第一反應是壓縮模型大小,這是錯的。擴散模型蒸餾的目標是減少採樣步數,而不是減少參數。一個LoRA秩128的蒸餾模型只有1.4GB,參數量微乎其微,但能把50步降到4步。這裡蒸餾的是擴散過程的時間維度。

從數學角度,擴散的逆向過程是在PF-ODE軌跡上做數值積分。標準做法用小步長(多次迭代)確保數值精度,代價是每一步都過一遍神經網路。蒸餾的思路是訓練一個學生網路學會跳步:從較晚的時間直接跳到較早的時間,相當於用更大的步長。這樣既保持了軌跡的連貫性,又極大減少了神經網路調用次數。DMAD在此基礎上用對抗訓練加強了這個過程的穩定性。

少步推理怎麼做

DMAD推理流程很直白。從純高斯噪聲開始,按照重新參數化的4步或8步採樣規則迭代,每步輸入噪聲圖像、時間戳和文字提示,輸出去噪結果。這個採樣規則來自一致性模型的理論,保證了ODE軌跡的合理性。用Diffusers庫幾行程式碼就能調用,或者在ComfyUI裡拖拖拽拽也行。

對顯存吃緊的使用者,DMAD提供–low-vram模式。8GB顯卡可以生成5秒的1344×768有聲影片,12GB可以生成15秒。實現方式包括梯度檢查點、激進的KV快取重算等。這打破了影片生成必須用高階硬體的刻板印象,消費級筆記本也能跑。

品質掉多少

實際使用者最在意這個問題。蒸餾一定會損失,但DMAD的損失比較剋制。ImageNet-64上,50步教師FID為1.51,DMAD一步學生反而達到1.04,超越了教師。SDXL文生圖任務,四步學生FID為14.47,已經超過很多多步基線。

更現實的場景是影片。Wan2.1-T2V-14B被蒸餾為4步後,VBench總分85.15,已經超過原教師模型的許多指標。人類評估顯示使用者更偏好DMAD生成的影片,相比DMD2的偏好率79.1%,相比rCM的84.6%。這說明品質損失已經在人眼難以察覺的範圍,有時甚至看不出差別。

哪些模型能直接用

官方已適配的模型包括ImageNet、SDXL、Wan2.1-T2V-14B和MiniMax-H3。這四個模型涵蓋了分類、文生圖和影片生成三個主要方向。對應的蒸餾權重都在HuggingFace和ModelScope上,下載直用。

除官方權重外,DMAD的訓練框架本身是通用的,原則上可以適配任何擴散模型。GitHub倉庫裡有ImageNet、SDXL、Wan2.1和MiniMax-H3的完整訓練程式碼和配置,每個都是獨立目錄。如果你有計算資源和ML經驗,可以對其他模型自己蒸餾。但這需要投入,不是入門級的工作。

DMAD應用詳解

DMAD不止停留在論文,已經落地了多個實用場景。從文生圖到音影片生成,都有成熟權重和工具鏈配套。清楚瞭解每個應用的具體用法和邊界,能加速你的上手過程。

文生圖能用上嗎

能用,體驗很好。DMAD蒸餾的SDXL四步效果接近原教師,這意味著你能用SDXL生成1024×1024的高解析度圖片,但速度快到1倍多。A100單卡上,SDXL Turbo需要200多毫秒生成512×512圖片,DMAD蒸餾版本速度相當甚至更快。

用法就是載入SDXL的LoRA權重,只有1.4GB。LoRA可以插在任何SDXL檢查點上。Stable Diffusion WebUI、ComfyUI、Diffusers庫都能無縫整合,提示詞寫法和原SDXL完全一樣。代價是少了些超分細節,因為步數少了神經網路計算深度有限。但對社交媒體、預覽稿、概念圖這些用途已經足夠。

影片生成能用嗎

能用,這是DMAD的強項。Wan2.1-T2V-14B是位元組跳動的文字轉影片模型,生成720p影片。DMAD蒸餾版本4步就出影片,8GB顯卡生成5秒有聲影片,12GB生成15秒。對內容創作者有實際價值——原本需要工作站的任務,現在消費級筆記本就能跑。

MiniMax-H3-33B是更大的蒸餾模型,生成1344×768影片加32kHz立體聲音訊。這是目前最大被蒸餾的影片模型。四步生成下VBench得分85.15,是業界少步影片生成的最佳成績。這個指標說明DMAD既加速顯著,品質損失也最小。GitHub有現成的ComfyUI工作流,點幾個按鈕就能跑,不用敲程式碼。

程式碼哪裡下

官方程式碼庫在GitHub:github.com/Yzmblog/DMAD。ImageNet、SDXL、Wan2.1、MiniMax-H3各有獨立目錄,每個目錄都包含訓練腳本、推理腳本和README。權重分散在多個地方:ImageNet權重在官方倉庫,SDXL LoRA在HuggingFace,Wan2.1和MiniMax-H3權重在ModelScope。

ComfyUI的節點整合在comfyui-DMAD倉庫,安裝後工作流能直接調用。Diffusers庫從最新版本也開始原生支援,不用裝額外外掛。WebUI整合還在路上,官方表示會在下個月支援。總之生態很快速在鋪開,新手用ComfyUI最省事。

普通研究者怎麼上手

最快的方式是拿現成權重推理。下載SDXL或Wan2.1的蒸餾模型,用Diffusers或ComfyUI跑,5分鐘能出結果,不用任何改程式碼。這就夠用來做demo、寫論文對比實驗或快速原型驗證。

想自己訓練蒸餾模型的話,流程是這樣的。第一步準備教師模型和目標資料集,比如用SDXL配合自己的圖片庫。第二步跑官方腳本生成離線快取的教師樣本,這很吃計算但只做一次。第三步啓動蒸餾訓練,按照README配置學習率、批大小、噪聲時刻範圍等參數。在單張A100上訓練SDXL LoRA大約需要10小時能收斂。第四步用新蒸餾的權重推理驗證效果。整個過程需要GPU、基礎的PyTorch知識和耐心調參,但文件齊全,難度不算太高。