ScoreSdeVpScheduler

ScoreSdeVpScheduler 是一個方差保持隨機微分方程 (SDE) 排程器。它由 Yang Song、Jascha Sohl-Dickstein、Diederik P. Kingma、Abhishek Kumar、Stefano Ermon、Ben Poole 在 Score-Based Generative Modeling through Stochastic Differential Equations 論文中提出。

論文摘要如下：

從資料中建立噪聲很容易；從噪聲中建立資料是生成建模。我們提出了一種隨機微分方程 (SDE)，透過緩慢注入噪聲將複雜的真實資料分佈平滑地轉換為已知的先驗分佈，以及相應的逆時間 SDE，透過緩慢去除噪聲將先驗分佈轉換回資料分佈。至關重要的是，逆時間 SDE 僅取決於擾動資料分佈的時間相關梯度場（即分數）。透過利用基於分數的生成建模的進步，我們可以使用神經網路準確地估計這些分數，並使用數值 SDE 求解器生成樣本。我們展示了該框架封裝了以前基於分數的生成建模和擴散機率建模的方法，允許新的取樣過程和新的建模能力。特別是，我們引入了一個預測器-校正器框架來糾正離散化逆時間 SDE 演化中的誤差。我們還推匯出了一個等效的神經 ODE，它從與 SDE 相同的分佈中取樣，但額外實現了精確的似然計算和改進的取樣效率。此外，我們提供了一種使用基於分數的模型解決逆問題的新方法，正如類條件生成、影像修復和著色實驗所證明的那樣。結合多項架構改進，我們在 CIFAR-10 上實現了無條件影像生成的創紀錄效能，Inception 分數為 9.89，FID 為 2.20，有競爭力的似然為 2.99 bits/dim，並首次展示了基於分數的生成模型生成 1024 x 1024 影像的高保真度。

ScoreSdeVpScheduler

< > 在 GitHub 上更新