麻省理工学院最新的机器学习研究提出了一种新颖的“泊松流生成模型”(PFGM),可将任何数据分布映射到高维半球上的均匀分布

深度生成模型 (DGM) 是一种数据生成策略,广泛用于生成高质量的图像、文本和音频样本,并改进半监督学习、领域泛化和模仿。 深度生成模型有一些缺点,例如不稳定的 GAN 和低质量样本(VAE 或归一化流)。 基于扩散和评分的模型的最新发展在没有对抗性学习的情况下实现了同等的样本质量,但随机选择过程很慢。 我们提出了新的策略来保护基于 CNN 或 ViT 的 GAN 模型的训练。

作者建议,归一化流量(normalizing flow)的反向 ODE 采样器可以加速采样过程。 这些方法尚未优于其 SDE 对应方法。 我们提出了一种新的“泊松流”生成 (PFGM) 模型,该模型利用了一个扩展到 N 维的令人惊讶的物理真理。 他们将 N 维项目 x(比如图片)解释为平面 z = 0 中的正电荷,这是一个充满粘性流体(如蜂蜜)的 N+1 维环境。 下图显示粘性液体中的运动将平面中的任何电荷分布转换为角分布。

通过在半球上产生均匀分布的负电荷来逆转正向过程,然后跟踪它们的路径回到 z = 0 平面,在那里它们将作为数据分布分散。 反向过程是通过在负电荷的半球上创建均匀分布,然后跟踪它们回到 z = 0 平面的路径来执行的。

来源和详细信息:

Latest Machine Learning Research at MIT Presents a Novel ‘Poisson Flow’ Generative Model (PFGM) That Maps any Data Distribution into a Uniform Distribution on a High-Dimensional Hemisphere

By lausm

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *