Zifeng Mai's Blog

Keep scaling and you will meet your aha moment.

生成模型 (3.3)

Flow Matching

本文介绍了流匹配 (flow matching)，一种无需模拟的流模型训练方法。文章详细证明了流匹配是如何通过条件化技巧来构建出从初始分布到目标分布到概率路径，以及如何构建真实的速度场来监督模型的训练。最后，文章通过引入Bregman散度，从最大似然的角度来阐述了流匹配的训练过程。

Posted by Zifeng Mai on December 27, 2025

生成模型 (3.2)

Flow Model

本文深入阐述了流模型 (flow model)。文章首先铺垫了一些概率论和微分方程的预备知识，包括随机向量、微分同胚等。然后，文章详细介绍了流模型的数学表达，证明了流和速度场的等价性，利用连续性方程来建立流和概率路径的关系，并通过证明瞬时换元公式来证明了流的可逆性。最后，文章还介绍了流模型的训练方法，如何通过最大似然估计来训练流模型。

Posted by Zifeng Mai on December 18, 2025

生成模型 (3.1)

Flow-based Method

本文是介绍Flow Matching数学原理的第一篇。由于Flow Matching的数学原理较为复杂，文本的主要目的是为读者从宏观上理解基于流的方法的基本原理，把握其核心思想，并对速度场、流、ODE等概念有个基本的了解。

Posted by Zifeng Mai on December 13, 2025

生成模型 (2.1)

Energy-based Model

本文介绍了基于能量的模型 (Energy-based Models, EBMs)，它是一种利用分数进行生成式建模的简单方法。我们首先从变分的角度出发，介绍了EBMs的基本原理，包括能量函数的定义、概率分布的归一化项、以及如何通过最大化对数似然来训练EBMs。最后，我们还介绍了基于朗之万动力学 (Langevin dynamics) 进行采样的方法，以及如何利用分数场将样本推向数据分布中高概率的方向。

Posted by Zifeng Mai on November 25, 2025

生成模型 (1.3)

Denoising Diffusion Probabilistic Model

本文深入介绍了DDPM的数学原理，包括DDPM的前向过程和反向过程、条件化技巧、ELBO的推导以及优化、DDPM的采样过程。通过本文，读者能够全面了解DDPM的工作原理，以及如何应用DDPM来解决生成模型的问题。

Posted by Zifeng Mai on November 18, 2025

生成模型 (1.2)

Variational Auto-Encoder

本文深入介绍了VAE的数学原理，包括如何通过ELBO来训练VAE，以及VAE的生成过程。最后，我们还介绍了层级VAEs (HVAEs)，它是一种能够捕捉不同尺度数据特征的VAE。

Posted by Zifeng Mai on November 11, 2025

FEATURED TAGS
Reinforcement Learning Recommender System Policy Entropy Finite Markov Decision Process Generative Modeling Flow Matching Denoising Diffusion Probabilistic Model Generative Recommendation Optimizer Optimization Theory Muon Newton-Schulz LLM Entropy Safe Stochastic Process Gaussian Process Poisson Process
ABOUT ME

Math, Deep Learning, LLMs, Reinforcement Learning, Recommender, Search system

✉️ 654147900@qq.com

✉️ maizf3@mail2.sysu.edu.cn

✉️ maizifeng253@gmail.com