Zifeng Mai's Blog

Keep scaling and you will meet your aha moment.

论文推荐：自回归生成可以增强 dLLM 的探索性

The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models

扩散语言模型 (dLLM) 可以以任意的顺序 (Arbitrary Order, AO) 生成 token，而不需要像自回归语言模型 (AR LLM) 那样严格地从左到右生成。理论上，这种以任意顺序生成 token 的能力使 dLLM 可以探索的解空间远比 AR LLM 更大。然而作者发现，随着采样次数变多，AR 却稳定优于 AO。在更高的采样预算下，AO 能够找到的解决方案几乎完全是 AR 的子集。这表明：看似灵活的方法实际上是在反复收敛于相同的几个解决方案，未能探索更加多样化推理路径。基于此，作者提出了一种用于 dLLM 的简单的后训练强化学习方法：JustGRPO。该方案的核心在于：在 RL 阶段强制 dLLM 严格按照从左到右的顺序来 rollout 和计算策略梯度，以此让 dLLM 的推理路径更加多样化。

Published on ICML-2026

随机过程(11)

马尔可夫链

本文是张颢老师随机过程课程笔记的第十一篇。在本文中，我们介绍了马尔可夫假设和马尔可夫链，并分析了马尔可夫链的渐进行为。我们展示了，当步数趋于无穷大时，马尔可夫链的过程性会逐渐退化，变为一个只与终点有关的随机变量。为此，我们深入研究了马尔可夫链的常返性。结论表明，在渐进意义下，非常返的状态被访问的概率会趋于零，说明马尔可夫链只会访问常返态。我们还给出了多种判断状态常返性的方法，比如说判断级数敛散性、直接观察转移图的结构等等。此外，我们介绍了强遍历和弱遍历定理，指出了不同性质的马尔可夫链的转移概率将表现出怎样的渐近行为。最后，我们介绍了连续时间马尔可夫链，用于解决资源有限的排队问题。

Posted by Zifeng Mai on April 25, 2026

随机过程(10)

泊松过程(2): 过滤泊松过程

本文是张颢老师随机过程课程笔记的第十篇。在本文中，我们详细介绍了泊松过程的一个非常重要的推广：过滤泊松过程。这是将泊松过程的独立增量条件进行放松后得到的随机过程，事件发生带来的影响并不是恒定不变的常数，而是一个与当前时间和事件发生时间有关的随机变量。过滤泊松过程可以用于解决一类典型的排队问题，即不需要等待时间、服务资源无限多的排队问题。此外，为了推导过滤泊松过程，我们还介绍了顺序统计量、对称函数、微元法等一系列数学工具。

Posted by Zifeng Mai on April 19, 2026

随机过程(9)

泊松过程(1): 泊松分布

本文是张颢老师随机过程课程笔记的第九篇。在本文中，我们介绍了离散状态随机过程的代表：泊松过程。我们从独立增量和平稳增量两个条件推导出了泊松分布的概率分布函数，介绍了矩母函数等一系列数学工具，分析了泊松过程的一系列性质。然后，我们将泊松过程进行一些推广，介绍了非齐次泊松过程和复合泊松过程。最后，我们给出了泊松过程的五个应用举例，帮助读者更好地理解泊松过程。

Posted by Zifeng Mai on April 15, 2026

随机过程(8)

高斯过程(4): 高斯过程的应用

在本文中，我们主要介绍了高斯过程的一些应用来增强读者对于高斯分布的理解。其中的内容包括：DDPM、线性高斯系统、条件高斯分布的一些计算和高斯过程在经济学中的应用。

Posted by Zifeng Mai on April 13, 2026

随机过程(7)

高斯过程(3): 高斯与非线性

本文是张颢老师随机过程课程笔记的第七篇。在本文中，介绍了高斯过程经过一些非线性系统后的性质，着重分析了其相关函数。我们还介绍并证明了Price定理，这是处理高斯过程经过非线性系统后的相关函数的一个重要工具。

Posted by Zifeng Mai on April 10, 2026