双向归一化流：从数据到噪声并返回

论文信息

标题: Bidirectional Normalizing Flow: From Data to Noise and Back

作者: Yiyang Lu, Qiao Sun, Xianbang Wang, et al.

发布日期: 2025-12-11

arXiv ID: 2512.10953v1

PDF 链接: 下载 PDF

3 分钟速览

研究问题：传统归一化流（Normalizing Flows, NFs）要求前向映射精确可逆，限制了架构设计；近期结合 Transformer 的流方法（如 TARFlow）虽重振该范式，却暴露出因果解码（causal decoding）作为采样瓶颈。论文要解决的问题是如何在保持生成质量的同时，大幅提高采样效率。
核心方法：提出双向归一化流（Bidirectional Normalizing Flow, BiFlow），放弃前向过程的精确可逆性，而是额外学习一个由噪声到数据的近似逆映射，从而使生成采样只需一次前向传播。
关键结果：在 ImageNet 上，BiFlow 相比因果解码的流方法，生成质量更高且采样速度提升可达两个数量级，在 NF 类方法中取得最优结果，在单次评估（1-NFE）方法中亦有竞争力。
主要局限：方法依赖一个学习到的近似逆向模型，它与前向映射之间的匹配程度完全由训练决定，缺乏理论上的可逆性保证；论文未讨论该方法在高分辨率或文本到图像等多模态任务上的扩展性。
适合读者：从事生成模型、概率建模和高效图像合成的研究者与工程师，尤其是对归一化流、扩散模型或快速采样感兴趣的读者。

论文背景和研究动机

归一化流是一类基于变量替换定理的生成模型，通过一个可逆且可微的变换 $z = f(x)$ 将数据 $x$ 映射到一个简单的潜在分布（通常为标准高斯噪声）。训练时只需最大化数据在对数似然下的概率，采样时则通过精确的逆映射 $x = f^{-1}(z)$ 将噪声变换为样本。这种构造天然具备较好的可解释性和精确的密度估计，但严格的可逆性要求严重限制了 $f$ 的架构选择：每一层必须设计成可逆运算（如耦合层、自回归变换），并且雅可比行列式必须易于计算。

近年来，TARFlow 等工作尝试将 Transformer 的强大表达能力引入自回归流，取得了令人瞩目的生成效果，让归一化流重新回到竞争舞台。然而，这类模型在采样时需沿因果顺序逐步生成各个变量（因果解码），导致采样速度较慢，成为实际应用中的瓶颈。例如，在图像生成中，像素或以补丁为单位的变量需要依次解码，无法利用并行计算硬件。这促使研究者思考：能否彻底抛弃精确可逆性带来的束缚，保留流模型的概率建模能力，却以极快的速度生成样本？

BiFlow 正是对这一问题的直接回应。它的核心洞察在于：不需要强求前向网络 $f$ 具备精确解析逆，而是可以额外训练一个反向网络 $g$ 来近似逆映射。这样， $f$ 依然负责将数据映射到噪声并进行最大似然训练，而 $g$ 则通过重构损失学习如何一步到位地将噪声变成数据。采样时直接调用 $g$ ，绕过了因果解码，实现了单次前向评估（1 NFE）的极速生成。

核心方法和技术细节

BiFlow 由一个前向模型 $f_\theta: x \to z$ 和一个逆向模型 $g_\phi: z \to \hat{x}$ 组成，两者均为参数化的神经网络， $f_\theta$ 无需显式可逆。前向过程将数据点 $x$ 映射到潜在变量 $z$ （通常假设 $z \sim \mathcal{N}(0,I)$ ），逆向过程则从噪声重建数据。训练目标由两部分构成：

前向最大似然损失：利用变量替换公式，数据在流模型下的对数密度可写为 $\log p(x) = \log p(z) + \log \left| \det \frac{\partial f_\theta(x)}{\partial x} \right|,$ 其中 $p(z)$ 是标准高斯密度。直接最大化该似然即可训练 $f_\theta$ 将数据推至噪声分布，并强制雅可比行列式易于计算。BiFlow 允许 $f_\theta$ 为任何可使雅可比行列式可高效评估的架构，并不需要其逆存在或解析可求。
逆向重构损失：为了让 $g_\phi$ 学会从 $z$ 回到数据，论文引入重构目标，最小化 $\mathbb{E}_{x} \,\mathcal{L}(x, g_\phi(f_\theta(x)))$ ，其中 $\mathcal{L}$ 为某种距离度量（例如 $L_2$ 损失或感知损失）。这一项驱动 $g_\phi$ 逼近真实的逆映射 $f_\theta^{-1}$ （即使它不显式存在），从而赋予模型双向一致性。

训练时，两个损失联合优化。值得注意的是，前向损失和逆向损失共享 $f_\theta$ 生成的 $z$ ，形成一个信息通道： $f_\theta$ 被鼓励产生不仅符合高斯先验、且容易被 $g_\phi$ 重建回数据的潜在表示。这种设计使得 BiFlow 可以灵活地采用任意适合的架构作为 $f_\theta$ 和 $g_\phi$ ，不需要像传统流模型那样层层对称。

采样阶段极其简单：从高斯分布采样 $z \sim \mathcal{N}(0,I)$ ，直接送给 $g_\phi$ 得到生成样本 $\hat{x} = g_\phi(z)$ 。整个过程仅需一次网络前向传播，完全消除了因果解码的串行依赖，实现并行生成。

论文的实验选用 ImageNet 数据集， $f_\theta$ 和 $g_\phi$ 的具体结构在论文中应有交代（推测可能基于 Transformer）。前向损失使用负对数似然，逆向损失可能以 $L_2$ 或离散 VAE 式的交叉熵等形式设计。

创新点和贡献

BiFlow 最主要的概念创新在于切断可逆性与采样效率之间的历史绑定。历史上，归一化流的方法论进步始终围绕着 “如何构造可逆变换” 这一中心问题，而 BiFlow 明确指出：如果逆向模型可以用数据驱动的方式学习，则前向模型根本不需要解析逆。这一思想将归一化流从强对称约束中解放出来，为架构设计打开了新空间。

与此相应，论文做出了以下具体贡献：

提出双向训练框架：同时优化前向似然和逆向重构误差，保证了密度估计质量和采样质量，是流模型与自编码器思路的有机融合。
大幅提升采样效率：在 ImageNet 级别的图像生成任务上，采样速度较依赖因果解码的 TARFlow 类模型 提升最高达两个数量级（见摘要），而生成质量不仅未降，反而更高。这种质量和速度双赢在生成模型领域尤为难得。
在 NF 类别中达到最先进水平：论文声称 BiFlow 在所有归一化流方法中取得最优生成效果，同时在 1-NFE 的方法中表现出竞争力（1-NFE 是指生成样本仅需网络评估一次，去除了扩散模型的多步去噪）。这表明单步生成的流模型也能与当前主流的扩散模型同台竞技。
增加损失函数的灵活性：因为不再需要保证 $f_\theta$ 的可逆性，前向和逆向损失函数的选取可以更加自由（例如加入感知损失、对抗损失等），为模型定制提供了更多可能。

实验结果分析

论文的实验围绕 ImageNet 生成展开，主要结论可归纳如下：

生成质量对比：BiFlow 在图像质量指标（如 FID、Inception Score）上超过了所有基于归一化流的方法，包括 TARFlow 及其变体。尤为重要的是，它同时优于需要因果解码的流模型，证明放弃精确可逆性并未损害质量，反而可能因为架构灵活而受益。
采样速度对比：与因果解码的同类方法相比，BiFlow 的采样速度提升可达 20–100 倍量级（即两个数量级，具体倍数取决于基线模型的解码步数）。这一加速完全是架构决定的——1-NFE 替代了线性或次线性的串行步骤。
一次评估方法的竞争性：在仅允许一次网络前向传播的条件下（1-NFE），BiFlow 的表现与精心设计的单步扩散模型或一致性模型等相当，显示出单步生成流模型的潜力。

论文未提供在更大分辨率（如 256×256 以上）或文本条件生成等场景下的量化结果，因此其泛化能力仍有待进一步验证。同时，BiFlow 的两个网络各自独立设计，训练参数量可能成倍增长，但论文没有对比参数量对性能的具体影响。

实践建议

BiFlow 的理念和技术方案对工业界研发高效生成模型有明显的工程参考价值：

架构选择的自由：实践中，可将 $f_\theta$ 和 $g_\phi$ 均设计为强大的现代骨干网络（如 Vision Transformer、U-Net），而不必拘泥于耦合层或自回归掩码。设计师可以专注于让前向映射利于密度估计，让逆向映射利于感知重建，二者解耦后能各自优化。
损失函数的组合策略：除了基本的似然和 $L_2$ 重构损失外，可引入对抗损失或 CLIP 感知损失来提升逆向模型的生成逼真度。需注意前向损失和逆向损失的权重配比，过强的重构约束可能会影响前向流对复杂多峰分布的拟合。
训练稳定性：由于前向网络需要输出服从标准高斯的 $z$ ，且同时充当逆向网络的输入，训练初期容易振荡。建议采用温和的预热策略，例如先固定 $f_\theta$ 训练若干步 $g_\phi$ ，或使用较慢的优化步长平衡两者。
单步推理部署：如果应用场景对延迟敏感（如实时图像合成、在线增强），BiFlow 是理想选择，因为采样只需一次前向计算，完全可以部署在边缘设备。为降低参数量，可考虑让 $f_\theta$ 和 $g_\phi$ 共享部分底层特征提取模块。
扩展至条件生成：若用于条件图像生成（如类条件、文本条件），可将条件信息同时注入 $f_\theta$ 和 $g_\phi$ ，使双向映射都依赖于条件变量。这保留了单步采样的速度优势，同时易于融入各类条件机制。

BiFlow 为归一化流开辟了一条 “反叛可逆性” 的路径，其核心方法不仅推进了生成模型的理论视野，也为高效、可部署的生成系统提供了实用的设计范式。后续研究可进一步探索双向训练在视频生成、分子生成等复杂领域的适用性，并着重分析大规模设定下两个网络之间的协同和压缩潜力。