← 返回 PaperDaily 视觉与图像

加州理工新框架FAPS：首个统一函数空间回归与PDE逆问题的后验采样器，推理快1.7倍

从稀疏采样到全局推断，这是科学计算与AI交叉领域最迷人的难题之一。加州理工团队提出的FAPS，巧妙地用流匹配先验“包”住了后验采样，不仅统一了函数回归和PDE逆问题，还在推理阶段降本增效。更关键的是，它不需要显式评估先验密度，且能无缝对接不同查询网格，切切实实把理论转化成了实用工具。

龙哥读论文 阅读 3 查看原文
#图像生成 #人工智能
加州理工新框架FAPS：首个统一函数空间回归与PDE逆问题的后验采样器，推理快1.7倍
🐉 龙哥读论文知识星球来了！
公众号每日8篇拆解不够看？星球无上限更AI领域论文、资讯、招聘、招博、开源代码，一站式干货，每日2分钟刷完即赚！ 👇扫码加入「龙哥读论文」知识星球，前沿干货、实用资源一站式拿捏～ xingqiu_header

龙哥推荐理由：
从稀疏采样到全局推断，这是科学计算与AI交叉领域最迷人的难题之一。加州理工团队提出的FAPS，巧妙地用流匹配先验“包”住了后验采样，不仅统一了函数回归和PDE逆问题，还在推理阶段降本增效。更关键的是，它不需要显式评估先验密度，且能无缝对接不同查询网格，切切实实把理论转化成了实用工具。

原论文信息如下：
论文标题:
Flow Annealing Posterior Sampling for Function-Space Regression and Inverse Problems
发表日期:
2026年06月 发表单位:
California Institute of Technology 原文链接:
https://arxiv.org/pdf/2606.22346v1.pdf 开源代码链接:
https://github.com/yzshi5/FAPS
想象一下：你拿到了一张模糊的卫星云图，只有稀稀拉拉几十个像素点有数据，却要推算出整个地球的完整气候场——这还不算完，还要给出每个位置的不确定性范围，也就是“后验分布”。以前吧，这事儿靠高斯过程（GP）回归能做，但GP只能对付高斯过程先验，碰到非高斯、复杂结构的真实物理场就抓瞎了。最近几年，神经过程（Neural Process）、流匹配（Flow Matching）等方法学得超强的函数空间先验，但它们大多只能给个“条件均值”，没法真正做后验采样。
加州理工的 Yaozhong Shi、Zachary E. Ross 和 Yisong Yue 三位大佬，出手就是王炸。他们提出的 Flow Annealing Posterior Sampling（FAPS），据说是第一个真正意义上统一了“随机过程回归”和“PDE逆问题”的函数空间后验采样框架。关键是不需要显式计算先验密度，能处理任意查询网格，还能用噪声观测数据引导后验推断。简直就是“万能钥匙”啊！
插图
图1：FAPS 概览。预训练的算子流匹配（OFM）先验将参考高斯过程传输到目标随机过程。给定部分观测，FAPS冻结先验，并迭代地进行传输、校正和重桥接，以获取后验样本，无需显式先验密度评估。

1. FAPS：首个统一函数空间回归与PDE逆问题的后验采样框架

函数空间回归——给你稀疏、带噪声的点观测，推断整个函数及其不确定性。PDE逆问题——如通过边界流压反推地下渗透率。两者本质相同：未知函数 u，观测 y，通过算子 A 联系，做贝叶斯后验采样。FAPS 不从头学条件模型，而是复用预训练的“无条件”函数空间流匹配先验。该先验将高斯过程通过常微分方程（ODE）流变成目标数据分布。观测数据到来后，FAPS 在流上做“退火”采样：从噪声最大的 t=0 开始，沿流前进，每步用观测似然做 朗之万动力学（Langevin dynamics） 校正，再将校正后的干净样本“重桥接”回下一流时间点。最终 t=1 时得到后验样本。先验密度从未被显式求值，所有计算在有限维查询网格上进行，网格可随意变换——这就是“函数空间”的灵活性。对比神经过程（NP系列），观测变了就得重训练；扩散后验采样（如DAPS）计算量大且主要针对PDE逆问题。FAPS 用流匹配先验，统一了回归和逆问题，测试时更快。

2. 从直觉到数学：流退火后验采样的核心思想

核心思路：已有从高斯噪声生成干净函数的流，观测存在时只需在流上“走一步，校正一步”。预训练先验为算子流匹配（OFM）[6]，定义线性插值路径：
公式: u_t = t u_1 + (1-t) u_0 + sigma_min xi
公式1：噪声线性插值路径。u0为高斯参考样本，u1为目标函数，ξ为小噪声，σ_min防止路径奇异。
条件速度 v_t(u_t|u0,u1) = u1 - u0，训练神经算子 v_θ 拟合其期望。训练后从 u0 解 ODE 即可得到 u1 样本。
公式: L_FM(θ) = E[ ||v_θ(t,u_t) - (u1-u0)||^2 ]
公式2：流匹配训练损失。
后验采样时，设置退火时间序列 0=t0 < t1 < ... < tK=1。在 t_k，手头有桥接状态 u_{t_k}。先用预训练流推到干净终点 û_k = Φ_{t_k→1}^θ(u_{t_k})，即当前先验给出的“干净锚点”。围绕锚点用局部高斯近似 p(u1|u_{t_k}) ≈ N(û_k, λ_k^2 C_X)，其中 λ_k 随 t_k 减小。
公式: p(u1|u_tk) ≈ N(û_k, λ_k^2 C_X)
公式3：干净函数的局部高斯近似。C_X 为协方差预条件器，λ_k = max(λ_min, λ_scale (1-t_k))。
然后做 L 步朗之万校正，目标为后验近似：
公式: π̃_k(u1) ∝ p(y|u1) N(u1; û_k, λ_k^2 C_X)
公式4：校正目标。p(y|u1) 为似然，N 为先验近似。
预条件朗之万更新公式：
公式: u1^{(ℓ+1)} = u1^{(ℓ)} + η[ -(u1^{(ℓ)}-û_k)/λ_k^2 + C_X ∇ log p(y|u1^{(ℓ)}) ] + √(2η) ζ, ζ~N(0,C_X)
公式5：预条件朗之万更新。η 为步长，第一项为锚点吸引力，第二项为似然梯度乘以预条件器 C_X，最后为预条件噪声。
校正后得到干净样本 u_k^{clean}，通过桥接核重采样到下一退火水平 t_{k+1}：
公式: u_{t_{k+1}} ~ q_{t_{k+1}}^X(·|u_1)
公式6：重桥接步骤。对 t_{k+1}<1：u_{t_{k+1}} = t_{k+1} u_k^{clean} + s(t_{k+1}) ξ，ξ~N(0,Σ_0^X)，s(t)≈1-t。
反复执行“传输→校正→重桥接”直到 t_K=1，得到近似后验样本。理论上若校正精确，退火后边际分布精确；由于先验隐式，我们用局部高斯近似，论文给出了误差累积的 TV 距离上界。退火让样本从平滑噪声分布出发，逐渐融入结构，每次校正只校正一点点，稳定高效。
恍然大悟：原来退火就是在不同噪声水平下逐步“精巧化”啊！

3. 关键创新：低秩协方差预条件的朗之万校正如何提升稀疏观测性能

朗之万校正中的 C_X 是从学习到的目标过程样本协方差中提取的。当观测稀疏时，似然梯度只在观测点非零，未观测区域纹丝不动。C_X 包含整个函数空间的主导相关性模式，乘上后稀疏梯度被“传播”到相关区域，使未观测点也得到合理更新。离线阶段，从预训练先验采样 N_c 个干净函数，计算经验协方差矩阵。对高维网格使用低秩近似：
公式: 经验协方差计算公式
公式7：离线经验协方差计算。
公式: 低秩近似 C_X = Q_r Λ_r Q_r^T + σ_res^2 I
公式8：低秩近似。保留前 r 个主特征向量和特征值，残差用 σ_res² I 填充。
实验表明，10个主成分即可追上全秩性能，且 C_X 一次离线计算，测试时对所有观测模式复用。消融实验显示，不用预条件器（rank=0）时 SWD 和 MMD 急剧恶化，证明其关键作用。
图5：低秩协方差预条件器的消融（rank=0）和尺度研究
图5：低秩协方差预条件器的消融（rank=0）和尺度研究。随着秩增加，性能迅速提升，在 r=10 左右接近饱和。

4. 实验验证：全面超越现有方法，计算成本降低数倍

FAPS 实验覆盖 1D GP回归、非高斯场回归（纳维-斯托克斯流、黑洞成像、全球气候）及四种 PDE 逆问题（达西流、泊松、亥姆霍兹、纳维-斯托克斯）。

GP回归（精确基准）

图2显示，在马特恩核GP上，FAPS 后验均值和不确定带与精确参考几乎重合，而神经过程（CNP、ANP、NDP、FlowNP）严重过平滑。表1量化结果：FAPS 在 SWD 和 MMD 上全面碾压所有基线，比第二好的 CNP 提高约30%。
图2：一维马特恩核GP后验回归
图2：一维马特恩核GP后验回归。给定7个观测点，各方法在查询分辨率128、512、1024上的预测。FAPS 与参考后验几乎一致。
表1：一维马特恩GP回归的SWD和MMD指标
表1：一维马特恩GP回归。SWD和MMD越低越好（与参考后验对比）。粗体表示最优。

非高斯场回归（真实科学数据）

图3显示，FAPS 恢复了纳维-斯托克斯、黑洞成像、全球气候的主体结构并给出合理不确定性，而 NP 基线后验样本模糊或错误。表2定量对比：FAPS 在 CRPS、SSR、PSNR、SSIM、相对L2 六项指标中大部分第一或第二，SSR 基本在1左右，不确定性估计极其准确。
图3：非高斯函数回归
图3：非高斯函数回归。 (a) NS流场 (b) 全球气候场（球面） (c) 黑洞成像数据 (d) 与NP基线的后验样本对比。
表2：非高斯函数回归的定量对比
表2：非高斯函数回归。CRPS 越低越好，SSR越近1越好，PSNR/SSIM越高越好，Rel. L²越低越好。粗体最优。

PDE逆问题（间接观测）

用128个噪声解观测（128×128网格，占比0.7%）反推输入场。图4显示，FAPS 推断的输入场后验样本产生的预测解与观测对齐，输入场功率谱密度与真实匹配。表3定量结果：FAPS 在泊松和亥姆霍兹几乎所有指标第一，达西流和纳维-斯托克斯第二且与第一接近。计算时间对比：FAPS 比 DiffusionPDE 快1.73倍，比 FunDPS 快1.55倍，比 DDIS 快2.37倍（表10）。此外，FAPS 展示了零样本超分辨率能力：在达西流上用160×160分辨率（高于训练时）推断输入场，结果依然准确。
图4：PDE逆问题示例
图4：PDE逆问题。128×128分辨率下用128个噪声解观测（0.7%）。 (a) 达西流 (b) 泊松方程。FAPS 推断后验输入场和后验预测解场。
表3：PDE逆问题定量对比
表3：PDE逆问题（128×128分辨率，128个噪声观测）。粗体和棕粗体分别表示最好和次好。
表10：测试时间计算成本对比
表10：泊松逆问题的测试时间计算成本。加速比相对FAPS-UNet计算。FAPS-FNO在内存和时间上均优于其他方法。
图6：零样本超分辨率PDE逆问题
图6：零样本超分辨率PDE逆问题。160×160分辨率（训练128×128），128个噪声观测（0.5%）。FAPS 无需重新训练先验即可推断高分辨率输入场。

5. 限制与未来：近似校正的局限与非渐近理论的展望

FAPS 最关键的近似是用局部高斯近似 N(û_k, λ_k² C_X) 替代不可计算的条件先验 p(u1|u_{t_k})，在流路径线性插值时合理，但目标分布极度多模态或路径高度非线性时精度下降。朗之万校正步数 L 和步长 η 需调参，无自适应方案。论文给出了非渐近误差分析，TV 距离上界由多项误差组成，实际误差远小于上界。未来方向包括：学习更精确的条件桥接分布、推广到基于分数的扩散先验、扩展到高维物理场。当前实现依赖预训练先验和前向代理，先验质量不高时 FAPS 会继承偏差，但 FAPS 是“即插即用”的，换更好先验即可提升。

龙迷三问

下面是龙哥对于大家可能的一些问题的解答：

Q1: FAPS 和扩散后验采样（如DAPS）的核心区别是什么？FAPS 使用流匹配先验，DAPS使用扩散先验。流匹配学习从噪声到数据的确定性ODE，采样时函数求值更少、计算更快。FAPS 设计了函数空间上的预条件朗之万校正，能处理稀疏观测下的相关结构，而DAPS主要针对PDE逆问题，对直接函数回归支持有限。

Q2: FAPS 中的“重桥接”是什么意思？为什么需要它？重桥接指校正完干净样本 u_k^{clean} 后，根据桥接核重新采样出噪声版本的 u_{t_{k+1}}，噪声水平对应下一退火水平。若不重桥接直接推进ODE，后验样本会坍缩到先验的确定性流上。重桥接保证了每个退火水平上的样本正确来自该水平的后验边际分布。

Q3: FAPS 的预条件协方差 C_X 如何保障泛化？难道它不会过拟合先验样本吗？C_X 从先验的N_c个样本中估计，但它是低秩+对角结构，捕捉的是目标函数的全局相关性模式（如光滑性、周期性）。即使先验样本不多（论文用1000个），主导特征向量也能稳定估计。C_X 只用于调整朗之万梯度方向，不直接决定采样具体值。实验证明，在不同观测掩码和噪声水平下性能稳定，没有过拟合。

如果你还有哪些想要了解的，欢迎在评论区留言或者讨论~

龙哥点评

论文创新性分数：★★★★★

首次将流匹配先验与后验采样统一在函数空间，概念新颖，设计巧妙。

实验合理度：★★★★☆

对比3大类任务，基线包括最先进NP变体和扩散采样器，消融充分。扣分点：未在极端稀疏或少样本场景下测试，PDE逆问题未包含更高效的扩散采样器。

学术研究价值：★★★★★

为函数空间后验采样开辟新范式，理论分析完整，对科学计算、不确定性量化领域有重大启发。

稳定性：★★★☆☆

重桥接保证样本多样性，但朗之万校正步长和锚定强度需针对不同任务调整，非完全自适应，极端多模态时可能不稳定。

适应性以及泛化能力：★★★★☆

同一框架适用于回归和逆问题，支持零样本超分辨率。但依赖预训练先验，若训练数据分布与测试数据显著漂移，性能可能下降。

硬件需求及成本：★★★★☆

离线先验预训练需GPU，测试时采样成本低于扩散方法，低秩预条件器几乎无额外开销。扣一星因先验预训练可能较大。

复现难度：★★★★☆

代码已开源（MIT许可证），文档清晰，依赖常见。但需从Hugging Face下载预训练检查点，PDE逆问题需预训练前向代理，有一定门槛。

产品化成熟度：★★★☆☆

原型验证充分，但仅适用于二维物理场和中等规模网格，拓展到三维或高分辨率需优化，工业级实时应用不够快。

可能的问题：高斯近似 p(u1|u_{tk}) 仅在独立耦合流路径下成立较好，更复杂路径可能需要新设计。缺乏大规模3D实验验证。


主要参考文献

[1] Williams, C. K. I. & Rasmussen, C. E. Gaussian Processes for Machine Learning. MIT Press, 2006.
[6] Kerrigan, G., et al. Operator Flow Matching. ICML 2024.
[18] He, M., et al. Decoupled Annealing Posterior Sampling (DAPS) for Inverse Problems. NeurIPS 2024.
[19] Li, Z., et al. Function Space Diffusion for Posterior Sampling. arXiv 2025.
[20] Wang, S., et al. Decoupled Diffusion for PDE Inverse Problems. ICLR 2025.
[21] Zhao, Q., et al. BLADE: Bayesian Inversion with Diffusion Priors. NeurIPS 2024.
[22] Shi, Y., Ross, Z. E. & Yue, Y. Flow Annealing Posterior Sampling for Function-Space Regression and Inverse Problems. arXiv:2606.22346, 2026.

*本文仅代表个人理解及观点，不构成任何论文审核或者项目落地推荐意见，具体以相关组织评审结果为准。欢迎就论文内容交流探讨，理性发言哦～ 想了解更多原文细节的小伙伴，可以点击"阅读原文"，查看更多原论文细节哦！       

end
欢迎加入龙哥读论文粉丝群，扫描下方二维码或者添加龙哥助手微信号加群：kangjinlonghelper。一定要备注：研究方向+地点+学校/公司+昵称（如 科学计算+加州+Caltech+龙哥），根据格式备注，可更快被通过且邀请进群。
🎉 FAPS把函数回归和PDE逆问题“一网打尽”，还便宜又大碗。想跟龙哥一起，变身科学计算+AI的“采样小能手”吗？快加群来聊！
wechat_helper dianzan
转发文章 微博 X LinkedIn Facebook
龙哥读论文 · PaperDaily

本文基于龙哥读论文 PaperDaily 数据库整理，结合论文原文与工程视角进行解读。