GNN解释错在哪？中南大学查明：掩码是病根，噪声才是解药

图神经网络解释的"隐形杀手"：尺度漂移问题

先问一个问题：当你想知道一个图神经网络（GNN）为什么做出某个预测时，最直接的办法是什么？

相信很多人会想到“遮住一些边或节点，看预测结果变没变”。这就是图神经网络解释中最主流的Perturb-Query（扰动-查询）范式：先对图结构做扰动，再查询模型的预测变化，从而推断哪些边对预测贡献最大。听起来很合理对吧？

但中南大学、香港理工大学和格里菲斯大学的研究者最近发现，这个范式里藏着一个长期被忽略的“隐形杀手”——Scale Drift（尺度漂移）。简单说，主流的掩码扰动机制本身就会把被扰动图的消息传播尺度带偏，就算解释分数完全正确，最终查出来的预测变化也可能是“假”的。

图1：重新审视分布偏移进入Perturb-Query管线的位置。现有工作主要关注①或③（例如ProxyExplainer），而本工作聚焦于②扰动机制本身。

具体来说，目前几乎所有Perturb-Query解释器都采用Element-wise Masking（逐元素掩码，简称EM）机制，也就是把某些边对应的消息乘以一个[0,1]之间的系数，系数为0时相当于直接把这条边“掐断”。这个操作看起来人畜无害，但研究者通过一个关键实验证明问题远比想象中严重：即使使用ground-truth（真实标签）解释作为“完美”的扰动分数，被扰动后的图表示依然会显著偏离原始图。

换句话说，问题不出在解释分数算得准不准，而出在“掩码”这个扰动机制本身。为什么会这样？因为EM在抹掉信息的同时，也把消息的尺度（scale）压向了零。这种收缩会随着消息传递层数逐层累积，导致被扰动图的计算过程越来越偏离干净图的“正常工作区间”。论文把这种现象命名为Scale Drift。

(a) 图神经网络解释中的表示偏移：使用相同ground-truth解释分别以EM和NC机制实例化扰动后，原始图与扰动图的t-SNE嵌入对比。

图3：初步实验结果。(a) 原始图与同一ground-truth解释分别用EM和NC实例化后的图嵌入t-SNE可视化；(b)-(c) GCN和GIN上的消息尺度分布偏移；(d) 不同扰动机制下的逐层平均尺度；(e) 跨数据集的尺度统计汇总。

为了量化EM造成的尺度漂移，论文定义了每层消息的均方范数作为消息尺度的代理指标。这个指标直观地反映了消息在传播过程中的“能量水平”——如果消息的均方范数在扰动后大幅下降，说明消息被过度压制，模型后续层接收到的信号强度与干净图不一致，自然会产生错误的预测变化。论文在多个数据集和多种GNN骨干上验证了这一现象，发现EM造成的尺度衰减不仅普遍存在，而且随着网络层数加深呈近似线性增长的趋势。

公式1：消息定义。第l层中边(v_i,v_j)的消息m_ij^(l)由消息函数φ^(l)基于两端节点表示h_i^(l)、h_j^(l)和边特征e_ij计算得到。消息函数的具体形式取决于GNN架构——在GCN中通常是线性变换加激活函数，在GIN中则可能包含多层感知机。无论哪种形式，消息都是信息在图中传播的基本载体。

公式2：消息尺度定义。第l层的消息尺度S^(l)(G)定义为所有边上消息均方范数的期望，用来衡量该层消息的“能量水平”。这个定义的好处在于它是可微的、可计算的，并且对不同规模的图具有可比性——因为取了期望，边的数量不会影响尺度值的量级。论文用这个指标来量化扰动前后消息能量的变化，从而精确地刻画尺度漂移的程度。

标准EM扰动写成公式就是：

公式3：EM扰动。扰动后的消息等于掩码系数乘以原始消息，实质是对消息做乘法缩放，系数小于1时消息被直接压低。这里的关键在于，EM对所有被掩码的边都施加了一个小于1的乘性因子，无论这个因子是0.5还是0.9，消息的范数都会被压缩。当图中大量边被掩码时，整体消息尺度就会显著下降，这种下降在深层GNN中会被逐层放大。

论文从理论上证明了这种缩放的危害。令η_e^(l)表示边e的消息在所有消息能量中的占比，可以推导出EM扰动后与干净图的消息尺度之比满足一个关键下界。这个下界告诉我们：只要存在任何一条被掩码的边，扰动后的消息尺度就必然小于原始尺度，而且差距至少是某个正数。换句话说，EM扰动带来的尺度漂移是不可避免的，不是某个特定数据集或模型架构的偶然现象。

公式4：EM尺度比下界。扰动后与原始消息尺度之比S_EM/S不超过 1-(1-ρ_e²)η，其中η=min η_a是所有单条消息能量占比的下界。这个公式的直观含义是：如果一条边在总消息能量中占比η，且它被掩码到ρ_e的水平，那么整体消息尺度至少会损失(1-ρ_e²)η的比例。当ρ_e接近0（即边被完全掩码）时，损失接近η；当η较大（即该边是重要边）时，损失更加显著。

更严重的是，这种偏移会跨层累积。把每一层的尺度衰减取对数相加，总漂移量满足：

公式5：总尺度漂移下界。L层累积的尺度漂移量至少为-L·log[1-(1-ρ_e²)η]，随层数线性增长。这就是为什么GNN越深，EM解释越不可靠。值得注意的是，这个下界是理论上的最小值——实际中的漂移往往更大，因为每一层的消息尺度衰减都会影响下一层的输入分布，形成恶性循环。论文的实验也证实了这一点：在4层GCN上，EM造成的尺度漂移已经非常明显，而在更深的网络上，扰动图的表示几乎完全偏离了干净图的分布。

看到这里，可能有人会问：那不用掩码，直接加随机噪声行不行？这正是论文的切入点——但是直接加噪声也不行，因为噪声会破坏消息尺度。关键在于怎么加噪声才能既“污染”信息又不破坏尺度。如果简单地给消息加上一个固定方差的高斯噪声，那么消息的期望平方范数会变大（因为噪声本身有能量），同样会偏离原始分布。所以问题的核心是：如何设计一种扰动方式，让消息的方向被随机化，但长度（范数）保持不变。

从掩码到噪声：NC机制的创新设计

论文提出的解决方案叫Noise Corruption（噪声扰动，简称NC）。这个名字起得很直白——就是用噪声来扰动消息，而不是用掩码去压制消息。NC的设计理念源于一个深刻的观察：解释的本质是“移除信息”而不是“削弱信号”。EM试图通过缩小消息的幅度来“移除”信息，但这样做改变了消息的能量分布；NC则通过随机化消息的方向来“移除”信息，同时保持消息的能量不变——这样模型看到的输入分布与干净图更接近，预测变化才能真实反映被移除信息的重要性。

图2：NC与EM在消息传递中的对比。左：EM将消息沿原方向压向零向量；右：NC把消息引向随机方向，但保持期望平方范数不变。这个对比图非常直观地展示了两种机制的本质区别：EM是在“缩短”消息，NC是在“旋转”消息。旋转不改变长度，因此消息在后续层中的“影响力”保持不变，但携带的信息已经被打乱。

NC的核心思想可以用一句话概括：“把消息往随机方向推，但不让它的长度变短”。具体实现方式是：对每条边采样一个与原始消息等范数的随机向量作为“噪声方向”，然后用干预系数ρ来插值原始消息和噪声。这里的“等范数”是关键——如果噪声的范数与原始消息不同，那么插值后的消息范数就会偏离原始值，重新引入尺度漂移。NC通过精心构造噪声的范数，保证了插值后消息的期望平方范数与原始消息完全一致。

公式6：NC扰动机制。扰动后的消息等于√ρ乘以原始消息，加上√(1-ρ)乘以随机噪声ε_e^(l)。其中ρ∈[0,1]是干预系数，ρ越小表示扰动越强；噪声ε在半径为原始消息范数的超球面上均匀采样。这里使用√ρ和√(1-ρ)而不是ρ和(1-ρ)的原因在于：当对两个正交方向的分量取平方和时，√ρ和√(1-ρ)的平方和恰好为1，从而保证了期望平方范数的不变性。这是一个精巧的数学设计。

这里的随机噪声方向在半径为消息范数的超球面上均匀采样，即满足‖ε‖=‖m‖且E[ε]=0。根据期望性质可以证明：

公式7：NC的期望平方范数不变性。可以证明，NC扰动后消息的期望平方范数恰好等于原始消息的平方范数。也就是说，在期望意义下，NC不改变每条消息的“能量”，只改变它的方向——这正是“尺度稳定”的关键性质。这个性质的证明依赖于噪声ε的零均值和等范数特性：E[‖√ρ·m + √(1-ρ)·ε‖²] = ρ‖m‖² + (1-ρ)‖ε‖² = ‖m‖²，其中交叉项E[m·ε] = 0因为ε是零均值的。

当ρ=0时，NC不是把消息置零，而是把消息完全替换成一个等范数的随机向量——信息被彻底打乱，但消息的总能量一点没少。当ρ=1时，消息完全保留。中间状态下，NC在“保留信息”和“打乱信息”之间平滑插值。这种设计使得NC可以灵活地控制扰动的强度：ρ接近1时，扰动较弱，适合精细调整；ρ接近0时，扰动较强，适合大幅改变输入。更重要的是，无论ρ取什么值，消息的尺度都保持稳定，不会引入额外的分布偏移。

(b) GCN上的消息尺度分布偏移：EM导致尺度显著左移（能量衰减），而NC的分布与原始图几乎重合。这个实验直接验证了NC的尺度稳定性：在相同的解释配置下，NC扰动后的消息尺度分布与干净图几乎完全重叠，而EM则产生了明显的左移。这意味着使用NC的解释器在查询模型时，模型接收到的输入分布与训练时的分布更一致，预测变化更能反映真实的因果贡献。

(c) GIN上的消息尺度分布偏移：同样，EM产生明显偏移而NC保持稳定。GIN（Graph Isomorphism Network）与GCN的聚合方式不同——GIN使用求和聚合而非平均聚合，对消息尺度的变化更加敏感。即便如此，NC依然保持了消息尺度的稳定性，说明NC的尺度保持性质不依赖于特定的GNN架构，具有较好的通用性。

(d) 深度放大的尺度漂移：EM的尺度衰减逐层累积（橙色线），而NC与干净计算（虚线）基本持平。图3中这些生动的可视化结果把NC和EM的差异展示得淋漓尽致。值得注意的是，EM的尺度衰减在每一层都在累积，到最后一层时已经偏离了干净图一个数量级以上；而NC的尺度曲线几乎与干净图重合，说明NC在深层网络中的表现依然稳定。这为深层GNN的解释提供了可靠的基础。

随机恢复边界与边界积分梯度：NICE框架解析

NC解决了“用什么扰动”的问题，但还没解决“怎么学解释分数”的问题。由于NC带随机性，同一个ρ配置在前向推理时会得到不同的预测结果，无法像EM那样直接把掩码系数当解释分数用。EM之所以可以直接用掩码系数作为解释分数，是因为EM是确定性的——给定掩码系数，扰动后的消息是唯一确定的。而NC引入了随机噪声，即使ρ相同，每次前向的结果也不同。因此需要一种新的机制来从随机扰动中提取稳定的解释信号。

(a) 表示偏移对比：在相同ground-truth解释下，EM实例化的扰动图（黄色）明显偏离原始图（蓝色），而NC（绿色）与原始图表示更接近。这个t-SNE可视化清晰地展示了两种扰动机制对图表示的影响：EM把扰动图的表示推向了远离原始图的区域，而NC的扰动图表示与原始图紧密相邻。这进一步说明NC扰动后的图在模型看来与原始图更“相似”，因此预测变化更能反映被扰动边的真实贡献。

为此，论文提出了NICE框架，包含两个核心组件：

第一个是Stochastic Restoration Boundary（随机恢复边界，简称SRB）。它的任务是为每个图找到一组最优的干预系数ρ*，使得在NC扰动下，目标类别的预测置信度既不会掉太多（保真度），又不需要恢复太多边（紧凑性）。直观来说，SRB就是在“全扰动”（所有边都被噪声打乱）和“全恢复”（所有边都保留）之间找一条最紧凑的“边界”——只恢复那些对预测真正关键的边。这个“边界”的概念类似于决策边界：在边界以内的边是“必须恢复”的，边界以外的边是“可以扰动”的。SRB通过优化找到这条边界的位置。

为了量化预测的退化程度，论文定义了每个图的“预测距离”：

公式8：预测距离。d_y*(ρ,ε)定义为原始目标类别对数预测与扰动后对数预测之差的正部，衡量预测被扰动“打”掉了多少。使用对数预测而不是概率预测的好处在于：对数空间中的差异更接近“信息量”的差异，而且对数预测的数值范围更稳定，不容易出现概率接近0或1时的数值问题。取正部（即max(0, ·)）是因为我们只关心预测被“打掉”的程度，不关心预测被“增强”的情况——增强可能是噪声带来的假象。

由于NC有随机性，需要对多个采样取期望。进一步地，SRB还考虑预测距离的方差——希望找到的边界不仅平均表现好，还要稳定：

公式9：恢复风险评估。R_y*(ρ)定义为预测距离在噪声采样下的期望加上β倍标准差。β是变异系数，控制对波动性的惩罚强度。加上L1范数正则项，SRB的目标函数变为：

公式10：SRB优化目标。L_SRB(ρ) = 恢复风险 + λ_rest·‖ρ‖₁。λ_rest是紧凑性系数，控制希望解释子图多“紧凑”。L1正则化的作用在于鼓励ρ的稀疏性——让大部分边的恢复程度趋向0，只有少数关键边有较大的ρ值。这与解释的“稀疏性”原则一致：好的解释应该用尽可能少的边来解释模型的预测。λ_rest越大，解释越紧凑，但可能牺牲保真度；λ_rest越小，解释越完整，但可能包含冗余边。

第二个组件是Boundary-Integrated Gradient（边界积分梯度，简称BIG）。SRB学到的ρ*只表示“每条边应该恢复多少”，但这不能直接作为重要性分数——因为两条边可能都被恢复了80%，但其中一条对预测的贡献远大于另一条。BIG做的事情，是沿着从“全扰动”（t=0）到“最优边界”（t=1）的路径，逐点计算每条边对恢复风险下降的边际贡献。这个设计的巧妙之处在于：它把“恢复程度”和“重要性”解耦了——恢复程度是SRB的优化结果，重要性是BIG的积分结果。一条边可能恢复程度很高（ρ*很大），但如果它对恢复风险的降低贡献不大（BIG分数低），那么它实际上并不重要。

公式11：边界积分梯度（BIG）。边e的BIG分数定义为-ρ_e*乘以恢复风险对ρ_e偏导沿线性路径ρ(t)=tρ*（t从0到1）的积分。这个积分值越大，说明该边在降低恢复风险中贡献越大，也就是越重要。负号的存在是因为恢复风险是随着ρ增大而减小的（恢复更多边意味着预测更接近原始），所以偏导数为负，取负后得到正的重要性分数。

为什么用积分而不是直接乘ρ*？因为NC的随机性让恢复风险曲面起伏不平，单点梯度噪声太大。沿着整条路径积分可以“平均掉”随机噪声，得到每个边贡献的稳定估计。这种方法灵感来自深度学习可解释性中的积分梯度（Integrated Gradients）方法，但BIG是作用在“恢复路径”上而非输入到输出的直连路径上，因而更贴合解释场景。积分路径的选择也有讲究：线性路径ρ(t)=tρ*是最自然的选择，它从原点（全扰动）均匀地走向最优边界点（ρ*），在路径上每个点都计算梯度并累加，最终得到稳定的归因结果。

整体来看，NICE的计算流程分两步：先用SRB学习每条边的恢复程度ρ*，再用BIG把这些恢复程度转化为解释分数。这种“先定位边界、再分配贡献”的设计思路，巧妙地把“解释”从“恢复多少”中解耦出来，让解释分数真正反映边的预测贡献，而不是恢复程度的副产品。这种两步走的架构还有一个额外的好处：SRB和BIG可以分别优化和调试。如果发现解释不够紧凑，可以调整λ_rest；如果发现分数不够稳定，可以增加BIG的积分步数。这种模块化设计大大提高了方法的实用性和可调性。

实验验证：全面超越现有方法的解释性能

论文的实验设计相当系统，在8个基准数据集上与9种主流解释方法进行了对比，包括GNNExplainer、PGExplainer、SubgraphX、ProxyExplainer等。所有方法都在统一的评估协议下比较：保留Top30%的边，看与ground-truth解释边的匹配程度（Recall和AUC-ROC），以及保留这些边后模型预测的保持程度（Fidelity）。评估协议的统一性至关重要——不同方法可能对“解释”的定义略有不同，如果不统一评估标准，很难公平地比较各方法的优劣。论文选择了Top30%的边作为解释子图的大小，这是一个在紧凑性和完整性之间折中的选择。

表1：NICE的解释性能。保留Top30%边并与ground-truth边比较，结果以均值±标准差报告。最优加粗，次优加下划线。

从表1可以看到，NICE在8个数据集上的平均Recall比最强基线提升了8.67%，AUC-ROC提升了7.57%。更难得的是，这个提升不是靠一两个数据集撑起来的——在8个数据集中，NICE在绝大多数上都取得了最优或次优结果，表现相当均衡。这种均衡性说明NICE的优势不是针对特定数据分布过拟合出来的，而是源于扰动机制本身的改进——NC的尺度稳定性在各类图上都能发挥作用。相比之下，某些基线方法可能在个别数据集上表现突出，但在其他数据集上大幅下滑，这种不稳定性在实际应用中是很危险的。

图4：不同稀疏度预算下的保真度。从保留Top10%到Top90%边，NICE在不同稀疏度下都保持了较高的Fidelity，特别是在紧凑预算（Top10%-Top30%）下优势明显。

图4展示了不同稀疏度预算下的保真度曲线。可以看到，在Top10%到Top90%的整个范围内，NICE的Fidelity都领先于基线，特别是在紧凑解释预算下（Top10%-Top30%）优势最大。这说明NICE能在极少的边数下依然较好地保持预测——解释子图确实抓住了关键结构。这个特性在实际应用中非常重要：用户通常希望得到尽可能简洁的解释，而NICE在解释最紧凑的时候优势最大，正好满足了这一需求。随着保留边数增加，各方法的Fidelity都趋于饱和，但NICE依然保持领先。

表2：EM和NC在GTExplainer和Random下的受控对比。D_repr和D_pred分别度量表示距离和目标预测归一化退化幅度。Imp.表示相对缩减比例。

表2直接对比了EM和NC在相同解释器配置下的表现。无论是表示距离D_repr还是预测退化D_pred，NC都大幅优于EM，相对改进幅度（Imp.）最高超过25%。这个对照实验有力地证明了：扰动机制本身的质量对解释可靠性有决定性影响——同样的解释器结构和训练方式，换用NC后效果立刻提升一个台阶。这个实验的设计非常巧妙：它使用了相同的解释器（GTExplainer和Random），唯一的区别是扰动机制（EM vs NC），从而隔离了扰动机制的影响。结果清晰地表明，NC的尺度稳定性直接转化为更好的解释质量。

图7/表3：案例研究与SRB分析。上排为原始图与ground-truth，中排为SRB的恢复门控分数（表示恢复程度而非重要性），下排为BIG生成的重要性分数。可见BIG分数能更清晰地区分重要边与噪声边。表3为SRB的消融分析。这个案例研究直观地展示了SRB和BIG的分工：SRB的恢复门控分数可能比较“平”——很多边都有中等程度的恢复值，难以区分主次；而BIG分数则呈现出明显的“尖峰”——少数关键边分数很高，其余边接近零。这种清晰的区分度正是解释方法所需要的。

论文还做了超参数敏感性分析：

图5/图6：图5验证了不同GNN骨干和数据集上EM总是造成消息尺度收缩，而NC始终与干净计算保持一致。图6的超参数分析显示，NICE对变异系数β、紧凑性系数λ_rest、NC采样数N和BIG积分步数T整体上都不太敏感，说明方法比较稳健。超参数不敏感性是方法实用性的重要指标——如果方法对超参数极其敏感，用户在实际使用中需要花费大量精力调参，而且结果的可复现性也会受到影响。NICE在这方面的表现令人满意。

表8：NICE与对比基线的精确率（Precision）。最优结果加粗，次优加下划线。在精确率维度NICE同样表现突出。精确率衡量的是解释子图中真正重要的边所占的比例——精确率高意味着解释中“噪声”少，每条被标记为重要的边都确实重要。NICE在精确率上的优势进一步验证了BIG积分归因的有效性：BIG分数能够精准地识别关键边，而不是把重要性分散到大量无关边上。

图8：不同边保留比例下的保真度曲线。NICE在Alkane-Carbonyl和Fluoride-Carbonyl两个数据集上都持续高于基线，尤其在紧凑预算下优势明显。这两个数据集来自化学分子领域，图的规模相对较小但结构复杂，边的重要性差异很大。NICE在这类数据上的优势说明其方法不仅适用于社交网络等“同质”图，也能处理分子图等“异质”图。

图9：四个代表性数据集上目标类别预测置信度分布对比。与EM相比，NC保持了更接近原始图（虚线）的置信度分布；而EM经常把样本推向低置信度区域——这正是尺度漂移在预测层面的直接体现。这个实验从预测分布的角度验证了NC的优越性：EM扰动后的图在模型看来“不像”原始图，导致模型给出低置信度的预测；而NC扰动后的图在模型看来与原始图相似，置信度分布与原始图基本一致。这意味着NC扰动下的预测变化更纯粹地反映了被扰动边的信息贡献，而不是尺度漂移带来的“伪变化”。

总结与展望：图神经网络解释的新方向

这篇论文真正的贡献不只是提出了一个效果更好的解释器，更深层的价值在于对Perturb-Query范式的扰动机制进行了第一次系统性反思。以前大家都在卷解释分数怎么算、解释子图怎么选，很少有人质疑“掩码”这个最基础的扰动操作本身有没有问题。论文用严谨的理论推导和实验证明：掩码带来的尺度漂移是一个普遍存在、跨层累积、且无法单靠更好的分数来弥补的系统性缺陷。

NC机制的提出，相当于给整个领域的“扰动方式”提供了一种新范式——不压制信息，只打乱信息。这个思路很优雅：同样是让模型“看不到”某条消息，但NC不改变消息的总能量，只改变它的方向，从而让被扰动图始终留在模型熟悉的“工作区间”内。这种“保持能量、打乱方向”的扰动策略，不仅在GNN解释中有用，也可能启发其他领域的扰动设计——比如图数据增强、对抗攻击、鲁棒性分析等。凡是需要“移除信息”的场景，都可以考虑用NC替代掩码。

当然，NICE也并非完美。当前方法聚焦于图分类任务，对节点级解释的适配还需要额外工作；NC需要多次随机采样来估计预测距离的分布，计算成本比单次前向的EM要高；BIG的积分路径也比较朴素，未来可以考虑更复杂的路径设计。但瑕不掩瑜，这项研究给GNN可解释性指出了一个值得深耕的新方向——下一次当你的GNN解释器表现不佳时，也许该想想是不是扰动机制本身出了问题。从更宏观的视角看，这项研究提醒我们：在构建可解释AI系统时，不仅要关注“解释算法”本身，还要关注“解释所依赖的底层操作”是否可靠。一个看似微小的设计选择（比如用掩码还是用噪声）可能会对整个解释系统的可靠性产生深远影响。

龙迷三问

下面是龙哥对于大家可能的一些问题的解答：

这篇论文到底在解决什么问题？针对Perturb-Query图神经网络解释器，中南大学等发现掩码机制引发Scale Drift尺度漂移，提出尺度稳定的噪声扰动NC，构建NICE框架，在8个基准上Recall提升8.67%、AUC-ROC提升7.57%。

这篇工作最值得看的点是什么？NICE在F1、Recall和AUC-ROC上均排名第一，相比最强基线平均提升6.42%、8.67%和7.57%，并在Fidelity指标上表现优异，尤其在稀疏解释预算下优势明显。

这篇工作的边界或风险在哪里？优点：(1) 首次识别并形式化了Perturb-Query范式中的Scale Drift问题，提供了理论分析和实验验证；(2) NC机制设计简洁有效，在保持消息尺度的同时实现信息破坏；(3) SRB和BIG的组合提供了完整的解释框架。缺点：(1) 方法需要多次NC采样估计恢复风险，计算开销较大；(2) 超参数较多（β, λ_rest, N, T），需要调优；(3) 仅在图分类任务上验证，未扩展到节点分类或链接预测任务。

如果你还有哪些想要了解的，欢迎在评论区留言或者讨论~

龙哥点评