← 返回 PaperDaily 大模型与智能体

带宽不够怎么传图？诺基亚贝尔实验室：压缩683倍，精度仍有96%

想象一个场景：无人巡检车在隧洞中运行，摄像头拍摄画面，信道抖动导致带宽骤降。视频链路降码率，画面模糊，而接收端的识别模型仍需回答轨道上是否有人。

龙哥读论文发布于 2026-10-17 01:09:39 阅读 12 查看原文

#模型架构 #模型训练 #人工智能 #涨点神器

原论文信息如下：

论文标题:
Goal-Oriented Ordered Autoencoding for Successive Refinement in Progressive Communication 发表日期:
2026年10月发表单位:
Nokia Bell Labs, Stuttgart, Germany 原文链接:
https://arxiv.org/pdf/2610.13426v1.pdf

带宽不够用？让AI自己决定传什么——GO-OAE的渐进式通信新范式

这是许多通信系统的现状：数据的第一读者是模型，而编解码器设计仍停留在过去——先按固定码率压缩数据，再交给下游推理。带宽和任务各自独立。

问题出在“事先定好”这四个字。

诺基亚贝尔实验室的 Qi Liao 和 Dario Bega 提出：不定码率，让编码器学习一个按重要程度排序的离散潜序列，带宽有多少就传多少索引，接收端收到多少就用多少推理，无需重新编码或等待。

GO-OAE，全称 Goal-Oriented Ordered AutoEncoding，中文可称“目标导向的有序自编码器”。在 Mini-ImageNet 上，每张图仅传 324 比特，分类精度保持无损上界的 96% 以上，相当于 683 倍压缩；只发 70% 的索引，精度仍达上界的 94%。

先解释两个关键术语。

目标导向通信（Goal-Oriented Communication）：传统通信目标是“可靠传输比特”，判据是误码率等底层指标。目标导向通信只关注接收端能否完成任务，中间画面像素是否对齐不重要。

渐进式传输（Successive Refinement）：信息论概念，一次编码、分级解码，先传粗略版本，带宽富余再补细节。接收端任何时刻拿到的都是可用信息，而不是半张图。

GO-OAE 结合这两者：既要渐进式，又不需像素保真，只要任务完成。关键在于定义“有序”，并让序按任务重要性排。

图1：GO-OAE的渐进式目标导向通信框架。编码器把P个输入分量（例如图像块或特征token）映射为有序潜序列，经联合学习的码本做向量量化后得到量化潜前缀。发送前k个码索引（映射到码本嵌入的离散索引）时，每个样本只需k·log2(N)比特。接收端重建对应的潜前缀，并直接用于下游任务推理。

图 1：GO-OAE 的框架。编码器将 P 个输入分量映射为有序潜序列，经码本量化后得到量化潜前缀。发送前 k 个码索引时，每个样本只需 k·log2(N) 比特。接收端重建潜前缀，用于任务推理。

这张图简洁地展示了链路。编码器、向量量化、任务解码器。潜序列按目标函数排序，越靠前的分量对任务贡献越大。

从“先压缩后推理”到“边传输边推理”：目标导向通信的核心转变

传统方法“先压缩、后推理”，假设重建保真度高，任务信息自然保留。论文对比重建式有序自编码器（RE-OAE）和任务感知重建式有序自编码器（RE-OAE-TA），重建图像分类准确率仅 18.9%，而原始图像分类上界为 77.5%。

这个对比说明“重建得好”和“任务做得好”之间没有自动传递关系。像素相似度是一种平均主义度量，分类任务关心局部结构。编码器倾向于丢掉高频细节，而这些细节可能是任务依赖的部分。

图2：重建保真度与下游任务性能的关系，对比对象是先重建后分类的两条流水线RE-OAE与RE-OAE-TA（K=256）。

图 2：重建保真度与下游任务性能的关系，对比对象是 RE-OAE 与 RE-OAE-TA（K=256）。

图 3：RE-OAE 与 RE-OAE-TA 的重建效果（K=256）。

既然重建不行，能否直接学一个“按任务重要性排序”的潜序列？Xu 等人的有序自编码器（OAE）定义了潜序列增量信息增益非增的条件。论文对自回归模型给出判决：猜出来的东西不带来前缀里没有的任务信息。

另一个比较对象是套娃表示学习（MRL），适合“一份表示多处复用”的场景，但计算量压在发送端，解决不了轻量发射机的问题。GO-OAE 在语义推理前排好序、离散化，让发射端轻、接收端逐级加力。

论文开头给了一张符号表，列清楚后面公式里反复出现的量。

表 I：论文关键符号汇总，涵盖潜序列、前缀长度、编码潜分量、量化潜分量、码本嵌入、码索引、码本大小与前缀采样预算等符号的含义。

信息瓶颈遇上有序自编码：GO-OAE的理论基础与MPIS加速训练

先看看“有序”到底是怎么定义的

OAE 的定义建立在增量信息增益上。设第 i 个潜分量为 z_i，它在上文 z<i 已知之后，还能提供多少关于输入 x 的信息，就是 Δ_i。

Δ_i 定义为第i个潜分量在给定前i-1个分量的条件下，与输入x之间的条件互信息

这里 Δ_i := I(z_i; x | z<i)，其中 I(·;·|·) 表示条件互信息，含义是“在已经知道前面 i-1 个分量的前提下，第 i 个分量还能额外透露多少关于输入的信息”。所谓有序，就是这串增量从头到尾单调不增。

Δ_1 ≥ Δ_2 ≥ … ≥ Δ_K ≥ 0。直觉上，这就是把整段信息按“边际价值”从大到小排好队，带宽不够时先把队首那截发出去。

Xu 等人的定理给出了实现路径：把前缀长度 i 当作均匀随机变量采样，对每个采到的前缀做重建，最小化负对数似然。对于固定方差的高斯解码器，这个目标等价于前缀平均的均方重建误差，最优解自然满足上面的单调性。

有序自编码器的重建目标函数，对输入分布与前缀长度均匀采样求期望，最小化解码器在前缀条件下的负对数似然

这里的期望是两层：外层对输入 x 的分布采样，内层对前缀长度 i 从 {1,…,K} 上均匀采样，然后优化解码器在潜前缀 z≤i 下重建出 x 的对数似然。因为前缀长度是均匀采样，单个前缀长度就能给出无偏估计，训练很省。

但换成任务目标之后，这个均匀假设就塌了。

目标导向的失真函数，以及它和信息瓶颈的隐秘关系

GO-OAE 把重建项整个换掉，改成任务损失在所有前缀长度上的求和。也就是对每一个截断长度，都要让任务解码器答得尽量对。

式中的 L 是衡量解码输出与真实任务标签之间差距的损失函数，θ 和 φ 分别是编码器与任务解码器的参数。论文在全文里把 L 具体取成任务标签的负对数似然，也就是交叉熵。

接下来是整篇论文最关键的一步推导。假设马尔可夫链 y→x→z 成立（潜序列只由输入生成，标签只能通过输入影响潜序列），并且解码器是贝叶斯最优的，那么 GO-OAE 的失真函数可以写成条件熵之和。

在这个定义下，最小化失真函数等价于（差一个常数 K·H(y)）最大化下面这个加权条件互信息之和。

注意那个权重 w_i = K − i + 1。第一项的权重是 K，第二项是 K−1，最后一项只有 1。这个权重不是人为设计的，而是从“每个分量会出现在多少个前缀里”自然推出来的：第 i 个分量的下标 i 会出现在所有长度 ≥ i 的前缀中，一共 K−i+1 次。

如果再加上一项对潜序列信息复杂度的正则，整个目标就变成了一个有明确信息论身份的泛函：加权条件信息瓶颈（Information Bottleneck，IB）。

加权条件信息瓶颈泛函，第一项是加权条件互信息，第二项是潜序列与输入之间的互信息正则，λ控制二者权衡

λ 控制任务表现和表示压缩之间的取舍。信息瓶颈的老本行是“保留与任务有关的信息，丢掉与任务无关的细节”，而这里乘上加权系数之后，它还额外决定了哪一段潜序列该排前面。这就是本文所说的“涌现式有序”：不需要任何自回归结构，也不需要手工约束顺序，序是目标函数“算”出来的。

论文紧接着给了个推论，把这个直觉写成式子：在贝叶斯最优解、且每个潜分量的任务贡献在位置上可置换的前提下，学到的潜序列满足条件互信息单调不增。

I(y;z_1) ≥ I(y;z_2|z_1) ≥ … ≥ I(y;z_K|z<K)。越靠前的分量承载最关键的判别语义，越靠后越是细节补充。这一点直接决定了接收端截断的行为：砍尾巴伤得最轻。

论文还补了一句观察：即使不显式加互信息正则项，VQ-AE 本身的瓶颈结构、有限码本、潜维度限制，加上随机截断这个操作，已经隐含了一层压缩。所以信息瓶颈的效果是“自带”的。

为什么必须换一套采样方法：MPIS是怎么来的

理论讲完，工程问题立刻冒头。

重建式 OAE 因为前缀长度是均匀的，每个 batch 随机采一个长度就能无偏估计。可 GO-OAE 的目标函数里，前缀长度的权重是严重不均匀的——第一项权重 K，最后一项权重 1。这时候如果照旧均匀采样，等于把大量算力浪费在末尾那些不重要的前缀上；反过来，如果按权重采样却直接拿采样结果去优化，又会引入偏差。

完整算一遍的目标是 O(B·K) 次解码器前向，B 是批大小，K 是完整前缀长度。K 一大会非常疼。而朴素地每个批只采一个前缀，复杂度降到 O(B)，但监督信号在长度维度上变得极度不平衡，训练发抖。

论文给出的解法是多前缀重要性采样（Multi-Prefix Importance Sampling，MPIS）估计器：每个 batch 独立地从采样分布 q(i) 里抽 m 个前缀长度，每个都除以它被抽中的概率再加权平均。

MPIS估计器：从采样分布q中独立抽取m个前缀长度，以1/m求和并用1/q(i)做重要性加权

其中 L_i 是前缀长度 i 下的期望损失，q(i) 是任意满足正概率且归一化的采样分布。1/q(i_n) 这一项就是重要性权重，把“按 q 抽”的期望掰回“按真实分布求和”的期望。论文证明了它无偏，并且给方差一个明确的形式。

方差和 m 成反比，意味着抽 m 个前缀就把方差压缩到单前缀采样的 1/m。而且因为梯度与期望可以交换，用这个估计器做随机梯度下降，优化的仍然是原来那个目标，只是每次迭代的解码器前向从 O(BK) 降到了 O(Bm)，m 远小于 K。

论文还额外提醒了一个坑：单个前缀采样不加重要性权重是有偏的，加了权重虽然无偏但方差极大——尤其当某个高损失前缀的采样概率很低时，1/q(i) 会把噪声放大到失控。MPIS 的 m 个样本正好是给这件事兜底的。

采样分布本身也不是随便定的。既然权重是 w_i = K−i+1，那么让采样概率正比于权重的 α 次幂，就能把样本自动往重要的早期分量上倾斜。

α 越大，采样越集中在序号靠前、权重越高的分量上，无偏性不变但方差进一步压低。实际使用时 α 和采样预算 m 一起调，用来平衡训练的稳定性和速度。

总损失、码本约束，以及两个正则项

整套训练目标由三块拼起来：目标导向的无偏随机损失、向量量化的损失、以及一个可选的正则项 R。

β 和 λ_reg 是两个用来配平的超参数。此外还有一个工程上的小调整：对罕见索引除 q(i) 会让梯度爆炸，所以论文把重要性权重做了上截断，限制最大权重不超过常数 C。

码本这边，论文用的是向量量化自编码器（VQ-AE），也就是 VQ-VAE 的变体。标准 VQ-VAE 的损失由三部分组成。

其中 L_rec 是重建损失，L_codebook 负责更新码本嵌入，L_commit 是承诺损失，鼓励编码器输出主动靠近量化后的潜码，β 是配平系数。为了避免码本坍缩（只有少数几个条目被反复使用），论文采用了基于指数移动平均（EMA）的码本更新方案，用被分配到某个码的编码器输出的移动平均来更新该码向量，相当于在线做质心更新，稳定性更好。

正则项 R 里论文重点讨论了两个。一个是语义保持正则，用的是有监督对比损失，把同类别样本在量化前的潜空间里拉近。另一个是码本熵正则，鼓励码本条目的使用分布更均匀。

式中 s_ij 是样本 i 与样本 j 的量化前潜表示相似度，τ 是温度参数，τ_0 是基准温度，S(i) 是标签与 i 相同的正样本集合，V 是可参与计算的样本集合。这一项的作用是把类别结构显式注入潜空间，避免码本在纯量化目标下把语义压碎。

式中 h_j 是第 j 个码条目的使用频率，N 是码本大小，ε 是数值稳定项。这一项本质上是在最大化码本使用分布的熵，避免大量码字闲置。把上面这些拼起来，GO-OAE 的训练流程可以概括成下面几步。

输入：训练集样本对 (x, y)，潜序列长度 K，码本大小 N，采样预算 m，采样指数 α，权重截断常数 C

第一步：编码器把 x 映射为潜序列 z = (z_1, ..., z_K)

第二步：对每个分量做最近邻查找，得到量化潜码 z_q,i = e_{j_i}，记录码索引 j_i

第三步：按 q(i) ∝ w_i^α 的分布，独立采样 m 个前缀长度

第四步：对每个采样前缀长度 i_n，用截断后的潜前缀 z_{≤i_n} 送进任务解码器，
        计算交叉熵 L_{i_n}

第五步：按 1/q(i_n) 加权并做上截断，得到无偏的 MPIS 估计 L̂_D

第六步：叠加码本承诺损失与可选正则项（语义对比损失、码本熵正则），
        反向传播更新编码器与任务解码器

第七步：用指数移动平均在线更新码本嵌入

第八步：重复以上过程直到收敛

这里面有几个值得留意的设计取舍。第一，码本嵌入不是靠梯度更新的，而是靠 EMA 在线更新，这样码本不会因为梯度噪声而漂移。第二，任务解码器只看到量化后的潜前缀，中间没有重建环节，所以“传什么”和“算什么”是同一个优化问题。第三，序不是显式约束的，是靠权重分布自然涌现的——这一点从工程角度很划算，省掉了一堆架构上的花活。

683倍压缩下保持96%精度：GO-OAE在Mini-ImageNet上的实验验证

数据准备及实验设计

实验选在 Mini-ImageNet 上做，这是一个从 ImageNet 里挑出若干类别、常用于小样本与表示学习评测的图像子集。任务本身是最常规的图像分类。

比特预算的算法很直接：潜序列每个分量量化为码本里的一项，码本大小为 N，则一个索引需要 log2(N) 比特。传送前 k 个索引就是 k·log2(N) 比特。论文提到视觉任务里码本通常不需要很大，比如 512 项，每个索引只要 9 比特——对比一下，Llama 3 8B 里每个 token 是 4096 维 FP16 向量，折合 65536 比特，而如果改用 128256 大小的码本去索引，只要 17 比特。这个数量级的差距，是选择离散索引而不是连续向量作为传输单元的直接理由。

评测的核心指标有两个：一是不同比特预算下的分类准确率，二是这个准确率相对于“无损上界”保留了多大比例。所谓无损上界，就是不做任何压缩、直接拿原始图像做分类时的表现。用保留比例来表述，比单纯报准确率更能反映压缩的代价。

对比对象主要分两类：一类是重建优化的编解码器，也就是 RE-OAE 与 RE-OAE-TA 这条“先重建再分类”的路线；另一类是用均匀前缀采样训练的有序自编码器。这个对比设计是合理的，因为它恰好切中论文要论证的两件事——重建导向不行，均匀采样也不行。

实验结果分析

先看最核心的那个数字：324 比特/样本，达到无损上界 96% 以上的分类精度。324 比特是什么概念？一张常规 RGB 图像动辄几万到几十万比特，这里相当于 683 倍压缩。而且这个数字不是“压完之后勉强还能看”，是“任务准确率几乎没掉”。

第二个数字更能说明“有序”起了作用：只传 70% 的索引，就能拿到上界 94% 以上的精度。也就是说，砍掉三分之一的传输量，代价只有两个百分点左右。这个衰减曲线形状直接对应了前面那个条件互信息单调性——尾巴上的分量本来贡献就小，砍了对任务几乎无感。

为什么能work？本文认为有两个层面的原因。机制层面，目标函数直接对任务损失求期望，梯度只往“降低分类错误”的方向走，不掺杂“像素像不像”这种无关约束；而权重 w_i = K−i+1 把绝大多数优化压力压在了靠前的分量上，逼着编码器把最具判别性的信息往前排。信息论层面，这套目标等价于加权条件信息瓶颈，本身就在做“保留任务相关、丢弃任务无关”的筛选，只不过筛选的顺序也被目标函数决定了。

再看那个 18.9% 对 77.5% 的对比，它的意义不只是“重建不行”，而是给整个语义通信方向的模块化设计泼了一盆冷水。如果重建保真度不能兑现成任务性能，那么把压缩和推理分成两个独立阶段去优化，本质上是在优化一个代理指标，而这个代理指标和真实目标之间的相关性可能非常弱。

还有一个值得说的点是潜空间结构。从 t-SNE 可视化看，量化前和量化后的潜分量都呈现出按类别聚集的结构，说明语义信息在离散化之后没有被打散。论文用信息增益对比进一步佐证了有序性：靠前分量的任务信息增益确实更高，和推论 1 的预测一致。

实验结果

图 4：任务性能对比（CNN 骨干网络，K=36），展示不同传输预算下 GO-OAE 与重建式编码器、均匀前缀采样有序自编码器的分类表现差异。

图：GO-VQAE 的潜分量 t-SNE 可视化，按 20 个类别着色，可以看到同类样本在潜空间中明显聚拢。

图：GO-OAE-I-SC 在量化前的潜分量 t-SNE 可视化。

图：GO-OAE-I-SC 在量化后的潜分量 t-SNE 可视化，类别结构在离散化之后依然保留。

图 5：潜分量的 t-SNE 可视化（按 20 类着色）；图 6：信息增益对比（CNN 骨干网络，K=36）。

CNN与Transformer的博弈：有序表示学习在不同Backbone下的表现差异

论文在两种骨干网络上做了对比：卷积网络（CNN）和 transformer。这个对比背后其实藏着一条结构性的差异。

transformer 天然就是按 token 序列组织的，每个潜分量对应一个 token 嵌入，这跟“有序潜序列”的表示形式几乎是同构的。把每个 token 的嵌入量化成离散索引，再按顺序传索引，中间不需要额外的拆解工作。而 CNN 输出的是一张多通道特征图，得先把它拆成 P 个分量才能构成序列。这个拆法本身就会影响有序性的好坏。

从结果上看，两种骨干网络都能支撑渐进式的任务推理，说明“涌现式有序”这个机制不是某种架构的专属特性。但细节上的差异确实存在，尤其在低比特预算区间，不同骨干网络维持精度的能力并不一致。这一点对实际部署挺重要：如果现场算力紧张、只能用轻量卷积网络，那有序表示的质量就要打点折扣。

图 7：不同骨干网络的性能对比。

总结与展望：极端压缩下的渐进式通信未来

这篇论文最值得记住的其实不是 683 这个倍数，而是它对“语义通信该怎么做”给出的一个明确立场：重建质量和任务性能是两件事，把它们绑在一起优化是在给自己找麻烦。这个立场不是口号，背后有 18.9% 对 77.5% 的硬数据，也有加权条件信息瓶颈这个理论落点。

往前看，还有几个问题没被回答。第一，论文的实验是理想信道，没有引入误码、丢包、时变衰落这些真实通信里天天遇到的东西。而渐进式传输的真正价值恰恰在这种不确定带宽下——如果信道一抖，接收端拿到的是乱序或者损坏的索引，有序结构的鲁棒性还成不成立，目前没有数据。第二，只验证了分类任务。检测、分割、决策这些对空间位置更敏感的任务，靠前分量能不能承载足够的空间信息，是个未知数。第三，潜序列长度 K 和码本大小 N 怎么选，论文给了经验值但没有系统的权衡分析，而这两个超参数直接决定了能覆盖的比特预算范围。

从工程角度看，这套方法有一个很讨喜的性质：编码一次，解码任取。发射端不用知道当前带宽是多少，接收端收到多少索引就用多少。这种解耦在真实系统里价值很高，因为带宽估计本身就有延迟和误差，把决策下放到接收端比在发射端做预测要稳当得多。

龙迷三问

下面是龙哥对于大家可能的一些问题的解答：

这篇论文到底在解决什么问题？诺基亚贝尔实验室提出GO-OAE，把图像编码成可逐段截断的离散码本序列，直接按下游分类任务优化。Mini-ImageNet上仅324比特即达无损精度96%，压缩683倍；只发70%码字仍有94%。

这篇工作最值得看的点是什么？GO-OAE-I-SC在k=36时达到74.4%准确率（UB的96.1%），仅用324比特/图像（683倍压缩）；在k=25时已达72.9%（UB的94.1%，980倍压缩）。在所有传输预算下一致优于重建优化编解码器和均匀前缀采样的有序自编码器。语义保持正则化在量化隐空间中带来显著增益：GO-VQAE-SC比GO-VQAE在k=36时提升37.5个百分点（63.8% vs 26.2%），GO-OAE-U-SC比GO-OAE-U提升2.

这篇工作的边界或风险在哪里？优点：(1)首次提出面向渐进式目标导向通信的信息论框架，将目标导向失真目标等价于加权条件信息瓶颈，理论贡献扎实；(2)MPIS估计器将训练复杂度从O(BK)降至O(Bm)且保持无偏性，方差降低1/m倍，实用性强；(3)有序表示自然涌现，无需显式架构排序约束；(4)在极端压缩率下（683倍）仍保持96%以上上界精度，效果显著；(5)语义保持正则化和有序重要性采样在紧预算下至关重要。缺点：(1)ViT backbone下有序表示学习与早期全局上下文化冲突，渐进细化效果不佳，需架构重新设计；(2)仅在Mini-ImageNet上验证，缺少更大规模数据集和更多下游任务的实验；(3)对比方法数量有限，缺少与最新渐进式语义通信方法的对比；

如果你还有哪些想要了解的，欢迎在评论区留言或者讨论~

龙哥点评

论文创新性分数：★★★★☆

提出GO-OAE框架，通过加权条件信息瓶颈目标学习渐进可细化的有序量化隐序列，并设计无偏多前缀重要性采样（MPIS）估计器将训练复杂度从O(BK)降至O(Bm)，实现面向下游任务的渐进式通信。

实验合理度：★★★★☆

Top-1分类准确率（验证集），以及重建质量指标PSNR。

学术研究价值：★★★★☆

提出GO-OAE框架，通过加权条件信息瓶颈目标学习渐进可细化的有序量化隐序列，并设计无偏多前缀重要性采样（MPIS）估计器将训练复杂度从O(BK)降至O(Bm)，实现面向下游任务的渐进式通信；更关键的是问题定义是否可复用到同类任务。

稳定性：★★★☆☆

现有材料未提供充分的极端条件、重复运行或扰动测试，稳定性暂按中性评价。

适应性以及泛化能力：★★★☆☆

现有材料未完整展示跨数据集、跨场景或分布外实验，泛化能力仍需进一步验证。

硬件需求及成本：★★★☆☆

CNN模型编码器约8M参数，VQ码本约0.02M参数，解码器约3.3M参数；ViT模型编码器约11M参数，VQ码本约0.07M参数，解码器约17.9M参数。

复现难度：★★★☆☆

现有材料未确认完整代码、配置、数据处理脚本和权重是否齐备，复现难度暂按中性评价。

产品化成熟度：★★★☆☆

论文验证以研究实验为主，真实部署中的时延、成本、维护和异常场景仍需补充验证。

可能的问题：现有材料尚未充分覆盖分布外泛化、部署成本、长期稳定性和失败案例。

*本文仅代表个人理解及观点，不构成任何论文审核或者项目落地推荐意见，具体以相关组织评审结果为准。欢迎就论文内容交流探讨，理性发言哦～想了解更多原文细节的小伙伴，可以点击"阅读原文"，查看更多原论文细节哦！

读者留言

可直接以游客身份留言，也可注册读者账号。所有留言均需管理员审核后公开。

0 条已公开

还没有公开留言，欢迎留下你的看法。

游客可以直接留言；注册后可使用固定昵称和账号身份。登录免费注册