← 返回 PaperDaily 视觉与图像

德国应用科技大学最新U-Net变体：乘法交互显式建模，Dice飙升至0.942，计算量几乎不变

U-Net家族新成员驾到！还在为U-Net只能做加法特征变换而苦恼？德国应用科技大学团队祭出PU-UNet，让U-Net学会乘法交互。参数、FLOPs几乎不变，但Dice分数狂飙，正常病例假阳性率直接干到零。不烧钱，不折腾，是时候考虑给网络加个“乘法器”了。

龙哥读论文 阅读 3 查看原文
#图像分割 #AI医疗 #模型架构
德国应用科技大学最新U-Net变体：乘法交互显式建模，Dice飙升至0.942，计算量几乎不变
🐉 龙哥读论文知识星球来了！
公众号每日8篇拆解不够看？星球无上限更AI领域论文、资讯、招聘、招博、开源代码，一站式干货，每日2分钟刷完即赚！ 👇扫码加入「龙哥读论文」知识星球，前沿干货、实用资源一站式拿捏～ xingqiu_header

龙哥推荐理由：
U-Net家族新成员驾到！还在为U-Net只能做加法特征变换而苦恼？德国应用科技大学团队祭出PU-UNet，让U-Net学会乘法交互。参数、FLOPs几乎不变，但Dice分数狂飙，正常病例假阳性率直接干到零。不烧钱，不折腾，是时候考虑给网络加个“乘法器”了。


原论文信息如下：
论文标题:
PU-UNet: Stable Multiplicative Interactions for Medical Image Segmentation

发表日期:
2026年06月
发表单位:
University of Applied Sciences Koblenz (德国科布伦兹应用科技大学)
原文链接:
https://arxiv.org/pdf/2606.20035v1.pdf

引言

方法概述：乘积单元“复活”，U-Net获得全新乘法交互能力

核心原理推导：数值稳定性是大问题，平滑正映射+对数域裁剪如何解决？

省心又高效：仅替换低分辨率阶段，计算量几乎不变，性能却大涨！

实验结果

龙迷三问

龙哥点评

主要参考文献

Durbin, R., Rumelhart, D.E.: Product units: A computationally powerful and biologically plausible extension to backpropagation networks. Neural computation 1(1), 133–142 (1989)；Dellen, B., Jaekel, U., Wolnitza, M.: Function and pattern extrapolation with product-unit networks. In: Computational Science–ICCS 2019: 19th International Conference, Faro, Portugal, June 12–14, 2019, Proceedings, Part II 19. pp. 174–188. Springer (2019)；Ronneberger, O., Fischer, P., Brox, T.: U-Net: Convolutional networks for biomedical image segmentation. In: International Conference on Medical image computing and computer-assisted intervention. pp. 234–241. Springer (2015)；Isensee, F., Jaeger, P.F., Kohl, S.A., Petersen, J., Maier-Hein, K.H.: nnU-Net: a self-configuring method for deep learning-based biomedical image segmentation. Nature methods 18(2), 203–211 (2021)；Salehi, S.S.M., Erdogmus, D., Gholipour, A.: Tversky loss function for image segmentation using 3D fully convolutional deep networks. In: International workshop on machine learning in medical imaging. pp. 379–387. Springer (2017)；Abraham, N., Khan, N.M.: A novel focal Tversky loss function with improved attention U-Net for lesion segmentation. In: 2019 IEEE 16th international symposium on biomedical imaging (ISBI 2019). pp. 683–687. IEEE (2019)

乘积单元“复活”：U-Net如何获得全新乘法交互能力？

传统U-Net的卷积层本质是加法特征变换：输出是输入与卷积核的加权求和。虽然堆叠层数可模拟高阶交互，但这种隐式建模在医学图像中常不够用——病灶的边界、纹理、形状往往以相乘方式共同作用。纯加法网络需大量数据和深度，且易过拟合。
为何不引入显式乘法交互？乘积单元（PU）早在1989年提出[1]，核心是把加权求和换成连乘 y = Π (xᵢ)^(wᵢ)，让网络直接拟合特征非线性组合。但乘积单元需先取对数再取指数：y = exp( Σ wᵢ log(xᵢ) )，带来数值不稳定和梯度爆炸。德国科布伦兹应用科技大学带来的PU-UNet，给这个老古董装上“安全气囊”，让它在U-Net中焕发生机。
对新知识充满期待
图1展示了PU-UNet整体架构。它延续U-Net编码-解码设计，在低分辨率阶段（1/16、1/8、1/4）插入带稳定乘积单元的残差块。
图1: PU-UNet的整体架构及核心乘积单元组件。
图1: PU-UNet整体架构及核心乘积单元组件。左侧为标准残差块，右侧为乘积单元残差块。
关键洞察：乘法建模最适合语义丰富的低分辨率阶段，而非高分辨率层。低分辨率特征图已有类别和整体语义，乘法交互能更好捕捉组合关系；高分辨率层处理局部边缘，加法足够。这种策略让PU-UNet在不显著增加计算量下获得全新特征建模能力。

数值稳定性是大问题：平滑正映射+对数域裁剪如何解决？

乘积单元传统实现需确保输入为正：通过下界截断将特征图拉成正数，再log、加权求和、exp还原。但截断导致梯度不连续，指数放大易溢出。
PU-UNet提出两步稳定策略：

第一步：平滑正映射。用平滑函数将输入映射到严格正数域：设置可学习标量 θraw，计算 X' = max(X + θraw, ε)，ε=10-7。避免截断边界梯度突变。

第二步：对数域裁剪。在log之后、exp之前，对响应裁剪：clamp(Σ w·log(X'), -C, C)，C=10。防止溢出，使混合精度训练稳定。

稳定乘积单元流程：输入 X → 平滑正映射 → log → 可学习卷积加权求和 → 对数域裁剪 → 指数重建 → 输出。整体嵌入残差块替代第二个卷积。
消融实验表明，去掉任何一步都会导致性能下降，尤其在BUSI上，去掉裁剪甚至出现梯度爆炸。这两步是乘积单元安全使用的必要保障。
我有一个新思路

省心又高效：仅替换低分辨率阶段，计算量几乎不变，性能却大涨！

PU-UNet工程细节：基础宽度32，深度4，组归一化组数8。唯一改动是将最后一级编码器、瓶颈块、解码器第一和第二块替换为乘积单元残差块（1/16、1/8、1/4分辨率），其余保留标准残差块。
表1显示，PU-UNet参数量仅增0.002M，FLOPs几乎不变，推理延迟同一量级。可在不调整硬件部署下白捡精度提升。
表1: 两种输入分辨率下的模型复杂度对比。
表1: 模型复杂度对比。PU-UNet在参数量、FLOPs、推理延迟上与基线几乎一致。
因为乘积单元残差块仅将第二个卷积换成稳定乘积单元，核心仍是卷积，尺寸和通道数不变。且只在低分辨率阶段插入，计算量本就少。真正做到了“加法变乘法，成本零增加”。

实验效果惊艳：Dice超0.94，正常病例假阳性率降至零

团队在三个公开数据集验证：ISIC 2018（皮肤病变）、Kvasir-SEG（息肉）、BUSI（乳腺超声，含正常和病变）。所有实验采用相同配置：AdamW，学习率1e-3，余弦退火，混合精度训练，数据增强。
表2显示，PU-UNet在ISIC 2018上Dice 0.942、IoU 0.893，相比基线提升0.065和0.092，p<0.0001。Kvasir-SEG上Dice 0.959，IoU 0.923。PU-UNet直接把Dice拉升5.7到6.5个点。
表2: ISIC 2018和Kvasir-SEG上的分割性能。
表2: ISIC 2018和Kvasir-SEG分割性能。加粗为最优。
BUSI上（表3），残差U-Net基线的图像级假阳性率为0.077，PU-UNet直接干到0.000！病变Dice从0.814提升到0.905。
表3: BUSI上的病变分割性能和图像级假阳性率。
表3: BUSI结果。FP rate为图像级假阳性率。
图2给出定性对比。PU-UNet分割边界更准确，过分割和欠分割明显减少。超声图像中，基线误判阴影为病变，PU-UNet准确判断为背景。
图2: 三个数据集上的定性分割结果。
图2: 定性分割结果。绿色=真值，红色=预测，黄色=重叠。
PU-UNet与多个文献方法比较（表4）。在ISIC 2018上，PU-UNet的IoU超过所有先前方法。Kvasir-SEG上IoU最高。BUSI上全面领先。
表4: 与代表性文献方法的对比。
表4: 与代表性文献对比。

消融实验揭秘：位置和稳定化组件哪个更重要？

消融实验（表5）回答两个核心问题：乘积块放哪里？稳定化组件是否必要？
放置位置比较三种策略：

Bottleneck only：仅最深1/16分辨率，Dice提升有限（0.877→0.908）。

Low-resolution stages（默认）：1/16、1/8、1/4替换，效果最好（0.942）。

All stages：全部替换，效果下降（0.930），高分辨率乘法干扰局部细节。

稳定化组件变体：

用简单截断代替平滑映射：ISIC Dice从0.942降到0.937，BUSI降幅更大（0.905→0.831）。

去掉对数域裁剪：训练梯度爆炸，BUSI Dice掉到0.826。

表5: PU-UNet的消融实验。
表5: 乘积单元放置位置和稳定化组件消融效果。
消融结论：低分辨率、高语义层才是乘法交互的用武之地；平滑映射和对数域裁剪缺一不可。

龙迷三问

下面是龙哥对大家可能问题的解答：

乘积单元和注意力机制有什么区别？注意力计算特征图间相似度加权和，做空间/通道选择；乘积单元对特征通道自身加权连乘，学习特征组合。两者互补。

为什么只替换低分辨率阶段？高分辨率层含大量局部纹理，加法卷积已足够；低分辨率特征图有语义抽象，乘法可组合多维度线索做出精准分类决策。实验证实全阶段替换效果变差。

PU-UNet训练和推理速度如何？推理延迟几乎不变（10.2μs vs 10.1μs）。训练时因对数-指数操作有微小开销，但混合精度训练下实际耗时与基线接近。若做硬件优化可能进一步加速。

如果你还有哪些想要了解的，欢迎在评论区留言或者讨论~

龙哥点评

论文创新性分数：★★★★✰

实验合理度：★★★★✰

学术研究价值：★★★★✰

稳定性：★★★★✰

适应性以及泛化能力：★★★★✰

硬件需求及成本：★★★★★

复现难度：★★★★✰

产品化成熟度：★★★✰✰

可能的问题：论文仅验证2D医学图像分割及U-Net架构，在3D分割、其他骨干上表现未知。对数域裁剪阈值C=10为经验设定，缺乏自适应。代码暂未开源，复现有门槛。


主要参考文献

[1] Durbin, R., Rumelhart, D.E.: Product units: A computationally powerful and biologically plausible extension to backpropagation networks. Neural computation 1(1), 133–142 (1989)
[2] Dellen, B., Jaekel, U., Wolnitza, M.: Function and pattern extrapolation with product-unit networks. In: ICCS 2019, pp. 174–188. Springer (2019)
[3] Ronneberger, O., Fischer, P., Brox, T.: U-Net: Convolutional networks for biomedical image segmentation. In: MICCAI 2015, pp. 234–241. Springer (2015)
[4] Isensee, F., et al.: nnU-Net: a self-configuring method for deep learning-based biomedical image segmentation. Nature Methods 18(2), 203–211 (2021)
[5] Salehi, S.S.M., et al.: Tversky loss function for image segmentation using 3D fully convolutional deep networks. In: MLMI 2017, pp. 379–387. Springer (2017)
[6] Abraham, N., Khan, N.M.: A novel focal Tversky loss function with improved attention U-Net for lesion segmentation. In: ISBI 2019, pp. 683–687. IEEE (2019)

*本文仅代表个人理解及观点，不构成任何论文审核或者项目落地推荐意见，具体以相关组织评审结果为准。欢迎就论文内容交流探讨，理性发言哦～ 想了解更多原文细节的小伙伴，可以点击"阅读原文"，查看更多原论文细节哦！       

end
PU-UNet让你告别假阳性烦恼？想了解更多U-Net变体的骚操作吗？加入龙哥读论文粉丝群，扫描下方二维码或者添加龙哥助手微信号加群：kangjinlonghelper。一定要备注：研究方向+地点+学校/公司+昵称（如 图像处理+上海+清华+龙哥），根据格式备注，可更快被通过且邀请进群。
wechat_helper dianzan
转发文章 微博 X LinkedIn Facebook
龙哥读论文 · PaperDaily

本文基于龙哥读论文 PaperDaily 数据库整理，结合论文原文与工程视角进行解读。