单目预训练+3D蒸馏,GeoLaV冲上SOTA
这篇论文最有意思的地方,不是又堆了一个更大的视频模型,而是反其道而行之:先拿单张图做几何预训练,再把3D教师的结构先验蒸馏进去。结果很直接——图像数据也能学出视频所需的空间一致性,最后还在多个基准上冲到SOTA。
LONGGE AI RESEARCH DAILY
每天筛选值得关注的 AI 论文,用工程视角拆解方法、实验和真正的落地价值。
目前已发表 1811 篇文章
这篇论文最有意思的地方,不是又堆了一个更大的视频模型,而是反其道而行之:先拿单张图做几何预训练,再把3D教师的结构先验蒸馏进去。结果很直接——图像数据也能学出视频所需的空间一致性,最后还在多个基准上冲到SOTA。
训练看起来很“正经”,推理却偷偷跑偏,这就是 Flow Matching 里最烦人的暴露偏差。DEFAR 的思路很妙:不把偏差当噪声硬压,而是把它当反馈信号,让模型自己学会纠偏。
这篇工作最有意思的地方,不是单纯把Mamba搬进医疗场景,而是把图像和表格信息拆成两段来处理,既保留了诊断流程的直觉,又把解释性补了回来。PAD-UFES-20和NDB-UFES两套数据都跑了,结果不算“碾压”,但在召回率和可解释性上确实有看头。
这篇论文的切口很狠:不去讨论“多模态大模型会不会推理”,而是直接问它们在只看视频时,能不能别靠语言偏见乱猜。VisionToM 不是简单微调,而是拿注意力头开刀,思路清楚,代价也低,适合真正想把可解释性做成工具的人。
这篇论文最有意思的地方,不是“看见了手性”,而是把手性分子的左右差异拍成了时间序列。两束飞秒脉冲先把分子拧起来,再用双探测器把平面内旋转和出平面取向同时抓住,实验和模拟还对上了。
多视角自动驾驶 VLM 的老毛病很现实:token 太多,推理就慢;token 剪太狠,车就容易“看走眼”。MVPruner 的关键不是硬砍,而是先看哪个视角更杂、再看哪个 token 更有任务相关性,思路比较像老司机先扫全景、再盯关键路口。
长视频最怕的不是“看不懂”,而是“看得懂一点点,却被海量冗余帧淹没”。HPP把感知和推理解耦,让编码型大模型像程序员一样分层探测视频,思路很硬核,成本也更像工程方案而不是玄学。
这篇不是单纯“拼模型”的比赛总结,而是把语音增强真正落地时最容易翻车的两件事摊开了:数据怎么选,模型怎么评。结果很直白——堆数据不一定赢,选对数据和评测方式才更像正经工程。
可变速率图像压缩的老问题很现实:想要多个码率,就得养多套模型,存储和训练成本都不太讲武德。这篇论文把 LoRA 塞进深度图像压缩网络,做到训练时只动很少参数,推理时还能和主干合并,思路很干净,工程味也很足。
这篇工作最有意思的地方,不是“做出了多少瓦”,而是把一条通往核光钟的真空紫外路线,第一次用周期极化BaMgF4真正跑通了。功率只有pW级,但路线是对的,后面能不能放大,工程答案已经写在实验里了。
这篇论文最有意思的地方,不是“又做了一个去噪器”,而是把ICF图像里最难缠的乘性均匀噪声,硬生生改写成了对数域里的可学问题。更关键的是,它还老老实实把实现里踩过的坑摊开讲了,属于既能看理论,也能学落地的那种文章。
这篇论文最有意思的地方,不是去噪本身,而是它把“乘性噪声”硬生生拧成了“对数域里的加性噪声”,再用自监督把训练目标做成等价监督学习。更关键的是,它不是纸上谈兵,最后真把 ICF 这种难缠图像的 PSNR 拉到了 21.41 dB。
LONGGE AI COMMUNITY
加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。
加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。
微信扫码加入知识星球