LONGGE AI RESEARCH DAILY

龙哥读论文

每天筛选值得关注的 AI 论文,用工程视角拆解方法、实验和真正的落地价值。

目前已发表 1811 篇文章

分享网站 微博 X
PaperDaily 数据库收录 论文拆解 13572 篇 研究思路 385 条 AI 资讯 589 条 开源项目 177 个 科研招聘 140 条 学习资料 12 份 热点主题 830 条 论文成功模式 1776 条

视觉与图像

共 793 篇
大语言模型|北大MIT清华:注意力非线性让大模型深度缩放变成1/L
视觉与图像

大语言模型|北大MIT清华:注意力非线性让大模型深度缩放变成1/L

这篇论文回答的是缩放定律里最朴素也最要命的一个问题:多加一层,为什么有用?作者的答案有点反常识——在线性注意力里,深度只能按数据谱的幂律慢慢挤性能,很快就见底;注意力一旦带上 softmax 非线性,损失就按约 1/L 的逆幂律继续往下掉。作者还把这件事接到中心极限定理上,把「层间共享误差」和「层间差异」分开算账。

庆北国立大学:让LLM当损失调音师,图像恢复PSNR最高涨3.35
视觉与图像

庆北国立大学:让LLM当损失调音师,图像恢复PSNR最高涨3.35

调损失权重这件事,以往基本靠炼丹手感和几轮消融碰运气。这篇论文干脆把LLM塞进训练循环:每隔一段拿固定小样本跑一遍质量指标,让它的下一段训练自己决定该更看重保真,还是更好看。改的全是现成损失项,网络结构、优化器、数据管线、推理流程一个没动,训练额外开销不到0.2%,推理零成本。三个恢复任务、七个基准,都挪到了更划算的平衡点上。🤨

中科大提出ProxyEraseAgent:11种水印盲去除成功率94.8%
视觉与图像

中科大提出ProxyEraseAgent:11种水印盲去除成功率94.8%

AI生成图片越来越多,水印成了内容溯源的最后一道防线。这篇论文给了一个不太舒服的结论:只要拿到一张水印图,不用知道对方用哪套算法、不碰它的解码器,也能把水印打到接近失效,11套系统平均成功率94.8%。中科大的思路值得细看——拿公开水印模型的解码器当"代理",把开环乱打变成闭环搜索。做水印的要读,做内容治理的更该读。

3D世界模型造出的场景都是"死"的?OuroWorld一键把它们复活
视觉与图像

3D世界模型造出的场景都是"死"的?OuroWorld一键把它们复活

3D世界模型能把一张照片变成可走进去的场景,可这些世界是冻住的:叶子不摇,雾不飘,灯不闪。OuroWorld不用画任何掩膜,让视觉语言模型自己判断什么该动、怎么动,再用傅里叶形变场把首尾严丝合缝地接上。39个场景上全面超越四路基线,30人盲测偏好率70.8%—99%,值得一看它怎么在"互相打架"的脏监督里学出一个干净的4D场景。

齐鲁工大提出DiscoVL:参数砍55.7%,视觉语言模型反而更准
视觉与图像

齐鲁工大提出DiscoVL:参数砍55.7%,视觉语言模型反而更准

CLIP的提示学习已经被卷了三年,绝大多数工作都在往上叠模块;这篇先停下来问了一句:类特定判别信息和类无关的可迁移知识,是不是从一开始就被搅在同一个特征空间里?齐鲁工大等用解耦跨模态对齐器加正交对抗正则给出一种拆法,15个基准一致涨点,参数量还比上一版少了55.7%。涨点幅度不算炸裂,但这个诊断角度值得花时间读。

UIUC×丰田研究院:3万小时第一人称视频,世界模型学不会物体交互
视觉与图像

UIUC×丰田研究院:3万小时第一人称视频,世界模型学不会物体交互

一篇给"数据越大越懂世界"这条信仰做压力测试的论文。丰田研究院联合UIUC、CMU、JHU,拿3万小时第一人称人类操作视频训练世界模型,结果有点扎心:智能体的手放在哪学得又快又准,被它折的那张纸却始终折错。骨架条件化之后,300小时就能顶到基线1.5万小时的水平;而物体交互这条曲线,怎么加数据都抬不起来。作者给出的结论比数据本身更值得读——差距出在训练方式,

LONGGE AI COMMUNITY

把每天读到的论文,变成长期积累

加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。

加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。

龙哥读论文知识星球二维码 微信扫码加入知识星球