代码生成|中科院大作:安全测试当规范,结构化反馈零回归修复80个
大模型生成的代码能跑就算完?一测就出安全漏洞的场面见过太多。这篇论文把安全测试当“可执行规范”提前塞给模型,2705条轨迹实测:隐藏的联合成功率平均涨19.3个百分点,但也有模型越看测试越翻车。机制级严谨、工程级实用,值得细读。
LONGGE AI RESEARCH DAILY
每天筛选值得关注的 AI 论文,用工程视角拆解方法、实验和真正的落地价值。
目前已发表 1573 篇文章
大模型生成的代码能跑就算完?一测就出安全漏洞的场面见过太多。这篇论文把安全测试当“可执行规范”提前塞给模型,2705条轨迹实测:隐藏的联合成功率平均涨19.3个百分点,但也有模型越看测试越翻车。机制级严谨、工程级实用,值得细读。
当业界还在用单表抽取评测文档理解时,港科大(广州)团队直接抬高了门槛——Doc2DB-Bench要求从长文档里重建完整的关系数据库,边从表格到数据库:为什么文档理解需要新范式 先看一个真实场景:一份几十页的金融报告,里面写了好几家公司的现金流数据、股权关系、投资链路。传统做法是让大模型把里面的公司名称、金额、年份挨个抠出来,填进一张大表里完事。
机器人领域最缺的不是新模型,而是让模型跑起来的"标准化插头"。港大MMLab与清华联合开源的XPolicyLab,把N个策略连M个环境的成本从O(NM)压到O(N+M),实测集成时间从5小时干到30分钟,是真实工程痛点的一记重拳。
产品改动上线一周,数据一片大好,结果三个月后用户却跑光了——这是所有在线平台最怕的“短期好看、长期翻车”。这篇由Pinterest、Netflix、Meta等15家平台26位专家联名总结的行业共识,把短期实验推断长期效果的坑和招一次讲透,值得每个做增长、做策略的人收藏。
这可能是第一篇系统研究“AI代理自我投毒”的论文:攻击者不注入任何恶意外部输入,只靠模型自己在正常任务里“写”出带毒的技能文件,就能让隐私泄露、提权、越权写入在后续任务中自动触发,在OpenClaw、Codex、Claude Code上平均攻击成功率超93%。对做AI Agent安全和部署的同学来说,这篇值得细读。
为什么值得读?CVPR 2026最佳论文荣誉提名作品,把“攻击-防御”对抗博弈引入SAM提示词优化——用攻击者主动制造干扰,逼出能抗干扰的提示词优化器,全程无需下游任务标注,即插即用,医学图像上最多涨超15个百分点。思路清奇,值得一看。
水下机器人在港口干活,洋流、缆绳、尾波全是不讲道理的随机扰动。这篇论文把随机物理信息神经网络搬上李群,用欧拉-庞加莱动力学做骨架,让模型既懂物理又懂几何,仿真到实测一步到位,把MPPI导航成功率从65%拉到90%,是随机动力学建模难得的完整落地案例。
摇杆遥操作机器人一直是“手残党劝退”重灾区:按钮全靠背,速度控制全凭手感。这篇论文直接把手指滑动变成机械臂运动,20人跨国实测完成时间直降53.5%,认知负荷也压了下来。想少练“手劲”的核工业接班人,值得一看。
Meta在RecSys 2026上放了颗实弹:用LLM Agent把推荐系统从"被动猜你喜欢"变成"用户实时说了算"。三层架构干净利落,离线准确率98.85%,线上A/B负面反馈同时下降,是目前少见的工业级对话推荐实战样本,搞推荐的同学值得一读。
视觉回归测试(VRT)天天在跑,可它对开发者讨论和合并流程到底有什么影响?这篇ICSME 2026实证研究挑出307个VRT关联PR,给出硬核数据:合并中位时间长3.8倍、评论多10倍、代码改动放大数倍,还挖出近两成非样式性缺陷。想搞懂VRT真实价值与工程代价的开发者,值得一读。
大模型推理贵、响应慢,一直是落地最扎心的痛点。苹果、谷歌DeepMind、哈佛这次联手给16B扩散语言模型LLaDA 2.1动了场小手术:6层注意力换成线性版本,只训练约60小时就换来最高1.7倍解码加速,代码已开源。扩散模型也能线性化,这波操作值得细品。
戴智能眼镜开电话会,周围人声嘈杂听不清?边缘小模型算力不够,云端大模型又太慢——Meta这次让云边“组队打怪”,边缘只加1.5%参数就能蹭到云端大模型的“听力”,在64毫秒延迟下硬是把语音增强的SI-SDR拉高了3.77dB。真·云边协同新范式,值得一看。
LONGGE AI COMMUNITY
加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。
加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。
微信扫码加入知识星球