FlashRT开源:27倍加速,边缘AI推理告别“重计算”,秒变“快照恢复”
当机器人每次重启都要重算大模型,或边缘设备LLM冷启动慢到怀疑人生,这篇论文给出了天才解法:把整个推理的“当时状态”像游戏存档一样快照,下次直接读档。FlashRT通过“执行状态胶囊”,让低延迟、小批量的边缘AI服务延迟狂降27倍,并在LLM、TTS、机器人策略上统一了这套机制。简单说,就是让AI推理变得像按快门一样快。
LONGGE AI RESEARCH DAILY
每天筛选值得关注的 AI 论文,用工程视角拆解方法、实验和真正的落地价值。
目前已发表 1655 篇文章
当机器人每次重启都要重算大模型,或边缘设备LLM冷启动慢到怀疑人生,这篇论文给出了天才解法:把整个推理的“当时状态”像游戏存档一样快照,下次直接读档。FlashRT通过“执行状态胶囊”,让低延迟、小批量的边缘AI服务延迟狂降27倍,并在LLM、TTS、机器人策略上统一了这套机制。简单说,就是让AI推理变得像按快门一样快。
超分模型想要又快又好?上海交大奖池团队直戳痛点:不是先验不够强,而是token太拥挤、交互太贵了!他们祭出32倍压缩+线性注意力的大杀器——SANA-SR,单步推理19毫秒搞定,输出效果还吊打一众多步SOTA。这个思路,绝了!
长视频问答(LVQA)一直是个“烧钱”的活,把一小时的视频全喂给大视觉模型,光是token就能上百万。而TIMEPROVE给出的策略很聪明:先派轻量级的动作检测器去“探路”,生成几个高概率的答案假设,最后才让大模型去“拍板”验证。结果呢?效果涨了7.3%,成本却降了93%。这种“先猜后验”的思路,值得每个做视频理解的人关注。
长视频问答一直是个“贵”且“难”的活儿——处理一小时视频,光视觉token就超200万。北卡大学夏洛特分校的TIMEPROVE,提供了极其优雅的解决思路:先用轻量级的动作检测模块“侦察”出关键证据片段,再只把这些精挑细选的短片段送给VLM做“终审”。结果准确率涨了7.3%,VLM调用次数锐减75%,推理成本暴跌93%!这简直就是给LVQA这个“烧钱”领域的一
流感预报影响万千人健康,从ARIMA到PatchTST再到各种大模型,谁才是预测流感传播的“预言帝”?弗吉尼亚大学这篇论文,用17个模型在真实场景下进行了1-4周预测大PK。结果很有意思:混合专家模型稳居C位,而用大语言模型做时间序列预测,这次表现真是不太能打... 一起来看看到底谁是C位,谁又该回炉重造吧。
还在给语音增强模型喂“时间”参数?杭电团队最新研究发现,在基于线性插值的生成式语音增强中,时间步嵌入可能是多余的,甚至有害。他们提出的ARF框架,去掉时间条件后,不仅生成质量更高,推理速度还快得飞起。一篇思路清奇、实验扎实的好文,值得一读。
从2026年6月的PathSpec到1月的COOL-SD,加速自回归图像生成的方法层出不穷,但都难逃1D序列的束缚。罗格斯大学这篇SSD彻底打破常规,让模型用“二维视野”同时看上下左右,把复杂度从O(n²)降为O(n),实现13倍加速,这波操作属实惊艳!
继2026年6月推过AVDM2、DenseDPO等视频生成加速和对齐方法后,今天这篇城大新作PRISM,直接把视频生成模型本身变成了最懂行且最快速的“评委”。以往用大视觉语言模型当裁判,又慢又贵,还得等视频全生成完。PRISM反其道而行之,冻结生成模型,在满是噪声的潜伏空间里就能精准打分,还能在生成早期就淘汰烂片,推理提速7.6倍。这波操作,值得所有做视频生
U-Net家族新成员驾到!还在为U-Net只能做加法特征变换而苦恼?德国应用科技大学团队祭出PU-UNet,让U-Net学会乘法交互。参数、FLOPs几乎不变,但Dice分数狂飙,正常病例假阳性率直接干到零。不烧钱,不折腾,是时候考虑给网络加个“乘法器”了。
Transformer的注意力机制一统超分天下?韩国高丽大学最新研究说,或许静态的线性递归单元(LRU)才是那个更香的选择。他们提出的LSM,用一次扫描就搞定了原本需要多次动态扫描的活儿,不仅省计算,画质还好到没朋友,成功登上CVPR 2026 Findings!
社区热议(453赞)!这篇2026年6月的论文一针见血地指出:强化学习缺的不是更好的模型,而是一个可以随意采样的合成先验。作者借鉴TabPFN的成功经验,直接把MDP「表格化」,用图注意力网络一通训练,结果在未见过的环境中,6个episode就收敛到最优策略,效率吊打传统上千步的Q-learning。思路极其清奇,简直是给RL基础模型铺路!
DeepMind终于出手,这次不谈算力,不聊模型,而是直接戳中了整个AI领域的“灵魂痛点”——我们的AI,从根上就不懂合作。这篇论文像一盆冷水,泼醒了还在疯狂堆数据、跑benchmark的各位同行。它告诉我们,超级智能的关键不在于“多强”,而在于“多合群”。不适合在“唯我独尊”的范式下闭门造车的研究者都该读读。
LONGGE AI COMMUNITY
加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。
加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。
微信扫码加入知识星球