← 返回 PaperDaily 视觉与图像

同济大学提出拉马克驾校:自动驾驶训练场景进化,性能损失最高降25.07%

自动驾驶训练里,最容易被当成“背景板”的其实是场景分布。同济大学干脆把它变成会进化的变量:候选场景分布按“训完到底开得好不好”来竞争,优胜路径再蒸馏成一套六阶段轻量课表。完整进化让性能损失比 Replay 降低 25.07%,轻量策略也有 19.13%。

同济大学提出拉马克驾校:自动驾驶训练场景进化,性能损失最高降25.07%
原论文信息如下:
论文标题:
Lamarck's Driving School: Discovering Autonomous Driving Training Strategies through Evolutionary Competition
发表日期:
2026年10月(arXiv 预印本)
发表单位:
同济大学
原文链接:
https://arxiv.org/pdf/2610.11662v1.pdf

拉马克驾校开课了:让场景分布和驾驶策略一起进化

去驾校学车,最怕遇到一种教练:每天雷打不动带着学员在同一块空旷的水泥地上绕圈。倒库、侧方、绕桩,动作练出肌肉记忆,一开上真实道路遇到加塞、施工、暴雨,立刻手忙脚乱。问题从来不是练得不够多,而是练的内容太单一。
自动驾驶也有自己的驾校。只不过学员是神经网络策略,教练是数据,而"今天该练哪条路、练多少遍"这件事,长期依赖人工排课表,或者依赖几条朴素的启发式规则。排得好,策略突飞猛进;排得不好,几百万步训练预算打水漂。
同济大学这篇论文给驾校换了个玩法:让不同的"教学大纲"自己上台打擂台,谁教出来的学生在统一考试里分数高,谁就活下来,并且把教出来的能力直接交给下一代继续带。这套机制叫拉马克进化,论文标题也直接叫《Lamarck's Driving School》。
先解释一下这个名字。拉马克进化(Lamarckian evolution)指的是法国生物学家拉马克提出的"用进废退"加"获得性遗传"假说,个体一生中锻炼出来的本领可以直接被后代继承。与之相对的是达尔文式的随机变异加自然选择。这个假说在生物学上早已被否定,但搬进机器学习反而变得好用:策略在某个场景分布下训练后得到的参数状态,可以直接作为下一阶段的起点,不必每次从零初始化。把"学到的能力"当遗产继承下来,正是这套框架跟普通进化算法最大的分野。
论文由同济大学的 Yichun Ye、He Zhang、Ye Tian 和 Jian Sun 完成,Ye Tian 与 Jian Sun 均为 IEEE 高级会员。研究的核心问题非常直白:自动驾驶的训练场景分布,到底该怎么排,才最划算?
要理解这个问题的分量,得先搞清楚"场景分布"在自动驾驶训练里究竟是什么。一辆车在路上跑,最自然的交互单元不是孤立的某一帧画面加一个动作,而是一整段闭环轨迹。论文把长度为 T 的场景写成一个状态与动作交替的序列。
公式1:场景序列定义
公式1:长度为 T 的闭环驾驶场景定义。s 表示交通状态,涵盖道路结构、天气以及各交通参与者的位置与速度;a 表示自车在该状态下采取的动作
单个场景再精彩,训练收益也是在整个训练集上累积起来的。训练集背后的场景分布 q,决定了策略会遇到哪些情况、每种情况遇到多少次,进而塑造出它最终学会的能力。所以自动驾驶训练不只是在给定分布下优化策略参数,分布本身也是一个可以优化的对象。
图1:所提框架总览
所提框架总览。场景分布与驾驶策略通过基于训练后评估的竞争与能力继承共同进化

告别代理指标:用训练后性能直接驱动场景分布竞争


代理指标为什么不够用

已有研究大致分成三条路线,它们共同点是都在给场景分布找一个代理指标(surrogate criteria)。自然驾驶数据回放(naturalistic scenario replay)追求真实感,直接采样真实交通数据;课程学习(curriculum learning)按难度、学习进度或者模型弱点来组织场景;安全关键场景生成(safety-critical scenario generation)优先考虑风险、失败率与临界性。
这些做法背后有一个隐含假设:在代理指标上得分越高的分布,训练价值就越大。论文直接指出这个假设未必成立——真实的数据大多是低风险常规工况,长尾覆盖不足;而一味追求风险,又可能把训练推向最坏情况,未必换来任务层面的整体提升。更本质的问题在于目标错配:用来设计训练分布的信号,跟训练真正想提升的结果并不是同一个东西。训练阶段优化的是累积回报或训练损失,最终考核看的却是一个综合评测函数。
公式2:累积回报形式的训练目标
公式2:给定场景分布 q 下的典型训练目标。θ 为策略参数,γ 为折扣因子,r 为即时回报,E 表示在分布 q 上取期望
于是论文把训练策略发现问题形式化成一个多阶段双层优化问题。外层在候选分布空间里搜索,内层在给定分布下做有限步的策略更新,而每一段训练用到的分布串起来就是一整套训练策略。
公式5:多阶段双层优化问题
公式5:多阶段双层优化表述。q 为各阶段训练场景分布构成的序列,Q 为候选分布空间,K 为总阶段数,U 表示在某个候选分布下的有限步策略更新,F 为最终评测函数
直接对整个序列做优化是不现实的,因为每评估一个候选就得完整训练一次策略。论文退而求其次,逐阶段近似,把第 k 阶段的训练价值定义为该候选分布训练完之后在统一评测下的表现。这个价值是条件性的——它依赖于当前继承到的策略状态、固定的训练预算和评测协议,而不是分布本身固有的属性。
公式6:阶段训练价值定义
公式6:第 k 阶段的训练价值。它等于策略从当前状态 θk 出发、在候选分布 qk 上训练之后所获得的评测表现
公式7:阶段级分布选择问题
公式7:第 k 阶段外层的分布选择问题,即在候选空间中挑选训练价值最高的分布
这份定义本身就是方法的关键:训练价值由训练后的考试成绩来定义,而不是由事先指定的真实感、难度或风险来打分。这也意味着每个候选的价值只有训练完才看得见,无法对分布参数求导,整个搜索本质上是黑箱优化。
图2:问题建模与拉马克进化框架总览
图2:问题建模与拉马克进化框架总览

把抽象分布变成可搜索的参数

要让搜索跑起来,第一步是给场景分布找一个可参数化的表示。论文把一条闭环轨迹的生成概率按链式法则拆开,拆成初始状态、环境动力学、背景车辆行为和自车策略四部分。
公式8:闭环轨迹概率分解
公式8:闭环轨迹的概率分解。Pφ(s0) 为初始场景分布,Pφ(s(t+1)|st,at,bt) 为环境动力学,Pφ(bt|st) 为背景车辆策略,πθ(at|st) 为自车策略
这个分解把环境参数 φ 和策略参数 θ 彻底分离开:前者刻画初始状态、背景行为与环境动力学,代表"课表";后者刻画自车的能力,代表"学生"。两者共同决定轨迹分布。
公式9:轨迹分布由环境参数与策略参数共同决定
公式9:轨迹分布同时取决于环境参数 φ 与策略参数 θ
公式10:阶段级环境参数搜索
公式10:阶段级优化目标。选择分布这件事,被转化为在环境参数空间中寻找训练价值最大的那一组参数
这样一来,θ 通过内层的策略学习更新,φ 通过外层的进化更新,抽象的场景分布优化变成了一个可以动手的参数量搜索问题。
表A.1:场景参数化
表A.1:场景参数化。环境参数具体包含哪些维度,决定了进化算法实际搜索的空间有多大

五步走完一轮拉马克进化

框架的适应度定义非常朴素:一个候选分布好不好,看它按固定训练预算训完之后,继承这条血脉的策略考出多少分。这种定义直接对齐了真正的优化目标,也避免了单纯奖励"数值涨得多"的现象——如果继承来的策略本身就很差,哪怕提升空间很大,也不该被优先选中。
公式11:候选个体的适应度
公式11:候选个体的适应度定义。候选分布在各自继承到的策略血脉上竞争,用训练后表现说话
种群的每个个体由一对参数组成:一份决定训练场景分布的环境参数,一份表示当前阶段继承到的策略能力。第一代所有个体共享同一个初始策略,环境参数则依据自然驾驶数据的场景统计做初始化;后续世代的个体,通过父代继承、交叉、变异以及高适应度环境参数的注入共同生成。
公式12:候选个体种群定义
公式12:第 k 阶段的候选个体集合。每个个体同时携带环境参数与策略参数
交叉操作把两个高适应度环境参数组合起来,让道路结构、交通状态、行为统计这些不同的场景属性重新搭配;变异则在局部扰动环境参数,去探索新的分布区域。整个过程中,交叉和变异只作用于环境参数,不直接修改策略参数——训练内容靠外层进化安排,驾驶能力靠内层训练获得,两条线分工清晰。
公式13:环境参数的交叉与变异
公式13:新候选环境参数的生成方式,先对两个父代参数做交叉,再做变异扰动
公式14:候选个体在自身分布上的策略更新
公式14:内层训练。每个候选先从自己诱导出的分布里采样场景集,再以继承到的策略参数为起点,做有限步训练,得到更新后的能力状态
训练完之后进入评估环节。评测函数把效率、安全、交通合规等多个指标按权重加总,给出一个综合分。这里有个容易被忽略的细节:进化搜索期间,分数是在适应度评测集上算的,最终测试集被单独留出,不参与选择。
公式15:统一评测函数
公式15:统一评测函数。β0 为偏置项,βi 是各指标的权重,Mi 代表效率、安全、合规等单项指标得分
表A.3:评测函数
表A.3:评测函数中使用的具体指标与权重配置
表A.4:算法参数
表A.4:进化算法的主要参数设置
最后一步是选择。适应度高的个体成为父代,下一代不仅继承它们的环境参数,还继承它们在有限步训练中获得的策略能力状态。这就是获得性遗传在算法层面的落地:被保留下来的不只是"哪条路值得练",还有"练完之后学生变成了什么样"。策略能力因此能够沿着进化路径持续累积,而不是每一代都回到新手村重来。

场景池怎么搭、基因锁怎么锁

环境参数只是一串数字,真正训练还得变成可执行的场景集。论文先是搭了一个统一的场景池,由三部分构成:400 个 Waymo 真实源场景,TrafficGen 基于这 400 个源场景生成的 1510 个广义变体,以及 CAT 基于同一批源场景生成的 658 个安全关键变体。
这里需要解释两个缩写。TrafficGen 是一个交通场景生成模型,用来扩充车辆布局、初始状态和轨迹分布的覆盖范围;CAT 全称 Closed-loop Adversarial Training,即闭环对抗训练,把策略学习和对抗性环境生成放在一起做,专门补足长尾和安全关键的训练样本。值得注意的是,两种生成方式都不引入新的独立真实源数据,所有方法共享同一批源场景。
给定一个目标环境参数,采样器从场景池里组装出一套训练场景集,让它的经验统计尽可能贴近目标分布。具体做法是每次替换一个场景,最小化目标分布与当前场景集经验分布之间的加权差异,只有误差下降的替换才被接受。如果场景池本身覆盖不到目标分布,就退回去调用 TrafficGen 或 CAT 补充缺失属性——需要更多道路结构、交通流或运动模式多样性时用前者,需要更低的碰撞时间(TTC, Time to Collision)或车头时距(THW, Time Headway)时用后者。
还有一个容易被忽略但很关键的设计:基因锁(GeneLock)。交叉和变异产生的环境参数有可能违反物理规律或任务逻辑,比如让车辆以不可能的速度掉头、或者生成自相矛盾的交通流。GeneLock 的作用不是提高场景难度,而是把进化搜索约束在可行区域内,它检查物理约束、任务可行性约束以及运行设计域(ODD, Operational Design Domain)约束,违规的候选直接被拒绝或投影回可行域。

六阶段挑战轮换:进化实验揭示的能力积累规律

完整拉马克进化在这篇论文里承担的是"发现实验"的角色:先跑一遍大规模搜索,看看高价值场景分布长什么样,再谈怎么复用。搜索一共 12 代,每代 10 个候选,每个候选在自己的分布上训练 25000 步,然后接受同一套协议评测。每代包含 4 个克隆候选、3 个交叉候选和 3 个变异候选,另有一个精英基因池复用历史上出现过的优质分布,用来提升搜索效率。
图3:拉马克进化产生的进化树
图3:拉马克进化产生的进化树。每条曲线代表一条进化分支,个体被淘汰时分支终止;各分支的评测表现分化明显,选择机制保留了高分个体,并形成若干持续走高的路径
进化树是这套方法最直观的产物。它不只能看出谁最后赢,还能看出哪些分支在中途就被淘汰、哪些分支一路爬升。对于研究训练策略的人来说,这些被淘汰的分支同样有价值——它们代表了"看起来合理但实际没效果"的课表。
图4:不同方法在各训练阶段的场景分布特征
图4:不同方法在各训练阶段的场景分布特征对比。车道占比、道路边缘占比等九类分布特征,把 Replay、Curriculum、CAT 与本文方法在训练内容上的差异摊开来看
把九类分布特征画在一起比较,可以发现不同方法在"练什么"这件事上的取舍相当不一样。回放类方法基本固定在某一个区域不动,课程类和对抗类方法则各有自己的偏好方向,而进化搜索出来的高价值分布,会在不同阶段呈现出明显的位置移动。
图5:进化一代之后的能力分化
图5:进化一代之后的能力分化。同样从初始策略出发,不同候选训练场景分布所导致的训练后驾驶行为差异明显
图5 把"分布决定能力"这句话变得非常具体:同一份初始策略,只因为在不同的场景分布上练了一代,出来的驾驶行为就已经分道扬镳。这也解释了为什么进化搜索能奏效——分布确实是有效的优化变量,而不是无关紧要的包装。
真正有意思的发现来自对精英分布的复盘。论文对历代高适应度个体的环境参数做了排序和去重,得到精英分布日志,再看这些分布在特征维度上怎么随代数迁移,最终读出一套规律:能力不是靠一直加难度堆出来的,而是通过阶段性的挑战轮换逐步积累。相邻世代之间,多个特征出现持续性漂移,这些漂移点把整条进化路径切成了六个连续的阶段。
表1:拉马克训练策略的阶段规律
表1:拉马克训练策略的阶段规律。六个阶段各自对应不同的场景分布侧重,共同构成一条能力积累路径
论文在这里保持了克制:它明确说明这套六阶段切分是描述性的,并不宣称是唯一解。这一点值得肯定,因为从有限次搜索里归纳出的规律,本质上受算法、初始化和训练噪声影响,把它当成宇宙真理反而危险。换个角度看,这份"阶段性轮换"的结论也符合直觉——学生的能力在变,最优练法自然也该跟着变,一套课表从头用到尾,本身就很难是最优解。

从3M步到300k步:轻量级拉马克训练策略的蒸馏与验证

完整进化效果好,但代价不低。按 12 代、每代 10 个候选、每个候选 25000 步训练来算,光是策略训练就要消耗 300 万步,还不含评测开销。每次换一个新策略都重跑一遍,谁都受不了。所以论文把完整进化定位成一次性的发现过程,真正的产品化输出是一份固定的课表。
蒸馏分三步走。第一步记录每个进化阶段结束后高适应度个体的环境参数向量,按训练后表现排序并去重,形成精英分布日志。第二步检查这些精英分布在各特征上的归一化均值是否在相邻世代之间出现持续性漂移,漂移点用来切分阶段。第三步把同一阶段内所有精英分布的参数向量做平均,得到该阶段的目标分布,必要时用 GeneLock 把平均后的向量投影回可行域,再为每个阶段采样一套固定规模的训练场景集。
蒸馏过程不训练任何新的控制策略网络,只是把进化过程中已经出现过的经验压缩成固定序列。最终的拉马克训练策略(LTS, Lamarckian Training Strategy)可以脱离进化搜索直接用于策略训练,一次完整运行只需 30 万步,相比完整进化的 300 万步压缩了一个数量级。论文对此的表述也很清楚:所有关于训练效率提升的说法,指的都是蒸馏之后的 LTS,完整进化的价值主要体现在它发现的路径和分布质量上。

实验怎么搭的

实验在 MetaDrive 仿真器中实现,策略学习算法选用 TD3(Twin Delayed Deep Deterministic policy gradient,双延迟深度确定性策略梯度)。所有真实源场景都来自 400 个 Waymo 场景,TrafficGen 和 CAT 只在这些源场景上派生变体,不引入额外独立真实数据。Replay、Curriculum、CAT 和本文方法共享同一批源场景和相同的最大训练预算,区别只在于各自组织或生成训练序列的方式。
评测集划分上,适应度评测集包含 50 个 Waymo 场景和 50 个 nuScenes 场景,与训练场景和最终测试集都不重叠;最终测试集则包含不相交的 100 个 Waymo 场景和 83 个 nuScenes 场景。论文特别说明了一点:由于 nuScenes 的评测场景参与了适应度评估,nuScenes 上的结果衡量的是第二个数据集上的留出场景表现,而不是对完全未知领域的零样本泛化。这种主动澄清数据集角色的写法,比含糊地宣称"跨数据集泛化"要诚实得多。
表A.5:实验参数
表A.5:实验参数与评测指标配置

考出来的成绩

表2:不同训练策略的结果
表2:不同训练策略的结果对比,包括 Replay、Curriculum、CAT 以及本文提出的完整框架与轻量策略
图6:不同训练策略的最优表现曲线与置信区间
图6:不同训练策略的最优表现曲线与置信区间
结果可以概括成两句话。相比基线方法,完整框架把性能损失最多降低了 25.07%;而蒸馏出来的轻量策略在不做任何在线进化的前提下,仍然把性能损失降低了 19.13%,并且总体得分超过了 Replay 基线和其他所有对比方法。
这两个数字的关系本身就很值得琢磨。完整进化比轻量策略多出来的收益只有约 6 个百分点,但它需要多花一个数量级的训练步数。也就是说,真正值钱的不是搜索过程本身,而是搜索过程揭示出来的那套阶段性规律。对实际团队来说,这意味着一次性的搜索投入可以在后续所有策略训练中摊销,边际成本降得非常低。
需要留个心眼的是,这几个百分点的差距是在固定训练预算、统一评测协议的条件下测出来的,评测集本身的规模也有限。跨数据集的部分,出于前面提到的原因,只能算第二个数据集上的留出场景验证,不能过度解读成通用泛化能力。以 PaperDaily 已收录的相关工作作为参照,这套方法在"训练数据组织方式"这条线上确实站得住,但不至于到"吊打一切"的程度。

消融实验告诉你:场景搜索和能力继承缺一不可

论文的第三组实验专门做消融,分别去掉场景搜索和能力继承这两个机制,看各自贡献了多少。这个设计很有必要,因为完整框架里这两个机制是耦合在一起的,不给它们各自单独出场的机会,就没法判断到底是谁在起作用。
表3:关键机制的消融结果
表3:关键机制的消融结果,分别考察去掉场景搜索和去掉能力继承之后的性能变化
图7:消融实验的学习曲线
图7:消融实验的学习曲线
去掉场景搜索,等于让训练分布固定下来,策略只能在一个静止的课表上反复练。去掉能力继承,等于每换一个阶段就让策略从初始状态重新开始,前面学到的能力全部清零。两种残缺版本都出现了性能下滑,这说明"分布会变"和"能力会传"是这套方法的两个承重墙,拆掉任何一堵都撑不住。
从学习曲线看,能力继承带来的差异更多体现在训练的早中期——有继承的版本起跑更快,因为它不必重新摸索已经学会的东西;而场景搜索带来的差异更偏向后半段,因为分布的价值只有在策略具备一定能力之后才真正显现出来。这个时间上的错位,其实也侧面印证了论文的核心观点:分布的价值是随能力变化的,早练和晚练的效果不一样。

龙迷三问

下面是龙哥对于大家可能的一些问题的解答:
这篇论文到底在解决什么问题?同济大学把自动驾驶的训练场景分布当作可优化变量,用拉马克进化让候选分布按“训完之后的真实表现”来竞争,再把优胜路径蒸馏成六阶段轻量策略。相比Replay,完整进化使性能损失降低25.07%,轻量策略降低19.13%。
这篇工作最值得看的点是什么?LTS在综合评分上达到82.71±0.42,优于Replay(78.62)、Curriculum(79.77)和CAT(80.09)。在Waymo测试集上成功率达85.40%,碰撞率13.20%,OOR率1.60%;在nuScenes测试集上成功率达69.16%,OOR率5.30%。相比Replay基线,Best Evolution降低性能损失25.07%,LTS降低19.13%。LTS在所有对比方法中综合评分排名第一。
这篇工作的边界或风险在哪里?优点:(1)首次将训练策略发现问题形式化为多阶段双层优化,用训练后性能而非代理指标驱动分布设计,思路新颖;(2)拉马克进化框架将环境参数进化与策略能力继承有机结合,机制设计合理;(3)发现了"阶段性挑战轮换"的可解释模式,并成功蒸馏为轻量级LTS,实用性强;(4)实验在MetaDrive中验证,对比充分,消融合理。缺点:(1)仅在MetaDrive仿真器中验证,未在真实世界或更高保真度仿真器中测试;(2)完整进化计算成本高(3M步),蒸馏策略依赖一次性搜索结果;(3)nuScenes评估场景参与适应度评估,跨数据集泛化性验证不够严格;(4)Best Evolution仅单次运行,缺乏统计显著性分析;
如果你还有哪些想要了解的,欢迎在评论区留言或者讨论~

龙哥点评

论文创新性分数:★★★★☆

提出拉马克进化框架,将训练场景分布作为可优化变量,通过多阶段双层优化问题建模,外层用达尔文式交叉变异选择探索场景分布空间,内层进行策略学习并通过拉马克遗传将已获得的能力传递到后续阶段,使场景分布与策略能力协同进化,最终蒸馏出轻量级可复用的拉。

实验合理度:★★★★☆

综合评分(加权评估函数,满分100),成功率(Success %)、碰撞率(Collision %)、驶出道路率(Out-of-Road %),覆盖Waymo和nuScenes两个数据集。

学术研究价值:★★★★☆

提出拉马克进化框架,将训练场景分布作为可优化变量,通过多阶段双层优化问题建模,外层用达尔文式交叉变异选择探索场景分布空间,内层进行策略学习并通过拉马克遗传将已获得的能力传递到后续阶段,使场景分布与策略。

稳定性:★★★☆☆

现有材料未提供充分的极端条件、重复运行或扰动测试,稳定性暂按中性评价。

适应性以及泛化能力:★★★☆☆

现有材料未完整展示跨数据集、跨场景或分布外实验,泛化能力仍需进一步验证。

硬件需求及成本:★★★☆☆

完整拉马克进化需要12代×10候选×25k步=3.0百万步策略训练(不含评估);蒸馏后的LTS仅需300k步训练。仿真环境为MetaDrive 0.4.3,使用30线LiDAR,观测维度112,动作维度2。

复现难度:★★★☆☆

https://github.com/ (论文提到Code is available on GitHub但未给出具体链接)

产品化成熟度:★★★☆☆

论文验证以研究实验为主,真实部署中的时延、成本、维护和异常场景仍需补充验证。

可能的问题:形式化为多阶段双层优化,用训练后性能而非代理指标驱动分布设计,思路新颖;(2)拉马克进化框架将环境参数进化与策略能力继承有机结合,机制设计合理;(3)发现了"阶段性挑战轮换"的可解释模式,并成功蒸馏为轻量级LTS,实用性强;(4)实验在MetaDrive中验证,对比充分,消融合理。


*本文仅代表个人理解及观点,不构成任何论文审核或者项目落地推荐意见,具体以相关组织评审结果为准。欢迎就论文内容交流探讨,理性发言哦~ 想了解更多原文细节的小伙伴,可以点击"阅读原文",查看更多原论文细节哦!       

转发文章 微博 X LinkedIn Facebook

读者留言

可直接以游客身份留言,也可注册读者账号。所有留言均需管理员审核后公开。

0 条已公开

还没有公开留言,欢迎留下你的看法。

游客可以直接留言;注册后可使用固定昵称和账号身份。 登录 免费注册
同一访问者每天最多提交 5 条。
龙哥读论文 · PaperDaily

本文基于龙哥读论文 PaperDaily 数据库整理,结合论文原文与工程视角进行解读。

LONGGE AI COMMUNITY

把每天读到的论文,变成长期积累

加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。

加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。

龙哥读论文知识星球二维码 微信扫码加入知识星球