先从一个小问题说起:假设有一个凸函数,住在一个弯得很离谱的空间里,你每次只能问一个点——问它“这点的函数值是多少,往哪个方向走能变好”——那么最少要问多少次,才能保证自己找到的位置离真正的最优解足够近?这个问题在欧氏空间里已经被研究得很透了。可一旦把舞台换成双曲空间,画风立刻不一样。欧氏空间里,半径 R 的球的体积按 R 的多项式增长;双曲空间里,半径稍微大一点,体积就按指数速度膨胀。换句话说,同样一块“候选区域”,在双曲空间里被摊薄成了指数多的地方,算法要付出的信息代价自然跟着水涨船高。北京大学这支团队这次要回答的,正是这件事的“下限到底在哪”。而且他们把答案钉死到了常数级别——上界和下界严丝合缝地咬在一起,中间那道拖了很久的多项式缺口,被填平了。
论文把函数类记为 Fd(R, L),它要求三件事同时成立:函数在整个双曲空间 Hd 上测地凸;全局 L 利普希茨;全局最优解至少有一个落在以参考点 o 为圆心、半径 R 的闭球里。图2:函数类 Fd(R, L) 的两条硬性约束。第一行是全局利普希茨条件,第二行保证最优解落在已知的定位球内。这个“提前告诉你最优解在哪个范围”的设定,是整个复杂度问题的前提。算法的任务,是输出一个点 x̂,让目标间隙降到精度阈值以内:图3:目标间隙的定义式。ε 是相对精度,L 是利普希茨常数,R 是定位半径,三者相乘决定绝对误差预算。这个写法本身就暗示了,误差天然带着“曲率半径”的量纲。论文还额外规定:查询点可以随便选,不必落在定位球里,也不必落在此前回复划出的任何区域里;算法输出可以是一个从没查过的点。这个自由度,恰恰是此前那些下界啃不动的地方。
曲率因子 ζR 是个什么东西
整篇论文的“主角参数”只有一个:ζR = R / tanh R。它有两个极限行为。当 R 趋于 0 时,tanh R ≈ R,所以 ζR 趋近于 1,几何局部接近欧氏,曲率几乎不构成负担。当 R 变大时,tanh R 趋近于 1,ζR 近似等于 R,惩罚按半径线性增长。更一般地,如果空间曲率是 −k²,物理半径是 r,只要把度量整体缩放 k 倍,就能把它拉回曲率 −1 的标准情形,此时 R = kr,曲率因子变成 ζ = ρ / tanh ρ,其中 ρ = kr。论文在摘要里用的就是这个形式。那么问题来了:这个 ζR 到底只是投影次梯度这个具体方法不够聪明导致的,还是任何算法都躲不掉的信息代价?要区分这两种可能,唯一的办法就是给出一个对任意自适应算法都成立的下界。
Table 1 下半部分还列了一条容易被忽略的信息:如果把维度固定住,Zhang 等人基于 Klein 模型(Klein model)的切割平面法,可以做到精度项只按对数增长:图5:固定维度下基于 Klein 模型切割平面的查询复杂度上界。它明确带上了维度 d 的平方因子,代价是精度依赖从多项式降到了对数。这看起来和本文的结论矛盾,其实不矛盾。本文证明的是“对所有维度取上确界”的那个最坏情形——下界构造用到的维度是 d = T + 2,会随着查询次数 T 一起长大。维度相关的上界和维度一致的下界,是两件不同的事,完全可以并存。
设 C 是一个非空、紧致、测地凸的集合,p 是 C 里面的一个候选最优解。定义这样一个函数:图6:本文的核心构造——从凸载体 C 出发的度量下卷积(metric infimal convolution)。μ 是精度相关的缩放系数,取 μ = 4ε。这个定义看起来只是把“到 p 的距离”和“到载体里任意一点的距离”加权求和再取下确界,但它有三个非常漂亮的性质:它在整个双曲空间上全局测地凸;它全局 1 利普希茨;它还满足一个下界保证:图7:度量延拓函数的下界性质。左边的不等式意味着:只要一个点离候选最优解 p 足够远,它的目标值就一定很大。右边的等式说明 p 本身就是最小值点,并且取值恰好为 0。两句话合起来,就是“离得远 = 目标间隙大”这条因果链。这一下就把“几何距离”翻译成了“目标间隙”。算法只要没能靠近 p,就自动输了。
第二步:把一次查询变成一条法向量
接下来是最关键的一步。假设查询点 z 落在载体 C 上,D 是 z 到 p 的距离,q 是一个单位切向量。如果这个组合向量:图8:接触条件。n 由两部分拼成——查询方向 q,加上指向候选解 p 的径向单位方向 uz,p 乘以 μ。要求 n 落在载体 K 在 z 点的法锥(normal cone)里。那么沿着 q 方向走 ℓ 步得到的点 y,它收到的预言机回复是完全确定的:图9:接触保持引理(Lemma 5.4)。左半部分是精确函数值 μD + ℓ,右半部分是一个明确的次梯度向量。也就是说,一次查询带来的返回值,可以完整地被一条法向量“预言”出来。这里有个细节值得强调:只要这条法向量在未来载体扩张的过程中一直有效,那么这次查询的回复就永远不需要被修改。所以问题的重心,从“怎么构造函数”转移到了“怎么保证法向量一直有效”。
最终一次成型:对每一个还活着的候选点 p,取载体 C = gconv(P ∪ {p}),构造对应的 FC,p。论文证明了:这个函数可以在任意有限前缀之后,同时复现所有历史查询的值和完整次梯度。
剩下最后一步是把在线构造转成一次性离线构造。因为算法是确定性的,只要把抵抗性预言机给出的那串回复固定下来,就存在一个固定的函数 f 和一个固定的合法预言机 Of,让算法产生完全相同的运行轨迹。于是自适应对抗,等价于对单一固定实例的一次运行。维度是怎么涨起来的?每处理一次查询,公共子空间最多扩展一维,所以查询次数为 T 的构造,需要 d = T + 2 维。这也是为什么定理陈述里要强调“维度一致”这个限定词——它说的是对所有维度取最坏情形,而不是在某个固定维度里。论文还补了一条自包含的上界证明,把投影次梯度下降的迭代格式和半径递推写清楚:图17:投影黎曼次梯度下降的距离递推式。第一项是上一次的距离,第二项是函数值的下降带来的收益,第三项是曲率因子 ζ3R 和步长平方带来的误差项。曲率正是从这里钻进上界的。
还没有公开留言,欢迎留下你的看法。