一个网络,可能在搜索时排名靠前,独立训练后却表现平平。对神经架构搜索来说,这种错判尤其昂贵:每一代候选的去留,都取决于前一轮评估。如果比较本身出了偏差,搜索得越久,也可能只是沿着错误的方向走得越远。

EvoNAS 把这个问题放在视觉模型多目标搜索的中心。它将超网如何学习、候选模型如何评估,以及精度与计算成本如何取舍连成一条路径:让一次成本可控的比较,足以支撑下一次架构选择。

概念插画:不同网络形态的取景框观察同一街景,细微的几何边界被局部强调。

省下训练成本,也可能改变候选的排名

如果每一个候选网络都从头训练,架构搜索很快就会变成一笔庞大的计算开销。超网提供了一条捷径:先训练一个容纳多种结构的大网络,让其中的子网继承权重,避免每次评估都重新学习。

但共享权重也让不同结构的学习互相牵连。最能受益于当前共享参数的候选,未必就是独立训练后表现最好的架构。对演化搜索而言,这不只是分数上多了一点噪声:选择操作决定哪些候选能够留下、产生下一代,排序失真就可能改变整个搜索的方向。

视觉任务还给这场比较增加了一层要求。认出画面里有一栋楼,与准确找到楼的边界,是不同的能力。在深度估计和语义分割中,细栏杆、墙角、前景与背景的交界都可能携带关键信息;只保留大致语义,并不意味着这些细节也被保留下来。

网络变小之后,细节还能不能留下

EvoNAS 论文将视觉状态空间模块与视觉 Transformer 结合,构成可搜索的 VSS–ViT 超网。渐进式超网训练 PST 先训练较大的配置,再逐步纳入紧凑变体,让较小的候选在搜索空间展开时有一个已经学到表征的起点。

跨架构双域知识蒸馏 CA-DDKD 则进一步处理表征本身:在空间域和频率域同时对齐特征,通过离散余弦变换约束帮助保留细微的几何信息。这两个视角互为补充:特征出现在哪里很重要,勾勒边缘与纹理的变化也同样重要。

因此,训练策略成为了搜索方法的一部分。共享表征的质量提高,演化过程才有更有用的依据比较候选;单纯增加候选数量,并不能修复一个不可靠的排名。

评估可以更快,比较仍要公平

另一处瓶颈在于种群评估。EvoNAS 引入分布式多模型并行评估 DMMPE,通过 GPU 资源池和异步调度处理多个模型。搜索会反复回到评估这一步,因此这里的吞吐能力直接影响同一预算内能够完成多少比较。

最终的部署问题却很具体。比如一个必须在单帧预算内完成的深度估计模型,即使精度略高,只要耗时超过上限,就可能无法使用。多目标搜索保留精度与效率之间的多个可选方案,让最后的选择回到应用约束。要让时延比较有意义,候选也必须在可比的硬件与运行条件下接受测量。

沿着一个候选,一直走到重训之后

仓库工作流从 ImageNet-1k 超网预训练开始,经过目标任务的 PST 微调和演化搜索,最后重训选定子网。它提供了 KITTI、NYU Depth v2 深度估计,COCO 目标检测,以及 ADE20K 语义分割的任务入口。

第一次实验,可以选择一个任务,把这条路径完整走通。搜索配置决定“什么样的候选值得留下”,重训则揭示“选中的架构经过学习后究竟能做到什么”。把两个阶段的表现联系起来,恰好能回到 EvoNAS 最初要处理的排名问题。

README 当前仍将所需预训练超网的下载标为即将提供。开始前需要确认权重是否可用,并让 Mamba SSM wheel 与文档中的 Python、CUDA 和 PyTorch 环境匹配。

在 EvoX 生态中,EvoNAS 把一个值得追问的研究问题落到了具体任务上:怎样让有限的搜索预算,换来真正有用的比较?沿着代码与论文,可以从共享特征一路追到最终用于部署的模型选择。

← 返回动态列表返回顶部 ↑