一個網路,可能在搜尋時排名靠前,獨立訓練後卻表現平平。對神經架構搜尋來說,這種錯判尤其昂貴:每一代候選的去留,都取決於前一輪評估。如果比較本身出了偏差,搜尋得越久,也可能只是沿著錯誤的方向走得越遠。

EvoNAS 把這個問題放在視覺模型多目標搜尋的中心。它將超網如何學習、候選模型如何評估,以及精度與計算成本如何取捨連成一條路徑:讓一次成本可控的比較,足以支撐下一次架構選擇。

概念插畫:不同網路形態的取景框觀察同一街景,細微的幾何邊界被區域性強調。

省下訓練成本,也可能改變候選的排名

如果每一個候選網路都從頭訓練,架構搜尋很快就會變成一筆龐大的計算開銷。超網提供了一條捷徑:先訓練一個容納多種結構的大網路,讓其中的子網繼承權重,避免每次評估都重新學習。

但共享權重也讓不同結構的學習互相牽連。最能受益於當前共享引數的候選,未必就是獨立訓練後表現最好的架構。對演化搜尋而言,這不只是分數上多了一點噪聲:選擇操作決定哪些候選能夠留下、產生下一代,排序失真就可能改變整個搜尋的方向。

視覺任務還給這場比較增加了一層要求。認出畫面裡有一棟樓,與準確找到樓的邊界,是不同的能力。在深度估計和語義分割中,細欄杆、牆角、前景與背景的交界都可能攜帶關鍵資訊;只保留大致語義,並不意味著這些細節也被保留下來。

網路變小之後,細節還能不能留下

EvoNAS 論文將視覺狀態空間模組與視覺 Transformer 結合,構成可搜尋的 VSS–ViT 超網。漸進式超網訓練 PST 先訓練較大的配置,再逐步納入緊湊變體,讓較小的候選在搜尋空間展開時有一個已經學到表徵的起點。

跨架構雙域知識蒸餾 CA-DDKD 則進一步處理表徵本身:在空間域和頻率域同時對齊特徵,透過離散餘弦變換約束幫助保留細微的幾何資訊。這兩個視角互為補充:特徵出現在哪裡很重要,勾勒邊緣與紋理的變化也同樣重要。

因此,訓練策略成為了搜尋方法的一部分。共享表徵的質量提高,演化過程才有更有用的依據比較候選;單純增加候選數量,並不能修復一個不可靠的排名。

評估可以更快,比較仍要公平

另一處瓶頸在於種群評估。EvoNAS 引入分散式多模型並行評估 DMMPE,透過 GPU 資源池和非同步排程處理多個模型。搜尋會反覆回到評估這一步,因此這裡的吞吐能力直接影響同一預算內能夠完成多少比較。

最終的部署問題卻很具體。比如一個必須在單幀預算內完成的深度估計模型,即使精度略高,只要耗時超過上限,就可能無法使用。多目標搜尋保留精度與效率之間的多個可選方案,讓最後的選擇回到應用約束。要讓時延比較有意義,候選也必須在可比的硬體與執行條件下接受測量。

沿著一個候選,一直走到重訓之後

倉庫工作流從 ImageNet-1k 超網預訓練開始,經過目標任務的 PST 微調和演化搜尋,最後重訓選定子網。它提供了 KITTI、NYU Depth v2 深度估計,COCO 目標檢測,以及 ADE20K 語義分割的任務入口。

第一次實驗,可以選擇一個任務,把這條路徑完整走通。搜尋配置決定“什麼樣的候選值得留下”,重訓則揭示“選中的架構經過學習後究竟能做到什麼”。把兩個階段的表現聯絡起來,恰好能回到 EvoNAS 最初要處理的排名問題。

README 當前仍將所需預訓練超網的下載標為即將提供。開始前需要確認權重是否可用,並讓 Mamba SSM wheel 與文件中的 Python、CUDA 和 PyTorch 環境匹配。

在 EvoX 生態中,EvoNAS 把一個值得追問的研究問題落到了具體任務上:怎樣讓有限的搜尋預算,換來真正有用的比較?沿著程式碼與論文,可以從共享特徵一路追到最終用於部署的模型選擇。

← 返回動態列表返回頂部 ↑