強化學習可能尚未學到任何東西就執行失敗,也可能順利結束,卻用紀錄掩蓋了實際測量物件。EvoRL 在 2026 年 11 月 8 日合入 main 的更新處理 JAX 求導和環境相容性,並延續 10 月的裝置放置與種群指標修正。v0.2.0 原始碼標籤 儲存了這個可複查的開發快照。

概念插畫:一致的訓練依賴多個彼此對齊的執行約定。
對 JAX 版本敏感的梯度路徑
11 月 8 日的相容性改動 將 EvoRL 的區域性解決方案擴充套件到 JAX 0.12.0.1。在 JAX 0.12.0 和 0.12.0.1 中,shard_map 內涉及 erf 和 erfc 的導數可能無法透過 VMA 檢查。受影響的 Tanh Normal 分佈路徑對這些版本採用另一種 Normal 對數 CDF 計算方式,其中包含尾部展開。
在連續控制訓練中,這對應明確的環節:策略分佈必須提供可微機率,才能更新參數。環境可能初始化成功,卻在後續梯度計算時失敗。修正按版本限定,其他 JAX 版本保留原路徑。標籤 README 為該快照推薦了經過測試的 JAX 0.11.0 與 CUDA 13 安裝組合。
明確環境和裝置假設
同一提交將依賴限制為 playground>=0.2.0,<1,保留 EvoRL 介面卡使用的 JAX/MJX 介面。環境包升級若破壞這個介面,即使訓練配置未變,底層基礎也已不同。
此前 10 月的工作還透過顯式複製重建捕獲的陣列預設值,讓 JAX 即時執行遵守當前 mesh。關閉觀測歸一化時,ARS 使用普通評估器,避免收集該模式下不應存在的統計量。這些修正使裝置放置和歸一化成為可檢查的執行約定,而非隱藏在初始化中的假設。裝置與 ARS 修正
種群不是單個策略
10 月 28 日的指標修正 區分了集合與單策略結果。pop_episode_returns、pop_episode_lengths 等種群欄位保留種群軸;單策略和中心策略結果則在適當位置使用單數名稱。ERL-EDA 的單個學習器獲得標量訓練指標,學習器集合保持陣列結構。
比較種群方法與單策略基線時,如果對已彙總欄位再次求平均,或把種群向量當作標量,就可能畫出看似合理卻誤導的曲線。複用分析指令碼前,應檢查紀錄邊界的欄位名稱和形狀。名稱遷移需要保留對種群、回合與學習器維度的預期歸約。
恢復研究前先重現小規模執行
標籤原始碼要求 Python 3.12 或更新版本,以及 JAX/jaxlib 0.10.0 或更新版本。發行包名是 evorl-jax,匯入名仍為 evorl。需要指令碼和配置時,檢出原始碼標籤並按安裝說明操作;README 的基礎範例為 python scripts/train.py agent=ppo env=brax/ant。
比較學習曲線前,先用小規模執行檢查梯度執行、裝置放置及指標形狀。預設紀錄包括 Aim,可選記錄器需要各自的 SDK。儲存環境配置、種子和評估預算。EvoRL 介紹 解釋學習與演化的整體設計,這些改進則讓單次實驗背後的假設更容易核驗。