EVO X
Open menu

EvoXによる効率的なHPO

EvoXによる効率的なHPO

本章では、EvoXを使用してハイパーパラメータ最適化（HPO）を行う方法について解説します。

HPOは多くの機械学習タスクにおいて重要な役割を果たしますが、計算コストが高く、処理に数日かかることもあるため、またデプロイに伴う課題もあるため、しばしば見過ごされがちです。

EvoXを使用すると、HPOProblemWrapperを用いてHPOのデプロイを簡素化でき、vmapメソッドとGPUアクセラレーションを活用して効率的な計算を実現できます。

ワークフローを問題（Problem）へ変換する

HPOの構造

EvoXでHPOをデプロイする鍵は、HPOProblemWrapperを使用してworkflowsをproblemsに変換することです。変換後は、workflowsを標準的なproblemsとして扱うことができます。「HPO問題」への入力はハイパーパラメータで構成され、出力は評価指標となります。

主要コンポーネント — HPOProblemWrapper

HPOProblemWrapperがハイパーパラメータを認識できるようにするには、それらをParameterでラップする必要があります。この簡単な手順により、ハイパーパラメータが自動的に識別されます。

class ExampleAlgorithm(Algorithm):
    def __init__(self,...): 
        self.omega = Parameter([1.0, 2.0]) # wrap the hyper-parameters with `Parameter`
        self.beta = Parameter(0.1)
        pass

    def step(self):
        # run algorithm step depending on the value of self.omega and self.beta
        pass

HPOFitnessMonitorの活用

多目的問題における「IGD」や「HV」指標の計算、および単目的問題における最小値の計算をサポートするHPOFitnessMonitorを提供しています。

HPOFitnessMonitorはHPO問題用に設計された基本的なモニターであることに注意してください。カスタムアルゴリズムによるHPOのデプロイで概説されているアプローチを使用して、独自のカスタムモニターを柔軟に作成することもできます。

シンプルな例

ここでは、EvoXをHPOに使用する簡単な例を示します。具体的には、Sphere問題を解くためのPSOアルゴリズムのハイパーパラメータを最適化するために、PSOアルゴリズムを使用します。

本章では、HPOデプロイの概要のみを説明することに注意してください。より詳細なガイドについては、カスタムアルゴリズムによるHPOのデプロイを参照してください。

まず、必要なモジュールをインポートしましょう。

import torch

from evox.algorithms.pso_variants.pso import PSO
from evox.core import Problem
from evox.problems.hpo_wrapper import HPOFitnessMonitor, HPOProblemWrapper
from evox.workflows import EvalMonitor, StdWorkflow

次に、単純なSphere問題を定義します。

class Sphere(Problem):
    def __init__(self):
        super().__init__()

    def evaluate(self, x: torch.Tensor):
        return (x * x).sum(-1)

次に、StdWorkflowを使用してproblem、algorithm、およびmonitorをラップします。その後、HPOProblemWrapperを使用してStdWorkflowをHPO問題に変換します。

# the inner loop is a PSO algorithm with a population size of 50
torch.set_default_device("cuda" if torch.cuda.is_available() else "cpu")
inner_algo = PSO(50, -10 * torch.ones(10), 10 * torch.ones(10))
inner_prob = Sphere()
inner_monitor = HPOFitnessMonitor()
inner_workflow = StdWorkflow(inner_algo, inner_prob, monitor=inner_monitor)
# Transform the inner workflow to an HPO problem
hpo_prob = HPOProblemWrapper(iterations=30, num_instances=128, workflow=inner_workflow, copy_init_state=True)

HPOProblemWrapperは4つの引数を取ります：

  1. iterations: 最適化プロセスで実行される反復回数。
  2. num_instances: 最適化プロセスで並列実行されるインスタンス数。
  3. workflow: 最適化プロセスで使用されるワークフロー。
  4. copy_init_state: 各評価のためにワークフローの初期状態をコピーするかどうか。デフォルトはTrueです。ワークフローに初期状態のテンソルをインプレース（IN-PLACE）で変更する操作が含まれている場合は、これをTrueに設定する必要があります。そうでない場合は、メモリを節約するためにFalseに設定できます。

HPOProblemWrapperが定義したハイパーパラメータを正しく認識しているかどうかを確認できます。5つのインスタンス間でハイパーパラメータに変更は加えられていないため、すべてのインスタンスで同一であるはずです。

params = hpo_prob.get_init_params()
print("init params:\n", params)

カスタムのハイパーパラメータ値セットを定義することもできます。ハイパーパラメータセットの数がHPOProblemWrapperのインスタンス数と一致していることを確認することが重要です。さらに、カスタムハイパーパラメータは、値がParameterを使用してラップされた辞書として提供する必要があります。

params = hpo_prob.get_init_params()
# since we have 128 instances, we need to pass 128 sets of hyperparameters
params["algorithm.w"] = torch.nn.Parameter(torch.rand(128, 1), requires_grad=False)
params["algorithm.phi_p"] = torch.nn.Parameter(torch.rand(128, 1), requires_grad=False)
params["algorithm.phi_g"] = torch.nn.Parameter(torch.rand(128, 1), requires_grad=False)
result = hpo_prob.evaluate(params)
print("The result of the first 3 parameter sets:\n", result[:3])

これで、PSOアルゴリズムを使用して、PSOアルゴリズムのハイパーパラメータを最適化します。

PSOの個体群サイズ（population size）がインスタンス数と一致していることを確認することが重要です。そうでない場合、予期しないエラーが発生する可能性があります。

さらに、HPOProblemWrapperは入力が辞書形式であることを要求するため、外部ワークフローでソリューションを変換する必要があります。

class solution_transform(torch.nn.Module):
    def forward(self, x: torch.Tensor):
        return {
            "algorithm.w": x[:, 0],
            "algorithm.phi_p": x[:, 1],
            "algorithm.phi_g": x[:, 2],
        }


outer_algo = PSO(128, 0 * torch.ones(3), 3 * torch.ones(3))  # search each hyperparameter in the range [0, 3]
monitor = EvalMonitor(full_sol_history=False)
outer_workflow = StdWorkflow(outer_algo, hpo_prob, monitor=monitor, solution_transform=solution_transform())
outer_workflow.init_step()
compiled_step = torch.compile(outer_workflow.step)
for _ in range(100):
    compiled_step()
monitor = outer_workflow.get_submodule("monitor")
print("params:\n", monitor.topk_solutions, "\n")
print("result:\n", monitor.topk_fitness)
monitor.plot()
← ドキュメントに戻る