EVO X

EvoXによる効率的なHPO

EvoXによる効率的なHPO

この章では、EvoXをハイパーパラメータ最適化（HPO）に使用する方法を探ります。

HPOは多くの機械学習タスクで重要な役割を果たしますが、処理に数日かかることもある高い計算コストやデプロイメントの課題のため、しばしば見過ごされています。

EvoXを使用すると、HPOProblemWrapperを使用してHPOデプロイメントを簡素化し、vmapメソッドとGPUアクセラレーションを活用して効率的な計算を実現できます。

ワークフローから問題への変換

HPO structure

EvoXでHPOをデプロイする鍵は、HPOProblemWrapperを使用してworkflowsをproblemsに変換することです。変換後、workflowsを標準的なproblemsとして扱うことができます。「HPO問題」への入力はハイパーパラメータで構成され、出力は評価メトリクスです。

主要コンポーネント — HPOProblemWrapper

HPOProblemWrapperがハイパーパラメータを認識できるようにするには、Parameterを使用してラップする必要があります。この簡単なステップにより、ハイパーパラメータが自動的に識別されます。

class ExampleAlgorithm(Algorithm):
    def __init__(self,...):
        self.omega = Parameter([1.0, 2.0]) # wrap the hyper-parameters with `Parameter`
        self.beta = Parameter(0.1)
        pass

    def step(self):
        # run algorithm step depending on the value of self.omega and self.beta
        pass

HPOFitnessMonitorの活用

多目的問題の「IGD」と「HV」メトリクスの計算、および単目的問題の最小値をサポートするHPOFitnessMonitorを提供しています。

HPOFitnessMonitorはHPO問題用に設計された基本的なモニターであることに注意してください。カスタムアルゴリズムによるHPOのデプロイで概説されているアプローチを使用して、独自のカスタマイズされたモニターを柔軟に作成することもできます。

簡単な例

ここでは、EvoXをHPOに使用する簡単な例を示します。具体的には、PSOアルゴリズムを使用して、sphere問題を解くためのPSOアルゴリズムのハイパーパラメータを最適化します。

この章ではHPOデプロイメントの簡単な概要のみを提供しています。より詳細なガイドについては、カスタムアルゴリズムによるHPOのデプロイを参照してください。

まず、必要なモジュールをインポートしましょう。

import torch

from evox.algorithms.pso_variants.pso import PSO
from evox.core import Problem
from evox.problems.hpo_wrapper import HPOFitnessMonitor, HPOProblemWrapper
from evox.workflows import EvalMonitor, StdWorkflow

次に、シンプルなSphere問題を定義します。

class Sphere(Problem):
    def __init__(self):
        super().__init__()

    def evaluate(self, x: torch.Tensor):
        return (x * x).sum(-1)

次に、StdWorkflowを使用してproblem、algorithm、monitorをラップします。そしてHPOProblemWrapperを使用してStdWorkflowをHPO問題に変換します。

# the inner loop is a PSO algorithm with a population size of 50
torch.set_default_device("cuda" if torch.cuda.is_available() else "cpu")
inner_algo = PSO(50, -10 * torch.ones(10), 10 * torch.ones(10))
inner_prob = Sphere()
inner_monitor = HPOFitnessMonitor()
inner_workflow = StdWorkflow(inner_algo, inner_prob, monitor=inner_monitor)
# Transform the inner workflow to an HPO problem
hpo_prob = HPOProblemWrapper(iterations=30, num_instances=128, workflow=inner_workflow, copy_init_state=True)

HPOProblemWrapperは4つの引数を取ります：

  1. iterations: 最適化プロセスで実行される反復回数。
  2. num_instances: 最適化プロセスで並列に実行されるインスタンス数。
  3. workflow: 最適化プロセスで使用されるワークフロー。
  4. copy_init_state: 各評価のためにワークフローの初期状態をコピーするかどうか。デフォルトはTrueです。ワークフローに初期状態のテンソルをインプレースで変更する操作が含まれている場合は、Trueに設定する必要があります。そうでない場合は、メモリを節約するためにFalseに設定できます。

HPOProblemWrapperが定義したハイパーパラメータを正しく認識するか確認できます。5つのインスタンスに対してハイパーパラメータを変更していないため、すべてのインスタンスで同一であるはずです。

params = hpo_prob.get_init_params()
print("init params:\n", params)

カスタムのハイパーパラメータ値のセットを定義することもできます。ハイパーパラメータセットの数がHPOProblemWrapperのインスタンス数と一致することが重要です。また、カスタムハイパーパラメータはParameterでラップされた値を持つ辞書として提供する必要があります。

params = hpo_prob.get_init_params()
# since we have 128 instances, we need to pass 128 sets of hyperparameters
params["algorithm.w"] = torch.nn.Parameter(torch.rand(128, 1), requires_grad=False)
params["algorithm.phi_p"] = torch.nn.Parameter(torch.rand(128, 1), requires_grad=False)
params["algorithm.phi_g"] = torch.nn.Parameter(torch.rand(128, 1), requires_grad=False)
result = hpo_prob.evaluate(params)
print("The result of the first 3 parameter sets:\n", result[:3])

次に、PSOアルゴリズムを使用してPSOアルゴリズムのハイパーパラメータを最適化します。

PSOの集団サイズがインスタンス数と一致することが重要です。そうでないと、予期しないエラーが発生する可能性があります。

また、HPOProblemWrapperは辞書形式の入力を必要とするため、外部ワークフローで解を変換する必要があります。

class solution_transform(torch.nn.Module):
    def forward(self, x: torch.Tensor):
        return {
            "algorithm.w": x[:, 0],
            "algorithm.phi_p": x[:, 1],
            "algorithm.phi_g": x[:, 2],
        }


outer_algo = PSO(128, 0 * torch.ones(3), 3 * torch.ones(3))  # search each hyperparameter in the range [0, 3]
monitor = EvalMonitor(full_sol_history=False)
outer_workflow = StdWorkflow(outer_algo, hpo_prob, monitor=monitor, solution_transform=solution_transform())
outer_workflow.init_step()
compiled_step = torch.compile(outer_workflow.step)
for _ in range(100):
    compiled_step()
monitor = outer_workflow.get_submodule("monitor")
print("params:\n", monitor.topk_solutions, "\n")
print("result:\n", monitor.topk_fitness)
monitor.plot()
← ドキュメントに戻る