입자 군집 최적화(PSO)의 발전은 본질적으로 끊임없는 “수동 설계”의 역사였습니다. 지난 수십 년 동안 연구자들은 관성 가중치, 학습 전략, 군집 토폴로지, 하위 군집 구조 등의 요소에 대해 수많은 개선 방법을 제안하며 PSO를 둘러싼 방대한 알고리즘 설계 공간을 형성해 왔습니다. 그러나 공간이 커질수록 선택은 어려워집니다. 구체적인 최적화 과제 앞에서 어떤 파라미터를 선택하고, 어떤 학습 메커니즘을 채택하며, 입자 군집을 어떻게 조직할지——이렇게 밀접하게 결합된 설계 결정들은 오늘날까지도 연구자의 전문성과 반복적인 시행착오에 크게 의존합니다. PSO는 점점 풍부해졌지만, “올바르게 선택하기”는 점점 어려워졌습니다. 그렇다면 “PSO를 선택한다”는 행위 자체도 알고리즘 진화에 맡겨보면 어떨까요?
EvoX 팀이 제안한 AutoPSO는 PSO의 파라미터 구성, 학습 메커니즘, 군집 구조를 검색 가능한 진화 공간으로 통일적으로 인코딩하고, 메타 진화(meta-evolution)를 통해 특정 대상 문제에 맞춤화된 최적의 PSO 변종을 자동으로 탐색합니다. 이 프레임워크는 문제의 해를 최적화할 뿐만 아니라, 한 단계 높은 차원에서 “어떤 PSO로 풀 것인가”를 자동으로 최적화합니다.
메타 진화의 대규모 탐색은 대량의 병렬 평가에 의존하는데, EvoX의 텐서화 연산, 배치 처리, GPU 병렬 성능이 바로 이 병목을 해결합니다——수천 개의 후보 변종이 동시에 진화할 수 있어, CPU에서는 실행 불가능했던 메타 수준의 탐색이 현실이 됩니다.
GPU 컴퓨팅 파워 × 메타 진화는 PSO를 “수동 설계”에서 “자동 생성”으로 나아가게 합니다.
PSO에 부족한 것은 방법이 아니라, 이를 자동으로 조합하는 능력
지난 수십 년간 PSO 연구는 풍부한 메커니즘 선택지를 축적해 왔습니다. 파라미터가 반복에 따라 어떻게 변하는가, 입자가 누구에게서 배우는가, 군집을 하위 군집으로 나눌 것인가, 각 하위 군집이 어떤 갱신 전략을 채택하는가 등입니다.
문제는 메커니즘이 부족하다는 것이 아니라, 이들 대부분이 특정 문제 지향적인 독립적인 알고리즘으로 존재한다는 점입니다. 새로운 과제에 직면하면 연구자는 여전히 수많은 메커니즘 중에서 수동으로 선택하고, 조합하고, 검증한 뒤 다시 조정해야 합니다.
AutoPSO의 접근 방식은 이러한 축적을 버리는 것이 아니라, 재사용 가능한 컴포넌트 공간으로 재구성하는 것입니다. AutoPSO는 PSO의 핵심 설계를 여러 모듈로 분해합니다:
-
파라미터를 어떻게 진화시킬 것인가;
-
입자가 어떤 예시로부터 배울 것인가;
-
군집을 어떻게 하위 군집으로 나눌 것인가;
-
각 하위 군집이 어떤 갱신 전략을 채택할 것인가.
기존 접근법에서 이러한 선택은 주로 인간이 수행했습니다. AutoPSO에서는 이것들이 알고리즘이 탐색할 수 있는 대상이 됩니다. 다시 말해, AutoPSO는 “수동으로 PSO를 다시 만드는” 것이 아니라, 현재 문제를 풀기 전에 적합한 PSO 변종을 자동으로 구성할 수 있는 메타 프레임워크(meta-framework)를 구축하는 것입니다.
그림 1: AutoPSO는 PSO의 핵심 설계 요소를 조합 가능하고 검색 가능한 모듈로 조직화합니다.
연구자가 수행해 온 “외부 수준 최적화”도 알고리즘 자체에 맡기기
기존의 최적화 연구는 늘 이중 수준 구조를 지녀 왔습니다. 내부 수준에서는 PSO로 대상 문제를 풉니다——함수 최적화, 공학 설계, 제어 정책 등입니다. 외부 수준에는 덜 명시적인 또 하나의 최적화가 존재합니다. 연구자가 알고리즘 자체를 최적화하는 것입니다.
어떤 갱신 규칙을 선택할지, 파라미터를 어떻게 설정할지, 어떤 학습 예시를 채택할지, 하위 군집 메커니즘을 도입할지, 어떤 메커니즘을 조합할 수 있을지, 어떤 조합이 불안정한지——이러한 결정들은 그동안 주로 연구자의 경험에 바탕해 이루어졌고, 시행착오 실험을 통해 다듬어졌습니다.
AutoPSO가 가져온 핵심적 전환은, 이처럼 연구자가 수동으로 수행해 온 외부 수준의 과정을 알고리즘에 위임하는 것입니다. 외부 수준의 입자는 더 이상 대상 문제의 후보 해를 나타내는 것이 아니라, 파라미터, 학습 예시, 하위 군집 분할, 갱신 전략을 인코딩한 후보 PSO 설계를 나타냅니다. 이 구성을 부여받은 내부 수준의 PSO가 대상 문제를 풀고, 그 성능을 외부 수준에 피드백하면, 외부 수준은 이를 바탕으로 더 나은 알고리즘 구성을 계속 탐색합니다.
AutoPSO는 문제의 해를 최적화할 뿐만 아니라, “이 문제를 푸는 데 어떤 PSO를 사용할지”도 최적화합니다.
과거 연구자의 경험에 의존하던 알고리즘 설계 과정을, 자동으로 검색·평가·반복할 수 있는 시스템 내부의 진화 과정으로 변환한 것입니다.
그림 2: 외부 수준은 알고리즘 구성을 탐색하고, 내부 수준은 해당 구성을 사용해 대상 문제를 풉니다.
EvoX와 GPU, 자동 알고리즘 설계를 실제로 가능하게 하다
알고리즘 구조의 자동 탐색 프레임워크를 제안하는 것 자체는 그리 어렵지 않습니다. 진짜 난제는 계산 비용에 있습니다. 후보 PSO 설계를 평가하려면 대상 문제의 완전한 풀이 과정을 실행해야 하며, 후보 설계가 많을수록 내부 수준의 계산 부담이 커집니다.
기존의 CPU 기반 직렬 환경에서는 이런 비용을 감당하기 어렵습니다. 그러나 이런 유형의 계산은 본질적으로 병렬화에 적합합니다. 후보 알고리즘을 동시에 평가할 수 있고, 각 후보 알고리즘 내부의 입자 갱신도 배치로 처리할 수 있습니다. AutoPSO는 EvoX를 활용해 진화 계산의 개체군 구조를 GPU의 배치 처리 능력에 매핑함으로써, 외부 수준의 구성 탐색과 내부 수준의 문제 풀이가 동시에 진행되도록 합니다.
여기서 GPU 가속은 단일 실행 시간을 단축하는 것만이 아닙니다. 더 중요한 것은 주어진 시간 내에 비교할 수 있는 후보 설계의 수를 크게 늘린다는 점입니다. 메타 진화는 본질적으로 알고리즘 공간에 대한 탐색이며, 탐색의 품질은 얼마나 많은 후보 PSO 설계를 평가했는가에 직접적으로 달려 있습니다. 평가가 충분할수록 현재 문제에 적합한 구성을 찾을 가능성이 높아집니다.
EvoX의 가치는 정확히 이 능력을 제공하는 데 있습니다. 내부 수준의 입자 갱신과 적합도 평가, 그리고 외부 수준의 후보 알고리즘 비교를 모두 GPU상의 텐서 연산으로 조직화하여, 수천 개의 후보 설계가 매 반복마다 동기적으로 진행되도록 합니다. 다시 말해, EvoX는 메타 진화를 “느린 시행착오” 과정에서 “대규모 병렬 실험”으로 변환합니다——이것이 바로 AutoPSO가 성립하는 계산 기반입니다.
더 빠를 뿐만 아니라, “탐색을 더 잘 활용”하기도
AutoPSO가 보여주고자 하는 것은 단순히 GPU에서 빠르게 동작한다는 것이 아닙니다. PSO의 설계 과정이 자동화되면, 알고리즘이 현재 문제에 더 적합한 탐색 전략을 실제로 발견할 수 있는가 하는 것입니다.
CEC2022 수치 최적화 벤치마크에서 EvoX 팀은 AutoPSO를 원본 PSO, CSO, CLPSO, FIPS, 그리고 사회 학습 PSO의 여러 변종과 비교했습니다. 동일한 실행 시간 예산에서 고정 구조의 많은 PSO 변종들은 목적 함수 값이 초기에 빠르게 하강한 뒤 조기에 정체되는 경향을 보였습니다. 반면 AutoPSO는 실행 중에 내부 수준 PSO의 구성을 지속적으로 조정하여, 여러 함수에서 더 안정적인 개선 추세를 유지했습니다.
연구팀은 동일한 함수 평가 횟수 조건에서도 비교를 수행했으며, AutoPSO는 여전히 우수한 성능을 달성했습니다. 이는 그 장점이 더 많은 계산 자원의 소모가 아니라, 탐색 과정을 더 효과적으로 조직하는 데서 온다는 것을 보여줍니다.
그림 3: CEC2022 수치 최적화 문제에 대한 실험 결과.
연구팀은 나아가 AutoPSO를 신경 진화 기반 로봇 제어 과제에 적용했습니다. 수치 함수 최적화에 비해 이런 과제는 실제 응용에 훨씬 가깝습니다. 고차원 정책 파라미터, 큰 피드백 잡음, 불규칙한 목적 함수 지형, 그리고 항상 이용 가능한 것은 아닌 그래디언트 정보가 포함됩니다.
여러 Brax 로봇 제어 환경에서 AutoPSO는 더 빠른 보상 향상과 더 나은 최종 성능을 달성했습니다. 이는 AutoPSO가 특정 함수 클래스에 맞춘 휴리스틱의 집합이 아니라, 실용적이고 이식 가능한 자동 알고리즘 구축 접근법임을 시사합니다.
그림 4: Brax 로봇 제어 문제에 대한 실험 결과.
EvoX의 가치가 가장 직접적으로 드러나는 것은 확장성 실험입니다. AutoPSO의 이중 수준 구조는 자연스럽게 더 큰 개체군 크기를 수반합니다. 외부 수준에는 많은 후보 알고리즘이 있고, 내부 수준의 각 후보 알고리즘마다 자체 입자 군집이 있습니다. 기존 직렬 방식으로는 필요한 계산 시간이 순식간에 감당할 수 없는 수준이 될 것입니다.
그러나 GPU에서는 총 개체군 크기를 100배 확대해도 실행 시간은 약 3배만 증가합니다. 8192차원 테스트에서도 AutoPSO는 수용 가능한 시간 오버헤드를 유지하며, CPU 기반 실행 대비 자릿수급의 가속을 달성했습니다.
그림 5: 개체군 크기 확장이 실행 시간에 미치는 영향.
컴퓨팅 파워도, 역사적 지식도 낭비하지 않기
AutoPSO는 막강한 컴퓨팅 파워로 알고리즘 연구를 대체하는 것이 아니라, 장기간 축적된 연구 성과를 운용 가능한 설계 자산으로 변환합니다. 과거 여러 PSO 변종에 흩어져 있던 효과적인 메커니즘은 재사용 가능한 컴포넌트로 추상화되고, 과거 인간의 경험에 의존하던 조합 결정은 메타 진화에 위임되어 구체적인 과제에서 검증됩니다.
역사적 연구는 탐색 공간을 제공하고, 자동 최적화는 조합 탐색을 담당하며, EvoX와 GPU 병렬성은 대규모 평가 능력을 공급합니다. 이 세 요소는 어느 하나도 빠뜨릴 수 없습니다. 역사적 지식이 없으면 탐색에는 유망한 후보가 부족하고, 자동 최적화가 없으면 지식을 과제에 맞게 재조직하기 어려우며, 병렬 계산이 없으면 탐색 규모를 유지할 수 없습니다.
AutoPSO는 연구자를 반복적인 파라미터 조정과 시행착오에서 해방시켜, 더 가치 있는 작업——컴포넌트 정의, 탐색 공간 설계, 더 신뢰할 수 있는 평가 파이프라인 구축——으로 나아가게 합니다.
알고리즘을 수정하는 것에서, 알고리즘을 생성하는 시스템을 구축하는 것으로
AutoPSO의 의미는 더 강력한 PSO 변종을 얻는 것에 그치지 않습니다. 병렬 계산 시대의 진화 알고리즘에 대한 새로운 패러다임을 보여줍니다:
-
과거에는 우리가 “더 나은 알고리즘을 어떻게 설계할까”를 연구했다면;
-
이제는 “알고리즘을 자동으로 생성·선택·개선할 수 있는 시스템을 어떻게 구축할까”를 연구합니다.
GPU 기반의 대규모 후보 평가가 연구의 표준으로 자리 잡아 가면, 진화 계산의 경계도 그에 따라 반드시 변화할 것입니다. 병렬 계산 하드웨어는 더 이상 알고리즘 실행을 지탱하는 플랫폼일 뿐만 아니라, 알고리즘 설계 방식을 재편하는 데 참여하기 시작했습니다.
AutoPSO × EvoX——진화 계산이 수동의 시대에서 자동의 시대로 나아가도록 힘을 실어줍니다.
오픈소스 코드 / 커뮤니티 자료
논문:
https://arxiv.org/abs/2608.07539
GitHub:
https://github.com/EMI-Group/autopso
상위 프로젝트(EvoX):
https://github.com/EMI-Group/evox
QQ 그룹:
297969717
EvoX QQ 커뮤니티 그룹 QR 코드.