Le développement de l’optimisation par essaim de particules (PSO) a, en essence, été une histoire de « conception manuelle » continue. Au cours des dernières décennies, les chercheurs ont proposé une vaste gamme d’améliorations portant sur les poids d’inertie, les stratégies d’apprentissage, les topologies d’essaim, les structures de sous-populations et d’autres composantes, formant progressivement un vaste espace de conception algorithmique autour du PSO. Cependant, plus l’espace est grand, plus le choix est difficile. Face à une tâche d’optimisation spécifique, quels paramètres sélectionner, quels mécanismes d’apprentissage adopter, comment organiser l’essaim de particules — ces décisions de conception fortement couplées restent, à ce jour, largement dépendantes de l’expertise des chercheurs et d’essais répétés. Le PSO est devenu de plus en plus riche, mais il est aussi devenu de plus en plus difficile de « bien choisir ». Et si l’acte même de « choisir un PSO » était lui aussi délégué à l’évolution algorithmique ?
Le framework AutoPSO, proposé par l’équipe EvoX, encode de manière uniforme la configuration des paramètres, les mécanismes d’apprentissage et la structure de l’essaim du PSO dans un espace évolutionnaire interrogeable, et recherche automatiquement, via la méta-évolution, la variante de PSO optimale adaptée à un problème cible donné. Ce framework optimise non seulement la solution du problème, mais aussi, à un niveau supérieur, « quel PSO utiliser pour le résoudre ».
La recherche à grande échelle en méta-évolution repose sur des évaluations massivement parallèles, et le calcul tensorisé, le traitement par lots et le parallélisme GPU d’EvoX résolvent précisément cette difficulté — des milliers de variantes candidates peuvent évoluer simultanément, rendant praticables des recherches au niveau méta jusque-là infaisables sur CPU.
Puissance de calcul GPU × méta-évolution : le PSO passe de la « conception manuelle » à la « génération automatique ».
Le PSO ne manque pas de méthodes ; il manque de la capacité à les combiner automatiquement
Au cours des dernières décennies, la recherche sur le PSO a accumulé un riche ensemble d’options mécaniques : comment les paramètres évoluent au fil des itérations, de quels individus les particules apprennent, si l’essaim est divisé en sous-groupes, et quelles stratégies de mise à jour les différents sous-groupes adoptent.
Le problème n’est pas un manque de mécanismes, mais le fait que la plupart d’entre eux existent sous forme d’algorithmes autonomes spécifiques à un problème. Face à une nouvelle tâche, les chercheurs doivent encore sélectionner, combiner et vérifier manuellement parmi un large ensemble de mécanismes, puis les réajuster.
La philosophie d’AutoPSO n’est pas de rejeter ces connaissances accumulées, mais de les réorganiser en un espace de composants réutilisables. Elle décompose les aspects clés de la conception du PSO en plusieurs modules :
-
comment les paramètres évoluent ;
-
de quels exemples les particules apprennent ;
-
comment l’essaim est partitionné en sous-groupes ;
-
quelles stratégies de mise à jour sont employées par les différents sous-groupes.
Dans les approches traditionnelles, ces choix sont principalement faits par l’humain ; dans AutoPSO, ils deviennent des objets interrogeables par l’algorithme. Autrement dit, AutoPSO ne consiste pas à « réinventer manuellement un PSO », mais à construire un méta-framework qui, avant de résoudre le problème courant, peut lui configurer automatiquement une variante de PSO adaptée.
Figure 1 : AutoPSO organise les éléments de conception clés du PSO en modules composables et interrogeables.
Déléguer à l’algorithme lui-même l’optimisation de niveau externe, traditionnellement effectuée par les chercheurs
La recherche en optimification conventionnelle a toujours possédé une structure à deux niveaux. Au niveau interne, le PSO est utilisé pour résoudre le problème cible — qu’il s’agisse d’optimisation de fonctions, de conception d’ingénierie ou de politique de contrôle. Au niveau externe existe une optimisation moins explicite : les chercheurs optimisent l’algorithme lui-même.
Quelles règles de mise à jour choisir, comment régler les paramètres, quels exemples d’apprentissage adopter, introduire ou non des mécanismes de sous-groupes, quels mécanismes peuvent être combinés, quelles combinaisons sont instables — ces décisions ont généralement été prises par les chercheurs sur la base de leur expérience, puis affinées par essais et erreurs.
Le changement clé apporté par AutoPSO est de déléguer à l’algorithme ce processus de niveau externe, auparavant réalisé manuellement par les chercheurs. Une particule de niveau externe ne représente plus une solution candidate au problème cible, mais une conception candidate de PSO, encodant paramètres, exemples d’apprentissage, partitionnement en sous-groupes et stratégies de mise à jour. Le PSO de niveau interne, doté de ces configurations, résout le problème cible et renvoie ses performances en retour au niveau externe, qui poursuit alors la recherche de meilleures configurations algorithmiques.
AutoPSO optimise non seulement la solution du problème, mais aussi « quel PSO utiliser pour le résoudre ».
Il transforme le processus de conception d’algorithmes, qui reposait autrefois sur l’expertise des chercheurs, en un processus évolutionnaire interne au système, pouvant être automatiquement exploré, évalué et itéré.
Figure 2 : Le niveau externe recherche des configurations d’algorithme, tandis que le niveau interne emploie la configuration choisie pour résoudre le problème cible.
EvoX et le GPU : rendre la conception automatique d’algorithmes réellement réalisable
Proposer un framework de recherche automatique de structures d’algorithmes n’est pas particulièrement difficile ; le véritable défi réside dans le coût de calcul. Évaluer une conception candidate de PSO exige de l’exécuter sur un processus complet de résolution du problème cible. Plus il y a de conceptions candidates, plus la charge de calcul du niveau interne est grande.
Dans les environnements série traditionnels basés sur CPU, de tels coûts sont prohibitifs. Cependant, ce type de calcul est intrinsèquement parallélisable : les algorithmes candidats peuvent être évalués simultanément, et au sein de chaque algorithme candidat, les mises à jour des particules peuvent également être traitées par lots. AutoPSO s’appuie sur EvoX pour projeter la structure des populations du calcul évolutionnaire sur la capacité de traitement par lots des GPU, permettant à la recherche de configurations de niveau externe et à la résolution du problème de niveau interne de progresser simultanément.
Ici, l’accélération GPU ne se limite pas à raccourcir le temps d’une exécution unique ; plus important encore, elle augmente considérablement le nombre de conceptions candidates pouvant être comparées dans un délai donné. La méta-évolution est essentiellement une recherche dans l’espace des algorithmes, et la qualité de cette recherche dépend directement du nombre de conceptions candidates de PSO ayant été évaluées. Plus l’évaluation est approfondie, plus la probabilité de trouver une configuration bien adaptée au problème courant est élevée.
La valeur d’EvoX réside précisément dans cette capacité : il organise les mises à jour des particules de niveau interne et les évaluations de fitness, ainsi que la comparaison des algorithmes candidats de niveau externe, en opérations tensorielles sur GPU, permettant à des milliers de conceptions candidates d’avancer simultanément à chaque itération. Autrement dit, EvoX fait passer la méta-évolution d’un processus d’« essais et erreurs lent » à une « expérimentation parallèle à grande échelle » — et c’est précisément sur ce fondement computationnel qu’AutoPSO repose.
Non seulement plus rapide, mais aussi plus apte à « utiliser la recherche »
Ce qu’AutoPSO cherche à démontrer n’est pas simplement qu’il s’exécute rapidement sur GPU, mais plutôt qu’une fois le processus de conception du PSO automatisé, l’algorithme peut réellement découvrir une stratégie de recherche mieux adaptée au problème courant.
Sur le benchmark d’optimisation numérique CEC2022, l’équipe EvoX a comparé AutoPSO au PSO d’origine, à CSO, CLPSO, FIPS et à plusieurs variantes de PSO à apprentissage social. Avec le même budget de temps d’exécution, de nombreuses variantes de PSO à structure fixe présentaient une baisse initiale rapide des valeurs objectives mais avaient tendance à stagner prématurément. En revanche, AutoPSO a pu ajuster continuellement la configuration de son PSO de niveau interne pendant l’exécution, maintenant une tendance d’amélioration plus stable sur plusieurs fonctions.
L’équipe a également mené des comparaisons à nombre égal d’évaluations de fonctions, et AutoPSO a encore atteint des performances supérieures. Cela indique que son avantage provient d’une organisation plus efficace du processus de recherche, et non de la simple consommation de davantage de ressources de calcul.
Figure 3 : Résultats expérimentaux sur le benchmark d’optimisation numérique CEC2022.
L’équipe de recherche a ensuite appliqué AutoPSO à des tâches de contrôle robotique fondées sur la neuro-évolution. Comparées à l’optimisation de fonctions numériques, ces tâches sont bien plus proches des applications réelles : elles impliquent des paramètres de politique de haute dimension, un bruit de retour significatif, des paysages objectifs irréguliers et des informations de gradient qui ne sont pas toujours disponibles.
Sur plusieurs environnements de contrôle robotique Brax, AutoPSO a obtenu une amélioration plus rapide des récompenses et de meilleures performances finales. Cela suggère qu’AutoPSO n’est pas un simple ensemble d’heuristiques taillé pour une classe spécifique de fonctions, mais une approche pratique et transférable de construction automatique d’algorithmes.
Figure 4 : Résultats expérimentaux sur les problèmes de contrôle robotique Brax.
La valeur d’EvoX se démontre le plus directement dans les expériences de passage à l’échelle. La structure à deux niveaux d’AutoPSO entraîne naturellement une taille de population plus importante : le niveau externe héberge de nombreux algorithmes candidats, et chaque algorithme candidat du niveau interne possède son propre essaim de particules. En exécution série traditionnelle, le temps de calcul requis deviendrait rapidement prohibitif.
Sur GPU, en revanche, lorsque la taille totale de la population est augmentée d’un facteur 100, le temps d’exécution n’augmente que d’un facteur d’environ 3. Dans des tests à 8192 dimensions, AutoPSO conserve une surcharge temporelle acceptable et atteint une accélération d’un ordre de grandeur par rapport à l’exécution sur CPU.
Figure 5 : Impact du passage à l’échelle de la taille de la population sur le temps d’exécution.
AutoPSO ne gaspille ni la puissance de calcul, ni les connaissances historiques
Plutôt que de remplacer la recherche algorithmique par la puissance de calcul brute, AutoPSO transforme les résultats de recherche longuement accumulés en actifs de conception opérationnels. Les mécanismes efficaces auparavant dispersés dans différentes variantes de PSO sont abstraits en composants réutilisables, tandis que les décisions de combinaison qui reposaient autrefois sur l’expertise humaine sont déléguées à la méta-évolution pour validation sur des tâches spécifiques.
Trois éléments sont indispensables : les connaissances historiques fournissent l’espace de recherche ; l’optimisation automatique prend en charge la recherche combinatoire ; et EvoX, avec le parallélisme GPU, fournit la capacité d’évaluation à grande échelle. Sans connaissances historiques, la recherche manque de candidats prometteurs ; sans optimisation automatique, les connaissances peuvent difficilement être réorganisées pour la tâche à accomplir ; sans calcul parallèle, l’échelle de la recherche ne peut être maintenue.
AutoPSO libère les chercheurs du réglage répétitif des paramètres et des essais et erreurs, en les orientant vers un travail plus précieux : définir des composants, concevoir des espaces de recherche et établir des pipelines d’évaluation plus fiables.
De la modification des algorithmes à la construction de systèmes qui génèrent des algorithmes
L’importance d’AutoPSO va au-delà de l’obtention d’une variante de PSO plus puissante. Il démontre un nouveau paradigme pour les algorithmes évolutionnaires à l’ère du calcul parallèle :
-
Autrefois, nous étudiions « comment concevoir un meilleur algorithme » ;
-
aujourd’hui, nous étudions « comment construire un système capable de générer, sélectionner et améliorer automatiquement des algorithmes ».
À mesure que l’évaluation massive de candidats sur GPU devient progressivement la norme en recherche, les frontières du calcul évolutionnaire sont vouées à changer en conséquence : le matériel de calcul parallèle n’est plus seulement une plateforme qui héberge l’exécution des algorithmes, il commence aussi à participer à la refonte de la manière dont les algorithmes sont conçus.
AutoPSO × EvoX : donner au calcul évolutionnaire les moyens de passer de l’ère manuelle à l’ère automatique.
Code open source / Ressources communautaires
Article :
https://arxiv.org/abs/2608.07539
GitHub :
https://github.com/EMI-Group/autopso
Projet amont (EvoX) :
https://github.com/EMI-Group/evox
Groupe QQ :
297969717
Code QR du groupe communautaire QQ d’EvoX.