Rank-based Linear-Quadratic Surrogate Assisted CMA-ES
Uložené v:
| Názov: | Rank-based Linear-Quadratic Surrogate Assisted CMA-ES |
|---|---|
| Autori: | Mohamed Gharafi, Nikolaus Hansen, Rodolphe Le Riche, Dimo Brockhoff |
| Prispievatelia: | GHARAFI, Mohamed |
| Zdroj: | Proceedings of the Genetic and Evolutionary Computation Conference Companion. :679-682 |
| Informácie o vydavateľovi: | ACM, 2025. |
| Rok vydania: | 2025 |
| Predmety: | Surrogate-assisted optimization, Surrogate models, Invariance, [MATH.MATH-OC] Mathematics [math]/Optimization and Control [math.OC], CMA-ES, [INFO.INFO-LG] Computer Science [cs]/Machine Learning [cs.LG] |
| Popis: | Dans ce poster, nous présentons une variante de CMA-ES assistée par un métamodèle basé sur les rangs. Contrairement aux approches précédentes qui exploitent l'information de rang comme contrainte pour entraîner un classifieur SVM, notre méthode repose sur une régression linéaire-quadratique appliquée aux rangs. Nous étudions empiriquement l'invariance de cette approche. Bien que ce premier algorithme surpasse CMA-ES dans la plupart des cas, il n’atteint pas pleinement les performances de lq-CMA-ES. Pour pallier cette limitation, nous proposons une variante améliorée combinant deux modèles alternatifs : l’un fondé sur les rangs, l’autre sur les valeurs originales de la fonction objectif. Cette nouvelle version renonce à l’invariance stricte, mais gagne en robustesse et atteint des performances comparables, voire supérieures, à celles de lq-CMA-ES sur des problèmes transformés. Ce dernier algorithme montre comment l’intégration simple de nouvelles transformations des rangs peut améliorer toute variante de CMA-ES reposant sur un métamodèle. In this poster, we introduce a rank-based surrogate-assisted variant of CMA-ES. Unlike previous methods that employ rank information as constraints to train an SVM classifier, our approach employs a linear-quadratic regression on the ranks. We investigate the method's invariance empirically. While this first algorithm outperforms CMA-ES with a few exceptions, it falls short to entirely meet the lq-CMA-ES performance levels. To address this, we propose an enhanced variant that handles together two alternative surrogates, one based on the ranks and one based on the original function values. Although this variant sacrifices strict invariance, it gains in robustness and achieves performance comparable to, or even exceeding, lq-CMA-ES on transformed problems. This last algorithm shows how simply incorporating new transformations of rank values could improve any surrogate-based CMA-ES variant. |
| Druh dokumentu: | Article Conference object |
| Popis súboru: | application/pdf |
| DOI: | 10.1145/3712255.3726606 |
| Prístupová URL adresa: | https://hal.science/hal-05035436v1 |
| Prístupové číslo: | edsair.doi.dedup.....0fe06e2f7307aeea02d38899fee37c0e |
| Databáza: | OpenAIRE |
Nájsť tento článok vo Web of Science | Abstrakt: | Dans ce poster, nous présentons une variante de CMA-ES assistée par un métamodèle basé sur les rangs. Contrairement aux approches précédentes qui exploitent l'information de rang comme contrainte pour entraîner un classifieur SVM, notre méthode repose sur une régression linéaire-quadratique appliquée aux rangs. Nous étudions empiriquement l'invariance de cette approche. Bien que ce premier algorithme surpasse CMA-ES dans la plupart des cas, il n’atteint pas pleinement les performances de lq-CMA-ES. Pour pallier cette limitation, nous proposons une variante améliorée combinant deux modèles alternatifs : l’un fondé sur les rangs, l’autre sur les valeurs originales de la fonction objectif. Cette nouvelle version renonce à l’invariance stricte, mais gagne en robustesse et atteint des performances comparables, voire supérieures, à celles de lq-CMA-ES sur des problèmes transformés. Ce dernier algorithme montre comment l’intégration simple de nouvelles transformations des rangs peut améliorer toute variante de CMA-ES reposant sur un métamodèle.<br />In this poster, we introduce a rank-based surrogate-assisted variant of CMA-ES. Unlike previous methods that employ rank information as constraints to train an SVM classifier, our approach employs a linear-quadratic regression on the ranks. We investigate the method's invariance empirically. While this first algorithm outperforms CMA-ES with a few exceptions, it falls short to entirely meet the lq-CMA-ES performance levels. To address this, we propose an enhanced variant that handles together two alternative surrogates, one based on the ranks and one based on the original function values. Although this variant sacrifices strict invariance, it gains in robustness and achieves performance comparable to, or even exceeding, lq-CMA-ES on transformed problems. This last algorithm shows how simply incorporating new transformations of rank values could improve any surrogate-based CMA-ES variant. |
|---|---|
| DOI: | 10.1145/3712255.3726606 |