Noise amplifiation of momentum-based optimization algorithms

We study momentum-based first-order optimization algorithms in which the iterations utilize information from the two previous steps and are subject to additive white noise. For strongly convex quadratic problems, we utilize Jury stability criterion to provide a novel geometric characterization of li...

Celý popis

Podrobná bibliografie

Vydáno v:	Proceedings of the American Control Conference s. 849 - 854
Hlavní autoři:	Mohammadi, Hesameddin, Razaviyayn, Meisam, Jovanovic, Mihailo R.
Médium:	Konferenční příspěvek
Jazyk:	angličtina
Vydáno:	American Automatic Control Council 31.05.2023
Témata:	Additive white noise Convergence convergence rate convex optimization First-order methods heavy-ball method Nesterov's accelerated algorithm noise amplification Optimization performance tradeoffs settling time Stability criteria Steady-state
ISSN:	2378-5861
On-line přístup:	Získat plný text
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!