Fast curvature matrix-vector products for second-order gradient descent

We propose a generic method for iteratively approximating various second-order gradient steps - Newton, Gauss-Newton, Levenberg-Marquardt, and natural gradient - in linear time per iteration, using special curvature matrix-vector products that can be computed in O(n). Two recent acceleration techniq...

Celý popis

Podrobná bibliografie

Vydáno v:	Neural computation Ročník 14; číslo 7; s. 1723
Hlavní autor:	Schraudolph, Nicol N
Médium:	Journal Article
Jazyk:	angličtina
Vydáno:	United States 01.07.2002
Témata:	Acceleration Algorithms Neural Networks (Computer) Stochastic Processes
ISSN:	0899-7667
On-line přístup:	Zjistit podrobnosti o přístupu
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!