Fast curvature matrix-vector products for second-order gradient descent

We propose a generic method for iteratively approximating various second-order gradient steps - Newton, Gauss-Newton, Levenberg-Marquardt, and natural gradient - in linear time per iteration, using special curvature matrix-vector products that can be computed in O(n). Two recent acceleration techniq...

Celý popis

Podrobná bibliografia

Vydané v:	Neural computation Ročník 14; číslo 7; s. 1723
Hlavný autor:	Schraudolph, Nicol N
Médium:	Journal Article
Jazyk:	English
Vydavateľské údaje:	United States 01.07.2002
Predmet:	Acceleration Algorithms Neural Networks (Computer) Stochastic Processes
ISSN:	0899-7667
On-line prístup:	Zistit podrobnosti o prístupe
Tagy:	Pridať tag Žiadne tagy, Buďte prvý, kto otaguje tento záznam!