The Backpropagation algorithm for a math student

A Deep Neural Network (DNN) is a composite function of vector-valued functions, and in order to train a DNN, it is necessary to calculate the gradient of the loss function with respect to all parameters. This calculation can be a non-trivial task because the loss function of a DNN is a composition o...

Ausführliche Beschreibung

Bibliographische Detailangaben

Veröffentlicht in:	Proceedings of ... International Joint Conference on Neural Networks S. 01 - 09
Hauptverfasser:	Damadi, Saeed, Moharrer, Golnaz, Cham, Mostafa, Shen, Jinglai
Format:	Tagungsbericht
Sprache:	Englisch
Veröffentlicht:	IEEE 18.06.2023
Schlagworte:	Complexity theory Computer architecture Convolutional neural networks Iterative algorithms Jacobian matrices Stochastic processes Transformers
ISSN:	2161-4407
Online-Zugang:	Volltext
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!