The complexity dynamics of grokking

We demonstrate the existence of a complexity phase transition in neural networks by studying the grokking phenomenon, where networks suddenly transition from memorization to generalization long after overfitting their training data. To characterize this phase transition, we introduce a theoretical f...

Celý popis

Podrobná bibliografie

Vydáno v:	Physica. D Ročník 482; s. 134859
Hlavní autoři:	DeMoss, Branton, Sapora, Silvia, Foerster, Jakob, Hawes, Nick, Posner, Ingmar
Médium:	Journal Article
Jazyk:	angličtina
Vydáno:	Elsevier B.V 01.11.2025
Témata:	Algorithmic complexity Grokking Phase transition Algorithmic complexity Grokking Phase transition
ISSN:	0167-2789
On-line přístup:	Získat plný text
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!