Communication-efficient ADMM-based distributed algorithms for sparse training

In large-scale distributed machine learning (DML), the synchronization efficiency of the distributed algorithm becomes a critical factor that affects the training time of machine learning models as the computing scale increases. To address this challenge, we propose a novel algorithm called Grouped...

Celý popis

Podrobná bibliografie

Vydáno v:	Neurocomputing (Amsterdam) Ročník 550; s. 126456
Hlavní autoři:	Wang, Guozheng, Lei, Yongmei, Qiu, Yongwen, Lou, Lingfei, Li, Yixin
Médium:	Journal Article
Jazyk:	angličtina
Vydáno:	Elsevier B.V 14.09.2023
Témata:	ADMM Grouped Sparse AllReduce Synchronization algorithm Two-dimensional torus topology Two-dimensional torus topology Synchronization algorithm Grouped Sparse AllReduce ADMM
ISSN:	0925-2312, 1872-8286
On-line přístup:	Získat plný text
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!