Falcon: Addressing Stragglers in Heterogeneous Parameter Server Via Multiple Parallelism

The parameter server architecture has shown promising performance advantages when handling deep learning (DL) applications. One crucial issue in this regard is the presence of stragglers, which significantly retards DL training progress. Previous solutions for solving stragglers may not fully exploi...

Celý popis

Uloženo v:

Podrobná bibliografie
Vydáno v:	IEEE transactions on computers Ročník 70; číslo 1; s. 139 - 155
Hlavní autoři:	Zhou, Qihua, Guo, Song, Lu, Haodong, Li, Li, Guo, Minyi, Sun, Yanfei, Wang, Kun
Médium:	Journal Article
Jazyk:	angličtina
Vydáno:	New York IEEE 01.01.2021 The Institute of Electrical and Electronics Engineers, Inc. (IEEE)
Témata:	Algorithms Computation Computational modeling Computer architecture Convergence Design parameters Distributed deep learning Guidelines Heterogeneity heterogeneous environment Inspection Machine learning Parallel processing parameter server Servers straggler Synchronism Task analysis Training
ISSN:	0018-9340, 1557-9956
On-line přístup:	Získat plný text
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!

Buďte první, kdo okomentuje tento záznam!