PREMA: A Predictive Multi-Task Scheduling Algorithm For Preemptible Neural Processing Units

To amortize cost, cloud vendors providing DNN acceleration as a service to end-users employ consolidation and virtualization to share the underlying resources among multiple DNN service requests. This paper makes a case for a "preemptible" neural processing unit (NPU) and a "predictiv...

Celý popis

Podrobná bibliografie

Vydáno v:	Proceedings - International Symposium on High-Performance Computer Architecture s. 220 - 233
Hlavní autoři:	Choi, Yujeong, Rhu, Minsoo
Médium:	Konferenční příspěvek
Jazyk:	angličtina
Vydáno:	IEEE 01.02.2020
Témata:	Computer architecture Google Graphics processing units Random access memory Servers Task analysis Throughput
ISSN:	2378-203X
On-line přístup:	Získat plný text
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!