PREMA: A Predictive Multi-Task Scheduling Algorithm For Preemptible Neural Processing Units

To amortize cost, cloud vendors providing DNN acceleration as a service to end-users employ consolidation and virtualization to share the underlying resources among multiple DNN service requests. This paper makes a case for a "preemptible" neural processing unit (NPU) and a "predictiv...

Celý popis

Podrobná bibliografia

Vydané v:	Proceedings - International Symposium on High-Performance Computer Architecture s. 220 - 233
Hlavní autori:	Choi, Yujeong, Rhu, Minsoo
Médium:	Konferenčný príspevok..
Jazyk:	English
Vydavateľské údaje:	IEEE 01.02.2020
Predmet:	Computer architecture Google Graphics processing units Random access memory Servers Task analysis Throughput
ISSN:	2378-203X
On-line prístup:	Získať plný text
Tagy:	Pridať tag Žiadne tagy, Buďte prvý, kto otaguje tento záznam!