An Empirical Study on Adaptive Inference for Pretrained Language Model

Adaptive inference has been proven to improve bidirectional encoder representations from transformers (BERT)'s inference speed with minimal loss of accuracy. However, current work only focuses on the BERT model and lacks exploration of other pretrained language models (PLMs). Therefore, this ar...

Celý popis

Uloženo v:

Podrobná bibliografie
Vydáno v:	IEEE transaction on neural networks and learning systems Ročník 34; číslo 8; s. 4321 - 4331
Hlavní autoři:	Liu, Weijie, Zhao, Xin, Zhao, Zhe, Ju, Qi, Yang, Xuefeng, Lu, Wei
Médium:	Journal Article
Jazyk:	angličtina
Vydáno:	United States IEEE 01.08.2023 The Institute of Electrical and Electronics Engineers, Inc. (IEEE)
Témata:	Acceleration Adaptation models Adaptive inference Benchmarks bidirectional encoder representations from transformers (BERT) Bit error rate Coders Computational modeling distillation FastPLM Inference Inference mechanisms Labels Language Mathematical models pretrained language model (PLM) Task analysis Transformers
ISSN:	2162-237X, 2162-2388, 2162-2388
On-line přístup:	Získat plný text
Tagy:	Přidat tag Žádné tagy, Buďte první, kdo vytvoří štítek k tomuto záznamu!

Buďte první, kdo okomentuje tento záznam!