一种基于分布式编码的卷积优化算法

TP338.8; 卷积在统计学、信号处理、图像处理、深度学习等领域有着广泛的应用,且起到了至关重要的作用.在深度神经网络中,使用卷积运算对输入信息进行特征提取的方法是实现神经网络的基础计算单元之一.如何优化卷积的运算速度,提高卷积计算效率一直是亟需探讨的问题.近年来,很多研究指出分布式计算架构可以提高卷积神经网络的计算速度,进而优化深度学习的训练效率,然而由于分布式系统中普遍存在落跑者问题(straggler),该问题可能会拖慢整个系统执行任务的时间,因此该问题也成为了分布式深度学习中一个待解决的问题.文中针对二维卷积计算,结合Winograd算法和分布式编码,提出了一种优化的分布式二维卷积算...

Full description

Saved in:

Bibliographic Details
Published in:	计算机科学 Vol. 48; no. 2; pp. 47 - 54
Main Authors:	苑晨宇, 谢在鹏, 朱晓瑞, 屈志昊, 徐媛媛
Format:	Journal Article
Language:	Chinese
Published:	河海大学计算机与信息学院南京 211100 15.02.2021
Subjects:	分布式编码卷积分布式计算 Winograd
ISSN:	1002-137X
Online Access:	Get full text
Tags:	Add Tag No Tags, Be the first to tag this record!

Description
Summary:	TP338.8; 卷积在统计学、信号处理、图像处理、深度学习等领域有着广泛的应用,且起到了至关重要的作用.在深度神经网络中,使用卷积运算对输入信息进行特征提取的方法是实现神经网络的基础计算单元之一.如何优化卷积的运算速度,提高卷积计算效率一直是亟需探讨的问题.近年来,很多研究指出分布式计算架构可以提高卷积神经网络的计算速度,进而优化深度学习的训练效率,然而由于分布式系统中普遍存在落跑者问题(straggler),该问题可能会拖慢整个系统执行任务的时间,因此该问题也成为了分布式深度学习中一个待解决的问题.文中针对二维卷积计算,结合Winograd算法和分布式编码,提出了一种优化的分布式二维卷积算法.Winograd算法能够有效地加速单次二维卷积计算的速度,分布式编码通过使用一种基于分布式冗余的编码方式能够缓解straggler节点对整个分布式系统计算延迟的影响.因此,提出的分布式二维卷积算法可以在加速二维卷积计算的同时有效缓解分布式系统中的straggler问题,有效提高了分布式卷积的计算效率.
ISSN:	1002-137X
DOI:	10.11896/jsjkx.200800187