本发明提供了一种基于粒子群算法的分布式深度学习参数更新方法，初始化分布式集群和神经网络参数；利用编码策略对粒子群进行初始化，每个计算节点编码为一颗粒子；计算神经网络******的训练迭代次数；对神经网络进行训练；收集所有计算节点的神经网络参数和每个粒子的适应度值；获取粒子群当前迭代的全局最优值和粒子的局部最优值；计算新的神经网络参数；将新的参数分发至所有计算节点；若当前迭代次数达到******迭代次数，结束对分布式深度学习参数的更新。本发明利用所有计算节点训练的神经网络参数，并对其进行优化，该方法可以很好的兼顾通信开销和收敛性，解决了数据并行分布式训练平台中参数同步周期和通信开销难以权衡的问题。