深度学习应用技术研究 - 毛勇华 桂小林 李前 贺兴时 (计算机应用研究, 2016)
针对深度学习应用技术进行了研究性综述。详细阐述了RBM（受限玻尔兹曼机）逐层预训练后再用BP（反向传播）微调的深度学习贪婪层训练方法，对比分析了BP算法中三种梯度下降的方式，建议在线学习系统采用随机梯度下降，静态离线学习系统采用随机小批量梯度下降；归纳总结了深度学习深层结构特征，并推荐了目前最受欢迎的五层深度网络结构设计方法。分析了前馈神经网络非线性激活函数的必要性及常用的激活函数优点，并推荐ReLU（rectifiedlinearunits）激活函数。最后简要概括了深度卷积神经网络、深度递归神经网络、长短期记忆网络等新型深度网络的特点及应用场景，归纳总结了当前深度学习可能的发展方向。