深度信念网络研究现状与展望

• Published in: 自动化学报 Vol. 47; no. 1; pp. 35 - 49
• Main Authors: 王功明, 乔俊飞, 关丽娜, 贾庆山
• Format: Journal Article
• Language: Chinese
• Published: 计算智能与智能系统北京市重点实验室 北京100124%北京工业大学信息学部 北京100124%清华大学自动化系智能与网络化系统研究中心 北京100084 2021; 北京工业大学信息学部 北京100124
• Subjects: 结构设计; 深度信念网络; 无监督预训练; 深度学习; 有监督调优
• ISSN: 0254-4156
• DOI: 10.16383/j.aas.c190102

深度信念网络(Deep belief network,DBN)是一种基于深度学习的生成模型,克服了传统梯度类学习算法在处理深层结构所面临的梯度消失问题,近几年来己成为深度学习领域的研究热点之一.基于分阶段学习的思想,人们设计了不同结构和学习算法的深度信念网络模型.本文在回顾总结深度信念网络的研究现状基础上,给出了其发展趋势.首先,给出深度信念网络的基本模型结构以及其标准的学习框架,并分析了深度信念网络与其他深度结构的关系与区别;其次,回顾总结深度信念网络研究现状,基于标准模型分析不同深度信念网络结构的性能;第三,给出深度信念网络的不同无监督预训练和有监督调优算法,并分析其性能;最后,给出深度信念网络今后的发展趋势以及未来值得研究的方向.