自然科学版
陕西师范大学学报(自然科学版)
数学与计算机科学
动态步长情形在线PRP-BP算法的收敛性
PDF下载 ()
张瑞, 王伟, 刘作志
(西北大学 数学系, 陕西 西安 710069)
张瑞,女,副教授,博士,研究方向为计算智能及信息技术的数学基础. E-mail: rzhang@nwu.edu.cn.
摘要:
基于动态步长规则,对在线PRP-BP算法的全局收敛性进行了研究.利用泛函分析理论及点集拓扑理论,证明了动态步长情形在线PRP-BP算法所生成的误差函数序列收敛于误差全局极小值且误差函数梯度序列收敛于零.数值试验不仅验证了所获得收敛结果的正确性,并且比较了不同步长、不同下降方向对在线BP算法性能的影响.实验结果表明,动态步长情形在线PRP-BP算法不仅具有更快的收敛速度,而且算法性能也更优.
关键词:
在线BP算法; PRP共轭梯度法; 动态步长; 收敛性
收稿日期:
2011-10-20
中图分类号:
O29
文献标识码:
A
文章编号:
1672-4291(2012)02-0006-05
基金项目:
国家自然科学基金资助项目(61075050).
Doi:
Convergence of the PRP based online BP training with dynamic step-size rule
ZHANG Rui, WANG Wei, LIU Zuo-zhi
(Department of Mathematics, Northwest University, Xi′an 710069, Shaanxi, China)
Abstract:
The convergence of the PRP based online BP training with dynamic step-size rule (PRP-OLBP-DYN) is studied.It is shown that the sequence of the error functions converges to its global minimum error, and the sequence of the gradient of the error functions converges to zero. The experimental results verify the correctness of the obtained convergence results, and reveal the fast convergent speed and the good performance of the proposed PRP-OLBP-DYN algorithm.
KeyWords:
online BP training procedure; PRP conjugate gradient method; dynamic step-size; convergence