基于BP神经网络的测量误差预测,BP神经网络工具箱详解
目录
摘要
BP神经网络参数设置及各种函数选择
参数设置
训练函数
传递函数
学习函数
性能函数
显示函数
前向网络创建函数
BP神经网络训练窗口详解
训练窗口例样
训练窗口四部详解
基于BP神经网络的测量误差预测
效果图
结果分析
摘要
本文总结BP神经网络的参数设置,训练函数,传递函数,学习函数,画图函数,性能函数,创建函数,详解nntraintool训练窗口,基于基于BP神经网络的测量误差预测
BP神经网络参数设置及各种函数选择
参数设置
1,最大迭代次数net.trainParam.epochs,一般先设置大,然后看训练收敛情况,如果提前收敛,最大迭代次数就改小,以到达训练目标为目的设置。
2,学习率net.trainParam.lr,一般设置0.01–0.5,数据越多,数据噪声越大,数据越难拟合,数值一般需要越小,设置太大,容易过早停止收敛。
3,学习目标net.trainParam.goal,根据训练测试的情况进行调整,过大容易过拟合,测试效果差,过小达不到想要的效果。
4,最大丢失次数net.trainParam.max_fail,既联系不收敛次数,达到这个次数后BP神经网络停止迭代,终止训练,主要目的是防止过拟合,太小容易过早停止迭代,太大容易过拟合,默认是6,需要依据训练测试情况和学习目标,妥协调整。
5,隐含层数,常见的是三个隐含层以内,再多也没有看到有明显的优势,数据好拟合,一个隐含层就足够,数据难拟合,更多层,收敛效果一般也没有明显改善。
6,隐含层神经元个数,按经验公式设置,试凑法调整。
训练函数
trainr 随机顺序递增更新训练函数
trainrp 带反弹的BP训练函数
trains 顺序递增BP训练函数
trainscg 量化连接梯度BP训练函数
trainbrBayes 规范化BP训练函数
trainc 循环顺序渐增训练函数
traincgb Powell-Beale连接梯度BP训练函数
traincgf Fletcher-Powell连接梯度BP训练函数
traincgp Polak-Ribiere连接梯度BP训练函数
traingda 自适应lrBP的梯度递减训练函数
traingdx 动量及自适应lrBP的梯度递减训练函数
trainlm Levenberg-Marquardt BP训练函数
trainoss 一步正切BP训练函数
传递函数:
logsig S型的对数函数
dlogsig logsig的导函数,有些MATALB版本不可用
tansig S型的正切函数
dtansig tansig的导函数,有些MATALB版本不可用
purelin 纯线性函数
dpurelin purelin的导函数,有些MATALB版本不可用
学习函数
learngdm 梯度下降栋梁学习函数
learngd 基于梯度下降法的学习函数
性能函数
mse 均方误差函数
msereg 均方误差规范化函数
显示函数
plotperf 绘制网络的性能
plotes 绘制一个单独神经元的误差曲面
plotep 绘制权值和阈值在误差曲面的位置
errsurf 计算单个神经元的误差曲面
前向网络创建函数
newffd 创建存在输入延迟的前向网络
newcf 创建级联前向网络
newff 创建前向BP网络
BP神经网络训练窗口详解
训练窗口例样

训练窗口详解
如根上图所示分为四个部分:
1,Neural Network
这里显示的是输入层神经元个数大小,中间层数量以及每层的神经元个数。
2,Algorithms
Data Division:Random。这表示使用随机指数将目标分成三组,分别作为train,validation,test。
Training:levenberg-Marquardt。这表示学习训练函数为trainlm。
Performance:Mean Squared Error。这表示性能用均方误差来表示。
Calculations: MEX。该网络保存为mex格式
3,Progress
Epoch:该网络允许的迭代次数最大为500,实际迭代31次
Time:运行时间。
Performance:该网络的最大误差为1.96,目标误差为0.0001,实际误差为0.00475,可在Plots中的Performance中详细查看
Gradient:该网络的最大梯度为1.83,阈值梯度为1e−7 1e^{-7}1e −7。
Validation Checks:最大验证失败次数。(解释:比如默认是6,则系统判断这个验证集误差是否在连续6次检验后不下降,如果不下降或者甚至上升,说明training set训练的误差已经不再减小,没有更好的效果了,这时再训练就没必要了,就停止训练,不然可能陷入过拟合。)
4,Plots
Performance:这里可以点进去,看train, validation和test的性能。

Training State:记录Gradient和Validation Checks。

Regression:通过绘制回归线来测量神经网络对应数据的拟合程度。
Plot Interval:训练窗口更新次数,等于10的时候,每迭代10次更新一次
基于BP神经网络的测量误差预测


结果分析
从图中可以看出来,基于BP神经网络的测量误差预测 ,预测准确,泛发性好
展望
BP神经网络是一种成熟的神经网络,训练函数较多,可以适用各种场景,等
参考论文
百科
更多推荐

所有评论(0)