老饼讲解-神经网络
BP应用
BP的完整应用
一个BP的完整建模流程
作者 : 老饼 日期 : 2022-06-09 03:46:13 更新 : 2022-06-29 01:23:51
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》bp.bbbdata.com



本文讲解一个BP神经网络的完整建模流程,包括数据预处理、训练、及评估等。



  01. 建模步骤  


BP神经网络的建模总的来说有以下三大步骤(6个小步骤)
数据预处理:数据归一化、数据划分                
训练网络:
网络结构设置、网络训练                
模型评估:
模型训练效果评估、模型预测效果评估



  02.建模小步骤  


   1. 数据归一化   


在模型训练之前,需要把所有数据(X和y)都进行归一化。
数据归一化主要是为了网络求解的便利性。



   2. 数据划分   


一般将数据划分成三部分,训练数据、验证数据、检验数据。
训练数据:用于求解(调整w,b)                                                            
验证数据:验证数据主要用于防止训练走向过拟合。                           
测试数据:不参与任何训练过程,纯粹用于检验模型最后的测试效果。


可以按训练数据70%、验证数据15%、检验数据15%的比例随机分割。



   3. 网络结构设置   


设置网络隐层层数(一般都是一个隐层),和隐层神经元个数。


   4. 网络训练(求解w,b)


用训练数据对网络进行训练,可采用梯度下降法、LM法等等。
在训练过程中,需要不断用验证数据检验模型的泛化能力。

如果训练数据效果越来越好,而验证数据效果越来越差,则说明走在了过拟合的路上,这时就应该停止训练。



   5. 模型训练效果评估   


 检验模型对训练数据的预测效果。一个网络训练成功的表现就是训练数据误差达到要求。



   6. 模型预测效果评估   


检验模型对检验数据(未参与训练的数据)的预测效果。一个网络可用的表现就是模型测试数据误差达到要求。








 End 






联系小饼