老饼讲解-神经网络 机器学习 神经网络 深度学习
BP神经网络建模
1.BP神经网络-工具箱说明
2.BP神经网络-建模代码
3.BP神经网络-训练技巧
4.BP神经网络-应用案例
5.BP神经网络-问题答疑

【神经网络】BP为什么基本只用Base设置?

作者 : 老饼 发表日期 : 2022-06-09 05:18:57 更新日期 : 2024-01-16 17:07:58
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



在使用BP神经网络时,我们一般都只使用一层隐层,并搭以tansig/purelin激活函数这样的设置

本文讲解为什么我们偏好于这一种设置,为什么不使用其它的设置




    01. BP神经网络为什么基本只用base设置   




本节分析BP神经网络为什么一般都只用固定的基本设置的原因




    说明:什么是BP神经网络的base设置    


本文所说的BP神经网络base设置指的是:
 
👉 1. 设为1隐层                              
👉 2. 激活函数使用tansig+purelin
👉 3. 训练方法使用trainlm            
👉 4. 数据归一化到【-1,1】之间 




        为什么BP神经网络一般使用base设置        


我们知道,参数的搭配组合是非常多的,
加上初始化的不确定性,可能每种配置还要试上10回再取平均
如果我们每种搭配,都试一下,那将非常耗时间,
因此,我们很有必要确定一种性价比较好的通用配置,
通用配置虽然未必对所有问题是最优的,
但概率上,它的综合性价比是最高的,
 这样,我们只需要尝试一种配置,而不是每种都试一下 
而我们在失败后,需要尝试修改的点还有很多,
  所以,必须把一些可以不尝试的确定下来,作为base配置,提高尝试的边缘价值




       为什么只用这一种base设置       


只用一种base设置的好处在于,
  我们可以就这一种设置,进行非常深入的探讨和研究
  例如
把数据归一化到【0,1】行不行?当然可以! 
但如果配置不统一,那在讨论和研究一个问题时,还要确定它的数据范围
而我们更多时候就针对【-1,1】这个假设前提,
去研究初始化怎么初始化更好,lr怎么设更好,数据反归一怎么做,等等
如果你用了【0,1】,那自行推导和转换!
 
 所以,只用一种base设置的好处是,
 我们可以在这个base设置的基础上,进行B计划,C计划,D计划......,
 
但也有例外,有些时候,你得根据实际情况,去使用不同的配置
所以,我们后面会讨论base设置的理由和好处,这样,可以根据自己的情况,估算base设置适不适用











  End  






联系老饼