本站原创文章,转载请说明来自《老饼讲解-BP神经网络》bp.bbbdata.com
说明:什么是base设置
本文所说的BP神经网络base设置指的是:
👉 1. 设为1隐层
👉 2. 激活函数使用tansig+purelin
👉 3. 训练方法使用trainlm
👉 4. 数据归一化到【-1,1】之间
为什么使用base设置
我们知道,参数的搭配组合是非常多的,
加上初始化的不确定性,可能每种配置还要试上10回再取平均
如果我们每种搭配,都试一下,那将非常耗时间,
因此,我们很必须确定一种性价比较好的通用配置,
通用配置虽然未必对所有问题是最优的,
但概率上,它的综合性价比是最高的,
这样,我们只需要尝试一种配置,而不是每种都试一下
而我们在失败后,需要尝试修改的点还有很多,
所以,必须把一些可以不尝试的确定下来,作为base配置,提高尝试的边缘价值
为什么只用这一种base设置
只有一种base设置的好处在于,
我们可以就这一种设置,进行非常深入的探讨和研究
例如
把数据归一化到【0,1】行不行?当然可以!
但如果配置不统一,那在讨论和研究一个问题时,还要确定它的数据范围
而我们更多时候就针对【-1,1】这个假设前提,
去研究初始化怎么初始化更好,lr怎么设更好,数据反归一怎么做,等等
如果你用了【0,1】,那自行推导和转换!
所以,只用一种base设置的好处是,
我们可以在这个base设置的基础上,进行B计划,C计划,D计划......,
但也有例外,有些时候,你得根据实际情况,去使用不同的配置
所以,我们后面会讨论base设置的理由和好处,这样,可以根据自己的情况,估算base设置适不适用
End