问题答疑
理论答疑
【答疑】BP神经网络为什么基本只用Base设置?
作者 : 老饼 日期 : 2022-06-09 05:18:57 更新 : 2022-11-02 12:06:54
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》bp.bbbdata.com



一、base设置



这里的base设置指的是:


设为1隐层,激活函数使用tansig+purelin,训练方法使用trainlm,数据归一化到【0,1】之间。



二、为什么基本只用base设置



1、为什么使用base设置


我们知道,参数的搭配组合是非常多的,加上初始化的不确定性,可能每种配置还要试上10回再取平均。
如果我们每种搭配,都试一下,那将非常耗时间,
因此,我们很必须确定一种性价比较好的通用配置,
通用配置虽然未必对所有问题是最优的,
但概率上,它的综合性价比是最高的,
这样,我们只需要尝试一种配置,而不是每种都试一下。

而我们在失败后,需要尝试修改的点还有很多,
所以,必须把一些可以不尝试的确定下来,作为base配置,提高尝试的边缘价值。



2、为什么只用这一种base设置


只有一种base设置的好处在于,
我们可以就这一种设置,进行非常深入的探讨和研究。

例如,把数据归一化到【-1,1】行不行?当然可以! 
但如果配置不统一,那在讨论和研究一个问题时,还要确定它的数据范围。

而我们,更多时候就针对【0,1】这个假设前提,
去研究初始化怎么初始化更好,lr怎么设更好,数据反归一怎么做,等等。
如果你用了【-1,1】,那自行推导和转换!

所以,只用一种base设置的好处是,
我们可以在这个base设置的基础上,进行B计划,C计划,D计划......,


但也有例外,有些时候,你得根据实际情况,去使用不同的配置。

所以,我们后面会讨论base设置的理由和好处,这样,可以根据自己的情况,估算base设置适不适用。






联系老饼