老饼讲解-神经网络 机器学习 神经网络 深度学习
LVQ神经网络

【原理】简单了解LVQ神经网络的训练方法

作者 : 老饼 发表日期 : 2023-05-08 15:46:12 更新日期 : 2023-05-15 01:30:14
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



LVQ神经网络的常用训练方法有两种:LVQ1和LVQ2

本文简单讲述LVQ1和LVQ2的原理和展示迭代公式

快速了解LVQ这两种训练方法到底是什么和它们的特点




    01. LVQ神经网络的训练方法    



本节简单讲述LVQ的两种训练方法:LVQ1和LVQ2



    LVQ的训练方法概述   


LVQ的训练方法共两种
 👉1. LVQ1训练方法
 👉2. LVQ2训练方法
LVQ1和LVQ2都是使用逐样本更新的方法
即每次只用一个样本来调整判别中心的位置



     关于LVQ1训练方法    


LVQ1比较简单,
就是根据预测的准确性来更新隐节点
如果预测正确,将当前胜出的隐节点往样本靠近 
如果预测错误,将当前胜出的隐节点远离样本    

即竞争胜出的隐节点与输入对应的权重(即该隐节点所代表的聚类中心位置) 调整量为:
 
  
 其中lr为学习率




     关于LVQ2训练方法    


LVQ2主要解决LVQ1训练后,
可能会有些样本属于中心A,又差不多属于中心B这种场景
这样的结果虽然是正确的,但未必“界限”得非常清晰

因此,引入LVQ2,尽量使样本点更“清晰”地划分于某一个中心点
 LVQ2规则
在讲述LVQ2规则前,我们先对相关符号进行说明
✍️ 
符号说明
 
 k1     :离样本最近的中心点(即所竞争成功的隐节点)   
  k2     :以k2代表样本次近的中心点                              
   d1,d2 :分别代表样本到k1,k2的距离                            
 
LVQ2规则详细描述如下:
如果 ,则对中心点作如下更新
 上式的意义为"d1和d2差别不大",其中  一般取0.25,此时s=0.6 

 如果样本实际属于k1,则将k1往样本靠近,将k2远离样本
如果样本实际不属于k1,而属于k2,则将k2往样本靠近,k1远离样本
 用数学表述则为: 
 
 
相比于LVQ1,LVQ2考虑了次近节点的位置,使界限更为清晰












 End 





联系老饼