神经元模型简单制作方法 神经网络学习之M-P神经元模型

神经网络中最基本的信息处理单元就是M-P神经元模型，一个M-P神经元模型接受来自其他m个神经元传递过来的输入信号，输入信号通过带权重的连接进行传递，到达神经元。神经元对其加权和，得到总输入值，然后将其与神经元的阈值进行比较，如果神经元的总输入值大于它的阈值，神经元就会被唤醒。通过唤醒函数的映射形成输出，具体的计算模型如下图所示：

目前神经元接受外面的世界信号x1，x2，...，xm,一共有m个信号的输入，这m个输入信号通过传递分别获得了权重w1，w2，...，wm，然后对其加权累和得到了总输入值。最后将其与目前神经元的阈值进行比较，如果总输入值大于它的阈值，神经元被唤醒。通过唤醒函数的映射形成输出，具体的计算公式如上图所示。

其实M-P神经元模型的本质就是一个广义的线性回归模型，而唤醒函数就相当于广义线性回归模型中的g函数。要解决M-P神经元模型的计算问题，还要有一个具体的唤醒函数。理论上，唤醒函数可以是任意的函数形式，通常使用的有：线性函数、非线性斜面函数、阈值函数、逻辑斯蒂函数。

线性函数f（net）=k*net+c

线性函数只能进行线性变化，不适合用来处理非线性问题。

非线性斜面函数

γ为大于0的常数，被称为饱和值，是神经元的最大输出。

阈值函数

逻辑斯蒂函数f（net）=a+b/（1+exp（-d*net））

a，b，d为常数。它的饱和值为a和a+b。

a=0，b=1，d=1时，简化为最简单的形式：

f（net）= 1/（1+exp（-net））

如下图所示，此时的M-P函数神经元模型就是一个逻辑斯蒂回归函数。

逻辑斯蒂函数形如S，也叫S形函数；将较大范围变化的输入值挤压到（0，1）的输出值范围内，因此也叫挤压函数；有较好的增益控制能力，也叫增益控制函数。