人工神经元网络

引言

  • LaTeX不熟练多为图片。
  • 图片多为SWUST模式识别课程李小霞老师课件。

1、前馈(forward)网络

在这里插入图片描述

与线性分类器的关系

  • 线性分类器 g ( x ) = w T x + w 0 = w 1 x 1 + w 2 x 2 + . . . + w 0 g(x)={ w }^{ T }x+{ w }_{ 0 }={w}_{1}{x}_{1}+{w}_{2}{x}_{2}+...+{w}_{0}
  • 感知器模型 y = s g n ( i = 1 n w i θ ) y=sgn(\sum _{ i=1}^{ n}{{w}_{i}- \theta } )
  • 自学习,逐步修正,优化。
  • 感知器学习算法(perceptron)
    (1)初始化
    (2)迭代 w ( t ) = { w ( t 1 ) w ( t 1 ) + η y ( t ) x ( t ) \quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad w(t)=\begin{cases} w(t-1) \quad\quad\quad\quad\quad\quad{分对}\\w(t-1)+\eta y(t)x(t)\quad{分错}\end{cases}
    η \eta:控制收敛速度的参数
  • 局限:两类样本,线性分类。

激活函数 f f 为连续(可微)

$f$   #$不换行公式$   $$换行公式$$

f ( x ) = 1 1 + e a x f(x)=\frac {1 }{ 1+{ e }^{-ax }}
在这里插入图片描述

2、多层感知器(Multi-Layer Perceptron,MLP)

异或问题(XOR)的解决

单层感知器无法解决“异或”问题

在这里插入图片描述

三层感知器可以。

<div align=center>居中内容</div>    #图片居中代码

在这里插入图片描述


在这里插入图片描述
![第二步](https://img-blog.csdnimg.cn/20181027143516715.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZiXzk0MTIxOQ==,size_27,color_FFFFFF,t_70) 今天网速...太慢了,晚上继续写。 $$ \heartsuit $$