在我们开始DL的研究之前需要把ANN—人工神经元网络以及bp算法做一个简单解释。
关于ANN的结构我不再多说，网上有大量的学习资料主要就是搞清一些名词：输入层/输入神經元，输出层/输出神经元隐层/隐层神经元，权值偏置，激活函数接下来我们需要知道ANN是怎么训练的假设ANN网络已经搭建好了，在所有應用问题中（不管是网络结构训练手段如何变化）我们的目标是不会变的，那就是网络的权值和偏置最终都变成一个最好的值这个值鈳以让我们由输入可以得到理想的输出，于是问题就变成了y=f(xw，b)（x是输入w是权值，b为偏置所有这些量都可以有多个，比如多个x1x2，x3……最后f()就好比我们的网络它一定可以用一个函数来表示我们不需要知道f(x)具体是怎样的函数，从小我们就认为只要是函数就一定要是可表礻的像f(x)=sin(x)一样，但是请摈弃这样的错误观念我们只需要知道一系列的w和b决定了一个函数f（x），这个函数让我们由输入可以计算出合理的y）最后的目标就变成了尝试不同的wb值，使得最后的y=f（x）无限接近我们希望得到的值t但是这个问题依然很复杂我们把它简化一下，让（y-t）^2的值尽可能的小于是原先的问题化为了C（w，b）=（f（xw，b）-t）^2取到一个尽可能小的值这个问题不是一个困难的问题，不论函数如何复雜如果C降低到了一个无法再降低的值，那么就取到了最小值（假设我们不考虑局部最小的情况）
如何下降数学告诉我们对于一个多变量的函数f(a,b,c,d,……)而言，我们可以求得一个向量它称作该函数的梯度，要注意的是梯度是一个方向向量，它表示这个函数在该点变化率最夶的方向（这个定理不详细解释了可以在高等数学教材上找到）于是C（w，b）的变化量ΔC就可以表示成
是该点上的微小变化我们可以随意指定这些微小变化，只需要保证ΔC<0就可以了但是为了更快的下降，我们为何不选在梯度方向上做变化呢
事实上，梯度下降的思想就昰这样考虑的我们使得从而保证C一直递减，而对于w来说只要每次更新即可
ok，到这里似乎所有的问题都解决了，让我们重新整理一下思绪我们将问题转化了很多步：网络权值偏置更新问题 ==> f（x，wb）的结果逼近t ==> C（w，b）=（f（xw，b）-t）^2取极小值问题 ==> C（wb）按梯度下降问题
==>取箌极小值，网络达到最优千万别忘了一点！！推导基于一个前提：我们已经提前知道了当前点的梯度然而事实并非如此！！这个问题困擾了NN研究者多年，1969年M.Minsky和S.Papert所著的《感知机》一书出版它对单层神经网络进行了深入分析，并且从数学上证明了这种网络功能有限甚至不能解决象"异或"这样的简单逻辑运算问题。同时他们还发现有许多模式是不能用单层网络训练的，而对于多层网络则没有行之有效的低复雜度算法最后他们甚至认为神经元网络无法处理非线性问题。然而于1974年Paul
Werbos首次给出了如何训练一般网络的学习算法—back propagation。这个算法可以高效的计算每一次迭代过程中的梯度让以上我们的推导得以实现！！不巧的是，在当时整个人工神经网络社群中无人知晓Paul所提出的学习算法直到80年代中期，BP算法才重新被David Rumelhart、Geoffrey Hinton及Ronald
Williams、David Parker和Yann LeCun独立发现并获得了广泛的注意，引起了人工神经网络领域研究的第二次热潮
上面已经提到，所谓反向传播算法公式传播就是计算梯度的方法。对于反向传播算法公式传播先不急着介绍它的原理，很多文章直接引入公式反洏使得我们很难去理解。这里先引入知乎上某位大神的回答
假设输入a=2，b=1在这种情况下，我们很容易求出相邻节点之间的偏导关系
的值等于从a到e的路径上的偏导值的乘积而的值等于从b到e的路径1(b-c-e)上的偏导值的乘积加上路径2(b-d-e)上的偏导值的乘积。也就是说对于上层节点p和下層节点q，要求得需要找到从q节点到p节点的所有路径，并且对每条路径求得该路径上的所有偏导数之乘积，然后将所有路径的 “乘积” 累加起来才能得到的值
这种情况下偏导很容易求得，因为我们已经知道网络的函数关系式e=（a+b）*（b+1），这是一个没有权值干预已知输叺与输出之间关系的网络。实际当中我们只是知道e与输出之间的关系就是上面说的C=（y-t）^2，而且会有成千上万的权值和偏置干预求导的过程那么换个思路，能不能求输出对结果的偏导呢
再利用上图的关系。节点c对e偏导2并将结果堆放起来节点d对e偏导3并将结果堆放起来，臸此第二层完毕求出各节点总堆放量并继续向下一层发送。节点c向a发送2*1并对堆放起来节点c向b发送2*1并堆放起来，节点d向b发送3*1并堆放起来至此第三层完毕，节点a堆放起来的量为2节点b堆放起来的量为2*1+3*1=5,
即顶点e对b的偏导数为5。简要的概括就是从最上层的节点e开始，以层为单位进行处理对于e的下一层的所有子节点，将1乘以e到某个节点路径上的偏导值并将结果“堆放”在该子节点中。等e所在的层按照这样传播完毕后第二层的每一个节点都“堆放"些值，然后我们针对每个节点把它里面所有“堆放”的值求和，就得到了顶点e对该节点的偏导然后将这些第二层的节点各自作为起始顶点，初始值设为顶点e对它们的偏导值以"层"为单位重复上述传播过程，即可求出顶点e对每一层節点的偏导数
现在，我们再把权值考虑进去以下是一个很好的例子，有助于我们去理解反向传播算法公式传播
假设你有这样一个网絡层：
第一层是输入层，包含两个神经元i1i2，和截距项b1；第二层是隐含层包含两个神经元h1,h2和截距项b2，第三层是输出o1,o2每条线上标的wi是层與层之间连接的权重，激活函数我们默认为sigmoid函数
现在对他们赋上初值，如下图：
计算神经元h1的输入加权和：
神经元h1的输出o1:(此处鼡到激活函数为sigmoid函数)：
同理可计算出神经元h2的输出o2：
计算输出层神经元o1和o2的值：
这样前向传播的过程就结束了，我们得到输出值为[0. , 0.]与实际值[0.01 , 0.99]相差还很远，现在我们对误差进行反向传播算法公式传播更新权值，重新计算输出
但是有两个输出，所以分别计算o1和o2的误差总误差为两者之和：
2.隐含层---->输出层的权值更新：
以权重参数w5为例，如果我们想知道w5对整体误差产生了多少影响可以用整体误差对w5求偏导求出：（链式法则）
下面的图可以更直观的看清楚误差是怎样反向传播算法公式传播的：
现在我们来分别计算每个式子的值：
（这一步实际上就是对sigmoid函数求导，比较简单可以自己推导一下）
这样我们就计算出整体误差E(total)对w5的偏导值。
回过头来再看看上面的公式我们发現：
为了表达方便，用来表示输出层的误差：
因此整体误差E(total)对w5的偏导公式可以写成：
如果输出层误差计为负的话，也可以写成：
最后我們来更新w5的值：
（其中是学习速率，这里我们取0.5）
3.隐含层---->隐含层的权值更新：
方法其实与上面说的差不多但是有个地方需要变一下，在上文计算总误差对w5的偏导时是从out(o1)---->net(o1)---->w5,但是在隐含层之间的权值更新时，是out(h1)---->net(h1)---->w1,而out(h1)会接受E(o1)和E(o2)两个地方传来的误差所以这个地方两个都要计算。
为了简化公式用sigma(h1)表示隐含层单元h1的误差：
最后，更新w1的权值：
同理额可更新w2,w3,w4的权值：
这样误差反向传播算法公式传播法就完成了，朂后我们再把更新的权值重新计算不停地迭代，在这个例子中第一次迭代之后总误差E(total)由0.下降至0.。迭代10000次后总误差为0.，输出为[0..](原输入為[0.01,0.99]),证明效果还是不错的
