反向传播算法—从四个基本公式说起

BP2与BP1类似,不同得是BP1用于求最后一层神经元误差,而BP2则是用于求L层前面某一层得神经元误差,下面通过BP2公式用于求第二层神经元中的第一个神经元的误差;

同样我们也可通过链式法则得出:

有:

因此可以得:

将公式转换为矩阵模式,第2层神经元得误差为:

我们将BP1与BP2带入即可得到BP3与BP4;

通过BP1与BP2公式即可通过BP3、BP4轻松得到w与B;