Sam Asked:2020-04-06 01:10:36 +0800 CST2020-04-06 01:10:36 +0800 CST 2020-04-06 01:10:36 +0800 CST 如何改变偏置神经元的权重。反向传播 772 在所有关于神经网络及其训练的文章中,使用反向传播,描述了如何找到简单神经元权重的变化。但是我找不到任何地方如何找到偏置神经元权重的变化(它们也是偏置)。 математика 1 个回答 Voted Best Answer Константин 2020-04-06T17:14:06+08:002020-04-06T17:14:06+08:00 就像其他权重一样,但有必要在公式中考虑到它们上的信号是 +1。看,我澄清一下,我们在考虑一层(2,3)——2行,3个元素,3个输入神经元全连接到2个神经元,矩阵中的1个元素是偏置权重,梯度误差来自右边的层为 (1,3) - 1 行和 3 个元素。我们可以很容易地把它放在矩阵 (2,3) 上,让它成为 new_matr,然后 upd_matr+=l_r*<0-й элемент +1 - вектор входных сигналов как (3,1).T=(1,3)>(X:=<матричный продукт>)<градиент ошибок как (1,3)>,где l_r - коэффициент обучения. 我描述了更新矩阵,并从图片中的第 (2) 层中找到第 (1) 层的误差梯度:
就像其他权重一样,但有必要在公式中考虑到它们上的信号是 +1。看,我澄清一下,我们在考虑一层(2,3)——2行,3个元素,3个输入神经元全连接到2个神经元,矩阵中的1个元素是偏置权重,梯度误差来自右边的层为 (1,3) - 1 行和 3 个元素。我们可以很容易地把它放在矩阵 (2,3) 上,让它成为 new_matr,然后
我描述了更新矩阵,并从图片中的第 (2) 层中找到第 (1) 层的误差梯度: