前向传播 · Forward Propagation
数据从左到右
逐层流动
:每个神经元先算加权和
z=Wx+b
,再过激活
a=σ(z)
,一路点亮到输出层,最后
softmax
出预测。
数据向前流动 ——→
输入层
隐藏层
输出层 · softmax
x₁
1
x₂
-1
z₁
z₂
a=σ(z)
0.98
a=σ(z)
0.12
z
z
ŷ₁
0.75
ŷ₂
0.25
← 预测类
输入层 → 隐藏层 → 输出层
▶ 播放
◀ 上一步
下一步 ▶
记住这点:
前向传播就是把上一层的激活当作下一层的输入,反复做两步 —
z=b+Σxᵢwᵢ
(加权求和)→
a=σ(z)
(非线性激活), 从输入一路算到输出层;多分类时最后用
softmax
把输出变成一组和为 1 的概率,最大者即预测类别。