分类输出
:One-Hot 与 Softmax
logit → 指数 → 归一化 → 概率分布(和为 1)
原始输出 logit
指数 e^z
Softmax 概率
猫
3
狗
1
兔
-3
≈ 20
≈ 2.7
≈ 0.05
÷ 各项之和(归一化)
0.88
0.12
≈ 0
One-Hot 真实标签(答案是「猫」,只有猫位为 1)
猫
狗
兔
1
0
0
softmax(z
i
) =
e
zi
Σ e
zk
▶ 重播