EM 的 E 步:软分配 γ — 一票按后验拆给各分量
一个模棱两可的样本,不一刀切给最近的高斯,而是按后验概率把这一票拆开投出去。
特征 x
μ₁ · 分量 1
c₁=0.5
μ₂ · 分量 2
c₂=0.5
xₙ ?
硬分配 ✗ 整票→分量1
丢掉不确定性 · 易塌缩
γ₁=0.7
γ₂=0.3
γₘ(n) =
cₘ·𝒩(xₙ|μₘ,Σₘ)
cₘ·𝒩(xₙ|μₘ,Σₘ)
Σₖ cₖ·𝒩(xₙ|μₖ,Σₖ)
← 分子=先验×似然,分母归一化
soft count
∑ₘ γ = 1
▶ 播放
单步
💡 E 步 = 用贝叶斯把
先验 cₘ × 似然 𝒩
归一化成软分配
γₘ(n)
:一票按后验拆开投出,∑γ=1,保留不确定性、避免硬切塌缩。