MLE 三件套:连乘 → 取 log → 梯度置零
从 N 个独立样本的似然,三步求出最优参数 θ̂
STEP 1 · 似然连乘 ∏
STEP 2 · 取 log → 连加 Σ
STEP 3 · ∇L=0 求 θ̂
x₁
x₂
xₙ
p(xₙ|θ)
∏
连乘
连乘后数值
≈10⁻³⁰⁰ 数值下溢!
log ∏ = Σ log
log p(x₁|θ)
L(θ)=Σₙ log p(xₙ|θ)
连乘→连加:数值稳,好求导 ✓
θ
L
∇L=0 → θ̂
指数族→闭式解;否则迭代(EM)
▶ 播放
单步
💡 MLE = 把各样本似然
连乘
→ 取
log
变连加 → 令
∇L=0
解出
θ̂
。