GMM 似然奇异性:单点塌缩

一个高斯分量盯死单个样本、方差趋零 → 密度发散,纯 MLE 出现无界退化解

μm=xjΣm→0 ⇒  𝒩(xj | μm,Σm) → L → +∞
x 健康分量 𝒩(μ,Σ) 宽覆盖整簇 xj 分量 m 盯上 xj ↑ 密度 → ∞
对数似然 L = −12.4
⚠ Σm→0:似然 → +∞,这是无意义的退化解,MLE 无界。硬分配更易触发 → 必须软分配(EM)/正则。
数据点 健康分量 塌缩分量 报警 / 发散
💡 GMM 纯 MLE 会奇异塌缩:单个分量压死一点、Σ→0 使密度发散、似然无界。须用软分配(EM)与方差下界/正则避免单点尖刺。