n-gram 平滑演算器 · MLE / Good-Turing / Katz 回退 / JM 插值

默认用《自然语言处理》课件的三句训练语料(I HAVE A RED CAR …,p33–34)与 Good-Turing 符号算例(A:1 … J:3,N=13,p51),逐步演算四种概率估计,看平滑如何把概率质量从"见过的"挪给"没见过的"。语料、GT 计数、历史词 y、插值系数 λ 都可改,改完即重算。

阶段
当前步骤
点击「下一步」开始逐步演算。快捷键: 下一步 · Space 自动
编辑数据(训练语料 / Good-Turing 计数)
训练语料(一行一句,自动加句首 <S>;对应课件 p33)
Good-Turing 符号计数("符号:次数" 逗号分隔;对应课件 p51)
对照笔记:MLE 应得 P(NEW|A)=2/3、P(I|<S>)=2/3 等(p34);Good-Turing 应得 r*=2, 3/2, 1, 0,新概率 4/13, 6/13, 3/13, 0,未见总质量 N₁/N=4/13(p51)。课件 p33 的 P(THEY)=2/15 系笔误,实算为 1/15(I 才是 2/15)。