Bigram 网络:词 = 状态,弧 = 转移概率

把语言模型画成一张图:每个词是一个状态,词与词之间挂上 bigram 概率

解码漫步累积: P(I|<s>) · P(HAVE|I) · P(A|HAVE) P(I|<s>) P(I|I) P(HAVE|HAVE) P(A|A) P(HAVE|I) P(I|HAVE) P(A|I) P(I|A) P(A|HAVE) P(HAVE|A) <s> I HAVE A
句首 <s> 状态=词(历史) 弧=bigram 概率 解码令牌 当前状态
弧权 = P̂(w|wₖ₋₁) = C(wₖ₋₁,w) / C(wₖ₋₁)  — 由共现计数归一化得到
点「播放」或「单步」开始
💡 bigram 网络把「上一个词(历史)」编码成状态,把 bigram 概率 C(y,w)/C(y) 挂在上——任意两词全连接、含自环,正是 WFST 解码图 G 层的雏形。