Hidden Markov Model (HMM) 和 Conditional Random Field (CRF)
是机器学习概率图模型中 有向图(Direced model) 和 无向图(Undirected model) 的经典结构。
这两个模型有本质区别,但是在图的结构上有相似之处,算法也有可以复用的地方。网上相关的文章很多,我写这篇单纯是为了自己总结……
代码:
DemoML/CRF/
本文中概率$p$表示随机变量概率分布,粗体小写表示单一数据的向量,下角标为样本编号,带括号上角标一般表示维度。变量表示规则和其他博文保持一致。
由于手写无法体现粗体,我一般选择变量加下横线表示一个向量。本文配图中,为了更清晰的展示,因此没有加下横线,实际都是向量。
HMM
模型和参数
三大算法和对应概率
求解过程
总结(为了解决什么问题?)
CRF
模型和参数
求解过程
和hmm的区别?
代码
- 改的人性化一点再解释……主要是计算mle score