后验概率与似然函数的区别与联系
似然函数:给定输出xxx时,关于参数θθθ的似然函数L(θ∣x)L(θ|x)L(θ∣x)(在数值上)等于给定参数θθθ后变量XXX的概率:L(θ∣x)=P(X=x∣θ)L(θ|x)=P(X=x|θ)L(θ∣x)=P(X=x∣θ)[1]^{[1]}[1]。因此[2]和[3]也将似然函数直接写成P(x∣θ)P(x|θ)P(x∣θ)。后验概率是在给定证据XXX后,参数θθθ的概率: p(θ∣X)p(..
定义与区别
参考资料[3]对两个概念的定义如下:
后验概率:
在给定证据XXX后,参数θθθ的概率: p(θ∣X)p(θ|X)p(θ∣X) 。
似然函数:
给定了参数θθθ后,证据XXX的概率:p(X∣θ)p( X | θ )p(X∣θ)。
参考资料[1]则解释的更清楚,将似然函数定义为:
给定输出xxx时,关于参数θθθ的似然函数L(θ∣x)L(θ|x)L(θ∣x)(在数值上)等于给定参数θθθ后变量XXX的概率:L(θ∣x)=P(X=x∣θ)L(θ|x)=P(X=x|θ)L(θ∣x)=P(X=x∣θ)。
由于L(θ∣x)=P(X=x∣θ)L(θ|x)=P(X=x|θ)L(θ∣x)=P(X=x∣θ),因此[2]和[3]也将似然函数直接写成P(x∣θ)P(x|θ)P(x∣θ)。但要注意,P(x∣θ)P(x|θ)P(x∣θ)中的自变量仍然是θ\thetaθ。因此似然函数写为P(x∣θ)P(x|θ)P(x∣θ)时虽然形式上与概率密度函数相同,但并非概率密度函数,例如一般不满足定义域内积分为1的性质(见参考资料[2]的例子L(θ∣x)=θ7(1−θ)3L(θ|x)=θ^7(1−θ)^3L(θ∣x)=θ7(1−θ)3)。
联系
1、后验概率和似然函数的自变量都是参数θθθ;
2、如果定义先验概率为p(θ)p ( θ )p(θ),由似然函数的定义,给定x时参数θ的似然=给定θ时样本x的概率=p(x∣θ)给定x时参数θ的似然=给定θ时样本 x 的概率= p( x|θ)给定x时参数θ的似然=给定θ时样本x的概率=p(x∣θ),那么后验概率可以定义为p(θ∣x)p ( θ | x )p(θ∣x) = p(x∣θ)p(θ)p(x)\frac {p ( x | θ ) p ( θ )}{ p ( x )}p(x)p(x∣θ)p(θ).
可以将后验概率写成:
后验概率 ∝\propto∝ 似然 ×\times× 先验概率。
[1] https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0
[2] https://blog.csdn.net/u011508640/article/details/72815981
[3] https://zh.wikipedia.org/wiki/%E5%90%8E%E9%AA%8C%E6%A6%82%E7%8E%87
更多推荐

所有评论(0)