定义与区别

参考资料[3]对两个概念的定义如下:

后验概率:

在给定证据XXX后,参数θθθ的概率: p(θ∣X)p(θ|X)p(θX)

似然函数:

给定了参数θθθ后,证据XXX的概率:p(X∣θ)p( X | θ )p(Xθ)

参考资料[1]则解释的更清楚,将似然函数定义为:

给定输出xxx时,关于参数θθθ的似然函数L(θ∣x)L(θ|x)L(θx)在数值上)等于给定参数θθθ后变量XXX的概率:L(θ∣x)=P(X=x∣θ)L(θ|x)=P(X=x|θ)L(θx)=P(X=xθ)

由于L(θ∣x)=P(X=x∣θ)L(θ|x)=P(X=x|θ)L(θx)=P(X=xθ),因此[2]和[3]也将似然函数直接写成P(x∣θ)P(x|θ)P(xθ)。但要注意,P(x∣θ)P(x|θ)P(xθ)中的自变量仍然是θ\thetaθ。因此似然函数写为P(x∣θ)P(x|θ)P(xθ)时虽然形式上与概率密度函数相同,但并非概率密度函数,例如一般不满足定义域内积分为1的性质(见参考资料[2]的例子L(θ∣x)=θ7(1−θ)3L(θ|x)=θ^7(1−θ)^3L(θx)=θ7(1θ)3)。

联系

1、后验概率和似然函数的自变量都是参数θθθ

2、如果定义先验概率为p(θ)p ( θ )p(θ),由似然函数的定义,给定x时参数θ的似然=给定θ时样本x的概率=p(x∣θ)给定x时参数θ的似然=给定θ时样本 x 的概率= p( x|θ)xθ=θx=p(xθ),那么后验概率可以定义为p(θ∣x)p ( θ | x )p(θx) = p(x∣θ)p(θ)p(x)\frac {p ( x | θ ) p ( θ )}{ p ( x )}p(x)p(xθ)p(θ).

可以将后验概率写成:

后验概率 ∝\propto 似然 ×\times× 先验概率。

[1] https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0

[2] https://blog.csdn.net/u011508640/article/details/72815981

[3] https://zh.wikipedia.org/wiki/%E5%90%8E%E9%AA%8C%E6%A6%82%E7%8E%87

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐