【算法】狄利克雷过程 (Dirichlet过程)
本文是徐亦达机器学习：Dirichlet Process 狄利克雷过程的笔记。Bayesian Non Parametric有一些点（二维数据）是从高斯混合模型中产生的，那它到底有几个混合呢？即它的k是多少呢？（k参考高斯混合模型Gaussian Mixture Model）......
·
本小节是层次狄利克雷过程的笔记。
狄利克雷混合模型DPMM是一种可以自动确定聚类类别数量的聚类方法。
狄利克雷过程DP是“分布的分布”，由2个参数和
确定，即
。其中
是分布参数，值越大，分布越接近于均匀分布，值越小，分布越集中。
是基分布。
于是狄利克雷过程就是，经过狄利克雷过程，输出了一个
。
越大，输出的G与输入的
越接近。
何时需要狄利克雷分布呢?
- 聚类的数量未知；
- 非参数化，即不确定参数，如果需要的话，参数的数量是可以变化的；
- 聚类的数量服从于概率分布。
本小节是徐亦达机器学习：Dirichlet Process 狄利克雷过程的笔记。
Bayesian Non Parametric
有一些点（二维数据）是从高斯混合模型中产生的，那它到底有几个混合呢？即它的k是多少呢？（k参考高斯混合模型Gaussian Mixture Model）
如果G是从产生的，那么G就是一个随机离散测度。G是由无穷个atam组成的，
是每个棍子的位置，
是棍子的权重。
不管如何划分的空间，G在每个空间上相对应的测度服从一个狄利克雷分布，此分布的参数是 base measure H在每个空间上的测度*
。
有“AI”的1024 = 2048，欢迎大家加入2048 AI社区
更多推荐
0
0- 0
已为社区贡献5条内容
所有评论(0)