YEY Blog

Life is a long long journey.

统计机器学习 19:降维

墨尔本大学 COMP90051 课程笔记

Lecture 19 降维 主要内容 主成成分分析(PCA) 线性降维方法 对角化协方差矩阵 核化 PCA 1. 关于降维 1.1 数据的真实维度? 1.2 降维 之前我们介绍了无监督学习中的一类常见任务:聚类 降维 是指使用 较少数量的变量(维度)来表示数据,同时保留数据中我们 “感兴趣的” 结构 通过降维...

统计机器学习 18:高斯混合模型和 EM 算法

墨尔本大学 COMP90051 课程笔记

Lecture 18 高斯混合模型和 EM 算法 主要内容 无监督学习 问题的多样性 高斯混合模型(GMM) 一种用于聚类的概率方法 GMM 模型 GMM 聚类作为一个优化问题 期望最大化(EM)算法 1. 无监督学习 机器学习中的一个大的分支,关注在标签缺失的数据上学习其结...

统计机器学习 17:PGM 的概率推断和统计推断

墨尔本大学 COMP90051 课程笔记

Lecture 17 PGM 的概率推断和统计推断 主要内容 PGM 的概率推断 PGM 的统计推断 1. PGM 的概率推断 利用贝叶斯规则和边缘化,根据一个 PGM 的联合分布,计算边缘和条件分布。这里我们将学习如何有效地做到这一点。 1.1 两个熟悉的例子 朴素贝叶斯(频率学家 / 贝叶斯人) 根...

统计机器学习 16:概率图模型

墨尔本大学 COMP90051 课程笔记

Lecture 16 概率图模型 主要内容 联合分布的表示 条件 / 边缘独立 有向 vs 无向 1. 概率图模型 图论与概率论的结合,贝叶斯统计学习的首选工具。我们将从简单的离散情况出发,再延伸到连续情况。 1.1 实际意义驱动 很多应用 进化树 谱分析、关联分析 错误控制代码 语音识别 文档主题模型 概率...

统计机器学习 15:贝叶斯分类

墨尔本大学 COMP90051 课程笔记

Lecture 15 贝叶斯分类 主要内容 离散设定下的贝叶斯思想 Beta-Binomial 共轭 贝叶斯分类 非共轭的渐进必要性 1. 离散设定下的贝叶斯思想 1.1 如何将贝叶斯观点应用于离散数据? 优先考虑 生成 输入的 生成式模型 对比 判别式模型...