YEY Blog

Life is a long long journey.

统计机器学习 14：贝叶斯回归

墨尔本大学 COMP90051 课程笔记

Lecture 14 贝叶斯回归主要内容点估计没有捕捉到的不确定性贝叶斯方法保留了不确定性顺序贝叶斯更新共轭先验（Normal-Normal）利用后验在测试集上进行贝叶斯预测 1. 回顾贝叶斯 1.1 训练 = 优化？学习与推断阶段：对于分类问题：建模（以 Logistic 回归为例） \[p(y|\...

Posted by YEY on November 19, 2019

统计机器学习 13：多臂老虎机

墨尔本大学 COMP90051 课程笔记

Lecture 13 多臂老虎机主要内容随机多臂老虎机 “我们学会采取行动的地方；我们仅仅接受奖励形式的间接监督；并且我们只观测行动带来的奖励。” —— 这是一个关于如何权衡探索-利用（Exploration-Exploitation）最简单的设定不确定性下的顺序决策 $(\varepsilon)$-Greedy 算法 ...

Posted by YEY on November 18, 2019

统计机器学习 12：集成学习

墨尔本大学 COMP90051 课程笔记

Lecture 12 集成学习主要内容集成学习：对冲你的赌注 Bagging 和随机森林 Boosting Stacking 1. 集成学习集成学习：对冲你的赌注 1.1 为什么是 “一个正确” 的模型？到目前为止，我们已经讨论了各个模型，并在孤立 / 竞争中考虑了每个模型我们知道如何评估每个模型的性能（通过准确率、F-measure 等），这使我们...

Posted by YEY on November 17, 2019

统计机器学习 11：核方法

墨尔本大学 COMP90051 课程笔记

Lecture 11 核方法主要内容核化 SVM 对偶公式的基扩展 “核技巧”；特征空间点积的快速计算模块化学习从特征变换中分离出“学习模块” 表示定理构造核函数常见核函数及其特性概述 Mercer 定理学习非常规数据类...

Posted by YEY on November 16, 2019

统计机器学习 10：软间隔 SVM 、拉格朗日对偶

墨尔本大学 COMP90051 课程笔记

Lecture 10 软间隔 SVM 、拉格朗日对偶主要内容软间隔 SVM 直觉和问题的数学表述拉格朗日对偶具有不同训练复杂度的替代数学表述解释支持向量为学习核函数做准备（下节内容）上节回顾：硬间隔 SVM SVM 是一种线性二分类器最大间隔：旨在寻...

Posted by YEY on November 15, 2019