YEY Blog

Life is a long long journey.

统计机器学习 09：支持向量机（SVM）

墨尔本大学 COMP90051 课程笔记

Lecture 09 支持向量机（SVM）主要内容支持向量机（SVM）作为最大间隔分类器硬间隔 SVM 目标函数推导 SVM 目标函数作为正则化损失函数 1. 最大间隔分类器：动机线性二分类问题的新突破 1.1 开篇：线性 SVM 在第一部分中，我们将考虑 SVM 的基本设置，称为线性硬间隔 SVM。这些定义现在看来没有多大意义，但是在后面的学习中我们将回到这...

Posted by YEY on November 14, 2019

统计机器学习 08：深度学习、卷积神经网络和自动编码器

墨尔本大学 COMP90051 课程笔记

Lecture 08 深度学习、卷积神经网络和自动编码器主要内容深度学习表示能力深度模型与表示学习卷积神经网络卷积操作基于卷积的网络的元素自动编码器学习有效的编码 1. 深度学习与表示学习隐藏层被视为特征空间的转换 1...

Posted by YEY on November 13, 2019

统计机器学习 07：多层感知器和反向传播

墨尔本大学 COMP90051 课程笔记

Lecture 07 多层感知器和反向传播主要内容多层感知器模型结构通用近似定理预训练反向传播按步推导正则化注意事项 1. 多层感知器通过复合函数对非线性建模动物园里的动物递归神经网络不在本节范围内自动编码器一种是经过特定方式训练...

Posted by YEY on November 12, 2019

统计机器学习 06：感知器

墨尔本大学 COMP90051 课程笔记

Lecture 06 感知器主要内容感知器人工神经网络简介感知器模型随机梯度下降（SGD） 1. 人工神经网络简介 1.1 生物学的灵感人类在许多重要任务上都表现出色最初，神经网络是一种模仿人脑的尝试 1.2 人工神经网络作为一种粗略的近似，可以将人脑视为一张由互相连接的处理节点（...

Posted by YEY on November 11, 2019

统计机器学习 05：正则化

墨尔本大学 COMP90051 课程笔记

Lecture 5 正则化主要内容正则化是通过引入其他信息以解决病态问题或防止过拟合的过程。贯穿机器学习的主要技术和主题解决以下一个或多个相关问题避免病态（计算问题）避免过度拟合（统计问题）将先验知识引入建模过程这是通过在目标函数上增加一些项来实现的在本节中：我们涵盖了前两个方面。我们将在整个课...

Posted by YEY on November 9, 2019