YEY Blog

Life is a long long journey.

数据科学统计建模 09：广义线性模型（GLM）

墨尔本大学 MAST90139 课程笔记

Lecture 09 广义线性模型（GLM）我们已经见过了广义线性模型的一些特例，其中，响应变量 $Y$ 服从伯努利分布。现在我们可以看一下更加广义的情况，响应变量 $Y$ 不再是正态的。本章将包含以下三部分：介绍估计推断 1. 介绍令 $Y_1,Y_2,\dots,Y_n$ 为随机变量 $Y$ 的独立观测，其关联的协变量向量为 $\mathbf x_1,\ma...

Posted by YEY on March 31, 2020

自然语言处理 08：NLP 深度学习：循环网络

墨尔本大学 COMP90042 课程笔记

Lecture 08 NLP 深度学习：循环网络上节课我们介绍了前馈神经网络，本节课我们将学习循环神经网络。 1. N-gram 语言模型让我们再次回到 n-gram 语言模型。可以基于词频计数（以及平滑技术）实现 n-gram 语言模型。给定一个语料库，基于其中 bigram/trigram 的频数实现语言模型，并且利用平滑技术处理稀疏性问题和未知单词 gram 的问题。...

Posted by YEY on March 26, 2020

自然语言处理 07：NLP 深度学习：前馈网络

墨尔本大学 COMP90042 课程笔记

Lecture 07 NLP 深度学习：前馈网络什么是深度学习？机器学习的一个分支。它是神经网络的另一个名字。神经网络：灵感来源于大脑的工作机制，包含被称为神经元的计算单元。为什么是深度？因为在现代深度学习模型中，有很多连接在一起的层。 1. 前馈神经网络 1.1 总体结构又称多层感知器（multilayer perceptrons...

Posted by YEY on March 25, 2020

人工智能自动规划 05：生成启发函数

墨尔本大学 COMP90054 课程笔记

Lecture 05 生成启发函数现在，我们来看一下如何生成启发函数。主要内容如下：动机非正式松弛正式松弛在搜索时松弛结论 1. 动机想象一下，你已经毕业了，并且入职了一家商业软件开发公司。老板：这里有一个问题需要解决。你（想）：嗯，我觉得启发式搜索可能会有用。你（想）：嗯，我需要一个启发函数，问题是怎么得到呢？想象一下，你是一个规划系统...

Posted by YEY on March 19, 2020

自然语言处理 06：序列标注：隐马尔可夫模型

墨尔本大学 COMP90042 课程笔记

Lecture 06 序列标注：隐马尔可夫模型本节课我们将学习一种自动词性标注模型：隐马尔可夫模型（Hidden Markov Models, HMM）。尽管在本节内容中我们将学习如何将 HMM 应用于词性标注，但实际上它是一种通用的机器学习模型，可以应用于任何序列标签问题。 1. 从局部分类器到隐马尔可夫模型 1.1 词性标注（POS Tagging）重新回顾 $\textit...

Posted by YEY on March 18, 2020