GAMES001课程笔记07-概率论I
这个系列是GAMES001-图形学中的数学(GAMES 001: Mathematics in Computer Graphics)的同步课程笔记。课程旨在总结归纳图形学学习过程中重要的数学概念、理论和方法,并将以索引的形式在每一章节中穿插讲解该数学专题在图形学中的应用。本课程既可以作为GAMES系列其它课程学习的基础或「手册」,也可以作为站在不一样的视角复习图形学知识的平台。本节主要介绍概率论的基础知识。
概率
从频率到概率
「频率」和「概率」是两个密切相关的概念。我们把

古典概型
在古典概型中,我们认为样本空间只包含有限多的元素而且每个基本事件发生的可能性相同,因此古典概型也称为等可能概型。根据古典概型的定义,事件

条件概率
在概率的基础上我们可以定义条件概率。我们定义事件
其中
基于条件概率,我们可以进一步推导出全概率公式:
其中,事件
另一个重要的概率公式是贝叶斯公式:
贝叶斯公式在数据分析、机器学习等领域都有着重要的应用。

随机变量
古典概型只适用于基本事件具有相同发生可能性的情况,对于更复杂的问题我们需要引入随机变量的概念。我们定义随机变量


随机变量的数字特征
数学期望
随机变量的数学期望定义为随机变量与其对应的概率相乘再求和:
数学期望的常用性质可以参考下面的ppt。

方差
方差描述了随机变量偏离其均值的程度,它的计算公式为

协方差
协方差描述了两个随机变量
在协方差的基础上,我们还可以定义
协方差的一个性质是相互独立的两个随机变量它们的协方差为0。但需要注意这个命题的逆命题不成立,即协方差为0不能推导出两个随机变量相互独立。

协方差的概念还可以推广到多维的情况,此时我们可以通过协方差矩阵来描述每一对随机变量之间的相关性。

矩

泊松分布
泊松分布是一种重要的离散型随机变量分布。令
- 一个事件的发生不影响其它事件的发生,即事件相互独立。
- 每个事件发生的概率是相同的。
- 两个事件不能在同一时刻发生。
- 一个区间内事件的概率与区间大小成比例。
设单位区间内事件发生的平均次数为

指数分布
指数分布是一种重要的连续型随机变量分布。参数为
指数分别的一个重要性质是无记忆性,即

大数定律和中心极限定理
大数定律
弱大数定律指出,相互独立且服从相同分布的随机变量序列
而伯努利大数定律则指出,事件发生的频率依概率收敛于事件的总体概率

中心极限定理
中心极限定理指出,独立同分布的随机变量
更常见的形式为:

对于非独立同分布的情况,Lyapunov定理指出只要随机变量是相互独立的,当满足一定条件时,它们的和仍然能够收敛到正态分布。
此外,De Moivre–Laplace定理指出二项分布的极限是标准正态分布。
