机器学习 # 为什么机器学习要求数据是独立同分布的？

• 先修知识：《概率论与数理统计》

随机过程 Stochastic Process

随机过程，是依赖于参数的一组随机变量的全体，参数通常是时间。随机变量是随机现象的数量表现，其取值随着偶然因素的影响而改变。例如，某商店在从时间t0到时间tK这段时间内接待顾客的人数，就是依赖于时间t的一组随机变量，即随机过程。

划重点： 注意品一下“一组随机变量”这里的“一组”的含义。

数学上的随机过程可以简单的定义为一组随机变量，即指定一参数集，对于其中每一参数点t指定一个随机变量x(t)。如果回忆起随机变量自身就是一个函数，以ω表示随机变量x(t)的定义域中的一点，并以x(t，ω)表示随机变量在ω的值，则随机过程就由刚才定义的点偶(t，ω)的函数以及概率的分配完全确定。如果固定t，这个二元函数就定义一个ω的函数，即以x(t)表示的随机变量。如果固定ω，这个二元函数就定义一个t的函数，这是过程的样本函数。

Ref:

1. https://baike.baidu.com/item/%E9%9A%8F%E6%9C%BA%E8%BF%87%E7%A8%8B/368895
2. https://www.zhihu.com/question/26694486/answer/349872296
3. https://zh.wikipedia.org/wiki/%E9%9A%8F%E6%9C%BA%E8%BF%87%E7%A8%8B

独立同分布 Independent and