概率分布、期望与方差

🎲 概率分布描述随机性的形状，期望是"平均结果"，方差衡量"结果有多分散"。

随机变量

• 离散型：取有限或可数个值（如掷骰子）
• 连续型：在区间内取值（如身高、温度）

---

概率质量函数 / 概率密度函数

离散型 PMF

$P(X = x_i) = p_i,\quad \sum_i p_i = 1$

连续型 PDF

$P(a \leq X \leq b) = \int_a^b f(x)\,dx,\quad \int_{-\infty}^{+\infty} f(x)\,dx = 1$

---

常见分布

离散分布

分布	参数	PMF	期望	方差
伯努利	$p$	$p^x(1-p)^{1-x}$	$p$	$p(1-p)$
二项	$n,p$	$\binom{n}{k}p^k(1-p)^{n-k}$	$np$	$np(1-p)$
泊松	$\lambda$	$\frac{\lambda^k e^{-\lambda}}{k!}$	$\lambda$	$\lambda$
几何	$p$	$(1-p)^{k-1}p$	$1/p$	$(1-p)/p^2$

连续分布

分布	PDF	期望	方差
均匀 $U(a,b)$	$\frac{1}{b-a}$	$\frac{a+b}{2}$	$\frac{(b-a)^2}{12}$
指数 $\text{Exp}(\lambda)$	$\lambda e^{-\lambda x}$	$1/\lambda$	$1/\lambda^2$
正态 $N(\mu,\sigma^2)$	$\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$	$\mu$	$\sigma^2$

---

期望（均值）

$E[X] = \sum_i x_i p_i \quad \text{（离散）}, \qquad E[X] = \int x f(x)\,dx \quad \text{（连续）}$

期望的线性性

$E[aX + bY] = aE[X] + bE[Y]$

即使 $X$、$Y$ 不独立也成立！

---

方差与标准差

$\text{Var}(X) = E[(X - E[X])^2] = E[X^2] - (E[X])^2$

$\sigma = \sqrt{\text{Var}(X)}$

运算规则

$\text{Var}(aX + b) = a^2 \text{Var}(X)$

$\text{Var}(X + Y) = \text{Var}(X) + \text{Var}(Y) + 2\text{Cov}(X,Y)$

---

协方差与相关系数

$\text{Cov}(X,Y) = E[(X-\mu_X)(Y-\mu_Y)] = E[XY] - E[X]E[Y]$

$\rho_{XY} = \frac{\text{Cov}(X,Y)}{\sigma_X \sigma_Y} \in [-1, 1]$

• $\rho = 1$：完全正相关
• $\rho = 0$：线性无关（不一定独立）
• $\rho = -1$：完全负相关

---

大数定律与中心极限定理

大数定律

$\frac{X_1 + X_2 + \cdots + X_n}{n} \xrightarrow{P} \mu \quad (n \to \infty)$

中心极限定理（CLT）

$\frac{\bar{X} - \mu}{\sigma / \sqrt{n}} \xrightarrow{d} N(0, 1)$

无论原始分布是什么，样本均值在 $n$ 足够大时近似正态分布。

---

常见误区

• 独立 $\Rightarrow$ 不相关，但不相关 $\not\Rightarrow$ 独立（正态分布是例外）
• 方差不是线性的：$\text{Var}(X+Y) \neq \text{Var}(X) + \text{Var}(Y)$（除非独立）
• 期望可能不存在（如柯西分布）

---

Manim 可视化思路

• 正态分布动画：$\mu$ 平移，$\sigma$ 缩放的实时演示
• CLT 演示：从均匀分布多次取均值，展示逐步趋近正态
• 直方图 + PDF 叠加：模拟数据与理论分布的对比