跳到主要内容

贝叶斯定理与统计推断

🔍 贝叶斯思维：在新证据下更新信念。统计推断的核心是从样本数据推断总体规律。

贝叶斯定理​

公式​

P(A∣B)=P(B∣A)⋅P(A)P(B)P(A|B) = \frac{P(B|A)\cdot P(A)}{P(B)}

术语​

术语含义
P(A)P(A)先验概率：观测到 BB 之前对 AA 的信念
$P(BA)$似然度：假设 AA 成立时，BB 发生的概率
P(B)P(B)边际概率：BB 发生的总概率（归一化常数）
$P(AB)$后验概率：观测到 BB 后对 AA 的更新信念

全概率公式​

P(B)=∑iP(B∣Ai)⋅P(Ai)P(B) = \sum_i P(B|A_i)\cdot P(A_i)

经典例题：医疗检测​

某病患病率 P(D)=0.01P(D) = 0.01，检测灵敏度 P(+∣D)=0.99P(+|D) = 0.99，特异度 P(−∣Dˉ)=0.95P(-|\bar{D}) = 0.95。

问：检测阳性时真的患病概率？

P(D∣+)=0.99×0.010.99×0.01+0.05×0.99≈16.7%P(D|+) = \frac{0.99 \times 0.01}{0.99 \times 0.01 + 0.05 \times 0.99} \approx 16.7\%

直觉：患病率极低时，即使检测很准，阳性结果也大多是假阳性。

频率学派 vs 贝叶斯学派​

观点频率学派贝叶斯学派
概率是什么长期频率信念程度
参数固定未知量随机变量，有先验分布
推断工具置信区间、假设检验后验分布、可信区间
数据使用只用当前数据先验 + 数据

统计推断基础​

点估计​

用统计量估计总体参数：

  • 矩估计：令样本矩 = 总体矩求解参数
  • 最大似然估计（MLE）：θ^=arg⁡max⁡θL(θ∣x)\hat{\theta} = \arg\max_\theta L(\theta|\mathbf{x})

MLE 直觉：找最能"解释"观测数据的参数值。

区间估计（置信区间）​

Xˉ±zα/2⋅σn\bar{X} \pm z_{\alpha/2} \cdot \frac{\sigma}{\sqrt{n}}

95% 置信区间：z0.025=1.96z_{0.025} = 1.96

⚠️ 常见误解：置信区间不是"真参数有 95% 概率在区间内"，而是"重复实验 100 次，约 95 次构造的区间包含真参数"。

假设检验​

步骤​

  1. 提出 H0H_0（零假设）和 H1H_1（备择假设）
  2. 选择检验统计量
  3. 计算 pp 值
  4. 根据显著性水平 α\alpha 决策

p 值​

p-value=P(观测到当前结果或更极端∣H0 为真)p\text{-value} = P(\text{观测到当前结果或更极端} \mid H_0 \text{ 为真})

p<αp < \alpha（如 0.05）：拒绝 H0H_0。

两类错误​

H0H_0 为真H0H_0 为假
拒绝 H0H_0第一类错误（α\alpha，假阳性）正确（统计功效 1−β1-\beta）
不拒绝 H0H_0正确（1−α1-\alpha）第二类错误（β\beta，假阴性）

贝叶斯推断流程​

P(θ∣data)⏟后验∝P(data∣θ)⏟似然⋅P(θ)⏟先验\underbrace{P(\theta|\text{data})}_{\text{后验}} \propto \underbrace{P(\text{data}|\theta)}_{\text{似然}} \cdot \underbrace{P(\theta)}_{\text{先验}}

共轭先验：选择特殊先验使后验与先验同族，简化计算：

  • 二项似然 + Beta 先验 → Beta 后验
  • 正态似然 + 正态先验 → 正态后验

Manim 可视化思路​

  • 贝叶斯更新动画：先验 → 观测数据 → 后验分布的动态更新
  • 医疗检测树状图：患病与阳性的条件概率可视化
  • 置信区间演示：重复采样，展示哪些区间包含真参数