读《趣学贝叶斯统计》

《趣学贝叶斯统计》各章要点与思考

威尔·库尔特（Will Kurt）著，共19章，分四部分。以下为每章要点提炼、涉及公式、及一个思考题。

第一部分 概率导论

第1章 贝叶斯思维和日常推理

重点

  • 人在日常生活中天然具备“概率思维”：面对不确定情况时会不自觉地权衡各种可能性。
  • 贝叶斯推理的核心：观察到新数据后，不断更新自己对世界的“信念”（belief）。
  • 先验信念（prior belief）来自过往经验的积累；数据应该用来修正信念，而不是让信念反过来扭曲对数据的解读。
  • 比较多个假设时，要看哪个假设能更好地解释已观察到的数据。

思考 在你最近的一次判断失误中，是不是因为先入为主的信念影响了你对新证据的解读，而不是让证据来更新信念？

第2章 度量不确定性

重点

  • 概率的两种理解方式：频率学派的“事件发生次数计数法”，以及贝叶斯学派的“信念比值法”。
  • 概率可以通过对可能结果计数得到：P(A) = 有利结果数 / 总结果数。
  • 也可以通过赔率/胜算率（odds）表达信念强弱，赔率与概率可相互换算：
    • odds(A) = P(A) / (1 − P(A))
    • P(A) = odds(A) / (1 + odds(A))

思考 如果朋友说“我有八成把握赢这场比赛”，换算成赔率是多少？这种“把握”本质上是频率还是信念？

第3章 不确定性的逻辑

重点

  • 概率的“与”（AND）运算：两个独立事件同时发生的概率是各自概率相乘：
    • P(A and B) = P(A) × P(B)（独立事件）
  • 概率的“或”（OR）运算：两个事件至少发生一个的概率，需要减去重复计数的部分：
    • P(A or B) = P(A) + P(B) − P(A and B)
  • 互斥事件（不能同时发生）时 P(A and B) = 0，OR 直接相加即可。

思考 生活中有哪些看似独立、实际上并不独立的事件？如果直接用 P(A)×P(B) 计算，会不会低估或高估真实概率？

第4章 创建二项分布

重点

  • 二项分布描述“进行 n 次独立伯努利试验，成功 k 次”的概率分布。
  • 二项分布公式：
    • P(X=k) = C(n,k) · p^k · (1−p)^(n−k)
  • 二项式系数（组合数）计算结果的排列组合方式数：
    • C(n,k) = n! / (k!(n−k)!)
  • 通过抽象出“独立试验 + 固定成功概率”的结构，可以把很多看似不同的问题（如抽奖、检验合格率）纳入同一个模型。

思考 如果你把一个真实场景（比如每天投篮10次）抽象成二项分布，哪些前提假设（独立性、概率恒定）可能并不完全成立？

第5章 β分布

重点

  • β分布是二项分布的“反问题”：已知观测到的成功/失败次数，反推“成功概率 p 本身”的分布，而不是反推结果次数。
  • β分布的概率密度函数：
    • Beta(p; α, β) = [p^(α−1) · (1−p)^(β−1)] / B(α, β)
    • 其中 B(α, β) 是贝塔函数，用于归一化。
  • 参数 α 对应“观测到的成功次数+1”，β 对应“观测到的失败次数+1”（在均匀先验下）。
  • β分布让我们能用一个概率分布，而不是单一点估计，来表达对“成功率”这个参数的不确定性。

思考 如果两次实验的样本量差异很大（比如10次中4次成功 vs. 1000次中400次成功），β分布会如何体现这种“确定程度”上的差异？

第二部分 贝叶斯概率和先验概率

第6章 条件概率

重点

  • 条件概率描述“在已知B发生的前提下，A发生的概率”：
    • P(A|B) = P(A and B) / P(B)
  • “逆概率”问题：已知 P(A|B)，如何求 P(B|A)？这正是贝叶斯定理要解决的问题。
  • 贝叶斯定理的基本形式：
    • P(A|B) = P(B|A) · P(A) / P(B)

思考 “体检呈阳性”和“真的患病”这两件事，哪个是A，哪个是B？为什么直接把 P(阳性|患病) 当作 P(患病|阳性) 是常见的误区？

第7章 贝叶斯定理和乐高积木

重点

  • 用乐高积木堆叠出的“面积图”，直观展示条件概率其实就是“某个区域占另一个区域的比例”。
  • 通过空间/面积推理，可以不借助公式，直接“看出”贝叶斯定理成立的原因。
  • 数学推导印证了直观理解：分子是“两件事同时发生”的面积，分母是“条件事件”的总面积。

思考 如果让你用一个生活中的实物（不一定是乐高）向别人解释贝叶斯定理，你会选择什么类比？

第8章 贝叶斯定理的先验概率、似然和后验概率

重点

  • 贝叶斯定理的三要素：
    • 后验概率 = 似然 × 先验概率 / 边缘概率
    • P(H|D) = P(D|H) · P(H) / P(D)
    • 其中 P(H) 是先验概率，P(D|H) 是似然，P(H|D) 是后验概率。
  • 犯罪现场调查的例子说明：先验（嫌疑人本身的可能性）和似然（证据在该嫌疑人假设下出现的概率）要结合起来看，缺一不可。
  • 当需要比较多个假设、而边缘概率 P(D) 难以直接计算时，可以只比较“未归一化的后验概率”（即 P(D|H)·P(H)），再做归一化排序。

思考 在你评估一件事情（比如某个传闻是否属实）时，你有没有过“只看似然（证据本身有多支持）而忽略先验（这件事本身发生的基础概率）“的情况？

第9章 贝叶斯先验概率和概率分布

重点

  • 用《星球大战》中“汉·索罗穿越小行星带”的例子，说明先验信念本身也可以是一个概率分布，而不只是单一数值。
  • C-3PO给出的“成功率极低”的先验，与汉·索罗基于经验形成的先验分布不同，导致两者对同一件事的判断产生分歧。
  • 用后验概率分布而非单一后验概率值，可以更完整地表达“这件事情有多大把握、把握本身有多稳固”。

思考 两个人依据同样的数据，却因为先验分布形状不同（比如一个更“自信”、一个更“保守”）得出截然不同的结论，谁更“理性”？该如何判断？

第三部分 参数估计

第10章 均值法和参数估计介绍

重点

  • 参数估计的目标：用观测数据推断一个未知的、真实存在的参数值（如某地平均降雪量）。
  • 区分“测量误差引起的均值”（多次测量同一量取平均以减小误差）与“总体本身的均值”（描述一群不同个体的平均水平），二者含义不同但计算方式相同：
    • mean = (Σxᵢ) / n

思考 在你日常接触的“平均值”里，有没有把“多次测量的平均”和“个体差异的平均”混为一谈的情况？

第11章 度量数据的离散程度

重点

  • 平均绝对偏差（衡量数据点与均值的平均距离）：
    • MAD = (Σ|xᵢ − mean|) / n
  • 方差（对偏差取平方后求平均，放大了较大偏差的影响）：
    • Var(X) = (Σ(xᵢ − mean)²) / n
  • 标准差（方差开平方，恢复到与原数据同量纲）：
    • SD(X) = √Var(X)

思考 为什么统计学更常用“方差/标准差”而不是“平均绝对偏差”来衡量离散程度？平方运算带来了什么好处和代价？

第12章 正态分布

重点

  • 正态分布（钟形曲线）常用于描述连续型随机变量，尤其是很多独立随机因素叠加的结果（如引火线燃烧时间）。
  • 正态分布的概率密度函数：
    • f(x) = 1/(σ√(2π)) · exp(−(x−μ)²/(2σ²))
  • “N西格玛事件”：用标准差的倍数衡量一个观测值偏离均值的程度，倍数越大，事件越“极端”、越罕见。
  • 当β分布的样本量足够大时，其形状会趋近于正态分布，两者在特定条件下可以互相近似。

思考 生活或工作中，你遇到过被称为“三西格玛事件”“黑天鹅事件”的情况吗？回头看，它真的像统计上定义的那样“极端”吗？

第13章 参数估计工具：PDF、CDF和分位函数

重点

  • 概率密度函数（PDF）描述某个值附近的相对概率密度，本身不是概率，需要积分才能得到区间概率。
  • 累积分布函数（CDF）表示“随机变量小于等于某值”的概率：
    • CDF(x) = P(X ≤ x) = ∫₋∞ˣ PDF(t) dt
  • 分位函数（Quantile function）是CDF的反函数：给定一个概率值，求出对应的临界点，常用于计算置信区间/可信区间。

思考 如果你只知道某个转化率的“平均值”，而不知道它的PDF/CDF形状，你的决策会不会遗漏掉重要的不确定性信息？

第14章 有先验概率的参数估计

重点

  • 在参数估计中引入先验概率，可以把过往经验（比如行业里邮件转化率的常见范围）纳入模型，而不是仅依赖当前这一批小样本数据。
  • 先验可以理解为“量化的经验”：把模糊的直觉转化为具体的概率分布形状（如β分布的α、β参数）。
  • 当对参数“一无所知”时，也存在相对“平坦”或“无信息”的先验可供使用，但选择哪种先验本身仍需要谨慎，并非完全没有影响。

思考 “完全不设先验”真的可能吗？还是说，不特意选择先验本身，其实也隐含了一种（往往是均匀分布的）先验假设？

第四部分 假设检验：统计的核心

第15章 从参数估计到假设检验：构建贝叶斯A/B测试

重点

  • 贝叶斯A/B测试的思路：分别为A、B两组建立各自的后验概率分布（如转化率的β分布），再比较两个分布。
  • 蒙特卡罗模拟：通过从两组后验分布中大量随机抽样，统计“B优于A”的抽样比例，从而估计“B比A更好”的概率，避免复杂的解析积分。

思考 比起频率学派A/B测试给出的“p值/是否显著”，贝叶斯方法直接给出“B比A好的概率”，这种表达方式对业务决策者来说，哪个更直观、更容易被误解？

第16章 贝叶斯因子和后验胜率简介：思想的竞争

重点

  • 重新审视贝叶斯定理，把假设检验看作“两个竞争假设之间的比较”，而非单一假设的“真伪判断”。
  • 贝叶斯因子（Bayes Factor）是两个假设下似然的比值，衡量数据对哪个假设的支持力度更大：
    • BF = P(D|H₁) / P(D|H₂)
  • 后验胜率（posterior odds）= 贝叶斯因子 × 先验胜率：
    • posterior odds = BF × prior odds

思考 贝叶斯因子只反映“数据支持谁”，而后验胜率还要乘上“先验胜率”。如果两个人对同一批数据算出相同的贝叶斯因子，却因先验不同得出相反结论，问题出在谁身上？

第17章 电视剧中的贝叶斯推理

重点

  • 借助虚构场景（“神秘预言家”能否真的预知未来），演示如何用贝叶斯因子对“某人是否具有超能力”这类极端假设进行理性评估。
  • 强调：面对极不寻常的说法，需要极强的证据（很大的贝叶斯因子）才能让后验胜率发生实质性改变，否则先验（“大多数人没有超能力”）依然占主导。

思考 “非凡的主张需要非凡的证据”这句话，用贝叶斯因子和先验胜率的语言该如何具体表达？你能举一个现实生活中类似的例子吗？

第18章 当数据无法让你信服时

重点

  • 探讨“为什么同样的数据，无法说服一个先验极端（比如坚信朋友有超能力，或坚信某阴谋论）的人”。
  • 当先验胜率极端悬殊时，即使贝叶斯因子较大，后验胜率也可能仍然不足以推翻原有信念，这从数学上解释了“和阴谋论者争论为什么很难奏效”。

思考 面对一个先验极其顽固的人，除了“提供更多证据”，从贝叶斯的角度看，还有什么办法能真正改变他们的后验信念（如果有的话）？

第19章 从假设检验到参数估计

重点

  • 回到“嘉年华捞鸭子游戏是否公平”的具体问题：先用贝叶斯因子比较“公平”与“不公平”两个简单假设，再进一步扩展为对“中奖概率 p 具体是多少”的完整概率分布估计。
  • 展示了假设检验和参数估计并非割裂的两套方法，而是可以相互转化、相互补充的连续过程：从“是或否”的判断，深化为“到底是多少”的刻画。

思考 在你自己的工作或生活决策中，有没有本可以从“非黑即白的假设检验”升级为“完整的参数估计”，从而获得更丰富信息的场景？

附录内容

  • 附录A：R语言快速入门（RStudio、脚本、基本语法、函数、随机抽样、自定义函数、绘图、股票价格模拟练习）
  • 附录B：必要的微积分知识（函数、微积分基本定理，用于理解PDF与CDF之间的积分关系）
  • 附录C：各章练习题答案