统计学系列条目
贝叶斯统计
理论
允许决策规则（英语：Admissible decision rule） 贝叶斯效率（英语：Bayesian efficiency） 贝叶斯概率 概率解释（英语：Probability interpretations） 贝叶斯定理 贝叶斯因子（英语：Bayes factor） 贝叶斯推断 贝叶斯网络 先验概率 后验概率 似然函数 共轭先验 后验预测分布（英语：Posterior predictive distribution） 超参数（英语：Hyperparameter） 超先验（英语：Hyperprior） 无差别原理（英语：Principle of indifference） 最大熵原理（英语：Principle of maximum entropy） 经验贝叶斯方法（英语：Empirical Bayes method） 克伦威尔法则（英语：Cromwell's rule） 伯恩斯坦–冯·米塞斯定理（英语：Bernstein–von Mises theorem） 施瓦兹准则（英语：Schwarz criterion） 置信区间 最大后验概率估计 激进概率主义（英语：Radical probabilism）
方法
贝叶斯线性回归（英语：Bayesian linear regression） 贝叶斯估计（英语：Bayesian estimator） 贝叶斯计算（英语：Approximate Bayesian computation） 马尔可夫链蒙特卡洛
概率与统计主题
查 论 编

贝叶斯推断（英语：Bayesian inference）是推断统计的一种方法。这种方法使用贝叶斯定理，在有更多证据及信息时，更新特定假设的概率。贝叶斯推断是统计学（特别是数理统计学）中很重要的技巧之一。贝叶斯更新（Bayesian updating）在序列分析中格外的重要。贝叶斯推断应用在许多的领域中，包括科学、工程学、哲学、医学、体育运动、法律等。在决策论的哲学中，贝叶斯推断和主观概率有密切关系，常常称为贝叶斯概率。

贝叶斯定理是由统计学家托马斯·贝叶斯（Thomas Bayes）根据许多特例推导而成，后来被许多研究者推广为一普遍的定理^[1]。

贝叶斯推断将后验概率（考虑相关证据或数据后，某一事件的条件概率）作为先验概率（考虑相关证据或数据前，某一事件不确定性的概率）和似然函数（由观测数据的统计模型（概率模型）推导而得）这两个前因导出的结果。贝叶斯推断根据贝叶斯定理计算后验概率：

${\displaystyle P(H\mid E)={\frac {P(E\mid H)\cdot P(H)}{P(E)))}$

其中

• ${\displaystyle \textstyle \mid }$表示将某事件成立作为条件（因此${\displaystyle \textstyle (A\mid B)}$表示“假定 B 事件成立下，A 事件发生”）
• ${\displaystyle \textstyle H}$表示假说，其概率可能会受实验数据（以下会称为证据）影响。一般来说会有许多互相矛盾的假说，任务是要确认哪一个假说可能性最高。
• ${\displaystyle \textstyle E}$表示证据。证据对应新的数据，也就是还没用来计算先验概率的数据。
• ${\displaystyle \textstyle P(H)}$，先验概率，是观察到数据${\displaystyle \textstyle E}$（目前证据）之前，假说${\displaystyle \textstyle H}$的概率。
• ${\displaystyle \textstyle P(H\mid E)}$，后验概率，是在给定证据 ${\displaystyle \textstyle E}$之后，假说${\displaystyle \textstyle H}$的概率，是希望求得的信息，也就是在有目前证据时，假说${\displaystyle \textstyle H}$的概率。
• ${\displaystyle \textstyle P(E\mid H)}$是假定 ${\displaystyle \textstyle H}$成立时，观察到${\displaystyle \textstyle E}$的概率。在${\displaystyle \textstyle H}$不变时，这是${\displaystyle \textstyle E}$的函数，也是似然函数，指出在给定假设下假说和证据的相容程度。似然函数是证据${\displaystyle \textstyle E}$的函数，而后验概率是假说${\displaystyle \textstyle H}$的函数。
• ${\displaystyle \textstyle P(E)}$有时会称为边缘似然率（英语：marginal likelihood）。此系数对所有可能的假说都是定值，因此在判断不同假说的相对概率时，不会用到这个系数中。

针对不同的${\displaystyle \textstyle H}$数值，只有${\displaystyle \textstyle P(H)}$和${\displaystyle \textstyle P(E\mid H)}$（都在分子）会影响${\displaystyle \textstyle P(H\mid E)}$的数值。假说的后验概率和其先验概率（固有似然率）和新产生的似然率（假说和新得到证据的相容性）乘积成正比。

贝叶斯定理也可以写成下式：

${\displaystyle P(H\mid E)={\frac {P(E\mid H)}{P(E)))\cdot P(H)}$

其中系数${\displaystyle \textstyle {\frac {P(E\mid H)}{P(E)))}$可以解释成${\displaystyle E}$对${\displaystyle H}$概率的影响。

贝叶斯推断最关键的点是可以利用贝叶斯定理结合新的证据及以前的先验概率，来得到新的概率（这和频率学派推断相反，频率论推断只考虑证据，不考虑先验概率）。

而且贝叶斯推断可以迭代使用：在观察一些证据后得到的后设概率可以当作新的先验概率，再根据新的证据得到新的后设概率。因此贝叶斯定理可以应用在许多不同的证据上，不论这些证据是一起出现或是不同时出现都可以，这个程序称为贝叶斯更新（Bayesian updating）。

• ${\displaystyle x}$是数据点，可能是一个有许多数值形成的向量（英语：random vector）。
• ${\displaystyle \theta }$是数据点分布的参数，也就是说${\displaystyle x\sim p(x\mid \theta )}$。这也有可能是参数形成的向量。
• ${\displaystyle \alpha }$是参数的超参数（英语：hyperparameter），也就是说${\displaystyle \theta \sim p(\theta \mid \alpha )}$。这也有可能是超参数形成的向量。
• ${\displaystyle \mathbf {X} }$，由观测到的${\displaystyle n}$个数据点组成的一组数据，${\displaystyle x_{1},\ldots ,x_{n))$.
• ${\displaystyle {\tilde {x))}$，需预测分布的新数据点。

• 先验分布是在观测资料前的参数分布${\displaystyle p(\theta \mid \alpha )}$。
• 先验分布可能不容易确认，此时可以用杰佛里斯事前分配（英语：Jeffreys prior）在更新较新的观测值时，先获得后验分布。
• 取样分布（英语：sampling distribution）是以观测资料的条件，其参数的分布${\displaystyle p(\mathbf {X} \mid \theta )}$。这也称为似然函数，尤其是视为是参数的函数时，有时会写成${\displaystyle \operatorname {L} (\theta \mid \mathbf {X} )=p(\mathbf {X} \mid \theta )}$。
• 边缘似然率（英语：marginal likelihood）（有时也称为证据）是观测资料在参数上的边缘分布${\displaystyle p(\mathbf {X} \mid \alpha )=\int _{\theta }p(\mathbf {X} \mid \theta )p(\theta \mid \alpha )\operatorname {d} \!\theta }$。
• 后验分布是考虑观测资料后的参数分布。可以由贝叶斯定理确认，也是贝叶斯推断的核心：

${\displaystyle p(\theta \mid \mathbf {X} ,\alpha )={\frac {p(\mathbf {X} \mid \theta )p(\theta \mid \alpha )}{p(\mathbf {X} \mid \alpha )))\propto p(\mathbf {X} \mid \theta )p(\theta \mid \alpha )}$

若用文字表示，即为“后验和先验及似然率的乘积成正比”，有时也会写成“后验 = 先验 × 似然率，在有证据的情形下”。

贝叶斯推断有在人工智能及专家系统上应用。自1950年代后期开始，贝叶斯推断技巧就是电脑模式识别技术中的基础。现在也越来越多将贝叶斯推断和以模拟为基础的蒙特卡洛方法合并使用的应用，因为一些模杂的模型无法用贝叶斯分析得到解析解，因图模式结构可以配合一些快速的模拟方式（例如吉布斯抽样或是其他Metropolis–Hastings算法）^[2]。因为上述理由，贝叶斯推断在系统发生学研究社群中来越受到重视，许多的应用可以用同时估测许多人口和进化参数。

“贝叶斯”是指托马斯·贝叶斯（1702–1761），他证明了一个特例（现在知道是贝叶斯定理的特例），不过皮埃尔-西蒙·拉普拉斯（1749–1827）推导了此定理的一般版本，应用在天体力学、医疗统计学、可靠度（英语：Reliability (statistics)）及法学上^[3]。早期的贝叶斯推断是用拉普拉斯不充分理由原则（英语：principle of insufficient reason）所得的均匀先验，称为逆向概率（英语：inverse probability）（因为是由观测值倒推参数的归纳推理，或是从结果倒推到原因^[4]）。在1920年代以后，逆向概率很大程度的被另一群称为频率论统计（英语：frequentist statistics）的方式取代^[4]。

二十世纪时，拉普拉斯的概念往下分支为二派，开始出现主观贝叶斯方法及客观贝叶斯方法。客观贝叶斯方法（或是不提供信息的贝叶斯方法）中，统计分析只依照假设的模型、分析的资料^[5]以及给定先验分布的方式（不同的客观贝叶斯方法会有不同给定先验分布的方式）。主观贝叶斯方法（或是提供信息的贝叶斯方法）中，先验的规格依信念（也是分析希望要呈现的主张）而定，信念可以由专家整理信息后总结产生，也可以根据以往的研究等。

1980年代发现了马尔科夫蒙特卡洛方法，让贝叶斯方法的研究及应用有大幅的发展，除去了许多运算上的问题，也有越来越多人愿意参与非标准的复杂问题^[6]。不过虽然贝叶斯方法的研究仍在成长，大部分大学本科的教学仍是以频率论统计（英语：frequentist statistics）为基础 ^[7]。不过贝叶斯方法也广为许多领域接受及应用，例如在机器学习的领域中^[8]。

• 贝叶斯统计
• 贝叶斯定理
• 贝斯分析（英语：Bayesian Analysis (journal)），ISBA期刊
• 贝叶斯分级模型（英语：Bayesian hierarchical modeling）
• 贝叶斯概率
• 归纳概率（英语：Inductive probability）
• 国际贝斯分析协会（英语：International Society for Bayesian Analysis）（ISBA）
• 杰佛里斯事前分配（英语：Jeffreys prior）
• 贝斯结构性时间序列（英语：Bayesian structural time series）（BSTS）
• 蒙提霍尔问题

查 论 编 统计学 描述统计学 连续概率 集中趋势 平均数 平方 算术 几何 调和 算术-几何 几何-调和 希罗／平均数不等式 中位数 众数 离散程度 全距 变异系数 百分位数 四分位距 四分位数 标准差 方差 平均差 标准分数 切比雪夫不等式 基尼系数 分布形态（英语：Shape of the distribution） 中心极限定理 矩 偏态 峰态 离散概率 次数（英语：Count data） · 列联表（英语：Contingency table） 推断统计学 和假设检验 推断统计学 置信区间 区间估计 显著性差异 元分析 贝叶斯推断 实验设计 总体 抽样 重抽样 刀切法 自助法 交叉验证 重复（英语：Replication (statistics)） 阻碍 灵敏度和特异度 区集（英语：Blocking (statistics)） 缺失数据 样本量（英语：Sample size） 标准误 零假设 备择假设 第一类错误与第二类错误 统计功效 效应值 常规估计 贝叶斯推断 区间估计 最大似然估计 最小距离估计（英语：Minimum distance estimation） 矩估计 最大间距 假设检验 Z检验 学生t检验 F检验 卡方检验 Wald检验（英语：Wald test） 曼-惠特尼检验（英语：Mann–Whitney U test） 秩和检验 生存分析 生存函数 乘积极限估计量 对数秩和检验 失效率 危险比例模式 相关及 回归分析 相关性 干扰因素 皮尔逊积矩相关系数 等级相关（英语：Rank correlation） (斯皮尔曼等级相关系数 肯德等级相关系数（英语：Kendall tau rank correlation coefficient）) 自由度 误差和残差 线性回归 线性模型（英语：Linear model） 一般线性模型 广义线性模型 简单线性回归 普通最小二乘法 贝叶斯回归（英语：Bayesian linear regression） 方差分析 协方差分析（英语：Analysis of covariance） 非线性回归 非参数回归模型（英语：Nonparametric regression） 半参数回归模型（英语：Semiparametric regression） 逻辑斯谛回归 统计图形 饼图 条形图 双标图 箱形图 管制图 森林图（英语：Forest plot） 直方图 分位图 趋势图 散点图 茎叶图 雷达图（英语：Radar chart） 示意地图 其他 统计类型（维基数据所列：Q47103999） 回应过程效度 统计误用 分类 主题 共享资源 专题

规范控制数据库：各地 德国 以色列 美国 捷克