贝叶斯定理(数学定理)

2023-12-26 17阅读

贝叶斯定理

数学定理

贝叶斯定理是统计学中非常重要的一个定理,1763被托马斯-贝叶斯提出,以贝叶斯定理为基础的统计学派在统计学世界里占据着重要的地位,和概率学派从事件的随机性出发不同,贝叶斯统计学更多地是从观察者的角度出发,事件的随机性不过是观察者掌握信息不完备所造成的,观察者所掌握的信息多寡将影响观察者对于事件的认知。

中文名 贝叶斯定理
外文名 Bayes' theorem
别名 贝叶斯公式
表达式 P(A|B)=P(B|A)*P(A)/P(B)
提出者 贝叶斯
提出时间
适用领域 概率论
应用学科 数学

定理定义

所谓贝叶斯公式,是指当分析样本大到接近总体数时,样本中事件发生的概率将接近于总体中事件发生的概率。但行为经济学家发现,人们在决策过程中往往并不遵循贝叶斯规律,而是给予最近发生的事件和最新的经验以更多的权值,在决策和做出判断时过分看重近期的事件。面对复杂而笼统的问题,人们往往走捷径,依据可能性而非根据概率来决策。这种对经典模型的系统性偏离称为“偏差”。由于心理偏差的存在,投资者在决策判断时并非绝对理性,会行为偏差,进而影响资本市场上价格的变动。但长期以来,由于缺乏有力的替代工具,经济学家不得不在分析中坚持贝叶斯法则。

发展简史

贝叶斯首先将归纳推理法用于概率论基础理论,并创立了贝叶斯统计理论,对于统计决策函数、统计推断、统计的估算等做出了贡献。1763年由Richard Price整理发表了贝叶斯的成果《An Essay towards solving a Problem in the Doctrine of Chances》,对于现代概率论和数理统计都有很重要的作用。贝叶斯的另一著作《机会的学说概论》发表于1758年。贝叶斯所采用的许多术语被沿用至今。

推导过程

贝叶斯公式:

其中P(A|B)是在B发生的情况下A发生的可能性。A1,...,An完备事件组,即

在贝叶斯法则中,每个名词都有约定俗成的名称:

Pr(A)是A的先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。

Pr(A|B)是已知B发生后A的条件概率,也由于得自B的取值而被称作A的后验概率。

Pr(B|A)是已知A发生后B的条件概率,也由于得自A的取值而被称作B的后验概率。

Pr(B)是B的先验概率或边缘概率,也作标准化常量(normalized constant)。

按这些术语,Bayes法则可表述为:

后验概率=(似然度*先验概率)/标准化常量

也就是说,后验概率与先验概率和似然度的乘积成正比。

另外,比例Pr(B|A)/Pr(B)也有时被称作标准似然度(standardised likelihood),Bayes法则可表述为:

后验概率=标准似然度*先验概率

定理推广

从条件概率出发很容易推导出贝叶斯定理

公式(3)

可以理解为条件概率的比值=先验概率的比值=椭圆A/椭圆B。(先验概率指P(A)和P(B),由于不涉及其它条件,即P(A)与B无关,P(B)与A无关,所以称为先验。条件概率在这里又称为后验概率,因为P(A|B)意味着已知B事件发生之后,P(B|A)意味着已知A事件发生之后)。

公式(4)

就是通常贝叶斯定理的形式。

定理意义

在不完全信息动态博弈中,参与人所采取的行为具有传递信息的作用。

应该指出的是,传递信息的行为是需要成本的。假如这种行为没有成本,谁都可以效仿,那么,这种行为就达不到传递信息的目的。只有在行为需要相当大的成本,因而别人不敢轻易效仿时,这种行为才能起到传递信息的作用。

传递信息所支付的成本是由信息的不完全性造成的。但不能因此就说不完全信息就一定是坏事。研究表明,在重复次数有限的囚徒困境博弈中,不完全信息可以导致博弈双方的合作。理由是:当信息不完全时,参与人为了获得合作带来的长期利益,不愿过早暴露自己的本性。这就是说,在一种长期的关系中,一个人干好事还是干坏事,常常不取决于他的本性是好是坏,而在很大程度上取决于其他人在多大程度上认为他是好人。如果其他人不知道自己的真实面目,一个坏人也会为了掩盖自己而在相当长的时期内做好事。

参考资料

1.浅析贝叶斯公式及其在概率推理中的应用·中国知网

2.An Essay towards Solving a Problem in the Doctrine of Chances. By the Late Rev. Mr. Bayes, F. R. S. Communicated by Mr. Price, in a Letter to John Canton, A. M. F. R. S.·中国知网

3.贝叶斯公式的应用·中国知网

目录[+]