大数法则
大数定律（Law of Large numbers）:在试验不变的条件下，重复试验多次，随机事件的频率近似于它的概率。随着样本的增大，随机变量对平均数的偏离是下降的。
如：抛掷一枚硬币，正面和反面的概率均为50%，但当抛掷硬币无限次，硬币为正面的频率将逐渐近似于它的概率50%。
赌场、“诈骗”、保险等都是大数定律的例子。
大数定律反映了一个自然规律：在一个包含众多个体的大群体中，由于偶然性而产生的个体差异，但看个体，每一个个体都是毫无规律、难以预测的，但由于大数定律，整个群体能呈现出稳定的形态。
但要注意的是，大数定律仅在样本数量足够多的情况下才成立。
小数法则（Law of small numbers）：是指人们倾向于把大样本前提下的大数定律应用到小样本上，然而那并不成立。人们的错误认为小样本和大样本的经验均值具有相同的概率分布，导致对短序列的独立观察值做了过度推论。这是一种常见的心理误区，也是对赌徒谬论的总结。
例子：
1.人们知道抛掷硬币的概率是正反面各50%，于是在连续指出5个正面后，人们就倾向于判断下一次出现反面的几率较大。
但其实，每一次试验都是独立的，当样本较小的时候，试验间的数据波动性强是正常的，10个硬币出现9个正面向上是正常的。
2.有两间医院，一间为大医院，一间为小医院，平时新生婴儿占比都为50%。某天医院的新生婴儿中男婴占比为70%，请问更有可能是哪家医院？
答案：小医院，根据大数定律，样本多的情况下，随机变量对均值的偏离会下降，也就是说样本越大，男婴占比应该更接近50%，小医院相较于大医院的婴儿出生数会较少，小数波动性更大，更有可能是小医院。
文章最后发布于: 2019-03-01 15:23:20
相关阅读
综述 本文总结了机器学习中经常遇到的概率统计中的一些基础概念，在平时经常遇到写下来供自己以后查阅。 清单 样本均值 数学
1 样本与总体的定义: N是总体元素个数，n是样本元素个数 样本均值 Sample mean
Bonferroni-corrected是指对检验水平p值进行矫正，举个例子，三组进行比较，看每个组别之间是否存在差异，两两比较就需要比较三次，若进行
1. 点估计和区间估计 例如：刮刮卡 2. 置信区间 置信区间又称估计区间，是用来估计参数的取值范围的。在统计学中，一个概率样本的
来源：http://study.163.com/course/courseMain.htm?courseId=1005232026 索引—— 基本概念 连续变量的统计描述 分类变量的统