玩xiang随机· 概率统计发展史

概率与统计发展史——从赌局到科学

从赌注如何分配，到实验如何设计、随机抽样如何用于计算，看看概率与统计如何在解决实际问题中逐步发展。

1654—1979 4 个发展阶段

手稿、统计表、书信、骰子与打孔卡的概念插图。

发展脉络

历史时间线

1654—1713

概率萌芽

机会游戏、期望与大数定律

书信与手稿的概念插图。
1654

Pascal 与 Fermat：分赌注问题

1654年，法国数学家Blaise Pascal 与 Pierre de Fermat 通过通信讨论掷骰子的机会与分赌注问题：如果赌局尚未分出胜负，双方就决定停止，应如何公平分配赌注？他们分析继续进行时可能出现的结果，推算各方应得的份额。[1]

1657

Huygens：机会游戏中的收益与期望

1657年，荷兰数学家 Christiaan Huygens 的著作《论赌博中的计算》以拉丁文出版。他以公平赌局为依据，系统阐述根据可能收益及相应机会计算期望价值的规则，并将其用于赌注分配和骰子游戏中的获胜机会计算。[2]

1713

Jacob Bernoulli：《猜度术》与大数定律

1713年，瑞士数学家 Jacob Bernoulli 的《猜度术》在其去世后出版，书中第四部分证明了大数定律的早期形式。他以从容器中随机抽取白色和黑色小石子、每次抽取后放回为例，说明如何用白色小石子出现的频率估计其未知比例，并证明：抽取次数足够多时，这种估计可以达到预先设定的精度和可靠程度。[3]

1805—1812

观测与规律

观测误差与概率分析

测量工具与观测记录的概念插图。
1805

Legendre：最小二乘法

1805年，法国数学家 Adrien-Marie Legendre 在《彗星轨道测定的新方法》的附录中发表最小二乘法。针对观测方程多于未知量、且无法消除所有误差的情形，他提出通过使误差平方和最小来确定未知量，力求从观测中得到尽可能精确的结果。[4]

1812

Laplace：《概率的分析理论》

1812年，法国数学家 Pierre-Simon de Laplace 出版《概率的分析理论》。全书分为两编：第一编研究生成函数及大数情形下的近似计算；第二编阐述概率的基本原理，讨论复合事件的概率，以及如何根据已观察的事件推求原因和未来事件的概率，并将概率方法应用于死亡统计和平均寿命等问题。[5]

1900—1935

统计推断

检验、概率公理与实验设计

统计表与概率曲线的概念插图。
1900

Pearson：卡方拟合优度检验

1900年，英国数学家 Karl Pearson 发表论文，提出卡方拟合优度检验的方法。他将各组观测频数与理论频数之差的平方，除以相应的理论频数后求和，并据此判断：观测结果与理论分布之间的偏差，是否可以合理地归因于随机抽样。[6]

1908

Student：小样本均值推断

1908年，英国统计学家 William Sealy Gosset 以 Student 署名，在《Biometrika》发表《均值的或然误差》。他在假定总体服从正态分布的条件下，考虑由小样本估计标准差所带来的不确定性，研究用样本标准差衡量的均值偏差的分布，并提供适用于小样本的概率表，用于判断均值的显著性。[7]

1933

Kolmogorov：《概率论基础》

1933年，苏联数学家 Andrey Nikolaevich Kolmogorov 出版《概率论基础》。他以集合与测度理论为基础，用集合表示随机事件，通过概率非负、总概率为1、可加性及连续性等公理，为概率论建立公理化的数学基础。[8]

1935

Fisher：《实验设计》

1935年，英国统计学家 Ronald Aylmer Fisher 出版《实验设计》。他通过品茶和农业试验等实例，系统阐述随机化、重复和区组设计等方法，说明如何合理安排实验、估计实验误差、提高比较的精度，并对实验结果作出有效的统计判断。[9]

1948—1979

信息与计算

信息、随机模拟与重抽样

早期计算设备、打孔卡与抽样点的概念插图。
1948

Shannon：《通信的数学理论》

1948年，美国数学家 Claude Elwood Shannon 发表《通信的数学理论》。他用概率模型描述信息源，以熵衡量消息选择的不确定性，并研究信道容量及噪声对信息传输的影响。[10]

1949

Metropolis 与 Ulam：蒙特卡洛方法

1949年，美国物理学家 Nicholas Metropolis 与波兰裔美国数学家 Stanisław Ulam 共同发表《蒙特卡洛方法》。他们以高维区域的体积估计和粒子过程模拟等问题为例，介绍通过随机抽样和样本统计进行近似计算的方法，并讨论如何用计算机实现这一过程。[11]

二维面积估计

在框内均匀随机抽样，用区域内点数 ÷ 抽样总数，估计绿色圆形在抽样框中的面积占比。

随机抽样估计圆形面积占比 绿色圆形是目标区域。绿色点在圆内，蓝色点在圆外。区域内点数除以抽样总数给出面积占比的估计；重置清空点和统计结果。
区域内区域外
抽样总数
100 / 1,000 个点
区域内点数
—
估计面积占比
—
真实面积占比
20%
1979

Efron：Bootstrap 样本重抽样

1979年，美国统计学家 Bradley Efron 发表 Bootstrap（自助法）论文，提出利用已有样本估计统计量抽样分布的方法。在基本的非参数自助法中，可从原样本中等概率、有放回地抽取与原样本同样数量的观测，反复生成重抽样样本并计算统计量，据此估计统计量的抽样变异。[12]

参考文献

  1. [1]

    Blaise Pascal, Pierre de Fermat. Fermat and Pascal on Probability（通信英译整理）. 1654.

  2. [2]

    Christiaan Huygens. The Value of Chances. S. Keimer for T. Woodward, 1714（英译本，原著1657）.

  3. [3]

    Jacob Bernoulli. Ars conjectandi. Thurnisiorum Fratrum, 1713.

  4. [4]

    Adrien-Marie Legendre. Nouvelles méthodes pour la détermination des orbites des comètes. Firmin Didot, 1805.

  5. [5]

    Pierre-Simon de Laplace. Théorie analytique des probabilités. Mme Ve Courcier, 1812.

  6. [6]

    Karl Pearson. On the criterion that a given system of deviations from the probable in the case of a correlated system of variables is such that it can be reasonably supposed to have arisen from random sampling. Philosophical Magazine, Series 5, 1900, 50(302): 157–175.

  7. [7]

    Student. The Probable Error of a Mean. Biometrika, 1908, 6(1): 1–25.

  8. [8]

    A. Kolmogoroff. Grundbegriffe der Wahrscheinlichkeitsrechnung. Julius Springer, 1933（1973年重印本）.

  9. [9]

    R. A. Fisher. The Design of Experiments. Oliver and Boyd, 1935.

  10. [10]

    C. E. Shannon. A Mathematical Theory of Communication. The Bell System Technical Journal, 1948, 27(3): 379–423.

  11. [11]

    Nicholas Metropolis, S. Ulam. The Monte Carlo Method. Journal of the American Statistical Association, 1949, 44(247): 335–341.

  12. [12]

    B. Efron. Bootstrap Methods: Another Look at the Jackknife. The Annals of Statistics, 1979, 7(1): 1–26.

返回顶部 ↑