確率という言葉には二つの意味合いがある。一つはある仮説の、それにまつわる判断材料から導かれる蓋然性のことであり、もう一つはサイコロやコインを投げることのような確率過程的なふるまいを指す。証拠法のような前者の研究は歴史的により古い一方で、サイコロの数学的取り扱いは1650年代にパスカルとフェルマーの著作で始まった。確率は統計学とは区別される(統計学の歴史参照)。統計学がデータやそれによる推測を取り扱うのに対し、(確率論的な)確率はデータやその結果の裏にある確率論的(ランダム)な過程を取り扱う。