统计学是关于数据的一门学问。所有收集而来的数据都需要经过整理、分析才能得出结论，这就是统计学利用数据解决实际问题的全过程。但是你会发现，同一个数据可以使用不同的方法进行分析进而得出不同的结论，不同的数据使用同一种方法进行分析也可以得出不同的结论。如天气预报，不同的预报机构其预报结果不尽相同。而且，由统计分析得出的结论往往还具有不确定性（uncertainty），因为其描述的往往是某件事发生的机会（opportunity），可以用概率（probability）来衡量。如天气预报中的降水概率，众所周知，如果降水概率高达90%，那就很可能会下雨，如果降水概率仅为5%，则大家会认为几乎不会下雨。但是实际情况到底下不下雨，只能等到预报的那一天真正到来才知道。
统计学所关注的是大量可重复事物现象数量特征。这是因为在某些领域中，有些结论很难像用数学公式或定理那样进行确定性的描述。比如，父母身高比较高，一般人都会认为其孩子身高也会比较高。但是当你去观测某一对父母及其小孩的身高时，你会发现，有些身高比较高的父母，其孩子身高并不高。所以说，身高具有一定的随机性（randomness）。这种随机性可能跟人的基因、生活环境、后天饮食、生活习惯等各方面的因素都有关系。但是，从总体上来说，身高比较高的父母，其孩子身高保持有比较高的趋势，该规律早已被英国著名生物学家兼统计学家高尔顿（Francis Galton，1822-1911）于1855年通过试验数据所证实。一个人的身高可能高矮程度不同，这是随机的。但是从总体上来说，平均身高的稳定性说明了随机之中存在规律，这种规律就是统计规律。所以，可以更进一步地说，统计学也是一门找出统计规律的学问。