欢迎来到我们为期一个月的“数据破解”系列的第五部分。作为数据素养月的一部分,本系列将澄清数据世界中的关键概念,解答您可能不敢问的问题,并在此过程中保持趣味性。如果您想从头开始,请先阅读系列的第一篇:什么是数据集?

在本文中,我们将深入探讨描述性统计,这是数据科学的基础领域之一。
什么是描述性统计?
描述性统计是描述性分析的主要工具,而描述性分析是四种分析类型之一。要理解描述性统计,首先需要理解“变量”这一概念。
变量是可以被测量或计数的量。例如,给定一组人,您可以测量每个人的身高。这就构成了一个变量。同样,您可以统计每种发色的人数,发色也可以被视为一个变量。
描述性统计是对变量进行概括的一组数值。由于计算描述性统计极为常见,人们也给它起了多个名字。“汇总统计”(summary statistics)和“聚合”(aggregations)与描述性统计含义相同。
接下来的部分,我们将概述描述性统计的主要技术,这些内容均来自我们的统计学入门课程。
计数与比例
当您拥有分类变量——也就是由离散分组(如发色)构成的数据——最自然的汇总方式就是通过计数或讨论比例。
例如,4个人是黑发,2个人是棕发,2个人是金发,1个人是红发,1个人是灰发。或者,您也可以说,40%的人是黑发,20%是棕发,20%是金发,10%是红发,10%是灰发。
|
发色
|
计数
|
比例
|
|
黑发
|
4
|
40%
|
|
棕发
|
2
|
20%
|
|
金发
|
2
|
20%
|
|
红发
|
1
|
10%
|
|
灰发
|
1
|
10%
|
集中趋势度量
集中趋势度量(更常被称为“平均数”)通过捕捉一个能描述分布中心的数值来概括您的数据。以下是最常见的集中趋势度量。
众数
众数是最容易计算的一种平均。它就是出现频率最高的数值。在发色的例子中,黑发最多,因此众数是“黑发”。
算术平均数
或许最广为人知的平均类型是算术平均数。如果人们在没有具体说明的情况下随口谈论某个事物的平均数,通常说的就是算术平均数。
它的计算公式是将所有数值相加,然后除以数值的个数。比如,假设您有一个包含10个人身高的变量。要计算平均身高,您需要把所有身高相加,再除以10。
均值的一个优点(也是一个缺点,我们稍后会看到)在于计算时使用了每一个数据点。也就是说,它在计算中利用了尽可能多的信息。
还有其他类型的平均数,如几何平均数和调和平均数,它们的使用场景更为小众。
中位数
中位数的计算方法是将数值从小到大排序,然后取中间的那个数值。
以身高为例,您需要将身高从低到高排序,并选择身高变量的中间位置。在这个例子中,就是第5个值。中位数被称为“稳健”的描述性统计量,因为即便其中一个数值发生变化,它也不会有太大改变。
为说明这一点,假设我们又收到一个极高或极矮的身高数据。由于离群值会影响算术平均数的最终结果,均值会发生较大变化。而中位数只会发生轻微变化,因为中间位置并未发生太大改变。
其他位置度量
有时,一个中间值并不是对变量的有效概括。也许您更关心最小值(最小的数)或最大值(最大的数)。这些关于数值大小的其他度量被称为位置度量。
另一个关键的位置度量是百分位数。它使用分割点将数据划分为100个区间,每个区间包含相同数量的数据。第100百分位与最大值相同,第50百分位与中位数相同。在只有10个数据点的身高示例中,百分位数不那么相关,但对更大的数据集则非常有用。
百分位数的一个变体是四分位数,即将数据分成4个区间,而不是100个。
离散程度度量
有时,与其关注数值的大小,您更关心它们之间有多不同。用于衡量数值差异程度的描述性统计称为离散程度度量,或变异度量。
极差
最简单的离散程度度量是极差,即最大值减去最小值。在身高的例子中,极差就是最高身高减去最矮身高。
方差
方差是一个更技术性的离散程度度量,常与算术平均数一起使用。它的计算方法是:将每个数值与均值之差的平方求和,然后除以数据点数量减一。
为说明这一点,我们来看一个更简单的身高变量示例。假设我们记录了四个人的身高,如下表所示。
|
姓名
|
身高
|
|
Isabella Leslie-Miller
|
158
|
|
Valeria Kogan-Higgs
|
172
|
|
Hadrien Lacroix
|
177
|
|
Sara Billen
|
183
|
这些身高的算术平均数为172.5厘米(将所有身高相加后除以4得到)。
在这个例子中,方差为
((158 - 172.5) ^ 2 + (172 - 172.5) ^ 2 + (177 - 172.5) ^ 2 + (183 - 172.5) ^ 2) / (4 - 1) = 113 cm2。
与均值类似,方差在计算中使用了每一个数据点,这使它非常有力,但也可能在数据发生变化时出现较大的变动。
相关性
相关性衡量的是两个变量之间的线性关系。也就是说,当一个变量上升时,另一个变量是上升还是下降?计算相关性有多种算法,但结果始终介于负一到一之间。
对于两个变量X和Y,相关性的含义如下所示。
|
相关系数
|
解释
|
|
-1
|
当X增加时,Y减少。相关值越接近-1,关系越强。
|
|
介于 -1 和 0 之间
|
当X增加时,Y减少。越接近0,关系越弱。
|
|
0
|
X与Y之间没有线性关系,因此没有相关性。
|
|
介于 0 和 1 之间
|
当X增加时,Y增加。越接近0,关系越弱。
|
|
1
|
当X增加时,Y增加。相关值越接近1,关系越强。
|
请注意,相关性无法反映非线性效应,因此如果X和Y不是直线关系,相关系数可能没有意义。
想了解更多?
希望您喜欢这篇关于描述性统计的简短介绍。在下一篇中,我们将更深入地探讨相关性。具体来说,我们将看看成语“相关性不代表因果性”的由来,以及如何避免这一陷阱。
欢迎来到我们为期一个月的“数据破解”系列的第五部分。作为数据素养月的一部分,本系列将澄清数据世界中的关键概念,解答您可能不敢问的问题,并在此过程中保持趣味性。如果您想从头开始,请先阅读系列的第一篇:什么是数据集?
在本文中,我们将深入探讨描述性统计,这是数据科学的基础领域之一。
什么是描述性统计?
描述性统计是描述性分析的主要工具,而描述性分析是四种分析类型之一。要理解描述性统计,首先需要理解“变量”这一概念。
变量是可以被测量或计数的量。例如,给定一组人,您可以测量每个人的身高。这就构成了一个变量。同样,您可以统计每种发色的人数,发色也可以被视为一个变量。
描述性统计是对变量进行概括的一组数值。由于计算描述性统计极为常见,人们也给它起了多个名字。“汇总统计”(summary statistics)和“聚合”(aggregations)与描述性统计含义相同。
接下来的部分,我们将概述描述性统计的主要技术,这些内容均来自我们的统计学入门课程。
计数与比例
当您拥有分类变量——也就是由离散分组(如发色)构成的数据——最自然的汇总方式就是通过计数或讨论比例。
例如,4个人是黑发,2个人是棕发,2个人是金发,1个人是红发,1个人是灰发。或者,您也可以说,40%的人是黑发,20%是棕发,20%是金发,10%是红发,10%是灰发。
发色
计数
比例
黑发
4
40%
棕发
2
20%
金发
2
20%
红发
1
10%
灰发
1
10%
集中趋势度量
集中趋势度量(更常被称为“平均数”)通过捕捉一个能描述分布中心的数值来概括您的数据。以下是最常见的集中趋势度量。
众数
众数是最容易计算的一种平均。它就是出现频率最高的数值。在发色的例子中,黑发最多,因此众数是“黑发”。
算术平均数
或许最广为人知的平均类型是算术平均数。如果人们在没有具体说明的情况下随口谈论某个事物的平均数,通常说的就是算术平均数。
它的计算公式是将所有数值相加,然后除以数值的个数。比如,假设您有一个包含10个人身高的变量。要计算平均身高,您需要把所有身高相加,再除以10。
均值的一个优点(也是一个缺点,我们稍后会看到)在于计算时使用了每一个数据点。也就是说,它在计算中利用了尽可能多的信息。
还有其他类型的平均数,如几何平均数和调和平均数,它们的使用场景更为小众。
中位数
中位数的计算方法是将数值从小到大排序,然后取中间的那个数值。
以身高为例,您需要将身高从低到高排序,并选择身高变量的中间位置。在这个例子中,就是第5个值。中位数被称为“稳健”的描述性统计量,因为即便其中一个数值发生变化,它也不会有太大改变。
为说明这一点,假设我们又收到一个极高或极矮的身高数据。由于离群值会影响算术平均数的最终结果,均值会发生较大变化。而中位数只会发生轻微变化,因为中间位置并未发生太大改变。
其他位置度量
有时,一个中间值并不是对变量的有效概括。也许您更关心最小值(最小的数)或最大值(最大的数)。这些关于数值大小的其他度量被称为位置度量。
另一个关键的位置度量是百分位数。它使用分割点将数据划分为100个区间,每个区间包含相同数量的数据。第100百分位与最大值相同,第50百分位与中位数相同。在只有10个数据点的身高示例中,百分位数不那么相关,但对更大的数据集则非常有用。
百分位数的一个变体是四分位数,即将数据分成4个区间,而不是100个。
离散程度度量
有时,与其关注数值的大小,您更关心它们之间有多不同。用于衡量数值差异程度的描述性统计称为离散程度度量,或变异度量。
极差
最简单的离散程度度量是极差,即最大值减去最小值。在身高的例子中,极差就是最高身高减去最矮身高。
方差
方差是一个更技术性的离散程度度量,常与算术平均数一起使用。它的计算方法是:将每个数值与均值之差的平方求和,然后除以数据点数量减一。
为说明这一点,我们来看一个更简单的身高变量示例。假设我们记录了四个人的身高,如下表所示。
姓名
身高
Isabella Leslie-Miller
158
Valeria Kogan-Higgs
172
Hadrien Lacroix
177
Sara Billen
183
这些身高的算术平均数为172.5厘米(将所有身高相加后除以4得到)。
在这个例子中,方差为
((158 - 172.5) ^ 2 + (172 - 172.5) ^ 2 + (177 - 172.5) ^ 2 + (183 - 172.5) ^ 2) / (4 - 1) = 113 cm2。
与均值类似,方差在计算中使用了每一个数据点,这使它非常有力,但也可能在数据发生变化时出现较大的变动。
相关性
相关性衡量的是两个变量之间的线性关系。也就是说,当一个变量上升时,另一个变量是上升还是下降?计算相关性有多种算法,但结果始终介于负一到一之间。
对于两个变量X和Y,相关性的含义如下所示。
相关系数
解释
-1
当X增加时,Y减少。相关值越接近-1,关系越强。
介于 -1 和 0 之间
当X增加时,Y减少。越接近0,关系越弱。
0
X与Y之间没有线性关系,因此没有相关性。
介于 0 和 1 之间
当X增加时,Y增加。越接近0,关系越弱。
1
当X增加时,Y增加。相关值越接近1,关系越强。
请注意,相关性无法反映非线性效应,因此如果X和Y不是直线关系,相关系数可能没有意义。
想了解更多?
希望您喜欢这篇关于描述性统计的简短介绍。在下一篇中,我们将更深入地探讨相关性。具体来说,我们将看看成语“相关性不代表因果性”的由来,以及如何避免这一陷阱。