数据科学术语表：常见数据科学术语定义

算法是一系列可重复的步骤，通常以数学形式表达，由人编写并由计算机执行，用于求解某类数据科学问题。算法从非常简单到极其复杂不等。不同算法适用于不同任务与技术。其核心概念是：算法接收一些输入并产生输出，对于相同的输入总会产生相同的输出。在机器学习中，算法以数据和超参数的形式接收输入，从数据中识别并学习共性模式，并以预测的形式给出输出。

Apache Spark

Apache Spark 是一个开源的多功能并行处理框架，用于分析与建模大数据。Spark 允许您将数据与计算分布到具有多个节点的集群上（可将每个节点视为一台独立计算机）。拆分数据使得处理超大数据集更容易，因为每个节点只处理少量数据。随着每个节点处理自身数据子集，它也完成所需总计算的一部分，从而在集群节点间并行进行数据处理与计算。并行计算能显著加速某些类型的编程任务。

API

API 是应用程序编程接口（Application Programming Interface）的缩写，是一种在应用或计算机之间建立连接的软件中介。一个 API 的例子是将 Google 地图嵌入网约车应用。数据科学家常通过 API 访问数据（如使用 Twitter API 下载推文），或将其解决方案打包（例如调用投产中的机器学习模型的 API）。

人工智能（AI）

人工智能是计算机科学的一个分支，涉及使用机器学习、编程和数据科学技术，使计算机表现出智能行为。AI 系统范围广泛、复杂度各异，可从基于规则的系统到基于机器学习的系统，能够执行欺诈检测、目标识别、语言翻译、股价预测等多种能力。

人工神经网络（ANN）

人工神经网络是一种机器学习模型，松散地受人脑生物神经网络启发。神经网络由多达数百层的互联单元（称为神经元）组成。从概念上看，人工神经网络包含以下类型的层：输入层、输出层与用于对数据进行过滤的隐藏层，使用激活函数进行处理，并在输出端进行预测。ANN 是深度学习这一机器学习子集的构建基石，能够实现图像或声音识别、目标检测、语言翻译等复杂输出。

B

反向传播（BP）

反向传播是训练深度学习网络时使用的一种技术，基于实现梯度下降来迭代调整权重与偏置，以提升网络的准确率。该算法在每次训练迭代中计算输出误差，然后将其反向传播回网络，从而使其在后续训练迭代中最小化误差。

贝叶斯网络

贝叶斯网络是一种概率图，用于展示不确定领域中随机变量之间的关系，其中图中的节点表示这些变量，节点对之间的连边表示相应变量的条件概率。贝叶斯网络的一个示例是在医疗诊断中，研究者在考虑所有可能影响结果的因素的情况下预测健康结果。

贝叶斯定理

贝叶斯定理是用于计算条件概率的数学公式，即在相关事件 A 已发生的前提下，事件 B 发生的概率。该定理在数据科学中的一个应用是为大型数据集构建贝叶斯网络。

偏差（Bias）

偏差指模型倾向于对数据欠拟合，导致在机器学习与数据科学中产生不准确预测。这是在偏差-方差权衡中经常讨论的偏差定义。此外，偏差也可指算法偏见——即机器学习模型倾向于再现有害的社会偏见，根据受保护属性（如种族、性取向、性别认同、年龄、怀孕、退伍军人身份等）对不同人群进行差别对待。

偏差-方差权衡

偏差-方差权衡是指在构建机器学习模型时对偏差与方差之间进行权衡。偏差与方差是构建机器学习模型时的两类预测误差——高偏差表明模型欠拟合，高方差表明模型过拟合。将二者同时降至最佳水平可降低预测的总体误差。

大数据

大数据是一个围绕处理、处理与提取过于庞大或复杂、以致传统数据处理工具无法应对的数据集信息的领域。大数据以五个 V 为特征：速度（velocity）——数据生成速度；体量（volume）——数据生成量；多样性（variety）——数据类型的多样性，如文本、图像、表格数据等；真实性（veracity）——数据的质量与真实性；价值（value）——数据转化为有价值商业洞见的潜力。

二项分布

二项分布是独立试验结果的离散概率分布，具有两种互斥可能结果（成功与失败）、有限次试验以及恒定的成功概率。简单而言，可将二项分布视为在多次重复的事件中（例如掷 5 次骰子得到点数 3 的概率），特定结果（成功或失败）出现的概率。

业务分析师

业务分析师负责将数据洞见转化为可执行的结果，从而提升盈利能力或效率。他们具有深厚的业务领域知识，常使用 SQL 及非编程工具来传达从数据中得出的洞见。

商业分析（BA）

商业分析是分析学的一个分支，专注于利用历史与当前数据发掘有价值的运营洞见、预估可能的未来趋势，并做出数据驱动的业务决策。商业分析工具箱通常包含统计分析、描述性分析与数据可视化，也可能涉及预测分析与机器学习。

商业智能（BI）

商业智能是分析学的一个分支，结合描述性分析、商业分析、数据可视化、统计分析、报告等，旨在帮助组织进行数据驱动决策。BI 通常借助 Tableau、Power BI 等非编程工具来探索历史与当前数据中的趋势。与商业分析不同，BI 的重点在于描述性分析。

C

分类变量

分类变量是指只能取有限个可能取值（类别），且不存在内在顺序的变量。一个示例是婚姻状况（如已婚、单身、离异）。也称名义变量或定性变量。

分类（Classification）

分类是在基于输入特征预测类别结果时的一类监督学习问题。分类问题的示例包括欺诈检测（例如，给定一组输入特征，此交易是否为欺诈？）与邮件垃圾过滤（例如，此邮件是否为垃圾邮件？）。常用的分类算法有 K 近邻、决策树、随机森林等。

聚类

聚类是一类无监督学习问题，关注依据某些共同特征按相似性对数据集中的所有观测进行分组。不同于分类问题，这些组（称为簇）不是由人预先定义，而是由机器学习算法在学习输入数据的过程中识别出来。每个簇内的元素彼此相似，与其他簇中的元素差异较大。常见的聚类算法有 k-means、层次聚类、谱聚类等。

计算机科学

计算机科学是一门多面向的学科，聚焦于在数字计算机中处理信息的理论与实践方面、计算机硬件与软件的设计以及计算机的应用。特别地，计算机科学涉及人工智能、计算系统、算法、数据结构、数据建模、安全、计算机与网络设计等。

计算机视觉

计算机视觉是计算机科学的一个领域，致力于让计算机从数字图像或视频中获得类似人类的高级理解。随着深度学习的发展和大数据的积累，计算机视觉尤为流行。其应用包括目标与人脸识别、运动分析、自动驾驶与光学字符识别等。

混淆矩阵

混淆矩阵是用于展示分类模型预测性能的表格。通常，混淆矩阵用于二元输出（即只有两类预测的问题——例如交易是否为欺诈），因此结果为 2×2 表。混淆矩阵表示两类中预测与实际标签之间的关系，直观呈现正确预测数量（真阳性与真阴性）以及假阳性（I 类错误）与假阴性（II 类错误）的数量。

连续变量

连续变量是在某一范围内可取无限多个取值的变量。示例包括身高与体重。

损失函数（Cost Function）

损失函数是机器学习中用于度量训练集上预测值与实际值之间差异平均值的函数，目标是最小化该函数。

协方差

协方差是衡量两个变量之间关系的度量。不同于衡量同一变量内部变动的方差，协方差展示一个变量的变化如何影响另一个变量的变化。协方差用于计算相关系数。

交叉验证（未验证）

交叉验证是在训练机器学习模型时的一种重采样方法，将带标签数据划分为训练集与测试集。在交叉验证的每次迭代中，数据的不同部分用于训练与测试模型。训练集用于训练模型，测试集用于进行预测并与这些条目的实际标签进行比较。之后，计算总体准确性指标以估计所得模型的预测性能。

D

仪表板

仪表板是一种交互式图形用户界面，用于可视化、汇总和报告关键绩效指标（KPI）、进度指标与业务流程相关信息，使目标受众能够在多个层面轻松把握最重要的洞见。仪表板可使用 Excel、Tableau、PowerBI 等非编程工具，或 Python、R 等编程工具构建，且常与定期更新的数据库与服务相连接。

数据分析（DA）

数据分析是一门学科，专注于清洗、转换、可视化与探索数据，以提取有意义的模式与洞见，并将结果传达给相关方。数据分析通常是所有数据科学项目的首个里程碑，但也可以是独立项目。不同于数据科学，其更侧重描述性分析而非预测性分析。

数据分析师

数据分析师与业务分析师相似，负责分析数据并报告其分析所得的洞见。他们对数据分析工作流有深入理解，并结合编程与非编程工具来提炼与呈现洞见。

数据库

数据库是一个结构化存储空间，数据被组织在多个不同表中，以便能够轻松访问与汇总所需信息。数据库多与关系型数据库管理系统（RDBMS）配合使用，如 Oracle 或 PostgreSQL。与数据库数据交互最常用的编程语言是 SQL。

数据库管理系统（DBMS）

数据库管理系统是一种软件套件，用于轻松对数据执行不同操作：访问、操作、检索、管理与存储数据库中的数据。根据数据的组织与结构方式，DBMS 有不同类型：关系型、图、层次型等。DBMS 示例包括：Oracle、MySQL、PostgreSQL、Microsoft SQL Server、MongoDB。

数据使用者

数据使用者通常担任非技术角色，但会消费由数据专业人士提供的数据洞见与分析，以做出数据驱动的决策。数据使用者常需与数据专业人士沟通，并应能区分何时能、何时不能用数据来回答业务问题。

数据工程师

数据工程师是负责将正确的数据交到数据科学家与数据分析师手中的专家。他们设计并维护存储基础设施与数据管道，将来自各来源的大量原始数据带入集中位置，并转换为干净、格式正确且与组织相关的数据。

数据工程（DE）

数据工程是一门专注于在组织内部扩展数据访问的专业方向。数据工程师负责数据采集、收集、管理与存储，以及搭建数据管道，并将数据转换为高质量、可供组织其余部分使用的数据。

数据丰富化

数据丰富化是增强、精炼与扩充原始数据的过程，使其对组织更有用，从而获得更有意义的业务洞见并优化预测分析。

数据框（Dataframe）

数据框是一种表格型数据结构，具有带标签的轴（行与列），且各列类型可能不同。

数据治理

DAMA 将数据治理定义为“对数据及与数据相关资源管理的规划、监督与控制”。数据治理设定确保数据可用性、相关性、质量、可用性、完整性与安全性的角色、职责与流程。数据治理包括治理机构、满足公司信息需求的规则与实践框架，以及执行这些实践的项目。

数据新闻

数据新闻是一种新闻形式，关注处理与分析大量数值数据，旨在围绕数据或由数据衍生的信息讲述故事。该角色的出现源于信息流持续增长以及现代新闻与统计、IT 技术、数据科学等领域日益频繁的互动。

数据湖

数据湖是一个单一的存储库，包含来自各来源的大量原始、未处理的各种类型数据，目前尚无明确用途。数据湖既包含不同结构、彼此无关联的结构化数据，也更常包含文档、文本文件等非结构化数据。原始数据保留为信息的原始来源，除非需要使用，否则无须对其进行结构化与整理。

数据素养

数据素养是阅读、写作、分析、沟通与用数据进行推理以做出更好数据驱动决策的能力。从组织角度看，它是一组数据技能的光谱，从数据驱动决策到数据科学、数据工程与机器学习中的高级技术技能，最终使组织中的每个人都具备相关能力，并大规模从数据中创造价值。

数据挖掘

数据挖掘是从各来源收集相关数据、清洗并转换为正确格式、检测并提取数据之间有意义的隐藏趋势、模式与相互联系，并将可执行洞见传达给组织，以帮助其做出数据驱动决策与制定更优策略的过程。为此，会使用多种分析与建模技术，包括统计分析、数据可视化、回归与分类等。

数据建模

数据建模是开发整个 IT 系统或其部分的可视化表示，以传达数据点与结构之间连接的过程。数据模型展示系统中使用与存储的数据类型、不同数据源之间的关系，以及如何按不同属性与特征对数据进行分组。在数据科学中，您还可能遇到稍作调整的定义：构建可靠模型，将原始数据转化为可预测、一致且可执行的洞见。其主要目的是清晰理解关键业务需求、可用数据源与期限，并提供相关、数据驱动且格式正确的框架以满足这些需求。

数据管道

数据管道是一组相互衔接的数据处理脚本，从而实现数据在组织内部的自动化流动，数据被抽取、转换与加载，随时可用。

数据科学（DS）

数据科学是一门多学科交叉领域，使用多种科学方法、先进分析技术与预测建模算法，从数据中提取有意义的洞见，以帮助在众多领域回答战略性业务或科学问题。它融合广泛的技术与非技术技能，通常还需要应用所在行业的扎实领域知识，以便正确解读可用数据与所得结果。

数据科学家

数据科学家在组织数据中探究、提取并报告有意义的洞见。他们将这些洞见传达给非技术干系人，熟悉机器学习工作流并能将其与业务应用相衔接。他们几乎专门使用编程工具开展分析，并常与大数据工具协同工作。

数据集

数据集是由一种或多种类型的数据构成的集合，代表真实世界或合成生成的观测，用于统计分析或数据建模。数据集中的数据可由多个来源收集，通常存储在某种数据结构中，最常见的是表格，其中列对应不同变量，行对应不同数据条目。

数据结构

数据结构是组织与存储数据的一种方式，使其能够被高效访问与操作。数据结构定义了数据之间的关系以及可对其执行的操作。数据科学中常见的数据结构包括数据框、列表、数组等。

数据可视化

数据可视化是一门跨学科领域，致力于将信息凝练并以可视形式呈现。数据可通过多种图表进行可视化，如地图、直方图、条形图与折线图，并可组合为信息图、仪表板等。数据可视化常用于帮助目标受众更好理解底层数据与所得结果。

数据仓库

数据仓库是用于存储通过ETL（抽取、转换、加载）流程从多个来源收集到的结构化、清洗与转换后的数据的中心存储库。数据专业人士可通过商业智能工具、SQL 查询等轻松从数据仓库中访问所需信息，并将其用于进一步分析与建模以回答业务问题。

数据整理

数据整理也称数据清洗整形（data munging）。数据整理任务关注对数据进行清洗、重构、合并、聚合与转换为适用于特定目的的恰当格式。总体而言，这是为后续便捷访问与数据分析而进行的数据准备过程。

决策树

决策树是一种监督学习算法，多用于分类，也可用于回归问题。决策树针对各个特征按顺序提出 if-else 问题，目的是推断类别标签。决策树具有可图示为树状结构、模仿人类决策能力、逻辑直观易懂等优点，但此类模型易过拟合。

深度学习（DL）

深度学习是基于多层人工神经网络（ANN）的一类机器学习算法，在很大程度上受大脑结构启发。ANN 十分灵活，能够从海量数据中学习，从而给出高精度输出。它们常用于图像或声音识别、语言翻译等数据科学与机器学习应用以及其他高级问题。

降维

降维是指减少训练集中特征数量的过程，仅保留能捕获大部分变异的最相关特征，以提升模型性能。降维对具有大量变量的大型数据集尤为有用，有助于优化存储空间与计算时间，并解决多重共线性问题。最流行的降维技术是PCA（主成分分析）。

E

EDA

EDA 是探索性数据分析（exploratory data analysis）的缩写，指数据分析的第一阶段，聚焦对可用数据的基础性探索；概括其主要特征，发现初步模式与趋势、需要修复的问题以及需进一步研究的问题。在此阶段，数据分析师或数据科学家对数据形成总体理解，作为后续更详细数据分析的基础。

ELT

ELT（抽取、加载、转换）是由数据工程师设计的数据管道体系，是更为常见的ETL（抽取、转换、加载）方法的替代方案。在进行任何转换之前，原始数据被加载到数据湖中，然后原地进行转换。相较 ETL，ELT 的优势在于所需时间更少、适合处理大型数据集且更具成本效益。

ETL

ETL（抽取、转换、加载）是由数据工程师设计的数据管道体系。数据从多个来源抽取，从原始形式转换为与其他来源数据一致的恰当格式，并加载到目标数据仓库。在此基础上，可用于进一步的数据分析与建模，解决各类业务问题。

评估指标

评估指标是一组用于估计统计或机器学习模型性能的度量。例如准确率、F-Score、召回率与RMSE。

F

假阴性（FN，II类错误）

假阴性是指当分类模型针对二元目标变量错误地预测为负类的结果（例如，我们在预测客户流失时，假阴性即模型预测“不会流失”，而实际标签是“会流失”）。

假阳性（FP，I类错误）

假阳性是指当分类模型针对二元目标变量错误地预测为正类的结果。例如，在预测客户流失时，假阳性即模型预测“会流失”，而实际标签是“不会流失”。

特征

特征是用于作为机器学习模型输入的自变量。例如，若我们用身高、体重与糖摄入量来预测患糖尿病的可能性——身高、体重与糖摄入量就是特征。

特征工程

特征工程是利用领域知识与专业经验将原始特征转换为更能反映底层问题、且更适合机器学习算法的特征的过程。它包括从可用数据中提取新特征，或对现有特征进行处理。例如，若我们试图预测患糖尿病等健康结果，使用身高与体重计算 BMI 特征就是特征工程。

特征选择

特征选择是从数据集中挑选对预测目标变量最相关的特征子集的过程。对大型数据集而言，合理的特征选择尤为重要，因为它能降低模型复杂度、减少过拟合与计算时间，并提高模型准确率。

F-Score

F-Score 是一种评估模型性能的指标，结合了精确率与召回率。通常使用 F1-Score，即精确率与召回率的调和平均。更一般的形式是 Fβ，在其中可对精确率或召回率施加额外权重。

G

梯度下降

梯度下降是机器学习中用于最小化损失函数的迭代优化过程，通过寻找函数参数的最优取值来实现。

H

Hadoop

Hadoop 是一个基于 Java 的开源软件框架，能够在由多台计算机构成的集群上进行大数据的并行处理与分布式存储。Hadoop 可以节省时间，并处理远超单台计算机能力的数据量。

超参数

超参数是与机器学习模型相关的属性，其取值在开始训练之前由人工设置。不同于其他参数，超参数不能直接从数据中估计或学习。通过调节超参数并评估所得模型性能，我们可确定其最优取值以获得最精确的模型。直观地说，调节超参数类似于调谐收音机旋钮以获得清晰信号。超参数的一个例子是随机森林算法中的树的数量。

假设

假设是关于某个问题或事件的设想，需要通过实验进行检验，并根据结果被证明或被否定。

I

插补（Imputation）

插补是为数据集中的缺失值进行填充的过程。插补技术既可以是统计方法（均值/众数插补），也可以是机器学习方法（KNN 插补）。

K

K-Means

K-Means 是最流行的聚类算法，它在数据中识别 K 个簇中心（称为质心）并设定初始坐标，随后基于特征将每个观测迭代分配给某个质心，直到质心收敛。同一簇内的数据点彼此相似，而与其他簇中的数据点差异较大。

K近邻（KNN）

K 近邻是一类监督学习算法，根据与最近邻的相似性来对观测进行分类。KNN 可调的最重要参数是最近邻的数量与距离度量（闵可夫斯基、欧几里得、曼哈顿等）。

L

线性代数

线性代数是数学的一个分支，研究线性系统：直线、平面、向量空间、矩阵及其加法、乘法等运算。在线性代数在数据科学与机器学习中非常有用，因为数据集和许多机器学习模型都可以用矩阵形式表示。

线性回归

线性回归是一种回归算法，用于建模连续型目标变量与一个或多个连续特征之间的线性关系。数据科学中使用线性回归的典型示例是基于多种输入属性进行价格预测。

逻辑回归

逻辑回归是一种回归算法，使用对输入特征的逻辑函数来预测目标变量的类别概率或直接预测类别标签。在第二种情况下，输出代表一组类别而不是连续值，即逻辑回归在此作为一种分类技术。逻辑回归的典型应用是预测客户流失的可能性。

M

机器学习（ML）

机器学习是人工智能（AI）的一个分支，提供一组旨在从历史数据中学习模式与趋势的算法。ML 的目的是预测未来结果，并在未被显式编程的情况下泛化到训练集之外的数据点。机器学习算法主要有两大类型：监督学习与无监督学习，每类都包含众多适用于不同用例的技术。

均值（Mean）

均值是一个数集的算术平均值，即所有取值之和除以取值个数。通常与其他统计量结合使用，以获得对整个数据集的总体理解。

平均绝对误差（MAE）

平均绝对误差（MAE）是预测值与实际值之差的绝对值的算术平均。

均方误差（MSE）

均方误差（MSE）是预测值与实际值之差的平方的算术平均。

中位数（Median）

中位数是在按升序或降序排序的一组数中处于中间位置的数值。若该组数的数量为偶数，则中位数为中间两个数的算术平均。中位数通常与其他统计量结合使用，以总体了解整个数据集，且对检测潜在离群值尤为有用。

众数（Mode）

众数是一组数据中出现频率最高的值（或多个值）。

模型调优

模型调优是指调整超参数以在不过拟合的前提下最大化模型准确率的过程。

多变量建模

多变量建模是对特征选择步骤中确定的多个变量（预测变量）与目标变量之间关系进行建模的过程。

N

朴素贝叶斯

朴素贝叶斯是一组基于贝叶斯定理且假设分类器中使用的特征彼此独立的分类算法。尽管在现实中特征并非总是独立，朴素贝叶斯算法仍可成功应用于多种数据科学用例，如垃圾邮件过滤或情感分析。

自然语言处理（NLP）

自然语言处理（NLP）是计算机科学的一个分支，使计算机应用能够理解与分析书面或口语的人类语言。NLP 技术通常将非结构化的输入文本数据转换为结构化形式，寻找语言与上下文模式，对其进行分类，并从中提取有价值的洞见。NLP 还涉及利用机器学习与深度学习来生成语言、对其进行分类以及完成其他以语言为基础的认知任务。NLP 应用示例包括聊天机器人、语音转文本、情感分析与自动翻译。

归一化

归一化是将数据重新缩放，使所有属性处于相同量纲的过程。归一化对于在属性之间进行有意义的比较是必要的，对某些机器学习算法也是必需的。

NoSQL

NoSQL 意为“not only SQL”。一种用于存储与检索非关系型（即非表格型）数据库的数据库管理系统。非关系型数据模型的示例包括图、文档与键值数据库。NoSQL 系统具有高灵活性与运行速度快的优势，并可在多台服务器之间进行扩展。

原假设

原假设是一种假设，陈述待检验的备择假设的反面，即两个变量之间不存在显著的统计关系，观测全由随机性导致。原假设可在统计实验中被拒绝或被接受。

O

开源

开源指具有自由许可、可用于进一步修改与分享的软件与资源。开源工具促进用户间协作，通常也更稳定，因为研究者可添加新的有用特性，或修复社区报告的技术问题与缺陷。

有序变量

有序变量是指只能取有限个可能取值，且存在内在顺序的变量。一个示例是按强度排序的问卷调查响应（如“强烈反对”“反对”“中立”“赞同”“强烈赞同”）。

离群值

离群值是数据集中显著偏离其余观测的异常值。离群值可能表明测量误差或非常事件。

过拟合

过拟合指模型从训练集中学习了过多信息，包括潜在噪声与离群值。其结果是模型过于复杂，过度依赖特定训练集，无法在未见数据上良好表现。过拟合在偏差-方差权衡中对应高方差。

P

参数

参数是在编程与数据科学中传入函数的具名变量。在机器学习中，参数是算法的内部组成部分，需要从数据中学习得到。某些机器学习算法是参数化的，具有固定参数集（如线性回归与逻辑回归），而另一些是非参数化的（如 K 近邻）。

精确率（Precision）

精确率是一种评估指标，用于估计机器学习模型的性能，表示正确预测的正类数量与预测为正类的总数量之比。

预测分析

预测分析是利用统计分析、数据挖掘、数据可视化与机器学习等多种工具，对历史数据进行分析，以预测特定业务中的未来事件的过程。

主成分分析（PCA）

主成分分析（PCA）是一种因子分析与降维的统计技术，将一组可能相关的初始特征转换为更小的一组线性不相关特征，称为主成分。通过这种方式，PCA 在尽可能保留数据集方差的同时，最小化特征数量。

Python

Python 是一种开源、面向对象的高级编程语言。Python 在数据科学领域非常流行，也广泛用于计算机科学中的通用编程。它直观易懂、易学易用，同时仍是解决复杂问题的强大工具。Python 提供了丰富的标准库与众多有用的附加模块，并在持续发展、改进与扩展。

R

R 是一种流行的编程语言与免费软件，广泛用于解决数据科学与机器学习问题，尤其以其统计计算能力与出色的数据可视化方案而著称。它包含众多数据科学工具与包，可用于多种操作系统，并拥有强大的在线社区。

随机森林

随机森林是一种用于回归或分类问题的监督学习算法，它将多个决策树的输出组合到一个模型中。随机森林的预测本质上代表所有决策树结果的平均值，因此相比单棵决策树能提供更准确的结果。

召回率（Recall）

召回率是一种评估指标，用于估计机器学习模型的性能，表示正确预测的正类数量与实际正类总数量之比。

回归

回归是一类监督学习问题，需要基于输入特征预测连续结果。回归模型学习一个或多个自变量与目标变量之间的关系，然后使用建立的函数对未见数据进行预测。回归算法的示例包括线性回归与岭回归。典型的回归问题是价格预测。

强化学习（RL）

强化学习（RL）是机器学习的一个独立分支（既非监督也非无监督），算法通过与环境交互逐步学习。RL 基于过去经验来判断哪些行动能使其更接近既定目标。通过对正确行动给予奖励、错误行动给予惩罚，算法找到最大化其性能的最优策略。RL 算法的示例包括下棋引擎与电子游戏智能体等博弈式机器学习系统。

关系型数据库

关系型数据库是一种数据库类型，将数据存储在多个相互关联的表中，通过唯一 ID（键）进行关联，由此可以以不同方式访问、提取、汇总或重组数据。

均方根误差（RMSE）

均方根误差（RMSE）是均方误差的平方根。与 MSE 相比，该评估指标更直观，因为结果与原始数据使用相同的度量单位，因而更易理解。

S

抽样误差

抽样误差是数据总体与其子集（样本）之间的统计差异，这是因为样本并未包含总体的所有元素。

SQL

SQL（结构化查询语言）是一种用于与关系型数据库管理系统（RDBMS）交互的编程语言。SQL 有多个分支，包括 SQLite、PostgreSQL 与 MySQL，其中一些是免费开源的。各分支语法相当相似，仅在附加功能上存在小差异。

标准差

标准差是总体方差的平方根。标准差表示取值的离散程度，与方差相比更为直观，因为它与数据使用相同的度量单位。

监督学习

监督学习是机器学习的一个分支，关注在带标签的历史数据训练集上对模型进行训练。监督学习学习输入与输出之间的关系，然后衡量其对具有已知真实输出的测试集进行预测的准确性，从而可在以后对全新的数据进行预测。监督学习算法包括线性与逻辑回归、决策树与 SVM。常见任务示例包括房价预测与垃圾/非垃圾消息分类。

SVM

SVM（支持向量机）是一种监督学习算法，多用于分类，也可用于回归问题。在分类问题中，SVM 提供将两类观测分开的最优超平面（在多分类问题中，算法将问题拆解为一组二分类问题）。在回归问题中，SVM 提供定义阈值内的最佳拟合超平面。

合成数据

合成数据是人工创建的数据。合成数据通常反映初始数据集的统计特性，因此可用于银行与医疗等高隐私领域，或用于以额外具有统计代表性的观测来扩充现有数据集。

T

目标变量

目标变量（也称因变量）是在机器学习算法中要通过特征来预测的变量。例如，若我们用身高、体重与糖摄入量来预测患糖尿病的可能性，那么糖尿病状态就是我们要预测的目标变量。

测试集

测试集是在建模前从可用数据中划出的一个子集，通常占整个数据集的 20% 到 30%。测试集用于评估在训练集上拟合的模型的准确性。

时间序列

时间序列是按时间顺序记录的某变量在不同时刻的观测序列。通常，时间序列在连续、等间隔的时间点进行测量。示例包括股市价格或某一时期的气温。

训练集

训练集是在建模前从可用数据中划出的一个子集，通常占整个数据集的 70% 到 80%。训练集用于拟合模型，随后在测试集上进行测试。

真阴性（TN）

真阴性（TN）是模型针对二元目标变量正确预测为负类的结果（即在实际标签为 False 时预测为“False”）。

真阳性（TP）

真阳性（TP）是模型针对二元目标变量正确预测为正类的结果（即在实际标签为 True 时预测为“True”）。

U

欠拟合

欠拟合指模型无法从训练集中识别模式，因为其构建所依据的信息不足。结果是模型过于简单，既无法在未见数据上良好表现，也无法在训练集本身上良好表现。欠拟合模型具有较高的偏差。

单变量建模

单变量建模是对单个变量（预测变量）与目标变量之间关系进行建模的过程。单变量建模通常用于时间序列。

非结构化数据

非结构化数据是不符合预定义数据结构（例如数据库的典型行-列结构）的任何数据。示例包括图像、电子邮件、文本文档、视频与音频。

无监督学习

无监督学习是一类机器学习算法，在未提供目标变量的情况下学习数据集的底层结构。无监督学习用于发现数据中的共性模式、基于属性对取值进行分组，并在之后对未见数据进行预测。最常见的无监督学习算法是 k-means。常见任务示例包括异常检测与基于共同特征的客户分群。

V

方差

在数学与统计学中，方差是各个取值与整体均值的平方差的平均值。换言之，方差表示取值的分散程度。在机器学习中，方差是一种由模型对训练集中的微小变化过于敏感而引起的误差。高方差反映模型倾向于从输入特征中学习随机噪声，导致模型过拟合。

W

网页爬取

网页爬取是从网站中提取特定数据以供进一步使用的过程。网页爬取可通过编写程序自动完成，对网站捕获所需信息。

Z

Z分数

Z 分数（也称标准化分数、标准分或正态分数）指某个数据观测值高于或低于整体均值的标准差单位数。Z 分数等于 0 表示该观测值接近均值。

主题

数据科学数据素养