from sklearn.model_selection import train_test_split
target =['Churn']
custid =['customerID']
cols =[col for col in telcom.columns if col notin custid + target]
X = telcom[cols]
y = telcom[target]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25)技术支持
我们将使用的第一个建模算法是简单的逻辑回归分类模型,用来预测流失标签并评估结果的准确率:
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score
lr = LogisticRegression()
lr.fit(X_train, y_train)
predictions = lr.predict(X_test)print(f'Test accuracy: {round(accuracy_score(y_test, predictions),4)}')技术支持
现在,我们将对 L1 正则化的 C 参数进行调优,以找到在降低模型复杂度的同时仍保持良好性能指标的最优值。为此,我们会遍历不同的 C 取值,为每个取值训练一个逻辑回归模型,并计算性能指标。
列表 C 事先已包含参数的可选取值。数组 l1_metrics 有 3 列,第一列为 C 值,后两列分别是非零系数数量和模型准确率的占位符。让我们来试一试这一方法:
C Non-Zero Coeffs Accuracy
01.000023.00.80147910.500022.00.79920420.250021.00.80204830.100020.00.80261740.050018.00.80204850.025013.00.79692860.01005.00.79010270.00503.00.78327680.00252.00.745734技术支持
可以看到,较小的 C 值会减少非零系数(即用于建模的特征)数量,从而降低模型复杂度,但同时也会降低模型准确率。看起来 C=0.05 是较优选择:在将特征数量减少至 18 的同时,准确率略高于未正则化模型。
# Reconstructing the best model
lr = LogisticRegression(penalty='l1', C=0.05, solver='liblinear')
lr.fit(X_train, y_train)
predictions = lr.predict(X_test)# Combining feature names and coefficients into one dataframe
feature_names = pd.DataFrame(X_train.columns, columns=['Feature'])
log_coef = pd.DataFrame(np.transpose(lr.coef_), columns=['Coefficient'])
coefficients = pd.concat([feature_names, log_coef], axis=1)# Calculating exponents of the coefficients
coefficients['Exp_Coefficient']= np.exp(coefficients['Coefficient'])# Removing coefficients that are equal to zero
coefficients = coefficients[coefficients['Coefficient']!=0]print(coefficients.sort_values(by=['Exp_Coefficient']))技术支持
引言
在过去的 10-15 年里,随着数字技术的发展,营销策略发生了显著变化。无论是知名品牌还是细分市场,都积累了海量交易数据、客户购买记录、偏好、购买力、购买活动、人口统计、评价等。所有这些数据都能帮助营销人员理解客户在不同阶段的行为,从购买意图到实际购买,再到成为长期客户。这正是数据科学发挥潜力的地方。
数据科学将营销大数据转化为可执行的洞见,即便有时它看起来并不直观,例如一些不易察觉的消费者行为模式和共现关系。由此,营销人员可以更清晰地洞察目标受众,吸引新客户并留住现有客户,优化营销策略,提升公司曝光度,打造更成功的广告活动,拓展新渠道,并进而显著提升公司营收。
客户流失率预测是数据科学在营销中最典型的用例之一。下面我们将更详细地讨论这一主题。
营销中的数据科学用例:客户流失率预测
客户流失是指客户取消其正在使用的服务订阅,从而不再是该服务的客户。客户流失率是在预设时间区间内发生流失的客户所占的百分比。它与追踪新客户的客户增长率相对应。
客户流失率是衡量客户满意度和公司整体业务健康状况的关键指标。除任何业务中都会出现的自然流失,或某些服务常见的季节性流失外,还有其他因素意味着公司某些方面出现问题,需要修复。这些因素包括:
高流失率对任何公司而言都是严重问题,原因如下:
客户留存是所有订阅制服务业务战略的关键组成部分。要预测客户流失率并采取相应的预防措施,需要收集并分析客户行为信息(购买间隔、成为客户的总体时长、取消记录、跟进电话与消息、线上活动等),并找出哪些属性及其组合是有流失风险客户的特征。提前了解哪些客户可能即将流失,尤其是高营收或长期客户,有助于公司集中精力制定有效策略,尽力挽留他们。做法可以包括致电此类客户并提供特别优惠,如礼品、折扣、在同价位升级订阅,或其他个性化体验。
从技术上讲,客户流失预测是一个典型的机器学习分类问题,即用“是”或“否”为客户打标,以区分其是否存在流失风险。我们将使用 Python 在真实世界数据上探究这一用例。
我们将以电信行业为例建模,在该业务模型中,客户可以在一份总协议下与电信公司签订多个服务。数据集包含清洗后的客户活动特征,以及指示客户是否流失的标签。
先看一眼数据并探索流失率分布:
有 27% 的客户发生了流失,这是一个相当高的比例。与之前的数据科学用例相比,这个数据集似乎并不存在严重的类别不平衡问题。
接下来,我们将对数据进行预处理,以便应用机器学习技术进行流失预测。这包括将数据拆分为训练集和测试集,并提取特征和目标变量:
我们将使用的第一个建模算法是简单的逻辑回归分类模型,用来预测流失标签并评估结果的准确率:
接着,我们为逻辑回归模型增加一项功能:在进行特征缩放的同时使用 L1 正则化,使得在建模的同时完成特征选择。C 参数(正则化强度的倒数)的不同取值会影响模型的准确率。这里先将 C 设置为 0.025:
现在,我们将对 L1 正则化的 C 参数进行调优,以找到在降低模型复杂度的同时仍保持良好性能指标的最优值。为此,我们会遍历不同的 C 取值,为每个取值训练一个逻辑回归模型,并计算性能指标。
列表 C 事先已包含参数的可选取值。数组 l1_metrics 有 3 列,第一列为 C 值,后两列分别是非零系数数量和模型准确率的占位符。让我们来试一试这一方法:
可以看到,较小的 C 值会减少非零系数(即用于建模的特征)数量,从而降低模型复杂度,但同时也会降低模型准确率。看起来 C=0.05 是较优选择:在将特征数量减少至 18 的同时,准确率略高于未正则化模型。
现在,我们来尝试另一种建模算法——决策树模型:
为了在避免过拟合的同时选择更精确的模型,我们可以尝试调整树的深度(max_depth 参数),并确定其最优值。技术流程与上文选择逻辑回归最优 C 参数类似:在这里,我们会遍历多个 max_depth 值,为每个值训练一棵决策树,然后计算性能指标。
列表 depth_list 事先已包含参数的可选取值。数组 depth_tuning 有 2 列,第一列为候选深度,另一列为准确率的占位符。让我们应用这一方法来寻找最优树深度:
因此,随着深度增加,准确率先上升后下降。在 max_depth 为 5 时,模型达到最高准确率,因此可将其视为最优树深度。
在确定了逻辑回归与决策树模型的最佳参数后,我们将重建这些模型,并识别与解读推动流失上升或下降的主要因素。
对于逻辑回归模型,我们将提取并分析最终系数的指数值:
可以看到,对流失赔率影响最大的特征是 tenure(客户在网时长)。一般来说,系数的指数小于 1 会降低流失赔率,而大于 1 会提高流失赔率。
对于决策树模型,我们将提取并可视化 if-else 规则:
我们得到了一张可读性良好的决策树可视化,能够从顶部开始将其解释为一组 if-else 规则。再次可以看出,客户在网时长是驱动流失的最重要变量。决策树还可以扩展更多层级,以获取关于其他变量的更多洞见。
下一步可以尝试进一步调整模型参数,采用不同的训练/测试划分方式,应用并比较其他机器学习算法,并分析多种评分指标来评估模型表现。
如果您想更深入地了解客户流失率预测以及数据科学在营销中的其他应用,这门关于Python 营销机器学习的课程是一个不错的起点。