均值漂移聚类：全面指南

在 Python 中实现均值漂移聚类

现在让我们来实践均值漂移聚类的使用步骤。我们将使用流行的 sci-kit-learn 库中的 MeanShift 类，它可以开箱即用地将该算法应用到数据集上。

基础均值漂移聚类

首先导入实现所需的库。

from sklearn.cluster import MeanShift, estimate_bandwidth
from sklearn.datasets import make_blobs
import matplotlib.pyplot as plt技术支持

接下来，我们使用 scikit-learn 的 datasets 模块中的 make_blobs() 函数生成一个包含 500 个样本的合成数据集。该数据集有五个中心（即簇），簇的标准差为 0.7。

# Create a sample dataset
X, _ = make_blobs(n_samples=500, centers=5, cluster_std=0.7, random_state=27)技术支持

让我们使用 estimate_bandwidth() 函数来估计带宽。

# Estimate the bandwidth of the input data
bandwidth = estimate_bandwidth(X, quantile=0.2, n_samples=500)技术支持

现在，我们将使用该带宽数值来初始化 MeanShift 聚类对象，并在先前创建的数据集上进行拟合。

# Perform mean shift clustering
ms_model = MeanShift(bandwidth=bandwidth, bin_seeding=True)
ms_model.fit(X)
labels = ms_model.labels_
mean_shift_centers = ms_model.cluster_centers_技术支持

现在来可视化原始数据集上的均值漂移簇中心。这里，我们的五个簇用不同颜色表示，均值漂移中心用叉号表示。

# Plot the results
plt.scatter(X[:, 0], X[:, 1], c=labels, cmap='plasma', marker='p')
plt.scatter(mean_shift_centers[:, 0], mean_shift_centers[:, 1], s=250, c='blue', marker='X')
plt.title('mean shift clustering')
plt.xlabel('Attribute 1')
plt.ylabel('Attribute 2')
plt.show()技术支持

默认带宽值下的均值漂移聚类结果。图片作者自制

尽管我们观察到五个团块或簇，但算法仅识别出四个，因为它将两个相邻簇合并为一个。

调节带宽参数

bandwidth 参数对聚类结果影响很大。让我们对其进行调节，看是否能找到五个簇。我们将测试三个不同的带宽值，并可视化各自的簇中心。

# Try different bandwidth values
bandwidth_values = [0.1, 1.0, 2.0]

for bw in bandwidth_values:
    ms = MeanShift(bandwidth=bw, bin_seeding=True)
    ms.fit(X)
    labels = ms.labels_
    cluster_centers = ms.cluster_centers_
    print("Bandwidth Value:", bw)
    plt.scatter(X[:, 0], X[:, 1], c=labels, cmap='plasma', marker='p')
    plt.scatter(cluster_centers[:, 0], cluster_centers[:, 1], s=250, c='blue', marker='X')
    plt.title('mean shift clustering')
    plt.xlabel('Attribute 1')
    plt.ylabel('Attribute 2')
    plt.show()技术支持

带宽为 0.1 的均值漂移聚类结果。图片作者自制

带宽为 1.0 的均值漂移聚类结果。图片作者自制

带宽为 2.0 的均值漂移聚类结果。图片作者自制

带宽值 0.1 显然过小，导致算法将每个数据点都视为一个独立簇。另一方面，带宽值 2.0 似乎偏大，因为它在第一次尝试中未能分开两个簇。带宽值 1.0 最为理想，清晰地展示了全部五个簇及其中心。

让我们选择该值并再次可视化结果。

ms = MeanShift(bandwidth=1.0, bin_seeding=True)
ms.fit(X)
labels = ms.labels_
cluster_centers = ms.cluster_centers_
plt.scatter(X[:, 0], X[:, 1], c=labels, cmap='plasma', marker='p')
plt.scatter(cluster_centers[:, 0], cluster_centers[:, 1], s=250, c='blue', marker='X')
plt.title('mean shift clustering')
plt.xlabel('Attribute 1')
plt.ylabel('Attribute 2')
plt.show()技术支持

带宽为 1.0 的均值漂移聚类结果

如可观察到，带宽越小，往往产生更多簇；带宽越大，则可能导致簇被合并。

均值漂移与 k-means 的比较

我们在同一数据集上比较均值漂移与 k-means 的结果。 首先，从 sklearn 的 cluster 模块导入 KMeans。接着，我们将簇数设为 3 并拟合模型以获得簇质心。

from sklearn.cluster import KMeans
# Perform k-means Clustering
kmeans = KMeans(n_clusters=3, random_state=0, n_init='auto')
kmeans.fit(X)
kmeans_labels = kmeans.labels_
kmeans_centers = kmeans.cluster_centers_技术支持

现在，让我们可视化结果，并与均值漂移聚类进行对比。

plt.scatter(X[:, 0], X[:, 1], c=kmeans_labels, cmap='plasma', marker='p')
plt.scatter(kmeans_centers[:, 0], kmeans_centers[:, 1], s=250, c='red', marker='X')
plt.title('K-means Clustering')
plt.xlabel('Attribute 1')
plt.ylabel('Attribute 2')
plt.show()技术支持

k-means 聚类结果。图片作者自制

k-means 聚类算法的缺点在于需要预先指定簇的数量，这可能导致将相邻簇合并为一类。而经过良好调参的均值漂移聚类模型成功识别出了全部五个簇及其中心。

真实世界的用例

除了图像处理中的目标识别外，均值漂移聚类还应用于多个领域的诸多实际场景：

• 在生物信息学中，它支持基因表达分析和蛋白质结构预测。
• 地理空间分析师利用它进行地理聚类和空间数据中的异常检测。
• 在医学影像中，它用于检测 MRI 与 CT 扫描中的肿瘤，以及进行组织分类。
• 金融行业使用它进行市场细分与欺诈检测。
• 此外，在自然语言处理（NLP）中，它被用于文档聚类和情感分析。

结论

在本文中，我们了解了均值漂移聚类如何在无需预设簇数量的情况下，适应不同的簇形状与大小。

借助这些洞见与实践实现，您已可以在项目中进行尝试。Python 是最受欢迎的编程语言，值得深入学习。您可以参考此Python 开发者职业路径，进一步提升您的 Python 编程技能。也欢迎查看我们的完整Python 机器学习科学家职业路径，向专家学习。