K-means 聚类算法分析

本文介绍: 算法简述算法简述K-means算法原理我们假定给定数据样本 X ，包含了 n 个对象，其中每一个对象都具有 m 个维度的属性。而 K-means 算法的目标就是将 n 个对象依据对象间的相似性聚集到指定的 k 个类簇中，每个对象属于且仅属于一个其到类簇中心距离最小的类簇中。对于 K-means 算法，首先需要初始化 k 个聚类中心, 然后通过计算每一个对象到每一个聚类中心的欧式距离，如下式所示：这里的表示第i个对象表示第j 个聚类中心表示第i个对象的第t个属性，

算法简述

K-means 算法原理

我们假定给定数据样本 X ，包含了 n 个对象 $X = left { X_{1},X_{2},X_{3},...,X_{n}right }$ ，其中每一个对象都具有 m 个维度的属性。而 K-means 算法的目标就是将 n 个对象依据对象间的相似性聚集到指定的 k 个类簇中，每个对象属于且仅属于一个其到类簇中心距离最小的类簇中。对于 K-means 算法，首先需要初始化 k 个聚类中心 $left { C_{1}, C_{2},C_{3},...,C_{k}, right },1<kleq n$ , 然后通过计算每一个对象到每一个聚类中心的欧式距离，如下式所示：

$dis(X_{i},C_{i}) = sqrt{sum_{t=1}^{m} (X_{it}-C_{jt})^{2}}$

这里的 $X_{i}$ 表示第i个对象 $1<i<n$ ， $C_{i}$ 表示第 j 个聚类中心 $1<j<k$ ， $X_{it}$ 表示第i个对象的第t个属性， $1leq tleq m$ ， $C_{jt}$ 表示第j个聚类中心的第t个属性。

依次比较每一个对象到每一个聚类中心的距离，将对象分配到距离最近的聚类中心的类簇中，得到k个类簇 $left {S_{1},S_{2},S_{3},...,S_{k}right }$ ，kmeans 算法定义了类簇的原型，类簇中心就是类簇内所有对象在各个维度的均值，其计算公式如下所示：

$C_{t} = frac{sum_{X_{i}in S_{i}}^{}X_{i}}{left | S_{l} right |}$

式中， $C_{l}$ 表示第l个聚类中心， $1leq lleq k$ ， $left | S_{l} right |$ 表示第l个类簇中对象的个数， $X_{i}$ 表示第l个类簇中第i个对象， $1leq ileq left | S_{i} right |$

算法实现流程

随机设置 K 个特征空间内的点作为初始的聚类中⼼。
对于其他每个点计算到 K 个中⼼的距离，未知的点选择最近的⼀个聚类中⼼点作为标记类别。
接着对着标记的聚类中⼼之后，重新计算出每个聚类的新中心点（平均值）
如果计算得出的新中⼼点与原中⼼点⼀样（质⼼不再移动），那么结束，否则重新进⾏第⼆步过程。

核心代码

手写实现 K-means 算法：

import numpy as np
import random
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False
"""
手写实现Kmeans
"""
data = np.genfromtxt("classes.txt", delimiter='t')
X = data
K = 5
colors = ['r', 'g', 'b', 'c', 'm', 'y', 'k']
max_iterations = 10000
random.seed(100)
def kmeans(data, K, max_iterations):
    initial_centers = random.sample(list(data), K)
    centers = initial_centers

    for iteration in range(max_iterations):
        clusters = {i: [] for i in range(K)}
        for point in data:
            distances = [np.linalg.norm(point - center) for center in centers]
            cluster_index = np.argmin(distances)
            clusters[cluster_index].append(point)

        new_centers = [np.mean(clusters[i], axis=0) for i in range(K)]
        if np.all(np.array_equal(centers[i], new_centers[i]) for i in range(K)):
            break
        centers = new_centers

    return centers, clusters

final_centers, final_clusters = kmeans(X, K, max_iterations)
for i in range(K):
    cluster = np.array(final_clusters[i])
    plt.scatter(cluster[:, 0], cluster[:, 1], c=colors[i], label=f'簇 {i + 1}')

centers = np.array(final_centers)
plt.scatter(centers[:, 0], centers[:, 1], c='k', marker='x', s=100, label='簇中心')

plt.xlabel('高度')
plt.ylabel('宽度')
plt.legend()
plt.show()

调用 sklearn 包的 K-means 算法：

import numpy as np
from sklearn.cluster import KMeans
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False
"""
调用sklearn库的Kmeans算法
"""
data = np.genfromtxt("classes.txt", delimiter='t')
X = data
K = 3
num_experiments = 5
colors = ['r', 'g', 'b', 'c', 'm', 'y', 'k']
for i in range(num_experiments):
    kmeans = KMeans(n_clusters=K, init='k-means++', random_state=i)
    kmeans.fit(X)
    print(f"实验 {i + 1} - 初始中心: {kmeans.cluster_centers_}")

kmeans = KMeans(n_clusters=K, init='k-means++', random_state=0)
kmeans.fit(X)

labels = kmeans.labels_

clustered_data = {i: [] for i in range(K)}
for i, label in enumerate(labels):
    clustered_data[label].append(X[i])

for i in range(K):
    cluster = np.array(clustered_data[i])
    plt.scatter(cluster[:, 0], cluster[:, 1], c=colors[i], label=f'簇 {i + 1}')

centers = kmeans.cluster_centers_
plt.scatter(centers[:, 0], centers[:, 1], c='k', marker='x', s=100, label='簇中心')

plt.xlabel('高度')
plt.ylabel('宽度')
plt.legend()
plt.show()

手写实现 K-means 的算法流程：

随机选择 initial centers：从数据集中随机选择 K 个数据点，作为 initial centers。
计算距离：对于每个数据点，计算它与当前的 K 个 centers 之间的距离。
分配数据点：将每个数据点分配到最近的 center 所对应的集合中。
更新 centers：将每个集合的中心点更新为集合中的均值。
重复步骤 2-4：直到 centers 不再发生变化，或者达到最大迭代次数。
返回 centers 和 clusters：返回最终的 centers 和 clusters。

实验结果与分析

使用 python 手写实现 K-means 算法效果（假设 K=3 的时候）：

使用 sklearn 中的 K-means 算法效果（假设 K=3 的时候）：

使用 python 手写实现 K-means 算法效果（假设 K=5 的时候）：

这里使用了 Python 手写实现 K-means 算法，并与 scikit-learn 库中的K-means 算法进行了比较。结果发现手写实现的 K-means 算法的效果与scikit-learn 库中的 K-means 算法相似，都可以很好地聚集数据点。

结论与心得体会

K-means 算法是一种常用的聚类算法，可以用来分组数据点 K 个聚类。在本实验中，我们使用了 VOC 数据集中的 600 张图像，并将每个图像的边界框标注为一个数据点。这里使用了 K-means 算法将这些数据点聚集到 K 个聚类中。

classes.txt文件：

原文地址:https://blog.csdn.net/m0_62919535/article/details/135299758

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。

如若转载，请注明出处：http://www.7code.cn/show_54256.html

如若内容造成侵权/违法违规/事实不符，请联系代码007邮箱：suwngjj01@126.com进行投诉反馈，一经查实，立即删除！

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。