AI_Homework_ch9

Jardasvai

已于 2024-04-24 01:08:37 修改

阅读量1.6k

点赞数 56

分类专栏：人工智能入门文章标签：人工智能机器学习 k-means

于 2024-04-24 01:06:25 首次发布

本文链接：https://blog.csdn.net/weixin_61595382/article/details/137273027

版权

人工智能入门专栏收录该内容

3 篇文章 0 订阅

订阅专栏

AI_ch9 无监督学习—聚类算法

使用k-means算法，将如下八个点划分到三个聚类中。八个点坐标： $A 1 = (2, 10), A 2 = (2, 5), A 3 = (8, 4), A 4 = (5, 8),$ $A 5 = (7, 5), A 6 = (6, 4), A 7 = (1, 2), A 8 = (4, 9)$ 各点间的欧式距离：

$\begin{array}{|c|c|c|c|c|c|c|c|c|} \hline & A1 & A2 & A3 & A4 & A5 & A6 & A7 & A8 \\ \hline A1 & 0 & \sqrt{25} & \sqrt{72} & \sqrt{13} & \sqrt{50} & \sqrt{52} & \sqrt{65} & \sqrt{5} \\ \hline A2 & & 0 & \sqrt{37} & \sqrt{18} & \sqrt{25} & \sqrt{17} & \sqrt{10} & \sqrt{20} \\ \hline A3 & & & 0 & \sqrt{25} & \sqrt{2} & \sqrt{4} & \sqrt{53} & \sqrt{41} \\ \hline A4 & & & & 0 & \sqrt{13} & \sqrt{17} & \sqrt{52} & \sqrt{2} \\ \hline A5 & & & & & 0 & \sqrt{2} & \sqrt{45} & \sqrt{25} \\ \hline A6 & & & & & & 0 & \sqrt{29} & \sqrt{29} \\ \hline A7 & & & & & & & 0 & \sqrt{58} \\ \hline A8 & & & & & & & & 0 \\ \hline \end{array}$
三个聚簇的初始中心点为A1，A4和A7，运行一遍k-means算法后，给出新的聚类归属关系，以及新的聚类中心点。可以画出八个点的示意图。

8个点利用python可视化如下：

import matplotlib.pyplot as plt
import numpy as np
points = np.array([
    [2, 10],  # A1
    [2, 5],   # A2
    [8, 4],   # A3
    [5, 8],   # A4
    [7, 5],   # A5
    [6, 4],   # A6
    [1, 2],   # A7
    [4, 9]    # A8
])
labels = ['A1', 'A2', 'A3', 'A4', 'A5', 'A6', 'A7', 'A8']  # 点的标签
colors=['blue']*len(points)
centers=[0,3,6]
for x in centers:
    colors[x]='red'
fig, ax = plt.subplots()
ax.scatter(points[:, 0], points[:, 1],c=colors) 
for i, label in enumerate(labels):
    ax.annotate(label, (points[i, 0], points[i, 1]), xytext=(5, -5), textcoords='offset points')

ax.set_xlim(0, 10)
ax.set_ylim(0, 12)
ax.xaxis.set_major_locator(plt.MultipleLocator(1))
ax.yaxis.set_major_locator(plt.MultipleLocator(1))
ax.grid(True)

ax.set_title("Points Visualization")
ax.set_xlabel("X")
ax.set_ylabel("Y")

plt.show()

在这里插入图片描述

运行K-means，第一次聚类，容易得到，归属于 $A 1$ 中心的点有 $[A 1]$ ，归属到 $A 4$ 中心的点有 $[A 3, A 4, A 5, A 6, A 8]$ ，归属到 $A 7$ 中心的点有 $[A 2, A 7]$
此时三个聚类中心需要重新寻找，以 $A 1$ 为中心的聚类只有一个点，所以 $A 1$ 的中心不变仍为 $A 1$ 。
以 $A 4$ 为中心的聚类，新的聚类中心坐标为： $\left(\frac{1}{5}\left(x_{A3}+x_{A4}+x_{A5}+x_{A6}+x_{A8}\right),\frac{1}{5}\left(y_{A3}+y_{A4}+y_{A5}+y_{A6}+y_{A8}\right)\right)=\left(\frac{1}{5}\left(8+5+7+6+4\right),\frac{1}{5}\left(4+8+5+4+9\right)\right)=\left(6,6\right)$
同理，以 $A 7$ 为中心的聚类，新的聚类中心坐标为： $\left(\frac{3}{2},\frac{7}{2}\right)$

fig1, ax1 = plt.subplots()
ax1.scatter(points[:, 0], points[:, 1]) 
new_centers=np.array([[2,10],[6,6],[1.5,3.5]])
center_labels=['C1','C2','C3']
ax1.scatter(new_centers[:,0],new_centers[:,1],c='red')

for i, label in enumerate(labels):
    ax1.annotate(label, (points[i, 0], points[i, 1]), xytext=(5, -5), textcoords='offset points')
    
for i, label in enumerate(center_labels):
    ax1.annotate(label, (new_centers[i, 0], new_centers[i, 1]), xytext=(-5, 5), textcoords='offset points')
ax1.set_xlim(0, 10)
ax1.set_ylim(0, 12)
ax1.xaxis.set_major_locator(plt.MultipleLocator(1))
ax1.yaxis.set_major_locator(plt.MultipleLocator(1))
ax1.grid(True)

ax1.set_title("Points Visualization")
ax1.set_xlabel("X")
ax1.set_ylabel("Y")

plt.show()

在这里插入图片描述

以新的中心聚类，类似上述步骤，可以得到距离 $C 1$ 最近的点有 $[A 1, A 8]$ ，距离 $C 2$ 最近的点有 $[A 3, A 4, A 5, A 6]$ ，距离 $C 3$ 最近的点有 $[A 2, A 7]$
类似地，更新中心点， $C1=(3,\frac{19}{2}),\quad C2=(\frac{13}{2},\frac{21}{4}),\quad C3=(\frac{3}{2},\frac{7}{2})$

fig2, ax2 = plt.subplots()
ax2.scatter(points[:, 0], points[:, 1]) 
new_centers2=np.array([[3,19/2],[13/2,21/4],[1.5,3.5]])
center_labels2=['C1','C2','C3']
ax2.scatter(new_centers2[:,0],new_centers2[:,1],c='red')

for i, label in enumerate(labels):
    ax2.annotate(label, (points[i, 0], points[i, 1]), xytext=(5, -5), textcoords='offset points')
    
for i, label in enumerate(center_labels2):
    ax2.annotate(label, (new_centers2[i, 0], new_centers2[i, 1]), xytext=(-5, 5), textcoords='offset points')
ax2.set_xlim(0, 10)
ax2.set_ylim(0, 12)
ax2.xaxis.set_major_locator(plt.MultipleLocator(1))
ax2.yaxis.set_major_locator(plt.MultipleLocator(1))
ax2.grid(True)

ax2.set_title("Points Visualization")
ax2.set_xlabel("X")
ax2.set_ylabel("Y")

plt.show()

在这里插入图片描述

同样地，计算出归属于 $C 1$ 的点有 $[A 1, A 4, A 8]$ ，归属于 $C 2$ 的点有 $[A 3, A 5, A 6]$ ，归属于 $C 3$ 的点有 $[A 2, A 7]$
类似地，更新距离中心，得到 $C1=(\frac{11}{3},9),\quad C2=(7,\frac{13}{3}),\quad C3=(\frac{3}{2},\frac{7}{2})$

fig3, ax3 = plt.subplots()
ax3.scatter(points[:, 0], points[:, 1]) 
new_centers3=np.array([[11/3,9],[7,13/3],[1.5,3.5]])
center_labels3=['C1','C2','C3']
ax3.scatter(new_centers2[:,0],new_centers3[:,1],c='red')

for i, label in enumerate(labels):
    ax3.annotate(label, (points[i, 0], points[i, 1]), xytext=(5, -5), textcoords='offset points')
    
for i, label in enumerate(center_labels2):
    ax3.annotate(label, (new_centers3[i, 0], new_centers3[i, 1]), xytext=(-5, 5), textcoords='offset points')
ax3.set_xlim(0, 10)
ax3.set_ylim(0, 12)
ax3.xaxis.set_major_locator(plt.MultipleLocator(1))
ax3.yaxis.set_major_locator(plt.MultipleLocator(1))
ax3.grid(True)

ax3.set_title("Points Visualization")
ax3.set_xlabel("X")
ax3.set_ylabel("Y")

plt.show()

在这里插入图片描述

这一步，计算出归属于 $C 1$ 的点有 $[A 1, A 4, A 8]$ ，归属于 $C 2$ 的点有 $[A 3, A 5, A 6]$ ，归属于 $C 3$ 的点有 $[A 2, A 7]$ ，与上一次划分没有变化，因此这就是最后的划分结果，即：
$Cluster_{C1}=\{A1,A4,A8\},\quad Cluster_{C2}=\{A3,A5,A6\},\quad Cluster_{C3}=\{A2,A7\}$
$C1=(\frac{11}{3},9),\quad C2=(7,\frac{13}{3}),\quad C3=(\frac{3}{2},\frac{7}{2})$