一.导入数据
import pandas as pd
import numpy as np
from scipy import stats
# 设置文件路径
file_path = '1999年全国31个省份城镇居民家庭平均每人全年消费性支出数据.csv'
# 使用 pandas 的 read_csv 函数读取 CSV 文件,注意查看csv文件的编码,默认不填为utf-8编码
data = pd.read_csv(file_path,encoding='gbk')
需要注意的点:
1.设置文件路径时,一定要选择文件的绝对路径,便于编译器找到文件。
2.当文件路径中出现 / 时,为了避免报错,(因为转义字符出错),需要在开头加上r/R,或者采用 // 的方法
二. 检验数据是否读取成功
print(data.head())
当读取成功时,会出现以下结果:
三. 数据预处理
print(data.isnull().any())
利用data.isnull().any()检验是否存在缺失值:false无缺失值/true有缺失值
运行结果:
四. 选取有用数据进行读取
X = data.iloc[:, 1:]
五.标准化处理数据
from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
print(np.round(X_scaled, 2))
运行结果:
六.绘制手肘图
from sklearn.cluster import KMeans
from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
# 标准化数据
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
# 使用PCA进行降维
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)
# 使用手肘法确定最佳的K值
inertia = []
for k in range(1, 11):
kmeans = KMeans(n_clusters=k, random_state=42)
kmeans.fit(X_scaled)
inertia.append(kmeans.inertia_)
# 绘制手肘法图表
plt.figure(figsize=(8, 4))
plt.plot(range(1, 11), inertia, marker='o', linestyle='--')
plt.ylabel('误差平方和',fontproperties='SimHei', fontsize=20)
plt.title('手肘法图表',fontproperties='SimHei', fontsize=20)
plt.savefig('手肘法图.png',dpi=300)
plt.grid(True)
plt.show()
运行结果:
七.K-Means图绘制
# 从手肘法图表中选择最佳的K值
# 在这个示例中,根据手肘法,选择K=3
# 使用最佳的K值进行K-Means聚类
best_k = 4
kmeans = KMeans(n_clusters=best_k, random_state=42)
kmeans.fit(X_scaled)
# 将簇标签添加到原始数据中
data['亚类别'] = kmeans.labels_
# 打印每个簇中的样本数量
print(data['亚类别'].value_counts())
# PCA绘制降维后的数据及其簇分布
plt.figure(figsize=(8, 6))
plt.scatter(X_pca[:, 0], X_pca[:, 1], c=kmeans.labels_, cmap='viridis')
plt.xlabel('主成分1',fontproperties='SimHei', fontsize=20)
plt.ylabel('主成分2',fontproperties='SimHei', fontsize=20)
plt.title('K-Means Clustering with k = 2')
plt.savefig('K-Means 结果.png',dpi=300)
plt.show()
运行成果图:
注意:
如果希望在图中显示汉字,需要在plt.xlabel('主成分1')函数中加入参数,fontproperties='SimHei', fontsize=20,这样汉字便可正常显示
八.聚类分析结果