数据预处理-数据清洗之numpy创建及属性

数据预处理包括数据清洗,使用numpy进行数据预处理包括创建数组、查看数组属性和数组变换操作。介绍了numpy创建数组的方法,如np.array()、随机数函数、arange、全零数组、全一数组、线性序列数组、单位矩阵数组和对角矩阵数组。还提及了数组的广播概念,即在特定条件下,低秩数组形状通过复制自身元素沿维度扩展以匹配高秩数组。
摘要由CSDN通过智能技术生成

什么是数据预处理?

数据预处理(data preprocessing)是指在主要的处理以前对数据进行的一些处理。一般我们得到的数据会存在有缺失值、重复值等,在使用之前需要进行数据预处理。它是一系列对数据操作的统称。

为什么要进行数据预处理?

现实世界中数据大体上都是不完整,不一致的脏数据,无法直接进行数据挖掘,或挖掘结果差强人意。为了提高数据挖掘的质量产生了数据预处理技术。  
数据预处理有多种方法:

  1. 数据清洗:可以用来清楚数据中的噪声,纠正不一致。
  2. 数据集成:将数据由多个数据源合并成一个一致的数据存储,如数据仓库。
  3. 数据归约:可以通过如聚集、删除冗余特征或聚类来降低数据的规模。
  4. 数据变换:(例如,规范化)可以用来把数据压缩到较小的区间,如0.0到1.0。

这些数据处理技术在数据挖掘之前使用,大大提高了数据挖掘模式的质量,降低挖掘所需要的时间。
本章总结在学习数据清洗–使用numpy包的相关内容

数据清洗–numpy包的使用

创建数组

使用了四种创建数组的方法

  1. 使用np.array()生成NDarray
  2. 使用随机数函数生成array
  3. 使用arange函数创建array
  4. 创建特殊数组函数
    np.zeros() #全0数组
    np.ones() #全1数组
    np.full() #全n数组
    np.linspace() #线性序列数组(元素之间等差)
    np.eye() #单位矩阵数组
    np.diag() #对角矩阵数组
#导入numpy包

import numpy as np

'''
使用np.array()生成NDarray
'''
arr1=np.array([1,3.14,-5,2,6.2,0],ndmin=1) #ndmin控制维数

#print(arr1)

arr2=np.array([[5,6,7,8,9],[4,3,2,1,0]])

#print(arr2)

'''
使用随机数函数生成array
'''

arr4=np.random.randint(10,size=(4,2)) #size指定形状4行2列

#print(arr4)

arr5=np.random.rand(2,3,4) #2,3,4 维度,轴。从0-1的均匀分布

#print(arr5)

arr6=np.random.uniform(size=(2,3))

#print(arr6)

arr7=np.random.uniform(1,10,size=(2
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值