深度学习—数据预处理

数据预处理

为了能用深度学习来解决现实世界的问题,我们经常从预处理原始数据开始, 而不是从那些准备好的张量格式数据开始。 在Python中常用的数据分析工具中,我们通常使用pandas软件包。 像庞大的Python生态系统中的许多其他扩展包一样,pandas可以与张量兼容。

读取数据集

举一个例子,我们首先创建一个人工数据集,并存储在CSV(逗号分隔值)文件 …/data/house_tiny.csv中。 以其他格式存储的数据也可以通过类似的方式进行处理。 下面我们将数据集按行写入CSV文件中:
请添加图片描述
要从创建的CSV文件中加载原始数据集,我们导入pandas包并调用read_csv函数。该数据集有四行三列。其中每行描述了房间数量(“NumRooms”)、巷子类型(“Alley”)和房屋价格(“Price”):
请添加图片描述

处理缺失值

注意,“NaN”项代表缺失值。 为了处理缺失的数据,典型的方法包括插值法和删除法, 其中插值法用一个替代值弥补缺失值,而删除法则直接忽略缺失值。 在这里,我们将考虑插值法。

通过位置索引iloc,我们将data分成inputs和outputs, 其中前者为data的前两列,而后者为data的最后一列。 对于inputs中缺少的数值,我们用同一列的均值替换“NaN”项:
请添加图片描述
对于inputs中的类别值或离散值,我们将“NaN”视为一个类别。 由于“巷子类型”(“Alley”)列只接受两种类型的类别值“Pave”和“NaN”, pandas可以自动将此列转换为两列“Alley_Pave”和“Alley_nan”。 巷子类型为“Pave”的行会将“Alley_Pave”的值设置为1,“Alley_nan”的值设置为0。 缺少巷子类型的行会将“Alley_Pave”和“Alley_nan”分别设置为0和1:

转换为张量格式

现在inputs和outputs中的所有条目都是数值类型,它们可以转换为张量格式。 当数据采用张量格式后,可以通过在 2.1节中引入的那些张量函数来进一步操作:
请添加图片描述

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
深度学习数据预处理是在将数据输入到模型之前对其进行处理和准备的过程。以下是一些常用的深度学习数据预处理方法: 1. 数据清洗:去除异常值、缺失值和噪声数据,以确保数据的质量和一致性。 2. 特征缩放:对于具有不同量级的特征,可以使用特征缩放技术如归一化(将数据缩放到0-1之间)或标准化(将数据转换为均值为0,标准差为1的分布)来统一特征的范围。 3. 特征编码:将非数值型特征转换为数值型特征。例如,使用独热编码(One-Hot Encoding)将分类变量转化为二进制向量。 4. 特征选择:根据特征的相关性和重要性选择最具代表性的特征。可以使用相关系数、方差阈值或基于模型的方法进行特征选择。 5. 数据增强:通过对原始数据进行变换和扩充,生成更多的训练样本。例如,对图像进行旋转、平移、缩放等操作,以增加模型的鲁棒性。 6. 数据划分:将数据集划分为训练集、验证集和测试集,用于模型的训练、调优和评估。 7. 序列填充和截断:对于序列型数据,可以使用填充技术(如零填充或平均值填充)来补全不完整的序列,或者截断长序列以保持一致性。 8. 数据标准化:对于数值型数据,可以使用标准化技术(如Z-score标准化)使数据具有零均值和单位方差,以便更好地满足模型的要求。 这些方法可以根据具体问题和数据集的特点进行灵活选择和组合,以提高深度学习模型的性能和鲁棒性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值