深度学习中使用X_train.astype('float32')的原因分析

最新推荐文章于 2024-05-11 20:37:53 发布
最新推荐文章于 2024-05-11 20:37:53 发布
阅读量1.3w 收藏 26
点赞数 8
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40247705/article/details/104756991
版权

再深度学习中，数据量往往很大，所以在保障数据精度的同时还要考虑计算效率，虽然float64比float32有更高的精度，但一个在内存中占分别64和32个bits，也就是4bytes或8bytes.

具体来讲，float64占用的内存是float32的两倍，是float16的4倍；比如对于CIFAR10数据集，如果采用float64来表示，需要60000323238/1024**3=1.4G，光把数据集调入内存就需要1.4G；如果采用float32，只需要0.7G，如果采用float16，只需要0.35G左右；占用内存的多少，会对系统运行效率有严重影响；（因此数据集文件都是采用uint8来存在数据，保持文件最小）

*逍遥*
关注
  • 8
    点赞
  • 踩
  • 26
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习--函数的用法
qq_43436296的博客
04-04 364
import osos.environ['TF_CPP_MIN_LOG_LEVEL']='1' # 默认，显示所有信息os.environ['TF_CPP_MIN_LOG_LEVEL']='2' # 只显示warning 和erroros.environ['TF_CPP_MIN_LOG_LEVEL']='3' # 只显示error注意：紧跟在import之后。；https://blog.csdn.net/swan777/article/details/89040802；https://blog.csdn.
Pytorch数据集加载---DataLoader和Dataset
qq_40268672的博客
08-12 770
DataLoader 和 Dataset 神经网络训练的第一步往往是数据集的加载和处理，当然，我们可以自己手动完成，但这也往往给我们带来了诸多的不便，尤其是当数据集比较大的时候，比如shuffle操作，batch操作等等，甚至更加高级的图片预处理操作。 幸运的是，pytorch为我们提供了用于数据加载和处理的DataLoader和Dataset类，Dataset是一个包装类，用来将数据包装为Dataset类，然后传入DataLoader中，我们再使用DataLoader这个类来更加快捷的对数据进行操作。Da
Python astype(np.float)函数使用方法解析
09-16
主要介绍了Python astype(np.float)函数使用方法解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
astype
weixin_65544554的博客
10-03 929
numpy数据类型转换，调用astype返回数据类型修改后的数据，但是源数据的类型不会变。
return np.array(haze).astype('float32'),np.array(clear).astype('float32')
weixin_42596246的博客
02-15 233
这段代码是使用Python语言和NumPy库编写的，其作用是将名为"haze"和"clear"的两个数组转换为NumPy的ndarray类型，并将它们的数据类型转换为float32。 具体而言，代码中的np.array()函数将"haze"和"clear"两个数组转换为ndarray类型，而astype('float32')方法将它们的数据类型转换为float32。最终的返回值是一个包含两个nda...
astype和squeeze 函数
重剑无锋博客
08-04 1737
x_train = x_train.astype("float32") / 255.0 y_train = np.squeeze(y_train) x_test = x_test.astype("float32") / 255.0 y_test = np.squeeze(y_test) astype函数：数据类型转化函数 squeeze 函数：从数组的形状中删除单维度条目，即把shape中为1的维度去掉 用法：numpy.squeeze(a,axis = None) >>> .
numpy数组的astype()函数
最新发布
听海边涛声
05-11 252
numpy数组的astype()函数
数字图像 深度学习实验
weixin_54069804的博客
06-10 642
2.完成情感分析代码（基于循环神经网络）的运行与调试。
深度学习——keras教程系列基础知识
th1522856954的博客
12-29 1852
大家好，本期我们将开始一个新的专题的写作，因为有一些小伙伴想了解一下深度学习框架Keras的知识，恰好本人也会一点这个知识，因此就开始尝试着写一写吧。本着和大家一起学习的态度，有什么写的不是很好的地方还请大家多多指教。这里我默认大家已经搭建好了深度学习的实践环境了。 一、Keras介绍 关于什么是深度学习，我这里就不多说明了，大家Google就能知道答案。关于深度学习的框架有很多:Tensorflow、Keras、PyTorch、 MXNet、PaddlePaddle等等，那么为什么我这里就开...
mnist实验.zip_Python 深度学习_mnist分类_深度学习_深度学习 分类_深度学习实验
09-23
x_train = x_train.reshape(x_train.shape[0], 28, 28, 1).astype('float32') / 255 x_test = x_test.reshape(x_test.shape[0], 28, 28, 1).astype('float32') / 255 model.fit(x_train, y_train, epochs=10, ...
LLMs之BELLE：源码解读(sft_train.py文件)采用LoRA微调模型—解析命令行参数→参数与日志初始化→初始化模型和标记器→模型优化(LoRA/梯度检查点/flash_attention
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
10-10 1435
'''：模型检查点的路径(若None则从头开始训练)、下载的预训练模型路径、模型权重数据类型、是否使用flash_attention、是否使用Llama模型：输入训练数据的文件路径、用于评估困惑度的可选评估数据文件的路径。
深度学习数据预处理的一些问题
qq_35599937的博客
04-03 1224
本人也在初学阶段，将自己遇到的一些小问题记录如下，如果有误欢迎大佬们评论指正Orz Orz Orz 1.csv读取 train_y = pd.read_csv('datalab/470000/train_y.csv') 此处获得的train_y数据为包含列索引和行索引，类似一个excel表格的DataFrame类型数据，并非numpy类型数据，因此此时是无法进行reshape等常规操作的，...
图像识别零基础？手把手带你打造一个小狗分类器！
weixin_43606419的博客
08-26 157
点击上方“蓝字”，感谢关注！项目介绍小狗分类器可以做什么？通过这个分类器，你只需要上传照片，就可以得到小狗的品种，以及更多的信息。这就是所谓的「机器学习」，让机器自己去“学习”。我们今天...
Python-辨析type/dtype/astype用法
MsSpark的博客
11-07 1万+
Python中与数据类型相关函数及属性有如下三个：type/dtype/astype。 名称 描述 type() 返回参数的数据类型 dtype 返回数组中元素的数据类型 astype() 对数据类型进行转换 type()用于获取数据类型 #type用于获取数据类型 import numpy as np a=[1,2,3] print(type(a)) #>&...
float16/32/64对神经网络计算的影响
jacke121的专栏
05-11 4251
https://www.maixj.net/ict/float16-32-64-19912 float16/32/64对神经网络计算的影响 神经网络的计算，或者说深度学习的计算，全都是浮点数。浮点数的类型分16/32/64（128位的不再考虑范围内，numpy和python最大只到float64），选择哪一种浮点数类型，对神经网络的计算有不同的影响。以下是近期的学习总结： （1）目前业界深度学习的标准是BF16，一种16位的浮点数，据说Google的TPU已经支持，未来Intel的芯片也会支持；.
keras中文文档_深度学习——keras教程系列基础知识
weixin_39965102的博客
12-03 415
大家好，本期我们将开始一个新的专题的写作，因为有一些小伙伴想了解一下深度学习框架Keras的知识，恰好本人也会一点这个知识，因此就开始尝试着写一写吧。本着和大家一起学习的态度，有什么写的不是很好的地方还请大家多多指教。这里我默认大家已经搭建好了深度学习的实践环境了。一、Keras介绍关于什么是深度学习，我这里就不多说明了，大家Google就能知道答案。关于深度学习的框架有很多:Tensorflow...
python reshape shape astype 理解
as472780551的博客
07-20 9416
x_train = x_train.reshape(x_train.shape[0], 1, img_rows, img_cols) x_test = x_test.reshape(x_test.shape[0], 1, img_rows, img_cols) from numpy import * l = zeros((5,4))#构建一个5*4的零矩阵 for i in range(5)...
[numpy] ndarray.astype(np.float32) 变化数组类型
热门推荐
doufuxixi的博客
05-19 3万+
方法一ndarray.astype(np.float32)方法二float_array = np.array([1.23,3.14,5.12,3.23],dtype=float)
x_train =x_train.astype('float32') x_test = x_test.astype('float32') x_train /= 255 x_test /=255
08-27
### 回答1： 这段代码的作用是将训练数据集和测试数据集中的每个像素值从整数转换为浮点数，并将它们归一化到0到1之间的范围内。这是一个常见的预处理步骤，因为深度学习模型通常对输入数据的范围非常敏感，归一化可以确保每个特征的权重在模型中得到合理的处理，从而提高模型的稳定性和准确性。具体来说，将每个像素值除以255是因为像素值的最大值是255，所以除以255可以将每个像素值缩放到0到1之间。 ### 回答2： 这段代码是用来对训练数据集和测试数据集进行数据预处理的。 首先，x_train = x_train.astype('float32')将训练数据集x_train的数据类型转换为float32，即单精度浮点数类型。这是因为训练过程中通常需要使用浮点数进行计算。 接下来，x_test = x_test.astype('float32')将测试数据集x_test的数据类型也转换为float32，保持与训练数据集的数据类型一致。 然后，x_train /= 255将训练数据集x_train中的每个像素值都除以255。这是为了将像素值缩放到0到1之间，以便使得数据更容易进行处理。 最后，x_test /=255同样将测试数据集x_test中的每个像素值都除以255，使得测试数据集的像素值也在0到1之间进行缩放。 通过以上数据预处理操作，训练数据集和测试数据集都已经被转换为float32类型，并且像素值都被缩放到0到1之间，以便更好地适用于后续的机器学习算法或深度学习模型的训练和预测过程。 ### 回答3： 这段代码的作用是将输入数据转换为float32类型，并进行归一化处理。 首先，x_train和x_test是训练集和测试集的输入数据。通过调用astype('float32')函数，将数据类型转换为float32，这是因为在深度学习中，通常需要使用该类型的数据进行计算。 然后，使用除以255的操作(x_train /= 255和x_test /= 255)，进行归一化处理。将每一个像素点的RGB值除以255，将其范围缩放到0到1之间。这样可以减小不同特征值之间的差异，使得模型能够更好地理解数据。 归一化处理可以有效地加速收敛过程，并提高模型的性能和稳定性。同时，它还可以避免特征值过大造成的计算溢出和梯度爆炸问题。 总之，这段代码的目的是将输入数据转换为float32类型，并进行归一化处理，以提升模型的性能和稳定性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值