机器学习之深度学习
文章平均质量分 85
该专栏将记录作者学习深度学习技术的阶段性总结。
魔法攻城狮MRL
技术到位,功夫到家
展开
-
【优化调参】提升GPU和CPU的利用率
在深度学习项目中,调节batch_size和num_workers参数来充分发挥GPU和CPU的性能原创 2021-11-27 00:18:27 · 18480 阅读 · 1 评论 -
环境安装——Anaconda安装
提示:转载请注明出处,若本文无意侵犯到您的合法权益,请及时与作者联系。环境安装——Anacond安装一、Anaconda是什么?二、Anaconda的安装注意在安装过程中的该页面选择该选项:三、Jupyter notebook的配置1、生成配置文件2、修改配置文件中的配置3、检查默认目录是否修改成功一、Anaconda是什么?Anaconda指的是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。因为包含了大量的.原创 2020-10-15 14:12:34 · 1049 阅读 · 1 评论 -
环境安装——TensorFlow安装
提示:转载请注明出处,若文章无意侵犯到您的合法权益,请及时与作者联系。文章目录前言 一、pandas是什么? 二、使用步骤 1.引入库 2.读入数据 总结前言提示:这里可以添加本文要记录的大概内容:例如:随着人工智能的不断发展,机器学习这门技术也越来越重要,很多人都开启了学习机器学习,本文就介绍了机器学习的基础内容。提示:以下是本篇文章正文内容,下面案例可供参考一、pandas是什么?示例:pandas 是基于NumPy 的一种工具,该工具是为了解决数.原创 2020-10-15 16:18:07 · 2116 阅读 · 1 评论 -
TensorFlow模型的保存与加载(一)——checkpoint模式【源码】
如果这篇文章对您有帮助,欢迎点赞支持!目录前言1、TF模型保存方法2、checkpoint模式3、适合保存模型的时机一、保存模型1、创建Saver对象2、检查保存路径3、生成模型文件二、加载模型1、加载模型结构2、加载模型参数3、获取Tensor变量三、代码封装1、保存网络模型2、加载网络模型前言1、TF模型保存方法网络模型的保存和重载操作是学习和训练AI模型的必备技能之一,也是进一步学习迁移学习知识的基础。Tensorflow原创 2021-04-15 16:52:10 · 8936 阅读 · 3 评论 -
TensorFlow模型的保存与加载(二)——pb模式【源码】
如果本文对您有帮助,欢迎点赞支持!目录前言1、TF模型保存方法2、pb模式3、适合保存模型的时机一、保存模型1、定义简单网络模型2、保存网络模型为pb文件二、加载网络模型前言1、TF模型保存方法网络模型的保存和重载操作是学习和训练AI模型的必备技能之一,也是进一步学习迁移学习知识的基础。Tensorflow的模型保存加载有不同格式,使用方法也不一样。目前来看,Tensorflow的保存方式按照生成的主要文件的格式基本可以分为三种:(1)checkpoint模式原创 2021-04-15 20:03:32 · 10064 阅读 · 2 评论 -
TensorBoard训练可视化(一)
如果本文对您有帮助,欢迎点赞支持!目录前言1、TensorBoard可以做什么?2、TensorBoard的绘制流程一、可视化计算图结构1、为计算图结构添加name和name_scope2、生成graph Events文件3、启动TensorBoard4、TensorBoard的显示效果二、监控训练过程数据1、监控张量节点变化2、监控模型变量变化3、定期添加到TensorBoard前言1、TensorBoard可以做什么?TensorBoard原创 2021-04-16 16:05:50 · 856 阅读 · 0 评论 -
使用Python构建参数化FNN(一)——构建可自定义结构的FNN
提示:转载请注明出处,若本文无意侵犯到您的合法权益,请及时与作者联系。文章目录一、 神经元与神经层的输出计算二、 实现一个2*3*1的FNN三、 实现一个自定义结构的FNN一、 神经元与神经层的输出计算从单个神经元的角度看,我们输入一个x,它经过自身的权重、偏置和激励函数(以Sigmoid为例)返还一个输出值。从单个神经层(假设有3个神经元)的角度看,我们输入一个向量,它经过自身的权重矩阵、偏置向量和激励函数(以Sigmoid为例)返还一个输出向量。在上述描述中,我们使用原创 2021-04-08 22:25:25 · 2214 阅读 · 0 评论 -
从零构建参数化全连接神经网络研究(一)之前言【开源】
从零构建参数化全连接神经网络研究目录前言一、项目内容结构1、目录结构2、8个迭代的神经网络版本二、项目代码简析1、神经网络类的派生2、代码的注释与说明3、最终版本的神经网络三、项目开源信息前言本项目原是作者的《图像合成技术》的一个课程作业,现已结课,开源出来供同行批评指正。主要内容是从零构建一个基础的参数化的全连接神经网络(不使用人工智能算法库),并使用该网络进行了一个分类实验和一个回归实验。本项目进行了8个版本的神经网络的迭代,每个版本层层推进,适合原创 2021-04-26 17:41:36 · 584 阅读 · 0 评论 -
从零构建参数化全连接神经网络研究(二)之数字分类实验【开源】
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。因为该项目原本是作者的一个课程作业,其详细内容直接截取了作者汇报PPT,若给您带来不便,欢迎留言。从零构建参数化全连接神经网络研究(二)之数字分类实验目录一、实验的MNIST数据集二、过拟合问题的实验研究1、梯度下降算法 & 最小批次梯度下降算法2、探究过拟合现象3、过拟合解决办法(一)之增加数据集4、过拟合解决办法(二)——正则化方法三、提高训练效率的实验研究1、提升训练速度办法(一)——优化权重初原创 2021-04-26 17:52:05 · 384 阅读 · 0 评论 -
从零构建参数化全连接神经网络研究(三)之函数拟合实验【开源】
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。因为该项目原本是作者的一个课程作业,其详细内容直接截取了作者汇报PPT,若给您带来不便,欢迎留言。从零构建参数化全连接神经网络研究(三)之函数拟合实验目录一、实验的MNIST数据集二、过拟合问题的实验研究1、梯度下降算法 & 最小批次梯度下降算法2、探究过拟合现象3、过拟合解决办法(一)之增加数据集4、过拟合解决办法(二)——正则化方法三、提高训练效率的实验研究1、提升训练速度办法(一)——优化权重初原创 2021-04-27 13:51:15 · 312 阅读 · 1 评论 -
使用TensorFlow搭建FNN(全连接神经网络)的基本步骤
提示:转载请注明出处,若本文无意侵犯到您的合法权益,请及时与作者联系。目录一、定义神经网络的输入输出二、搭建神经网络1、定义一个神经层中的权重2、定义一个神经层中的阈值3、定义一个神经层中的激活函数4、组合神经层为神经网络三、搭建损失函数和优化器1、搭建损失函数首先介绍第一个函数这其中用到的共同的函数为2、定义优化器四、训练神经网络全连接神经网络的网络结构如下:一、定义神经网络的输入输出神经网络最擅长的工作就是模拟非线性函数,即一个复杂的高..原创 2020-10-20 20:43:45 · 3490 阅读 · 1 评论 -
基于TensorFlow的FNN模型——MNIST手写数字识别器(一)之前言【开源】
MNIST手写数字识别器——基于TensorFlow的FNN模型目录前言(1)读取的MNIST图片数据可视化效果(2)训练模型的TensorBoard效果(3)测试模型的可视化效果(4)本项目开源地址等附加信息前言本项目是作者(MRL Liu)基于TensorFlow框架训练的一个全连接网络的手写数字识别器,是作者一个阶段总结性项目。基于MNIST的手写数字识别项目已是深度学习入门的必备项目,但区别于其他,本项目的特色是添加了:模型的保存与加载功能、TensorF原创 2021-04-19 21:59:36 · 995 阅读 · 4 评论 -
基于TensorFlow的FNN模型——MNIST手写数字识别器(二)之数据集可视化【开源】
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。文章目录前言二、使用MNIST数据集1、读取MNIST数据集2、MNIST数据集的常见操作三、可视化MNIST图片1、随机抽取9张图片数据2、可视化图片数据3、可视化效果提示前言MNIST手写数字识别是深度学习过程中的经典项目,很可能是很多深度学习爱好者的第一个入门项目。一、MNIST数据集的介绍该项目使用的是MNIST数据集,该数据集共有7万张图片,其中6万张用于训练神经网络,1万张用于测原创 2021-04-19 22:40:21 · 1059 阅读 · 0 评论 -
基于TensorFlow的FNN模型——MNIST手写数字识别器(三)之定义FNN【开源】
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。文章目录前言一、定义全连接神经层1、tf.Variable()或者tf.get_variable()的区别2、定义网络的权重(1)使用tf.Variable(initial_value,name)(2)使用tf.get_Variable(name,shape,initializer,collections)(3)随机数生成的常用函数3、定义网络的偏置(1)使用tf.Variable(initial_value,n原创 2021-04-20 13:53:51 · 883 阅读 · 0 评论 -
基于TensorFlow的FNN模型——MNIST手写数字识别器(四)之训练和测试【开源】
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。文章目录前言一、训练神经网络的方法1、训练主流程2、定期保存网络模型3、在TensorBoard中可视化4、在TensorBoard中记录各个节点的训练信息(可选)二、评估与测试模型1、加载模型(1)重定义计算图结构(2)滑动平均值重命名变量(3)读取保存的网络模型2、随机抽取图片检测预测效果提示前言之前的几篇博客我们已经定义好了如何进行定义计算图模型,接下来我们就要进行计算图模型的训练和原创 2021-04-20 16:08:23 · 599 阅读 · 0 评论 -
基于TensorFlow的CNN模型——猫狗分类识别器(一)之前言
猫狗分类识别器——基于TensorFlow的CNN模型前言本项目是作者(MRL Liu)使用Python学习CNN模型的实践项目,整体难度不高,可以作为手写数字识别项目的进阶选择,模型的训练难度也并不算高。本项目是基于TensorFlow的图像分类识别项目,所有代码共分为三个模块: 步骤 模块名称 主要任务 一 DataHelper...原创 2021-03-05 21:38:34 · 3228 阅读 · 3 评论 -
基于TensorFlow的CNN模型——猫狗分类识别器(二)之数据预处理
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。一、对数据集进行预处理在第一步,我们要对数据集进行一些处理,主要任务是“将数据集文件处理成可读取到内存进行特征学习的数据对象(DataSets)”。我们分析该任务,可以归纳出该阶段工作的主要步骤: 步骤 主要任务 (1) 设计一个预处理程序,将图片读取到内存并进行缩放等预处理。 (2) ...原创 2021-03-05 21:45:21 · 1704 阅读 · 0 评论 -
基于TensorFlow的CNN模型——猫狗分类识别器(三)之CNN模型分析
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。二、CNN模型分析在该阶段我们将使用TensorFlow搭建一个CNN模型,这个CNN模型的结构如下图: 输入层的数据输出 经过数据预处理部分,我们的输入数据是一个shape=(batch_size,image_length,image_width,color_channel)的四维数组(在TensorFlow中用Tensor表示这个数组,但我们这里为了理解,仍使用数组的说法,下同。) 层 ...原创 2021-03-07 17:40:26 · 1109 阅读 · 0 评论 -
基于TensorFlow的CNN模型——猫狗分类识别器(四)之创建CNN模型
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。三、创建CNN模型1、构建权重和偏置在搭建神经网络层前,我们先来看下如何初始化神经网络层的权重和偏置参数。这一项非常重要,因为卷积层、全连接层等基本都需要这一步,所以我们先单独拿出来说明。def __create_weights(self,shape): return tf.Variable(tf.truncated_normal(shape, stddev=0.05))def __create_biases(self,si原创 2021-03-07 17:46:22 · 1152 阅读 · 0 评论 -
基于TensorFlow的CNN模型——猫狗分类识别器(五)之训练和评估CNN模型
注意:这是一个完整的项目,建议您按照完整的博客顺序阅读。目录三、训练和优化CNN模型1、搭建训练主循环2、训练时间的记录3、早期终止机制4、训练数据的可视化5、训练数据的保存与加载四、测试和运用CNN模型1、加载训练好的模型2、调用训练好的模型3、查看TensorBoard三、训练和优化CNN模型搭建好CNN模型的计算图之后,我们就可以来训练和优化该CNN模型了,即运行计算图。1、搭建训练主循环众所周知,TensorFlow是基于计算图的框架,想要原创 2021-03-07 17:53:36 · 2630 阅读 · 2 评论 -
【API使用总结】np.argmax()和tf.argmax()的辨析
提示:如果本文对您有帮助,请点赞支持!文章目录前言一、np.argmax()的使用二、tf.argmax()的使用前言在写AI算法的Demo时,偶然间出现了一个bug,发现是我不小心将tf.argmax()写成了np.argmax(),正好闲来无事,辨析下两个API的使用一、np.argmax()的使用np.argmax()是Python的第三方库numpy中的一个常见API,经常用来获取数组中的最大值所在的索引。所以使用该API要先导入该库:impo..原创 2021-04-19 20:29:52 · 647 阅读 · 2 评论