keras深度学习笔记
结合书籍《Python 深度学习》的学习,分享自己的深度学习笔记,更好的同大家一起理解深度学习的原理,希望同大家一起学习,一起进步
瓦力人工智能
这个作者很懒,什么都没留下…
展开
-
深度学习笔记16_猫狗案例优化_使用预训练模型(fine-tuning)
模型微调概念微调是指将其顶部的几层“解冻”,并将这解冻的几层和新增加的部分联合训练。详细的理解见下图[外链图片转存失败(img-ih2x0XIm-1569374299326)(https://upload-images.jianshu.io/upload_images/19296570-9e2d990bdaf2d549.jpg?imageMogr2/auto-orient/strip%7Cim...原创 2019-10-21 10:26:28 · 562 阅读 · 0 评论 -
深度学习笔记(3) - 梯度优化
梯度优化基本概念权重权重: 又称为可训练参数(trainable parameter),分别对应 kernel 和 bias 属性。随机初始化(random initialization): 赋值为权重矩阵取较小的随机值训练/学习: 逐渐调节权重的过程具体步骤如下:抽取训练样本 x 和对应目标 y 组成的数据批量。在 x 上运行网络[这一步叫作前向传播(forward pass)...原创 2019-08-22 08:57:23 · 422 阅读 · 0 评论 -
深度学习笔记(2) - 神经网络的数学基础
神经网络的数学基础数学概念:张量、张量运算、微分、梯度下降。构建一个数字识别的神经网络from keras.datasets import mnist# 训练集: train_images,train_labels# 测试集:test_images,test_labels(train_images,train_labels),(test_images,test_labels) = m...原创 2019-08-20 17:16:50 · 986 阅读 · 0 评论 -
01-深度学习的基础概念
文章目录深度学习的基础概念人工智能、机器学习与深度学习机器学习深度学习深度学习工作原理机器学习简史概率建模早期神经网络核方法决策树、随机森林与梯度提升机回到神经网络深度学习为什么现在火硬件数据集和基准算法上的改进深度学习的基础概念人工智能、机器学习与深度学习人工智能的概念: 努力将通常由人类完成的智力任务自动化。人工智能、机器学习与深度学习三者的关系机器学习机器学习系统是训练出来的,...原创 2019-08-19 10:19:32 · 219 阅读 · 0 评论 -
深度学习笔记(5) - 二分类问题案例 - 电影评论分类
二分类问题案例 - 电影评论分类在这个例子中,你将学习根据电影评论的文字内容将其划分为正面或负面。IMDB 数据集IMDB 数据集,它包含来自互联网电影数据库(IMDB)的 50 000 条严重两极分化的评论。数据集被分为用于训练的 25 000 条评论与用于测试的 25 000 条评论,训练集和测试集都包含 50% 的正面评论和 50% 的负面评论。IMDB 数据集也内置于 Keras ...原创 2019-08-28 09:06:14 · 1708 阅读 · 0 评论 -
深度学习笔记15_猫狗案例优化_使用预训练模型(迁移学习)
选择预训练模型将深度学习应用于小型图像数据集,一种常用且非常高效的方法是使用预训练网络。预训练网络(pretrained network)是一个保存好的网络,之前已在大型数据集(通常是大规模图像分类任务)上训练好。这个方法也叫迁移学习。预训练的模型学到的特征的空间层次结构可以有效地作为视觉世界的通用模型较低层学到的结构都是一些点线等低层次的特征,这里使用的预训练的模型的数据是 Im...原创 2019-10-09 10:03:26 · 599 阅读 · 0 评论 -
深度学习笔记14_猫狗分类案例优化 - 数据增强
猫狗分类案例优化 - 数据增强数据增强的基本概念**数据增强:**利用多种数字图像处理方法(旋转,剪切,错切,缩放,翻转,边缘填充)生成可信图像.其目标是,模型在训练时不会两次查看完全相同的图像。这让模型能够观察到数据的更多内容,从而具有更好的泛化能力。在keras中可以通过:ImageDataGenerator函数来实现图像的随机变换.rotation_range 是角度值(在 0~...原创 2019-09-29 08:58:08 · 1246 阅读 · 0 评论 -
深度学习笔记17_卷积神经网络数据可视化_中间激活
可视化的概念深度学习模型是“黑盒”,即模型学到的表示很难用人类可以理解的方式来提取和呈现。但是我们现在的学习的卷积伸进网络却可以通过可视化很形象的说明深度学习在卷积神经网络方面可以很表示的,并不是黑盒。目前比较容易理解的三种可视化的方法如下:可视化卷积神经网络的中间输出(中间激活)就是可以展示网络中各个卷积层和池化层输出的特征图理解卷积神经网络连续的层如何对输入进行变换于初步了解卷...原创 2019-09-25 17:49:58 · 1506 阅读 · 0 评论 -
深度学习笔记13_猫狗分类案例 - 从头开始训练一个神经网络
在小型数据集上从头开始训练一个卷积神经网络小型数据集的模型构建的策略小型数据集:“很少的”样本可能是几百张图像,也可能是几万张图像。接下来的示例中,主要用来猫狗分类:4000张图片(2000猫,2000狗)训练数据为:2000验证数据:1000测试数据:1000对于小型数据集的基本策略如下:据从头开始训练一个新模型,不做任何正则化,为模型目标设定一个基准,这里大概为71的精度...原创 2019-09-25 09:19:20 · 3938 阅读 · 1 评论 -
深度学习笔记12_卷积神经网络
卷积神经网络Keras 中的卷积神经网络的搭建主要利用keras中的两个函数进行构建:Conv2Dfilters: Integer, the dimensionality of the output space(i.e. the number of output filters in the convolution).kernel_size: An integer or tuple...原创 2019-09-19 09:09:25 · 446 阅读 · 1 评论 -
深度学习笔记11_机器学习工作流程
机器学习工作流程定义问题,收集数据集定义问题你的输入数据是什么?你要预测什么?你面对的是什么类型的问题?确定问题类型有助于你选择模型架构、损失函数等是二分类问题、多分类问题、标量回归问题、向量回归问题还是多分类、多标签问题比如聚类、生成或强化学习收集数据集两个假设:假设输出是可以根据输入进行预测的。假设可用数据包含足够多的信息,足以学习输入和输出之间的关系。非...原创 2019-09-17 09:42:55 · 153 阅读 · 0 评论 -
深度学习笔记10_如何处理过拟合
过拟合与欠拟合过拟合的现象:模型在留出验证数据上的性能总是在几轮后达到最高点,然后开始下降。欠拟合的现象:训练数据上的损失越小,测试数据上的损失也越小优化与泛化的概念优化: 指调节模型以在训练数据上得到最佳性能泛化: 是指训练好的模型在前所未见的数据上的性能好坏,机器学习的目的当然是得到良好的泛化。如何解决过拟合的问题最优解决方法是获取更多的训练数据次优解决方法是正则化:调节模型...原创 2019-09-11 16:39:40 · 472 阅读 · 0 评论 -
深度学习笔记(4) - 神经网络结构
神经网络结构神经网络结构主要包含以下几个方面:层: 多个层组合成网络(或模型)输入数据和对应的目标: 训练的数据包含标签数据损失函数: 判断当前模型的质量程度优化器: 用于更新网络的参数多个层链接在一起组成了网络,将输入数据映射为预测值。然后损失函数将这些预测值与目标进行比较,得到损失值,用于衡量网络预测值与预期结果的匹配程度。优化器使用这个损失值来更新网络的权重。层:深度学习的...原创 2019-08-27 10:57:39 · 466 阅读 · 0 评论 -
深度学习笔记08_机器学习模型评估
机器学习的四个分支二分类问题、多分类问题和标量回归问题。这三者都是监督学习(supervised learning)的例子,其目标是学习训练输入与训练目标之间的关系。监督学习给定一组样本(通常由人工标注),它可以学会将输入数据映射到已知目标[也叫标注(annotation)]。监督学习的分类:分类:对数据进行分类回归:对数据进行拟合序列生成:给定一张图像,预测描述图像的文字。语法...原创 2019-09-06 09:10:16 · 184 阅读 · 0 评论 -
深度学习笔记07_预测波士顿房价-回归问题案例
预测波士顿房价-回归问题案例问题描述:回归问题是机器学习常见的问题,它预测一个连续值而不是离散的标签,例如,根据气象数据预测明天的气温,或者根据软件说明书预测完成软件项目所需要的时间注意的地方: logistic 回归不是回归算法,而是分类算法。祥见logistic 回归数据加载本节将要预测 20 世纪 70 年代中期波士顿郊区房屋价格的中位数,已知当时郊区的一些数据点,比如犯罪率、当地房...原创 2019-09-04 08:57:10 · 1835 阅读 · 0 评论 -
深度学习笔记06_新闻分类-多分类问题
新闻分类:多分类问题本节任务描述:将路透社新闻划分为 46 个互斥的主题。因为有多个类别,所以这是多分类(multiclass classification)问题的一个例子。这是单标签、多分类(single-label, multiclass classification) 问题的一个例子。如果每个数据点可以划分到多个类别(主题),那它就是一个多标签、多分类(multilabel,multi...原创 2019-08-31 23:02:23 · 477 阅读 · 0 评论 -
深度学习笔记09_机器学习数据预处理
数据预处理、特征工程神经网络的数据预处理预处理的原则:是使原始数据更适于用神经网络处理,主要包括:向量化,标准化,处理缺失值和特征提取向量化无论处理什么数据(声音、图像还是文本),都必须首先将其转换为张量,且张量是浮点数据类型。例如, one-hot 编码将其转换为 float32 格式的张量。值标准化一般的值标准化做法对每个特征分别做标准化,使其均值为 0、标准差为 1。例如,图像...原创 2019-09-10 09:30:08 · 273 阅读 · 0 评论