深度学习
Big_quant
热爱技术,改变世界。
展开
-
Pytorch实践中文教程(1)
前言PyTorch 是一个基于Torch框架的开源Python机器学习库,用于NLP,CV等深度学习应用。它的开发人员是 Facebookd的人工智能小组,它不仅可以利用GPU加速,同时还实现了动态神经网络,这点和现在流行的主流框架如TensorFlow不同。 PyTorch同时还有两个高级功能: 张量计算(如Numpy) 和自动求导。除了Facebook之外,Twitter、GMU和Salesforce等机构也都采用了PyTorch。TensorFlow和Caffe都是命令式的静态编程语言,,首先原创 2020-06-09 21:24:13 · 885 阅读 · 0 评论 -
PyTorch进行神经风格转换/迁移(Neural-Transfer:图像风格迁移)
前言文章目录前言1.介绍2. 基本原理3 准备工作4 加载素材1.介绍本教程主要讲解如何实现由Leon A. Gatys,Alexander S. Ecker和Matthias Bethge提出的 Neural-Style 算法。Neural-Style或者叫Neural-Transfer,可以让你运用新的风格将你指定的图片进行重构。这个算法将使用两张图片,一张图片作为风格提供者,一张图片作为内容提供者,另外生成一张图片内容与内容图片相似,但图片风格的和风格图片相似的新图片。2. 基本原理其实原创 2020-05-31 18:13:00 · 2137 阅读 · 2 评论 -
Deepfacelab的填坑之旅
前言楼主,最近在玩Deepfacelab,深感坑之多,特开此贴,方便自己,也方便后来人目录文章目录前言目录环境描述问题描述问题解决环境描述答主的环境是,i5-9400f和rtx2070的一个杂牌机。deepfacelab的版本是2018.02的。问题描述在运行到视频人脸提取哪一步的时候,cmd界面报了下面这个错误:”DeepFaceLab:NVML Shared Library Not Found ”问题解决本解决参照了这篇,但情况有所不同。A、出现这个提示的原因原文 是安装后的原文原创 2020-05-28 20:58:43 · 1881 阅读 · 0 评论 -
手把手实现YOLOv3(三)
前言本系列教程的第3部分介绍了如何从头开始在PyTorch中实现YOLO v3目标检测器。这是从头开始实现YOLO v3检测器的教程的第3部分。在上一个博客中,我们逐层实现了YOLO架构中使用的组件,在这一部分中,我们将在PyTorch中实现YOLO的网络架构,以便我们可以根据图像生成输出。我们的目标是设计网络的前向传递。本教程的代码旨在在Python 3.7和PyTorch 1.1.0...原创 2020-05-08 15:26:00 · 1144 阅读 · 0 评论 -
手把手实现YOLOv3(二)
如何在PyTorch中从零开始实现YOLO(v3)对象检测器:第2部分本系列教程的第2部分介绍了如何在PyTorch中从头开始实现自己的YOLO v3对象检测器。这是从头开始实现YOLO v3检测器的教程的第2部分。 在上一部分中,我解释了YOLO的工作原理,在这一部分中,我们将在PyTorch中实现YOLO所使用的层。 换句话说,这是我们创建模型构建模块的部分。本教程的代码旨在在Pytho...原创 2020-04-30 11:13:32 · 1100 阅读 · 0 评论 -
手把手实现YOLOv3(一)
前言本文翻译总结于scratch目标检测是一个很古老的视觉问题,和其他视觉问题一样,它也从深度学习的发展中受益匪浅。近年来,人们开发了许多用于对象检测的算法,其中包括YOLO,SSD,Mask RCNN和RetinaNet。目录文章目录前言目录正文先决条件什么是YOLO?全卷积神经网络解释输出锚框做出预测中心坐标边框的尺寸目标分数类别置信度跨不同尺度的预测。输出处理通过对象置信度进行阈值...原创 2020-04-29 15:56:02 · 2758 阅读 · 1 评论 -
吴恩达机器学习资源汇总帖
正文学习机器学习,离不开好的资源的支持,吴恩达的相关资源堪称经典。内容关注公众号“人工智能小菜鸡”发送吴恩达2014即可获得资源。原创 2019-11-06 09:49:52 · 517 阅读 · 0 评论 -
吴恩达 coursera AI 第一课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文神经网络初探规模驱动的神经网络正文本章主要介绍深度学习相关知识,并引入话题。AI会像电力一样革新这个世界。总计五门专项课程神经网络与机器学习提升神经网络性能结构化机器学习项目卷积神经网络自然语言处理:序列模型神经网络初探房价预测房价预测的...原创 2019-06-16 08:39:23 · 1849 阅读 · 0 评论 -
吴恩达 coursera AI 第二课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文梯度下降导数计算图逻辑回归的梯度下降正文本章主要引入典型问题,图像二值分类。图像二分类问题,是否有猫## 逻辑回归典型算法 逻辑回归,设定图象阈值,判断0-1问题。逻辑回归代价函数。梯度下降算法目标是找到最优的参数使得代价函数最小。梯度下降算法...原创 2019-06-16 11:09:02 · 429 阅读 · 0 评论 -
吴恩达 coursera AI 第四课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文正文深度神经网络n层神经网络的信息流图。深度网络里的信息传递。确保你的矩阵维度正确。向量化矩阵实现。深度表示学习的详解。深度比宽度有用,更强的表示能力。前向和后向函数。前向和后向函数。层级l的前向传播。层级l的反向传播。总结一下这个计算...原创 2019-07-14 19:28:16 · 690 阅读 · 0 评论 -
吴恩达 coursera AI 专项四第一课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文正文深度计算机视觉计算机视觉问题大规模图像上的深度学习计算机视觉问题水平边缘检测水平边缘检测问题。水平边缘检测例子水平和垂直边缘检测学会检测边缘。边缘填充确认和同步验证。填充操作卷积的总结相关性和交叉卷积的区别RGB图像上的卷积操...原创 2019-07-28 14:31:58 · 286 阅读 · 0 评论 -
吴恩达 coursera ML 第十五课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文基于内容的推荐协同过滤实现细节:均值归一化正文本章主要讲述推荐系统预测电影评分。基于内容的推荐通过属性以及偏好的乘积获得评分。问题形式。优化目标。优化算法协同过滤问题动机问题形式化计算流程优化目标。协同过滤协同过滤算法算法流程图向...原创 2019-06-14 11:29:37 · 251 阅读 · 0 评论 -
吴恩达 coursera ML 第十三课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文动机一数据压缩动机二数据可视化降维方法:PCA数据预处理正文本章主要讨论降维。动机一数据压缩数据压缩,把二维的数据变到一维。数据压缩映射对应关系。把三维的数据变到二维。动机二数据可视化各个国家的统计数据。数据可视化典型例子。数据可视化例子降...原创 2019-06-08 21:48:17 · 305 阅读 · 0 评论 -
吴恩达 coursera ML 第十二课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。正文文章目录前言正文kmeans算法随机初始化关键参数 类数目本章主要讨论有关无监督学习聚类的一些知识。监督学习,可以很好的处理有标签的数据。无监督学习,只有数据没有标签。聚类的一些典型应用。kmeans算法典型聚类算法,kmeans,选择k个点得到其中心。kmeans...原创 2019-06-08 20:41:15 · 320 阅读 · 0 评论 -
吴恩达 coursera ML 第十四课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文问题来源高斯分布算法选择使用特征多元高斯分布正文本章主要讨论异常检测问题来源典型问题,给你航空发动机的一系列参数,判断它们的好坏。密度估计,通过使用数据建模,然后判断xtestx_{test}xtest是否是异常的。异常检测例子,欺骗行为和服务器异...原创 2019-06-14 10:16:30 · 229 阅读 · 0 评论 -
吴恩达 coursera ML 第十一课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文大分割界限的启示核函数二使用svm解决问题的正文本章主要是讨论优化目标。首先我们再仔细讨论一下逻辑回归。误差例子支撑向量机的误差函数。svm的假设大分割界限的启示支撑向量机的假设,不等式放缩。支撑向量机的决策边界。svm边界,线性可分的情况。...原创 2019-06-06 22:17:02 · 1239 阅读 · 0 评论 -
吴恩达 coursera ML 第十课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文误差分析不均匀数据的评估方法准确度和召回率的取舍设计一个高准确度学习系统作业习题ex6.mgaussiankernel.mdataset3Params.mprocessemial.memailFeatures.m正文本节主要介绍机器学习系统是如何设计的,并举...原创 2019-05-16 16:02:25 · 2835 阅读 · 0 评论 -
吴恩达 coursera ML 第九课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文问题判断是方差还是误差正则化以及方差和偏差的关系学习曲线正文本节主要介绍在机器学习系统设计的实践过程中如何进行调节。在决定采取措施前,首先必须判断问题的症结。机器学习诊断,判断一项措施可以在多大程度上提升你的性能。首先评估你的假设。将你手上的数据集划...原创 2019-05-16 15:20:14 · 1352 阅读 · 1 评论 -
吴恩达 coursera AI 专项二第一课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文正文应用计算机视觉是一个迭代的过程。将现有数据集划分成训练集,测试集,开发集。不匹配的训练和测试集。偏差和方差。偏差和方差,猫狗分类问题。高偏差和高方差。机器学习诊断问题的基本流程。逻辑斯蒂回归正则化。神经网络正则化是如何减少过拟合的?正...原创 2019-07-15 15:16:27 · 271 阅读 · 0 评论 -
吴恩达 coursera AI 第三课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文正文...原创 2019-07-12 11:41:29 · 526 阅读 · 0 评论 -
吴恩达 coursera AI 专项五第三课(下)总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文BLUE总结正文BLUE二元法,bleu评价。单元法bleu评价。Bleu方法的细节。长序列的问题注意力模型详解。注意力模型细节。计算注意力指标注意力模型的例子。语音识别问题针对语音识别的注意力模型语音识别的CTC误差。智能识别的唤醒...原创 2019-09-25 20:13:48 · 188 阅读 · 0 评论 -
吴恩达 coursera AI 专项五第三课(上)总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录文章目录前言目录正文集束搜索算法正文序列模型图像描述建立一个条件语言机做机器翻译找到最合适的翻译为什么不用贪心搜索,因为搜索范围太大了。集束搜索算法集束搜索算法集束搜索算法集束搜索结果长度标准化集束搜索讨论例子集束搜索的误差分析误差分析过程...原创 2019-09-23 11:35:19 · 226 阅读 · 0 评论 -
吴恩达 coursera AI 专项五第一课(下)总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文语言模型正文语言模型使用循环神经网络建立语言模型RNN 模型结构对一个建立好的模型进行采样。字符级别的语言模型文本序列生成深层rnn的问题,梯度消失。门控神经网络门控单元,简化版门控单元的完整版。门控单元和长短时程记忆网络图示化LSTM...原创 2019-09-23 10:47:42 · 169 阅读 · 0 评论 -
吴恩达 coursera AI 专项五第一课(上)总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文序列模型正文序列模型序列模型的例子激活例子词汇的表示方法词汇的表示结果为什么不选择标准网络。循环神经网络前向传播计算简化的循环网络正向传播和反向传播正向传播和反向传播计算。序列数据的例子RNN的例子RNN结构的例子RNN类总结。...原创 2019-08-30 20:29:49 · 274 阅读 · 0 评论 -
吴恩达 coursera AI 专项四第四课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文正文面部识别面部识别和面部认证是截然不同的两个问题。小样本学习学习一个似然函数。对称网络学习的目标。学习目标损失函数优化三元组,A,P,N.使用三元组误差最小化,训练集合。使用监督学习,实现面部校正。神经风格迁移可视化神经网络的学习过...原创 2019-08-30 11:00:13 · 542 阅读 · 0 评论 -
吴恩达 coursera AI 专项四第二课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文案例学习正文案例学习本周主要讲解lebet-5以及alexnet,vgg和resnet以及inception。LeNet-5的结构如下。Alexnet的结构如上。vgg16的结构如上。残差网络的基本单元,残差区块。残差网络的效果,训练误差顺着层级...原创 2019-08-17 17:22:06 · 221 阅读 · 0 评论 -
吴恩达 coursera AI 专项四第三课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文目标检测正文目标检测什么是目标定位和检测?使用定位进行分类确定 目标标签y。地标检测车辆检测例子滑动窗口检测将全连接层变成卷积层使用滑动窗口实现卷积滑动窗口的卷积实现。评估目标定位。非极大值抑制非极大值抑制例子非极大值抑制例子非极...原创 2019-08-22 08:38:12 · 204 阅读 · 0 评论 -
吴恩达 coursera AI 专项三第二课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文误差分析正文误差分析为什么你的模型不起作用。查看开发集来评估你的想法。并行评估多个意见语音识别例子猫程序例子语音识别例子。偏差和方差对于不匹配的训练和测试问题。更多通用的形式化。定位数据不匹配问题。人工数据增强。人工数据增强。迁移学习...原创 2019-07-27 18:34:18 · 242 阅读 · 0 评论 -
吴恩达 coursera AI 专项三第一课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文正文图像激活的例子电视调节的例子。机器学习的链式假设。正则化的链式假设。使用单一指标评估原则,在一次训练时仅选取一个指标作为优化你的目标。使用另一个例子。常用的评价标准,F1score,召回率。另一类猫分类问题。统计和最优化指标。猫分类问题...原创 2019-07-27 18:10:37 · 387 阅读 · 0 评论 -
吴恩达 coursera AI 专项二第三课总结+作业答案
前言吴恩达的课程堪称经典,有必要总结一下。学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。目录文章目录前言目录正文超参数调整。正文超参数调整。超参数信息。用随机测试的方法而不是格点法,测试所有的超参数。选择适宜的节点数。随机选择超参数。超参数调整时的适宜步伐。指数化梯度回归的超参数。超参数测试时情形。精心训练一个模型,或者同时训练很多个模型。对输入进行...原创 2019-07-26 22:37:32 · 211 阅读 · 0 评论 -
吴恩达 ML作业提交:Grader sent no response
目录文章目录目录前言正文解决方案前言最近在补习吴恩达machinelearning 的课程,上完了课,肯定是要做作业的,做作业没有问题,但在提交作业时遇到了问题,记录如下,方便后来人。正文错误提示:**! Submission failed: 错误使用 submitWithConfiguration>validateResponse (line 158)Grader sent ...原创 2019-03-31 14:12:07 · 2746 阅读 · 7 评论 -
Kaggle问题总结1
目录文章目录目录前言账号验证ie失败电话号码验证API数据下载前言Kaggle是一个国际级的数据科学比赛网站,上面有很多相应的数据比赛可以参加。但是参加这个比赛不容易,账号注册,验证等等都会遇到很多问题,本文对作者参加比赛过程中遇到的问题进行一个小小的总结,希望能帮助到后来的各位。账号验证账号验证这一块儿的坑在于,如果你用普通浏览器是不行的.ie失败直接点击邮件里的activate...原创 2019-03-19 12:31:03 · 1636 阅读 · 0 评论 -
机器学习:分类器介绍
目录[@TOC]一 softmax 简介计算loss时,预测值要与真实值分布在相同的数据区间内,例如真实值在[0,1]区间内,那么神经网络的预测值最好也要在相同的区间(0,1)内;这样在计算loss是才会有较好的效果。在做二分类时,可在网络的输出层使用激活函数sigmoid(),将输出压缩在(0,1)区间,softmax可看做是对sigmoid的扩展,是用于多分类的激活函数,softma...原创 2019-03-18 19:50:54 · 1846 阅读 · 0 评论 -
(转)凸函数
基本介绍凸函数是一个定义在某个向量空间的凸子集C(区间)上的实值函数f,而且对于凸子集C中任意两个向量x1,x2,f((x1+x2)/2)≤(f(x1)+f(x2))2 x1,x2,f((x1+x2)/2)≤ \frac{(f(x1)+f(x2))}{2} x1,x2,f((x1+x2)/2)≤2(f(x1)+f(x2))于是容易得出对于任意(0,1)中有理数p,f(px1+(1-p)x...转载 2018-10-09 16:27:12 · 2956 阅读 · 0 评论 -
(转)谷歌公开dopamine
上周那个在DOTA2 TI8赛场上“装逼失败”的OpenAI Five,背后是强化学习的助推。其实不仅仅是OpenAI Five,下围棋的AlphaGo和AlphaGo Zero、玩雅达利街机游戏的DeepMind DQN(deep Q-network),都离不开强化学习(Reinforcement Learning)。现在,谷歌发布了一个基于TensorFlow的强化学习开源框架,名叫D...转载 2018-09-19 15:59:03 · 688 阅读 · 0 评论 -
Win10+tensorflow:SSD调试问题:Unable to open table file ../checkpoints/ssd_300_vgg.ckpt
目录目录前言正文解决方案前言又到了一年考试周,本着机会完成上次没有实现的任务,使用深度学习做目标检测,yolov3已经调试通过,再试用SSD时遇到了一个奇怪的问题。正文官网给的SSD的测试一张图片的方法是运行NOTEBOOK中的文件,按照官网给的方式运行完会在浏览器上出现代码以及结果,将其中的checkpoint和demo图片的路径改为我的路径,运行出现了一个...原创 2018-07-02 09:09:29 · 3471 阅读 · 2 评论 -
YOLO v3解析与实现
前言又到了一年考试周,去年本来想实现深度学习目标检测,结果因为各种问题没有做,现在趁机会实现一下。YOLOv3在YOLOv2的基础进行了一些改进,这些更改使其效果变得更好。 在320×320的图像上,YOLOv3运行速度达到了22.2毫秒,mAP为28.2。其与SSD一样准确,但速度快了三倍,具体效果如下图。本文对YOLO v3的改进点进行了总结,并实现了一个基于Keras的YOLOv3检...原创 2018-07-01 20:42:24 · 12390 阅读 · 2 评论 -
Tesorflow:module 'pandas.core.computation' has no attribute 'expressions'
前言在学习使用tensorflow的过程中,遇到了各种坑,因此,特地写下本系列,方便后来人正文:错误提示如上: 这其实是一个动不动就会冒出来的错误,而且解决方法比较独特: module ‘pandas.core.computation’ has no attribute ‘expressions’ 一开始抱着头痛医头,脚疼医脚的思路去解决这个问题,升级了pandas,后者降低了p...原创 2018-06-20 09:25:37 · 1282 阅读 · 2 评论 -
Win10:tensorflow学习笔记(4)
前言学以致用,以学促用。输出检验,完整闭环。 怕什么真理无穷,进一寸有一寸的欢喜——胡适目录:前言Tensorflow实现自编码器(autoencoder)和多层感知机(multi-layer perception)1自编码器(AutoEncoder)1.1自编码器起源1.2自编码器1.3DBN(深度信念网络)1.4自编码器实现Tens...原创 2018-06-01 21:15:54 · 529 阅读 · 0 评论 -
Win10: tensorflow 学习笔记(3)
前言学以致用,以学促用。输出检验,完整闭环。 怕什么真理无穷,进一寸有一寸的欢喜——胡适目录前言Tensorflow 第一步Tensorflow mnist数据集小结补充Tensorflow 第一步这节主要总结的是安装tensorflow和训练一个手写数字识别的模型。 安装可以参考这篇帖子: win10:tensorflow-gpu总结...原创 2018-05-30 15:09:15 · 369 阅读 · 0 评论