深度学习
Dod_Jdi
Don't delay,Just do it!
展开
-
如何使用TensorFlow进行深度学习
看了挺久的例子始终对TensorFlow的深度学习机制不甚明了,因此特地写一下其使用流程吧,如有不对请纠正。1、准备数据深度学习当中一般有train,validation,test三种数据集,前面两种可以将数据全部加载到程序当中再按照比例划分。可选:将数据转换为tfrecord文件格式,据说可以加快大规模数据的加载速度。因为TensorFlow是以图的概念进行运行的,tensor(张量)相当于其原创 2017-10-30 12:36:27 · 1728 阅读 · 0 评论 -
支持向量机Support Vector Machine
在样本空间中,划分超平面的方程描述如下: wTx+b=0wTx+b=0 w^Tx + b = 0 其中w为法向量,决定了超平面的方向,b为位移项,决定了超平面与原点的距离。很明显,不同的超平面方向和位移项对分类鲁棒性不同,一般而言其间距(margin)越宽泛化能力也更好。 对于正确分类的样本,总有: {wTxi+b>0,wTxi+b<0,yi=+1;yi=−1{w原创 2018-07-17 17:07:43 · 501 阅读 · 0 评论 -
tensorflow 使用笔记
解决window下 tensorboard不是内部或外部命令的问题将 C:\Users\用户名\AppData\Local\Programs\Python\Python35\Scripts 下的 tensorboard.exe 拷贝到 C:\Users\用户名\AppData\Local\Programs\Python\Python35\Scripts 下就好了。其他类似的问题基本都可以这...原创 2018-04-12 09:27:33 · 316 阅读 · 0 评论 -
DeepLearning.ai code笔记5:序列模型
注意力机制模型模型: 分为 Encoder层,Attention层 和 Decoder层。将 Encoder层 的每个时间片的激活值 s<t>s<t>s^{} 拷贝 Tx 次然后和全部激活值 a (Tx个时间片) 串联作为Attention 层的输入,经过Attention层的计算输出 nynyn_y 个阿尔法 α,使用不同激活值 a 作为不同阿尔法 α 对每个单...原创 2018-04-03 23:02:24 · 568 阅读 · 1 评论 -
DeepLearning.ai code笔记4:卷积神经网络
1、卷积基本结构Stride 步长: 滤波器在原始图片上每次水平或垂直移动的距离。卷积大小的计算,滤波器大小为 f ,步长为 s , 填充为 p, 输入图片为 n×nn×n n \times n ,则卷积得到的特征图大小为, 下标 f 表示向下取整: [n+2p−fs]f×[n+2p−fs]f[n+2p−fs]f×[n+2p−fs]f [ \frac{n+2p-f}{s} ] _f \...原创 2018-04-03 17:25:36 · 677 阅读 · 0 评论 -
DeepLearning.ai code笔记2:超参数调试、正则化以及优化
1、L2正则化不使用正则化的公式: J=−1m∑i=1m(y(i)log(a[L](i))+(1−y(i))log(1−a[L](i)))(1)(1)J=−1m∑i=1m(y(i)log(a[L](i))+(1−y(i))log(1−a[L](i)))J = -\frac{1}{m} \sum\limits_{i = 1}^{m} \large{(}\small y^{(i)}\log\...原创 2018-04-03 16:39:10 · 378 阅读 · 0 评论 -
DeepLearning.ai code笔记1:神经网络与深度学习
说明一下,这和系列是对编程作业的作一些我认为比较重要的摘抄、翻译和解释,主要是为了记录不同的模型的主要思想或者流程,以及一些coding中常见的错误,作为查漏补缺之用。作业链接:https://github.com/Wasim37/deeplearning-assignment。感谢大佬们在GitHub上的贡献。1、随机数的生成np.random.randn() 和 np.random...原创 2018-04-02 22:52:09 · 985 阅读 · 0 评论 -
吴恩达深度学习笔记六:序列模型
周末出去耍了一下,回来又玩了两天游戏,耽误了好多时间啊,关键是连输20多局。哎,以后还是少玩游戏,多去做些有趣的事情吧,免得费时费力还不开心。1、 循环神经网络(RNN:Recurrent Neural Network)序列模型(sequence model):处理语言和音视频等前后相互关联的数据。和CNN卷积模型处理相对独立的输入和输出不同,序列模型处理的是具有较强相关性的连续序列。序列...原创 2018-03-26 23:09:57 · 785 阅读 · 0 评论 -
吴恩达深度学习笔记五:卷积神经网络 人脸识别和风格迁移部分
1、人脸识别人脸验证(Face Verification):输入图片和模板图片是否为同一人,一对一问题。 人脸识别(Face Recognition):输入图片,检测是否为多个模板图片中的一个,一对多问题。一般来说,人脸验证由于范围较小难度较小,而人脸识别需要进行一对多的比对难度较大准确率也较低。One-Shot Learning: 由于人脸数据库的容量 K 并不固定,如果使用以前的...原创 2018-03-23 22:26:50 · 872 阅读 · 0 评论 -
吴恩达深度学习笔记四:卷积神经网络 基础和目标检测部分
1、卷积神经网络(CNN:Convolutional neural network):卷积运算:矩阵对应位元素相乘然后相加,主要作用是特征提取和减少参数。深度学习中使用的是“互相关”卷积,即不进行偏转的卷积。滤波器(fliter):也叫“核(kernel)”,使用具有不同参数的滤波器可以检测图片中 垂直、水平边缘等 特征。两个重要的特征,可以有效解决计算机视觉等存在的参数过多速度慢...原创 2018-03-20 09:45:51 · 1032 阅读 · 0 评论 -
吴恩达深度学习笔记三:结构化机器学习项目
1、正交化正交化:每次调整对某一性能进行针对性调试和优化,更快地发现影响效应,从而进行综合性的优化。一个好的模型最好能够同时在训练集,验证集,测试集和实际应用中表现良好,如果: 情况 解决办法 在训练集上表现不好 尝试更大的神经网络或者使用更好的优化算法(如Adam) 在验证集上表现不好 尝试获取更多的训练数据或者加入正则化 在测试集上表现...原创 2018-03-16 22:02:13 · 956 阅读 · 0 评论 -
吴恩达深度学习笔记二:超参数调试、正则化以及优化
第一周 深度学习的实用层面 1. 数据集划分训练集:用以对算法进行训练,更新参数。 验证集:用以训练过程检验模型和数据的拟合程度,可省略 测试集:训练完成后评估模型所用的数据集划分:1、无验证集时,训练集:测试集 = 7:3 2、训练集:验证集:测试集 = 6:2:2 2. bias-variance, 偏差和方差偏差bias:描述模型对训练集的拟...原创 2018-03-12 22:25:22 · 3210 阅读 · 0 评论 -
吴恩达深度学习笔记一:神经网络和深度学习
1. 梯度下降中的一些计算 第一个框:logistic回归方程的代价函数的导数dj/dz 可认为是a-y 第二个框:前一级变量的导数为后一级变量导数乘以其系数。 另外求dZ和dA不需要进行 ”/m” 操作# dA/dA_pre = ...原创 2018-03-01 16:05:02 · 561 阅读 · 0 评论 -
安装Ubuntu 16.04时卡住的那些坑
Ubuntu对NVIDIA的显卡支持也真是醉了。安装和启动各种卡在启动界面,强制重启数次。。。其实解决办法都差不多,修改显示方式安装时在这里按“e”建进入编辑,修改倒数第二行:将quite splash --- 改为quite splash nomodeset启动时类似,e键进入修改为nomodeset安装显卡驱动,如果要安装caffe这里的显卡太新了,选择后面一种方式安装。而且安装cu原创 2017-11-25 23:36:18 · 93142 阅读 · 6 评论 -
Ubuntu 16.04 + cuda8.0 + opencv3 + caffe的安装,tensorflow-gpu的安装
折腾了一天总算把caffe装好了,其实主要是编译库的问题,记录一些坑,跳过就好了。 另外吧,tensorflow-gpu的安装前面安装cuda和cudnn的几步一样,就不另开了吧。cuda8.0 和 cudnn6.0的安装tensorflow-gpu 的安装(乱入,可选)opencv3.1 的安装caffe的安装安装cuda8.0不管是安装tensorflow还是caffe,要用到gpu速度要快很多原创 2017-11-25 23:19:10 · 1952 阅读 · 0 评论 -
caffe配置python接口
怎么安装caffe在这:http://blog.csdn.net/Dod_Jdi/article/details/78635061 不知道Ubuntu为什么不能编辑已经发表的博客,再开一篇吧进入caffe安装目录然后编译make pycaffemake all make test make runtest 在这里 我出现了python/caffe/_caffe.cpp:10:31:原创 2017-11-26 01:10:02 · 584 阅读 · 0 评论 -
AI论文参考
描述了12个NLP文本分类或者相关NLP模型的结构,解释及实现等。链接:CSDN飞翔的大马哈鱼 包括:快速文本(fastText)文本卷积神经网络(Text CNN)文本循环神经网络(Text RNN)双向长短期记忆网络文本关系(BiLstm Text Relation)两个卷积神经网络文本关系(two CNN Text Relation)双长短期记忆文本关系双循环神经网络(BiLs...原创 2019-03-04 20:29:28 · 506 阅读 · 0 评论