自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

JH_Zhai的博客

破帽遮颜过闹市,漏船载酒泛中流。

原创 rnn.cuda()->RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED

问题描述: 系统: ubuntu 18 显卡: RTX2080 cuda10.0 python3.6.8 torch1.1 To Reproduce: import torch rnn = torch.nn.LSTM(10,10) # same error with e.g. torch.nn....

2019-07-08 23:59:53

阅读数 233

评论数 0

原创 Ubuntu18.04.LTS+RTX2080+tensorflow-gpu

从裸机开始,主要借鉴https://blog.csdn.net/made_in_china_too/article/details/88562329 下载deb(local)很慢,故改为runfile(local) 弯路1:Ubuntu装机 安装ubuntu一开始使用的大白菜装机,显示ISO需要解...

2019-06-09 21:02:49

阅读数 100

评论数 0

转载 Ng | 大规模机器学习

学习大数据集 …… 在线学习 在线学习机制 就是 让我们可以模型化一些问题,就是让我们有连续一波数据 或者 连续数据流,想要用算法 从中学习的这类问题 如果可以获取的数据是无限的,那么或许就真的 没必要 多使用一个样本。当然如果我们只有少量用户,那么久最好不要用这种 在线学习算法,而是把所有数据...

2018-10-20 23:58:44

阅读数 54

评论数 0

转载 Ng | 推荐系统

问题规划 工业界很需要,学术界关注不多。 基于内容的推荐算法 x0 是截距项 θ(1)\theta^{(1)}θ(1) 是一组向量 不会对偏置单元进行正则,所以后面k=0 没有偏置项 m(j) 是个常数 所以可以删除。 基于内容的方法 因为我们假设变量是已有的,不即同电影的各个特征 即...

2018-10-20 23:28:35

阅读数 97

评论数 0

转载 Ng | 异常检测

问题动机 下面将介绍异常检测,这是机器学习算法的一个常见应用。 这种算法的一个有趣之处在于,它虽然主要用在非监督学习问题。但从某些角度看,跟有监督学习问题,是非常相似的。 那很么是异常检测呢? 为了解释这个概念,我来举个例子。 高斯分布 算法 变量独立不独立能用。 开发和评估异常...

2018-10-20 14:11:06

阅读数 166

评论数 0

转载 Ng | 降维

目标1:数据压缩 目标2:可视化 PCA问题规划1 在处理PCA时,我们想要的找出能够最小化投影距离的方式,来对数据进行投影,也就是数据点和投影后的点之间的距离。在这个三维例子里,给定一个点,我们将这个点投影到二维平面。 PCA问题规划2 用协方差矩阵是应为 协方差矩阵一定是一个...

2018-10-20 01:10:12

阅读数 50

评论数 0

转载 Ng | 聚类

避免局部最优解 选择聚类数量 没有很好的办法 有两种选择标准, 一是 业务需要n个类 ,或者肘部位置选择

2018-10-19 21:05:48

阅读数 59

评论数 0

转载 Ng | 机器学习系统设计

确定执行的优先级 本部分将涉及, 你在设计复杂的机器学习系统时 所面面临的主要问题,并会在如何制定 一个复杂的机器学习系统方面 给出一定建议。 免得下面部分产生脱节,因为这些视频涉及到 设计复杂学习系统时 可能遇到的一系列不同的问题,虽说这部分可能在数学方面涉及不多,但这些东西 依然非常有用的。在...

2018-10-19 01:42:33

阅读数 50

评论数 0

转载 Ng | 应用机器学习的建议

决定下一步做什么 下面 我们先来介绍如何评价算法,在此之后,会介绍一些诊断法。希望你更清楚在接下来的尝试中,如何选择更有效的方法,最终达到提高机器学习 系统性能的目的。 评价假设 如何评价算法,学习得到的假设。 基于这节课,之后我们还将讨论如何防止,欠拟合 过拟合的情况。 我们介绍了一...

2018-10-18 19:59:45

阅读数 59

评论数 0

转载 Ng | 神经网络参数的反向传播算法

代价函数 反向传播算法 让代价函数最小化的算法 理解反向传播 使用注意 展开参数 上一节 我们学会了如何计算反向传播,计算代价函数的导数。本结我想快速想你介绍一个细节的实现过程。 怎样把你的参数,从矩阵展开成向量, 以便高级最优化步骤中的使用需要。 ...

2018-10-18 00:07:20

阅读数 128

评论数 0

转载 Ng | 神经网络学习

非线性假设 通过包含所有二次特征,来学习得到非线性假设。 只是包括 平方项或者立方项特征,n不是很大的情况下,简单的logistic回归算法 学习复杂的非线性假设的好方法 下一节,将介绍神经网络,它在学习复杂的非线性假设上被证明是 一种好得多的算法。即使输入特征空间,或者n很大,也能轻松搞...

2018-10-17 20:57:25

阅读数 72

评论数 0

转载 CS224n | Word Window分类与神经网络

除了词向量还有一类下游任务,即窗口分类 1 小数据集很容易泛化,在小数据1是一个样子, 小数据2训练出来又是另一个样子。如果想得到一个稳定的,就要在大数据集去训练词向量。 2 这个模型在08由 Collobert & Weston第一次提出 当...

2018-10-17 17:55:51

阅读数 124

评论数 0

转载 CS224n | 高级词向量表示

试图分析原理 如何更有效地捕捉word2vec的本质 关于词向量表面的评估 最后,你们实际上会很清楚如何去评估词向量 并且至少有两种受验方法来训练他们 复习 函数是非凸的,所以初始值就很重要了 Skip -gram T对应需要遍历语料库的每个窗口 J是我们的损失函数 T是在遍历语料库...

2018-10-15 21:10:22

阅读数 122

评论数 0

转载 Ng | Logistic回归

为什么不用线性回归 通常不推荐将线性回归用于分类问题 线性回归是假设y远大于1 或者远小于0的 假设陈述 List item 我们接下来会develope logistic回归 决策界限 让我们来看看logistic回归在计算什么 决策边界是假设函数的一个属性 代价函数 如...

2018-10-11 21:50:06

阅读数 79

评论数 0

转载 CS224n | 词向量表示word2vec

1 一是没有相似性 二是太大 我们可以探索一种直接的方法 一个单词编码的含义是你可以直接阅读的 我们要做的构建这样的向量,然后做一种类似求解点积的操作。这样我们就可以了解词汇之间有多少相似性 分布相似性是指 你可以得到大量表示某个词汇含义的值,只需要通过观察其出现的上下文,并对这些上下文做...

2018-10-11 18:41:21

阅读数 72

评论数 0

转载 CS224n | NLP和深度学习

核心是句法分析,和语义理解 计算机并不是从一堆海量信息中,分析数据。几乎所有的人类语言,都是某个人想要传递某个信息。 DL 谷歌一开始的搜索就是使用特征,如果一个特征好用,小组讨论,好用就加进去。 当时这叫机器学习,其实机器并没学什么。 机器学习在实际运用中,大约90%的工作是 ...

2018-10-10 21:17:11

阅读数 89

评论数 0

转载 开窗函数

一 、什么是开窗函数,开窗函数有什么作用,特征是什么? 所谓开窗函数就是定义一个行为列,简单讲,就是在你查询的结果上,直接多出一列值(可以是聚合值或是排序号),特征就是带有over()。 二、开窗函数分类 根据使用的目的,开窗函数可以分为两类:聚合开窗函数和排序开窗函数。 下面主要解析四种...

2018-10-08 23:16:30

阅读数 231

评论数 0

转载 自然语言处理之序列模型 | Seq2Seq\BeamSearch\Attention

Seq2Seq e为单词, 从1到N 相对于朴素贝叶斯,多出来了1到M 主要参数在embedding 主要运算在output embedding Beam Search Attention

2018-10-04 21:48:16

阅读数 238

评论数 0

转载 自然语言处理之序列模型 | 一个RNNLM实例

run.py 建立模型 input embedding 是随机生成的,跟word2vec没关系 input placeholder查表转换为向量 cell output

2018-10-01 19:27:47

阅读数 428

评论数 0

转载 自然语言处理之序列模型 |RNN和LSTM

RNN LSTM

2018-09-30 23:18:32

阅读数 157

评论数 0

提示
确定要删除当前文章?
取消 删除