- 博客(55)
- 收藏
- 关注
原创 nlp常用任务以及各类任务常用模型
nlp常用任务以及各类任务常用模型本文主要简单描述目前nlp方向的应用类型以及该类型下的常用方法(以及目前通用的数据集)详细信息参考自 https://github.com/sebastianruder/NLP-progressnlp四大任务类型序列标注:分词/POS Tag词性标注/NER命名实体识别分词/POS Tag词性标注目前分词和词性标注技术已经非常成熟,常用的库有Jie...
2019-12-02 16:33:34
2468
原创 使用torchtext将文本转为ID表示
使用torchtext将文本转为ID表示此文详细介绍了如何使用torchtext加载文本数据并且转为由ID表示的数据。torchtext 加载文本数据def get_dataset(path, text_field, label_field): train, dev = data.TabularDataset.splits( # 支持 json, dict, c...
2019-12-01 17:21:09
721
原创 nlp 中文数据预处理
nlp 中文数据预处理此博文详细介绍中文数据预处理的过程并配上一定量的代码作为实例数据加载(默认csv格式)import pandas as pddatas = pd.read_csv("./test.csv", header=0, index_col=0) # DataFramen_datas = data.to_numpy() # ndarray 转成numpy更好处理(个人喜好)...
2019-12-01 15:13:23
1539
原创 各类GAN特征描述(持续更新)
各类GAN特征描述DC-GAN:structure:ps:(生成器的最后一层和判别器的第一层不加batch-norm)paper: http://arxiv.org/abs/1511.06434contributions:1 将网络应用于GAN的训练。2 为GAN的训练提供了一个很好的网络拓扑结构。3 表明生成的特征具有向量的计算特性。weakness:1 但是对GAN训练稳...
2019-07-20 16:46:09
2373
1
原创 DEC(Deep Embedded Cluster)小结
Deep Embedded ClusterReferences:https://zhuanlan.zhihu.com/p/50365577https://flashgene.com/archives/7798.htmlhttps://zhuanlan.zhihu.com/p/28967965http://proceedings.mlr.press/v48/xieb16.pdf
2019-06-30 09:40:22
6760
原创 GANMM小结
GANMM小结简介GANMM (Generative Adversarial Network Mixture Model) 是利用 GAN 进行聚类的一个模型,在传统聚类中非常典型的一个方法是利用高斯混合模型去匹配各个分布,高斯混合模型顾名思义就是利用多个高斯分布分别去拟合不同的分类,即有几个高斯分布就有几个聚类。但是高斯混合模型的最大缺点是无法拟合非常复杂的数据,在现实生活中大多数的数据并不...
2019-06-09 17:51:22
3274
原创 ClusterGAN知识小结
ClusterGAN知识小结简介ClusterGAN 是第一个解决GAN在潜在空间聚类问题的工作,通过从一个one-hot编码变量和连续潜在变量的混合中对潜在变量进行采样,结合反向网络(将数据投射到潜在空间)与聚类特定损失共同训练,能够实现在潜在空间的聚类。主要贡献在一般的GAN中,即使潜在变量保留了关于观测数据的信息,潜在点也会基于潜在分布而平滑地分散,导致没有可观察到的聚类。为了解...
2019-06-02 19:47:25
2785
原创 高斯混合模型知识小结
高斯混合模型知识小结简介高斯混合模型(Gaussian Mixed Model)顾名思义,指的是多个高斯分布函数的线性组合,理论上GMM可以通过不同个数的高斯分布拟合出任意类型的分布。设有随机变量X,则混合高斯模型可以用下式表示:其中πk是混合系数(mixture coefficient),满足:GMM的应用GMM一般用于聚类,有几个高斯分布函数即代表有几个分类,在GMM中选取一...
2019-06-01 22:56:22
895
原创 空间转换网络(Spatial Transformer Networks)
空间转换网络(Spatial Transformer Networks)普通的CNN能够显示的学习平移不变性,以及隐式的学习旋转不变性,但attention model 告诉我们,与其让网络隐式的学习到某种能力,不如为网络设计一个显式的处理模块,专门处理以上的各种变换。空间变换网络,允许神经网络学习如何在输入图像上执行空间变换,以增强模型的几何不变性,意思就是在对样本内容作微小的移动之后不会...
2019-05-27 22:48:50
2089
原创 Fast Gradient Sign Attack(FGSM)算法小结
Fast Gradient Sign Attack(FGSM)算法小结对抗攻击引发了机器学习一系列的思考,训练出来的model是否拥有强大的泛化能力?模型的准确率是否真实?在对抗攻击中添加一些肉眼无法识别的噪声可能会对识别效果产生巨大的影响。什么是对抗攻击对抗攻击的核心思想就是人为地制造干扰项去迷惑模型,使模型产生错误的结果。在计算机视觉中,对抗攻击就是在原图上添加一些人为无法识别的噪声...
2019-05-26 18:45:29
4635
原创 BEGAN知识小结
BEGAN知识小结本文为阅读完BEGAN论文后作出的系统小结。论文地址简介BEGAN是Google在17年上半年出的一篇论文,该论文对GAN做了进一步的改进,使得在没有使用一些trick的时候GAN依旧可以训练的很好,模式奔溃和训练不平衡等问题也解决的非常好。以往的GAN都是希望生成器生成的model和真实数据的model分布尽量相近,BEGAN从loss的角度进行比较,希望生成器生成的...
2019-05-17 13:40:25
874
原创 starGAN知识小结
starGAN知识小结本文为阅读完starGAN论文后作出的系统小结。论文地址starGAN顾名思义就是星型GAN结构,其解决的主要问题为 multi-domain 的 image-to-image 转换。相比于传统的拥有 k 个 domain 的多领域图片转换需要训练 k(k-1) 个 generator ,效率极其低下,也无法充分地利用到训练数据,同时传统的解决方法也无法衔接多个数据集的...
2019-05-14 16:10:17
2251
原创 numpy基础操作
numpy基础操作==================================================================numpy(Numerical Python)提供了python对多维数组对象的支持:ndarray,具有矢量运算能力,快速、节省空间。numpy支持高级大量的维度数组与矩阵运算,此外也针对数组运算提供大量的数学函数库。(1) 创建数组的简单使...
2019-05-12 16:58:21
302
原创 python核心学习(高级特性,字符串操作等)
python核心学习(高级特性,字符串操作。。。)==================================================================(1) 基础特性1 数据类型整数 Number浮点数 Float字符串 String(可用单引号‘ ’ 以及双引号” “)布尔值 Boolean(True, False)空值 None2...
2019-05-12 15:42:24
259
原创 常用正则表达式总结
常用正则表达式总结符号符号详解\将下一个字符标记为一个特殊字符、或一个原义字符、或一个向后引用、或一个八进制转义符。例如,“n”匹配字符“n”。“\n”匹配一个换行符。串行“\”匹配“\”而“(”则匹配“(”。^匹配输入字符串的开始位置。如果设置了RegExp对象的Multiline属性,^也匹配“\n”或“\r”之后的位置。$匹配输入字符串的结束位置。如果...
2019-05-02 17:27:18
175
原创 从docker容器中取出数据库
从docker容器中取出数据库或其他文件本文将详细讲述如何从linux服务器中取出已经部署的docker容器中的数据库表以及数据,并且将数据传送到本地服务器。step 1在本地主机利用ssh登陆远程服务器。ssh `servername`@xxx.xx.xxx.xx -p 端口号 // 输入正确的密码即可step 2查看docker端口号以及进入docker容器环境docker p...
2019-04-25 23:44:35
1961
原创 deep learning入门(二)
DL入门(二)powered by @李宏毅第四课(Sequence to Sequence)1 Sequence Generation输入一个vector,输出也为一个vector。2 Conditional Sequence Generation产生符合某种情景的句子或者图片…3 Dynamic Conditional Sequence Generation假如输入的是...
2019-04-06 16:38:11
323
原创 deep learning入门(一)
DL入门(一)powered by @李宏毅第一课(Deep Learning概览)outline:1 Universalitytheroy: 使用一层的Neural network就可以fit所有的函数。what is the L-Lipschitz function?output的变化一定要小于等于input的变化。how many neurons are needed...
2019-04-05 12:54:54
458
原创 maching learning入门(六)
ml入门(六)powered by @李宏毅第十五课(Reinforcement Learning)让机器根据不同的action将会得到不同的response,可能是不好的,也可能是好的。reinforcement learning要做到的事情就是让reward最大化。有时reward的情况是非常sparse的,大部分reward的返回都为0。RL的难点在于如何在sparse的情况下得到...
2019-04-02 15:00:02
250
原创 maching learning入门(五)
ml入门(五)powered by @李宏毅第十三课(RNN,recurrent neural network,循环神经网络)全连接神经网络和卷积神经网络他们都只能单独的取处理一个个的输入,前一个输入和后一个输入是完全没有关系的。但是,某些任务需要能够更好的处理序列的信息,即前面的输入和后面的输入是有关系的。比如,当我们在理解一句话意思时,孤立的理解这句话的每个词是不够的,我们需要处理这些...
2019-04-02 10:14:28
348
原创 maching learning入门(四)
ml入门(四)powered by @李宏毅第十课(迁移学习)1 model fine-tuning(1) 由于target data较少,容易过拟合,解决办法: 1 conservative training(保守训练) copy大部分参数,update小部分参数 which layer can be transferred(copied)?2 multitask lea...
2019-04-01 11:20:52
289
原创 maching learning入门(三)
ml入门(二)powered by @李宏毅第七课(cnn)convolutionmax poolingflatten
2019-03-29 16:29:42
555
原创 maching learning入门(一)
ml入门(一)powered by @李宏毅第一课(机器学习总揽)ml基本步骤找出一个function set让maching拥有衡量一个function好坏的能力loss function L:input: a function output: how bad it is使用一个好的演算法挑出最好的那个functionfind a function wit...
2019-03-25 17:18:15
600
原创 react基础操作
react(入门)生命周期getDefaultProps()设置默认的props,也可以用dufaultProps设置组件的默认属性.getInitialState()在使用es6的class语法时是没有这个钩子函数的,可以直接在constructor中定义this.state。此时可以访问this.propscomponentWillMount()组件初...
2019-03-15 22:00:59
165
原创 wepy进阶
wepy学习(二)config详解 config = { pages: [ // 页面路径定义,也就相当于路由的定义,wepy默认使用pages下的文件名作为路由,但是需要在此处注册 'pages/articles', ], window: { // 初始化定义小程序相关样式,以及是否启用相关功能 backgroundTextStyle: 'dark...
2019-03-11 17:34:28
384
原创 wepy基础知识
wepy学习(一)项目目录 ├── dist 小程序运行代码目录(该目录由WePY的build指令自动编译生成,请不要直接修改该目录下的文件) ├── node_modules ├── src 代码编写的目录(该目录为使用WePY后的开发目录) | ├── components WePY组件目...
2019-03-11 17:33:31
224
原创 node 异步I/O
node 异步I/O为什么要使用异步I/O采用异步请求,在下载资源期间,JavaScript和UI的执行都不会处于等待状态,可以继续响应用户的交互行为。同步与异步时间消耗对比,前者时间为M+N,后者为max(M+N)简介:node优势所在,内部使用的线程池原理实现ps: javascript代码运行在单线程上,但是node自身是多线程的,内部I/O是多线程的现实中的异步:...
2019-03-10 17:52:16
288
原创 node扩展模块和NPM包
#node c++扩展模块简介:node支持编写c/c++扩展模块以提高响应速度扩展模块属于文件模块适用于部分复杂且耗cpu的计算(可放置子线程中进行)创建:// 创建test.cpp#include <node.h>using v8::FunctionCallbackInfo;using v8::Isolate;using v8::Local;using v...
2019-03-09 23:42:10
383
原创 weex转android踩坑之旅
weex转android踩坑之旅(一)编译代码weex platform add androidweex build android// 坑// 在build时报错,未找到ANDROID_HOME// 原因: 在~/.bash_profile 里将ANDROID_HOME暴露出来export ANDROID_HOME=/Users/yanglin/Library/Andr...
2019-03-01 09:20:36
395
1
原创 css扩展学习
css扩展学习flex布局父容器display: flex;flex-direction: column; // 属性决定主轴的方向flex-wrap: nowrap; // 属性定义是否可以换行flex-flow: column nowrap; // lex-direction属性和flex-wrap属性的简写形式justify-content: center; // 属性...
2019-02-26 13:43:39
224
原创 nestjs学习(六)
nestjs学习(六)扩展学习 mongoose相关操作相关操作Model.deleteMany()Model.deleteOne()Model.find()Model.findById()Model.findByIdAndDelete()Model.findByIdAndRemove()Model.findByIdAndUpdate()Model.findOne()M...
2019-02-23 16:37:58
532
原创 nestjs学习(五)
nestjs学习(五)nest接入mongoose依赖下载 npm install mongoose mongoose-auto-increment mongoose-paginate nestjs-typegoose typegoose --save-devdatabase模块创建 (别忘了将模块导入最外层模块中)mongoose.transform.ts // Mong...
2019-02-13 16:24:08
1247
原创 nestjs学习(四)
nestjs学习(四)Guards确定请求是否应由路由处理程序处理,在每个中间件之后执行,但在任何pipe之前执行。Authorization guard import { Injectable, CanActivate, ExecutionContext } from '@nestjs/common'; import { Observable } from 'rxjs'...
2019-02-09 14:36:51
998
原创 nestjs学习(三)
nestjs学习(三)异常过滤器Base exceptions // 传入字符串 @Post() async create(@Body() createCatDto: CreateCatDto) { throw new HttpException('Forbidden', HttpStatus.FORBIDDEN); } // { // ...
2019-02-08 20:59:46
632
原创 nestjs学习(二)
nestjs学习(二)module定义子module // 文件目录 src cats dto create-cat.dto.ts interfaces cat.interface.ts cats.service.ts cats.c...
2019-02-07 15:28:58
561
原创 nestjs学习(一)
nest学习(一)核心文件目录 src -app.controller.ts -app.module.ts -main.ts控制器controller import { Controller, Get, Res, Req, HttpStatus } from '@nestjs/common'; @Controller() export clas...
2019-02-07 14:45:35
1633
原创 ES6相关扩展 (四)
ES6相关扩展 (四)Proxy概述Proxy 用于修改某些操作的默认行为,等同于在语言层面做出修改,所以属于一种“元编程”(meta programming),即对编程语言进行编程.Proxy 实际上重载(overload)了点运算符,即用自己的定义覆盖了语言的原始定义 var obj = new Proxy({}, { get: function (targ...
2019-02-07 10:38:21
191
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人