Deep Learning
SaoYear
音频AI方向在读PhD 欢迎随时交流
展开
-
NLP(自然语言处理) - Tricks & Dataset 集合
前言这是一篇NLP tricks的集合,在自然语言处理的模型中,有很多优化模型效果的技巧,其中很多技巧已经称为默认设置,不再文章中额外说明。这里持续更新一些方法作为记录。技巧列表前言Weight AverageAdaptive EmbeddingVariational DropoutWeight AverageWeight Average是一种自动集成方式,指的是在最终进行模型测试前,取前面每个checkpoint模型权重的平均值作为最终的测试模型。Adaptive EmbeddingAdapt原创 2020-07-01 16:10:38 · 1027 阅读 · 0 评论 -
NLP(自然语言处理):Representation Degeneration 表达退化
表达退化问题是由多伦多、微软、北大的Jun Gao et al. 共同在2019年的ICLR大会上提出的问题,其主旨在训练神经网络时出现的词向量表达退化的问题。本篇文章基于其发表的论文 [Representation Degeneration Problem in Training Natural Language Generation Models](https://arxiv.org/pdf/1907.12009.pdf). 本文旨在首先**翻译文章**,其次结合一些**实例**进行分析。原创 2020-05-06 17:02:24 · 1831 阅读 · 0 评论 -
基于深度学习的行人特征提取 - 以性别为例: (一)数据集整理
毕业设计是神经网络的图像处理工作,这里Mark一些使用的资源我得题目和性别识别以及监控图像有关图像数据集汇总:https://blog.csdn.net/lansatiankongxxc/article/details/12978207行走的人的数据集http://groups.inf.ed.ac.uk/vision/CAVIAR/CAVIARDATA1/视频追踪检测分类、...原创 2018-12-18 22:12:01 · 1831 阅读 · 0 评论 -
稀疏数据与优化器:简述
学习深度学习也有一段时间了,一直没有一个好的记笔记的习惯。这里记录一些经常见到的基础词汇。1. 稀疏数据:引用:https://blog.csdn.net/vucndnrzk8iwx/article/details/79185875 稀疏数据是指,数据框中绝大多数数值缺失或者为零的数据。在现代社会中,随着信息的爆炸式增长,数据量也呈现出爆炸式增长,数据形式也越来越多样化...原创 2019-01-21 20:32:38 · 1262 阅读 · 0 评论 -
基于深度学习的行人特征提取 - 以性别为例: (二)网络结构思路
对于这种课题来说,性别识别本来是一个很小众的课题,这就意味着它的数据集十分有限,因为是个人项目,所以精力有限。如果不能很好的,迅速的解决数据集的问题,任务是肯定完不成的。而手动标注也是不可能的。在上一篇中已经找到了30k+的照片,但是很显然数据集并不solid。捋一下思路,从输入开始:1. Input - 数据有限行人的数据集一般都不是又独立的identity构成的,一般一个行人都会有不同...原创 2019-01-21 20:55:50 · 1412 阅读 · 0 评论 -
基于神经网络图像取证:资源汇总
最近在做深度学习的图像取证工作,做一下资源的汇总和科普、文献的总结工作1.对图像取证技术的总结“谁动了我的图片?” – 图像取证技术文中主要介绍了几种不同的图像取证方法,简述如下:I. copy-move 检测方法 检测原理: 同一幅图像中检测到大块相同的内容 技术手段: 稀疏特征点(SIFT)的判断;基于图像块的图像匹配算法II. 传感器噪声取证...原创 2019-01-16 13:18:40 · 3387 阅读 · 0 评论