aixi8904-CSDN博客

转载转载:A Light Introduction to Transfer Learning for NLP

1. 预训练允许模型从大规模语料库中捕获和学习各种语言现象，例如长期依赖和否定。2.然后使用（转移）该知识来初始化然后训练一个 fine tune 模型以在特定的NLP任务上表现良好，例如情绪分类。3.这在语言中起作用，因为它确实会在语言中发生，例如，否定是从文本信息中检测情感极性的重要属性。此外，否定也可能对讽刺检测有用，比如讽刺检测，这是NLP中最复杂，最未解决的任务之一...

2019-07-05 09:46:00 137

转载转载: CRF介绍

看完这些, 秒懂CRF原文链接1overview-of-conditional-random-fieldsconditional-random-field-tutorial-in-pytorch转载于:https://www.cnblogs.com/muhanxiaoquan/p/10897985.html

2019-05-21 09:42:00 118

转载深度学习环境配置: 英伟达RTX2060 + CUDA 10.0 + cuDNN 7.5.0

前言拿到了新本本,就迫不及待想要开始配置好torch的深度学习环境了. 本本是MECHREVO深海系列的Z2-R, CPU i7-9750, 独立显卡英伟达RTX-2060 (性价比还算不错, 再加上本身的轻薄游戏本特性, 对我这种天天码代码偶尔打dota2的太合适了). 这篇博客主要记录CUDA 10.0 + cuDNN 7.5.0的安装配置流程.资源下载CUDA 10...

2019-05-16 14:15:00 1071

转载 ICLR2019论文选读

Supervised Policy Update for Deep Reinforcement LearningSupervised Policy Update (SPU);在非参数化近端策略空间中制定并解决约束优化问题;监督回归，将最优的非参数化策略转换为参数化策略，从中采样新样本;适用于离散和连续动作空间，并且可以处理非参数化优化问题的各种邻近约束;...

2019-05-14 19:23:00 277

转载英文社区优文转载和翻译：Fewshot Learning 2篇

Advances in few-shot learning: a guidedtour现在，few-shot learning 是一个激动人心的机器学习领域。深度神经网络从大量数据集中提取复杂统计数据和学习高级特征的能力已得到证实。然而，目前的深度学习方法与人类感知形成鲜明对比的是样本效率低下 - 甚至一个孩子在看到一张照片后也能识别长颈鹿。微调预先训练的模型是实现高样本效率的流行...

2019-05-09 10:16:00 208

转载英文社区优文转载和翻译：A Look at Gradient Descent and RMSprop Optimizers

Introduction我们可以调整无数的超参数来提高神经网络的性能。但是，并非所有这些都会显着影响网络的性能。可以使算法收敛或爆炸之间的差异的一个参数是我们选择的优化器。我们可以选择相当多的优化器，让我们来看看两个最广泛使用的优化器。渐变下降优化器梯度下降可能是所有优化器中最受欢迎和广泛使用的。找到神经网络的最佳值是一种简单有效的方法。所有优化器的目标是达到成本函数达到最小...

2019-05-09 10:00:00 142

转载论文速读：《AN ACTOR-CRITIC ALGORITHM FOR SEQUENCE PREDICTION》

摘要我们提出了一种训练神经网络的方法，使用强化学习（RL）中的演员评论方法生成序列。当前的对数似然训练方法受到训练和测试模式之间差异的限制，因为模型必须以先前的猜测而不是地面真实标记为基础生成标记。我们通过引入一个经过训练来评估输出令牌价值的评论家网络来解决这个问题，给定了演员网络的策略。这导致训练过程更接近测试阶段，并允许我们直接优化任务特定分数，例如BLEU。至关重要的是，由...

2019-05-06 16:38:00 335

转载英文社区优文转载和翻译：NLP vs. NLU —— from Understanding a Language to Its Processing...

随着人工智能的进步和技术变得越来越复杂，我们希望现有的概念能够接受这种变化 - 或者改变自己。同样，在自然语言的计算机辅助处理领域，自然语言处理的概念应该让位于自然语言理解，或者两个概念之间的关系更微妙，更复杂，而不只是技术的线性进展。在这篇文章中，我们将仔细研究NLP和NLU的概念以及它们在AI相关技术中的优势。重要的是，虽然有时可以互换使用，但它们实际上是两个有一些重叠的不同概念。首...

2019-05-06 16:16:00 106

转载 Dell XPS13 新安装ubuntu16.04LTS 没有显卡没有声卡解决方案

新安装ubuntu16.04后发现没有显卡也没有声卡，原因不详，现提供如下解决方案：！！！升级linux-kernel至4.8 即可解决！！！可以手动从如下地址下载 .deb 包：下载Linux Kernel 4.8根据你的 Ubuntu 16.04 系统架构下载相应的软件包（i386 – 32 位或 amd64 – 64 位）： linux-headers-4.8.0-xxx_a...

2017-11-07 03:30:00 244

转载贝叶斯思想的实质之我见

贝叶斯思想的核心是通过现实样本回馈来调整先验假设中的参数的概率分布，个人感觉贝叶斯思想是假定上帝不是公平的，怎么说呢？例如我们掷一枚硬币，频率学派会说，出现正反面的概率各位1/2，但是贝叶斯学派会说：“不是，你们得出一半一半概率的结论，是因为你们建立了一个强假设：硬币的质地是绝对的百分之一百的均匀的，空气的密度和阻力等等也是百分之一百的均匀的，落到地上的地表对硬币的影...

2017-08-15 10:36:00 103

转载强化学习基础概念理解

RL原理：先尝试做出一些行为，得到一个结果，通过判断这个结果是对是错来对之前的行为进行反馈与supervised learning 的区别主要是：1. RL没有label指导在什么情况下做出什么样的行为，只有一个作出一系列行为后最终反馈回来的reward signal，并通过这个signal判断这个行为是好是坏。2. RL的学习结果有延时，可能进行了几步判断之后才刚刚知道之前...

2017-07-28 16:39:00 88

转载对POSIT算法原理的理解

　　　　POSIT算法（Pose from Orthography and scaling with iterations）,别名比例正交投影迭代变换算法，是VSLAM中用以估计相机位姿的算法的一种，比起各种解PnP问题的非线性解法，POSIT的优势在于只需用到极少数点的信息（4个至少），同时又绕开了求解非线性方程的过程使得求解不那么麻烦；然而这是它的优势也是它的劣势，POSIT算...

2017-07-26 14:41:00 848

转载关于日志文本内容提取

提取日志文本中特定的文本语句，并对里面的数值进行整理和计算均值。用Python的re包可以轻易地实现，不过在这个过程中，我们将使用到正则表达式。关于正则表达式，除了自己慢慢学习领悟外，强烈推荐以下网页工具给初学者：http://www.txt2re.com/index-python.php3?s=Index(201)&19&...

2017-07-19 14:05:00 551

转载 Dell XPS 13 （9360）安装配置 ubuntu 16.04 实现 win10 & Linux双系统

　　博主今日投身于SLAM的研究事业，放弃了以往win10下各种IDE的开发环境，选择了在自己的xps13上装上ubuntu16.04，投身于更为方便的linux进行学习和开发。因为在xps13上安装配置好linux实在是一件麻烦事（各种各样的bug，以及补安装各种各样的驱动），博主历尽周折才暂时配置好，于是想记录下来以便日后不时之需。好了废话不多说这就开始吧！1....

2017-07-16 22:32:00 456