机器学习
xiaogss
只是个人
展开
-
注意力机制(Attention Mechanism)在自然语言处理中的应用
原博客见http://www.cnblogs.com/robert-dlut/p/5952032.html近年来,深度学习的研究越来越深入,在各个领域也都获得了不少突破性的进展。基于注意力(attention)机制的神经网络成为了最近神经网络研究的一个热点,本人最近也学习了一些基于attention机制的神经网络在自然语言处理(NLP)领域的论文,现在来对attention在NLP中的应用进行...转载 2018-11-02 16:30:21 · 531 阅读 · 0 评论 -
机器学习书单
1. 数学基础1.微积分:《微积分学教程》 (F.M.菲赫金哥尔茨)俄罗斯的数学书2.线性代数:《Linear Algebra and Its Applications,Third Edition (David C.Lay)》讲得很实际,线性代数最重要的就是与实际应用相联系才能够理解其意义3.概率与统计:《概率论与数理统计 (陈希孺)》或《概率论与数理统计(盛骤/谢式千/潘承毅)》这两...原创 2018-10-24 21:44:00 · 262 阅读 · 0 评论 -
人工智能的基础--知识分类
文章对先验知识和对知识的哲学意义一些看法。原文链接https://blog.csdn.net/VucNdnrzk8iwX/article/details/79723327一、元知识的概念元知识的定义目前对元知识的定义,在学术界还没有一个严格的概念。通常来说,元知识就是“关于知识的知识”。元知识可用来描述一类知识或知识集合所包含的内容、基本结构和一般特征。没有元知识, 人们无法描述知识、使用知识和认...转载 2018-04-03 11:05:57 · 1632 阅读 · 0 评论 -
one-hot编码(独热编码)
一、One-Hot Encoding One-Hot编码,又称为一位有效编码,主要是采用位状态寄存器来对个状态进行编码,每个状态都由他独立的寄存器位,并且在任意时候只有一位有效。 在实际的机器学习的应用任务中,特征有时候并不总是连续值,有可能是一些分类值,如性别可分为“male”和“female”。在机器学习任务中,对于这样的特征,通常我们需要对其进行特征数字化,如下面的例子:有如下三...转载 2018-04-02 10:00:55 · 1240 阅读 · 0 评论 -
anaconda相关问题
1. anaconda 启动非常慢,开始是初始化,然后更新 repodata,很久很久。 解决方法Windows下:1)使用管理员运行:conda prompt2)执行命令 conda update anaconda-navigator3)还是不行就试试命令:anaconda-navigator --reset最后通过anaconda-navigator --reset 命令成功解决了。2....原创 2018-03-30 14:52:23 · 11215 阅读 · 1 评论 -
Boost算法(GDBT,AdaBoost,XGBoost)原理及实践
提升(Boost)简单地来说,提升就是指每一步我都产生一个弱预测模型,然后加权累加到总模型中,然后每一步弱预测模型生成的的依据都是损失函数的负梯度方向,这样若干步以后就可以达到逼近损失函数局部最小值的目标。下面开始要不说人话了,我们来详细讨论一下Boost算法。首先Boost肯定是一个加法模型,它是由若干个基函数及其权值乘积之和的累加,即其中b是基函数,beta是基函数的系数,这就是我们最终分类器...转载 2018-03-17 14:49:37 · 2799 阅读 · 0 评论 -
欠拟合、过拟合、交叉校验
这里首先解释一下bias和variance的概念。模型的Error = Bias + Variance,Error反映的是整个模型的准确度,Bias反映的是模型在样本上的输出与真实值之间的误差,即模型本身的精准度,Variance反映的是模型每一次输出结果与模型输出期望之间的误差,即模型的稳定性。解决高方差1. 获得更多的训练实例 2. 尝试减少特征的数量 3. 尝试增加正则化程度 λ解决高偏差...原创 2018-03-17 14:03:00 · 383 阅读 · 0 评论 -
AI 经典书单 | 人工智能学习该读哪些书
人工智能相关岗位中,涉及到的内容包含:算法、深度学习、机器学习、自然语言处理、数据结构、Tensorflow、Python 、数据挖掘、搜索开发、神经网络、视觉度量、图像识别、语音识别、推荐系统、系统算法、图像算法、数据分析、概率编程、计算机数学、数据仓库、建模等关键词,基本涵盖了现阶段人工智能细分领域的人才结构。将上面的岗位涉及到的知识和技术划类,就形成了今天的五份书单:1人工智能科普类:人工智...转载 2018-03-15 13:37:14 · 243 阅读 · 0 评论 -
数据挖掘与机器学习的区别
数据挖掘和机器学习的区别和联系,周志华有一篇很好的论述《机器学习和数据挖掘》可以帮助大家理解。 数据挖掘受到很多学科领域的影响,其中数据库、机器学习、统计学无疑影响最大。简言之,对数据挖掘而言,数据库提供数据管理技术,机器学习和统计学提供数据分析技术。 由于统计学往往醉心于理论的优美而忽视实际的效用,因此,统计学界提供的很多技术通常都要在机器学习界进一步研究,变成有效的机器学习算法之后才能...转载 2018-02-12 13:00:22 · 20247 阅读 · 1 评论