- 博客(176)
- 资源 (1)
- 收藏
- 关注
原创 如何csdn复制他人博客文章到自己博客下
https://jingyan.baidu.com/article/0964eca24e159c8285f53618.html CSDN是中文第一大互联网技术网站,上面有很多好的文章,有时候需要复制别人的文章到自己的文章下进行修改重新发布,这要怎样做呢? 工具/原料 一篇喜欢的博客 属于自己的csdn账号 chrome浏览器 方法/步骤 首先,在自己喜欢的博客页面,点击鼠标右键,...
2020-11-19 14:38:24 467
原创 强化深度学习的一篇劝退文—有些道理
前言:本文可能有些标题党,并不是真的要完全劝退大家,Alex的本意是希望大家更加冷静地看待目前DRL研究的进展,避免重复踩坑。评论区里有提到因为困难才有做的价值,还有机器人、控制论背景的朋友提到他觉得drl can do anything如果你有正确的超参数,这些意见也很值得大家参考。今天在学校又双叒叕提到了Deep Reinforcement Learning That Matters这篇打响...
2020-03-31 08:10:15 650
原创 深度强化学习几大尚未解决问题
收敛困难,调参困难。DRL算法通常需要海量的Agent和环境的交互数据,而这些数据只有在模拟场景下(游戏)才很充足并且廉价,想象一下自动驾驶和机器人领域,如果拿真的汽车和机器人去做Action,万一是负奖赏的Action,那损失也太大点了。奖赏函数需要定义的很准确,这其实很难。最重要的是:很多应用,比较成熟的方法效果都不比DRL差,所以公司不愿意去冒这个风险吧。...
2020-03-29 14:30:10 1168
原创 深度强化学习为什么在实际当中用的很少?
深度强化学习(deep reinforcement learning,DRL)是深度学习与强化学习相结合的产物,它集成了深度学习在视觉等感知问题上强大的理解能力,以及强化学习的决策能力,实现了端到端学习。深度强化学习的出现使得强化学习技术真正走向实用,得以解决现实场景中的复杂问题。深度强化学习被认为是通往通用人工智能圣杯的必经之路。但是,事实如何呢?现在,我们刚进入 2020 年,我想看看 20...
2020-03-29 14:27:13 899 1
原创 NoSQL与SQL的区别
关系型数据库1.1什么是关系型数据库关系数据库(Relational database),是创建在关系模型基础上的数据库,借助于集合代数等数学概念和方法来处理数据库中的数据。现实世界中的各种实体以及实体之间的各种联系均用关系模型来表示。数据库:包括一个或多个表表(关系 Relation):是以列和行的形式组织起来的数据的集合列(属性 Attribute):在数据库中经常被称为字段行...
2020-03-29 14:08:38 299
原创 图嵌入、网络嵌入、网络表示学习领域的论文更新
1.Graph Embedding Techniques, Applications, and Performance: A Survey——一篇图嵌入的综述,很全面论文链接2.Representation Learning on Graphs: Methods and Applications——另一篇综述,值得一看论文链接3.A Comprehensive Survey of Grap...
2019-12-04 10:08:56 430
原创 Line 算法与deepwalk的对比 和个人理解
用户的关注关系本身就是一个图结构,要从用户关注关系生成用户的embedding表示,其实就是做graph的emebding表示。deepwalk+word2vec 比较简单,效果也还可以。这种方法再此不再介绍。接下里记下我对line算法的一些理解。先说line算法要解决的问题。1、需要能够表示有向图。2、能够体现节点的权重,边的权重。节点的权重论文中使用了节点的出度作为节点的权重。3、...
2019-12-04 09:53:05 1017
原创 MySQL、MongoDB、Redis 数据库之间的区别
NoSQL 的全称是 Not Only SQL,也可以理解非关系型的数据库,是一种新型的革命式的数据库设计方式,不过它不是为了取代传统的关系型数据库而被设计的,它们分别代表了不同的数据库设计思路。MongoDB:它是一个内存数据库,数据都是放在内存里面的。对数据的操作大部分都在内存中,但 Mongo...
2019-12-03 14:38:28 189
原创 NoSql是什么?
一、nosql的简介 Nosql的全称是Not Only Sql,这个概念早起就有人提出,而我们常用的都是关系型数据库。就像我们常用的mysql,sqlserver一样,这些数据库一般用来存储重要信息,应对普通的业务是没有问题的。但是,随着互联网的高速发展,传统的关系型数据库在应付超大规模,超大流量以及高并发的时候力不从心。而就在这个时候,...
2019-12-03 14:26:20 521
转载 什么是NoSQL,为什么要使用NoSQL?
1 为什么用 NoSQL?1.1 单机 MySQL 的美好时代在90年代,一个网站的访问量一般都不大,用单个数据库完全可以轻松应付。在那个时候,更多的都是静态网页,动态交互类型的网站不多。上述架构下,我们来看看数据存储的瓶颈是什么?DAL : Data Access Layer(数据访问层 – Hibernate,MyBatis)数据量的总大小一个机器放不下时。数据的索引(B+...
2019-12-03 14:06:00 139
原创 BERT压缩方法汇总分享
模型压缩减少了训练好的神经网络中冗余的部分。模型压缩对于像BERT这类复杂模型来说特别有用,因为BERT,特别是BERT-Large需要消耗大量GPU显存,且根本不适用于内存受限的智能手机。当然,提高内存和推理速度也可以大规模节省成本。在这篇文章中,整理列一些压缩BERT的一些论文,分享给大家。Bert压缩常用方法裁剪-训练后移除网络中不必要的部分。这包括weight裁剪、attenti...
2019-12-03 10:31:48 471
转载 深度强化学习算法 A3C (Actor-Critic Algorithm)
深度强化学习算法 A3C (Actor-Critic Algorithm) 对于 A3C 算法感觉自己总是一知半解,现将其梳理一下,记录在此,也给想学习的小伙伴一个参考。 想要认识清楚这个算法,需要对 DRL 的算法有比较深刻的了解,推荐大家先了解下 Deep Q-learning 和 Policy Gradient 算法。 我们知道,DRL 算法大致可以分为如下这几个类...
2019-12-02 16:52:58 1323
翻译 DeepMind:星际争霸2:强化学习新挑战(论文翻译)
星际争霸2:强化学习新挑战原文下载链接:https://deepmind.com/documents/110/sc2le.pdf本文绿色字体是学习过程中的注释,蓝色字体为总结,可以忽略,最后附有个人翻译后记。整个论文分为:摘要(Abstract)1.介绍(Introduction)2.相关工作(Related work)3.sc2le环境(The SC2LE Environment)...
2019-12-02 16:11:02 3196
转载 AlphaStar 实战技巧分析
作者:新智元链接:https://www.zhihu.com/question/310011363/answer/581431562来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 AlphaStar 实战技巧分析讲完 AlphaStar 的训练过程,再来分...
2019-12-02 11:12:26 1002
原创 AlphaStar
AlphaStar北京时间2019年01.24凌晨2:00,DeepMind的伦敦总部,《星际争霸2》游戏人工智能AlphaStar首秀。DeepMind是全球人工智能领军,AlphaGo和AlphaZero的创造者,这里就不多介绍了。星际2作为一款当今世界最复杂的即时战略游戏,含经济运营,兵伐诡道,战争迷雾以及瞬息万变的策略,自2016年起,就被DP当做一个攻克目标。相比之下,围棋棋盘是固定的,...
2019-12-02 11:10:02 3247 1
原创 AlphaGo Zero详解
思考再三,决定研究一下 AlphaGo Zero,并把 AlphaGo Zero 的思想运用到五子棋 中,毕设就决定做这个。后文:蒙特卡洛树搜索(MCTS)代码详解【python】AlphaZero五子棋网络模型【python】AlphaGo Zero 最大的亮点是:完全没有利用人类知识,就能够获得比之前版本更强大的棋力。主要的做法是:利用蒙特卡洛树搜索建立一个模型提升器在自...
2019-12-02 10:13:17 1443 1
原创 ALBERT刷新三大NLP基准
前言RoBERTa没霸榜几天,这不Google爸爸就又放大招,这次的新模型不再是简单的的升级,而是采用了全新的参数共享机制,反观其他升级版BERT模型,基本都是添加了更多的预训练任务,增大数据量等轻微的改动。这次ALBERT的改进,不仅提升了模型的整体效果再一次拿下来各项榜单的榜首,而且参数量相比BERT来说少了很多。对于预训练模型来说,提升模型的大小是能对下游任务的效果有一定提升,然而如果进...
2019-12-02 09:57:31 495
原创 BERT精髓详解
彻底搞懂BERT(NLP 词向量训练模型巅峰之作)自google在2018年10月底公布BERT在11项nlp任务中的卓越表现后,BERT(Bidirectional Encoder Representation from Transformers)就成为NLP领域大火、整个ML界略有耳闻的模型,网上相关介绍也很多,但很多技术内容太少,或是写的不全面半懂不懂,重复内容占绝大多数。一句话概括,B...
2019-11-10 10:52:42 653
原创 LeNet由来及意义
一、LeNet简介LeNet-5是Yann LeCun等人在多次研究后提出的最终卷积神经网络结构,一般LeNet即指代LeNet-5。LeNet-5包含七层,不包括输入,每一层都包含可训练参数(权重),当时使用的输入数据是32*32像素的图像。下面逐层介绍LeNet-5的结构,并且,卷积层将用Cx表示,子采样层则被标记为Sx,完全连接层被标记为Fx,其中x是层索引。层C1是具有六个55的卷...
2019-11-06 11:09:58 6951 5
原创 工程数据特征的稀疏性
工程数据特征的稀疏性从一个简单的例子说起,相信大多数人学过线性代数或者矩阵论之类的课程吧,再线性代数中,最初始的时候就会学到关于如何判断一大堆向量线性的相关或者不相关性,进而确定一组线性无关组。这里比如说空间中一个向量X是一个三维坐标点吧,用(x,y,z)表示。假设现在有一堆点X1(1,0,0);X2(0,1,0);X3(0,0,1);X4(4,3,5);X5(2,1,4)……等等吧,那么我们是...
2019-11-05 11:21:18 1305
转载 深度学习中的注意力机制
深度学习中的注意力机制https://blog.csdn.net/tg229dvt5i93mxaq5a6u/article/details/78422216必读!!!!!!!!!!绝对好文
2019-01-03 11:20:49 404
原创 NLP之神经网络语言模型之超级无敌最佳资料
语言模型Attention Is All You Need(Transformer)原理小结ELMo解析OpenAI GPT解析BERT解析https://www.cnblogs.com/huangyc/p/9861453.html从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史https://zhuanlan.zhihu.com/p/4927169...
2019-01-01 11:40:32 842
转载 关系数据库与非关系数据库
关系数据库与非关系数据库关系型数据库关系型数据库,是指采用了关系模型来组织数据的数据库。关系模型是在1970年由IBM的研究员E.F.Codd博士首先提出的,在之后的几十年中,关系模型的概念得到了充分的发展并逐渐成为主流数据库结构的主流模型。简单来说,关系模型指的就是二维表格模型,而一个关系型数据库就是由二维表及其之间的联系所组成的一个数据组织。关系模型中常用的概念:关系:可以理解...
2018-12-25 15:52:37 167
原创 OpenTSDB介绍
OpenTSDB介绍1.1、OpenTSDB是什么?主要用途是什么?官方文档这样描述:OpenTSDB is a distributed, scalable Time Series Database (TSDB) written on top of HBase;翻译过来就是,基于Hbase的分布式的,可伸缩的时间序列数据库。主要用途,就是做监控系统;譬如收集大规模集群(包括网络设备、操作系...
2018-12-25 11:29:14 910
原创 maven中的groupId和artifactId到底指的是什么?
具体回答如下:groupid和artifactId被统称为“坐标”是为了保证项目唯一性而提出的,如果你要把你项目弄到maven本地仓库去,你想要找到你的项目就必须根据这两个id去查找。 groupId一般分为多个段,这里我只说两段,第一段为域,第二段为公司名称。域又分为org、com、cn等等许多,其中org为非营利组织,com为商业组织。举个apache公司的tomcat项目例子:这个项目...
2018-12-25 11:04:28 359
原创 scala与java之间的关系
scala与java之间的那些事 scala与java之间的关系,我认为可以用一句话来开头:scala来源于java,但又高于java。scala的设计者Martin Odersky就是一个JAVA控,这位牛人设计了javac和编写了jdk中的通用代码。可以说java语言本身就是Martin Odersky一步一步看着长大的。所以scala可以说打根起就和JAVA有着远远悠长的血缘关系。M...
2018-12-25 10:56:31 1112
原创 强化学习很好的学习资料(亲学有效)
https://www.cnblogs.com/bluemapleman/category/1249218.html
2018-12-19 11:27:21 307
原创 目前AI主要瓶颈
目前AI主要问题:当我们将人类智能,和目前的人工智障对比时,常常举的例子就是“现在机器学习依赖大数据,而人类的学习却是相反的,依赖小数据”。这个说法其实不尽准确。人类拥有太多的感知器官,无时无刻不接收着巨量的数据:就按人眼的分辨率而言,目前几乎没有什么实际的机器学习模型模型使用如此高清晰度的数据进行训练的。我们观察一个东西的时候,所有的知觉都潜移默化地给我们灌输海量的数据,供我们学习,推理,判断...
2018-12-14 11:36:13 1034
原创 SQuad2.0自然语言处理界最重量级的数据集
追赶ImageNet ,发力自动问答领域这个数据集文章展现了着斯坦福做一个自然语言处理的ImageNet的野心,他很可能成为自然语言学术界未来至少一年内最流行的数据集。模型在这个数据集上做出好成绩,可以让自己的文章加分不少,被顶会录取的几率大大增加。如果读者想发顶会,且目前没有明确的研究方向,那么刷这个数据集是一条很好的道路。于此同时,这个数据集也会为工业界做出贡献。之所以说会为工业界做出贡献...
2018-12-13 12:39:43 5715
原创 读《Kaggle 相机型号识别大赛深度分析》之笔记
Kaggle 相机型号识别大赛深度分析https://mp.weixin.qq.com/s/e-j6_Z-ZWex8A3EzoH9Acw重要的思考:DenseNet比Resnet更好/更差吗?这个问题得视情况而定。在「Planet: Understanding the Amazon from Space challenge」竞赛(https://www.kaggle.com/c/planet...
2018-12-13 10:49:55 340
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人