qq_30993409的博客

转载 Attention注意力机制

注意力模型最近几年在深度学习各个领域被广泛使用，无论是图像处理、语音识别还是自然语言处理的各种不同类型的任务中，都很容易遇到注意力模型的身影。所以，了解注意力机制的工作原理对于关注深度学习技术发展的技术人员来说有很大的必要。人类的视觉注意力从注意力模型的命名方式看，很明显其借鉴了人类的注意力机制，因此，我们首先简单介绍人类视觉的选择性注意力机制。图1 人类的视觉注意力...

转载 从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史 （转载）

转载-原文：https://blog.csdn.net/malefactor/article/details/83961886Bert最近很火，应该是最近最火爆的AI进展，网上的评价很高，那么Bert值得这么高的评价吗？我个人判断是值得。那为什么会有这么高的评价呢？是因为它有重大的理论或者模型创新吗？其实并没有，从模型创新角度看一般，创新不算大。但是架不住效果太好了，基本刷新了很多NLP...

转载 EMLO

        论文：2018 NAACL 《Deep Contextualized Word Representations》(1)词嵌入最常用的模型为word2vec和GloVe，基于分布假设的无监督学习方法(在相同的上下文中单词往往具有相似含义)。(2)有些方法通过结合语义或句法的知识的有监督学习方法来增强这些无监督方法，纯粹的无监督方法为FastText和EMLo(最先进的上下文词...

原创 服务器多台机器设置.ssh免密登录。

1.实验室的四台linux主机，含有ssh。如果没有ssh的话，可以使用下面命令进行安装：yum install ssh2.cd /home/{用户名}/.ssh 文件目录下3.ssh-keygen -t rsa   #用rsa生成密钥 【一路回车】4.cat id_rsa.pub >> authorized_keys  【在.ssh目录下操作，不然...

转载 Anaconda下安装TensorFlow

1.安装Anaconda选择相应的Anaconda进行安装，下载地址点击这里，下载对应系统版本的Anaconda，官网现在的版本是Anaconda 4.3.1 for python3.6。笔者安装的是4.3.0版本的。 就和安装普通的软件一样，全部选择默认即可，注意勾选将python3.6添加进环境变量。这样Anaconda就安装好了，我们可以通过下面的命令来查看Anacond...

原创 云主机的linux(CentOs)系统上搭建spark单机环境

1.准备工作(1)安装工具包(自行下载)(2)window与linux连接操作软件(自行下载)(3)统一安装路径所有安装包我放在 /home/study/spark/package 目录下 所有安装我均安装在 /home/study/spark 目录下2.在/home/study/spark下安装JDK，并修改环境变量(1)sudo vi /etc/pro...

原创 windows下eclipse中配置spark单机环境[spark+hadoop+maven+eclipse]

第一步:(1)我的电脑是windows10，64位的环境，可以去eclipse官网下载自己电脑对应的eclipse版本。             (2)百度搜索eclispe，如图是我下载的eclipse版本，自动解压安装即可。第二步:下载spark和hadoop相关文件           (1)下载和解压缩后的hadoop文件。           hadoop文件下载...

原创 Jupyter Notebook进行igraph的复杂网络社区划分(picture show)

原创 windows下Anaconda3和python3下配置igraph环境全过程

完成igraph的配置需要下载python和python-igraph和pycairo第一步:Anaconda3安装过程本人下载的是Anaconda3.6(推荐)，下载地址:https://www.anaconda.com/download/因为现在pycairo支持3.6版本，故下载的都是3.6版本的文件，下载地址:https://www.lfd.uci.edu/~gohlke/pythonli...

原创 夜神模拟器加载出来是空白页面情况

加载时时空白页的原因是这段代码：加载出来的空白页面如下：此段代码修改成：情况ok，问题已经解决：

转载 SurfaceView

Android的大多数控件都是继承自View的，因此在自定义控件时一般也是继承View类，但是对于高效的，游戏级别的绘图，或者是播放器等要求比较高的地方，普通的View类就有点吃不开了，这个时候就要用到SurfaceView类。因为比较高级，所以就该装B，单纯一个继承自SurfaceView类是不行的，必须实现一个SurfaceHolder.Callback接口来指明SurfaceVi

原创 R包丢失问题。

R.java这个文件是会自动生成的。但是有时候你写错xml文件的时候，R.java是不会自动生成对应的值。这个时候我们会很习惯去clean一下这个项目，这个时候会突然发现，R.java竟然不见了。 这个时候的你肯定非常的气愤，你可能会拼命在网上找答案，网上会有很多答案告诉你 右键项目--》Android Tools--> fix project properties。可能你怎么fix都

转载 value的style建安卓程序报错。

    导入项目，看到满天的XXX，一个个打开看看。   首先，没有R文件是个大问题。布局有错误         查看 res/values/styles.xml 下的报错点。  <style name="AppBaseTheme" parent="Theme.AppCompat.Light">   把这个改成 &lt...