自定义博客皮肤VIP专享

*博客头图：

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览 取消 提交

自定义博客皮肤

-+
上一步保存

不是phd的phd

github.com/guotong1988

我也要用
  • 博客(10)
  • 资源 (378)
  • 论坛 (89)
  • 问答 (37)
  • 收藏
  • 关注
全部文章> 2020年06月
排序：
按最后发布时间
按访问量
RSS订阅
12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创 TensorFlow 构造连续非零sequence的0/1 mask

import tensorflow as tfbert_input_ids = tf.constant([[1,2,3,0],[1,2,0,0]])sequence_len = tf.reduce_sum(tf.sign(bert_input_ids), reduction_indices=1)sequence_len = tf.cast(sequence_len, tf.int32)bert_mask_ids = tf.sequence_mask(sequence_len,4,tf.int32)

2020-06-29 17:21:56 175

原创 Linformer 阅读笔记

背景，普通的self-attentionQ 是 n x dK 是 n x dV 是 n x dQK是 n x n 继而 (QK)V 是n x d计算量最大的在于QK出n x n这步，固算Attention为O(n^2)复杂度Linformer用两个 n x k 矩阵，将 K 和 V 映射为 k x d则Q 是 n x dK 是 k x dV 是 k x dQK是 n x k 继而 (QK)V 还是n x dk如果足够小的话，证明就是O(n)复杂度算Attention了，同时，文章从

2020-06-29 10:10:22 316

原创 一种貌似可以解决textmatch模型不好构造负例的方案

就是使用生成式模型，text generation，本来是判断TextA和TextB1-TextB100的match score，再对100个进行rank，改为TextA生成TextB，直接生成出score最高的TextB，不过text generation的baseline是textmatch模型+随机选择负例，还需要实验对比。...

2020-06-29 09:55:37 100

原创 python regex 返回index

import reprint([(m.start(0), m.end(0)) for m in re.finditer("天安门", "北京天安门上太阳升")])print结果：[(2, 5)]

2020-06-22 14:46:16 134

原创 CentOS yum 安装GCC 5

sudo yum install centos-release-sclsudo yum install devtoolset-4-gcc*scl enable devtoolset-4 bashwhich gccgcc --version你没看错，里面是4最后显示的版本是5.3.1

2020-06-21 22:31:18 462

原创 sh run安装cuda失败，Finished with code: 256

要先禁用nouveau保证lsmod |grep nouveau不显示信息

2020-06-20 21:01:27 3974

原创 python 正则匹配后去掉正则表达式本身

import redef remove_non_chinese(input_str): return "".join(re.findall(r'[\u4e00-\u9fa5]', input_str))sentence = "我爱北京天安门"rule = "我爱北京.{1,3}"foundall = re.findall(rule, sentence)rule_replace_part = remove_non_chinese(rule)for found in foundall:

2020-06-15 15:33:44 266

原创 多GPU训练，TensorFlow Estimator input_fn 传的是每个GPU的batch_size

多GPU训练，TensorFlow Estimator input_fn 传的是每个GPU的batch_size，不用传global_batch_size

2020-06-11 14:39:35 222

原创 AliCoCo 阅读笔记

论文名：AliCoCo: Alibaba E-commerce Cognitive Concept Net引言基本电商的图谱建设都是Category-Property-Value形式，Category是一颗树，其中Property就是 Category的叶子 下的属性。问题在于，用户通常不记得一个item的具体名字，而是只记得item的类别或者item其他相关信息。分类学taxonomy人工定义好taxonomy（分类学），domain有20种，主要的是Category, Brand, Colo

2020-06-08 20:11:37 289

原创 textmatch（文本匹配）模型输出score卡阈值一个细节

最后输出结果是[batch_size,2]，但不是通过[:,0]和[:,1]的大小相比得出结果，而是取[:,1]然后卡阈值。

2020-06-01 19:20:49 165

freebase-FB2M数据
freebase-FB2M数据 freebase-FB2M数据 freebase-FB2M数据

2017-06-19

freebase-FB5M数据
freebase-FB5M数据 freebase-FB5M数据 freebase-FB5M数据

2017-06-19

cuda_10.0.130_410.48_linux.run
cuda10 CentOS7 Linux runfile 安装文件，网速慢的用户用， 安装前要先禁用nouveau，

2020-06-21

torchvision-0.6.0+cu101-cp36-cp36m-linux_x86_64.whl
https://download.pytorch.org/whl/torch_stable.html 这里下载的torchvision安装文件，网速慢的用户用

2020-06-21

chinese_L-12_H-768_A-12.zip
https://github.com/google-research/bert 里的预训练好的模型，中文的

2020-06-21

tcl8.6.8-src.tar.gz
tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz

2018-02-25

tk8.6.8-src.tar.gz
tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz

2018-02-25

resnet50-19c8e357.pth.zip
mmdetection里用的预训练模型resnet的，放在AWS上的，国内下载不便，放在CSDN方便大家下载

2020-06-22

大规模新闻文本分类数据集
大规模新闻文本分类数据集，有多个领域，按文件夹摆放，不仅可以用来做文本分类实验，数据不少甚至可以用来做BERT预训练

2020-07-01

fasttext词向量，中文
著名的fasttext词向量，上Billion个词，每个词N维，可用于深度模型初始化，BERT之后仍有其价值

2020-07-06

Mapping of Freebase entities to Wikidata entities 数据集
Mapping of Freebase entities to Wikidata entities 数据集

2017-06-09

freebase的entity id到真实数据的映射 数据集
freebase的实体id到真实实体的映射 数据集

2017-06-09

freebase的实体 映射 对应 wikidata实体 数据集
https://github.com/Samsung/KnowledgeSharingPlatform

2017-07-20

关于minix最经典的两本书
刚刚仙逝的Andrew S. Tanenbaum的两本书，讲操作系统的

2014-09-25

Python-3.6.8.tgz
Python-3.6.8源码安装包 ./configure --prefix=/your_path make make install

2019-12-16

1-billion-word-language-modeling-benchmark-r13output-part2
1 Billion Word Language Model Benchmark. The purpose of the project is to make available a standard training and test setup for language modeling experiments. PART 2

2018-10-22

NLTK wordnet_ic.zip
WordNet-InfoContent id: wordnet_ic; size: 12056682; author: ; copyright: ; license: ;

2019-12-02

Spark: Cluster Computing with Working Sets
Spark: Cluster Computing with Working Sets matei的论文

2014-04-15

glove.840B.300d 词向量
著名的glove词向量，上Billion个词，每个词N维，可用于深度模型初始化，BERT之后仍有其价值

2020-07-06

Facebook的SimpleQuestions数据集
https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/

2017-03-29

bochs-2.6.2 .tar.gz
bochs-2.6.2 .tar.gz

2013-06-14

resnext101_64x4d-ee2c6f71.pth
mmdetection里用的预训练模型resnext的，放在AWS上的，国内下载不便，放在CSDN方便大家下载

2020-06-22

glove.twitter.27B.200d.txt
GloVe is an unsupervised learning algorithm for obtaining vector representations for words. Training is performed on aggregated global word-word co-occurrence statistics from a corpus, and the resulting representations showcase interesting linear substructures of the word vector space.

2018-04-10

cudnn 7.6.4 linux
cudnn 7.6.4 的so文件，配合cuda10.0，配合TensorFlow1.14，export LD_LIBRARY_PATH使用

2020-04-15

glove.42B.300d 词向量
著名的glove词向量，上Billion个词，每个词N维，可用于深度模型初始化，BERT之后仍有其价值

2020-07-06

一篇讲蒙特卡罗树搜索的文档
A Survey of Monte Carlo Tree Search Methods

2017-08-04

_bz2.cpython-36m-x86_64-linux-gnu.so
Python3.6的bz2模块需要的so文件，可复制到lib/python3.6/lib-dynload使用

2017-10-30

libcudnn.so.6
cudnn-8.0-linux-x64-v6.0.tgz

2017-08-02

讲GCN的最好的资料
Thomas Kipf亲自做的，非常详细，细致，很有收获！

2018-08-30

pointer network 用到的数据
https://github.com/devsisters/pointer-network-tensorflow 的 tsp_10_train.zip

2017-07-14

pytorch resnet 152 模型参数数据
pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据

2017-12-29

FB15K 数据集
用在此处 https://github.com/thunlp/OpenKE For training, datasets contain three files: train2id.txt: training file, the first line is the number of triples for training. Then the follow lines are all in the format (e1, e2, rel). entity2id.txt: all entities and corresponding ids, one per line. The firs

2018-03-02

aclImdb_v1.tar.gz
https://huggingface.co/transformers/custom_datasets.html#seq-imdb 用到的数据

2020-11-19

train-images-idx3-ubyte.gz 和 train-labels-idx1-ubyte.gz

train-images-idx3-ubyte.gz train-labels-idx1-ubyte.gz t10k-images-idx3-ubyte.gz t10k-labels-idx1-ubyte.gz

2020-12-03

基于知识图谱的问答系统综述
Question Answering over Knowledge Bases

2016-09-19

CLUE打包后1G的中文预训练数据
用于BERT预训练，Bidirectional Encoder Representation from Transformers

2020-07-11

DBeaver数据库管理工具
数据库管理工具

2014-09-24

tensorflow_gpu-1.15.0-cp36-cp36m-manylinux2010_x86_64.whl
An Open Source Machine Learning Framework for Everyone

2020-11-06

WebQuestions 数据集
main/ has the dataset splits as distributed. d-dump/ has question dumps from YodaQA. d-freebase/ has mappings from question to single Freebase key, as distributed with the original WebQuestions dataset. d-freebase-mids/ has Freebase mids for each concept in each question, based on YodaQA entity link

2018-03-02

onnxruntime-1.5.2.zip
https://github.com/microsoft/onnxruntime/releases 方便下载

2020-12-04

查看更多

编译时 java -d 是什么意思？

发表于 2011-01-20 最后回复 2020-03-26

android 怎么输出变量的的值到log

发表于 2011-06-09 最后回复 2020-03-12

guotong1988的留言板

发表于 2020-01-02 最后回复 2020-01-02

请问linux里的 # 和 $ 都有什么意思啊？

发表于 2011-01-24 最后回复 2018-06-19

问下付费VIP能扩大上传资源权限到500M吗

发表于 2017-12-04 最后回复 2017-12-04

怎么用html里的button里的onclick的运行一段java

发表于 2011-02-23 最后回复 2017-09-30

linux里面有很多goto，为什么明确不提倡用goto

发表于 2012-01-14 最后回复 2017-08-05

华为手机的AI部门 和 联想的AI部门 去哪个

发表于 2016-11-20 最后回复 2016-11-21

做AI的话是搞 底层框架大牛 和 应用层业务大牛 哪个有前途？

发表于 2016-11-20 最后回复 2016-11-21

什么情况下用plsql?

发表于 2015-03-12 最后回复 2016-10-26

为什么我是博客专家了还是不能把微博搞上

发表于 2016-01-25 最后回复 2016-01-28

创业公司老板兼CTO把我们看成打杂的怎么办？？？

发表于 2014-11-14 最后回复 2016-01-15

一段scala代码读不懂。。。

发表于 2015-03-02 最后回复 2015-04-22

jsp问题，入门级，求助啊！！！ 搜遍了网上方法，（附图）

发表于 2015-03-18 最后回复 2015-03-24

Java 线程共用run方法里的代码段吗？

发表于 2014-11-24 最后回复 2015-03-02

为什么列式数据库适用于OLAP，行式数据库适用于OLTP？

发表于 2014-10-18 最后回复 2015-03-02

问下搞机器学习的童鞋，都用什么数据库，还是不用数据库？

发表于 2015-02-05 最后回复 2015-03-02

如何把 linux0.11更高的版本 用bochs编译并运行

发表于 2014-12-23 最后回复 2015-03-02

小弟今年27了，该不该跳这个槽，明天给那边回复

发表于 2015-02-01 最后回复 2015-03-02

有多少人和我一样觉得老板兼CTO从不考虑员工所想的

发表于 2014-11-11 最后回复 2015-01-04

从mysql、oracle、sqlserver、db2里取数据，怎样取最快？

发表于 2014-11-12 最后回复 2014-11-19

世界上有哪些非计算机专业出身的IT精英？

发表于 2014-11-09 最后回复 2014-11-11

求推荐一款优秀的开源的数据库管理工具，可以支持mysql、oracle、sqlserver、db2等。

发表于 2014-11-06 最后回复 2014-11-09

the import com.mysql can not be resolved 请问

发表于 2011-02-21 最后回复 2014-10-31

怎么把 指针b的指向的地址作为值 放到指针a指向的地址里？

发表于 2014-10-19 最后回复 2014-10-19

Java，我有一个外网IP比如7.7.7.7:port的server，想和一内网192.168.0.13client通信，server端求个java小例子

发表于 2013-08-27 最后回复 2014-10-18

windows核心编程 看不懂

发表于 2012-02-25 最后回复 2014-03-14

各位大侠，什么书有讲C++多线程的知识？

发表于 2012-02-20 最后回复 2013-08-27

各位大侠，什么书里有讲P，V操作的？

发表于 2012-03-04 最后回复 2013-08-27

as3 addchild（） 的机制？？？？？？？？

发表于 2011-09-05 最后回复 2013-07-28

如何实现比如五子棋的联机对战，在iphone上，主要是网络编程方面

发表于 2011-06-10 最后回复 2012-11-23

谁帮我详细解释下这句： <script type="text/javascript">

发表于 2011-02-21 最后回复 2012-09-20

比如做一个 绑定IE首页的程序 需要什么知识？看什么书？

发表于 2012-02-19 最后回复 2012-02-20

做游戏 美工 和 程序 可否都学？

发表于 2012-02-16 最后回复 2012-02-19

各位大侠 想做游戏 程序 和 美工 可不可以都学？

发表于 2012-02-16 最后回复 2012-02-19

哪里可以做业余项目？

发表于 2012-02-05 最后回复 2012-02-16

征女友，见头像

发表于 2012-02-05 最后回复 2012-02-05

大家怎么看 程序实现 和 更好的实现 这件事？

发表于 2011-11-01 最后回复 2012-01-20

大家怎么看 程序功能实现 和 更好的实现 这件事？

发表于 2011-11-01 最后回复 2011-11-11

android的调试速度怎么这么慢

发表于 2011-10-28 最后回复 2011-11-01

查看更多

2021年了，有哪些稳压bert和roberta的预训练模型？

2021-01-20

现在机器学习的库都是Python的，而服务器貌似是Java性能最好，怎么处理这个问题？

2016-11-22

gdb都能调试什么类型的文件？

2016-10-17

Spark里一行scala代码看不懂？

2016-02-29

spark example 有个地方看不懂

2016-02-01

maven，自己的 程序包不存在？

2015-12-03

如何寻找一个java文件的所有import的java，把这些所有java都打到一个jar包，自动化？

2015-12-03

Eclipse有办法打Jar包时自动解决（自身项目内的）依赖问题吗？

2015-12-03

google的protobuf比这样java原生的方式更有效率吗？

2015-11-19

.h文件里定义了一个类，怎么链接到so文件里？

2015-09-09

cocos2d-x lua怎么滤色？

2015-09-02

看jvm某个类的成员变量的值

2015-08-28

JAVA怎么从特定【行】开始读字串？

2015-08-24

一小段scala代码看不懂？

2015-08-21

scala如何初始化一个Tuple3数组？

2015-08-18

用jstack看到的WAITING和BLOCK的区别的是什么

2015-08-18

linux搭建spark源码环境，执行build/sdt gen-idea要twitter东西？

2015-08-14

Spark里的DAG是怎么回事？

2015-08-12

invoke方法如何加-Xmx2000M之类的VM参数

2015-08-03

spark1.2里的一小段scala代码看不懂

2015-03-03

为什么数据库要插入数据后再建B-Tree等结构的索引，而不是边插边建？

2015-03-24

Spark哪些分布式计算可以脱离HDFS跑？

2015-07-03

akka 简单例子总是 not delivered和dead letters encountered

2015-07-09

Eclipse里如何debug跟踪MapReduce程序到hadoop源码里？

2015-07-31

有没有自动生成复杂sql的软件？

2015-07-14

java swing awt， 如何实现一个按钮按下之后刷新界面

2015-07-03

java正则表达式，怎么写一个match包含空格的pattern？

2015-06-04

java正则表达式，如何表示一个非某个字符的匹配

2015-06-04

为什么hdfs不支持随机写？

2015-03-11

java项目里什么情况下用PL/SQL?

2015-03-12

jsp问题，入门级，求助啊！！！ 搜遍了网上方法，（附图）

2015-03-18

比较新的MinGW5怎么用啊？

2014-12-24

有几百个进程却只有几G的内存，求解释这几百个进程如何共享内存的？

2015-01-05

bochs里面运行的linux可以和外面通信吗？

2014-12-23

求大神解释下NUMA、UMA、SMP这三种CPU架构？

2014-12-22

github ，merge后我的fork自动ahead于‘主干’1commit

2014-12-18

java 线程共用代码段吗？

2014-11-24

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章？
取消 删除