自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

不是phd的phd

github.com/guotong1988

  • 博客(10)
  • 资源 (378)
  • 论坛 (89)
  • 问答 (37)
  • 收藏
  • 关注

原创 TensorFlow 构造连续非零sequence的0/1 mask

import tensorflow as tfbert_input_ids = tf.constant([[1,2,3,0],[1,2,0,0]])sequence_len = tf.reduce_sum(tf.sign(bert_input_ids), reduction_indices=1)sequence_len = tf.cast(sequence_len, tf.int32)bert_mask_ids = tf.sequence_mask(sequence_len,4,tf.int32)

2020-06-29 17:21:56 175

原创 Linformer 阅读笔记

背景,普通的self-attentionQ 是 n x dK 是 n x dV 是 n x dQK是 n x n 继而 (QK)V 是n x d计算量最大的在于QK出n x n这步,固算Attention为O(n^2)复杂度Linformer用两个 n x k 矩阵,将 K 和 V 映射为 k x d则Q 是 n x dK 是 k x dV 是 k x dQK是 n x k 继而 (QK)V 还是n x dk如果足够小的话,证明就是O(n)复杂度算Attention了,同时,文章从

2020-06-29 10:10:22 316

原创 一种貌似可以解决textmatch模型不好构造负例的方案

就是使用生成式模型,text generation,本来是判断TextA和TextB1-TextB100的match score,再对100个进行rank,改为TextA生成TextB,直接生成出score最高的TextB,不过text generation的baseline是textmatch模型+随机选择负例,还需要实验对比。...

2020-06-29 09:55:37 100

原创 python regex 返回index

import reprint([(m.start(0), m.end(0)) for m in re.finditer("天安门", "北京天安门上太阳升")])print结果:[(2, 5)]

2020-06-22 14:46:16 134

原创 CentOS yum 安装GCC 5

sudo yum install centos-release-sclsudo yum install devtoolset-4-gcc*scl enable devtoolset-4 bashwhich gccgcc --version你没看错,里面是4最后显示的版本是5.3.1

2020-06-21 22:31:18 462

原创 sh run安装cuda失败,Finished with code: 256

要先禁用nouveau保证lsmod |grep nouveau不显示信息

2020-06-20 21:01:27 3974

原创 python 正则匹配后去掉正则表达式本身

import redef remove_non_chinese(input_str): return "".join(re.findall(r'[\u4e00-\u9fa5]', input_str))sentence = "我爱北京天安门"rule = "我爱北京.{1,3}"foundall = re.findall(rule, sentence)rule_replace_part = remove_non_chinese(rule)for found in foundall:

2020-06-15 15:33:44 266

原创 多GPU训练,TensorFlow Estimator input_fn 传的是每个GPU的batch_size

多GPU训练,TensorFlow Estimator input_fn 传的是每个GPU的batch_size,不用传global_batch_size

2020-06-11 14:39:35 222

原创 AliCoCo 阅读笔记

论文名:AliCoCo: Alibaba E-commerce Cognitive Concept Net引言基本电商的图谱建设都是Category-Property-Value形式,Category是一颗树,其中Property就是 Category的叶子 下的属性。问题在于,用户通常不记得一个item的具体名字,而是只记得item的类别或者item其他相关信息。分类学taxonomy人工定义好taxonomy(分类学),domain有20种,主要的是Category, Brand, Colo

2020-06-08 20:11:37 289

原创 textmatch(文本匹配)模型输出score卡阈值一个细节

最后输出结果是[batch_size,2],但不是通过[:,0]和[:,1]的大小相比得出结果,而是取[:,1]然后卡阈值。

2020-06-01 19:20:49 165

freebase-FB2M数据

freebase-FB2M数据 freebase-FB2M数据 freebase-FB2M数据

2017-06-19

freebase-FB5M数据

freebase-FB5M数据 freebase-FB5M数据 freebase-FB5M数据

2017-06-19

cuda_10.0.130_410.48_linux.run

cuda10 CentOS7 Linux runfile 安装文件,网速慢的用户用, 安装前要先禁用nouveau,

2020-06-21

torchvision-0.6.0+cu101-cp36-cp36m-linux_x86_64.whl

https://download.pytorch.org/whl/torch_stable.html 这里下载的torchvision安装文件,网速慢的用户用

2020-06-21

chinese_L-12_H-768_A-12.zip

https://github.com/google-research/bert 里的预训练好的模型,中文的

2020-06-21

tcl8.6.8-src.tar.gz

tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz tcl8.6.8-src.tar.gz

2018-02-25

tk8.6.8-src.tar.gz

tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz tk8.6.8-src.tar.gz

2018-02-25

resnet50-19c8e357.pth.zip

mmdetection里用的预训练模型resnet的,放在AWS上的,国内下载不便,放在CSDN方便大家下载

2020-06-22

大规模新闻文本分类数据集

大规模新闻文本分类数据集,有多个领域,按文件夹摆放,不仅可以用来做文本分类实验,数据不少甚至可以用来做BERT预训练

2020-07-01

fasttext词向量,中文

著名的fasttext词向量,上Billion个词,每个词N维,可用于深度模型初始化,BERT之后仍有其价值

2020-07-06

Mapping of Freebase entities to Wikidata entities 数据集

Mapping of Freebase entities to Wikidata entities 数据集

2017-06-09

freebase的entity id到真实数据的映射 数据集

freebase的实体id到真实实体的映射 数据集

2017-06-09

freebase的实体 映射 对应 wikidata实体 数据集

https://github.com/Samsung/KnowledgeSharingPlatform

2017-07-20

关于minix最经典的两本书

刚刚仙逝的Andrew S. Tanenbaum的两本书,讲操作系统的

2014-09-25

Python-3.6.8.tgz

Python-3.6.8源码安装包 ./configure --prefix=/your_path make make install

2019-12-16

1-billion-word-language-modeling-benchmark-r13output-part2

1 Billion Word Language Model Benchmark. The purpose of the project is to make available a standard training and test setup for language modeling experiments. PART 2

2018-10-22

NLTK wordnet_ic.zip

WordNet-InfoContent id: wordnet_ic; size: 12056682; author: ; copyright: ; license: ;

2019-12-02

Spark: Cluster Computing with Working Sets

Spark: Cluster Computing with Working Sets matei的论文

2014-04-15

glove.840B.300d 词向量

著名的glove词向量,上Billion个词,每个词N维,可用于深度模型初始化,BERT之后仍有其价值

2020-07-06

Facebook的SimpleQuestions数据集

https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/ https://research.fb.com/downloads/babi/

2017-03-29

bochs-2.6.2 .tar.gz

bochs-2.6.2 .tar.gz

2013-06-14

resnext101_64x4d-ee2c6f71.pth

mmdetection里用的预训练模型resnext的,放在AWS上的,国内下载不便,放在CSDN方便大家下载

2020-06-22

glove.twitter.27B.200d.txt

GloVe is an unsupervised learning algorithm for obtaining vector representations for words. Training is performed on aggregated global word-word co-occurrence statistics from a corpus, and the resulting representations showcase interesting linear substructures of the word vector space.

2018-04-10

cudnn 7.6.4 linux

cudnn 7.6.4 的so文件,配合cuda10.0,配合TensorFlow1.14,export LD_LIBRARY_PATH使用

2020-04-15

glove.42B.300d 词向量

著名的glove词向量,上Billion个词,每个词N维,可用于深度模型初始化,BERT之后仍有其价值

2020-07-06

一篇讲蒙特卡罗树搜索的文档

A Survey of Monte Carlo Tree Search Methods

2017-08-04

_bz2.cpython-36m-x86_64-linux-gnu.so

Python3.6的bz2模块需要的so文件,可复制到lib/python3.6/lib-dynload使用

2017-10-30

libcudnn.so.6

cudnn-8.0-linux-x64-v6.0.tgz

2017-08-02

讲GCN的最好的资料

Thomas Kipf亲自做的,非常详细,细致,很有收获!

2018-08-30

pointer network 用到的数据

https://github.com/devsisters/pointer-network-tensorflow 的 tsp_10_train.zip

2017-07-14

pytorch resnet 152 模型参数数据

pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据 pytorch resnet 152 模型参数数据

2017-12-29

FB15K 数据集

用在此处 https://github.com/thunlp/OpenKE For training, datasets contain three files: train2id.txt: training file, the first line is the number of triples for training. Then the follow lines are all in the format (e1, e2, rel). entity2id.txt: all entities and corresponding ids, one per line. The firs

2018-03-02

aclImdb_v1.tar.gz

https://huggingface.co/transformers/custom_datasets.html#seq-imdb 用到的数据

2020-11-19

train-images-idx3-ubyte.gz 和 train-labels-idx1-ubyte.gz

train-images-idx3-ubyte.gz train-labels-idx1-ubyte.gz t10k-images-idx3-ubyte.gz t10k-labels-idx1-ubyte.gz

2020-12-03

基于知识图谱的问答系统综述

Question Answering over Knowledge Bases

2016-09-19

CLUE打包后1G的中文预训练数据

用于BERT预训练,Bidirectional Encoder Representation from Transformers

2020-07-11

DBeaver数据库管理工具

数据库管理工具

2014-09-24

tensorflow_gpu-1.15.0-cp36-cp36m-manylinux2010_x86_64.whl

An Open Source Machine Learning Framework for Everyone

2020-11-06

WebQuestions 数据集

main/ has the dataset splits as distributed. d-dump/ has question dumps from YodaQA. d-freebase/ has mappings from question to single Freebase key, as distributed with the original WebQuestions dataset. d-freebase-mids/ has Freebase mids for each concept in each question, based on YodaQA entity link

2018-03-02

onnxruntime-1.5.2.zip

https://github.com/microsoft/onnxruntime/releases 方便下载

2020-12-04

编译时 java -d 是什么意思?

发表于 2011-01-20 最后回复 2020-03-26

android 怎么输出变量的的值到log

发表于 2011-06-09 最后回复 2020-03-12

guotong1988的留言板

发表于 2020-01-02 最后回复 2020-01-02

请问linux里的 # 和 $ 都有什么意思啊?

发表于 2011-01-24 最后回复 2018-06-19

问下付费VIP能扩大上传资源权限到500M吗

发表于 2017-12-04 最后回复 2017-12-04

怎么用html里的button里的onclick的运行一段java

发表于 2011-02-23 最后回复 2017-09-30

linux里面有很多goto,为什么明确不提倡用goto

发表于 2012-01-14 最后回复 2017-08-05

华为手机的AI部门 和 联想的AI部门 去哪个

发表于 2016-11-20 最后回复 2016-11-21

做AI的话是搞 底层框架大牛 和 应用层业务大牛 哪个有前途?

发表于 2016-11-20 最后回复 2016-11-21

什么情况下用plsql?

发表于 2015-03-12 最后回复 2016-10-26

为什么我是博客专家了还是不能把微博搞上

发表于 2016-01-25 最后回复 2016-01-28

创业公司老板兼CTO把我们看成打杂的怎么办???

发表于 2014-11-14 最后回复 2016-01-15

一段scala代码读不懂。。。

发表于 2015-03-02 最后回复 2015-04-22

jsp问题,入门级,求助啊!!! 搜遍了网上方法,(附图)

发表于 2015-03-18 最后回复 2015-03-24

Java 线程共用run方法里的代码段吗?

发表于 2014-11-24 最后回复 2015-03-02

为什么列式数据库适用于OLAP,行式数据库适用于OLTP?

发表于 2014-10-18 最后回复 2015-03-02

问下搞机器学习的童鞋,都用什么数据库,还是不用数据库?

发表于 2015-02-05 最后回复 2015-03-02

如何把 linux0.11更高的版本 用bochs编译并运行

发表于 2014-12-23 最后回复 2015-03-02

小弟今年27了,该不该跳这个槽,明天给那边回复

发表于 2015-02-01 最后回复 2015-03-02

有多少人和我一样觉得老板兼CTO从不考虑员工所想的

发表于 2014-11-11 最后回复 2015-01-04

从mysql、oracle、sqlserver、db2里取数据,怎样取最快?

发表于 2014-11-12 最后回复 2014-11-19

世界上有哪些非计算机专业出身的IT精英?

发表于 2014-11-09 最后回复 2014-11-11

求推荐一款优秀的开源的数据库管理工具,可以支持mysql、oracle、sqlserver、db2等。

发表于 2014-11-06 最后回复 2014-11-09

the import com.mysql can not be resolved 请问

发表于 2011-02-21 最后回复 2014-10-31

怎么把 指针b的指向的地址作为值 放到指针a指向的地址里?

发表于 2014-10-19 最后回复 2014-10-19

Java,我有一个外网IP比如7.7.7.7:port的server,想和一内网192.168.0.13client通信,server端求个java小例子

发表于 2013-08-27 最后回复 2014-10-18

windows核心编程 看不懂

发表于 2012-02-25 最后回复 2014-03-14

各位大侠,什么书有讲C++多线程的知识?

发表于 2012-02-20 最后回复 2013-08-27

各位大侠,什么书里有讲P,V操作的?

发表于 2012-03-04 最后回复 2013-08-27

as3 addchild() 的机制????????

发表于 2011-09-05 最后回复 2013-07-28

如何实现比如五子棋的联机对战,在iphone上,主要是网络编程方面

发表于 2011-06-10 最后回复 2012-11-23

谁帮我详细解释下这句: <script type="text/javascript">

发表于 2011-02-21 最后回复 2012-09-20

比如做一个 绑定IE首页的程序 需要什么知识?看什么书?

发表于 2012-02-19 最后回复 2012-02-20

做游戏 美工 和 程序 可否都学?

发表于 2012-02-16 最后回复 2012-02-19

各位大侠 想做游戏 程序 和 美工 可不可以都学?

发表于 2012-02-16 最后回复 2012-02-19

哪里可以做业余项目?

发表于 2012-02-05 最后回复 2012-02-16

征女友,见头像

发表于 2012-02-05 最后回复 2012-02-05

大家怎么看 程序实现 和 更好的实现 这件事?

发表于 2011-11-01 最后回复 2012-01-20

大家怎么看 程序功能实现 和 更好的实现 这件事?

发表于 2011-11-01 最后回复 2011-11-11

android的调试速度怎么这么慢

发表于 2011-10-28 最后回复 2011-11-01

2021年了,有哪些稳压bert和roberta的预训练模型?

2021-01-20

现在机器学习的库都是Python的,而服务器貌似是Java性能最好,怎么处理这个问题?

2016-11-22

gdb都能调试什么类型的文件?

2016-10-17

Spark里一行scala代码看不懂?

2016-02-29

spark example 有个地方看不懂

2016-02-01

maven,自己的 程序包不存在?

2015-12-03

如何寻找一个java文件的所有import的java,把这些所有java都打到一个jar包,自动化?

2015-12-03

Eclipse有办法打Jar包时自动解决(自身项目内的)依赖问题吗?

2015-12-03

google的protobuf比这样java原生的方式更有效率吗?

2015-11-19

.h文件里定义了一个类,怎么链接到so文件里?

2015-09-09

cocos2d-x lua怎么滤色?

2015-09-02

看jvm某个类的成员变量的值

2015-08-28

JAVA怎么从特定【行】开始读字串?

2015-08-24

一小段scala代码看不懂?

2015-08-21

scala如何初始化一个Tuple3数组?

2015-08-18

用jstack看到的WAITING和BLOCK的区别的是什么

2015-08-18

linux搭建spark源码环境,执行build/sdt gen-idea要twitter东西?

2015-08-14

Spark里的DAG是怎么回事?

2015-08-12

invoke方法如何加-Xmx2000M之类的VM参数

2015-08-03

spark1.2里的一小段scala代码看不懂

2015-03-03

为什么数据库要插入数据后再建B-Tree等结构的索引,而不是边插边建?

2015-03-24

Spark哪些分布式计算可以脱离HDFS跑?

2015-07-03

akka 简单例子总是 not delivered和dead letters encountered

2015-07-09

Eclipse里如何debug跟踪MapReduce程序到hadoop源码里?

2015-07-31

有没有自动生成复杂sql的软件?

2015-07-14

java swing awt, 如何实现一个按钮按下之后刷新界面

2015-07-03

java正则表达式,怎么写一个match包含空格的pattern?

2015-06-04

java正则表达式,如何表示一个非某个字符的匹配

2015-06-04

为什么hdfs不支持随机写?

2015-03-11

java项目里什么情况下用PL/SQL?

2015-03-12

jsp问题,入门级,求助啊!!! 搜遍了网上方法,(附图)

2015-03-18

比较新的MinGW5怎么用啊?

2014-12-24

有几百个进程却只有几G的内存,求解释这几百个进程如何共享内存的?

2015-01-05

bochs里面运行的linux可以和外面通信吗?

2014-12-23

求大神解释下NUMA、UMA、SMP这三种CPU架构?

2014-12-22

github ,merge后我的fork自动ahead于‘主干’1commit

2014-12-18

java 线程共用代码段吗?

2014-11-24

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除