- 博客(24)
- 收藏
- 关注
原创 MySQL 间隙锁
在辅助索引中,值的排序是先根据索引字段,然后再按主键排序,所以上面的顺序就是该索引值的顺序。所以对于 (16, 7) 这一值而言,他的左右间隙分别是 (12, 3)和(23, 5),若有查询语句如下。之前一直对间隙锁的锁定范围很迷糊,感觉不可控,最近又看了下相关文章,再加上测试,发现间隙锁真的只是顾名思义,间隙锁就是间隙锁。则 (12, 3) < x <= (23, 5) 的范围内都会被加锁,也就意味着,如下的组合是无法写入的。先说结论,间隙锁只会在语句用到的索引上添加,不管这个是辅助索引还是聚集索引。
2024-05-16 21:25:32
346
1
原创 postgresql 的递归查询
postgresql 的递归查询功能很强大,可以实现传统 sql 无法实现的事情。那递归查询的执行逻辑是什么呢?在递归查询中,我们一般会用到 union 或者 union all,他们两者之间的区别是什么呢?
2023-08-20 14:25:46
1119
原创 NSQ 实现逻辑探秘
topic 中的消息会被复制到多个 channel 中,并将消息推送到其中一个消费这个 channel 的消费者手中。go sdk 中提供的 NewProducer 函数需要提供 nsqd 的地址,因此生产者会直连某个 nsqd,并向其投递消息。如果希望生产也能实现负载均衡,则需要我们自己做进一步的封装,大概逻辑是:向 nsqlookup 获取所有 nsqd 的信息建立多个 producer, 每个 producer 与不同的 nsqd 建立连接。
2023-07-02 17:12:32
561
原创 protobuf 编码探究
总体而言,pb 序列化后的字节数据,一个字段对应一个 key-value 对,整个二进制文件就是一连串紧密排列的 key-value 对,key也称为tag。采用这种key-value对的结构无需使用分隔符来分割不同的 field。key 是由 wire_type 和 field_number 两部分编码而成,具体地说wire_type 可以理解成数据类型的种类,类似 golang 中的 reflect.Kind。pb 的 wire_type 和数据类型的映射见下表TypeMeaning。
2023-07-02 17:12:05
399
原创 备战系统分析师——第2章经济管理部分
正在备考2023年5月底的软考--系统分析师。这次让我们聊一下第2章的经济管理部分。首先是会计常识,这是我第一次接触会计知识,很多东西还是很新奇的。会计计价有两种方式,历史成本计价和公允价值计价,我理解历史成本计价就是在做会计报表的时候,用原价对资产进行计价,而公允价值计价是用当时的市场价重新计价。另外,也提到了几种会计报表,包括资产负债表,利润表和利润分配表。所谓的资产负债表就是整理企业现有的资产和负债,分为“资产”和“负债+所有者权益”两部分。利润表用于计算企业的利润,有两种
2023-04-05 22:16:46
145
原创 Hadoop集群多用户部署
1 引言之前曾用一个管理员账号A在用户目录下部署了一个hadoop集群。但是当新建一个账号的时候,新账号B就不能使用Hadoop集群,理由很简单,B不能访问A下面的目录和文件。因此,正确的做法是将hadoop集群部署到公告目录下,如/usr/local目录下,让所有账号都能使用。本篇博客就是为了记叙hadoop迁移过程中遇到的问题。2 权限迁移过程中的一个核心问题就是权限问题,只要解决了这个问题,就
2017-11-22 17:35:44
1566
翻译 Neural Bag-of-Ngrams
简介前一段时间看的几篇有关文本建模的论文,如Mikolov的Doc2vec,Kiros的Skip-thought等都是侧重模型的创建,即通过怎样的神经网络方法,得到一个较理想的文本表示。其他的有关文本建模(句子和篇章)的论文,他们的注意力并不是集中在纯粹的文本建模上,而是在进行文本分类的时候,顺带的对文本进行了建模,用的方法基本上也都是深度学习,如DNN、RNN、CNN之类的。这些模型的一个共同点就
2017-10-12 11:35:12
2437
翻译 Reproducing and learning new algebraic operations on word embeddings using genetic programming
简介现在生成的词向量能够利用一些代数运算,如向量的加减,来捕获词之间的语义关系,典型的一个例子就是“King”-“Man” + “woman” = “queen”。在NLP中,也叫做类比实验(analogy test),其一般形式是“a is to b as c is to ?”。不过正如例子中展示的,现在一般使用的都是简单的加减法。但是,这并不表示不存在其他的运算也能捕获这种语义关系而且可能效果更
2017-10-09 15:32:01
239
原创 Java中文件流的关闭问题
问题引入之前写代码涉及到文件读写的时候,都没有关闭相关的文件流。对于小程序,并不会发生问题,但是当程序的读写数据大,频繁创建文件流的时候,就会出现一些问题,这里特整理了一些有关数据流关闭的事项。数据流关闭这里以如下所示的代码为例InputStreamReader in = new InputStreamReader(new FileInputStream(file));BufferedReader
2017-10-08 16:16:12
11480
翻译 Content Tree Word Embedding for document representation
一 简介该篇论文是对文本向量进行建模,不过采取的是比较简单的方法,就是将文本中所有词的向量求平均作为该文本的向量表示。不过词向量并不是简单的用word2vec或其他词向量模型生成,而是借助了content tree,在预训练好的词向量的基础上对词向量进行进一步的更新,在更新后的词向量的基础上求平均以表示文本。二 content tree的创建content tree就是以树形结构去表示一个文本。其假
2017-10-05 14:22:34
580
1
翻译 Linear Ensembles of Word Embedding Models
基本描述对于随机初始化词向量和其他相关参数的训练模型,总免不了随机性的存在,而这种随机噪声可能会对那些有用信息产生干扰,从而降低模型的效果。其次,对于一些小语种,可能并不能提供足够大的语料库以支持词向量模型的训练,故需要更加充分地利用仅有的数据。 将不同的模型整合成一个模型可能能够很好地解决上述两个问题。但是该文的方法和我预期的还是有点差距。我所期望的是将两个不同的模型整合成一个模型的方法,如将W
2017-09-16 12:29:14
250
翻译 Contradiction Detection with Contradiction-Specific Word Embedding
简介所谓矛盾contradiction detection就是识别句子对中的相反关系。如句子The man is denying an interview和The man is granting an interview就是两句意义相反的句子。contradiction detection就是要检测出这种关系。词对也是类似的,如词overfull和empty就是一对反义词。但是基于传统词向量训练方法
2017-09-15 14:42:08
522
原创 大数据下Hadoop及Hbase使用中遇到的若干问题及汇总
项目说明首先需要说明的是hadoop集群的情况。一共有5台服务器,其中一台作为namenode,另四台是datenode节点。项目具体什么内容不便透露,但是用hadoop集群跑了12个小时,跑完的结果文件有280G,共几亿条数据,也算和大数据沾点边吧。写这篇博客的目的也是为了记录下期间遇到的问题及解决办法,不至于以后再用的时候仍是一片茫然。hadoophadoop的基本概念这里不做介绍。首先说明的是
2017-05-24 13:11:03
661
翻译 通过偏旁信息改进中文字向量
基本思想在中文中,我们都知道汉字是由若干部分组成的,称为偏旁。而且偏旁也往往能够提供丰富的语义信息。比如,单人旁组成的字往往意指人,如“他”、“你”等;三点水为部首的字往往与水有关,如“海”、“江”等。因此,一个非常自然的想法就是将偏旁信息融入到词向量的生成过程中。Yanran Li等人发表的论文 《Component-Enhanced Chinese Character Embeddings》就是
2017-05-23 22:58:39
2994
原创 CWE和SCWE模型简介
CWE和SCWE模型介绍引入CWE和SCWE模型都是基于word2vec模型的,不过这两个模型是专门训练中文词向量的,且将汉字的语义信息也融入到模型的训练中。 在中文中,有些词如“青蛙”,构成该词的字也能够提供丰富的语义信息,像“青”就是用来形容“蛙”;而另有些词,如“沙发”,“沙”和“发”对“沙发”来说就没有任何语义,原因在于“沙发”是个音译词。类似的现象有很多。引入几个概念,定义语素为语言中的
2017-05-13 18:24:48
1674
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人