- 博客(5)
- 资源 (2)
- 收藏
- 关注
转载 BERT(doing)
BERT 并不是一种新提出的算法,而是集前人之所能,解决了当时NLP model上存在的部分问题:并行计算问题梯度消失/爆炸前/后方向耦合1和2 transform 解决,model不是时序序列结构,但是保留时序结构的优点...
2021-01-13 16:24:19
370
原创 人类语言处理002
语音识别语音信号–>文字传统(无神经网络)使用词典进行:cat–>K AE T、man–>M AE N 等一些列将文本转换为发音的映射词典,缺点是无法囊括所有的token使用文字最小书写单位与发音的映射:英文中 文字的最小单位是字母、在中文中文字的最小单位是单个的汉字,缺点是同音字的迷惑性,需要模型可以捕获分析上下文的语境信息,来判断音–>字使用文字中可以表达语义的最小单位:如英文中的词根表示,缺点是需要专家知识,常人不一定能总结出这些规律语音信号–>文字
2021-01-12 13:06:27
111
原创 人类语言处理001
世界上仅有56%的语言有文字,而有很多信息是不以文字存在的,而以语音、口语等口口相传。1秒钟的语音包含16K次的采样,每次采样有256种可能(也就是说一次采样得到的信息需要使用8bit 进行存储)训练出模型(deep model 硬train一发)语音–>文字 语音识别、语音助手文字–>语音语音–>语音文字–>文字语音–>类别文字–>类别...
2021-01-11 20:46:49
144
原创 TF-IDF算法的学习记录
可以用于文本相似度计算(基于关键词)词在一定程度上反映了文本的语义,例如“阿莫西林的应用”,这句话可以分词为 阿莫西林 的 应用。一人的思维来看的话,这句话中最具有代表性的词是“阿莫西林”,其次是“应用”,对于人类来说最后的“的”是可有可无的。那么在计算机中,应该怎么表现这个在人类看来显而易见的排序呢?第一种思路直接使用文本中的词频来表示文本,即[TF1,TF2……,TFn](所有语料的unique word数量为n, ∑TFi = 1),那么这样来计算两文本的相似度就可以使用两个词频向量进行计算。
2020-12-21 17:14:21
102
原创 nginx在安装replace--filter-nginx-module时,库文件路径找不到
安装nginx时,需要先安装其依赖项https://github.com/openresty/replace-filter-nginx-module#installation 中提供的安装方式是,在安装nginx之前,先安装replace–filter-nginx-module的依赖库sregex,但是安装sregex之后,对nginx进行./configure --add-module=/pa...
2020-02-17 11:06:19
563
《贝叶斯统计》第七章贝叶斯计算.pdf
2020-11-23
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人