word2vec 以及keras的lstm

最新推荐文章于 2024-05-27 20:44:31 发布
最新推荐文章于 2024-05-27 20:44:31 发布
阅读量3.8k 收藏 5
点赞数 1
分类专栏： 努力成为数据分析大牛
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yibo492387/article/details/80377665
版权

最近学习了word2vec 以及keras的lstm，理解并修改了大神的代码，深入学习了下，同时开通了github，以后代码的搬运还是在专业工具上吧，csdn博客代码的书写太不方便了，

github地址：https://github.com/shengmingruxue/ToaduptoSwan/blob/master/README.md

算法的学习像无底洞一样，感觉自己每天都惴惴不安，同时还得考虑要学习spark等能处理大数据量的工具，感觉心累来着，不过好像冥冥中注定一样自己一直在这条路上逃不开，既然逃不开就拼命的学习吧，也不辜负自己有一个可以思考的大脑，愿一切都好！

最近发现一位不认识的同事的签名很有意思，道出了自己的心声


希望自己也有一天成为大神，虽然现在看起来比较像个梦，希望自己成为像吴恩达那样谦和又牛掰的大神！吴恩达的声音很好听！！但是我感觉他好像越来越功利化了！不知道，anyway，希望一切都好！！！

yibo17071
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
【自然语言处理】情感分析（三）：基于 Word2Vec 的 LSTM 实现
书山有路，学海无涯。记录成长，追逐梦想
01-27 2668
当我们训练深度学习神经网络的时候通常希望能获得最好的泛化性能（generalization performance，即可以很好地拟合数据）。但是所有的标准深度学习神经网络结构如全连接多层感知机都很容易过拟合：当网络在训练集上表现越来越好，错误率越来越低的时候，实际上在某一刻，它在测试集的表现已经开始变差。
毕业设计 word2vec 加lstm 文本分类
03-26 3963
# -*- coding: utf-8 -*- import pandas as pd import gensim import jieba import re import numpy as np from sklearn.model_selection import train_test_split from gensim.models import KeyedVectors from gensim.scripts.glove2word2vec import glove2word2vec im...
keras实现word2vec和doc2vec
weixin_42587866的博客
01-03 121
在 Keras 中实现 word2vec 可以使用 Embedding 层。Embedding 层可以将离散的符号映射为连续的向量，其中每个符号对应一个向量。在 word2vec 中，这个符号就是单词，而向量就是单词的词向量。你可以训练一个从输入单词到输出词向量的模型，或者加载预训练的词向量权重。 实现 doc2vec 也可以使用 Embedding 层，但这次符号是文档，向量是文档向量。你可以训...
LSTM短文本情绪二分类项目----词向量模型 Word2vec
最新发布
2301_76989860的博客
05-27 249
LSTM情绪二分类的Word2vec的词向量模型建立
采用Bi-LSTM结合Word2vec进行中文文本多标签分类
qq_56154355的博客
07-12 1038
关于word2vec的详细介绍可以参考此篇文章实现方式采用了gensim工具，并根据结果进行文本向量化。 本篇文章采用的数据集和上篇文章采用的一样 和上篇文章不同的是加入了注意力机制层和进行词嵌入的时候对权重进行了赋值，关于keras中Embedding层的介绍可以参考这篇文章并引入了Bi-LSTM 构建的模型： 运行结果： 结果可视化：...
LSTM做文本生成（基于word2vec)
weixin_41370083的博客
09-26 7165
数据：使用丘吉尔的人物传记作为我的学习语料 框架：Keras import os import numpy as np import nltk from keras.models import Sequential from keras.layers import Dense from keras.layers import Dropout from keras.layers import ...
文本分类-Word2vec+LSTM
机器学习、深度学习、文本分类、异常检测、风控等知识的积累和分享
09-26 1064
LSTM是专门用于处理序列数据（文本序列、时间序列）等的RNN模型之一，本文分别按照embedding+LSTM、word2vec预训练模型+双向LSTM两种方式进行文本分类的代码实战，附带LSTM层参数详解，尽可能给读者带来多的收获
轻松搞懂Word2vec / FastText+BiLSTM、TextCNN、CNN+BiLSTM、BiLSTM+Attention实现中英文情感分类
热门推荐
w0714的博客
06-17 6万+
前言 讲道理，这篇博客应该可以帮助很多只有一点点NLP的朋友，在较短的时间内了解文本分类的整个过程并用代码复现整个流程。事先说明，这里大家先不要过分要求自己去理解整个模型的原理，先搞清楚整个实现流程，体验一下敲代码并成功应用的快感。 实现流程 找数据集 首先第一步，就是要找好数据集，没有数据集模型怎么学习，怎么涨知识。 那这里呢，我们采用的情感数据集是weibo_senti_100k数据集，一共有119988条带情感标注的新浪微博评论，其中正负向评论均为 59994条，非常平衡的一个数据集。 其中lab.
项目 | Word2Vec + LSTM 电商评论情感标签预测
wangfancy1的博客
08-03 3448
Word2Vec + LSTM 电商评论情感标签预测整体思路模型Word EmbeddingFocal LossMetric混淆矩阵Accuracy, Precision, Recall, F1实验原始数据Word2Vec嵌入预训练语料嵌入不考虑数据平衡问题代码预处理搭建模型可能的改进 本科三年级课程大作业，做一个记录，欢迎吐槽。 整体思路 本实验中，目标解决的问题是：根据文本，预测句子总体情感特征。 首先调用jieba包对句子进行分词，然后去除一些停用词、特殊文本（如纯数字、过短或过长词语），再去除出现频
linux命令（shell脚本）直接连接redis
yibo492387的专栏
12-06 1万+
最近遇到一个过滤问题，需要取redis中的数据，平常都是用python脚本来读取，然后存到文件中，shell脚本再调用，后面想想都是语言，linux命令肯定可以直接连接redis，所以搜罗了下，在此记录下 先进入命令行 redis-cli -h XXXX -p 6379 -a XXXX get key 第二种方式可以直接放入shell脚本 redis-cli -h XXXX -p 6379 -a...
极大似然估计的一些学习整理
yibo492387的专栏
08-20 1万+
尊重原创，尊重每个人的成果，所以把参考的博文放在首位： 这篇博文讲的很肤浅但是很通透 ：https://blog.csdn.net/u011058765/article/details/51435502 这篇博文讲的很到位，很深刻，本文的大部分也是摘自此博文：https://blog.csdn.net/zengxiantao1994/article/details/72787849 极大似然...
python中scipy包中的linkage进行层次聚类
yibo492387的专栏
03-01 1万+
from scipy.cluster.hierarchy import dendrogram, linkage,fcluster from matplotlib import pyplot as plt X = [[i] for i in [2, 8, 0, 4, 1, 9, 9, 0]] #method是指计算类间距离的方法,比较常用的有3种: #single:最近邻,把类与类间距离最近的作...
用户长短期兴趣模型-多因素模型探索
yibo492387的专栏
06-20 4274
      最近在做资讯推荐，发觉是个很有意思的课题，尽管在人事上有些不愉快，但是总体来讲，这个课题是我喜欢的，也是我第一次实践。我希望能在这次的实践中从真实的点击效果数据中寻求对算法对推荐更深层次的理解。       尽管算法这块并没有太多创新的东西，但是还是将所做的事情记录下。      第一步：聚焦用户的短期兴趣（用户短期兴趣模型）        短期兴趣模型大体的思路是滑动时间窗，但是我发...
AUC详解
yibo492387的专栏
05-10 2319
本着尊重原作者（或者转载者）的目的，先把引用链接发上来 https://blog.csdn.net/Stephen_shijun/article/details/83059863这篇文章前面讲的很好，重点提到了样本不均衡的情况，但是后面介绍AUC的时候不够详细 https://blog.csdn.net/lieyingkub99/article/details/81266664这篇则是讲解...
pycharm使用anaconda环境的遇到问题的一些记录
yibo492387的专栏
09-06 1453
最近换了工作，领完新电脑就需要装环境啦！ 1. anaconda和miniconda任选一种，装起来，我比较喜欢anaconda,但是这个占空间好像蛮大的。 2. anaconda装完(勾选Add path to your environment一定要将conda环境添加到系统变量中，否则在pycharm中使用时会报错)之后整两个环境，我一般都是python2.7和python3.7各来一个，...
词向量与Embeding解析
yibo492387的专栏
05-21 1408
      最近在关注词向量，一直以为它是将语料训练之后的输出结果，看了苏大神的文章（https://kexue.fm/archives/4122）才知道它只是个参数而已！而Embedding层就是以one hot为输入、中间层节点为词向量维数的全连接层！而这个全连接层的参数，就是一个“词向量表”！onehot还是很强大的：one hot型的矩阵相乘，就像是相当于查表，于是它直接用查表作为操作，而...
数据分析一些自己觉得很不错的思路
yibo492387的专栏
08-20 208
愿自己不断的学习，不断的成长 一直觉得自己在数据分析思路和角度方面还是有存量的，能忽悠一部分人，但是今天听了公司王博（王亚明）的思路，还是觉得很佩服。 什么问题呢？ 经典的市场和研发的矛盾，市场觉得研发的机型不够不能满足市场需求，研发觉得市场部为了卖出商品乱承诺，导致客户不满意，流失客户。 王博的解题思路 将商机进行聚类，层次聚类，这样每个层级不同类个数，相当于要研发的产品类型，然后去评估不同种类的投入产出比，来决定研发商品的类型。 这个聚类过于简单了，细节方面没有考虑商机中各个因素的权限
背包问题简单实现
yibo492387的专栏
07-11 178
跟同事聊，他面试的时候被问到背包问题，问我知道这个问题嘛，我说知道，但是说来惭愧，之前看过动态规划的东西，后面又全忘记了，所以又去学习了下背包问题的解题思路。 看了几篇博文，发现有一篇写的不错，所以先列上 https://www.jianshu.com/p/a66d5ce49df5 参照这篇博文，将其java代码改成python代码，记录下 import numpy as ...
word2vec-bilstm-crf
12-15
Word2vec-BiLSTM-CRF是一种用于命名实体识别（NER）的神经网络模型。它结合了三个不同的层：Word2vec嵌入层、双向长短时记忆网络（BiLSTM）层和条件随机场（CRF）层。Word2vec嵌入层将每个单词转换为向量表示，BiLSTM层将这些向量作为输入并学习上下文信息，最后CRF层将BiLSTM层的输出作为输入并进行标记预测。 以下是Word2vec-BiLSTM-CRF模型的基本步骤： 1. 将每个单词转换为向量表示，这可以使用预训练的Word2vec模型来完成。 2. 将这些向量作为输入传递给BiLSTM层，该层将学习上下文信息并生成相应的输出。 3. 将BiLSTM层的输出作为输入传递给CRF层，该层将对每个标记进行预测，并使用Viterbi算法来找到最佳标记序列。 以下是一个使用Python和Keras实现Word2vec-BiLSTM-CRF模型的示例： ```python from keras.models import Model, Input from keras.layers import LSTM, Embedding, Dense, TimeDistributed, Dropout, Bidirectional from keras_contrib.layers import CRF import numpy as np # 定义模型输入 input = Input(shape=(MAX_LEN,)) # 添加Word2vec嵌入层 model = Embedding(input_dim=len(word2idx), output_dim=EMBEDDING_DIM, input_length=MAX_LEN, weights=[embedding_matrix], trainable=False)(input) # 添加双向LSTM层 model = Bidirectional(LSTM(units=HIDDEN_UNITS, return_sequences=True, recurrent_dropout=0.1))(model) # 添加Dropout层 model = Dropout(0.1)(model) # 添加全连接层 model = TimeDistributed(Dense(units=NUM_TAGS, activation="relu"))(model) # 添加CRF层 crf = CRF(NUM_TAGS) out = crf(model) # 定义模型 model = Model(input, out) # 编译模型 model.compile(optimizer="rmsprop", loss=crf.loss_function, metrics=[crf.accuracy]) # 训练模型 model.fit(X_train, np.array(y_train), batch_size=BATCH_SIZE, epochs=EPOCHS, validation_split=0.1, verbose=1) # 预测标记 y_pred = model.predict(X_test) ```
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值