03_bert_embedding-output

最新推荐文章于 2024-05-16 10:12:14 发布
最新推荐文章于 2024-05-16 10:12:14 发布
阅读量17 收藏
点赞数
文章标签： bert embedding 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zzk0126/article/details/134227307
版权

https://github.com/chunhuizhang/bilibili_vlogs/blob/master/fine_tune/bert/tutorials/03_bert_embedding-output.ipynb

只鸥周
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
chinese_L-12_H-768_A-12.zip
01-13
NLP-chinese_L-12_H-768_A-12
bert pytorch源码_BERT-Pytorch demo初探
weixin_39870413的博客
12-21 196
概述本文基于pytorch-pretrained-BERT(huggingface)版本的复现，探究如下几个问题：pytorch-pretrained-BERT的基本框架和使用如何利用BERT将句子转为词向量如何使用BERT训练模型(针对SQuAD数据集的问答模型，篇幅问题，可能下篇再写)因为已经有很多文章对BERT的结构和效果做了详尽的介绍，所以对于模型的效果和结构就不在这里赘述了。基本框架和...
Classify text with BERT ---- TF Hub
XianxinMao的博客
10-31 251
classify_text_with_bert This tutorial contains complete code to fine-tune BERT to perform sentiment analysis on a dataset of plain-text IMDB movie reviews. In addition to training a model, you will learn how to preprocess text into an appropriate format. I
Bert的pooler_output是什么？
zhaohongfei_358的博客
11-21 9971
在学习bert的时候，我们知道bert是输出每个token的embeding。但在使用hugging face的bert模型时，发现除了还多了一个输出。许多人可能以为是[CLS]token的embedding，但使用比较后，发现又不是，然后就很奇怪。
bert-embedding 安装及使用入门
Think
03-28 8458
安装 pip install bert-embedding #如果要使用GPU pip install mxnet-cu92 Note: 1. 安装过程中如果遇到WinError 5的权限问题，需要添加--user参数，即pip install --user mxnet-cu92 2. 若要支持cuda10.0需使用命令 pip install mxnet-cu100安装 3. 验证...
chinese_wwm_ext_L-12_H-768_A-12.zip
09-23
chinese_wwm_ext_L-12_H-768_A-12.zip
PyPI 官网下载 | pytorch_pretrained_bert-0.3.0.tar.gz
01-29
资源来自pypi官网。 资源全名：pytorch_pretrained_bert-0.3.0.tar.gz
chinese_L-12_H-768_A-12.rar
12-08
bert中文模型，bert中文模型， bert中文模型， bert中文模型， bert中文模型，bert中文模型
智能决策引擎架构设计
猫七姑娘的小博客
05-15 1062
智能决策引擎系统是在大数据支撑下，根据行业专家经验制定规则策略、以及机器学习/深度学习/AI领域建立的模型运算，对当前的业务进行全面的评估，并给出决策结果的一套系统。一套商业决策引擎系统动辄百万而且需要不断加钱定制，大多数企业最终仍会走上自研道路，市场上有些开源规则引擎项目可参考，比较出名的开源规则引擎有drools、urule，都是基于Rete算法，都是基于java代码实现，一些企业会进行二次开发落地生产。而这类引擎功能强大但也比较“笨重”，易用性以及定制性并不够好，对其他语言栈二次开发困难。
CLIP 浅析
Gowi的博客
05-11 1182
CLIP的英文全称是，即一种基于对比文本-图像对的预训练方法或者模型。
论文《Deep graph tensor learning for temporal link prediction》阅读
qq_43312665的博客
05-10 1336
本文提出了一种有效的动态图嵌入方法，称为 DGTL，用于时间链接预测。DGTL 与传统的动态图学习方法不同，它避免使用循环神经网络来识别时间相关信息。相反，我们建议使用时间序列因素来学习时间链接的历史变化模式，并生成反映图的动态变化的时间耦合链接级嵌入向量。此外，我们将随时间变化的图快照表示为张量，并通过图紧凑技术使用单个图神经网络模型来捕获图的结构特征，从而实现节点级空间特征嵌入。最后，我们融合上述两个嵌入向量，通过适当地结合时空图演化信息来预测动态图中的时间链接。
2024第二届全国人工智能应用场景创新挑战赛
audyxiao001的博客
05-14 404
本文从竞赛模式、参赛组别和条件、参赛注意事项以及赛程设置四个角度介绍了第二届全国人工智能应用场景创新挑战赛，并给出大赛官网，以便读者了解更多详细信息。
长江商学院隽永参访实在智能，沉浸体验实在Agent
最新发布
SHIZAIZHINENG的博客
05-16 223
长江隽永是中国首个全方位关注并赋能“她价值”的女性成长平台，此次参访实在智能，旨在深入学习并交流最前沿的Agent技术，引导企业进行科学决策和组织变革，从而帮助企业从个体成长跃升为具有全球视野的数字化领导者。随着数字化技术的不断发展，人工智能、虚拟现实等新技术的的应用已经深入社会的方方面面，并在不断地释放着创新的活力，AI+RPA技术的涌现，外加人力成本的大幅度增加，使得企业对智能数字员工的服务需求越来越大。实在智能创始人、CEO孙林君和实在伙伴一同接待。
AI解码癌症：如何用多模态数据重塑患者未来
qq_45404805的博客
05-11 931
本次推文分享的文献是发表在上的《该文献讨论了在癌症研究中的重要性，以推动基因组学和标准分子技术之外的精准肿瘤学。它强调了聚合和分析来自各种诊断模式的互补数字资产以发现多模式预后特征的潜力。文献要点归纳如下。
【话题】Agent AI智能体的未来
小5聊的博客
05-11 995
随着Agent AI智能体的智能化水平不断提高，它们在未来社会中的角色、发展路径以及可能带来的挑战也引起了广泛关注。
AIGC是什么?
米的
05-15 1086
AIGC，全称为Artificial Intelligence Generated Content，即人工智能生成内容，是当前AI技术发展的一个重要方向。这项技术利用机器学习、深度学习、自然语言处理以及其他高级算法，使计算机系统能够自动或辅助生成包括文字、图像、音频、视频、3D模型等多种形式的创意内容。AIGC不仅代表了从人工智能1.0向2.0时代的转变，还标志着AI在认知智能层面的巨大进步，为内容创造开启了全新的可能性。
【会议征稿】第六届人工智能技术与应用国际学术会议 (ICAITA 2024)
Jurio的博客
05-13 1143
第六届人工智能技术与应用国际学术会议, 2024 6th International Conference on Artificial Intelligence Technologies and Applications (ICAITA 2024) 会议时间：2024年6月14日-16日 会议地点：中国-长春
python3.6.8安装Transformers
筱阳的博客
05-13 651
4.transformers安装。
from transformers import pipeline, BertTokenizer, BertModel import numpy as np import torch import jieba tokenizer = BertTokenizer.from_pretrained('bert-base-chinese') model = BertModel.from_pretrained('bert-base-chinese') ner_pipeline = pipeline('ner', model='bert-base-chinese') with open('output/weibo1.txt', 'r', encoding='utf-8') as f: data = f.readlines() def cosine_similarity(v1, v2): return np.dot(v1, v2) / (np.linalg.norm(v1) * np.linalg.norm(v2)) def get_word_embedding(word): input_ids = tokenizer.encode(word, add_special_tokens=True) inputs = torch.tensor([input_ids]) outputs = model(inputs)[0][0][1:-1] word_embedding = np.mean(outputs.detach().numpy(), axis=0) return word_embedding def get_privacy_word(seed_word, data): privacy_word_list = [] seed_words = jieba.lcut(seed_word) jieba.load_userdict('data/userdict.txt') for line in data: words = jieba.lcut(line.strip()) ner_results = ner_pipeline(''.join(words)) for seed_word in seed_words: seed_word_embedding = get_word_embedding(seed_word) for ner_result in ner_results: if ner_result['word'] == seed_word and ner_result['entity'] == 'O': continue if ner_result['entity'] != seed_word: continue word = ner_result['word'] if len(word) < 3: continue word_embedding = get_word_embedding(word) similarity = cosine_similarity(seed_word_embedding, word_embedding) print(similarity, word) if similarity >= 0.6: privacy_word_list.append(word) privacy_word_set = set(privacy_word_list) return privacy_word_set 上述代码运行之后，结果为空集合，哪里出问题了，帮我修改一下
05-30
similarity = cosine_similarity(seed_word_embedding, word_embedding) print(similarity, word) if similarity >= 0.6: privacy_word_list.append(word) privacy_word_set = set(privacy_word_list) return ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值