- 博客(8)
- 收藏
- 关注
RSS订阅原创 pytorch学习小记录
在NLP任务中，当我们搭建网络时，第一层往往是嵌入层，对于嵌入层有两种方式初始化embedding向量，一种是直接随机初始化，另一种是使用预训练好的词向量初始化，接下来分别介绍这种的使用方式，以及torch中对应的源码。padding_idx (int, optional) - 如果提供的话，则 padding_idx位置处的嵌入不会影响梯度，也就是训练时不会更新该索引位置的嵌入向量，默认为零向量，也可以更新为另一个值以用作填充向量。用于将模型配置为适合训练的状态，以执行训练过程中需要的操作。
2023-10-22 23:42:42
69
1
原创 使用预训练语言模型进行微调 个人记录
然后构建BERTModel, 在BertModel后面加上一个全连接层，调整输出feature的维度。tokens_tensor，segments_tensors，input_masks_tensors 将作为BertModel的输入。他会自动补全结果中的input_ids以及attention_mask右边缺失的值。, GPT, GPT-2, Transfo-XL, XLNet, XLM 等多个预训练模型。truncation=True：将每个文本序列截断到模型可以接受的最大长度。
2023-10-21 00:36:49
123
1
原创 Hugging Face 无法连接问题 OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file 解决方案
Hugging Face 无法连接问题 OSError: We couldn't connect to 'https://huggingface.co' to load this file 解决方案 亲测有效
2023-09-23 23:30:43
32018
38
原创 Prompt Learning for News Recommendation 论文阅读 SIGIR2023
SIGIR 最新论文 《Prompt Learning for News Recommendation》阅读报告
2023-09-19 01:05:35
194
原创 《KGAT: Knowledge Graph Attention Network for Recommendation》阅读报告
KGAT: Knowledge Graph Attention Network for Recommendation 阅读
2023-09-19 01:02:29
295
原创 使用Python绘制混淆矩阵Confusion Matrix、自定义样式
使用Python绘制混淆矩阵，原创，直接使用即可，样式可以自由变换。混淆矩阵也称误差矩阵，是表示精度评价的一种标准格式，用n行n列的矩阵形式来表示。具体评价指标有总体精度、制图精度、用户精度等，这些精度指标从不同的侧面反映了图像分类的精度。直接上原创代码# -*- coding: utf-8 -*-""" @Time : 2021/11/18 0:33@Author : ONER@FileName: plt_cm.py@SoftWare: PyCharm"""#conf
2022-02-26 00:10:24
14058
12
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人