自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(8)
  • 收藏
  • 关注

原创 RAGAS

(对生成的答案有害性和正确性进行评估)其目的是根据预定义的方面(例如和)评估提交。此外,用户可以灵活地定义自己的方面,以便根据自己的具体标准评估提交内容。方面批评的输出是二进制的,指示提交是否与定义的方面一致。该评估是使用“答案”作为输入来执行的。LLM 评估员内部的批评根据所提供的方面评估提交的内容。Ragas Critiques 提供了一系列预定义的方面,例如正确性、有害性等(请参阅以获取完整列表)。如果您愿意,您还可以创建自定义方面来根据您的独特要求评估提交内容。strictness。

2024-01-12 10:12:29 684 1

原创 交叉熵损失

loss = F.cross_entropy(logits, targets) 中首先将logits经过softmax转化为词表中对应词的预测概率probs,将targets展平之后化为one-hot向量与生成的概率求-sum(targets* log(probs)),其等价于直接对logits取log_softmax,然后取其中label作为index的值在log_softmax中取值,最后将这些取值求和取平均得到最后的loss值。

2024-01-12 10:10:57 323 2

原创 LongNet: Scaling Transformers to 1,000,000,000 Tokens

通过修改attention机制拓展token长度

2023-07-12 16:50:40 361 1

原创 如何正确安装neuralcoref

安装neuralcoref用于共指解析(Coreference Resolution)任务。

2023-04-02 18:30:49 437

原创 DeBERTaV3

1.注意力解耦的增强解码 2.改进了BERT和RoBERTa

2023-02-23 21:49:05 386

原创 GPT Understands, Too

使用可训练的连续提示嵌入来调整GPTs和BERTs的性能

2023-02-23 17:37:46 78

原创 LoRA: Low-Rank Adaptation of Large Language Models低秩自适应

通过矩阵分解降低LLM中的模型参数

2023-02-23 16:45:42 4662

原创 AttributeError: ‘Transformer‘ object has no attribute ‘embedding‘

'xxxx' object has no attribute 'xxxx' 错误

2023-02-06 20:56:29 752

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除