1o0.0o1-CSDN博客

原创 Datawhale AI夏令营- 讯飞机器翻译挑战赛: 基于transformer框架实现

本文章基于使用了transformer模型去实现了一个英译中的模型,并参加了讯飞科大的NLP翻译比赛。

2024-07-16 21:14:01 1147

原创 Datawhale AI夏令营- 讯飞机器翻译挑战赛baseline解析

本文介绍了训练机器翻译挑战赛的赛题,以及基于datawhale的baseline写了一篇解析。通过seq2seq完成了一个机器翻译模型的搭建

2024-07-13 14:59:41 2502 4

原创 Tianchi-AntaiCup 冠军数据处理思路分析

具体详细介绍可看这里对于电商类别的比赛我们可以从一下的几个维度来思考。分别是:人,物,时间。人就是用户的行为。物就是商品和店铺的行为。时间就是和人物进行交互,从而分析出很多潜在的信息。经过相关资料查询,这三个维度可以从以下几个角度展开,看看数据集适合计算哪些指标从人的角度来看用户分布情况用户行为:如uv,pv等用户画像：包括用户的年龄、性别、职业、收入水平、兴趣爱好等，这些数据可以帮助更好地理解用户需求和偏好。

2024-05-29 20:14:37 991

原创从零手搭一个大模型part4-手搭一个Eval评估器

首先，根据目标数据集的任务类型指定合理的评测metric.根据目标数据的形式总结模型引导prompt.根据模型初步预测结果采纳合理的抽取方式.对相应的pred与anwser进行得分计算.下面将介绍一下评估的指标"""定义大模型模块,这里之构建一个ChatGPT接口1. 先定义一个基类2. 继承,完善接口一个基类要有的方法:1. init2. Chat()

2024-05-27 21:01:01 666

原创手搭一个大模型part3-构建一个Agent

在人工智能领域，Agent（智能体）是指一种能够感知环境并采取行动以实现特定目标的系统或实体。本文介绍的Agent是基于ReAct框架的智能体，它结合了推理和行动能力，以高效解决复杂的语言理解和决策任务。一个标准的Agent,往往会有如下能力: 记忆(存储历史信息功能), 工具(能够调用的工具信息), 行动(即识别到该调用哪些工具后能够自主调用这些工具), 规划(收到用户指示后该怎么去处理这个问题)。

2024-05-24 19:30:34 689 1

原创手搭一个大模型-part2-构建一个RAG

LLM 的底层设计机制决定了其生成的回答本质上是基于概率而非既定事实。由于 LLM 缺乏自行校准生成内容的能力，这项工作通常由人类来完成，导致只要生成的内容符合其语言逻辑，即使与事实大相径庭，LLM 也会毫不犹豫地输出。在人们看来，这就像是一本正经地胡说八道。幻觉问题难以从根源上解决，因为这种概率性也是 LLM 能展现出创新性的关键所在，但我们可以通过一些方法提高模型回答的准确性。其中RAG就是解决这个’幻觉’问题的方法之一。RAG全称为Retrieval-Augmented Generation。

2024-05-20 20:31:23 990 1

原创手搭一个大模型-part1-Qwen模型的介绍

介绍完Transformer和GPT模型后,接下来就是正题,手搭一个千问大模型。首先我们先看看千问大模型的结构图我们现在看主干部分,是不是很熟悉。和我们GPT模型的结构是不是很相似?现在基本上大模型都是基于GPT的结构来实现的,唯一不同的是可能对GPT每一个模块都有了一定程度的魔改,从而达到GPT模型所做不到的程度。接着我们开始介绍每一部分的实现在词向量经过了多个Decoder层堆叠后,来到了最后(用HSHSHS。

2024-05-16 19:27:07 1694

原创强化学习打卡笔记

强化学习其实是通过模拟一个智能体对一个物体或者环境做出决策,得到反馈,再做出决策的过程,有点类似于试错学习。我们生活中常见的强化学习的例子有:Alpha Go下围棋, 王者荣耀中的觉悟人机, 网上一下下象棋的AI等,他们都是通过不断的试错,从而让AI得到一个比较理想的决策模型,通过这个决策模型来实现上面所说的例子。

2023-11-14 20:25:35 58