自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(16)
  • 收藏
  • 关注

原创 堆栈与单调栈

处理临时数据就像去饭店点菜,在菜品上完之前,订单是有用的,但吃完后我们就无需保留订单。临时数据就是一些处理完后不再有用的数据,没有保留的必要。上菜时还要先给早下单的客人上菜,我们要注意按什么顺序去处理。栈和队列正好能把数据按顺序处理,并在处理完后将其抛弃。栈和队列都是用来处理临时数据的工具,是多加了一些约束的条件的数组。存储数据的方式跟数组一样,都是将元素排成一行,只不过还有3条约束。只能在末尾插入数据。只能读取末尾的数据。只能移除末尾的数据。

2024-05-22 00:04:24 23

原创 llama3本地云部署

出现gpu不足的情况:1不运行,改为2。3.Web Demo 部署。

2024-05-18 16:48:03 86

原创 leetcode 之 数据结构与算法

节点ListNode:定义节点,值,指针。

2024-05-14 15:42:37 781 2

原创 作业(第7节课)

创建环境失败,手动解压。

2024-05-07 14:06:32 122

原创 第6Lagent & AgentLego 智能体应用搭建

创建文件夹配置conda环境安装 Lagent 和 AgentLego下载 demo 文件:

2024-05-07 13:34:11 161

原创 第4课XTuner 完成个人小助手的微调!

下载网页端 web demo 所需要的依赖。替换webdemo.py文件。无法打开网页,待解决。

2024-05-07 12:02:38 201

原创 第六课Lagent & AgentLego 智能体应用搭建

应当满足3个条件:感知环境。采取动作改变环境。运用推理能力理解信息、解决问题、产生推断、决定动作。

2024-04-23 16:26:00 368

原创 第三章 搭建知识库

Weaviate:开源向量数据库,支持相似度搜索和最大遍及相关性搜索,还可以支持结合多种搜索算法的混合搜索,从而搜索提高结果的相关性和准确性。Chroma:轻量级向量数据,拥有丰富的功能和简单的API,具有简单易用、轻量的优点,但功能简单,不支持GPU加速,适合初学者使用。当处理大量甚至海量的向量数据的时候,向量数据库索引和查询算法的效率会比传统数据库高。向量数据库通过计算与目标向量的余弦距离、点积等获取与目标向量的相似度。向量数据库使用高效的索引和查询算法来加速向量数据的存储和检索过程。

2024-04-22 23:39:55 217

原创 第二章 使用 LLM API 开发应用

我们每一次访问大模型的输入为一个 Prompt,而大模型给我们的返回结果则被称为 Completion。

2024-04-21 00:14:11 140 1

原创 第七课OPenCompass 大模型评测

垂直领域:法律、医疗体系完善,仍有需要改进的地方:测试集混入训练数据,造成污染,结果不准确。

2024-04-19 13:23:58 283

原创 第四课:【XTuner 微调个人小助手认知】笔记

q1:为什么要微调?A:目前现有模型都是基座模型,是为了一般性任务进行预训练,运用于实际特定领域效果不佳,需要进行领域内微调q2:两种Finetune范式:A2:增量预训练微调:基座模型学习新知识(文章、书籍、代码)指令跟随微调:模型学会对话模板,根据人类质量进行对话(高质量对话,问答数据)高质量标注原始数据——>改为标准格式数据——>添加对话模板——>Tokenized数据——>添加Label——>开始训练标准数据格式添加对话模板,不同厂家有不同的模板。

2024-04-19 12:47:39 775

原创 task01 llm-universe LLM 介绍

llm——Large Language Model(大语言模型),源于语言模型。语言模型:(1)用于预测一个句子中的序列出现的概率。其计算方法从最开始的基于语料库中各个序列出现的频率进行预测,由于无法预测语料库中之前没有出现的序列。进行改进后,计算方法为:(2)计算一个序列中前n-1个序列出现的条件下,n个序列出现的概率,由于随着序列n的增加,计算量过大,模型难以继续学习。

2024-04-16 23:57:10 922 1

原创 第五课:【LMDeploy 量化部署 LLM&VLM实战】笔记

LMDeploy是什么?软件:涵盖LLM全套轻量化、部署、和服务解决方案。(降低缓存占用)KV缓存管理器:将不用的缓存暂时放置在内存中,等需要使用的时候放入显存。量化(不用的时候量化)——反量化(使用的时候量化)新版本LMDeploy:不仅支持语言模型,也支持视觉模型。

2024-04-16 18:44:11 277

原创 第三课:茴香豆:零代码搭建你的 RAG 智能助理作业

讲师:北辰老师文档地址:https://github.com/InternLM/Tutorial/blob/camp2/huixiangdou/readme.mdB站视频课程地址:https://www.bilibili.com/video/BV1QA4m1F7t4/?internstudio地址:https://sso.openxlab.org.cn/login?

2024-04-16 16:02:47 1019 1

原创 第二课:玩转书生·浦语大模型全趣味demo

四、如何完成第三个实战任务,即使用基于书生葡语二大语言模型的图文多模态大模型进行图文写作和图像理解。一、书生葡语社区大模型角色扮演特别幸运小组的组长任玉鹏,将带领大家完成书生葡语趣味demo的相关内容,包括基础练习、进阶部分和实战部署等。- 完成第二个实战任务,关闭STREAMLET,准备后续任务。- 打开图片理解实战,复制代码,等待本地端口映射完成。- 运行程序,配置本地端口环境,耐心等待模型加载完成。- 需要升级开发机配置,安装环境包,下载相关代码资源。- 完成图片生成任务,关闭软件,重新开启终端。

2024-04-15 22:53:08 318

原创 Interlm笔记——第一课:书生·浦语大模型全链路开源体系

视频首先讨论了通用人工智能的发展趋势,从专用模型向通用大模型的转变。然后介绍了书生模型在过去几个月的升级,包括支持多模态、8K语境和不同尺寸的模型,以及在语言建模能力、对话交互和智能体框架方面的提升。最后,视频介绍了书生·浦语大模型的不同尺寸和类型,以适应不同的使用需求。- 总结了书生葡语的全链路开源开放体系,包括数据、预训练、微调、部署、评测和应用等环节。- 介绍了智能体的框架,包括轻量级智能体框架和多模态智能体工具箱。- 书生·浦语模型的升级:支持8K语境、多模态和不同尺寸的模型。

2024-04-15 22:34:49 299

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除