自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 收藏
  • 关注

原创 书生浦语work7——OpenCompass大模型评测

大模型评测中的挑战主要评测对象为语言大模型与多模态大模型。

2024-04-25 21:46:42 660 1

原创 书生浦语work6——Lagent & AgentLego 智能体应用搭建

大语言模型的局限性:幻觉、时效性、可靠性Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。AgentLego 是一个提供了多种开源工具 API 的多模态工具包,旨在像是乐高积木一样,让用户可以快速简便地拓展自定义工具,从而组装出自己的智能体。

2024-04-24 22:08:21 1079 1

原创 书生浦语work4——xtuner

(Windows 即开始菜单键)打开指令界面,并输入命令,按下回车键。打开 PowerShell 后,先查询端口,再根据端口键入命令 .然后我们需要在 PowerShell 中输入以下内容(需要替换为自己的端口号)假如大家存储空间不足,我们也可以通过以下代码一键通过符号链接的方式链接到模型文件,这样既节省了空间,也便于管理。的文件,这样我们最可用于微调的数据集就准备好啦!在运行前,我们还需要做的就是将端口映射到本地。首先我们先创建一个文件夹来存放我们这次训练所需要的所有文件。中的内容替换为以下的代码。

2024-04-19 16:53:40 1368

原创 书生浦语work5——LMDeploy量化部署

计算量巨大;内存开销巨大;访存瓶颈;动态请求。

2024-04-18 22:40:47 306

原创 书生浦语work3——RAG

RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。RAG主要由索引(indexing)、检索(retrieval)、生成(generation)构成。向量数据库是快速检索的基础。

2024-04-15 23:52:04 340

原创 书生浦语work2

点击左侧文件栏中的demo文件夹,打开其中的。

2024-04-03 20:02:39 155

原创 书生浦语work1

目前,大模型整体仍有较大提升空间,复杂推理仍是短板,“理科”能力和模型尺寸关联性高,模型主客观性能需综合参考。Lagent支持多种类型的智能体能力、灵活支持多种大语言模型、简单易拓展,支持丰富的工具。LMDeploy提供大模型在GPU上部署的全流程解决方案,包括模型轻量化、推理和服务。预训练模块优势:高可扩展、极致性能优化、兼容主流、开箱即用。开放高质量语料数据:时间跨度长,来源丰富多样,安全密度高。微调运用两种方式:增量续训、有监督微调。AgentLego多模态智能体工具箱。

2024-03-31 21:18:45 120 1

Abalone鲍鱼年龄预测_12.4.ipynb

Abalone鲍鱼年龄预测_12.4.ipynb

2022-12-04

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除