大模型学习
文章平均质量分 51
VX_18
好好学习,天天向上,爱自己的家
展开
-
书生大模型实战营第三期_L2-LMDeploy 量化部署进阶实践(81班1101作业)
2. 显存的相应区域是非常大的3.访存瓶颈。原创 2024-08-09 15:10:09 · 303 阅读 · 0 评论 -
书生大模型实战营第三期_L2-Lagent 自定义你的 Agent 智能体(81班1101作业)
首先通过命令创建工具文件,这里我以天气API为例然后在该文件中写下如下代码import os@tool_api"""一个天气查询API。可以根据城市名查询天气信息。Args:"""else:Args:Returns:"""data = [f'数据观测时间: {now["obsTime"]}',f'温度: {now["temp"]}°C',f'体感温度: {now["feelsLike"]}°C',f'天气: {now["text"]}',原创 2024-08-09 15:03:07 · 819 阅读 · 0 评论 -
书生大模型实战营第三期_OpenCompass 评测 InternLM-1.8B 实践(81班1101作业)
开源可复现:提供公平、公开、可复现的大模型评测方案全面的能力维度:五大维度设计,提供 70+ 个数据集约 40 万题的的模型评测方案,全面评估模型能力丰富的模型支持:已支持 20+ HuggingFace 及 API 模型分布式高效评测:一行命令实现任务分割和分布式评测,数小时即可完成千亿模型全量评测多样化评测范式:支持零样本、小样本及思维链评测,结合标准型或对话型提示词模板,轻松激发各种模型最大性能灵活化拓展:想增加新模型或数据集?原创 2024-08-03 10:50:54 · 913 阅读 · 0 评论 -
书生大模型实战营第三期_Xtuner微调(81班1101作业)
随后用xtuner convert 命令进行格式转换(pth->hf),获得学习到的adapter 参数。2、大部分的任务可以共用虚拟环境,这样能够减少配置环境的时间。用xtuner convert merge 命令合并预训练模型以及adapter模型,获得最终模型。1、环境配置是最容易踩的坑,务必选择cuda12.2的镜像,否则会出现奇怪的错误。用 xtuner train 命令,微调个人小助手,训练速度较快,约10分钟完成。测试时发现模型会生成无意义的语句,甚至难以停机。这里模型出现严重的过拟合现象。原创 2024-08-03 10:24:31 · 174 阅读 · 0 评论 -
书生大模型实战营第三期_LlamaIndex RAG 实践(81班1101作业)
【代码】书生大模型实战营第三期_LlamaIndex RAG 实践(81班1101作业)原创 2024-07-25 16:06:36 · 206 阅读 · 0 评论 -
书生大模型实战营第三期_LangGPT结构化提示词编写实践(81班1101作业)
【代码】书生大模型实战营第三期_LangGPT结构化提示词编写实践(81班1101作业)原创 2024-07-25 16:01:23 · 184 阅读 · 0 评论 -
书生大模型实战营第三期_8G 显存玩转书生大模型 Demo(81班1101作业)
【代码】书生大模型实战营第三期_8G 显存玩转书生大模型 Demo(81班1101作业)原创 2024-07-25 15:53:25 · 737 阅读 · 0 评论 -
书生大模型实战营第三期_作业四(书生大模型全链路开源体系)(81班1101作业)
这一部分通过视频课程学习了书生·浦语大模型全链路开源体系的概况。原创 2024-07-25 15:38:21 · 160 阅读 · 0 评论 -
书生大模型实战闯关-Linux(81班1101作业)
3.运行hello world并打开网页。1.通过SSH登录开发机。原创 2024-07-11 17:28:19 · 125 阅读 · 0 评论 -
书生大模型实战闯关-L0 Python(81班1101作业)
首先是学习基础知识:包括linux命令,conda命令,git使用方法,ssh功能等。作业2是用vscode ssh连接开发机并debug,参加书生大模型实战营,学习大模型的知识。L0的作业是用ssh进行端口映射。原创 2024-07-13 10:11:03 · 178 阅读 · 0 评论