- 博客(13)
- 收藏
- 关注
原创 InternVL 微调实践闯关任务
follow 教学文档和视频使用QLoRA进行微调模型,复现微调效果,并能成功讲出梗图.InternVL 微调合并权重&&模型转换
2024-08-26 15:59:28 154
原创 LMDeploy 量化部署实践闯关任务
2.2.5使用Function call功能。2.2.4封装本地API并进行对话。使用量化的模型不可以正常计算。使用未量化的模型可以正常计算。
2024-08-23 12:45:59 638
原创 Lagent 自定义你的 Agent 智能体
新增magicmaker,由于浏览器版本不能直接显示图片再试一下“帮我搜索一下 MindSearch 论文”
2024-08-21 16:45:37 145
原创 Llamaindex RAG实践
1.通过 llamaindex 运行 InternLM2 1.8B,询问“你是谁”,将运行结果截图。2.通过 llamaindex 实现知识库检索,询问两个问题将运行结果截图。问题2:xtuner支持那些模型?问题1:xtuner是什么?
2024-08-18 14:17:41 223
原创 书生大模型全链路开源开放体系学习
书生大模型全链路开源开放体系拥有一个庞大的社区,用户可以通过社区分享自己的经验和知识,并且能够获得来自其他用户的帮助和支持。总之,书生大模型全链路开源开放体系是一个具有强大功能和优势的系统,它为人工智能领域提供了高质量、高效率的解决方案,并且能够吸引更多的开发者加入进来,共同推动人工智能技术的发展。:书生大模型全链路开源开放体系是一个开放的系统,所有用户都可以自由地使用、修改和分享代码。:书生大模型全链路开源开放体系具有高度的可扩展性,可以根据实际需求进行模块的添加、删除和修改,以满足不同的业务需求。
2024-08-16 15:35:44 158
原创 LangGPT结构化提示词编写实践
2.定义一个提示词专家,然后让提示词专家自动写一个小学老师的提示词,内容如下。3.将小学老师角色的提示词添加到“系统提示”,开始提问。
2024-08-16 14:30:41 128
原创 使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署
2.Cli Demo 部署 InternLM2-Chat-1.8B 模型。1.首先来为 Demo 创建一个可用的环境。来启动我们的 Demo。
2024-08-11 21:36:11 172
原创 Python学习
python的包管理pip与conda的源服务器均在境外,安装包的时候常常会碰到下载慢的情况。这时我们可以把pip与conda的源替换为国内的镜像,下面我们将刚刚安装好的环境替换为清华源。我们需要进入命令行开始进行换源,Windows可以直接打开miniconda powershell promt。接着我们来给conda替换成清华源。各系统都可以通过修改用户目录下的。文件后,使用文本编辑器打开,将下面的内容复制进去并保存。首先将pip替换为清华源,只需要一条命令。清除索引缓存,保证用的是镜像站提供的索引。
2024-08-04 23:49:12 497
转载 完成SSH连接与端口映射并运行hello_world.py
端口映射是一种网络技术,它可以将外网中的任意端口映射到内网中的相应端口,实现内网与外网之间的通信。通过端口映射,可以在外网访问内网中的服务或应用,实现跨越网络的便捷通信。那么我们使用开发机为什么要进行端口映射呢?因为在后续的课程中我们会进行模型web_demo的部署实践,那在这个过程中,很有可能遇到web ui加载不全的问题。这是因为开发机Web IDE中运行web_demo时,直接访问开发机内 http/https 服务可能会遇到代理问题,外网链接的ui资源没有被加载完全。
2024-08-04 15:49:37 30
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人