- 博客(14)
- 收藏
- 关注
原创 书生大模型实战营第3期-多模态部署微调实践
依据教程使用处理后的huggingface上的zhongshsh/CLoT-Oogiri-GO据集,并选择一张图片作为case进行推理可以看出推理效果并不是很好,因此需要进行微调。
2024-09-07 19:01:07 306
原创 书生大模型实战营第3期-Lagent 自定义你的 Agent 智能体
在internlm2_agent_web_demo.py文件增加MagicMaker模块,并要求生成一副山水画,效果如下(只给出了连接,需要在浏览器中打开)
2024-09-06 21:54:10 251
原创 书生大模型实战营第3期-LMDeploy量化部署进阶实践
此时InternStudio右上角的资源监控如下也可以通过nvidia-smi指令查看资源使用情况。
2024-09-05 17:32:52 1013
原创 书生大模型实战营第3期-XTuner 微调个人小助手认知
配置好环境和模型后,形成如下的目录结构:进行端口映射,在网页端查看InternLM2-1.8B的对话效果。
2024-09-01 21:50:14 276
原创 书生大模型实战营第3期-8G玩转书生大模型demo
通过python /root/demo/cli_demo.py启动文件,并展开对话。三、Cli Demo 部署 InternLM2-Chat-1.8B 模型。创建一个目录 demo,并创建 cli_demo.py 文件。然后将下面的代码复制到 cli_demo.py 中。启动开发机,并在 vscode 连接 ssh。一、连接 InternStudio SSH。
2024-08-28 22:43:04 207
原创 书生大模型实战营第3期-书生大模型全链路开源体系
书生大模型全链路开源开放体系是一个涵盖数据处理、模型预训练、微调、评测、推理以及智能体开发框架等应用的全流程的开放平台,旨在为学术研究者、开发者和行业应用提供全面的支持。该体系由多个模块组成,包括数据处理的书生·万卷、预训练框架InternEvo、微调工具Xtuner、评测体系OpenCompass、推理框架LMDeploy、应用包含思索式搜索引擎MindSearch、智能体开发框架Lagent、高效文档解析工具MinerU,以及基于专业知识库的群聊助手HuixiangDou。
2024-08-27 23:33:37 958
原创 书生大模型实战营第3期-Python 基础
选择 python debugger,debug config 选择 remote attach,直接两次回车(第一次默认本地 localhost,第二次默认远程 5678 端口)启动开发机,使用 vscode ssh 连接开发机,将开发机的密码输入到 vscode完成连接。点击左侧的 debug 图标,创建 launch.json 文件。在终端中运行 wordcount.py。也可以 remode attach。可以设置断点,本地 debug。然后就可以开始 debug。
2024-08-27 22:27:50 168
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人