书生大模型实战营：8G显存玩转书生大模型Demo

于 2024-08-08 21:00:01 发布
阅读量247 收藏 3
点赞数 2
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tmwgsicp/article/details/141035868
版权

主要任务

InternLM2-Chat-1.8B模型的部署

环境搭建

进入InternStudio开发机，按照官方文档指引，使用conda创建大模型的运行环境，并安装相关依赖项

环境搭建后，使用conda env list查看环境。

开始部署

参考官方文档，创建相关目录和保存代码的py文件

复制相关代码

开始运行

使用以下命令开始运行InternLM2-Chat-1.8B

conda activate demo
python /root/demo/cli_demo.py

效果如下图

tmwgsicp
关注
  • 2
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
书生大模型实战营-8G 显存玩转书生大模型 Demo
c442022734的博客
08-07 278
首先，我们创建一个目录，用于存放我们的代码。并创建一个 cli_demo.py。然后，我们将下面的代码复制到 cli_demo.py 中。接下来，我们便可以通过 python /root/demo/cli_demo.py 来启动我们的 Demo。
书生大模型实战营3期 - 基础岛 - 2 - 8G 显存玩转书生大模型 Demo
wocsdn111的博客
07-23 198
【代码】书生大模型实战营3期 - 基础岛 - 2 - 8G 显存玩转书生大模型 Demo。
书生大模型实战营【8G 显存玩转书生大模型 Demo】
qq_51182466的博客
08-01 227
使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事。
书生大模型实战营——8G 显存玩转书生大模型 Demo
最新发布
weixin_43199101的博客
08-08 85
完全跟着教程指令走，基本不会出错。
（第三期）书生大模型实战营——8G显存玩转书生大模型Demo
a_blade_of_grass的博客
07-27 1047
本文任务及教程来自书生大模型实战营，
第三期书生大模型实战营——8G显存玩转书生大模型Demo
qq_63629606的博客
07-29 839
注意：不要点击运行 这会使用默认的python解释器与环境 使用命令行可使用demo环境。模型，否则8gb显存不够，同时建议使用vscode的自动转发端口。模型，否则8gb显存不够，同时建议使用vscode的自动转发端口。1.打开vscode远程连接。
第三期书生大模型实战营之8G 显存玩转书生大模型 Demo
T_susan的博客
08-01 477
接下来，使用 LMDeploy 启动一个与 InternLM-XComposer2-VL-1.8B 模型交互的 Gradio 服务。激活环境并安装 LMDeploy 以及其他依赖。
第三期书生大模型实战营——8G 显存玩转书生大模型 Demo
2301_76950869的博客
08-07 109
使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事。
第三期书生大模型实战营.8G 显存玩转书生大模型 Demo
qq_25544273的博客
08-07 99
2、 LMDeploy 启动一个与 InternLM-XComposer2-VL-1.8B 模型交互的 Gradio 服务。5、Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型。二、LMDeploy 部署 InternLM-XComposer2-VL-1.8B。一、InternLM2-Chat-1.8B 模型的部署（基础任务）三、LMDeploy 部署 InternVL2-2B 模型。4、部署 InternLM2-Chat-1.8B 模型。1、激活环境安装依赖。
书生浦语大模型实战营微调部署至OpenXlab.zip
07-26
个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所...
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
大模型-书生训练营第三期闯关指南-linux
07-19
大模型-书生训练营第三期闯关指南-linux
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
书生浦语大模型实战课 第二课作业（更新）
04-04
### 书生浦语大模型实战课程第二课作业解析与技术难点详解 #### 一、课程背景概述 在书生浦语大模型实战课程中，第二课主要涉及模型的部署与调试过程。本次作业旨在通过实际操作加深学员对模型部署流程的理解，并...
大模型微调工具-torchtune
weixin_40777649的博客
08-08 324
1.定义2.安装3. 案例。
LLM - 理解 主流大模型 LLM 都使用 Decoder Only 架构的原因 (总结8点)
Mystra
08-05 118
Decoder Only 模式泛化性更好的理论原因包括：训练难度更大、具有隐式的位置编码能力、上下文学习支持 Few-Shot、注意力矩阵是满秩的、参数更少推理更快、KV-Cache、支持 Pipeline Parallel、实验支持。LLM 主流都会使用 Decoder Only 架构，而 Encoder-Decoder、PrefixLM 等混合训练方式，相对较小模型更加合适。
【OpenCV C++20 学习笔记】仿射变换-warpAffine, getRotationMatrix2D
TeamLee的博客
08-08 462
本文简要介绍了OpenCV中仿射变换的原理和算法，并详细展示了在OpenCV中如何使用getAffineTransform, getRotationMatrix2D和warpAffine方法对图片进行仿射变换和旋转。
电脑技巧：9个免费的AI图片无损放大工具和网站
08-05 795
今天小编给大家介绍9款免费的AI图片放大工具和网站，帮助你提高图片清晰度，感兴趣的朋友可以自己试一试！美图设计室是美图秀秀公司推出的一款在线图片编辑和设计工具箱，提供包括AI 抠图、AI海报、AI PPT、AI消除、AI文生图、AI变清晰、AI无损放大等AI图片编辑工具。其提供的图片无损放大功能，目前是限时免费中，可以帮助用户将JPG、JPEG、PNG、HEIC等格式的图片放大清晰不失真，细节更丰富。✅ 产品优点由美图推出，产品功能稳定，处理速度较快支持免费进行图片放大到8倍。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值