书生大模型实战营(8G 显存玩转书生大模型 Demo)

最新推荐文章于 2024-10-13 21:11:07 发布
最新推荐文章于 2024-10-13 21:11:07 发布
阅读量185 收藏
点赞数 1
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013232710/article/details/142090479
版权

按照入门课"书生大模型实战营(linux学习)“的步骤通过vscode远程到开发机后，通过以下指令(linux平台)建立一个demo文件，同时在demo文件下面新建cli_demo.py文件
在这里插入图片描述
其中，cli_demo.py文件的代码如下:
在这里插入图片描述
在vscode终端中激活预装的conda环境:
conda activate /root/share/pre_envs/icamp3_demo
在上述conda环境下执行cli_demo.py文件，模型加载完成后，再输入"帮我生成300字小故事”，会有输出结果。
在这里插入图片描述

书生100
关注
【第 2 节】轻松玩转书生·浦语大模型趣味 Demo
熊猫小妖的AI世界
04-17 1109
1.2.1 什么是大模型？大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练，并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能，比如自然语言处理、计算机视觉、语音识别等。这种模型通常采用深度神经网络结构，如 Transformer、BERT、GPT（ Generative Pre-trained Transformer ）等。
书生大模型实战营-8G 显存玩转书生大模型 Demo
c442022734的博客
08-07 360
首先，我们创建一个目录，用于存放我们的代码。并创建一个 cli_demo.py。然后，我们将下面的代码复制到 cli_demo.py 中。接下来，我们便可以通过 python /root/demo/cli_demo.py 来启动我们的 Demo。
书生大模型实战营：8G显存玩转书生大模型Demo
tmwgsicp的博客
08-08 356
进入InternStudio开发机，按照官方文档指引，使用conda创建大模型的运行环境，并安装相关依赖项。使用以下命令开始运行InternLM2-Chat-1.8B。环境搭建后，使用conda env list查看环境。InternLM2-Chat-1.8B模型的部署。参考官方文档，创建相关目录和保存代码的py文件。
书生大模型实战营——8G 显存玩转书生大模型 Demo
weixin_43199101的博客
08-08 204
完全跟着教程指令走，基本不会出错。
书生大模型实战营【8G 显存玩转书生大模型 Demo】
qq_51182466的博客
08-01 269
使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事。
基础岛——8G 显存玩转书生大模型 Demo
qq_44407313的博客
08-08 367
InternLM-XComposer2-VL-1.8B 是基于 InternLM2 的视觉语言大模型，其擅长自由形式的文本图像合成和理解。使用 LMDeploy 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事，记录复现过程并截图。使用 LMDeploy 部署 InternLM-XComposer2-VL-1.8B 模型。Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型。
（第三期）书生大模型实战营——8G显存玩转书生大模型Demo
a_blade_of_grass的博客
07-27 1169
本文任务及教程来自书生大模型实战营，
书生大模型实战营-基础关-8G显存玩转书生大模型Demo
greatwind的博客
07-31 294
文件夹，并进入到对应文件目录中，创建一个名为。
【书生大模型实战营第三期】基础岛 第2关 8G 显存玩转书生大模型 Demo
weixin_46390472的博客
08-06 375
2. 创建成功后，在 VSCode 终端里激活官方已给我们安装好的虚拟环境 /root/share/pre_envs/icamp3_demo。然后用 Linux 指令在根目录下创建一个 demo 文件夹和一个名为 cli_demo 的 .py 文件，详见下图。任务描述：使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事，记录复现过程并截图。4. 运行该文件，待终端出现如下内容，即表明模型启动成功（一开始需要下载模型）。里的给定代码复制进去。
第三期书生大模型实战营——8G显存玩转书生大模型Demo
qq_63629606的博客
07-29 907
注意：不要点击运行 这会使用默认的python解释器与环境 使用命令行可使用demo环境。模型，否则8gb显存不够，同时建议使用vscode的自动转发端口。模型，否则8gb显存不够，同时建议使用vscode的自动转发端口。1.打开vscode远程连接。
NL2SQL实践系列(2)：2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
丨汀、的博客
04-14 1589
NL2SQL实践系列(2)：2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
【第5节】LMDeploy 大模型量化部署实践
熊猫小妖的AI世界
04-24 1398
视频文档作业lmdeploy官方文档OpenXLab个人感觉camp2讲解的没有第一次的内容好，都是照着文档跑一遍，基础内容也没有啥深度(也可能是我水平太低哈，哈哈)。补充观看之前1.0版本的讲解吧文档视频基础作业（结营必做）配置 LMDeploy 运行环境以命令行方式与 InternLM2-Chat-1.8B 模型对话进阶作业设置KV Cache最大占用比例为0.4，开启W4A16量化，以命令行方式与模型对话。（优秀学员必做）
LLM InternLM-Chat-7B书生模型、Baichuan-13B-Chat百川模型简单使用
weixin_42357472的博客
07-13 2162
https://github.com/baichuan-inc/Baichuan-13B ## web demo使用代码参考下载。https://huggingface.co/baichuan-inc/Baichuan-13B-Chat ##模型下载。https://github.com/InternLM/InternLM ## web demo使用代码参考下载。https://huggingface.co/internlm/internlm-chat-7b ##模型下载。
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
丨汀、的博客
04-30 420
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
【人工智能学习之PaddleOCR快速上手】
Jiagym的博客
10-12 1093
在配置文件中，可以设置组建模型、优化器、损失函数、模型前后处理的参数，PaddleOCR从配置文件中读取到这些参数，进而组建出完整的训练流程，完成模型训练，在需要对模型进行优化的时，可以通过修改配置文件中的参数完成配置，使用简单且方便修改。而 L2 正则化中，添加正则化项的目的在于减少参数平方的总和。准确检测的标准是检测框与标注框的IOU大于某个阈值，正确识别的检测框中的文本与标注的文本相同。如果缺少带标注的数据，或者不想投入研发成本，建议直接调用开放的API，开放的API覆盖了目前比较常见的一些垂类。
线性判别器LDA
qq_52421831的博客
10-10 1209
LDA是一种有监督的降维方法，和它比较类似的是PCA(一种无监督的降维方法)
2 机器学习之基本术语
此博客内容主要是小可日常工作中的一些问题解决的记录整理而成
10-11 670
这组记录的集合称为一个“数据集”(data set)，其中每条记录是关于一个事件或对象（这里是一个西瓜）的描述，称为一个“示例”(instance)或“样本”(sample)反映事件或对象在某方面的表现或性质的事项，例如“色泽”​“根蒂”​“敲声”​，称为“属性”(attribute)或“特征”(feature)；xid)是d维样本空间中的一个向量，xi∈，其中xij是xi在第j个属性上的取值（例如上述第3个西瓜在第2个属性上的值是“硬挺”​）​，d称为样本xi的“维数”(dimensionality)。
论文及其创新点学习cvpr2022 On the Integration of Self-Attention and Convolution
qq_53536373的博客
10-13 352
论文创新点，将注意力机制 和卷积 相结合。
骨架提取（持续更新）
最新发布
xiongmaowangd的博客
10-13 546
骨架提取是图像处理或计算机视觉中的一种技术，用于从二值化图像中提取物体的中心线或轮廓，通常称为“骨架”或“细化图像”。这一技术主要用于简化形状表示，同时保留物体的拓扑结构。这里我们强调了，是对二值化图像中进行提取。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值