书生浦语Demo笔记（InternLM2-chat-1.8B）

最新推荐文章于 2024-09-16 21:30:36 发布
最新推荐文章于 2024-09-16 21:30:36 发布
阅读量121 收藏
点赞数 3
文章标签： 笔记 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44266167/article/details/140775622
版权

使用InernML2-chat-1.8b搭建了问答模型，具体步骤如下：

1 进入开发机，安装conda环境，大约需要1小时左右

使用命令如下：

studio-conda -o internlm-base -t demo

安装成功后，显示如下界面

2 激活conda环境

3 安装所需软件，软件list如下截图

4 下载InernLM2-chat-1.8B模型

编辑/root/demo/download_mini.py，如下截图，然后运行

5 编辑 /root/demo/cli_demo.py 文件，然后运行，提问”请写关于北京故宫300字小作文“ 截图如下

沐沐恩
关注
书生·浦语 大模型（学习笔记-2）InternLM2 | InternLM2-Chat-1.8B | 浦语·灵笔2 | 小米su7在线识别（AI都认不出Car）
m0_63181360的博客
04-02 988
1.首先进入控制台进行环境配置（开始没有开发机），创建后默认只有8小时的使用时间（自己可更改） 2.进入后选择terminal进行后续操作（选择JupyterLab才有改界面）接下来的命令：1.需要创建一个新的目录后进行下载2.创建下载文件（download_mini.py）和运行文件（cli_demo.py）下载文件：运行文件：运行效果如下：下载和部署与前面一个项目的步骤差不多。主要是在启动方面有区别：1.此时需要对端口环境配置本地 2.然后再控制台查看端口和连接密码进行连接3. 连接完成，
【InternLM 笔记】使用InternLM2-chat-1.8b制作时事问答知识库
JeffDing
03-15 590
通过将上述代码封装为 run_gradio.py 脚本，直接通过 python 命令运行，即可在本地启动知识库助手的 Web Demo，默认会在 7860 端口运行，接下来将服务器端口映射到本地端口即可访问。将得到的 PTH 模型转换为 HuggingFace 模型，即：生成 Adapter 文件夹。数据集csv转json脚本（csv2jsonl.py）模型版本： InternLM2-chat-1.8b。将得到的jsonl文件拷贝到工作目录下准备微调。LangChain 依赖包。下载 NLTK 相关资源。
书生·浦语(InternLM)-openLesson-2-学习笔记
qq_40338806的博客
02-15 398
本人学习过程中使用的平台为：UCloud-8C64G-TeslaP40。相比于课程提供的平台主要限制在于P40不支持FP16、不支持INT4，虽然支持INIT8运算，但是就目前的经验来看P40的INT8对于triton编程的支持情况存在一些问题。前四节课程影响较小，第 5 节课程-LMDeploy 大模型量化部署实践，模型转8bit成功，但是推理时失败，将会在第5节课程的笔记中给出详细报错信息，欢迎大家一起探讨。
书生·浦语大模型实战：部署八戒InternLM2-Chat-1.8B（lesson 2-2）
weixin_39291058的博客
05-14 846
八戒-Chat-1.8B、Chat-嬛嬛-1.8B、Mini-Horo-巧耳 均是在第一期实战营中运用 InternLM2-Chat-1.8B 模型进行微调训练的优秀成果。其中，八戒-Chat-1.8B 是利用《西游记》剧本中所有关于猪八戒的台词和语句以及 LLM API 生成的相关数据结果，进行全量微调得到的猪八戒聊天模型。作为 Roleplay-with-XiYou 子项目之一，八戒-Chat-1.8B 能够以较低的训练成本达到不错的角色模仿能力，同时低部署条件能够为后续工作降低算力门槛。
书生·浦语 大模型（学习笔记-2）InternLM2 InternLM2-Chat-1
2401_83816970的博客
04-09 1044
目录一、配置基础环境二、下载 InternLM2-Chat-1.8B 模型三、实战：部署实战营优秀作品 八戒-Chat-1.8B 模型四、 实战：使用 Lagent 运行 InternLM2-Chat-7B 模型五、实战：实践部署 浦语·灵笔2 模型图片理解实战（小米su7）1.首先进入控制台进行环境配置（开始没有开发机），创建后默认只有8小时的使用时间（自己可更改）2.进入后选择terminal进行后续操作（选择JupyterLab才有改界面）接下来的命令：1.需要创建一个新的目录后进行下载2.创建下载文
实操作业：基于浦语大模型InternLM-Chat-7B 对话、智能体工具调用、图文创作等场景部署实操步骤
weixin_60280805的博客
01-05 1893
2024年做的第一件事情，就是报名浦语大模型训练营，平台有青年科学家讲课、专业的助教辅导，还提供免费的算力给学员做训练用，真的特别赞。这篇文章主要分享我基于对话、智能体工具调用、图文创作三个场景，利用浦语大模型进行实操部署，供大家参考。
OpenCompass 评测 InternLM-1.8B 实践
qq_42137576的博客
07-23 1284
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。
InternLM实战营第二期---Demo部署笔记
l18817813618的博客
04-03 398
书生·浦语大模型实战营第二期部署笔记
书生·浦语(InternLM)-openLesson-4-学习笔记
qq_40338806的博客
02-15 786
如果是用的自己的云服务器，自行安装即可。
书生·浦语 第二讲课程笔记
2301_76914390的博客
04-25 652
⑶杰出的综合能力：浦语·灵笔2-78基于（书生·浦语2-78模型，在13项多模态评测中大幅领先同量级多模态模型，在其中6项评测中超过 GPT-4V和 Gemini Pro.⑵准确的图文问题解答能力：浦语·灵笔2具有海量图文知识，可以准确的回复各种图文问答难题，在识别、感知、细节描述_觉推理等能力上表和惊人细节描述、视觉推理等能力上表现惊人。③0penxLab可以通过指定模型仓库的地址，以及需要下载的文件的名称，文件所需下载的位置等，直接下载模型权重文件，使用 download 函数导入核型中心的模型。
书生浦语课程笔记3-使用InternLM和LangChain搭建知识库
zhiho14的博客
01-14 1209
和。
【第7节】OpenCompass 大模型评测实战
熊猫小妖的AI世界
04-24 869
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。
【课堂笔记】2_轻松玩转书生·浦语大模型趣味Demo
sxswz的博客
01-10 1032
什么是大模型?人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。特点及应用利用大量数据进行训练拥有数十亿甚至数千亿个参数模型在各种任务中展现出惊人的性能lnternLM模型全链条开源InternLM是一个开源的轻量级训练框架，旨在支持大模型训练而无需大量的依赖。基于InternLM训练框架，上海人工智能实验室已经发布了两个开源的预训练模型:InternLM-7B和InternLM-20B。
C++学习笔记----6、内存管理（五）---- 智能指针（3）
weixin_71738303的博客
09-11 1178
与指向特定类型的原始指针可以转化为不同类型的指针一样，shared_ptr保存特定的类型可以转化为一个另一种类型的shared_ptr。转化shared_ptr的函数是const_pointer_cast()，dynamic_pointer_cast(),static_pointer_cast()和reinterpret_pointer_cast()。前面简要提过，当拥有共享属主的智能指针，例如shared_ptr不在活动范围或者被重置时，只有它是最后指向的智能指针时才能释放其指向的资源。
ROS组合导航笔记：融合传感器数据
最新发布
qq_44188415的博客
09-16 534
笔记
shader 案例学习笔记之将坐标系分成4个象限
localhost
09-13 209
坐标系被分成了4个单元格，每个单元格都有唯一的索引，后续就可以根据索引去渲染。
UEFI学习笔记（五）：EDK II PCD的概念、类型、使用
qq_44189622的博客
09-11 846
如果在BIOS里面有一些模块是binary方式集成进来的而这些binary又需要用到PCD（用于Binary Release），那么这些Binary集成的要用到的PCD就必须要设置为。PCD的值存在memory里面，下次启动时，上次更改的值丢失了，每次启动都是从default值开始。是存在VPD空间的（在FLASH上，只读），一般是出厂配置。如果platform是从源码build出来的，没有binary在里面的时候，PCD用的都是。作用域在一个模块中（模块级的），可以在Binary Level进行修改。
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值