- 博客(8)
- 收藏
- 关注
RSS订阅原创 书生实战营第三期L1-OpenCompass评测
使用 OpenCompass 评测 internlm2-chat-1.8b 模型在 ceval 数据集上的性能。步骤一：创建虚拟环境 opencompass。步骤二：准备数据 CEVEL数据集。opencompass可以查看。
2024-08-09 18:33:41
158
原创 书生实战营第三期L1-RAG
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前InternLM2-Chat-1.8B模型不会回答，借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力。
2024-08-09 16:44:45
363
原创 书生实战营第三期L1-XTuner微调个人小助手
开发机上已存在模型，可以通过以下代码一键通过符号链接的方式链接到模型文件，这样既节省了空间，也便于管理。使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知。修改xtuner_streamlit_demo.py文件，模型位置指向微调后的路径。数据准备：准备一个数据集，可以脚本生成json文件。步骤一：创建新的虚拟环境xtuner021。微调后的模型，可以回答我们的问题。微调前，不能回答出我们的问题。步骤七：使用微调后的模型。步骤四：微调前启动对话。步骤六：微调后参数合并。
2024-08-09 15:10:09
368
原创 书生第三期实战营L1-提示词工程实践
近期相关研究发现，LLM在对比浮点数字时表现不佳，经验证，internlm2-chat-1.8b (internlm2-chat-7b)也存在这一问题，例如认为。步骤一：进入虚拟环境（直接使用了/root/share/pre envs/icamp3 demo环境）：利用LangGPT优化提示词，使LLM输出正确结果。使用intern-studio开发机，可以直接在路径。使用下图脚本测试是否部署成功。步骤四：图形化界面调用。
2024-08-09 10:09:11
417
原创 书生第三期实战营L1-8G 显存玩转书生大模型 Demo
InternVL2 是上海人工智能实验室推出的新一代视觉-语言多模态大模型，是首个综合性能媲美国际闭源商业模型的开源多模态大模型。步骤1： 使用 LMDeploy 启动一个与 InternLM-XComposer2-VL-1.8B 模型交互的 Gradio 服务。使用 LMDeploy 完成 InternLM-XComposer2-VL-1.8B 的部署，并完成一次图文理解对话。使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事。
2024-07-31 14:24:40
791
原创 书生第三期实战营L1-书生大模型全链路开源体系笔记
面向不同的需求，体系中包含基础的InternLM2-Base，强化的InternLM2以及通过微调后的InternLM2-Chat模型。如下图，左侧图表，InternLM2较InternLM分布左移，表明有较好的语言建模能力。InternLM可以扮演贴心又可靠的AI助手，充满人文关怀的回答，富有想象力的创作者。观看本关卡视频（未上传制作中）后，写一篇关于书生大模型全链路开源开放体系的笔记。专用模型：针对特定任务，一个模型解决一个问题；通用模型：一个模型应对多种任务、多种模态。微调：Xtuner (
2024-07-31 13:07:33
212
原创 书生第三期实战营L0-python
请实现一个wordcount函数，统计英文字符串中每个单词出现的次数。返回一个字典，key为单词，value为对应单词出现的次数。断点设置：(Pdb)12 #断点设置在word_count.py第12行。要求：Vscode连接InternStudio debug笔记。运行：(Pdb)c #跳到下个断点。
2024-07-15 14:52:01
136
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人