m0_60803679的博客

写入命令行配置参数代码。

进行模型格式转换，转为hugging face 格式。修改streamlit脚本文件启动应用并进行访问对话。准备一个数据集文件并准备用脚本方式生成文件。对配置文件进行修改，这里我是直接复制过来。执行脚本生成数据文件，但发生一点小错误。创建目录存放Xtuner源代码。查看一下Xtuner help。查看Xtuner内置配置文件。将微调模型与原模型进行整合。创建10％A100开发机。激活网页端查看微调前效果。复制一个预设的配置文件。创建目录存放微调资料。查看树形结构确保无误。查看目录结构确保无误。

新建python文件运行，取得使用RAG技术后的答案，可以看到效果变化。新建python文件部署模型运行，提问xtuner是什么，效果并不好。现在用streamlit进行图形化部署，下载包。将InternLM2 1.8B软链接出来。安装LlamaIndex词嵌入向量依赖。最后还是推荐一下书生浦语大模型实战营。安装Llamaindex和相关包。下载第三方库NLTK相关资源。web图形化部署结果。

tmux创建新的窗口并进入激活环境并部署模型。进入开发机创建环境并下载相关依赖。创建项目路径进入，并下载tmux。退出窗口连接测试模型是否部署成功。

尝试进阶任务：InternLM-XComposer2-VL-1.8B 模型的部署，首先构建环境。还是could not create share link，到这已经放弃了，很可惜也很遗憾。不认输，查阅了csdn相关问题，用了两三种方法，最后是按照这个进行调整重新部署。用streamlit部署让其介绍自己并生成300字小故事。部署运行大模型让其自我介绍并生成300字小故事。尝试它所给的方法，并重新部署，显存爆了。创建目录并建立编写demo程序。最后还是推荐书生大模型实战营。

2024.01.17] 发布了 InternLM2-7B 和 InternLM2-20B 以及相关的对话模型，InternLM2 在数理、代码、对话、创作等各方面能力都获得了长足进步，综合性能达到开源模型的领先水平。[2024.08.01] 发布了 InternLM2.5-1.8B、InternLM2.5-1.8B-Chat、InternLM2.5-20B 和 InternLM2.5-20B-Chat。合成数据融合多种方式：基于规则的数据改造、基于模型的数据扩充、基于反馈的数据生成。

创建了破冰介绍的md文件，在git add 后进行git commit发现错误，尝试设置git config解决。查阅相关问题解决办法并更改vscode内git terminal authentication选项。创建并进入camp3_2048分支（这里我还没发现分支名字有要求，随便取的2048）憨憨终于发现分支名字有要求，更改并重新push一遍。成功commit但无法push上去并遇到如图问题。构建个人项目并推荐了InternLM(更改后成功跳转并push成功。

在下载debugpy后解决问题，成功debug。发现用的是示例，改成要求的文本又debug一遍。最后推荐一下书生大模型实战训练营。开始远程debug发现连接不上。早期人类远程debug珍贵影像。配置远程debug json。本地实现wordcount。

登陆上远程开发机添加hello_world.py。运行发现没有gradio，pip下载。整本地ssh key，发现之前整过。vscode添加ssh主机。下载完后运行在本地URL。最后推荐一下书生训练营。打开网页查看运行情况。