Shlre的博客

原创 书生浦语基础岛Opencompass测试模型性能

不知道咋把预设好的环境玩坏了，各种环境报错，重新配环境。查看InternLM 及 C-Eval 相关的配置。

原创 书生浦语Xtuner微调

查看结果，虽然结果没错，但是模型过拟合了，问其他问题也只会这两句话。配置环境，不知道为什么，我只能单独安装xtuner。在目录结构中可以看出，

原创 书生浦语基础岛RAG

将相关内容存入data文件夹下就正常了。没有RAG的LLM会生成错误答案。配置RAG后LLM输出正确答案。

原创 书生浦语基础岛第三关

部署模型测试模型部署端口映射成功在网页端开启这也行么。

原创 书生浦语基础岛第二关

​同学们不要配环境了，出问题的话太麻烦了。直接参考快速文档，使用配好的环境。

原创 书生浦语基础岛作业一

支持模型的轻量化（4bit权重、8bit k/v）、推理(turbomind & pytorch)和服务(open-ai server, gradio, triton inference server)，对外提供python、grpc、restful接口。从模型到应用是一个长链条：模型选型-续训/全参数微调（算力足够）-部分参数微调（算力不足，如LoRA）-构建智能体（与外部系统进行交互）-模型评测-模型部署。从专用模型（AlphaGo、人脸识别、德州扑克等）到通用大模型，一个模型应对多个任务、多种模态。

原创 书生浦语大模型入门岛git作业

原创 书生浦语入门岛python

目前文本中的大写字母全部变成小写了。使用远程控制进行debug。word_conut函数。

原创 书生浦语入门岛作业1

复制hello_world.py代码。运行hello_world.py。