- 博客(8)
- 收藏
- 关注
原创 llamaindex+Internlm2 RAG实践
知识库导入之前增强之前,回答效果较差。大模型存在幻觉问题,有时候会胡说,所以需要更新模型掌握的数据特征。方式1:重新训练 方式2:加入知识库,从知识库里面获取新知识,作为输入的一部分。1、软链接,链接模型到指定目录。导入知识库后,效果增强。
2024-08-07 02:07:22
216
原创 书生·浦语大模型全链路开源体系
全面的评测体系,已经适配了超过100个评测集,是国内最完善的评测体系之一。内置LoRA、QLoRA等多种微调算法。书生万卷1.0和CC数据集,支持迭代。支持多类型的智能体、多种LLM模型。内置INT4,INT8等量化实现。简单来说,完整的流程就是。修改配置文件即可训练。
2024-08-03 23:56:13
169
原创 L1任务demo
2、Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型。3、LMDeploy 部署 InternLM-XComposer2-VL-1.8B 模型。conda环境配置,可以从直接克隆,但是比较慢,推荐直接安装!1、InternLM2-Chat-1.8B 模型的部署。做端口映射后,将开发机本地的端口与本地的相映射。小小年纪就爆显存,不学好。
2024-07-28 00:04:46
148
原创 Error response from daemon: open /var/lib/docker/XXXX/3ad663158cf68c173d270d16b197075e888c9459
所以之间把var 下面的log文件下的东西删了,腾出一点空间。暂时解决问题(机智)。有大佬知道该怎么清理吗。用 docker info查看docker 的根目录,进去按照网上的解决方法删除容器日志。解决:然后进入var目录下使用du -sh * 查看当前那个文件夹使用磁盘占用了比较高。空间不够,先进入root用户 sudo su。查看var目录的使用大小。发现docker占比很高。进去之后发现不知到删什么。df -h 查看磁盘使用情况,发现var 挂载点已经使用完了。
2024-07-04 15:19:31
234
原创 wsl 实现ssh连接
进入这个文件 vim /etc/ssh/sshd_config。wsl安装后可以获得密钥,想必已经安装了支持ssh。但是仍需设置远程连接。之后ps -e |grep ssh 查看ssh进程。1、进入root .sudo su 输入密码。密码是你的wsl 得密码 ,用户是也是wsl得。
2024-07-04 14:50:33
293
原创 报错Cannot read properties of undefined (reading ‘__asyncLoader‘)
报错Cannot read properties of undefined (reading ‘__asyncLoader‘)
2024-07-04 14:41:12
195
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人