- 博客(2)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 LLM-starcoder 搭建随记
注意：第一次启动会下载参数模型大概60多G，并且启动时会在占用根目录磁盘空间做临时缓存（预训练）启动后会释放，所以需保证安装位置和根目录空间充足。创建虚拟环境后，后续会下载一些Python包。bentoml默认输出控制台日志，不输出文件日志，需配置指定日志输出。（暂未找到输出配置的地方）调整后，GPU内存占用降低，但负载上不去，观测最高40%，速度较16bit降低3倍左右。也可以添加镜像库，提高下载速度，本次不添加（因为添加后访问不了？杀掉所有python进程，此方法为openllm作者提供，有点粗暴。
2023-08-15 14:38:41
1236
原创 java.lang.UnsupportedOperationException: null
java.lang.UnsupportedOperationException: nullat java.util.AbstractList.add(AbstractList.java:148)at java.util.AbstractList.add(AbstractList.java:108)前台页面报系统错误，看了日志报这个异常，想了想没搞懂为啥会报错？？？1：场景 kylinStaffDataVoList = Collections.EMPTY_LIST;...List<Ta
2021-04-29 10:44:06
600
空空如也
vscode终端不能正常显示操作指令的结果，求大佬解答
2020-11-22
TA创建的收藏夹 TA关注的收藏夹
TA关注的人