- 博客(33)
- 收藏
- 关注
原创 Langchain-Chatchat3.1版本docker部署流程——知识库问答
langchain-chatchat3.1 docker部署 知识库问答篇
2024-07-18 17:58:14 255
原创 flash_attn安装
如果出现该错误cannot import name ‘is_flash_attn_available’ from ‘transformers.utils’,可以。访问该网站,找到对应torch、python、cuda版本的flash_attn进行下载,并上传到服务器。
2024-04-28 10:25:04 2286 1
原创 paddleocr 在docker环境下部署
第一步 查看cuda的版本nvcc -V,我的是11.2;nvidia-smi 对应的cuda version是11.6,所以采用了registry.baidubce.com/paddlepaddle/paddle:latest-dev-cuda11.6-cudnn8.4-trt8.4-gcc82作为基础镜像。Docker镜像源选择,Dockerfile配置。制作镜像,build。
2024-03-15 16:04:48 1925 3
原创 NVIDIA-SMI has failed带来的一系列问题
记实验室的小红帽服务器重启后,使用nvidia-smi出现以下问题:现记录解决该问题过程中遇到的坑,首先百度到的解决方案就是安装dkms组件(Dynamic Kernel Module Support),利用dkms将未编译到内核之中的Linux驱动程序进行手动编译。但是在使用命令出现了第一个问题RPM-GPG-KEY-rockyofficial 是一个RPM软件包管理系统使用的GPG密钥。RPM(Red Hat Package Manager)是一种在Linux系统中广泛使用的软件包管理工具,用于安装、
2023-06-26 17:05:34 286
原创 Kibana安装教程
运行kibana:kibana-5.6.3-windows-x86\bin的文件目录下,双击kibana.bat启动kibana;若双击没有反应,则进入cmd下,执行kibana.bat文件。解压安装包,修改[kibana-5.6.3-windows-x86\config]文件夹下的kibana.yml文件。访问127.0.0.1:5601。
2023-05-22 17:39:14 93
原创 Kafka——Controller、Rebalance、HW的基础概念
HighWatermark的缩写,取一个partition对应的ISR中最小的LEO(log-end-offset)作为HW,consumer最多只能消费到HW所在的位置。对于leader新写入的消息,consumer不能立刻消费,leader会等待该消息被所有ISR中的replicas同步后更新HW,此时消息才能被consumer消费。这样就保证了如果leader所在的broker失效,该消息仍然可以从新选举的leader中获取。在触发rebalance机制之前,消费者消费哪个分区有。
2022-08-20 21:08:16 80
原创 Java关键字——volatile
由于访问volatile变量时不会执行加锁操作,也就不会执行线程阻塞。所以volatile变量是一种比synchronized关键字更轻量级的同步机制。volatile确保将变量的更新操作通知到其他线程。volatile使用实例。......
2022-08-01 11:46:45 216
原创 JVM——分代收集算法与分区收集算法
根据系统可接受的停顿时间,每次都快速回收若干个小区域,从而减少一次GC所产生的的停顿时间,最后以多次并行累加的方式逐步完成整个内存区域的垃圾回收。划分为连续的大小不同的小区域,每个小区域单独进行内存使用和垃圾回收,这样做的好处是可以根据每个小区域内存的大小灵活使用和释放内存。根据对象的不同类型将内存划分为不同的区域,JVM将堆划分为。,并根据各个年代的特点分别采用不同的GC算法。老年代——标记整理算法。......
2022-07-30 16:42:41 215
原创 【MongoDB远程连接配置】
MongoDB远程连接配置windows下配置MongoDB远程连接配置在MongoDB安装目录的bin目录下创建mongod.cfg文件,具体配置如下(更详细的配置可参考官方文档)systemLog: destination: file path: G:/Mongodb/logs/mongod.log#本地日志文件路径 logAppend: truestorage: dbPath: G:/Mongodb/data#本地数据存路径 journal: en
2022-03-09 17:31:58 1057
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人