- 博客(164)
- 收藏
- 关注
RSS订阅原创 ubuntu espeak安装问题 ubuntu espeak not installed on your system
【代码】ubuntu espeak安装问题 ubuntu espeak not installed on your system。
2025-10-14 19:43:22
146
原创 docker GPU with rootless Docker
In /etc/nvidia-container-runtime/config.toml under the line[nvidia-container-cli]add the following line:no-cgroups = true
2025-09-03 10:58:42
120
原创 最详细的文本分块(Chunking)方法，直接影响LLM应用效果
在构建RAG这类基于LLM的应用程序中，分块（chunking）是将大块文本分解成小段的过程。当我们使用LLM embedding内容时，这是一项必要的技术，可以帮助我们优化从向量数据库被召回的内容的准确性。在本文中，我们将探讨它是否以及如何帮助提高RAG应用程序的效率和准确性。Pinecone是领先的向量数据库供应商在向量数据库（如：Pinecone）中索引的任何内容都需要首先Embedding。分块的主要原因是尽量减少我们Embedding内容的噪音。
2025-08-28 17:56:55
686
原创 ssh命令先输入密码
sshpass -p ‘你的密码’ scp -r qxsk3d@172.16.2.42:/data/std/sdk/fp ./
2025-08-20 11:26:22
116
原创 Nginx 单一端点上高效部署多个 LLM 模型
通过利用vLLM 和 Nginx支持在单一端点上运行多个模型均衡分配流量通过添加更多 vLLM 实例实现水平扩展这种设置非常适合多模型 LLM API，在最大化硬件利用率的同时降低了运维复杂性。
2025-08-05 12:35:10
1003
原创 Nginx 配置
负载均衡策略：你可以考虑在上游块中添加 ip_hash 或 least_conn 等负载均衡算法。错误页面：确保 / 404.html 文件存在，或者设置自定义错误页面。HTTPS 配置：如果可能的话，建议配置 HTTPS 以保障通信安全。性能监控：建议添加状态页面来监控上游服务器的健康状况。
2025-07-23 18:00:25
196
原创 如何使用VScode使用ssh连接远程服务器不需要输入密码直接登录
右键点击id_rsa然后下载到本地的用户文件夹下，如果你有多个服务器连接的需求，需要建立多个文件夹来保存id_rsa文件。
2025-07-16 15:50:47
394
原创 ubuntu 安装docker-compose
你当前使用的 Docker Compose 版本（1.25.0）确实比较旧，可能不支持某些新的配置选项。
2025-07-03 11:29:47
633
原创 docker: Error response from daemon: unknown or invalid runtime name: nvidia 解决方案
如果你使用的是Ubuntu等Linux原生系统 + docker：你需要在 /etc/docker/daemon.json 中设置default-runtime为nvidia，然后重启docker，确保你启动了NVIDIA Container Toolkit。我们使用Docker的过程中往往需要使用GPU，于是需要安装NVIDIA Driver、NVIDIA Container Toolkit和CUDA Toolkit等工具。
2025-07-02 18:41:54
979
原创 解决服务器重装之后vscode Remote-SSH无法连接的问题
2.属性–>高级系统设置–>环境变量–>系统变量,找到Path变量，进行编辑，End到最后，输入分号，粘贴复制的ssh-keygen所在的路径，保存；.找到Git(安装目录)/usr/bin目录下的ssh-keygen.exe(如果找不到，可以在计算机全局搜索)重新cmd，执行ssh-keygen,成功。ssh-keygen 不是内部或外部命令。
2025-05-19 18:45:16
663
原创 pytorch3d 安装
https://blog.csdn.net/weixin_45498383/article/details/140132436https://miropsota.github.io/torch_packages_builder/pytorch3d/
2025-04-28 06:34:33
222
原创 docker报错 无法连接registry-1.docker.io，pull镜像失败
一、执行docker pull命令，拉取镜像失败：Error response from daemon: Get “https://registry-1.docker.io/v2/”: net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)简介： docker pull命令拉取镜像失败的解决方案 docker pull命令拉取镜像失败的解决方案。
2025-02-09 15:37:59
2792
原创 k8s的Pod使用自己的docker镜像，启动部署
在Kubernetes中使用YAML格式来描述一个Pod。执行下方指令查看该Pod是否部署完毕，并查看其IP地址。
2025-01-16 10:29:59
358
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人