- 博客(9)
- 收藏
- 关注
原创 docker部署大模型
本文介绍了使用vLLM框架部署开源大模型的完整流程。vLLM通过多项优化技术显著提升推理性能,支持高并发低延迟服务。主要内容包括:大模型命名规范解析、通过Huggingface和Modelscope下载模型权重的方法、基于Docker容器的部署步骤(包含镜像拉取、服务启动等命令)、API接口验证方式以及相关文档资源。同时提供了注意事项,如显存参数调整和多卡部署建议。文档涵盖了从模型获取到服务部署的全流程,为开发者快速搭建大模型推理服务提供实用指南。
2026-03-27 11:10:42
371
原创 kubeasz部署k8s集群保姆级教程
本文介绍了Kubernetes高可用集群环境的搭建方案。主要内容包括:1) 集群环境规划,提供了单master和多master两种架构方案;2) 服务器资源规划,详细列出了各类服务器(控制节点、镜像仓库、etcd等)的IP配置;3) 软件版本清单;4) 基础环境准备步骤,重点说明了时间同步配置;5) 高可用负载均衡实现,通过Keepalived+Haproxy实现VIP漂移和API反向代理。文章提供了完整的配置示例和架构图,为构建生产级Kubernetes集群提供了详细的技术指导。
2026-03-10 11:42:11
553
原创 kube-proxy的三种工作模式详解
Kubernetes kube-proxy 的 userspace 和 iptables 模式对比 摘要: userspace 模式是最早期的实现方式,kube-proxy 在用户空间直接处理所有 Service 请求转发,导致性能差、单点故障等问题。iptables 模式则通过在内核空间配置 iptables 规则实现转发,性能大幅提升。文章详细分析了两种模式的工作原理:userspace 模式下请求需多次在用户/内核空间切换,而 iptables 模式通过 DNAT 规则直接在内核完成负载均衡。通过流程
2025-12-26 12:34:42
1021
原创 Loki+Promtail+Grafana 日志采集与展示部署文档
本文档详细介绍了如何使用Docker Compose部署Loki+Promtail日志采集系统,并与现有Grafana集成。主要内容包括: 环境准备:创建目录结构,确认Grafana网络配置 部署方案:通过Docker Compose编排Loki(日志存储)和Promtail(日志采集器) 关键配置: Loki配置文件(loki-config.yml)的极简存储设置 Promtail配置文件(promtail-config.yml)采集系统日志、Nginx日志和Docker容器日志 网络集成:复用已有Gra
2025-12-06 15:13:21
1043
原创 Zabbix 集成本地 Qwen-8B-vl模型 实现智能告警分析与飞书通知完整技术指南
本文介绍了一个基于Zabbix、Qwen-8B-vl模型和飞书机器人的智能告警分析系统。系统采用三层架构:Zabbix监控层、AI分析层和飞书通知层,实现从告警触发到智能分析的完整流程。重点阐述了VLLM环境的部署配置,包括系统要求、Qwen-8B-vl模型部署及参数优化建议,如并发设置、内存管理和RoPE缩放技术。最后介绍了AI分析脚本的开发,该脚本接收Zabbix告警信息,调用VLLM服务进行分析并返回结果。该系统通过智能化分析显著提升了运维效率。
2025-12-02 09:45:56
1000
原创 Ubuntu 24.04 服务器上ELFK(Elasticsearch + Logstash + Filebeat + Kibana)日志收集系统部署指南
本文介绍在Ubuntu 24.04服务器上部署ELFK日志收集系统的完整指南。ELFK由Elasticsearch(存储)、Logstash(处理)、Filebeat(采集)和Kibana(可视化)组成。首先准备系统环境,包括更新系统、配置内核参数和防火墙。然后依次安装各组件:通过官方源安装Elasticsearch并配置单节点模式;安装Kibana提供可视化界面;部署Logstash作为数据处理管道;最后安装轻量级的Filebeat日志采集器。文中详细说明了各组件的功能特点、系统要求以及配置要点,适合测试
2025-11-26 17:29:29
1043
原创 Ubuntu 22.04 环境下 GitLab + Jenkins 自动化部署 万字文档(全网最详细!全程无坑!)
本文详细介绍了在Ubuntu 22.04环境下部署GitLab+Jenkins实现自动化部署的完整流程。主要内容包括: 环境准备:系统更新、防火墙配置和基础依赖安装 Jenkins安装:通过OpenJDK 17支持,采用官方源安装并配置服务 两种部署方式:直接安装和Docker容器化部署(推荐Compose方式) Jenkins初始化:获取管理员密码、插件选择和账户配置 文档提供了完整的命令和配置示例,特别强调了权限管理、端口开放等常见问题的解决方案。通过这个流程,可以搭建一个稳定可靠的自动化CI/CD环境
2025-11-13 17:58:41
1441
原创 Prometheus + Grafana 监控 Docker 容器部署文档
本文档详细介绍了基于Prometheus和Grafana的Docker容器监控系统部署方案。采用Docker Compose容器化部署,包含四个核心组件:Prometheus负责指标采集存储、cAdvisor采集容器指标、Node Exporter采集主机指标、Grafana实现数据可视化。文档提供了完整的部署步骤,包括环境准备、配置文件编写(docker-compose.yml、prometheus.yml等)以及告警规则配置。该系统可全面监控Docker容器的CPU、内存、网络、磁盘等性能指标,同时监控
2025-11-07 09:13:41
1242
原创 Ubuntu 24.04 部署 Zabbix 7.2.14 LTS(MySQL 版本)+飞书告警完整文档
本文详细介绍了在Ubuntu 24.04 LTS系统上部署Zabbix 7.2.14 LTS监控系统的完整过程,采用MySQL 8.0作为数据库。文档包含环境准备、MySQL配置、Zabbix Server安装等步骤,并提供推荐配置(2核CPU/4GB内存)。部署流程包括:系统初始化、MySQL安全设置、Zabbix数据库创建、Zabbix核心组件安装、PHP环境配置等关键环节。最后指导用户启动相关服务并开放必要端口,实现完整的监控系统部署。该方案适合中小企业服务器监控需求,特别针对习惯MySQL环境的用户
2025-11-07 09:00:15
1018
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅