- 博客(141)
- 收藏
- 关注
原创 「喵伴复刻手记」:ESP32 驱动下的 AI 玩伴重生 —— 从硬件到代码的全链路实践指南
通过以上硬件与软件的全链路实践,即可完成喵伴的复刻。核心是依托乐鑫开源生态(ESP-IDF + 硬件设计文件),严格匹配原方案的关键组件与软件版本,同时注意电路抗干扰与调试细节 —— 让这款 AI 玩具在你的手中 “重生”。:优先选择与开源设计一致的型号(如麦克风 INMP441),避免因硬件差异导致驱动不兼容;批量采购(10 套以上)可在 1688 议价,降低单套成本。喵伴基于 Apache 2.0 协议开源,复刻后若用于商业用途,需保留原项目的版权声明,且修改后的代码需开源(协议要求)。
2025-10-01 20:48:24
1119
原创 文心雕龙:DIFY 工作流驱动的Word自动化生成与规范排版方案
若生成成功且格式正确,说明服务工作正常。打开文件检查格式是否符合机关公文规范。执行上述 CURL 命令。
2025-10-01 15:54:02
1261
原创 图解式部署:WSL2 中 Dify 本地化安装与访问故障排查指南
通过以上步骤,可解决 90% 以上的 WSL2 环境 Dify 访问问题。核心排查点:容器是否正常运行→端口是否通畅→网络是否互通→防火墙是否拦截,按此顺序排查可高效定位问题。点击右上角「Code」→「Download ZIP」,获取。检查容器运行状态(确保所有容器状态为。文件夹(建议放在容易找到的路径,如。故障 3:WSL2 网络互通问题。右键解压 ZIP 文件,得到。在 WSL2 终端中检查。复制环境变量示例文件。
2025-09-30 19:59:02
953
原创 在 WSL2 的 Ubuntu 天地中搭建 Docker:从安装到镜像加速全攻略
如果 hello-world 容器能够正常运行并输出欢迎信息,说明 Docker 已成功安装并可以正常工作。国内镜像源的配置则会显著提升下载镜像的速度,提升使用体验。注:执行此命令后需注销并重新登录 WSL2 才能生效。
2025-09-30 12:48:08
334
原创 知识图谱三强争霸:Neo4j/LightRAG/GraphRAG 全方位 PK 及实战适配指南
在知识图谱与大模型融合的技术赛道上,Neo4j、LightRAG 和 GraphRAG 呈现出截然不同的技术路径。它们在知识处理能力、适用场景和生态适配性上各有优劣,选择合适的工具直接影响知识图谱的完整性、RAG 效果及与应用平台的协同效率。本文将从技术特性、优劣势对比、核心能力评测三个维度展开分析,为实战选型提供清晰指引。
2025-09-29 20:45:43
1221
原创 告别卡顿!Windows 系统 WSL2 超全安装指南 + 下载慢终极破解方案
打开 Microsoft Store,搜索 “Linux”,选择常用发行版(如 Ubuntu、Debian),点击 “获取” 即可自动安装,安装后从开始菜单启动,首次打开需设置用户名和密码。,若显示 “VERSION” 为 2,且已安装的 Linux 发行版状态为 “Running”,则说明 WSL2 安装成功,可直接在终端中输入。无论是 “WSL 核心组件更新” 还是 “Linux 发行版下载”,若遇到进度条卡死、速度低于 100KB/s,按以下方法解决,重启是确保上述功能生效的必要步骤,重启后再次以。
2025-09-29 20:20:16
2465
原创 「跨系统数据直通车」:WSL2 Ubuntu 访问 Windows MySQL 全攻略
通过配置 Windows MySQL 远程访问、开放防火墙端口、授权 WSL2 IP 权限,即可实现 WSL2 Ubuntu 对 Windows MySQL 的无缝访问。核心是抓住 “网络互通” 和 “权限允许” 两个关键点,配合动态 IP 管理和安全防控,既能满足开发效率需求,又能保障数据访问安全。跨系统数据协作,从此无需重复部署,一键打通!
2025-09-25 09:07:23
1125
原创 docker-desktop 分发版不支持用户数据挂载
分发版的设计定位决定了它不支持用户数据挂载,继续尝试会浪费时间。建议优先选择方案 2(Windows 本地目录)—— 操作最简单,无 WSL 服务依赖,稳定性最高;若已熟悉 WSL,可选择方案 1(Ubuntu 目录),性能略优于 Windows 挂载。迁移模型后,通过临时容器验证路径,即可顺利启动 vLLM 容器。
2025-09-23 21:15:07
703
原创 Windows Docker Desktop 实战:大模型存入 docker-desktop 实例 home 目录并与 Dify 联动运行指南
要让 VLLM 容器(运行大模型引擎)与 Dify 容器正常通信,需创建一个Docker 自定义网络,将两个容器加入同一网络:同一网络内的容器可通过 “容器名” 直接访问(无需记 IP 地址),通信延迟更低。Dify 默认通过创建的网络与容器通信,需将 Dify 的核心容器(dify-api)加入之前创建的# 将dify-api容器加入llm-network。
2025-09-21 17:54:29
989
原创 Windows Docker 环境下 VLLM 大模型存储最优解:Docker-Desktop 实例目录与多容器协同挂载方案
指C:\Users\<用户名>\AppData\Local\Docker\wsl\data\ext4.vhdx),采用 ext4 文件系统,与 Docker 引擎同属一个 WSL 实例,IO 交互无跨实例损耗。指用户通过 Microsoft Store 安装的 Ubuntu 等 WSL 发行版目录(如),与实例同属 WSL2 环境,但属于独立实例。Docker 卷本质存储在。
2025-09-21 17:47:25
1311
原创 Windows 下 WSL2 生态:Ubuntu/Docker Desktop 关系、VLLM 部署差异与性能解析
方案选择优先级若需与 Docker 中的 Dify 高效协作、追求环境稳定(跨设备 / 团队),优先选Docker Desktop(VLLM 镜像),虽有轻微性能损耗,但通信效率与维护成本更优;若追求极致推理速度(如毫秒级延迟)、能自主解决依赖冲突,可选Ubuntu 实例(Conda),需额外配置与 Dify 的网络通信。存储位置铁律:无论哪种方案,大模型必须存在WSL2 内部文件系统。
2025-09-21 10:52:34
1546
原创 在 Windows Docker 中通过 vLLM 镜像启动指定大模型的方法与步骤
本文汇总了在 Windows Docker 环境下,利用 vLLM 镜像通过docker run命令启动自定义大模型(如 Qwen3-32B-AWQ)的完整流程,包含及常见问题排查,确保覆盖历史操作中的关键配置与坑点。
2025-09-20 18:20:26
1983
原创 Windows 系统中如何通过 Docker 调用 CUDA 和 cuDNN 加速大模型推理
装驱动:Windows 端安装支持 WSL2 的 NVIDIA 驱动;配 WSL2:安装 / 升级 WSL2,验证nvidia-smi能显示 GPU;装 Docker:安装 Docker Desktop,开启 GPU 支持和 WSL 集成;跑容器:使用官方预装 CUDA/cuDNN 的镜像,加--gpus参数运行;做验证:通过nvidia-smi或框架(PyTorch/vLLM)测试 GPU 可用性。
2025-09-20 12:47:15
1579
原创 在Windows中的Docker与WSL2的关系,以及与WSL2中安装的Ubuntu等其它实例的关系
Docker 与 WSL2 的关系:Docker 深度依赖 WSL2 作为底层运行环境,两者共享 CPU、内存、存储等资源,通过全局配置实现高效协作。Docker 与其他 WSL2 实例的关系:两者在资源分配上是竞争关系,但通过实例隔离和网络配置可实现共存。开发中可利用文件挂载和网络互通功能,结合 Docker 的容器化优势与用户实例的工具链生态,提升效率。核心原则:合理规划 WSL2 的全局资源,隔离 Docker 与其他实例的存储路径,优化网络通信方式,是确保系统稳定运行的关键。
2025-09-19 18:24:45
1283
原创 Lightrag 文档处理不成功(httpx.ReadTimeout 为主)的解决步骤与方法总结
基础验证:Ollama 服务是否存活(主机 curl 测试);网络连通:容器能否访问主机 Ollama(容器内 curl 测试);配置生效:超时 / 模型参数是否加载(日志验证);文件优化:纯文本测试→Excel 简化→轻量模型;底层验证:容器内模拟请求→主机资源优化;代码兜底:修改源码强制加超时。按此流程逐步排查,可高效解决 Lightrag 文档处理超时问题。
2025-09-18 17:03:40
1068
原创 如何在 VS Code 中对比文件和文件夹
文件对比:优先用 VS Code 内置功能,通过「选中文件右键」或「命令面板」快速触发,满足日常单个文件差异查看需求;文件夹对比:依赖等插件,核心步骤为「安装插件 → 选择两个文件夹 → 解读差异报告」,适合项目版本间、跨目录的批量文件对比场景。
2025-09-17 19:55:47
2134
原创 Ubuntu 系统 MySQL 全面管理指南(认证、用户、密码、服务及安全)
在 Ubuntu 系统中管理 MySQL 需结合其服务特性(systemctl管理)、版本差异(MySQL 5.7/8.0 核心区别:如认证插件、权限表),以下从及常用操作展开,覆盖核心场景与注意事项。
2025-09-17 14:41:44
1224
原创 在 Windows 10 中通过 WSL2 安装 vLLM 部署本地大模型的方法和步骤
通过 WSL2 在 Windows 10 中部署 vLLM 的核心优势是兼顾 Windows 生态与 Linux 环境的 GPU 加速能力,适合需要在 Windows 下开发但依赖 vLLM 高性能推理的场景。相比原生 Windows 部署(Ollama 等工具),该方案性能更优(接近原生 Ubuntu),且支持更大模型和量化优化。若追求极致性能,建议直接使用 Ubuntu 系统;若必须依赖 Windows 工具链,WSL2 + vLLM 是当前最优选择。
2025-09-16 20:48:51
3168
原创 在 Ubuntu 22.04 系统中,如何安装最新版 MySQL和Navicat Pro 17
在 Ubuntu 22.04 系统中,安装和。
2025-09-15 20:28:14
949
1
原创 MySQL 8.0 在 Ubuntu 22.04 中如何将启用方式改为mysql_native_password(密码认证)
本次问题是 Ubuntu 22.04 下 MySQL 8.0 的默认安全配置认证)导致,并非操作错误;核心解决步骤是 “切换认证方式 + 设置密码”,这是用 Navicat 连接 MySQL 的必要前提;记牢设置的 root 密码,后续 Navicat 连接、管理数据库均需使用。
2025-09-15 20:02:47
1177
原创 Vllm启动大模型时可以设置参数的详细总结
核心必选参数model(模型路径)、port(端口)、(量化模型)、(多卡)。性能优化关键(批次总 token)、(批次请求数)需根据 GPU 显存调整。长文本适配(上下文总长)和(滑动窗口)需配合模型支持度设置。根据模型类型(大语言模型 / 嵌入模型)和硬件环境(GPU 数量、显存)合理组合参数,可最大化 VLLM 的推理效率和稳定性。
2025-09-14 17:32:08
3212
原创 Vllm中max-num-batched-tokens 和max-model-len 的区别和联系
是 “单请求的天花板”:限制单个请求的总 tokens 长度,由模型能力决定,是不可突破的硬限制(否则请求失败)。是 “批次的天花板”:限制一批次请求的总 tokens 之和,由 GPU 显存决定,用于优化性能(在显存范围内尽可能提高吞吐量)。两者配合的核心原则:单个请求不超,批次总和不超,才能既保证模型稳定运行,又充分利用 GPU 资源。例如,在部署 Qwen3-32B 时,若设置(模型支持的长上下文),
2025-09-14 17:14:17
1574
原创 在 Ubuntu 系统中基于 Miniconda 安装 VLLM 并启动模型 + Dify 集成指南
本文将详细介绍在 Ubuntu 系统已安装 Miniconda 的前提下,通过虚拟环境安装 VLLM、两种启动模型的方法(含参数详解),以及 Docker 部署的 Dify 如何添加 VLLM 模型,全程步骤清晰且命令可直接复制。
2025-09-13 16:37:23
1438
原创 Ubuntu 系统中 Miniconda 虚拟环境(以 SGlang 为例)的备份与还原详细总结
对比维度方案 1:手动复制文件夹方案 2:conda-pack 打包路径要求恢复路径必须与原路径完全一致路径可灵活选择(自动修复依赖)适用场景短期应急、同路径恢复长期备份、跨机器 / 跨路径迁移操作复杂度简单(仅 cp 命令)中等(需安装工具,打包解压)还原成功率中等(路径错则失效)极高(官方工具,修复路径)推荐度⭐⭐⭐⭐⭐⭐⭐最终建议若仅临时备份且不改变路径,可用方案 1;若需长期备份、跨机器迁移,或担心路径问题,优先选择方案 2(conda-pack)
2025-09-13 12:08:59
900
原创 在 Ubuntu 系统中利用 conda 创建虚拟环境安装 sglang 大模型引擎的完整步骤、版本查看方法、启动指令及验证方式
通过以上步骤,可在 Ubuntu 中高效安装并验证 sglang 服务,利用清华源解决网络问题,同时通过参数配置适配硬件环境。服务启动成功后(终端显示。(版本号随更新变化)
2025-09-12 21:23:11
1016
原创 Ubuntu 系统安装 Miniconda 完整方法与注意事项
选择对应系统版本(Ubuntu 选。命令(需确保网络稳定),文件会保存到。Miniconda 安装包为。),默认保存到用户目录的。(建议先进入目标目录,如。若忘记下载路径,可通过。
2025-09-12 21:03:48
1212
原创 DIFY 项目中通过 Makefile 调用 Dockerfile 并使用 sudo make build-web 命令构建 web 镜像的方法和注意事项
DIFY 项目中通过Makefile调用Dockerfile并使用。
2025-09-11 18:12:13
688
原创 Ubuntu22.04如何安装新版本的Node.js和npm
在 Ubuntu 22.04 上安装新版本的 Node.js 和 npm,推荐使用或,这两种方式都能方便地获取最新版本。
2025-09-11 09:17:42
1112
原创 在ubuntu系统中如何将docker安装在指定目录
在 Ubuntu 系统中,Docker 默认安装路径(程序文件)通常在/usr/bin等系统目录,而核心数据(镜像、容器、卷等)默认存储在。若需将。
2025-09-10 19:25:39
750
原创 sudo apt update && sudo apt upgrade -y 两个命令的作用
命令会将已安装的软件包升级到最新版本,但通常也不会导致系统版本的重大变化,只是对已安装软件包进行版本更新,除非涉及到一些关键系统组件的更新可能会带来一些小版本号的变化,但不会像系统升级那样改变整个系统的大版本。命令本身不会对系统版本产生直接影响。它只是更新本地的软件包索引信息,让系统了解软件源中可用的软件包版本情况,并不会安装或升级任何软件包,因此不会改变系统的实际版本号。在 Ubuntu 中安装软件前需要先执行。在 Ubuntu 系统中,
2025-09-10 18:56:44
697
原创 如何判断安装的是 cuDNN FULL 版本还是 JIT 版本
标识即可清晰区分两者,无需额外工具检查。在 Ubuntu 系统中,使用。假设输出中包含以下包,说明是。假设输出中包含以下包,说明是。
2025-09-10 11:24:52
715
2
原创 在 Ubuntu 22.04 系统(CUDA 12.9)中,通过本地DEB 包安装 cuDNN 9.13.0 的方法步骤
以下是在 Ubuntu 22.04 系统(CUDA 12.9)中,通过安装 cuDNN 9.13.0 的完整步骤,核心包含 GPG 密钥配置与包安装验证,确保每一步可执行。
2025-09-10 11:07:14
1222
1
原创 Ubuntu22.04系统中各文件目录的作用
系统和程序在运行过程中产生的临时数据会存放在这里,比如解压缩临时文件、程序运行时产生的临时缓存文件等。全称是 “service”,用于存放系统提供服务时使用的数据,比如 Web 服务器存放网站内容的目录、FTP 服务器存放共享文件的目录等。存放系统和程序运行时需要的共享库文件,比如 C 标准库文件。它提供了一种访问内核对象及其属性的接口,用于展示系统硬件设备的信息和状态,比如设备树、设备驱动程序信息等。目录用于存放 32 位的共享库文件,在 64 位系统中,如果需要运行 32 位程序,就需要这些库文件。
2025-09-09 10:20:49
980
原创 在Linux系统中图形化显示GPU显存利用率的软件
是一个类似于 htop 的图形化终端工具,能够以动态界面的形式展示 GPU 的性能指标,包括温度、显存使用率、GPU 使用率等,支持 NVIDIA、AMD、Intel 等多种 GPU 厂商。不同 Linux 发行版安装命令不同,Debian 和 Ubuntu 系统可使用。:是一个交互式 NVIDIA 设备和过程监控工具,具有丰富多彩且信息丰富的界面,可不断更新设备和进程的状态,能显示 GPU 显存利用率、进程信息等,还提供了条形图和历史图表等可视化方式。
2025-09-09 09:31:30
795
原创 如何解决Ubuntu22.04安装Docker后使用Timeshift进行备份非常慢的问题
在 Ubuntu 22.04 中安装 Docker 后 Timeshift 备份变慢,核心原因是,这些数据体积大、小文件密集,会显著增加 Timeshift 的备份量和 IO 开销。
2025-09-08 19:53:54
914
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅