- 博客(976)
- 资源 (12)
- 收藏
- 关注
RSS订阅
原创 个人分享及推荐
分享这里是我在平时阅读到的好书、好资料，我把他们都放在此处，也算是我自己的一个收藏夹。所有的这些都是我自己阅读完了，认为质量很不错，对成长有帮助的文章，希望他们也能给你带来成长
2020-01-11 20:15:07
486
原创 Cloudflare Clef：开源、多模态、快到飞起来的决策模型
Cloudflare 推出开源决策模型 Clef 及其轻量版 Clef-flash，对标 Jev。Clef 基于 Qwen 底座，采用 prefill-only + 并行 schema 打分架构，支持多模态输入、64k 上下文，延迟低至 38.8ms（中位），在分类、工具调用等任务上超越 Jev。虽通用底座在泛化推理略逊，但结合自托管与 Apache 2.0 开源，更适合合规需求场景。技术上通过两阶段注意力路由实现精准决策，整体表现均衡，标志着决策模型进入按需选型新阶段。
2026-10-13 21:00:00
18
原创 Jev 到底是什么：一个不写文章的 AI，为什么突然火了
2026年9月，旧金山初创公司TypeSafe AI推出名为Jev的专用决策模型，不聊天、不生成内容，仅专注快速、精准的判断任务。基于“系统一”思维，它以单次前向传播返回概率与置信度，杜绝格式幻觉，延迟快193倍、成本低444倍，且置信度经校准，可直接用于自动化流程。对比通用大模型，其稳定性与效率显著提升。虽面临Cloudflare Clef等竞品挑战，但其在文本分类、工单路由、内容审核等场景中展现出不可替代价值，标志着AI从“生成”迈向“决策”的关键跃迁。
2026-10-10 20:00:00
364
原创 分类任务解决样本数据不均衡的落地实战指南
我们先明确工业界的真实数据现状，以常见的内容风险分类任务为例：正常文本（0类）：48900+ 样本各类违规小众风险（6类）：合计仅300+ 样本这种上万 vs 几百的悬殊分布，就是典型的长尾不均衡数据。很多新手会陷入误区：觉得只要数据总量够，模型就能训好。1. 真实业务分类任务，数据不均衡是常态，准确率高不代表模型可用，切勿被虚假指标误导；2. 大模型微调、文本/语音业务场景，优先训练集重采样，简单稳定、落地效果最优；3. 传统CV小模型可选用 Focal Loss，无需改动数据，迭代效率更高；
2026-09-28 23:08:42
378
原创 别再把 AI 当高级搜索引擎：用好 WorkBuddy 的十条心法
大多数人误用AI，将其当作会打字的实习生，而非能承担复杂任务的项目经理。真正高效的关键在于：清晰表达需求、合理拆解任务、迭代优化输出，并通过自动化释放人力。核心是重构人与AI的分工——让AI执行机械劳动，人类专注决策与创造。掌握“做什么+有什么+怎么样”等十条心法，可显著提升产出质量与效率。
2026-09-23 22:15:46
136
原创 crontab 定时任务到点未执行排查实录：一次时区问题引发的
本文分享了因系统时区设置为UTC导致crontab定时任务执行异常的排查过程。用户发现stop脚本未执行，经日志分析确认任务被触发但时间错位（实际执行时间为UTC 10:38，对应北京时间18:38）。根源在于crontab默认按系统本地时区解析时间。解决方案为：在crontab顶部添加CRON_TZ=Asia/Shanghai或修改系统时区为Asia/Shanghai。经验总结：排查时应查看/var/log/cron日志，注意输出重定向，务必确认时区设置，避免“准时不执行”问题。
2026-09-18 11:29:47
356
原创 基于LlamaIndex本地知识库 RAG 实战
本文基于LlamaIndex实现无需微调的大模型私有知识增强方案，通过构建本地知识库与高阶RAG架构（混合检索、交叉重排序、智能分块、查询重写、Agentic RAG），有效解决医疗、法律、企业知识等场景下的幻觉与知识截止问题。结合Streamlit快速搭建可视化交互界面，实测表明RAG可将幻觉率降至近乎零，具备强泛化性与生产落地能力。
2026-09-09 23:09:00
274
原创 语音 AI 落地指南：从 Wav2Vec2 特征提取实战
本文系统梳理语音AI四大核心技术（ASR、KWS、SV、音频生成）的边界与落地：从16kHz音频采样基础出发，剖析Wav2Vec2自监督特征提取原理，详解ASR/KWS/SV工程流程、向量数据库选型，并延伸至扩散模型音频生成逻辑，结合PyTorch代码构建完整知识闭环。
2026-09-08 23:25:08
333
原创 从 localStorage 到 Chrome 商店：一个 HTML 文件的 7 次重构
用WorkBuddy构建健康打卡+记账工具，从单文件HTML到Chrome扩展，7次重构皆因坑：在线页非云端、SDK lint限制、多用户数据隔离、Supabase RLS验证、MV3 CSP禁内联脚本、扩展ID算法编码差异。坑点隐蔽，踩后顿悟，终成功打包上架。
2026-09-07 18:44:54
623
原创 SenseNova U1.5 Lite 实战
SenseNova-U1 不只是又一个开源多模态模型。去掉 VE 和 VAE，直接在像素-词元空间做端到端统一，是可行且高效的。无编码器设计能同时保留语义和像素表征（COCO 重建 PSNR 31.56）原生 MoT 让理解和生成协同进化，本质冲突极小原生多模态架构展现出极高的数据规模化效率如果这条路线在更多工作中被复现和验证，未来的多模态架构会简化很多——一个模型、一套权重、一次推理，覆盖理解、生成、编辑的完整闭环。目前图文交错生成仍是 beta 特性，效果还没达到独立文生图流水线的水平；
2026-09-07 10:00:49
541
原创 智能客服实践：微调+RAG双引擎架构落地
针对采购智能客服场景，提出微调+RAG双引擎融合架构：固定问答用QLoRA小样本微调，确保标准合规；动态数据用LlamaIndex实时检索，解决幻觉与滞后；高精度场景以检索兜底。
2026-09-06 13:03:54
362
原创 大模型交付必备评测体系OpenCompass
大模型微调后需标准化评测，OpenCompass作为工业级综合评测基准支持通用与私有业务数据集，提供多维度指标和生成式任务评估。通过虚拟环境部署、自定义JSONL数据集及CLI配置，可生成可溯源的验收报告，并支持vLLM加速调优，是模型交付与选型的关键工具。
2026-09-05 11:52:30
215
原创 本地大模型私有化落地实战｜心理问诊系统全流程开发
本项目旨在搭建一套纯本地化、隐私绝对可控、具备高共情能力的智能心理问诊系统。该系统需实现用户情绪疏导、心理问题答疑以及基础心理咨询辅助功能。此架构具备极强的泛化能力，可无缝迁移至企业智能客服、行业专属问答机器人等各类生成式 AI 场景。掌握需求分析 ➔ 数据治理 ➔ 模型微调 ➔ 效果评估 ➔ 量化部署的全链路 AI 工程能力。在架构博弈中，核心在于技术为场景服务。对于需要快速迭代、量化评估以及复杂对齐策略的规模化落地，LLaMA Factory 是最佳选择；
2026-08-31 06:59:47
306
原创 零代码搭建多智能体协作系统：AutoGen Studio 从入门到实战全教程
在菜单中，点击New ModelSkills 是赋能智能体执行真实动作的核心机制。技能本质为一段合规的 Python 代码。在菜单中，点击New Skillimport os"""将智能体生成的最终分析报告保存为本地 Markdown 文件。
2026-08-28 07:22:40
363
原创 从零落地离线私有化 RAG：LlamaIndex 0.10.x + 本地开源大模型工程实战
本文介绍了离线私有化RAG（检索增强生成）技术在企业级应用中的优势，包括数据零泄露、无API调用成本以及实时知识更新能力。文章基于LlamaIndex 0.10.x重构后的架构，详细拆解了从环境隔离、模型选型到本地向量索引构建的全流程工程方案。对比了RAG与监督微调（SFT）的优缺点，重点阐述了LlamaIndex的核心演进、虚拟环境搭建、依赖版本锁定、本地模型下载与配置，以及私有知识库构建的完整链路。方案采用HuggingFace本地模型，确保数据隐私与高效检索生成能力。
2026-08-25 23:36:28
206
原创 LlamaIndex 全栈实战指南：架构解构、RAG 核心原理与私有知识库工程化落地方案
本文介绍了大语言模型（LLM）面临的三大工程瓶颈及检索增强生成（RAG）作为私有数据问答的最佳解决方案。重点剖析了LlamaIndex框架的核心架构和配置革新，提供了本地私有知识库落地的完整实践方案。 关键内容： RAG技术相比微调（SFT）在数据更新成本、幻觉抑制等方面优势明显 LlamaIndex五大核心组件构成的数据处理闭环 新版采用模块化设计，以Settings对象替代ServiceContext 详细演示了从文档加载、向量存储到检索问答的全流程实现 支持ChromaDB持久化存储和多格式文档处理
2026-08-24 22:45:24
378
原创 多模态大模型视听生成本地实战
从纯文本交互到跨模态感知，多模态大模型（MLLM）正成为 AI 从语言对话走向全场景智能的关键枢纽。本文从核心分类、对齐机制、任务矩阵到本地部署，系统拆解多模态技术的工程化落地全流程。
2026-08-23 16:00:48
279
原创 大模型落地选型GGUF 量化与 Ollama 部署指南
摘要： 本文探讨生成式AI工程化落地中的关键权衡与技术方案，提供从微调选型到本地部署的完整链路。首先对比SFT微调与RAG检索增强的适用场景，推荐采用SFT+RAG复合架构。随后解析LoRA与QLoRA的高效微调原理及实测性能，QLoRA可在4-bit量化下显存降低45%且精度损失≤1%。模型评估需结合客观指标（BLEU-4、ROUGE-L）与主观评判（GPT-4o打分）。
2026-08-22 15:30:00
350
原创 大模型量化落地全解：原理、实操、效果对比与评估调优指南
大模型量化技术解析与实践指南 本文系统介绍了大语言模型(LLM)量化技术的核心原理、算法演进和落地实践。量化技术通过将高精度浮点权重映射为低精度整数，可显著降低显存占用(50%-75%)并提升推理速度。文章详细阐述了非对称均匀量化的数学表达、GPTQ/AWQ等主流PTQ算法的演进，以及不同量化等级(INT8/INT4/INT2)的取舍边界。实践部分提供了稳定的环境构建方案，并通过LLaMA Factory工具展示了GPTQ量化流程。
2026-08-22 09:50:17
385
原创 数字人JoyVASA 实战记录
JoyVASA是一个由京东健康与浙江大学联合开源的扩散模型驱动的音频驱动肖像动画框架，能够将单张静态图像与一段音频合成为具有表情、唇形同步和头部运动的视频。该框架支持真人肖像和动物动画，适配中英文音频，并通过两阶段解耦技术实现长视频稳定性。其技术核心包括：解耦面部表征、扩散Transformer生成运动序列，以及基于关键点的渲染。环
2026-08-20 23:30:00
717
原创 数字人EchoMimicV3 落地实践
模型下载、库版本兼容、显存精细化管控、参数调优、输入素材标准化。大量报错不是模型本身缺陷，而是环境与参数配置问题。彻底抛弃 RetinaFace+TensorFlow，使用 dlib 人脸检测，规避大量底层算子报错；mmgp 显存优化脚本虽能降低权重显存，但补丁劫持极易带来版本冲突，生产环境谨慎使用；Flash 版本仅适合快速预览，正式业务输出优先 Preview 原版；32G 显卡优先 512 分辨率，不要直接上 768，减少 OOM 概率。demo。
2026-08-19 20:00:00
374
原创 Llama 3 私有化落地全栈实战：从 Ollama 极速部署到 LLaMA Factory LoRA 定制微调
本文介绍了一套基于Llama 3大模型的本地化部署与轻量微调完整方案。主要内容包括： 推理部署：使用Ollama实现零门槛本地API服务，详细对比了Ollama与vLLM的特性差异，并提供环境配置、模型拉取和OpenAI风格流式对话的工程实现代码。 轻量微调：通过LLaMA Factory框架实现低算力消耗的LoRA微调，对比分析了全量微调、局部微调和LoRA三种范式的参数更新量与显存需求，深入讲解LoRA的数学原理，并给出训练数据集构造和微调流程的完整指导。 该方案显著降低了生成式AI落地的硬件门槛和技术
2026-08-16 17:44:05
300
原创 大模型开发实战：Llama 3 本地部署完整指南
本文探讨了开源大语言模型（LLM）的工程化落地，重点分析了模型参数规模分类、Transformer架构演进及主流开源生态。文章提出端侧小模型（<3B）、中型轻量大模型（7B-14B）和前沿强推理大模型（>70B）的三级分类框架，并详细对比了Meta Llama 3和通义千问Qwen 2.5的技术特性与应用场景。针对实际部署，文章提供了Llama 3 8B模型的本地部署全流程方案
2026-08-16 16:43:16
217
原创 服务器选型、微调范式、训练优化与环境搭建
本文系统梳理了从云端到本地的模型微调全流程解决方案。首先对比了ModelScope免费平台与AutoDL付费平台的特性，并介绍VS Code远程开发配置方法。其次详细分析了全量微调、局部微调、增量微调三种范式的适用场景与性能差异。然后提供了工业级训练优化技巧，包括后台训练、可视化监控和混合精度训练。最后针对常见问题给出排查建议，并详细说明本地环境搭建步骤，涵盖Anaconda安装、PyTorch版本匹配和CUDA配置等关键技术要点，为不同阶段的开发者提供从入门到进阶的实践指南。
2026-08-03 23:56:25
268
原创 GPT 中文文本生成指南：从开箱调用到定制化微调，吃透 Transformer 解码器核心 logic
本文深入探讨了Transformer解码器架构在生成式大模型（如GPT系列）中的核心作用，重点解析了自回归生成的底层原理与工程实践。文章首先对比了编码器与解码器的关键差异，强调因果注意力机制如何确保单向信息流。随后基于Hugging Face生态，详细演示了GPT-2的中文生成实践，包括五种核心解码策略（贪婪搜索、Top-P/K采样、温度调节、重复惩罚）的应用。通过数学公式揭示了自回归建模的本质，并完整展示了古诗词生成任务的微调全流程，涵盖数据集构建、标签错位处理、混合精度训练等关键技术要点。
2026-08-03 22:50:33
532
原创 BERT 进阶微调实战：多分类改造、超长文本适配与自定义词表全流程指南
本文针对BERT模型在工业级NLP任务中的三大进阶问题（多分类任务、超长文本处理、自定义词表扩展）提供完整解决方案。通过微博情绪多分类数据集实战，详细讲解自定义Dataset封装、模型结构改造（冻结主干+动态分类层）、训练-验证闭环等流程。针对超长文本场景，提出修改max_position_embeddings配置与增量微调策略，平衡性能与算力消耗。同时对比轻量级模型与大语言模型的适用边界，强调工业落地需结合业务需求与硬件条件选型。
2026-08-02 17:04:16
380
原创 从零上手 BERT 增量微调｜Hugging Face 中文情感分类完整实战教程
读取本地csv文件Windows 系统注意编码：优先 UTF-8，乱码时切换 GBK，不建议手动转码。数据集：中文酒店评论二分类数据集训练集：9600 条；验证集：1200 条；测试集：1200 条标签：0=negative（负面评价）、1=positive（正面评价）负向：住了一天简直就像噩梦，没有一点让我满意的地方正向：外观还是比较漂亮大方的，价格也很公道。
2026-07-27 00:47:15
292
原创 深入探索 Hugging Face核心组件及实践
本文完整梳理了 Hugging Face 整体生态、硬件环境配置、Transformer 两大模型核心区别，搭配文本生成、文本分类、抽取式问答三套可直接运行实战代码，覆盖企业最常用三类 NLP 业务场景。借助库高度封装的 pipeline 工具，零基础开发者也能快速完成模型本地加载、离线推理，无需复杂神经网络编码，大幅降低大模型上手门槛。从工程落地角度看，直接调用开源预训练模型只能解决基础通用需求；面向电商、金融、医疗等垂直行业，想要模型贴合业务专属话术，仍需要基于自有标注数据集完成微调训练。
2026-07-26 19:00:00
187
原创 LangGraph 深度解析：用图结构构建下一代智能代理与多智能体系统
TypedDict：轻量快捷，适合大多数场景；：支持默认值、数据校验，适合对数据严谨性要求高的场景。默认情况下所有节点共享全局状态，也支持创建私有状态通道用于节点间内部通信，实现逻辑隔离。归约器是状态管理的核心，它决定了当多个节点对同一个状态键产生更新时，如何合并结果。默认归约器：直接覆盖原值，适用于单一写入者的字段；自定义归约器：比如消息列表常用的，会将新消息追加到列表中，而不是覆盖历史记录。# 使用 add_messages 归约器，消息会自动追加。
2026-07-26 11:59:21
308
原创 基于 LangChain + RAG 的三大实战案例：从文档问答到数据库智能检索
本文介绍了基于RAG（检索增强生成）技术的三个实战案例，使用LangChain框架构建本地文档、维基百科和数据库的智能问答系统。 技术栈：采用Streamlit前端、LangChain编排、FAISS向量数据库、OpenAI大模型和嵌入模型，支持多格式数据解析。
2026-07-15 07:33:05
291
原创 LangChain 实战指南：回调系统、自定义组件与有状态对话全落地
本文深入探讨了LangChain框架的高级自定义能力，帮助企业应对复杂LLM应用场景。主要内容包括： 回调系统核心：详解LangChain全链路事件监听机制，覆盖模型调用、链式执行、工具调用等全生命周期事件，提供完整的回调事件清单和处理方法。 两种回调注入方式：比较构造函数回调（全局生效）和运行时请求回调（单次生效）的特点与适用场景。 实战案例：通过自定义日志回调类和流式Token输出示例，展示如何监控全生命周期事件和实现个性化流式处理。 这些高级功能可有效解决企业级应用中的定制化需求，如私有文件处理、复杂
2026-07-12 13:25:31
226
原创 从零吃透RAG检索增强生成：核心原理、文档处理与实战
RAG技术：低成本解决大模型幻觉与知识滞后问题 检索增强生成（RAG）技术通过结合语义检索与大模型生成，有效解决原生大模型的幻觉、知识滞后和领域适配差三大痛点。相比模型微调，RAG无需训练、支持实时更新，能快速整合外部知识库。其核心流程包括文档加载、文本分割、向量化存储、语义检索和增强生成。本文详解了RAG原理、多格式文档加载方法（如PDF、CSV、HTML）以及两种主流文本分割策略（递归字符分割和语义分割），并提供了可落地的代码示例，帮助开发者快速构建高精度问答系统。
2026-07-02 23:00:00
517
原创 OpenResty+Lua 实战：大模型服务精准并发限流与超量自动降级方案
本文介绍了基于OpenResty+Lua的大模型推理服务流量调度方案，解决GPU资源不足时的请求自动降级问题。相比原生Nginx方案，该方案具有毫秒级精准并发统计、零延迟切换、动态路由等优势。核心实现包括：1）封装阿里云Qwen3 API为统一接口；2）通过OpenResty共享内存实现原子级并发计数；3）动态路由逻辑在请求接入时即时判断，超并发请求自动切换至备用服务。该方案已在生产环境落地，支持10个并发本地推理，超额请求无缝降级至云服务，全程业务无感知且不丢请求，为大模型服务提供了轻量级高可用的流量治理
2026-06-27 13:30:00
246
原创 TTS 文本预处理全拆解：4款工业级开源工具横向对比+实操干货
文本归一化(TN)是语音合成(TTS)中决定音色自然度的关键环节，主要解决数字、日期、货币等非标准文本的口语化转换问题。文章介绍了4种经过验证的文本预处理方案，重点推荐WeTextProcessing和cn2an两款工具。WeTextProcessing是开源生产级方案，提供完整的文本归一化与逆归一化流程，支持中文90%以上的转换场景；cn2an则是轻量级数字转换利器，专注数字与中文互转，具有零依赖、高性能的特点。文章还提供了核心原理、功能对比和接入示例，帮助开发者快速实现高质量的文本预处理。
2026-05-27 19:00:00
551
原创 LangChain基础学习笔记
摘要：LangChain是一个模块化框架，通过LCEL管道操作符（|）将大模型、提示词和工具集成起来，支持结构化输出和工具调用。其核心组件包括Chat Models（对话模型）、Messages（消息模型）和LangGraph（状态机）。LCEL用于构建线性链，而LangGraph则支持循环、判断等复杂流程，赋予AI持久化记忆和纠错能力。调试工具LangSmith可监控AI内部运行流程。新手建议先掌握LCEL基础，再逐步学习LangGraph和工具调用等高级功能。
2026-04-24 05:35:34
472
原创 OpenAI开发初攻略：从Token基础到实战API
本文全面介绍OpenAI API开发的核心要点，涵盖Token计费机制、API参数调优、两种主流调用方式及高阶开发技巧。首先解析Token作为计费单元和文本处理最小单位的重要性，提供实用换算公式和统计方法。其次详解六大核心参数的作用与调优建议，包括响应长度控制、输出随机性调节等。文章对比REST API原生调用和官方SDK调用两种方式，提供完整可运行代码示例。最后分享JSON模式、流式响应等进阶技巧，帮助开发者优化成本并提升应用实用性。新手可快速入门，老手能查漏补缺，全面掌握OpenAI开发基础。
2026-03-29 16:36:48
584
原创 GraphRAG：知识图谱赋能的RAG技术革新与实践指南
系统阐述了GraphRAG技术的演进历程、核心架构与前沿实践。传统RAG存在关系理解缺失、多跳推理薄弱等局限，而GraphRAG通过知识图谱的语义网络结构实现突破性提升。文章详细解析了三阶段架构（知识图谱构建-图谱检索-增强生成），对比分析了Microsoft GraphRAG等四大前沿框架的技术特点，并建立了覆盖检索质量、生成效果与系统性能的评估体系。研究表明，GraphRAG在复杂查询场景下可使事实一致性提升8%-20%，特别适用于金融风控
2026-03-10 23:30:00
1363
原创 RAG系统评估全指南：从三元组框架到实操落地
摘要： 检索增强生成（RAG）技术已成为企业级AI应用的核心方案，但其落地效果依赖科学评估。本文提出基于RAG三元组的评估框架，从上下文相关性（检索质量）、忠实度（生成可靠性）、答案相关性（用户价值）三个维度构建全链路评估体系。通过分层评估（检索评估聚焦精确率/召回率等指标，响应评估量化端到端表现）精准定位问题根源，如检索噪声或生成幻觉。该框架为开发者提供标准化评估方法，确保RAG系统在金融、医疗等高要求场景中的准确性与实用性。
2026-03-06 23:30:00
563
原创 LLM 格式化生成：连接自然语言与程序化逻辑的关键桥梁
摘要： 大语言模型（LLM）的非结构化文本输出在实际业务中往往需要转换为结构化数据（如JSON、XML）以满足下游需求。本文系统解析了格式化生成的核心价值与实现方案，涵盖三大场景：RAG驱动的交互、自然语言转API调用和数据自动提取。重点介绍了LangChain的Output Parsers（如PydanticOutputParser）、LlamaIndex的Pydantic程序等框架化方案，以及轻量化的提示工程技巧（明确格式要求、JSON Schema约束等）。此外，深入探讨了Function Calli
2026-02-28 20:00:00
948
原创 构建生产级 RAG 系统：检索技术的三大进阶法宝
摘要：标准RAG流程中的向量检索存在相关性错位、信息噪声和低容错性三大痛点。生产级解决方案需引入"过滤-提纯-验证"工序，通过重排序、压缩和校正将准确率提升至90%以上。本文重点分析四种重排序技术：1）RRF算法实现无监督结果融合；2）RankLLM利用大模型语义理解能力排序；3）Cross-Encoder提供高精度但高成本的交互式重排；4）ColBERT通过延迟交互实现高效排序。不同技术各具优劣，需根据场景需求在精度、成本和效率间权衡，推荐构建"多检索器召回→粗排→精排&qu
2026-02-26 19:23:42
896
Stefano Mattoccia 的讲义 Stereo Vision: algorithms and applications
2016-09-14
智能时代 吴军 .mobi 电子书
2016-10-16
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人