- 博客(76)
- 资源 (7)
- 收藏
- 关注
RSS订阅原创 DeepSeek-V4-Flash × 昇腾 PD 分离 × Mooncake 外部 KV 池：external 命中乱码排障全记录
这次排障最大的价值，不是"调参数调好了"，而是把一条未验证的技术路径，用实验钉死成了确定的边界PD 分离本身可用外部共享 KV 池对 hybrid V4-Flash未验证且实测乱码int8 / MTP / 介质 / 容量 / 超时都不是根因真正该做的，是锁版本 → 过闸门 → 分级加回特性最后提醒：本文所有 [推断] 部分均未经官方确认。技术判断的价值在于可证伪——带上闸门，用你自己的数据说话。
2026-08-30 10:37:17
488
原创 昇腾 910B 上 DeepSeek-V4-Flash PD 分离：KV Cache 原理、容量估算与参数调优实战
调优的本质不是"把参数拉满"，而是理解每个参数背后的物理约束，在相互冲突的目标间找平衡点：容量 vs 稳定性 → 选 0.85：吞吐 vs 激活显存/延迟 → 选 32768 甜点：长 prompt 吞吐 vs 短请求延迟 → 让短的插队CPU Offload：HBM 容量 vs PCIe 带宽 → 用 200GB 换"不重算"最重要的那条建议：别信任何估算（包括本文的数字），用你自己机器的启动日志反算，用你真实 prompt 分布跑 benchmark。数据出来了，参数自然就定了。
2026-08-30 10:33:29
590
原创 昇腾 8 卡 vLLM-Ascend + Mooncake PD 分离：两个“表面正常实则致命“的配置陷阱
结果就是部分 worker 的 KV 传输通道起不来，P 节点收不到完整的建链请求，或者发 KV 时找不到对应的目标端口，最终表现为连接被重置、请求超时、D 节点永久卡死。把它写进启动脚本，别依赖自动探测。"kv-transfer-config" 里的 IP 字段在某些版本/场景下只是"声明"或"注册"用途，实际建链时底层走的还是。"kv_port" 不是单端口，是一组端口，只查一个等于自欺欺人。"VLLM_HOST_IP" 没设对，D 节点尝试连接的 IP 可能就不是 P 节点的正确地址，导致连接失败。
2026-08-27 11:33:19
357
原创 昇腾 8 卡910b vLLM-Ascend + Mooncake PD 分离：kv_port 明明“通”但却一直异常的端口冲突复盘
第二，8 卡重新规划 kv_port。P、D 的 kv_port 保持一致，engine_id 按集群规划唯一。这种“端口通但业务不通”的最典型原因，就是 kv_port 起始端口被监听了，但 8 卡所需的连续端口组里某些端口被其它服务吃了，或者 kv_port 整体与昇腾随机 RDMA 端口区间重叠。D：kv_port 28002，kv_role kv_consumer，同样 dp/tp，delayed_free=true，kv_load_failure_policy=recompute。
2026-08-27 10:43:39
364
原创 预期拉满，危机已至：DeepSeek的十字路口
AI大模型的竞争，不是马拉松式的长跑，而是一轮轮淘汰赛。每一轮新架构发布，都是对上一轮领跑者的挑战。赢家通吃，输家边缘化，第二名没有叙事权，只有被比较的命运。智谱GLM-5.3已经证明了中国团队可以做出世界一流的大模型，而DeepSeek的V5，则决定了它自己是继续留在牌桌上，还是成为这轮淘汰赛的又一个注脚。正如我们的讨论中所说：这个行业，从来不会可怜第二名，尤其是在它还涨价的时候。
2026-08-26 09:11:29
348
原创 从GLM-5.3到DeepSeek V4 Flash，后训练正在改写游戏规则
2026年8月，AI圈经历了一场密集的“模型雨”：· 8月1日，DeepSeek V4 Flash正式版API上线（小参数，激活仅130亿）；· 8月13日，DeepSeek V4 Pro正式版转正（1.6万亿参数旗舰）；· 8月14日，智谱发布GLM-5.3（参数与GLM-5.2完全一致，仅后训练优化）；· 8月15日，阿里开源Qwen3.8-27B（270亿参数的稠密小模型）。但最反常的信号是：所有“小模型”都在疯狂逆袭，而旗舰要么没露面，要么令人失望。
2026-08-15 09:00:32
165
原创 DeepSeek Harness 公测：当大模型长出“手”和“脚”
2026年8月13日晚，DeepSeek面向全球开发者正式发布了首款智能体（Agent）产品——DeepSeek Harness（v0.1开发者预览版），并同步以MIT协议开放源代码。消息发布后半小时，其GitHub仓库星数即突破一万，截至发稿已超过三万。这标志着DeepSeek从大模型研发正式迈向Agent产品化落地。
2026-08-14 09:43:33
299
原创 论文撰写SKILLS实测三｜PaperSpine：每个阶段都是带硬关卡的 gate，审计能直接 BLOCK 你
论文编排器PaperSpine：以研究动机为先的端到端写作工作流 PaperSpine是一个强调"研究写作流程完整性"的论文编排系统，其核心特点是： 贡献优先：通过12个严格阶段（含Python护栏脚本检查）确保从研究动机到最终成稿的完整流程； 硬性关卡：在空目录测试中，完整性审计直接给出LaTeX gate: BLOCKED和13项缺失提示，体现其"反偷懒"设计； 学术诚信：明确拒绝编造数据/结论，坚持用实证结果验证研究价值。 该系统通过确定性脚本强制要求研究者先明确贡献点、设计论文框架，最后才进入写作阶
2026-08-07 14:35:46
442
原创 DeepSeek突然宣布涨价：背刺用户，还是融资后的必然选择？
DeepSeek API大幅涨价背后的三重动因 2026年8月，DeepSeek宣布大幅上调API定价，引发行业震动。涨价主要源于三大因素：1）完成500亿元融资后面临盈利压力，需维持"十个月收回成本"的定价模式；2）算力成本持续攀升，同时V4-Flash日处理量已达8万亿Token，服务器负载接近极限；3）行业整体告别价格战，智谱、阿里云等均已提价。虽然部分开发者抱怨"背刺"，但分析显示，即便涨价后DeepSeek的价格仍具竞争力（比Claude Fable 5便宜超100倍），且伴随V4-Pro正式版上
2026-08-06 20:21:45
424
原创 论文撰写SKILLS实测二｜academic-research-skills：带“反幻觉内核“的研究→写作→评审全流水线
本文介绍了一个名为academic-research-skills的学术研究工具套件，其核心特点是包含反幻觉验证机制，可确保文献引用的准确性。该套件由四个独立组件和一个跨流程的integrity_verification_agent组成，覆盖从文献检索、论文撰写到模拟审稿的全流程。工具采用CC BY-NC 4.0许可，强调AI辅助而非替代研究者的核心判断。文章展示了架构设计，并详细测试了OpenAlex等数据检索工具如何通过严格相似度检测防止AI生成虚假文献。安装支持插件市场和软链两种方式，适用于不同研究场
2026-08-06 11:55:45
334
原创 Kimi K3 技术深度解析：开源模型的又一座高峰
借助多领域多努力的RL和MOPD，其推理和代理能力得到显著增强；多领域RL：在通用任务、代理任务、编码任务三大领域，结合 低、中、高、最大 四种推理努力级别，使用可验证的环境（如GPU内核优化、专业工作流模拟、网页开发）进行训练，教会模型推理、行动、观察、验证和适应的通用循环。SiTU-GLU 激活函数：创新性地结合了 Tanh 的平滑限幅和 Sigmoid 的门控特性，平滑地限制了激活输出，避免了 SwiGLU 的无界增长问题，同时保持了其近似线性的局部响应特性，提升了训练稳定性。
2026-07-30 18:31:02
282
原创 论文SKILLS实测系列一、nature-skills：把“中式论文腔“润色成 Nature 风格
本文介绍了一套面向Nature期刊论文写作的全流程技能工具集nature-skills，包含11个子技能模块（读文献、写作润色、科研绘图、审稿模拟等）。其核心创新是"静态层+动态路由"架构：静态层存储可复用的内容模板与风格规范，动态路由根据论文类型、章节、语言和期刊自动加载对应规则。测试显示该工具能有效将生硬的中式表达转化为符合Nature期刊要求的专业学术语言。工具开源且模块化设计，支持从文献阅读到论文撰写、图表制作、审稿回复的全链路科研工作流。
2026-07-29 20:44:17
545
原创 大模型智能体评测实战：从框架选型到离线部署与优化
摘要： 随着AI智能体从简单问答进化为复杂的多轮交互系统，传统评测方法已失效。本文提出构建自动化、可量化的评测体系，并推荐主流框架选型：DeepEval（日常开发）、OpenAgent Eval（深度诊断）、AgentBench（学术研究）、Exgentic（横向对比）。重点以DeepEval为例，演示如何通过本地评委模型评测智能体的响应质量、多轮对话和工具调用能力，并针对低分指标提出Prompt优化、检索策略升级、模型迭代等改进方案，形成"评测-归因-优化"闭环，推动智能体从能用迈向好用。 （字数：149
2026-07-28 20:24:25
318
原创 DeepSeek V4 正式版跳票：当“中国速度”撞上理想主义
摘要： 2026年7月，DeepSeek V4正式版因Kimi K3的强势发布（2.8万亿参数、开源模型首超闭源标杆）而延期，官方首次承认跳票。此次推迟被视为策略性调整——避免以“Opus 4.8水平”对标竞品的Fable 5级表现，同时利用后训练阶段进一步提升能力。DeepSeek坚持“不诱于誉，不恐于诽”的理念，此前多次跳票均因工程挑战与自我苛求。本次延期或为优化稳定性、重构API体系及突破能力上限。行业竞争推动中国大模型从“追赶”迈向“领跑”，DeepSeek的抉择折射出技术理想与市场现实的博弈。
2026-07-25 19:59:39
451
原创 DeepSeek V4 正式版发布在即：性能逼近Opus 4.8，首次引入“峰谷计费”
有意思的是，在实际跑任务时，Pro版和Flash版的差距并没有参数量看起来那么悬殊，Flash在不少场景下已经能扛起大旗了。现在不少幸运儿已经拿到了灰度测试的票，大家甚至总结出了一个“验货口诀”：看思维链的人称——如果模型思考时从老版本的“Let me”变成了“I'm”或者“I'll”，那恭喜你，大概率已经成功蹭上了V4 GA版的车。对个人用户来说，白天上班摸鱼用AI，高峰期贵点也就贵点了，影响不大。V4可能不是那个最完美的模型，但Opus级的能力配上不到七分之一的价格，这性价比，足以再次改写游戏规则。
2026-07-20 09:08:20
382
原创 第2篇：LightRAG 源码架构深度剖析——从本地 Ollama 部署到生产环境调优
LightRAG：知识图谱增强的高效RAG框架解析与实践 LightRAG是
2026-07-19 16:33:01
373
原创 第1篇：认识 LightRAG——为什么它比传统 RAG 更“聪明”
LightRAG：融合知识图谱的下一代检索增强生成系统 传统RAG系统面临三大痛点：上下文碎片化导致全局性问题回答不连贯、缺乏关系理解能力、大规模知识库成本高昂。港大与北邮联合研发的LightRAG通过创新性地结合向量检索与知识图谱，实现了突破性进展。该系统采用自动构建的双层知识图谱（细粒度实体关系+主题聚类社区），支持四种检索模式，在多个领域的评测中显著优于传统方案，尤其在答案多样性方面提升显著（法律领域从13.6%提升至86.4%）。LightRAG具有增量更新、低成本运行等工程优势，特别适合多跳推理、
2026-07-17 20:43:52
382
原创 为RAG打造专用搜索：双引擎融合架构实践
为RAG打造专用搜索：双引擎融合架构实践 本文探讨了为RAG系统设计专用搜索引擎的必要性和实现方案。传统商业搜索存在广告干扰、信息冗余等问题，而私有知识又无法被预训练模型捕获。作者提出"关键词+语义"双引擎融合架构： 架构设计：并行调用Meilisearch（关键词检索）和LightRAG（语义检索），通过超时控制确保响应速度，再经过去重和BAAI/bge-reranker重排序，最终输出融合结果。 优势互补：关键词搜索擅长精确匹配（毫秒级响应），语义搜索则能理解意图和挖掘隐性关联。测试显示融合后Top-5
2026-07-16 20:52:26
486
原创 你的能力上限，决定了你使用 AI 的上限
最近这半年，我几乎每天都在用 AI 写代码。从最初的新奇、激动，到现在慢慢生出一种说不清的疲惫和恐惧，我好像陷进了一个自己挖的坑里。
2026-07-16 13:54:07
363
原创 Python 性能深度剖析：从“被诟病的慢”到“Rust 重塑”的拐点
从 CPython 解释器内部的 JIT（即时编译）之争，到 PyPI 上三分之一原生模块转向 Rust，我们必须重新审视这个问题：Python 的“慢”是宿命，还是可以被解决的工程问题？· 官方计划：CPython 核心团队已启动 “Rust for CPython” 项目，计划在 Python 3.16 中引入 Rust 代码重写标准库（如 base64），并将其作为可选依赖，标志着官方承认 Rust 是 CPython 生态的一等公民。长久以来，“慢”是 Python 开发者心中挥之不去的阴影。
2026-07-15 20:45:52
550
原创 一个传统程序员用AI写代码的真实体验：从兴奋到崩溃，再到和解
说真的，看到这个标题，我自己先笑了。这半年，我跟我手里的AI工具，就像处对象——它好看是真好看，作起来是真要命。如果你也是个靠手艺吃饭的程序员，听我唠唠，可能你也会觉得，这不就是我昨天的事儿吗。
2026-07-15 10:39:15
193
原创 django-数据库报错处理及处理思路
django配置数据库后，有的人会碰到这样的报错当报这种错误的时候，通常是数据库配置有问题，比如数据库配置填写不正确。如果你确认数据库配置没问题，那你可以尝试修改下用户名，看看报错中的 for user ‘用户名’@*是否修改，如果修改了，说明读取的配置文件确实是这个配置文件，如果其他信息都确定正确，那么一种可能的原因是mysql8的加密机制问题，需要修改密码的加密方式。ALTER USER...
2020-02-18 14:24:42
814
原创 Docker安装pyspark及验证
通过打好的包安装 下载后的配置好的文件的目录结构如下，文件下载地址： 链接：https://pan.baidu.com/s/1i8yO2X25TZ0ofSEXPmIq-g 密码：akfq├── apt.conf ├── build_network.sh ├── build.sh ├── config │ ├── apt.conf │ ├── core-site.xml │ ├─...
2018-07-02 11:39:22
2026
原创 centos7安装CDH记录
https://blog.csdn.net/qq_37667074/article/details/787315291、下载文件1.1 下载jdkhttp://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 下载jdk1.8下载cdhCloudera Manager下载地址： http://a...
2018-05-19 11:52:52
2992
原创 《逆流而上 阿里巴巴技术成长之路》读后记录之二——业务篇
在阿里巴巴，有大量的业务技术研发人员，在业务线的研发人员每天都要遇到各类技术问题，业务线问题往往隐藏在业务和技术结合系统抽象和系统流程中，比如锁的问题，事务问题，缓存问题。通常排查比较麻烦，从浏览器到网络，到web服务器，到服务化应用，到缓存，到存储。希望排查思路和解决方案能够对读者带来启发。1、幂等控制，分布式锁超时情况和业务重发的并发背景对账出现1分钱的差错，那么多...
2018-04-15 21:48:40
1207
原创 《逆流而上 阿里巴巴技术成长之路》读后记录之一——数据库篇
1、数据库常见问题 对数据库性能的要求，包括提升连接池的性能、单行并发更新能力、降低一些场景下的锁冲突概率、将memcached引擎引入到mysql内核中去。1.1 数据库异常分析结果 场景：数据库相应慢，出现大量的close wait情况，导致业务系统无法正常使用数据库出现大量close wait情况 close wait产生的原因在于数据库服务端等待超时后，...
2018-04-01 22:28:57
993
原创 ELK（elasticsearch+logstash+kabana）安装及简单入门
ElasticSearch安装1、下载安装包https://www.elastic.co/downloads/elasticsearchwget https://www.elastic.co/downloads/elasticsearch2、解压到文件夹tar -zxvf elasticsearch-5.2.2.tar.gz -C /bigdata/3、修改...
2018-03-23 21:45:57
6629
1
原创 linux 文件句柄数查看命令
当你的服务器在大并发达到极限时，就会报出“too many open files”。查看线程占句柄数ulimit -a输出如下：core file size (blocks, -c) 0data seg size (kbytes, -d) unlimitedscheduling priority (-e) 0...
2018-03-23 17:05:39
78552
原创 LSTM及RNN简单总结
RNN及LSTMRNN可以记住之前的信息，将当前信息联系到之前的信息，比如预测“the cloud are in the sky”最后的词，我们并不需要其他的上下文就能知道是sky，这种场景中，相关信息和预测距离比较近，因此RNN可以有效利用先前的信息。 但是当信息距离比较长，比我我们看的一些电影，在前部份埋下伏笔，最后破案的过程中发现原来这地方是这个原因，原来如此，间隔非常远，如果用rcn...
2018-03-09 16:57:32
688
原创 随机森林及xgboost调参过程
随机森林参数记录1、先用默认参数看预测结果2、然后用gridsearchcv探索n_estimators的最佳值3、然后确定n_estimators,据此再搜索另外两个参数：再对内部节点再划分所需最小样本数min_samples_split和叶子节点最少样本数min_samples_leaf一起调参 param_test3= {‘min_samples_split’:range(80,...
2018-03-09 16:54:54
6628
转载 MongoDB 极简实践入门学习（转载）
原作者：StevenSLXie; 标明原链接(https://github.com/StevenSLXie/Tutorials-for-Web-Developers/blob/master/MongoDB%20%E6%9E%81%E7%AE%80%E5%AE%9E%E8%B7%B5%E5%85%A5%E9%97%A8.md);1. 为什么用MongoDB？传统的计算机应用大多使用关系型数...
2018-02-27 11:06:08
313
转载 猜你喜欢-DataCastle
猜你喜欢参考之文章：冠军“yes，boy！”分享，含竞赛源代码背景来自datacastle的竞赛，猜你喜欢 竞赛内容： 个性化推荐已经成为各大电子商务网站的必备服务。准确的推荐不仅可以提高商家的产品销量，更能为顾客提供优质快速的购物体验。推荐系统发展至今，已经有许多非常优秀的推荐算法，从各种不同的角度来为电子商务大厦添砖加瓦。这一次，我们特意为大家准备了一个商品网站的用户评分数据，记录了几年时
2017-12-15 20:40:56
1386
原创 scikit-learn 常用模型介绍及使用（下）
scikit-learn 常用模型介绍及使用在上一篇文章主要介绍了机器学习中常用的模型使用方法，比如线性回归、逻辑回归、决策树、随机森林、bagging、random forest、xgboost、adaboost、svm、k-means、密度聚类、谱和谱聚类等，这些在很多的比赛中是比较常用的算法，前几天看一篇文章还介绍xgboost为何在很多比赛中都有较好的效果，速度快、精度也较高，xgboost
2017-12-06 19:17:30
2792
原创 scikit-learn 常用模型介绍及使用(上)
scikit-learn 常用模型介绍及使用scikit-learn常用的模型及使用，包括线性回归、逻辑回归、决策树、随机森林、svm、聚类、密度聚类、LDA、HMM、贝叶斯网络等等，介绍下这些算法在scikit-learn中的使用方法。 scikit-learn中常用的方法就是fit(),predict(),predict_proba(),pedcit_log_proba()等方法，下面通过实例
2017-12-02 16:12:01
8461
1
翻译 基于Python的分布式高可用扩展引擎Ray 0.3.0发布
Ray: 0.3发布我们很高兴宣布发布Ray的0.3版本，本次发布主要包括distributed actor handles 和Ray.tune——一个新的超参搜索库，还包括修复一系列bug和提高稳定性。 为了更新到最新版本，运行：pip install -U ray超参搜索工具本版本增加了Ray.tune，这是一个分布式超参数评估工具，用于强化学习和深度学习等训练时间较长的任务，他目前包括以下功
2017-12-01 15:03:17
1017
原创 mac下mysql安装后修改默认密码
忘记密码由于mysql5.7默认密码不是root，而是乱码，安装后会提示，但是提示的不能用。2017-11-29T11:34:29.410459Z 1 [Note] A temporary password is generated for root@localhost: yD-a%8fsSV<YIf you lose this password, please consult the sectio
2017-11-29 19:48:47
520
翻译 基于python的高性能实时并行机器学习框架之Ray介绍
前言加州大学伯克利分校实时智能安全执行实验室(RISELab)的研究人员已开发出了一种新的分布式框架，该框架旨在让基于Python的机器学习和深度学习工作负载能够实时执行，并具有类似消息传递接口(MPI)的性能和细粒度。这种框架名为Ray，看起来有望取代Spark，业界认为Spark对于一些现实的人工智能应用而言速度太慢了;过不了一年，Ray应该会准备好用于生产环境。 目前ray已经发布了0.3.
2017-11-29 15:05:55
10573
转载 scikit-learn基础使用之一
scikit-learn基础使用之一scikit-learn是机器学习非常常用的一个包，通过scikit-learn可以方便进行机器学习算法的使用，下面总结自己在使用过程中的常用的通用方法，本文参考1 估计器（Esimator）估计器在很多时候可以理解成分类器，主要包括两个函数：fit():预测测试集的类别，参数为训练集和类别两个参数；predict():预测测试集的类别，参数为测试集from
2017-11-22 22:37:48
764
原创 supervisord配置
supervisord配置之前配置过supervisord，时间长了还是忘记了，最近再一次配置，记录下过程，方便以后再次配置。1 安装supervisord由于我安装了python，所以直接安装就可以： pip install supervisor安装后，调用命令： echo_supervisord_conf > /etc/supervisord/supervisor.conf注意：可能
2017-11-21 15:10:34
6601
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人