- 博客(84)
- 收藏
- 关注
RSS订阅原创 Qwen3.8-27B 部署
Qwen3.8-27B 是 Qwen 开源的多模态稠密（Dense）模型，于 2026-08-14 发布。Qwen3.8-Flash-Next 是 Qwen 开源的多模态 MoE 模型，也是 Qwen4 预览，于 2026-08-26 发布。原想看一下能不能部署 Flash，但没有个小集群是跑不起来了 😥，就算 Q4 量化也要上百 GB 显存。所以，选择部署 Qwen3.8-27B 玩一下，256K 上下文，Q4 约 18 GB 显存。消费级显卡可部署。部署方式很多，如下：生产环境或多卡吞吐，推荐 SGL
2026-08-29 09:06:52
275
原创 DeepSeek Harness 开始
DeepSeek Harness（dsh）是由 DeepSeek AI 开发的开源 agent harness（智能体框架）。它采用一切皆插件的架构，并由 Cordis 驱动，其设计参见论文 A Programming Paradigm for Spatiotemporal Composability。安装 Node,安装 Git,获取 DeepSeek API key，从仓库源码运行：入门dsh 入门: https://deepseek-harness.github.io/deepseek-harne
2026-08-16 08:12:13
378
1
原创 PaddleOCR 开始
PaddleOCR-VL-1.6 (0.9B) 是 SOTA 级文档视觉语言模型 (VLM)。该模型以 96.3% 精度刷新 OmniDocBench v1.6，文本、公式、表格识别全面领先，并在古籍、生僻字、印章、图表等多场景能力显著增强，支持以 Markdown 和 JSON 格式输出结构化结果。官方支持一键部署多种硬件后端（NVIDIA GPU、昆仑芯 XPU、昇腾 NPU等）、无缝集成 Dify、RAGFlow、Pathway和Cherry Studio。本文将介绍两种方式来部署 PaddleOCR
2026-08-14 11:42:46
234
原创 Claude 编程经验
Claude Code，或者说 AI 智能体编程，聊一下个人的一些感受与心得。与 AI 智能体协作编程，可以说像是在航海，一起驶向计划的目的港。我虽是那个舵手，但能放手让 AI 来掌舵了。不过，难免偏航，不时需要人来纠正一下航向。我并没有甩手全权交给 AI，想来是几个方面吧：一是 AI 确实会偏航；二是我懂编程有能力驾驭；三是凭感觉、不那么激进。无论如何，个人用 AI 编程一直感受挺好。到目前的变化就是更放得开手，让 AI 做更多事情。也印证着，或者说我在跟随着，AI 日复一日的进步。目前，与 AI 协作编
2026-06-13 17:59:01
230
原创 Claude 智能体工程
Claude Code 之前分享了安装使用，这次呢，则是分享一下工作流。目前已有不少 AI Agent 工作流可以自主完成软件工程。本文是想分享怎么在 Claude Code 中使用它们，以及一个正在实践的、想博采众长的工作流。目前在实践的工作流结构，分为四个层次：定义 AI 行为准则，规范 Agent 行为。AI Agent 开发流程，两套“驾驶”方式，按需选择、并行开发。嗯，也可以让两套合作开发，但要划分清楚职责，别冲突了。在流程中，按需调用技能库来处理特定任务。为所有上层工具提供上下文，如：对代码的
2026-05-09 11:23:32
456
原创 Rex-Omni 开始
Rex-Omni 是一个 3B 参数多模态模型，它将视觉感知任务统一到一个“下一点预测”框架中。其支持的任务有：物体检测、OCR、指向、关键点定位、视觉提示。官方 README 有详细说明，包括各任务的示例。以下是个人的实践手记 ✌️准备 Conda 环境，准备 Rex-Omni，如遇 flash-attn 安装错误，推理代码，结果，Let’s Go Coding ~
2026-05-07 09:38:13
226
原创 开源好物 26/04
Rex-Omni 是一个 3B 参数多模态模型，它将视觉感知任务（包括物体检测、OCR、指向、关键点定位和视觉提示）统一到一个单一的下一点预测框架中。MiniMind: 完全从 0 开始，仅用 3 块钱成本与 2 小时训练时间，即可训练出规模约为 64M 的超小语言模型。Superpowers 是一套完整的软件开发方法论，让你的编程智能体能够有效地协助开发。TimesFM（时间序列基础模型）是一个用于时间序列预测的预训练时间序列基础模型。SAM 3 是一个用于图像和视频中可提示分割的统一基础模型。
2026-04-26 19:36:53
1042
原创 Claude Code 开始
Claude Code 是一个 AI 编程助手，能够直接在你的代码环境中工作，通过终端、IDE 或网页帮你构建、调试和交付项目。一些有关安装、使用等的记录，分享一下 😊
2026-04-26 09:14:27
352
原创 Triton + RISC-V
如果你现在想“玩起来”，建议基于 x86 主机搭建，买一块平价的 RVV 1.0 单板计算机，尝试用 Triton 写一个简单的向量加法或 GEMV，通过交叉编译并在板子上运行objdump观察其生成的vsetvli和vfmacc等 RVV 汇编指令。这是目前切入 RISC-V AI 编译器底层最直观的练手方式。
2026-03-24 16:33:44
563
原创 AI 编程工作流与协同范式
从LLM的视角看，MCP/Skill提供的确实是一种高度优化的上下文描述，是提升其工具使用可靠性的关键输入。但从系统架构的视角一种标准化的、声明式的、可动态发现的、用于扩展和约束AI行为的能力接口规范。其核心价值在于实现安全、可靠、可扩展的人机与机机协作，而“优化描述”是实现这一目标的最关键技术手段之一。“优化描述”是MCP/Skill呈现给AI的“表象”和直接作用方式，而其“本质”是构建一个可扩展、安全、可控的AI行动体系。
2026-03-14 07:22:17
437
原创 CLIProxyAPI + OpenCode
是一个为 CLI 提供 OpenAI/Gemini/Claude/Codex 兼容 API 接口的代理服务器。您可以使用本地或多账户的 CLI 方式，通过任何与 OpenAI/Gemini/Claude 兼容的客户端和 SDK 进行访问。也就是，通过 CLIProxyAPI 可以把 Gemini/Claude/Codex 等多个模型，都通过统一的 API 对外开放。之后，在编程工具或 VS Code 插件里把 OpenAI API 改成自己的代理地址就可以用了。或者，用脚本访问服务。
2026-03-13 11:30:11
952
原创 开源好物 26/02
侧重端侧部署，包含：桌面端（Windows、macOS）、移动端（Android、iOS）、边缘计算设备（NVIDIA Jetson、Ascend310B、RK 等）以及单机服务器（RTX 系列、T4、Ascend310P 等）。侧重端侧模型解决方案与部署。旨在帮助你快速构建智能化的产品文档、技术文档、FAQ、博客系统，借助大模型的力量为你提供 AI 创作、AI 问答、AI 搜索等能力。开源的 LLM（大语言模型）应用开发平台，旨在帮助开发者快速构建、部署和管理基于大语言模型的 AI 应用。
2026-03-12 10:47:27
338
原创 Flutter ncnn 使用
Flutter 实现手机端 App，如果想利用 AI 模型添加新颖的功能，那么 ncnn 就是一种可考虑的手机端推理模型的框架。本文即是 Flutter 上使用 ncnn 做模型推理的实践分享。
2023-07-18 22:27:03
908
1
原创 Stable Diffusion WebUI 环境
Stable Diffusion 是热门的文本到图像的生成扩散模型，本文介绍了如何准备其 WebUI 环境。
2023-06-13 14:07:58
763
原创 Casdoor 开始
Casdoor 是一个基于 OAuth 2.0 / OIDC 的中心化的单点登录（SSO）身份验证平台，本文是其安装和运行的实践记录。
2023-05-14 16:32:43
905
原创 RISC-V 软件环境
RISC-V 想玩起来，第一步，可以先准备软件环境。官方仓库的 GNU 工具链 riscv-gnu-toolchain 里，有 Spike pk 或 QEMU 的仿真环境，可以一次性把编译和仿真环境都准备好。
2023-02-06 09:58:38
414
原创 视频结构化 AI 推理流程
「视频结构化」是一种 AI 落地的工程化实现，目的是把 AI 模型推理流程能够一般化。它输入视频，输出结构化数据，将结果给到业务系统去形成某些行业的解决方案。
2022-09-23 23:17:26
1141
原创 Flex & Bison 开始
Flex 与 Bison 是为编译器和解释器的编程人员特别设计的工具，本文旨在让大家了解它们，以及它们能帮助我们完成什么样的工作。
2022-06-25 21:11:21
837
原创 TVM 加速模型，优化推断
TVM 是一个开源深度学习编译器，可适用于各类 CPUs, GPUs 及其他专用加速器。它的目标是使得我们能够在任何硬件上优化和运行自己的模型。不同于深度学习框架关注模型生产力，TVM 更关注模型在硬件上的性能和效率。本文只简单介绍 TVM 的编译流程，及如何自动调优自己的模型。更深入了解，可见 TVM 官方内容：文档: https://tvm.apache.org/docs/源码: https://github.com/apache/tvm编译流程TVM 文档 Design and Arch
2022-05-22 10:48:19
978
原创 FRP 内网穿透、反向代理
frp 是一个专注于内网穿透的高性能的反向代理应用，支持 TCP、UDP、HTTP、HTTPS 等多种协议。可以将内网服务以安全、便捷的方式通过具有公网 IP 节点的中转暴露到公网。本文将以暴露内网 Web 服务为例，实践 frp 的安装部署。更多应用场景，可见 frp 示例。安装frp 主要由 客户端(frpc) 和 服务端(frps) 组成，服务端通常部署在具有公网 IP 的机器上，客户端通常部署在需要穿透的内网服务所在的机器上。可以在 Github 的 Release 页面中下载到最新版本的客
2022-02-14 14:58:51
1610
原创 JoJoGAN 实践
JoJoGAN: One Shot Face Stylization. 只用一张人脸图片，就能学习其风格，然后迁移到其他图片。训练时长只用 1~2 min 即可。codepaper效果：主流程：本文分享了个人在本地环境（非 colab）实践 JoJoGAN 的整个过程。你也可以依照本文上手训练自己喜欢的风格。准备环境安装：AnacondaPyTorchconda create -n torch python=3.9 -yconda activate torchconda
2022-02-08 17:12:33
2308
3
原创 TensorRT 开始
TensorRT 是 NVIDIA 自家的高性能推理库，其 Getting Started 列出了各资料入口，如下：本文基于当前的 TensorRT 8.2 版本，将一步步介绍从安装，直到加速推理自己的 ONNX 模型。安装进 TensorRT 下载页 选择版本下载，需注册登录。本文选择了 TensorRT-8.2.2.1.Linux.x86_64-gnu.cuda-11.4.cudnn8.2.tar.gz，可以注意到与 CUDA cuDNN 要匹配好版本。也可以准备 NVIDIA Docker
2022-01-12 22:26:52
928
2
原创 React MobX 开始
MobX 用于状态管理，简单高效。本文将于 React 上介绍如何开始，包括了：了解 MobX 概念从零准备 React 应用MobX React.FC 写法MobX React.Component 写法可以在线体验： https://ikuokuo.github.io/start-react ，代码见： https://github.com/ikuokuo/start-react 。概念首先，ui 是由 state 通过 fn 生成：ui = fn(state)在 React 里，
2021-12-28 19:18:03
478
原创 PDF.js Electron Viewer
PDF.js 是基于 HTML5 解析与渲染 PDF 的 JavaScript 库，由 Mozilla 主导开源。本文旨在介绍 PDF.js 于 Electron 里如何开始使用，实际尝试了用其 API 或嵌入 HTML 的几种方式。代码: https://github.com/ikuokuo/electron-pdf-viewer.git从零准备项目项目采用 Electron React Antd PDF.js 来实现，以下是从零准备项目的过程。Electron React这里用 elec
2021-12-15 17:52:00
1810
原创 PDFium 渲染
PDFium 是 Chromium 的 PDF 渲染引擎，许可协议为 BSD 3-Clause。不同于 Mozilla 基于 HTML5 的 PDF.js，PDFium 是基于 Foxit Software （福昕软件）的渲染代码，Google 与其合作开源出的。此外，Qt PDF 模块也选用了 PDFium ，可见 QtWebEngine / QtPdf。本文将介绍如何用 PDFium 实现一个简单的 PDF 阅读器，代码见：https://github.com/ikuokuo/pdfium-read
2021-12-03 16:46:49
1260
原创 OpenAPITools 实践
OpenAPITools 可以依据 REST API 描述文件，自动生成服务端桩（Stub）代码、客户端 SDK 代码，及文档等。其是社区版的 Swagger ，差异可见：OpenAPI Generator vs Swagger Codegen。本文将从零开始设计和编写 API 文件，并生成 Go Gin 服务端代码，与 Python SDK 代码。更多语言或框架，也是一样操作的。快速开始先熟悉下工具，直接用官方 Docker 镜像生成 Petstore 样例的 Go SDK 代码：docker r
2021-11-05 22:53:38
790
原创 K8s 开始
Kubernetes 是用于自动部署，扩展和管理容器化应用程序的开源系统。本文将介绍如何快速开始 K8s 的使用。了解 K8sKubernetes / Overview搭建 K8s本地开发测试，需要搭建一个 K8s 轻量服务。实际部署时，可以用云厂商的 K8s 服务。本文以 k3d 为例，于 macOS 搭建 K8s 服务。于 Ubuntu 则推荐 MicroK8s。其他可替代方案有：Kubernetes / Install Toolskind, minikube, kubeadm
2021-09-18 20:31:45
23589
原创 RTSP H264/HEVC 流 Wasm 播放
本文将介绍 RTSP H264/HEVC 裸流如何于网页前端播放。涉及 WebSocket 代理发送流数据， Wasm 前端解码等。代码: https://github.com/ikuokuo/rtsp-wasm-player相关模块：# RTSP WebSocket ProxyRTSP/Webcam/File > FFmpeg open > Packets > WebSocket# WS Wasm PlayerWebSocket > Packets > Was
2021-09-08 17:32:50
2379
原创 FFmpeg 播放 RTSP/Webcam 流
本文将介绍 FFmpeg 如何播放 RTSP/Webcam/File 流。流程如下：RTSP/Webcam/File > FFmpeg open and decode to BGR/YUV > OpenCV/OpenGL display代码: https://github.com/ikuokuo/rtsp-wasm-player, 子模块 rtsp-local-playerFFmpeg 准备git clone https://github.com/ikuokuo/rtsp-wasm
2021-08-30 14:28:02
1301
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人