- 博客(2)
- 收藏
- 关注
原创 我把抽屉里的旧手机变成了本地 AI Agent(断网可用、能动手操作、还接入了 MCP)
摘要:开源项目Lociant将旧Android手机、Linux电脑和RK开发板改造为本地AI Agent,支持断网操作、屏幕交互和App控制。通过MNN推理和NPU加速运行模型,实现设备间局域网组网,数据完全私有。项目采用Rust后端+Flutter UI,提供APK/Linux/RK板版本,MIT协议开源,旨在利用闲置设备构建低成本、高隐私的AI代理网络。(150字)
2026-08-13 20:34:51
248
原创 RK3588 上部署 Qwen3-VL-4B:ROCK5T 本地多模态实践
在ROCK5T 12GB开发板上成功部署了Qwen3-VL-4B多模态模型,通过将模型拆分为视觉编码器(RKNN)和语言模型(RKLLM)两部分实现。关键步骤包括:解决ONNX导出兼容性问题、处理WSL2内存不足导致的转换中断、适配RK3588仅支持w8a8量化的限制。最终在板端实现了本地图文问答功能,视觉处理通过RKNN完成图像编码,语言模型通过RKLLM生成回答。整个部署过程涉及模型转换、交叉编译和环境配置等多个技术环节。
2026-04-30 14:33:47
840
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅