神器!香橙派 5 Max 跑 Deepseek R1 等 AI 模型 (1)

内容预告

朋友们!心心念念的 香橙派 5 Max 终于到货啦,开心😺!
之前看过我前几期内容的朋友,知道我有一个树莓派 4。那为什么着急换 香橙派 5 Max 呢?

因为树莓派 4 拉胯,算力低,而 香橙派 5 MaxCPU 性能可以顶 4 个树莓派 4,GPU (Mali-G610) 也更强,支持 8K 视频输出,这不甩树莓派几条街?最最最重要的是,它有 6 TOPs 的 NPU,虽然聊胜于无,但也足够支持在小小的派上跑 AI 模型,Nice!

image.png
image.png
image.png
image.png

计划 & 项目

接下来几期,我打算用 香橙派 5 Max 来做一些很 cool 的事情,包括:

  • 跑 LLM (比如 DeepSeek R1)
  • 跑 Stable Diffusion
  • 跑视频 & 语音 AI 模型

如果你有什么感兴趣的用香橙派玩的项目推荐,欢迎在文末留言!点赞多的优先安排。
4.gif

记得关注不走丢,第一时间看到后续更新!


为什么选择香橙派 5 Max?

关于 如何选择香橙派系列,可以参考我之前的文章:

简单来说,我就是馋它:

  1. 🤤 16 GB DDR5 大内存:可以跑 8-bit 量化的 8B~14B LLM 模型。
  2. 🤤 **6 TOPs NPU (神经网络计算单元)**:比 CPU/GPU 强很多,用来跑 AI 模型很香。
  3. 价格 1000 元以内 (如果选择 香橙派 5 Plus 价格更香)。

🚀 Ubuntu 安装指南

第一步当然是 安装系统,这里 首推 Joshua Riek's 的 Ubuntu 24.04,因为:

  • 它针对 RK3588 芯片 做了优化
  • 最重要的是,它 预装了 NPU 驱动,不用折腾

当然,Armbian 也是个选择,但听说它的稳定性和软件支持不如 Ubuntu

Ubuntu 24.04 下载地址

👉 Joshua Riek's Ubuntu: https://joshua-riek.github.io/ubuntu-rockchip-download/
image.png

选择 Orange Pi 5 Max 版本,推荐 24.04 的桌面版或服务器版image.png

解压镜像

下载好的 .xz 文件需要解压成 .img 镜像文件: image.png

下载烧录工具

推荐使用 balenaEtcher 进行烧录: 👉 下载地址:https://etcher.balena.io/#download-etcher
我用的是 M1 MacBook,所以选择 第三个选项image.png

准备存储设备

你可以使用 SD 卡 或者 M.2 固态硬盘,这里我用的是 128GB 的 SD 卡
推荐选择 带 A2、V30 标志的高速 SD 卡 (速度比 A1 读写快 2 倍多): image.png

插入 MacBook 旁边的读卡器: IMG_4722.jpeg


🔥 烧录系统

打开 balenaEtcher,然后:

第一步:选择镜像文件

image.png
image.png

第二步:选择 SD 卡

⚠️ 数据无价,注意选对 SD 卡或硬盘image.png

第三步:点击 Flash 开始烧录

image.png
image.png

等待 5~10 分钟 烧录完成,然后把 SD 卡插入香橙派,上电启动 Ubuntu 🎉
恭喜,你的香橙派 5 Max 可以跑 NPU 了! image.png


💡 香橙派 5 Max AI 实战

DeepSeek R1-8B (8-bit 量化)

在香橙派 5 Max 上跑 DeepSeek R1,速率 2.84 tokens/s
(要知道 Jetson Orin Super Nano 8G 都跑不了这个模型!) image.png


Stable Diffusion-1.5-LCM

香橙派 5 Max 跑 SD1.5-LCM

  • 512 × 512 生成
  • 6 iterations
  • 40s 左右出图 (其实 4 iterations 生成的图就已经不错了) image.png

这是我用 香橙派 5 Max 画的一张 富士山image.png


后续更新 & 关注

想知道具体 如何在香橙派 5 Max 上跑 AI 模型
后面我会 继续更新教程,记得点赞 & 关注,不要错过哟!
image.png


不定期更新专业知识和有趣的东西,欢迎反馈、点赞、加星

您的鼓励和支持是我坚持创作的最大动力!ღ( ´・ᴗ・` )
image.png

### RK3588DeepSeek技术集成 #### 关于RK3588开发板简介 RK3588是一款高性能处理器,适用于多种应用场景,如人工智能、机器视觉等。对于初次接触该硬件平台的开发者而言,《RK3588开发板快速入门指南》提供了详尽的基础指导,涵盖了从初步认识到实际项目部署所需的知识点[^1]。 #### DeepSeek技术支持概述 针对特定领域应用需求而设计的软件框架——DeepSeek,在官方文档和技术教程中能够找到详细的说明资料。这类资源通常会详细介绍如何获取并安装必要的依赖项以及配置环境变量等内容,以便顺利运行基于此框架的应用程序。 #### 获取相关文档及工具链 为了便于用户下载所需的驱动程序和其他辅助工具,制造商一般会在其官方网站设立专门页面链接至最新版本的技术手册和固件更新包。同时也会提供在线论坛支持服务来解答常见疑问。 #### 安装过程概览 按照《RK3588开发板快速入门指南》,可以了解到关于操作系统刷写的具体方法;而对于想要利用DeepSeek开展工作的朋友来说,则需参照对应的安装向导完成初始化设置工作。这可能涉及到编译源码或是执行预构建脚本来简化整个流程。 #### 基础配置建议 当一切准备就绪之后,下一步就是调整参数以优化性能表现了。这部分内容往往可以在高级用户的分享帖里发现宝贵的经验贴士,或者是查阅产品附带的帮助文件获得启发性的思路指引。 ```bash # 示例:假设存在一个名为deepseek_setup.sh的自动化配置脚本 ./deepseek_setup.sh --install-dependencies --configure-env ```
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值