list @size 验证_快速在安卓端验证深度学习算法模型

最新推荐文章于 2024-05-17 16:10:33 发布
最新推荐文章于 2024-05-17 16:10:33 发布
阅读量157 收藏
点赞数
文章标签： list @size 验证

88613520a3befb1ccbec2e963ced566f.png

1、背景

​ 前段时间在知乎上溜达，看到 @糖心他爸 大神的专栏-实战嵌入端的AI算法，进去一看，不得了，发现新大陆了，深度学习模型还能在安卓端这么玩的吗？

​ 一般对我们这种初级炼丹师，要验证算法在端上的能力以及实测效果。一般是这样的， 如图1（至于你们是不是这样我是不知道），中间验证过程又臭又长，中间有些环节还得看别人有没有空（只怪自己水平差）。

72246baf455587afeb0ed1cfec0fe7ee.png
图1 验证流程

​ 那么看了大神的专栏，发现原来可以这么玩（嫌弃ing，说了半天还没告诉怎么玩）。

​ 以mnist分类为例，先贴下大神的部分代码，详细代码看大神github。

int

​ 看下来直接在android端就能用C++完成模型效果以及性能测试了，感觉就不用去求爷爷求爸爸了，开森啊（这里面的MNN是阿里的端上inference框架，感兴趣可以去GitHub上看看，MNN可以参考MNN文档，当然还有nihui大佬的NCNN ）：

2、怎么玩

​ 开森归开森，但是怎么玩呢？把大神的专栏翻了一遍，没看对应教程，大佬可能觉得这个so easy，大家都会，哭！！！

​ 怎么办？看看大神代码好像有mk文件，查查mk文件干啥的呢？发现是安卓上类似makefile文件，那就查查如何用mk编译可执行文件吧，通过问问度娘以及谷歌爸爸，发现是可以实现的，那么大体方向是没错。

​ 那么怎么编译？怎么把对应的文件传到android上？怎么在android上执行呢？（怒问自己，垃圾，你咋这么多不会呢！！！）

​ 这个时候果断去抱安卓同学的大腿了！

​ 大腿开始教我怎么玩啦！！！

2.1 ndk编译

​ 这里先git clone 一下大神的github代码，前面opencv动态库，MNN动态库，mk文件大神都给你们弄好了，下下来改改或者直接用就行了。

​ 再下载android的NDK（我是mac电脑，如果你们是其它系统，行不行我不知道，我只管挖不管埋）。

​ 可以发现ndk下面有个ndk-build文件（安卓大腿说用着玩意编译）。

# 先设置环境

​ 到这里基本编译结束了，那么怎么把它导到android端呢？

2.2 文件传输

​ 下面这个得用adb工具，至于这玩意怎么安装，是什么玩意，自己百度。

​ 搞了个rk3399，连上电脑。

# 先来条命令
adb devices

#运行结果如下，可以看到我下面有个设备了，设备号CBI9SLBNWK
List of devices attached
CBI9SLBNWK  device

# 切换一下root权限
adb root
# 运行结果
”adbd is already running as root“

​ 这样子我们待会进入adb shell就有root权限了，就可以为所欲为了。

正式push数据上去：

# 传输编译好的文件，我这边比较懒把整个目录都push上去

2.3 运行可执行文件

# 下面进入adb shell环境
adb shell
# 下面就跟我们在linux的操作差不多了
# 先查看我们上传的文件在不
ls /data
# 发现文件是在的
cd /data
cd /data/temp/MNN-APPLICATIONS/applications/mnist/onnx/libs/arm64-v8a
# 可以发现有个编译好的可执行文件 onnx_mnist
# 把 onnx_minist拷出来，拷到有图片的目录，这里可以不拷贝，只是跟cpp代码中模型文件跟测试文件相对路径保持一致就行
cp onnx_mnist ../../jni
cd ../../jni

# 看下大神的onnx_mnist.cpp文件，发现在该目录下需要mnist_test.jpg以及mnist.mnn两个文件
# 把该目录test.jpg文件名改成对应名字
mv test.jpg mnist_test.jpg
# 把graph中，MNN转换的mnist.mnn拷出来
cp ./graphs/minist.mnn ./

​ 激动人心的时候到啦，终于可以运行了！(集齐七颗龙珠了，可以召唤神龙了)

./onnx_mnist
# 我去，出错啦
CANNOT LINK EXECUTABLE "./onnx_mnist": library "libMNN.so" not found

​ 难道是编译目录不对？折腾了半天，把动态库移来移去，移到当前木来，看了mk文件，发现在对应的位置也有对应的动态库。

OpenCV_BASE

​ 搞了半天没办法了，加上 @糖心他爸 大神微信，求大神指点。

​ 大神直接贴了一行代码：

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:<对应动态库路径>

​ 我去，原来没有指定对应动态库路径,，补上：

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:../libs/arm64-v8a

运行结果：

Invalide device for support vulkan
Invalide device for support vulkan
the result is 5

​ 感动，终于有运行结果了！

weixin_39534208
关注
在Java中使用可移植的ONNX AI模型
04-08
在本文中，我简要介绍了ONNX运行时和ONNX格式。
YOLOv8目标检测实战：Android手机部署
05-24
YOLOv8 目标检测基于先前 YOLO 版本的成功，引入了新功能和改进，进一步提升了性能和灵活性。本课程在Windows上手把手演示YOLOv8（YOLOv8n和YOLOv8s）目标检测在Android（安卓）手机进行部署的过程。内容包括：安装软件环境、安装PyTorch，克隆和安装YOLOv8，导出onnx模型，onnx转换成NCNN文件，安装Android Studio，准备Android项目文件(下载项目文件、放置ncnn文件、放置ncnn和opencv的android文件)，手机连接电脑并编译软件(安装投屏软件、手机连接电脑配置、编译和调试、导出签名apk)，自己数据集训练模型的部署，项目代码解析（安卓的JNI机制、C++代码、Java代码）。
Spring/SpringBoot常用注解总结！
Janet的博客
04-20 755
1. @RequestMapping 定义请求 URL 到处理器功能方法的映射。 参数： Value属性：用来设置请求路径，值是一个字符串数组。可以设置多个路径共同访问对应方法。 2.@RequestParam 不使用 request 接收简单类型参数，当请求的参数名称和处理器形参名称一致时会将请求参数与形参进行绑定。 形参的类型与绑定的类型不一致时,可以使...
list @size 验证_记录一次list被覆盖的问题
weixin_39977642的博客
11-22 749
1，写个递归，遍历出集合的所有子集，可是集合里的元素竟然最后都为空！附上代码public static void main(String[] args) { List<List<Integer>> lists = new ArrayList<>(); int[] a = new int[]{1, 2, 3}; Sy...
list @size 验证_Java简单方法验证码生成——完整版
weixin_39737636的博客
11-20 238
package jsp页面<%@ page language="java" contentType="text/html; charset=UTF-8" pageEncoding="UTF-8"%> 验证码判断是否正确package new_words.txt文件（放在WEB-INF下）一唱一和 一三一四 一二三四 1234...
使用 java-onnx 部署 yolovx 目标检测
热门推荐
这个人很懒什么都没有~
03-21 1万+
这里使用 --include torchscript onnx 生成 onnx 文件，并指定 --opset 16，后续使用 com.microsoft.onnxruntime Java 库加载依赖时要求 opset 不超过16.流程是加载权重，输入图片，将图片resize到模型输入的shape，预测完了之后解析 25200*85，根据置信度、nms等阈值进行过滤，然后将过滤剩下的框将坐标按照缩放比例转换到原始图像坐标系中，最后标注即可。
list @size 验证_List的remove操作一定要小心！
weixin_39783633的博客
11-22 576
List的remove操作一定要小心！List的remove/add我想大家都知道都知道list遍历的时候注意remove/add操作，因为一不小心就会犯错，《阿里巴巴Java开发手册》 里面就有描述【强制】不要在**foreach**循环里进行元素的**remove/add**操作。**remove**元素请使用**Iterator**方式，如果并发操作，需要对**Iterator**...
java调用onnx模型_ONNX--跨框架的模型中间表达框架
weixin_39580042的博客
12-22 1997
本文介绍一种可以方便在各个主流深度学习框架中迁移模型的中间表达格式框架ONNX，因为在我的毕设中需要将所有的模型model的architecture存储成一种中间表达形式(format)以方便调用。在我的supervisor@Milo的建议下，我学习了被众多主流框架支持的中间表达格式框架ONNX，下面与大家共同分享。1.Motivation:现如今，各大主流深度学习框架都有着自己独有的特点与魅力，...
Spring boot 使用@Size校验控制层的单个集合参数时不生效问题
rex.ran
07-08 4735
Spring boot 使用@Size校验控制层的单个集合参数时不生效问题 1. 问题描述 下图中有个类型为List<String> 方法参数, 当使用@Size标注校验数量时, 发现并没有抛出异常 2. 解决 需要在控制类上面同样添加@Validated 注解, 重启项目即可 ...
使用java加载、调用onnx模型
最新发布
宣晨光
05-17 1185
opencv-320.jar需要网上查找手动添加该依赖。
onnxruntime-1.5.2.jar
12-03
onnx的java包，pom引入后可以试验java调用onnx文件进行cpu模型推理。 具体见https://github.com/microsoft/onnxruntime/blob/master/java/src/test/java/sample/ScoreMNIST.java 和 https://github.com/microsoft/onnxruntime/blob/master/docs/Java_API.md#getting-started
pytorch 安装opencv menpo -c_pytorch模型的部署（系列一）--ncnn的编译和使用
weixin_39625987的博客
11-24 416
因为我一直都是在pytorch上面训练模型，所以部署模型通常采取三种方案：方案一：利用腾讯开源的ncnn库(nihui大神牛皮！！)；但这个适合移动端部署，特别是针对andriod的极致优化。方案二：libtorch（c++版本的pytorch）；pytorch为了弥补部署方面的劣势，，libtorch也在不断推陈出新，以不断打压tf等一众老炮生存空间方案三：NVIDIA出品的tensorRT；这...
ONNX格式模型 学习笔记 (onnxRuntime部署)---用java调用yolov8模型来举例
qq_48050838的博客
12-24 7158
ONNX（Open Neural Network Exchange）是一个开源项目，旨在建立一个开放的标准，使深度学习模型。ONNX模型可以用于各种应用场景，例如机器翻译、图像识别、语音识别、自然语言处理等。由于ONNX模型的互操作性，开发人员，例如从PyTorch转换到TensorFlow，或从TensorFlow转换到MXNet等。，例如云端、边缘设备或移动设备等。ONNX还提供了一组工具和库，帮助开发人员。
java调用onnx模型_神经网络模型模型转ONNX
weixin_39850699的博客
12-22 2172
近期由于业务需要，需要将训练好的模型转为ONNX格式，为此颇费了一番功夫，在此总结一下吧。。1、ONNX是一种神经网络模型保存的中间格式，支持多种格式的模型转为ONNX，也支持使用ONNX导入多种格式的模型，具体见https://github.com/onnx/tutorials;目前其实ONNX对于模型的支持还不是太好，主要表现在一些op还不能够支持；2、在PyTorch下要将模型保存成ONNX...
java 目标识别检测 调用 onnx 模型，支持yolov5 yolov7 yolov8
null
08-02 3390
java 傻瓜 式 简单 调用 yolo onnx 模型 支持 yolov5 和 yolov7，包含 预处理 和 后处理
SpringBoot + Spring Security 学习笔记（三）实现图片验证码认证
weixin_34391445的博客
04-14 148
整体实现逻辑 前端在登录页面时，自动从后台获取最新的验证码图片 服务器接收获取生成验证码请求，生成验证码和对应的图片，图片响应回前端，验证码保存一份到服务器的 session 中 前端用户登录时携带当前验证码 服务器校验验证码是否合法（验证码存在并未过期），继续后续的用户名和密码校验逻辑 通过一个时序图来表述如下图，图中细化了一下各个控制器和过滤器之间的功能职责，还不是很正规，只为了更好表达上...
使用 java-onnx 部署 Meta-ai Segment anything 分割一切
这个人很懒什么都没有~
05-16 1542
近日，Meta AI在官网发布了基础模型 Segment Anything Model（SAM）并开源，其本质是用GPT的方式（基于Transform 模型架构）让计算机具备理解了图像里面的一个个“对象”的通用能力。SAM模型建立了一个可以接受文本提示、基于海量数据(603138)训练而获得泛化能力的图像分割大模型。图像分割是计算机视觉中的一项重要任务，有助于识别和确认图像中的不同物体，把它们从背景中分离出来，这在自动驾驶（检测其他汽车、行人和障碍物）、医学成像（提取特定结构或潜在病灶）等应用中特别重要。
使用 java-onnx 部署 yolovx 实例分割
这个人很懒什么都没有~
03-28 938
和目标检测的区别在于，需要将数据1的后32位，乘数据2的32*160*160矩阵来得到目标的 mask 信息。将 output1 的 32*160*160 也就是 float[][][] 转换成二维矩阵 32*25600 的 float[][]，相当于把160*160展平，得到矩阵1，是 32行、25600列，将 output2 的每个检测框的 117 取最后32位，转为一维矩阵 float[]，得到矩阵2，是1行，32列。将矩阵3再转换为二位矩阵 160*160，再进行插值扩展到原始图像大小得到矩阵4。
java调用onnx模型_Qt ncnn Android部署模型记录
weixin_29122543的博客
12-05 1031
现在有很多模型部署框架了，综合考虑易用性，性能，支持模型转换的类型，成熟程度，考虑使用ncnn进行模型部署。ncnn开源地址：Tencent/ncnn​github.com这里我使用pytorch训练好的PSENet模型进行部署。正文官方pytorch转ncnn说明文档转换流程如下：pytorch训练->onnx->onnx-simplifier->ncnn1. pytorch训...
/** * 通过最佳适应算法进行内存分配 * @param free_list 待操作的空闲分区链表 * @param assign_list 待操作的分配分区链表 * @param size 进程请求的内存大小 * @param ret_begin 分配成功时分配的内存块的起始地址 * @param ret_end 分配成功时分配的内存块的结束地址 * @return 分配成功返回true，反之返回false */ bool BF(LinkList free_list, LinkList assign_list, int size, int *ret_begin, int *ret_end) { LNode *cur = free_list.m_head->next; /begin 补全以下代码/ /end/ }请补充代码
06-08
以下是使用最佳适应算法进行内存分配的代码： ``` /** * 通过最佳适应算法进行内存分配 * @param free_list 待操作的空闲分区链表 * @param assign_list 待操作的分配分区链表 * @param size 进程请求的内存大小 * @param ret_begin 分配成功时分配的内存块的起始地址 * @param ret_end 分配成功时分配的内存块的结束地址 * @return 分配成功返回true，反之返回false */ bool BF(LinkList free_list, LinkList assign_list, int size, int *ret_begin, int *ret_end) { LNode *cur = free_list.m_head->next; LNode *best = NULL; // 最佳匹配的空闲分区 while (cur) { if (cur->size >= size && (!best || cur->size < best->size)) { best = cur; // 找到最佳匹配 } cur = cur->next; } if (!best) { return false; // 无法找到合适的空闲分区 } if (best->size == size) { // 空闲分区大小刚好合适，直接分配 *ret_begin = best->begin; *ret_end = best->end; assign_list.Insert(best->begin, best->end); free_list.Delete(best); } else { // 空闲分区大小大于请求大小，需要切割分区再分配 int new_begin = best->begin; int new_end = best->begin + size - 1; assign_list.Insert(new_begin, new_end); free_list.Update(best, new_end + 1, best->end); *ret_begin = new_begin; *ret_end = new_end; } return true; } ``` 该函数接收一个空闲分区链表 `free_list` 和一个分配分区链表 `assign_list`，以及一个进程请求的内存大小 `size`，并返回分配成功或失败的结果。该函数使用一个指针 `best` 来记录最佳匹配的空闲分区，最后将分配的内存块插入到分配分区链表中，并从空闲分区链表中删除或更新相应的节点。最后，该函数返回分配成功时的分配内存块的起始地址和结束地址。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值