Tengine 一个注重性能和兼容性AI框架

最新推荐文章于 2024-03-21 09:44:54 发布
最新推荐文章于 2024-03-21 09:44:54 发布
阅读量1.6k 收藏 5
点赞数
文章标签： AI Tensorflow Lite Tengine
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43558453/article/details/85175253
版权

11月出Tensorflow官方提供的本地编译的方式在arm嵌入式设备运行Tensorflow Lite，我在11月中旬使用本地编译的方式编译二进制的Label_image, 对RK3288 以及树莓派上做了性能的测试。

在这里插入图片描述
从图标上看物美价廉的树莓派其实其实性能并不弱。

但是今天我想介绍一下我新发现让我眼前一亮的框架Tengine.

Tengine 显著的优点是性能和兼容性。使用Tengine框架后运行性能可以得到大的提升。下表为MobileNet V1_1.0_224 浮点型模型单张图片分类在单核A53的性能对比。我们可以看到Tengine 有相当大的优势。

在这里插入图片描述

Tengine 框架有着非常好的模型兼容性，支持直接加载caffe/mxnet/tensorflow
模型文件，而不需要事先转换，而且用户仅需编译就可以利用Tengine的加速Caffe和Tensorflow性能。

Tengine 不仅可以让分类网络的性能大大提升ÿ

最低0.47元/天 解锁文章
weixin_43558453
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
淘宝Tengine 易运维的高性能Nginx服务器
07-11
淘宝Tengine 易运维的高性能Nginx服务器
Tengine与Nginx特性详解
热门推荐
探索世界，改变世界
09-12 2万+
Tengine是由淘宝网发起的Web服务器项目。它在Nginx的基础上，针对大访问量网站的需求，添加了很多高级功能和特性。Tengine的性能和稳定性已经在大型的网站如淘宝网，天猫商城等得到了很好的检验。它的最终目标是打造一个高效、稳定、安全、易用的Web平台。 从2011年12月开始，Tengine成为一个开源项目，Tengine团队在积极地开发和维护着它。Tengine团队的核心成员来自于淘宝、搜狗等互联网企业。Tengine是社区合作的成果，我们欢迎大家参与其中，贡献自己的力量。 Tengine完全兼
探索Tengine：阿里云定制的高性能Web服务器
gitblog_00036的博客
03-21 254
探索Tengine：阿里云定制的高性能Web服务器 项目地址:https://gitcode.com/OAID/Tengine Tengine 是一个由阿里巴巴开源的、基于Nginx的Web服务器，它在Nginx的基础上进行了优化和增强，为大规模高并发互联网应用提供了更强大的支持。本文将深入探讨Tengine的特性、应用场景及优势，以期吸引更多的开发者和运维人员使用这一高效能的解决方案。 项目简介...
TEngine 框架介绍
Mr_PEaSutBUtteR的博客
08-28 1212
TEngine 框架介绍
Tengine Framework基础
吴建明wujianming_110117
04-27 306
Tengine Framework基础 最受开发者喜爱的边缘AI计算框架 Tengine是OPEN AI LAB推出的自主知识产权的边缘AI计算框架，致力于解决AIoT产业链碎片化问题，加速AI产业化落地。Tengine兼容多种操作系统和深度学习算法框架，简化和加速面向场景的AI算法在嵌入式边缘设备上快速迁移，以及实际应用部署落地，可以十倍提升基础开发的效率。 Tengine于2017年在GitHub（ https://github.com/OAID/Tengine ）开源。 一方面可以通过异构计算技术同
TEngine框架关于系统逻辑生命周期的接口的封装
成长ing中的w的专栏
04-22 1167
自定义的一些直接需要直接继承自MonoBehaviour组件的脚本，可以通过BehaviourSingleton达到同样的效果，而且避免多个MonoBehaviour之间控制问顺序题，各自模块的Update顺序由各模块定义的优先级决定，这样能做到执行顺序可控。上面是对所有Behaviour单例对象的整体管理控制：注册、注销、以及各生命周期接口的统一调用。上面是对所有系统的注册、注销以及系统各生命周期阶段的接口的实现。上面是对系统的逻辑生命周期接口的是现实。上面是关于系统的逻辑生命周期的接口封装。
tengine 推理框架，win10 cmake 编译
08-25
编译好的文件 ---- ------------- ------ ---- -a---- 2022/8/25 下午 08:06 416256 tm_alphapose.exe -a---- 2022/8/25 下午 08:06 388096 tm_apollo_smoke.exe -a---- 2022/8/25 下午 08:06 304640 tm_...
cpp-Tengine一个精简高性能用于嵌入式设备的模块化推理引擎
08-16
Tengine一个精简，高性能，用于嵌入式设备的模块化推理引擎
Tengine 是一款用于嵌入式设备的轻量级、高性能、模块化推理引擎
11-11
Tengine 由 OPEN AI LAB 主导开发，该项目实现了深度学习神经网络模型在嵌入式设备上的快速、高效部署需求。为实现在众多 AIoT 应用中的跨平台部署，本项目使用 C 语言进行核心模块开发，针对嵌入式设备资源有限的...
Tengine for windows
最新发布
05-22
Tengine web server for windows ，兼容nginx Tengine 使用cygwin编译适用于windows x64，编译了健康检查模块，health check check interval=3000 rise=2 fall=2 timeout=1000 type=http; check_...
TEngine框架的导入与运行
成长ing中的w的专栏
11-13 2332
Tengine游戏的导入与运行
在rk3399上配置Tengine AI框架
BISTU_theRookie的博客
02-22 1439
参考链接: 在 RK3399 开发板上部署 Tengine AI 框架. 下载源码 从https://github.com/OAID/tengine/下载源码 git clone --recurse-submodules https://github.com/OAID/tengine/ 注：一定要加 --recurse-submodules 不然可能源码下载不全 安装依赖 sudo ap...
TEngine性能全面超越ncnn
soralaro的博客
01-21 5589
TEngine是由OPEN AI LAB开发的一款轻量级模块化的高性能神经网络推理引擎，专门针对Arm嵌入式设备优化，提供超过所有已知开源框架的无与伦比的性能，并且无需依赖第三方库，可跨平台使用支持Android，Liunx。 OPEN AI LAB是Arm发起的，旨在推动Arm嵌入式智能机器的产业发展，为智能机器应用场景构建嵌入式SoC基础计算框架，推动芯片、硬件、算法软件整个产业链的深度协作...
【Tengine端侧推理框架】——创建graph
怡宝2号
06-29 477
code：https://github.com/OAID/Tengine version: 88b4b7a2 图片，代码都来自以上项目。 1. 简介 … 2. 正题 创建一个空的graph，ir_graph_t* ir_graph = create_ir_graph((struct context*)context); 找到模型序列化器struct serializer* loader = find_serializer_via_name(model_format);，然后调用load_model方.
Tengine推理框架之初见
电子芯吧客的博客
08-28 1637
[导读] 前段时间从电子芯吧客白嫖了一块开发板EAIDK310，该平台的一个主要应用就是Tengine是OPEN AI LAB针对于嵌入式终端平台以及终端AI应用场景特点，采用模块化设计为终端人工智能量身打造的高效、简洁、高性能的前端推理计算框架。对于人工智能，本人还是小白，本文仅记录个人学习Tengine的笔记，文章中一定有大量错误，分享笔记也是希望能起到交流求证的作用，让自己能逐步深入了解人工智能的技术知识。 Tengine的特点 AI之于嵌入式应用而言，个人理解存在下面一些痛点： 应用问题场景多
yolov5模型通过Tengine框架部署在FT2000上全记录
m0_55818283的博客
04-03 944
注意：如果只用原参数转为.onnx文件，会出现一些Tengine不支持的算子，因此我们需要用onnx的内置的一些api，在我们转换时，要加上 --train=True 和 --simplifier，加上后我们转换后的onnx文件才不会包含一些Tengine框架不支持的算子，并且取消掉了后处理操作。分为几步：不管用什么框架训练的网络模型都可以首先把我们训练好的权重文件，比如我用的pytorch框架做的训练，那我就将.pt文件转换为.onnx文件。注意：转换工具只能在x86的环境下编译，才能生成。
TEngine框架的事件系统
成长ing中的w的专栏
04-22 1304
事件系统对于游戏项目来说是必不可少的系统模块，它能够有效地降低代码的耦合度。上面是包含事件的注册、注销以及事件的分发等接口的封装。
tengine初探
weixin_33836874的博客
06-02 172
系统越来越大，代码越来越多 陷入恐慌，速度越来越慢，不满越来越多， 话说tengine狠牛逼，高并发，jscss合并等特点，也为学习新东西故 今天试试。 taobao的tengine上没有安装文档，因为基于nginx所以估计可以按照nginx的安装方式安装吧。 高手都喜欢编译安装，我懒人低手喜欢类似yum的安装方法，这样有更新时比较方便。 tengine...
代理服务器Tengine的研究与测试
xiaocnblogs的博客
05-11 502
代理服务器Tengine的研究与测试 一、Tengine介绍 1.首先要知道什么Nginx 1)Nginx（发音同 engine x）是一款轻量级的Web 服务器／反向代理服务器及电子邮件（IMAP/POP3）代理服务器，并在一个BSD-like 协议下发行。由俄罗斯的程序设计师Igor Sysoev所开发，最初供俄国大型的入口网站及搜寻引擎Rambler（俄文：Рамблер）
tengine 和 node 合并一个镜像的 Dockerfile
05-20
以下是将 Tengine 和 Node 合并到同一个 Docker 镜像的 Dockerfile： ```Dockerfile FROM ubuntu:latest # 安装 Tengine RUN apt-get update && \ apt-get install -y wget build-essential libpcre3 libpcre3-...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值