Rust在AI方面的应用框架

已于 2024-06-12 20:30:56 修改
阅读量811 收藏 4
点赞数 3
分类专栏： AI应用 嵌入式开发 文章标签： 人工智能 rust
于 2024-06-12 20:30:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/armer_song/article/details/139635690
版权

Burn(Burn)

完整的训练、推理框架。支持cpu、gpu、candle等后端。

支持onnx、pytorch模型导入和运行。好处是可以减少对onnx runtime的依赖

Candle

GitHub - huggingface/candle: Minimalist ML framework for Rust

主要面向推理。支持很多大模型，例如SD等。

Onnx runtime for Rust（推荐前期验证使用）

ultralytics/examples/YOLOv8-ONNXRuntime-Rust at main · ultralytics/ultralytics · GitHub

可以很方便实现目标检测、姿势识别等功能。

在RK3588上完美运行yolov8n-pose（官方原版模型），准确度很高。cpu消耗不大(占用200%, 总cpu 800%）。比基于rknn修改的模型的准确度要好些（可能是模型训练不够所致）。该模型请参考： GitHub - cqu20160901/yolov8pose_rknn_Cplusplus: yolov8pose 瑞芯微 rknn 板端 C++部署。

Mistral

GitHub - EricLBuehler/mistral.rs: Blazingly fast LLM inference.

快速的大语言模型推理平台，提供与OpenAI API兼容的Web服务

Paddle-lite

GitHub - PaddlePaddle/Paddle-Lite: PaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎）

百度出品的运行时。crates.io有对应的binding。https://crates.io/crates/paddle_inference

未实际使用过。参考示例：

GitHub - PaddlePaddle/Paddle-Lite-Demo: lib, demo, model, data

宋蓝诚
关注
专栏目录
Rust中的实时计算框架 Rusty Object AntiEntropy(ROA)
AI天才研究院
07-29 1314
Rust 是一门多用途编程语言，它支持并发、高性能计算以及系统编程等特性，已经成为目前最流行的系统编程语言之一。Rust 在云计算领域也扮演着越来越重要的角色，其中包括分布式系统开发和自动化测试工具的研发。然而，与其他主流语言相比，Rust 的运行速度较慢、内存占用较高、类型系统功能不够完善等缺点使得 Rust 在一些实时计算场景中表现不佳，比如物联网边缘设备或者游戏服务器端的游戏逻辑处理。同时，由于 Rust 本身缺乏实时计算相关的库和框架，因此需要开发者自行构建相应工具链，增加了开发难度和开发成本。
一个Rust语言的机器学习AI框架，数据建模，机器学习，常见算法，都有
02-11
一个Rust语言的机器学习AI框架，数据建模，机器学习，常见算法，都有。 一个Rust语言的机器学习AI框架，数据建模，机器学习，常见算法，都有。
Rust AI：机器学习Candle 和Burn框架的简单对比
八尺妖剑的博客
05-21 1993
Candle和Burn代表了Rust生态系统在机器学习和人工智能方面令人兴奋的发展。Candle为深度学习任务提供了简单性和高性能，而Burn则提供了更全面的ML堆栈和更大的灵活性。CandleBurn。
推荐使用：Rust 开发者的福音 —— OpenAI API 客户端库
gitblog_00917的博客
08-21 409
推荐使用：Rust 开发者的福音 —— OpenAI API 客户端库 openai-api-rsOpenAI API client library for Rust (unofficial)项目地址:https://gitcode.com/gh_mirrors/op/openai-api-rs 在人工智能日益壮大的今天，OpenAI 已成为先进自然语言处理技术的代名词。对于众多 Rust 语言...
Candle - HuggingFace Rust AI 框架 - 小记
AI + 工程
03-24 1314
关于 Candle 结构 安装 1、With Cuda support : 2、Without Cuda support : 3、With mkl support 二、基本使用 Hello world! 1、处理 MNIST 数据集 2、使用一个 `Linear` 层 3、使用 `candle_nn` 三、Pytorch cheatsheet
纯Rust编写的机器学习框架Neuronika，速度堪比PyTorch
喜欢打酱油的老鸟
06-18 1538
机器之心报道 编辑：陈萍 这是一个用 Rust 编写的机器学习框架，与 PyTorch 类似，现已实现最常见的层组件（dense 层、dropout 层等），速度堪比 PyTorch。 Rust 作为一门系统编程语言，专注于安全，尤其是并发安全，支持函数式和命令式以及泛型等编程范式的多范式语言，其语法上与 C++ 类似。 随着 Rust 语言热度的强劲增长，也有许多研究者探索 Rust 在机器学习等方面的研究。近日，有研究者用 Rust 编写了一个机器学习框架 Neuronika。 .
【Rust日报】2023-11-11 Kalosm：一个依赖 Candle 用 Rust 编写的人工智能元框架。
Rust语言学习交流
11-12 498
ws-tool 0.10 发布ws-tool 是一个易于使用的 websocket 客户端/服务器工具包，支持阻塞/异步 IO。现在发布了 0.10.0 版本，性能有了很大的改进，提供更易于使用的 api 和错误修复。文章链接，https://www.reddit.com/r/rust/comments/17ssmo3/wstool_010_released/Github 链接，https://g...
rust深度学习框架
weixin_42613360的博客
01-04 554
您是问 Rust 语言中用于深度学习的框架吗？ Rust 语言本身并没有专门针对深度学习的框架，但是它可以使用一些其他的框架进行深度学习。例如，可以使用 TensorFlow、PyTorch 或 MXNet 等框架进行深度学习。这些框架都提供了 Rust 的绑定，可以在 Rust 中直接使用。 要在 Rust 中使用这些框架进行深度学习，需要先安装对应的 Rust 绑定。然后，可以像在其他语言中一...
Rust 机器学习框架。
06-28
临发linfa （意大利语）/sap （英语）：植物的重要循环液。linfa旨在提供一个全面的工具包来使用 Rust 构建机器学习应用程序。在精神上与 Python 的scikit-learn相似，它专注于日常 ML 任务的常见预处理任务和经典 ML 算法。文档：最新的社区聊天：Zulip当前状态linfa现在站在什么位置？我们还在学习吗？linfa目前提供具有以下算法的子包：名称 目的 地位 类别 笔记 聚类 数据聚类 测试/基准测试 无监督学习 未标记数据的聚类；包含 K-Means、Gaussian-Mixture-Model 和 DBSCAN 核心 数据转换的内核方法 已测试 预处理 将特征向量映射到更高维空间 线性 线性回归 已测试 部分合身 包含普通最小二乘法 (OLS)、广义线性模型 (GLM) 弹性网 弹性网 已测试 监督学习 具有弹性网络约束的线性回归 后勤 逻辑回归 已测试 部分合身 构建两类逻辑回归模型 减少 降维 已测试 预处理 扩散映射和主成分分析 (PCA) 树木 决策树 实验性的 监督学习 线性决策树 支持向量机 支持向量机 已测试 监督学习 标记数据集的
学习 Rust 机器人框架 Dora，来 GOSIM Workshop！
CSDN云计算
09-21 1066
“今年（2023）九月份将在上海举办首届的 GOSIM Workshop (9.23-24)[1] 和 GOSIM Conference (9.26)[2] 盛会。GOSIM 会场将支持「同声传译」，小伙伴们可以放心购票参与。还不了解 GOSIM 大会的朋友，可以参考文章结尾的详细介绍。本次 GOSIM Workshop 机器人与自动驾驶分论坛请来了 Rust 开源下一代机器人框架的项目核心维...
big-brain:Rust的Utility AI库
05-12
大脑子 big-brain是一个针对构建的游戏库 它使您可以根据实体对世界的感知来定义复杂，复杂的AI行为。 使用简单的Rust，定义是由大量数据驱动的，您只需要对记分器（查看游戏世界并提供分数的实体）和动作（对世界执行实际行为的实体）进行编程。 实际的AI行为不需要其他代码。 有关更多详细信息，请参见。 特征 高度并行/可并行的评估。 与Bevy平稳集成。 使用惯用的Rust构建器轻松定义AI。 你不必是一些天才定义的行为，感觉现实的球员。 高性能-支持数十万个并发AI。 平滑降级-可以配置为使得可用的帧时间越短，AI可能“似乎”越慢，而不会降低帧速率，而只需降低每个刻度的事件数即可。 经过验证的游戏AI模型。 代码开销低-您只需定义两种类型的与应用程序相关的事物，其他所有事物都是构建块！ 高度可组合和可重用。 状态机风格的连续动作/行为。 取消动作。 例子 首先，您
Rust 在生产环境中的应用与实践
AI天才研究院
08-06 1002
Rust 是一种多范式系统编程语言，它被设计用于构建可靠、高效且安全的软件。它的高性能编译器（rustc）和丰富的生态系统使其成为许多领域最具吸引力的语言之一，包括基础设施、Web 服务、嵌入式设备、游戏开发、操作系统和网络编程等。此外，Rust 的开发者社区及其大量开源库也为其提供了强大的支持和工具链。因此，Rust 在工程师中备受青睐并得到广泛应用。本文将从实际案例出发，对 Rust 在生产环境中的应用进行详细分析，分享使用过程中遇到的主要难点和挑战，以及规避或解决这些难点的方法。
【Rust与AI】概览和方向
Rust语言学习交流
12-03 1683
本系列主要介绍Rust与AI的那些天作之合（开源项目），我们会以开源项目代码阅读的方式推进，以Rust为主，同时科普AI相关知识，目的是让更多非算法、非Rust的程序员进一步学习Rust和AI相关知识。当然，很显然地，我们也希望Rust程序员和AI算法工程师能从中有所收获。前者可以关注AI算法的设计和优化，后者可以关注Rust如何助力AI算法。本篇是系列第一篇，主要介绍Rust和AI各自的特点与发...
探索极致性能：Iai —— 高精度Rust基准测试框架
gitblog_00008的博客
05-21 424
探索极致性能：Iai —— 高精度Rust基准测试框架 iaiExperimental one-shot benchmarking/profiling harness for Rust项目地址:https://gitcode.com/gh_mirrors/ia/iai 项目简介 Iai是一个实验性的基于Rust的基准测试框架，它利用Cachegrind进行单次测量以实现对代码运行性能的高度精确评...
探索未来智能的钥匙 —— Neuronika：用Rust重构机器学习框架
最新发布
gitblog_00064的博客
08-24 236
探索未来智能的钥匙 —— Neuronika：用Rust重构机器学习框架 neuronikaTensors and dynamic neural networks in pure Rust.项目地址:https://gitcode.com/gh_mirrors/ne/neuronika 在快速演进的人工智能领域，有一颗新星正冉冉升起——Neuronika。这是一款专为追求极致性能、简洁代码与快速...
【Rust日报】2023-11-22 Floneum -- 基于 Rust 的一款用于 AI 工作流程的图形编辑器
Rust语言学习交流
11-24 652
Floneum -- 基于 Rust 的一款用于 AI 工作流程的图形编辑器Floneum 是一款用于 AI 工作流程的图形编辑器，专注于社区制作的插件、本地 AI 和安全性。Floneum 有哪些特性：可视化界面：您无需任何编程知识即可使用Floneum。可视化图形编辑器可以轻松地将社区制作的插件与本地人工智能模型相结合。即时运行本地大型语言模型：Floneum 不需要任何外部依赖项，甚至不需要...
Rust实现网络摄像头上应用AI（人脸识别、80种目标检测）
armer_song的专栏
05-08 659
在rv1106上通过rknn, 使用rust语言开发摄像头的AI应用，包括人脸识别和目标检测。
【Rust日报】 2019-06-14：有人做了一個 下棋AI 4k1w
nostrud ipsum6
06-14 184
2019 開發者技術報告 主要是rust愈來愈多人想學了 read more keys.openpgp.org (使用 Rust 實作) 一個使用rust實作的 keyserver read more 如何開放API並且隱藏實作 這在C++有個Impl Pointer 實作法，來看看rust怎麼做的吧 read more Windows Kernel-Mode Drivers 使...
AI 时代，Rust 越来越火。
MarkJava
03-02 594
大家好，我是渔夫。 今天是个独特的日期，因为它只出现在闰年中，而闰年大约每四年出现一次。同时，2024 年被视为 AI 时代的一个关键转折点，它预示着普通人将迎来重大的机遇。在这一年，AI 的发展预计将为日常生活带来深远的影响，开启前所未有的可能性。 为什么说，AI 时代是普通人的重大机会呢？ 自从 2022年底，由 OpenAI 发布的 GPT3.5 以来，不仅轰动了整个科技界、也引起了社会各界的广泛关注。这事件标志着 AI 技术的飞速发展，给各行各业带来前所未有冲击。 不要觉得 AI 改变你还很遥远
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值