【Rust日报】2024-06-09 mistral.rs - 集成的LLM推理库

书籍:简化版嵌入式Rust

这个项目刚启动不久，专门针对Rust在嵌入式中的应用书写，提供std版本和no-std版本两本书。大家可以关注。

https://www.theembeddedrustacean.com/c/ser-std

重写 xkb-common （Wayland KeyBoard）为 Rust实现

虽然刚开头，但是Rust朝替代X/Wayland 这个方向发展是没有问题的。

https://github.com/rano-oss/wkb

Rust实现的多变量微积分库

Rust for single and multi-variable calculus 科学计算库。

示例：单变量偏导数

//function is y*sin(x) + x*cos(y) + x*y*e^z
let func = | args: &Vec<f64> | -> f64 
{ 
    return args[1]*args[0].sin() + args[0]*args[1].cos() + args[0]*args[1]*args[2].exp();
};

let point = vec![1.0, 2.0, 3.0];
let idx_to_derivate = 0;

//partial derivate for (x, y, z) = (1.0, 2.0, 3.0), partial derivative for x is known to be y*cos(x) + cos(y) + y*e^z
let val = single_derivative::get_partial(&func, idx_to_derivate, &point, 0.001);
let expected_value = 2.0*f64::cos(1.0) + f64::cos(2.0) + 2.0*f64::exp(3.0);
assert!(f64::abs(val - expected_value) < 0.000001); //numerical error less than 1e-6

https://github.com/kmolan/multicalc-rust

mistral.rs - 集成的LLM推理库

Mistral.rs 是一个快速的大型语言模型推理平台，支持在多种设备上进行推理、量化，并且易于使用。它提供兼容 Open-AI API 的 HTTP 服务器和 Python 绑定，便于开发和集成应用程序。

Mistral.rs 基于 candle 框架开发，是将 candle 实用化的关键一步。

https://github.com/EricLBuehler/mistral.rs

--

From 日报小组 Mike

社区学习交流平台订阅：

• Rustcc论坛: 支持rss

• 微信公众号：Rust语言中文社区