bucket sort sample sort 并行_Rust Cookbook: 4.2 并行处理数据

e20a7e2c2d377ab7cc8ab049c0525082.png

并行修改数组元素

该示例使用 rayon crate, 这是一个Rust的数据并行计算库。rayon 提供 par_iter_mut 方法用于并行处理任何可迭代的数据类型, 这类似于迭代器的链式调用,但计算过程是并行的。

extern crate rayon;

use rayon::prelude::*;

fn main() {
    let mut arr = [0, 7, 9, 11];
    arr.par_iter_mut().for_each(|p| *p -= 1);
    println!("{:?}", arr);
}

并行检测集合中的任何或所有元素是否匹配给定谓词

此示例演示了 rayon::anyrayon::all 方法的用法,该两方法是与标准库中 std::anystd::all相对应的并行方法。 rayon::any 并行检查迭代器的任何元素是否与谓词匹配,并在找到一个元素后立即返回。rayon::all 并行检查迭代器的所有元素是否与谓词匹配,并在找到一个不匹配的元素后立即返回。

extern crate rayon;

use rayon::prelude::*;

fn main() {
    let mut vec = vec![2, 4, 6, 8];

    assert!(!vec.par_iter().any(|n| (*n % 2) != 0));
    assert!(vec.par_iter().all(|n| (*n % 2) == 0));
    assert!(!vec.par_iter().any(|n| *n > 8 ));
    assert!(vec.par_iter().all(|n| *n <= 8 ));

    vec.push(9);

    assert!(vec.par_iter().any(|n| (*n % 2) != 0));
    assert!(!vec.par_iter().all(|n| (*n % 2) == 0));
    assert!(vec.par_iter().any(|n| *n > 8 ));
    assert!(!vec.par_iter().all(|n| *n <= 8 )); 
}

使用给定谓词并行搜索项目

本示例使用 rayon::find_anypar_iter 并行搜索 vector 以找到符合闭包中给定谓词的元素。

如果有多个元素满足rayon::find_any的闭包参数中定义的谓词If there are multiple elements satisfying the predicate 那么 rayon 返回第一个被找到的元素,不一定是第一个(顺序位置)元素。

请注意,闭包的参数是对引用的引用 (&&x) ,更多详情请参见有关 std::find 的讨论。

extern crate rayon;

use rayon::prelude::*;

fn main() {
    let v = vec![6, 2, 1, 9, 3, 8, 11];

    let f1 = v.par_iter().find_any(|&&x| x == 9);
    let f2 = v.par_iter().find_any(|&&x| x % 2 == 0 && x > 6);
    let f3 = v.par_iter().find_any(|&&x| x > 8);

    assert_eq!(f1, Some(&9));
    assert_eq!(f2, Some(&8));
    assert!(f3 > Some(&8));
}

并行排序 vector

此示例将并行对Strings字符串数组(vector )进行排序。

分配一个空Strings字符串vector,用par_iter_mut().for_each 并行填充随机值。 尽管有多个可选方法来对可枚举的数据类型进行排序,但并行不稳定(par_sort_unstable)算法通常比稳定排序(stable sorting)算法要快。

extern crate rand;
extern crate rayon;

use rand::{Rng, thread_rng};
use rand::distributions::Alphanumeric;
use rayon::prelude::*;

fn main() {
  let mut vec = vec![String::new(); 100_000];
  vec.par_iter_mut().for_each(|p| {
    let mut rng = thread_rng();
    *p = (0..5).map(|_| rng.sample(&Alphanumeric)).collect()
  });
  vec.par_sort_unstable();
}

并行 Map-reduce

本示例使用 rayon::filterrayon::maprayon::reduce 来计算集合中年龄超过30 岁的 Person 对象的平均年龄。

rayon::filter 从满足给定谓词的集合中返回元素。 rayon::map 在每个元素上执行一个操作,创建一个新的迭代,并用 rayon::reduce 在把前面的reduction结果与当前元素执行处理,同时 还展示了使用rayon::sum的做法,其结果与本示例中使用reduce操作的相同。

extern crate rayon;

use rayon::prelude::*;

struct Person {
    age: u32,
}

fn main() {
    let v: Vec<Person> = vec![
        Person { age: 23 },
        Person { age: 19 },
        Person { age: 42 },
        Person { age: 17 },
        Person { age: 17 },
        Person { age: 31 },
        Person { age: 30 },
    ];

    let num_over_30 = v.par_iter().filter(|&x| x.age > 30).count() as f32;
    let sum_over_30 = v.par_iter()
        .map(|x| x.age)
        .filter(|&x| x > 30)
        .reduce(|| 0, |x, y| x + y);

    let alt_sum_30: u32 = v.par_iter()
        .map(|x| x.age)
        .filter(|&x| x > 30)
        .sum();

    let avg_over_30 = sum_over_30 as f32 / num_over_30;
    let alt_avg_over_30 = alt_sum_30 as f32/ num_over_30;

    assert!((avg_over_30 - alt_avg_over_30).abs() < std::f32::EPSILON);
    println!("The average age of people older than 30 is {}", avg_over_30);
}

并行生成 jpg 缩略图

本示例为当前目录中的所有.jpg文件生成缩略图,然后将其保存在名为thumbnails的新文件夹中。

glob::glob_with 用于在当前目录中查找jpeg文件。rayon 使用 par_iter 调用 DynamicImage::resize 并行地调整图像大小。

extern crate glob;
extern crate image;
extern crate rayon;

use std::path::Path;
use std::fs::create_dir_all;

use glob::{glob_with, MatchOptions};
use image::{FilterType, ImageError};
use rayon::prelude::*;


fn main() -> Result<()> {
    let options: MatchOptions = Default::default();
    let files: Vec<_> = glob_with("*.jpg", &options)?
        .filter_map(|x| x.ok())
        .collect();

    if files.len() == 0 {
        bail!("No .jpg files found in current directory");
    }

    let thumb_dir = "thumbnails";
    create_dir_all(thumb_dir)?;

    println!("Saving {} thumbnails into '{}'...", files.len(), thumb_dir);

    let image_failures: Vec<_> = files
        .par_iter()
        .map(|path| {
            make_thumbnail(path, thumb_dir, 300)
                .map_err(|e| e.chain_err(|| path.display().to_string()))
        })
        .filter_map(|x| x.err())
        .collect();

    image_failures.iter().for_each(|x| println!("{}", x.display_chain()));

    println!("{} thumbnails saved successfully", files.len() - image_failures.len());
    Ok(())
}

fn make_thumbnail<PA, PB>(original: PA, thumb_dir: PB, longest_edge: u32) -> Result<()>
where
    PA: AsRef<Path>,
    PB: AsRef<Path>,
{
    let img = image::open(original.as_ref())?;
    let file_path = thumb_dir.as_ref().join(original);

    Ok(img.resize(longest_edge, longest_edge, FilterType::Nearest)
        .save(file_path)?)
}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值