并行处理文件

cat bingxing.sh |xargs -i -P 2 sh {}

参考 https://www.cnblogs.com/f-ck-need-u/p/9752365.html

 

手动分割后并行

split -l 125000 input.list -d -a 1 batch

加后缀名

split -l 125000 input.list -d -a 1 batch&&ls|grep batch|xargs -n1 -i{} mv {} {}.list

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
在 C# 中,利用并行处理技术可以同时对多个文件进行操作,提高数据处理的效率。你可以使用 `Parallel.ForEach` 或者 `Task Parallel Library (TPL)` 来实现这一点。以下是基本步骤: 1. **引入库**:首先确保已导入 System.Threading.Tasks命名空间,这是用于并行操作的库。 ```csharp using System; using System.IO; using System.Threading.Tasks; ``` 2. **定义任务**:创建一个方法来处理单个文件,然后使用 `Task.Run` 包装这个方法,形成一个个独立的任务。 ```csharp private static void ProcessFile(string filePath) { // 对文件进行读取、处理等操作 } ``` 3. **并行循环**:使用 `Parallel.ForEach` 遍历一组文件路径,每个路径都会启动一个新的线程处理。 ```csharp string[] files = Directory.GetFiles("path_to_files"); Parallel.ForEach(files, ProcessFile); ``` 4. **错误处理**:由于并行操作可能会有异常,通常需要加上适当的错误处理和取消操作。 ```csharp try { Parallel.ForEach(files, ProcessFile, options => { // 可能需要的选项配置,如 MaxDegreeOfParallelism 设置并发数 TaskScheduler taskScheduler = new TaskScheduler(); return new ParallelOptions { CancellationToken = options.CancellationToken, Scheduler = taskScheduler }; }); } catch (OperationCanceledException) { Console.WriteLine("Processing was canceled."); } ``` 5. **完成标志**:如果你希望在所有任务完成后执行某些操作,可以使用 `WhenAll` 或 `Task.WaitAll` 等方法等待所有任务完成。 注意:过多的并行操作可能导致系统资源消耗过大,因此要适当控制并发级别,并根据硬件资源调整 `MaxDegreeOfParallelism` 参数。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yang_daxia

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值