读取多个txt文件,去掉重复元素,再写入一个新的txt文件

package com.txt;

import java.io.BufferedReader;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStreamReader;
import java.util.HashSet;
import java.util.Set;

/**
* 读取多个txt文件,去掉重复元素,再写入一个新的txt文件。
*
* @author Administrator
*
*/
public class Raw {

/**
* 读取指定目录下的txt文件,并添加到set里面(即去掉重复元素)
*
* @param path
* @return setStr
*/
public static Set<String> reader(String path) {
Set<String> setStr = new HashSet<String>();

try {
String encoding = "GBK";
File file = new File(path);
String[] fileList = file.list();

for (String fl : fileList) {
String newPath = path + "\\" + fl;
InputStreamReader read = new InputStreamReader(
new FileInputStream(newPath), encoding);// 考虑到编码格式
BufferedReader bufferedReader = new BufferedReader(read);
String lineTxt = null;
while ((lineTxt = bufferedReader.readLine()) != null) {
if (!lineTxt.trim().equals("")) {
setStr.add(lineTxt);
}
}
read.close();
}
} catch (Exception e) {
System.out.println("读取文件内容出错");
e.printStackTrace();
}

return setStr;
}

/**
* 将set里面的数据写入到一个新的txt文件里面
*
* @param str
* @throws IOException
*/
public static void writer(Set<String> str) throws IOException {
FileWriter fileWriter = new FileWriter("D:\\Result.txt");
int count = 0;
for (String string : str) {
if (!string.trim().equals("")) {
count++;
fileWriter.write(string.trim() + "\r\n");
}
}
System.out.println(count);
fileWriter.flush();
fileWriter.close();
}

public static void main(String[] args) throws IOException {
System.out.println("set>>" + reader("D:\\Stop words"));
writer(reader("D:\\Stop words"));

}

}
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在 Python ,可以使用 `multiprocessing` 模块来实现多进程读写文件。 以下是一个示例代码,其有两个进程,一个进程用于写入数据文件,另一个进程用于读取文件数据: ```python import multiprocessing # 写入数据文件的进程 def write_data(filename, data_queue): with open(filename, "w") as f: while True: data = data_queue.get() if data == "STOP": break f.write(data + "\n") # 读取数据文件的进程 def read_data(filename, data_queue): with open(filename, "r") as f: for line in f: data_queue.put(line.strip()) if __name__ == "__main__": # 创建一个进程共享队列 data_queue = multiprocessing.Queue() # 创建写入文件的进程 write_process = multiprocessing.Process(target=write_data, args=("data.txt", data_queue)) # 创建读取文件的进程 read_process = multiprocessing.Process(target=read_data, args=("data.txt", data_queue)) # 启动进程 write_process.start() read_process.start() # 等待写入进程完成 write_process.join() # 停止读取进程 data_queue.put("STOP") ``` 在这个例子,我们创建了一个共享队列 `data_queue`,写入进程将数据写入这个队列,读取进程从这个队列读取数据。 需要注意的是,在写入进程,我们需要将数据写入文件并且添加一个换行符,而在读取进程,我们需要使用 `strip()` 方法来去掉读取的每一行数据的换行符。此外,在写入进程完成后,我们向队列添加一个 `STOP` 标记来停止读取进程。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值