Java实现读取文本中重复出现的字符串

package com.xu.service;

import java.io.BufferedReader;
import java.io.File;
import java.io.FileReader;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.HashSet;

/**
 * Created by chunmiao on 17-3-20.
 */
public class ReadArticle {
    //读取文件名称
    private String filename;
    //读取段落
    private ArrayList<String> result = new ArrayList<String>();
    //最小字长(两个字以上进行匹配)
    private final int MINSIZE = 7;
    //重复词储存
    HashSet<String> set;

    public ReadArticle(String filename, HashSet<String> set) {
        this.filename = filename;
        this.set = set;
    }


    public void createData() throws IOException {
        String r;
        //读取文章内容
        BufferedReader in = new BufferedReader(new FileReader(new File(filename).getAbsoluteFile()));
        try {
            while ((r = in.readLine()) != null) {
                //消除不必要的标点符号
                r = r.replaceAll("\\s+ |“|\\[|‘|《| *|", "").trim();
                //留下” , 。  。”  ”。 ”, ? 》 -等作为划分句子的分割符标示
                Collections.addAll(result, r.split(",|(。”|”(。|,)|。)|(\\])|”|’|?|:|》|-"));
            }
        }finally {
            in.close();
        }

        //对文章内容进行遍历找出重读出现的句子或者是词语
        for (int i  = 0 ; i < result.size() - 1; i ++){
            for (int j  = 0 ; j < result.size() - i - 1; j ++) {
                //将重复出现的词语保存到set集合里面
                set.addAll(getSameCharacter(result.get(i), result.get(j + i + 1)));
            }
        }

    }

    private ArrayList<String> getSameCharacter(String a1, String a2){
        String maxS;
        String minS;
        //短句遍历开始处
        int start = 0;
        //词的长度最短为两个字长
        int range =7;
        //设定短句和长句s,使得遍历更加快捷
        if (a1.length() <= a2.length()){
            maxS = a2;
            minS = a1;
        }else {
            maxS = a1;
            minS = a2;
        }
        String result = "";
        ArrayList<String> list = new ArrayList<String>();
        //防止substring时超出范围
        while (start + range <= minS.length()) {
            //如果句子或词在对象里面,则找出相应的句子或词保存在list里面
            if (maxS.indexOf(minS.substring(start, start + range)) != -1) {
                //获取最长句子,删除短句子
                list.remove(result);
                list.add(minS.substring(start, start + range));
                result = minS.substring(start, start + range);
                range++;
                continue;
            }
            range = MINSIZE;
            start++;
        }
        return list;
    }
    
    
    public static void main(String[] args) throws IOException {
        String filename = "D:\\json.txt";
        HashSet<String> result = new HashSet<String>();
        ReadArticle read = new ReadArticle(filename,result);
        read.createData();
        System.out.println("这篇文章中的重复出现的词或句子有以下几个词或句子:\n");
        for (String s : result){
            System.out.println(s);
        }
    }
}
 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值