敏感词过滤

有些包是其它业务的,在此没有删除,大家用的时候把不必要的删了就行



package com.aifa.project.indust.client.support;

import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.InputStream;
import java.io.OutputStream;
import java.net.URLEncoder;
import java.util.ArrayList;
import java.util.Iterator;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;

import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;

import org.apache.commons.fileupload.disk.DiskFileItem;
import org.apache.poi.hwpf.HWPFDocument;
import org.apache.poi.hwpf.extractor.WordExtractor;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Component;
import org.springframework.web.multipart.MultipartFile;
import org.springframework.web.multipart.commons.CommonsMultipartFile;

import com.aifa.core.exception.SystemServiceException;
import com.aifa.project.indust.model.EntSensitivity;
import com.lowagie.text.Document;
import com.lowagie.text.DocumentException;
import com.lowagie.text.Font;
import com.lowagie.text.PageSize;
import com.lowagie.text.Paragraph;
import com.lowagie.text.pdf.BaseFont;
import com.lowagie.text.pdf.PdfWriter;
@Component
public class FileSupport {

/***

     * 读取文本内容(doc格式的文档)
     * @return
     */
    public static String getContents(MultipartFile partFile){
        
        FileInputStream in = null;
//        try {
//            in = new FileInputStream(new File(partFile));
//        } catch (FileNotFoundException e) {
//            e.printStackTrace();
//        }
        try {
            in=(FileInputStream) partFile.getInputStream();
        } catch (IOException e) {
            e.printStackTrace();
        }
        HWPFDocument hdt = null;
        
        try {
            hdt = new HWPFDocument(in);
        } catch (IOException e1) {
            e1.printStackTrace();
        }
        // 读取word文本内容
        //Range range = hdt.getRange();
        //String text = range.text();
        String content = hdt.getDocumentText();
        
        return content;
        
    }
    
    /***
     * 将数据库存储的敏感词跟上传文件内容进行比对
     * @author guangwen zhou
     * @param partFile   文件
     * @param sensitivity   数据库中的敏感词集合
     * @return
     */
    public List<String> judgeSensitive(MultipartFile partFile,List<EntSensitivity> sensitivity){
        
        String text = getContents(partFile);//获得文本内容
        //遍历敏感词比对文本内容
        List<String> mySenList = new ArrayList<String>();
        List<String> hasSensit = new ArrayList<String>();
        for(int i=0;i<sensitivity.size();i++){
            mySenList.add(sensitivity.get(i).getSensitWord());
            String senword=isFilter(mySenList, text);//比对文本中是否包含某一个敏感词
            mySenList.clear();
            if(senword!=null&&!"".equals(senword)){
                if(i==sensitivity.size()-1){
                    hasSensit.add(senword);
                }else{
                    hasSensit.add(senword+"、");//将文中拥有的敏感词保存下来
                }
            }
        }
        return hasSensit;
    }
    
    
    /***
     * 敏感词比对方法
     * @param list
     * @param inputWords
     * @return
     */
    public static String isFilter(List<String> list,String inputWords){
        changePattern(list);
        Iterator it = list.iterator();
        while(it.hasNext()){
            String patStr = (String)it.next();
            Pattern pattern = Pattern.compile(patStr);
            Matcher matcher = pattern.matcher(inputWords);
            if(matcher.find()){
                //去掉正则表达式
                return patStr.replaceAll("\\\\s\\*", "");
            }
        }
        return null;
    }
    /**
    * 修改list
    * @param list
    */
    public static void changePattern(List<String> list){
        if(null != list && list.size()>0){
            int index = 0;
            Iterator it = list.iterator();
        while(it.hasNext()){
            String str = (String) it.next();
            int length = str.length();
            //将字符加上正则表达式
            String temp = "";
            for (int i = 0; i < length; i++) {
                if(i==0){
                    temp += str.charAt(i);
                    continue;
                }
                temp = temp + "\\s*"+str.charAt(i);
            }
            list.set(index, temp);
            index ++;
        }
    
        }
    }

}

本文是在http://your233.iteye.com/blog/1175714基础上根据业务改进,可通过查询数据库中敏感词进行文本内容过滤

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值