微博数据清洗(Java版)

最新推荐文章于 2024-09-02 20:52:37 发布

devtao

最新推荐文章于 2024-09-02 20:52:37 发布

阅读量7.2k

点赞数

分类专栏： Hadoop开发实践

本文链接：https://blog.csdn.net/devtao/article/details/17240531

版权

本文介绍了如何使用Java处理一份来自大数据公益大学的Excel数据，该数据包含HTML标签和URL地址。主要任务是清洗数据，去除HTML标签和URL。内容包括两个部分：文本数据的清洗和Excel文件的读写操作，其中Excel读写借助了Apache POI库。

摘要由CSDN通过智能技术生成

大数据公益大学提供的一份数据，义务处理一下，原始数据是Excel，含有html标签，如下：

要求清洗掉html标签，和微博内容中的url地址。

主要分为两部分：

1.处理文本，清洗数据。

2.处理excel读写操作。

上代码：

ExcelUtil类，包含Excel2003-2007的读写操作,Excel使用Apache POI进行操作,需要jar包如下：

package dat.datadeal;

import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.InputStream;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.ArrayList;
import java.util.Date;
import java.util.List;
import java.util.Locale;
import java.util.logging.Level;
import java.util.logging.Logger;

import org.apache.poi.hssf.usermodel.HSSFCell;
import org.apache.poi.hssf.usermodel.HSSFCellStyle;
import org.apache.poi.hssf.usermodel.HSSFRow;
import org.apache.poi.hssf.usermodel.HSSFSheet;
import org.apache.poi.hssf.usermodel.HSSFWorkbook;
import org.apache.poi.ss.usermodel.Cell;
import org.apache.poi.ss.usermodel.DateUtil;
import org.apache.poi.ss.usermodel.Row;
import org.apache.poi.ss.usermodel.Sheet;
import org.apache.poi.ss.usermodel.Workbook;
import org.apache.poi.xssf.usermodel.XSSFWorkbook;

/**
 * 
 * @author daT dev.tao@gmail.com
 *2003,2007版excel读写工具
 */
public class ExcelUtil{
	
	/**
	 * Excel文件读取
	 * @param filePath
	 * @return String[]存的是行，List存的是列。
	 * 一个excel一次全部读入内存(E