Java集成maxcomputer,下载超过1W条数据并生成excel

问题:由于经常要从maxcomputer上导出数据,但是平台每次最多只能导出1W条数据

解决方案:

一.首先是maxcomputer的各种配置,然后将引用相关的pom

		<dependency>
			<groupId>cn.hutool</groupId>
			<artifactId>hutool-all</artifactId>
			<version>5.7.20</version>
		</dependency>
		<dependency>
			<groupId>com.aliyun.odps</groupId>
			<artifactId>odps-sdk-core</artifactId>
			<version>0.36.7-public</version>
		</dependency>

二.java操作工具类-读取数据

package ***;

import com.aliyun.odps.*;
import com.aliyun.odps.account.Account;
import com.aliyun.odps.account.AliyunAccount;
import com.aliyun.odps.data.Record;
import com.aliyun.odps.data.RecordReader;
import com.aliyun.odps.task.SQLTask;
import com.aliyun.odps.tunnel.TableTunnel;
import com.aliyun.odps.tunnel.TunnelException;
import com.google.common.collect.Lists;
import com.google.common.collect.Maps;

import java.io.IOException;
import java.util.*;


/**
 * Hello world!
 *
 */
public class GetOdpsData
{
    private static final String accessId = "阿里云账号";
    private static final String accessKey = "阿里云账号的密码";
    private static final String project = "项目名";
    private static final String endpoint = "http://dt.odps.aliyun.com";
    private static final String sql = "可直接在dataworks运行的sql";
    private static final String table = "Tmp_" + UUID.randomUUID().toString().replace("-", "_");//此处使用随机字符串作为临时导出存放
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
可以使用Apache POI库来实现Java中的Excel文件操作。以下是一个简单的代码示例,可以批量导入数据生成校验失败数据Excel文件: ```java import java.io.FileInputStream; import java.io.FileOutputStream; import java.io.IOException; import java.util.ArrayList; import java.util.Iterator; import java.util.List; import org.apache.poi.ss.usermodel.Cell; import org.apache.poi.ss.usermodel.Row; import org.apache.poi.ss.usermodel.Sheet; import org.apache.poi.ss.usermodel.Workbook; import org.apache.poi.xssf.usermodel.XSSFWorkbook; public class ExcelImport { public static void main(String[] args) throws IOException { // 读取Excel文件 FileInputStream inputStream = new FileInputStream("input.xlsx"); Workbook workbook = new XSSFWorkbook(inputStream); Sheet sheet = workbook.getSheetAt(0); // 遍历Excel文件中的数据 Iterator<Row> iterator = sheet.iterator(); List<String[]> validData = new ArrayList<>(); // 保存校验通过的数据 List<String[]> invalidData = new ArrayList<>(); // 保存校验失败的数据 while (iterator.hasNext()) { Row currentRow = iterator.next(); Iterator<Cell> cellIterator = currentRow.iterator(); String[] rowData = new String[currentRow.getLastCellNum()]; boolean valid = true; // 校验标识 while (cellIterator.hasNext()) { Cell currentCell = cellIterator.next(); int columnIndex = currentCell.getColumnIndex(); rowData[columnIndex] = currentCell.getStringCellValue(); // 进行校验,如果校验失败,设置valid为false // ... } if (valid) { validData.add(rowData); } else { invalidData.add(rowData); } } // 生成校验失败的数据Excel文件 Workbook outputWorkbook = new XSSFWorkbook(); Sheet outputSheet = outputWorkbook.createSheet("Invalid Data"); for (int i = 0; i < invalidData.size(); i++) { Row row = outputSheet.createRow(i); String[] rowData = invalidData.get(i); for (int j = 0; j < rowData.length; j++) { Cell cell = row.createCell(j); cell.setCellValue(rowData[j]); } } FileOutputStream outputStream = new FileOutputStream("output.xlsx"); outputWorkbook.write(outputStream); outputWorkbook.close(); // 关闭文件流 workbook.close(); inputStream.close(); outputStream.close(); } } ``` 在上面的代码中,我们首先读取了一个名为“input.xlsx”的Excel文件,并遍历其中的所有行和单元格。在遍历过程中,我们可以进行数据校验,并将校验通过和校验失败的数据分别保存到`validData`和`invalidData`列表中。 接下来,我们创建了一个名为“Invalid Data”的新工作表,并将校验失败的数据写入其中。最后,我们将新的Excel文件写入名为“output.xlsx”的文件中,并关闭所有文件流。 请注意,上面的代码示例仅供参考。具体实现方式可能因为实际业务需求而有所不同。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值