报错Failed with exception java.io.IOException:java.io.IOException: Malformed ORC file ....

问题描述

在用 sqoop 拉取 mysql 中的数据到 hive 的 ods 层的时候，报错以下内容

原因在于
在hive中创建表格的时候,格式是ORC，而在导入数据的时候,文本文件却非ORC格式的。

ORC格式是列式存储的表，不能直接从本地文件导入数据，只有当数据源表也是ORC格式存储时，才可以直接加载，否则会出现上述报错。

解决方案

1.将ORC格式的表删除换成textfile存储格式的表即可。
2.先创建一个以textfile格式的临时表先将源文件数据加载到该表，然后再从textfile表中insert数据到ORC目标表中。