hive动态分区数太多导致异常java.io.EOFException: Premature EOF: no length&nbs
2016-09-14 11:24阅读:
使用场景:从其他表通过动态分区导入到新的分区表,分区数和文件都非常大
异常信息:mapreduce执行到一半的时候,开始大量失败,并报错java.io.EOFException: Premature EOF: no length prefix
available
hivesql:insert overwrite table 表名 partition(分区名
)
select * from 其他表;
解决方案:如果分区特多,可能导致任务失败。此时最好能在查询其他表时,手动限制条件在一定分区范围内,就不会报错。
我是按天分区,一次限制2月,没有再报错了
异常信息:mapreduce执行到一半的时候,开始大量失败,并报错java.io.EOFException:
hivesql:insert overwrite table
select * from 其他表;
解决方案:如果分区特多,可能导致任务失败。此时最好能在查询其他表时,手动限制条件在一定分区范围内,就不会报错。
我是按天分区,一次限制2月,没有再报错了
