HBase写入异常RejectedExecutionException
短信预约 信息系统项目管理师 报名、考试、查分时间动态提醒
HBase在大数据量并发写入时,写一段时间后HBase监控界面出现告警,写入程序日志里频繁出现异常java.util.concurrent.RejectedExecutionException
HBase在大数据量并发写入时,写一段时间后HBase监控界面出现告警,写入程序日志里频繁出现异常java.util.concurrent.RejectedExecutionException:
从异常堆栈信息可以看出是flush请求时被拒绝引起的,核对一下flush的代码。
我们单位办公电脑在内网里,不便粘贴代码和异常信息,这里手动写几行代码大体说明情况。
1 Configuration conf = HBaseConfiguration.create();
2 Connection connection = ConnectionFactory.createConnection(conf);
3 Table table = null;
4 try (Admin admin = connection.getAdmin()) {
5 TableName tableName = TableName.valueOf("test:table");
6 table = connection.getTable(tableName);
7 table.put(puts);//List puts
8 admin.flush(tableName);
9 } finally {
10 if (table != null) {
11 table.close();
12 }
13 }
代码是每接受到一批List
这里的flush太频繁是不合理的,把flush机制修改为了写入一定数据量或超过一定时间没有后才触发,问题就解决了。
这里顺便学习一下HBase触发flush的条件。引用前辈的链接吧,已经总结的很不错了。https://www.iteblog.com/archives/2497.html
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341