Flink任务提交ZooKeeper上的quota超阈值

问题现象

任务提交ZooKeeper上的quota超阈值。

可能原因

• 提交的任务数量太多超过了flinkznode节点能承载的最大值。
• 默认情况下每个znode上默认的上限值是20000，Flink的HA策略是将文件存储到ZooKeeper上的/flink_xxx目录下，如果超限制会导致任务提交失败。

解决方案

• 方案一： 删除flink_base的根目录。

  Flink默认提交任务的节点在flink_base下，可以修改flink_base的根目录进行快速规避。

  

• 方案二： 修改报错根目录的quota的数量限制。
  1. 登录任意ZooKeeper节点。

     进入“${BIGDATA_HOME}/FusionInsight_Current/X_X_quorumpeer/install/zookeeper/conf”目录，找到“zookeeper.keytab”并且将这个票据传到执行命令的客户端节点。

     

  2. 执行以下命令查询票据信息。

     klist -k

     

  3. 执行以下命令连接ZooKeeper。

     zkCli.sh zkCli.sh -server ZooKeeper实例IP地址:端口

     端口默认为24002，具体情况可通过ZooKeeper的配置参数“clientPort”进行获取。

     

  4. 执行以下命令，修改quota的总数。

     setquota -n 250000 /flink_base

     如果任务提交的znode节点不在flink_base下，要根据日志中具体的报错来确定修改哪个quota节点。