Flink task故障失败恢复策略详解及对应参数、代码配置

Flink任务执行过程中经常会出现由于网络或者内存等原因导致某些task失败，这时就需要我们配置对应的task故障恢复，也就是重启策略来保障某个子task失败可以自动恢复过来而不影响导致整个flink job任务失败。

Flink的故障恢复有四种方式：重启策略分为：固定延迟重启策略、故障率重启策略、无重启策略、后备重启策略；

这几种方式中除去无重启策略，其他三种重启策略都是需要建立在开启checkpoint的前提下配置，如果没有开启checkpoint（FLink checkpoint生产使用实践和原理详解）则默认为无重启策略，如果激活了检查点并且尚未配置重启策略，则固定延迟策略将用于 Integer.MAX_VALUE重启尝试。

默认重启策略是通过Flink的配置文件设置的flink-conf.yaml。配置参数restart-strategy定义采用的策略。

1.固定延迟重启策略

固定延迟重启策略是尝试给定次数重新启动作业。如果超过最大尝试次数，则作业失败。在两次连续重启尝试之间，会有一个固定的延迟等待时间。

通过在flink-conf.yaml中配置参数：

# fixed-delay:固定延迟策略
restart-strategy: fixed-delay

# 尝试5次，默认Integer.MAX_VALUE
restart-strategy.fixed-delay.attempts: 5

# 设置延迟时间10s，默认为 akka.ask.timeout时间
restart-strategy.fixed-delay.delay: 10s

如果想通过代码中修改：

ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();

// 5表示最大重试次数为5次，10s为延迟时间
env.setRestartStrategy(RestartStrategies.fixedDelayRestart(5,Time.of(10, TimeUnit.SECONDS)));

2.故障率重启策略

故障率重启策略在故障后重新作业，当设置的故障率（failure rate）超过每个时间间隔的故障时，作业最终失败。在两次连续重启尝试之间，重启策略延迟等待一段时间。

在flink-conf.yaml文件配置

# 设置重启策略为failure-rate
restart-strategy: failure-rate

# 失败作业之前的给定时间间隔内的最大重启次数，默认1
restart-strategy.failure-rate.max-failures-per-interval: 3

# 测量故障率的时间间隔。默认1min
restart-strategy.failure-rate.failure-rate-interval: 5min

# 两次连续重启尝试之间的延迟，默认akka.ask.timeout时间
restart-strategy.failure-rate.delay: 10s

在代码中设置：

ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();

// 3为最大失败次数；5min为测量的故障时间；10s为2次间的延迟时间
env.setRestartStrategy(RestartStrategies.failureRateRestart(3,Time.of(5, TimeUnit.MINUTES),Time.of(10, TimeUnit.SECONDS)));

3.无重启策略

作业直接失败，不尝试重启。

如果配置了对应的checkpoint但是不想开启重启策略则配置方式为在flink-conf.yaml中配置：

restart-strategy: none

在代码中实现：

ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
env.setRestartStrategy(RestartStrategies.norestart());

4.后备重启策略

使用群集定义的重新启动策略。这对于启用检查点的流式传输程序很有帮助。默认情况下，如果没有定义其他重启策略，则选择固定延迟重启策略。

注意要区分的是上述所说的任务故障恢复重启策略，指的是task的故障恢复而不是整个flink job的失败的恢复，task的故障恢复是保证某一个子task的失败可以自己恢复过来而不导致整个job的失败，如果是flink job 失败则需要重新手动提交拉起任务了。

参考文章：

1.flink官网配置task故障恢复配置

2.Flink重启策略

3.FLink checkpoint生产使用实践和原理详解

---

学习大数据，技术，业务，读书，职场更多文章可以扫码关注“迪答”公众号。