本文介绍: 在 Flink 的配置文件(如 flink-conf.yaml)中,,可以通过设置以下参数来配置。是 Flink 中用于设置消费 Kafka topic 数据的起始 offset 的配置参数之一。参数是用于 Flink 1.14 版本及以上。在更早的版本中,可以使用。参数来设置消费 Kafka 数据的起始 offset 模式。

        scan.startup.mode 是 Flink 中用于设置消费 Kafka topic 数据的起始 offset 的配置参数之一。

scan.startup.mode 可以设置为以下几种模式:

  • earliest-offset:从最早的 offset 开始消费数据。
  • latest-offset:从最新的 offset 开始消费数据。
  • group-offsets:从消费者组的 offset 开始消费数据。
  • timestamp:根据指定的时间戳开始消费数据。
  • specific-offsets:根据指定的 offset 开始消费数据。

        在 Flink 的配置文件(如 flink-conf.yaml)中,,可以通过设置以下参数来配置 scan.startup.mode

# 设置启动模式为 earliest-offset
flink.connector.kafka.scan.startup.mode: earliest-offset

        或者在程序中使用 FlinkKafkaConsumersetStartupMode() 方法来设置启动模式:

Properties props = new Properties();
props.setProperty("bootstrap.servers", "localhost:9092");
props.setProperty("group.id", "consumer-group");

FlinkKafkaConsumer<String> kafkaConsumer = new FlinkKafkaConsumer<>("topic-name", new SimpleStringSchema(), props);
kafkaConsumer.setStartupMode(StartupMode.EARLIEST);

// 使用 kafkaConsumer 进行后续操作

        需要注意的是,scan.startup.mode 参数是用于 Flink 1.14 版本及以上。在更早的版本中,可以使用 flink.consumer.startup-mode 参数来设置消费 Kafka 数据的起始 offset 模式。

原文地址:https://blog.csdn.net/tszc95/article/details/135760296

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。

如若转载,请注明出处:http://www.7code.cn/show_60815.html

如若内容造成侵权/违法违规/事实不符,请联系代码007邮箱:suwngjj01@126.com进行投诉反馈,一经查实,立即删除!

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注