Kafka 发送消息 Idempotent

Kafka 发送消息 Idempotent–Start我们先来回答一下上个例子最后问题的答案,很遗憾Producer并不能证明消息发送成功了,如果设置了retry,Producer会再次发送消息,这会导致消息重复,如何避免?有两种办法,一种是Idempotent,也就是说支持重复发送,broker会自动认为是一条消息,另一种办法是使用事务。下面的例子演示使用Idempotent。packageshangb…

– Start

点击此处观看本系列配套视频


我们先来回答一下上个例子最后问题的答案,很遗憾 Producer 并不能证明消息发送成功了,如果设置了 retry,Producer 会再次发送消息,这会导致消息重复,如何避免?有两种办法,一种是 Idempotent,也就是说支持重复发送,broker 会自动认为是一条消息,另一种办法是使用事务。
下面的例子演示使用 Idempotent。

package shangbo.kafka.example2;

import java.util.Properties;

import org.apache.kafka.clients.producer.Callback;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.Producer;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;

public class App {
	public static void main(String[] args) {

		// Producer 配置信息,应该配置在属性文件中
		Properties props = new Properties();
		//指定要连接的 broker,不需要列出所有的 broker,但建议至少列出2个,以防某个 broker 挂了
		props.put("bootstrap.servers", "localhost:9092");
		props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
		props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
		props.put("enable.idempotence", "true");
//		props.put("retries", 3); // 不能手动设置 retries,自动设置为 Integer.MAX_VALUE
//		props.put("acks", "1"); // 不能手动设置 acks,自动设置为 all

		// 创建 Producer
		Producer<String, String> producer = new KafkaProducer<String, String>(props);
		
		// 发送消息
		producer.send(new ProducerRecord<String, String>("topic0", "message 4"), new Callback() {

			public void onCompletion(RecordMetadata metadata, Exception exception) {
				if(exception != null) {
					System.out.println("send message4 failed with " + exception.getMessage());
				} else {
					// offset 是消息在 partition 中的编号,可以根据 offset 检索消息
					System.out.println("message4 sent to " + metadata.topic() + ", partition " + metadata.partition() + ", offset " + metadata.offset());	
				}
				
			}
			
		});
		
		// producer 需要关闭,放在 finally 里
		producer.close();
	}
}

– 更多参见:Kafka 精萃
– 声 明:转载请注明出处
– Last Edited on 2018-06-13
– Written by ShangBo on 2018-06-13
– End

今天的文章Kafka 发送消息 Idempotent分享到此就结束了,感谢您的阅读。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:http://bianchenghao.cn/6822.html

(0)
编程小号编程小号

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注