将数据增量同步到Kafka时遇到异常,错误信息中包含“The message is xxx bytes when serialized which is larger than”,应如何处理?
问题描述
将数据增量同步到Kafka时遇到异常,错误信息中包含“The message is xxx bytes when serialized which is larger than”。
原因分析
Kafka Producer的单条数据大小限制max.request.size默认为1048576(1MB),实时同步任务写入的数据超过了这一限制。
解决方案
在任务配置中添加参数,用于调整Kafka单条数据的大小限制,例如修改为10MB。
properties.max.request.size=10485760