0

0

Java开发如何配置数据捕获环境_Debezium与Kafka CDC搭建

P粉602998670

P粉602998670

发布时间:2026-03-19 14:31:01

|

163人浏览过

|

来源于php中文网

原创

Debezium启动失败主因是缺失MySQL JDBC驱动、MySQL未启用ROW格式Binlog与GTID、或多个Connector共用相同database.server.id;需确保插件目录含debezium-connector-mysql和mysql-connector-j-8.x,MySQL配置binlog_format=ROW、gtid_mode=ON并重启,且各Connector的server.id唯一。

java开发如何配置数据捕获环境_debezium与kafka cdc搭建

Debezium启动失败:找不到MySQL连接器或报错ClassNotFoundException

Debezium本身不自带数据库驱动,必须手动把对应JDBC驱动放进Kafka Connect插件目录。常见错误是只下载了debezium-connector-mysql的jar包,却忘了放mysql-connector-j(8.x版本)。

  • 确认connectors/目录下同时存在:debezium-connector-mysql-2.5.0.Final.jarmysql-connector-j-8.3.0.jar
  • MySQL 8+ 必须用mysql-connector-j(不是旧版mysql-connector-java),否则会抛java.lang.NoClassDefFoundError: com/mysql/cj/jdbc/Driver
  • Kafka Connect启动后,用curl http://localhost:8083/connector-plugins检查返回列表里是否含io.debezium.connector.mysql.MySqlConnector

MySQL Binlog配置不生效:Kafka中无变更事件

Debezium依赖MySQL的ROW格式Binlog + 启用GTID,缺一不可。即使my.cnf写了配置,若未重启MySQL或用户权限不足,依然无法捕获数据。

  • MySQL需开启:binlog_format = ROWgtid_mode = ONenforce_gtid_consistency = ON,且重启生效
  • 创建的Debezium用户必须有:REPLICATION SLAVEREPLICATION CLIENT、对目标库的SELECT
  • 验证是否就绪:登录MySQL执行SHOW MASTER STATUS;,非空结果 + File字段有值才算Binlog真正启用

Connector配置里database.server.id重复导致offset冲突

同一个MySQL集群下,多个Debezium Connector不能共用相同database.server.id。Kafka Connect会把它当作同一“逻辑复制客户端”,导致位点覆盖、丢事件甚至连接被MySQL主动踢掉。

阶跃星辰开放平台
阶跃星辰开放平台

阶跃星辰旗下开放平台,提供文本大模型、多模态大模型、繁星计划

下载
  • database.server.id必须是唯一整数(如54005401),不能写成范围(如5400-5401)——那是旧版写法,新版已弃用
  • 如果复用同一MySQL实例做多库监听,每个Connector配不同server.id,哪怕只监听一个库也要独立
  • 修改server.id后必须删除对应Connector并重建,仅更新配置不生效

Java应用消费CDC消息时反序列化失败

Debezium输出的消息value是Avro或JSON Schema格式,默认带嵌套结构(before/after/source等字段)。直接用StringDeserializer拿到的是JSON字符串,但字段名、null值、时间戳格式都和原始表不一致。

立即学习Java免费学习笔记(深入)”;

  • 推荐用JsonConverterschemas.enable=false简化结构,避免Schema Registry依赖
  • 关键字段提取别硬写jsonObject.getJSONObject("after").getString("name")——after可能为null(DELETE事件),应先判空
  • 时间类型字段(如timestamp)在JSON里是长整型毫秒值,不是ISO字符串;若用Jackson反序列化,需注册JavaTimeModule并设DeserializationFeature.ADJUST_DATES_TO_CONTEXT_TIME_ZONE为false
配置这事,核心就三点:驱动得放对位置、MySQL得真开ROW+GTID、每个Connector的server.id得像身份证号一样唯一。其余问题,基本都是这三处没踩实。

相关文章

Kafka Eagle可视化工具
Kafka Eagle可视化工具

Kafka Eagle是一款结合了目前大数据Kafka监控工具的特点,重新研发的一块开源免费的Kafka集群优秀的监控工具。它可以非常方便的监控生产环境中的offset、lag变化、partition分布、owner等,有需要的小伙伴快来保存下载体验吧!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

887

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

767

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

756

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

401

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

462

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

453

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

433

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

17171

2023.08.03

Go Web框架Gin接口开发与中间件设计实践
Go Web框架Gin接口开发与中间件设计实践

本专题围绕 Go 在 Web 后端开发中的主流框架 Gin 展开,系统讲解高性能接口开发与中间件机制设计。内容涵盖路由分组、请求绑定、参数校验、统一响应封装、日志与鉴权中间件实现,以及接口限流与异常处理策略。通过实战项目案例,帮助开发者构建结构清晰、性能优良的 Go Web 服务体系,提升接口开发效率与系统可维护性。

7

2026.03.19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kotlin 教程
Kotlin 教程

共23课时 | 4.6万人学习

C# 教程
C# 教程

共94课时 | 11.6万人学习

Java 教程
Java 教程

共578课时 | 84.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号