Debezium发布历史96

原文地址: https://debezium.io/blog/2020/10/22/towards-debezium-ui/

欢迎关注留言,我是收集整理小能手,工具翻译,仅供参考,笔芯笔芯.

迈向图形化 Debezium 用户界面
十月 22, 2020 作者: Gunnar Morling
社区 讨论 debezium-ui
在过去五年中,Debezium 已成为各种数据库变更数据捕获的领先开源解决方案。来自各行各业的用户都使用 Debezium 来处理一些用例,例如将数据从操作数据库复制到数据仓库、更新缓存和搜索索引、通过 Kafka Streams 或 Apache Flink 驱动流式查询、在微服务之间同步数据等等。

在与 Debezium 用户交谈时,我们通常会收到关于 Debezium 支持的应用范围及其灵活性的非常好的反馈:例如,每个连接器都可以根据您的具体要求以多种方式进行配置和微调。大量指标可以深入了解 Debezium 连接器的运行状态,从而允许在拥有数千个连接器的大型安装中安全地操作 CDC 管道。

不过,所有这些都是以学习曲线为代价的:Debezium 的新用户需要了解不同的选项和设置,以及了解在生产中运行 Debezium 的最佳实践。因此,我们不断探索如何进一步改善 Debezium 的用户体验,让人们更轻松地设置和操作其连接器。

今天,我很高兴向您介绍未来潜在的Debezium 图形用户界面的概念验证。此 PoC 的目标是探索图形 UI 如何促进 Debezium 用户的入门和操作体验。

PoC 的范围是用于配置和实例化 Debezium Postgres 连接器的设置流程。在向导界面中引导用户完成所需的配置步骤,从强制信息(例如数据库凭据)开始,选择要捕获的表,直到可选设置(例如不同的数据映射选项)。检查最终配置后,UI 将实例化 Kafka Connect 中的连接器。

您可以在此视频中观看简短的演示:

我们专注于一些核心交互模式,例如用于选择捕获表的预览功能。UI 不应仅采用配置参数的键/值对,而应引导用户完成整个过程,提供上下文和帮助,例如通过在下拉列表中显示允许的设置选项、在每个步骤后验证提供的设置等。

现在这只是开始,在 Debezium UI 中还可以做很多事情,例如在连接配置步骤中,我们可以验证给定用户是否拥有所有必需的数据库权限,是否在中设置了正确的 WAL 级别。数据库等。可能有用于监控和故障排除连接器的视图。在 Kubernetes 上运行时,UI 可以生成由 Kafka(连接器)运算符(如 Strimzi)处理的资源定义(而不是调用 Kafka Connect REST API)等等。

但在进一步推进之前,我们希望收集您的反馈和意见:您认为 Debezium 的图形 UI 总体上有用吗?您会在项目中使用它吗?您对 PoC 目前实现的功能有何反馈?除了连接器配置之外,您还希望在 Debezium UI 中看到哪些其他功能?我们提供了一份简短的调查,其中包含这些问题和其他一些问题:

前往调查

在参加调查问卷之前,请观看视频或自行运行 PoC(见下文)。回答这些问题只需几分钟;您的参与将对我们决定是否以及如何推进这项努力非常有帮助。

自己尝试一下
与 Debezium 中的所有内容一样,UI PoC 是完全开源的(Apache 许可证版本 2.0);您可以在 Git Hub 上的 Debezium 组织下找到其源代码。PoC 是作为基于Quarkus的 Web 应用程序实现的,使用React作为前端技术。

Quarkus 后端配置了另外一个 Kafka Connect 集群的 URL。请注意,目前 PoC 中还没有实现身份验证或授权的方法,因此暂时不要将其与生产 Connect 集群一起使用。启动应用程序后,您可以从右上角的下拉列表中选择要使用的集群。与视频录制中显示的不同,“删除”按钮现在也在 PoC 中工作;)有一个示例Docker Compose 文件,它启动快速入门所需的所有组件。或者,您可以从 Docker Hub 获取带有 Debezium UI PoC 的预构建容器映像。请参阅README 文件,了解有关构建和运行 Debezium UI PoC 的更多详细信息。

我们非常期待了解您对 Debezium UI PoC 的反馈。亲自尝试一下,并通过下面的评论和参与上面链接的快速调查让我们了解您的想法。

非常感谢参与此 PoC 的团队:Ashique Ansari、Indra Shukla、June Zhu、Mark Drilling、Na Ding 和 René Kerner!

原文地址: https://debezium.io/blog/2020/10/23/debezium-1-4-alpha1-released/

Debezium 1.4.0.Alpha1 发布
十月 23, 2020 作者: 克里斯·克兰福德
发布 mysql postgres mongodb sqlserver cassandra db2 oracle vitess
我很高兴地宣布 Debezium 1.4.0.Alpha1发布!

1.4 发行版的第一版提供了一些有用的新功能:

新型 Vitess 连接器

允许对快照表进行细粒度选择

总体而言,社区为此版本修复了41 个问题。让我们仔细看看其中的一些亮点。

维特斯连接器
Vitess是一个用于部署、扩展和管理大型 MySQL 集群的数据库解决方案。我们非常高兴Bolt Technology OÜ的 Ruslan Gibaiev 和 Kewei Shang 的开发团队决定构建基于 Debezium 的 CDC 解决方案,并在 Debezium 的保护下开源。该连接器在 Debezium 1.4 中以孵化状态发布。

Ruslan 和 Kewei 将很快发布一篇博客文章,提供有关此连接器的更多详细信息;同时请参阅连接器参考文档以了解更多信息。

快照表的细粒度选择
Debezium 1.4 的主要焦点之一是探索更灵活的快照选项,例如重新快照选定的表或并行化长时间运行的快照操作。

与快照相关的第一个改进是新的连接器配置snapshot.include.collection.list,它允许仅对连接器稍后在日志读取期间捕获的所有表的子集进行快照。例如,如果您有兴趣捕获所有表的更改,但只需要其中某些表的数据的初始快照,那么这会很方便。

对于 Postgres 连接器,通过创建 SPI 合约的自定义实现Snapshotter,还允许对特定表进行选择性的重新快照。重新启动连接器后,它将Snapshotter继续从之前停止的位置读取日志,直到“现在”,然后它将拍摄给定表的快照,最后继续读取所有捕获的表的日志。

有关此选项的更多信息,请参阅特定于连接器的文档以获取更多详细信息。

其他特性
除了这些关键功能之外,1.4.0.Alpha1 版本还提供了一些其他功能:

实现 MongoDB DBZ-2496的快照选择覆盖行为

SqlServer - 跳过与更改表条目无关的 LSN 处理DBZ-2582

Bug修复
还修复了一些错误,例如:

无法覆盖环境变量DBZ-2559

导出分片集群中 mongodb 集合的数据时出现 ConcurrentModificationException DBZ-2597

Mysql 连接器未将默认数据库字符集传递给列定义DBZ-2604

[文档]“registry.redhat.io/amq7/amq-streams-kafka-25:未知:未找到”错误发生DBZ-2609

[Doc]“错误:没有上下文目录,也没有指定 Containerfile”错误DBZ-2610

在 RDS 在线日志和 LogMiner 上使用 dbz 和 Oracle 时出现 SqlExceptions DBZ-2624

挖掘会话停止 - 任务被终止/SQL 操作被取消 - Oracle LogMiner DBZ-2629

无法解析的 DDL:在视图创建中使用“trigger”作为表别名DBZ-2639

Antlr DDL 解析器无法解释 BLOB([size]) DBZ-2641

更改 snapshot.new.tables 后,MySQL 连接器保留陈旧的偏移量元数据DBZ-2643

Postgres 连接器中的 WAL 日志未刷新DBZ-2653

v1.3 DBZ-2660中的 Debezium 服务器事件中心插件支持

Cassandra 连接器不使用 log4j 来正确记录DBZ-2661

应允许 SQL 中的 NonAsciiCharacter DBZ-2670

语法DBZ-2671不支持 MariaDB nextval 函数

清理字段名称不清理子结构字段DBZ-2680

如果删除与现有表同名的不存在视图,则 Debezium 会失败DBZ-2688

非常感谢社区中所有参与此版本发布的贡献者:Faizan、Sergei Morozov、Kewei Shang、Michael Wang、Arik Cohen、James Gormley、jinguangyang、Kaushik Iyer、John Martin、Travis Elnicky、Yiming Liu和Bingqin周!

你可能感兴趣的:(debezium,CDC,FlinkCDC,数据库,运维,大数据)