我想从我的oracle数据库公开数据表并公开到apache kafka。技术可能吗? 以及我需要流从我的oracle表中更改数据并通知给Kafka。 你知道这个用例的好文档吗? 谢谢使用Apache的Oracle复制数据kafka
回答
您可以使用Kafka Connect数据导入/导出到卡夫卡。使用Kafka Connect非常简单,因为不需要编写代码。你只需要配置你的连接器。
如果没有连接器可用并且您想提供自己的连接器,则只需编写代码即可。已有50多个连接器可用。
有是Oracle从合流公司的连接器(“金门”):https://www.confluent.io/product/connectors/
你需要卡夫卡JDBC连接源连接器从Oracle数据库加载数据。 Confluent有一个开源捆绑连接器。它已与Confluent平台的其余部分(包括模式注册表)打包并测试过。使用此连接器与编写简单的连接器配置并启动独立的Kafka Connect过程或向Kafka Connect群集发出REST请求一样简单。可以找到此连接器的文档here
要将更改数据从Oracle事务数据库实时迁移到Kafka,您需要首先使用Change Data Capture(CDC)专有工具,该工具需要购买商业许可证,如Oracle Golden Gate,Attunity Replicate,Dbvisit Replicate或Striim。然后,您可以利用它们全部提供的Kafka Connect连接器。它们全部列出here
Redbe的开源CDC工具Debezium计划使用不依赖Oracle Golden Gate许可证的连接器。相关的JIRA是here。
嗨Slim,这是一个全面的答案。唯一我想在此添加的是Striim可以实时读取CDC并实时写入kafka并具有容错功能。 (正如我上面提到的,我为Striim工作,所以我知道......- :))。 – PGK
- 1. Apache Kafka:镜像与复制
- 2. 在Apache Kafka中保留数据
- 3. 与Kafka的Apache Mesos
- 4. Apache Kafka - Aggregation
- 5. Oracle:将数据库Oracle 10.2.0.2复制到Oracle 12c
- 6. 将数据从SQL Server复制到Oracle
- 7. 想要将oracle数据复制到hadoop
- 8. 使用apache kafka生成数据并使用火花流接收它
- 9. 不能在Apache Kafka上使用主管
- 10. 你使用Apache Kafka做什么?
- 11. 在Apache ServiceMix中运行Kafka使用者
- 12. 使用SSIS复制数据
- 13. 使用C#将数据从一个oracle数据库复制到另一个oracle数据库
- 14. 如何使用kafka连接将kafka主题下载到oracle中
- 15. Apache Kafka Consumer - 从控制台终止
- 16. 使用Apache Spark批处理Apache Kafka的偏移管理
- 17. 如何使用Apache Kafka API获取主题的复制因子和保留小时数
- 18. Apache Flink Kafka集成
- 19. confluent platform vs apache kafka
- 20. WSO2 MB与Apache Kafka
- 21. 使用Apache Kafka 0.10.0 API创建Kafka经纪人集群使用Java
- 22. Oracle函数:复制wm_concat
- 23. Oracle:从Oracle表中自行复制数据
- 24. angular.js与apache kafka的集成
- 25. Apache Kafka的Datastream生成器
- 26. 使用Kafka将数据导入Hadoop
- 27. 将电子表格数据复制到Oracle数据库
- 28. 使用Apache Poi复制Excel颜色
- 29. Oracle数据库的限制
- 30. Oracle:我应该使用复制吗?
如果您只是想阅读(选择查询)并推送到Kafka,那么简单的JDBC代码就足够了。但是,如果您想实时传输CDC(更改数据捕获),那么您需要某种可以使用Logminer或xstream读取CDC的产品。 Striim(我为Striim工作)有这样的产品。还有其他产品,但没有我知道的免费或开放源代码。 Oracle的Golden Gate可以读取kafka的GG路径,但不确定它也可以写入CDC。希望这是有帮助的。 – PGK
看起来像Slim以下已经回复了或多或少一样。 – PGK