canal Binlog 的增量订阅和消费组件

程序名称：canal

授权协议: Apache

操作系统: 跨平台

开发语言: Java

canal 介绍

canal 是阿里巴巴 MysqL 数据库 binlog 的增量订阅&消费组件。

名称：canal [kə’næl]
译意： 水道/管道/沟渠
语言： 纯java开发
定位： 基于数据库增量日志解析，提供增量数据订阅&消费，目前主要支持了MysqL

早期，阿里巴巴 B2B 公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于 trigger 的方式获取增量
变更，不过从 2010 年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，从此开
启了一段新纪元。ps. 目前内部使用的同步，已经支持 MysqL 5.x 和 Oracle 部分版本的日志解析

基于日志增量订阅&消费支持的业务：

1. 数据库镜像

2. 数据库实时备份

3. 多级索引 (卖家和买家各自分库索引)

4. search build

5. 业务cache刷新

6. 价格变化等重要业务消息

Canal 工作原理：

原理相对比较简单：

1. canal模拟MysqL slave的交互协议，伪装自己为MysqL slave，向MysqL master发送dump协议

2. MysqL master收到dump请求，开始推送binary log给slave(也就是canal)

3. canal解析binary log对象(原始为byte流)

canal 官网

https://github.com/alibaba/canal