canal异常 Could not find first log file name in binary log index file

问题

最近在使用canal来监测数据库的变化,处理变动的数据。由于有一段时间没有用了,这次启动在日志文件中看到这个异常 Could not find first log file name in binary log index file,详细信息如下:

2020-12-16 19:14:42.053 [destination = tradeAndRefund , address = /192.168.1.6:3306 , EventParser] ERROR c.a.o.c.p.inbound.mysql.rds.RdsBinlogEventParserProxy - dump address /192.168.1.6:3306 has an error, retrying. caused by
java.io.IOException: Received error packet: errno = 1236, sqlstate = HY000 errmsg = Could not find first log file name in binary log index file
        at com.alibaba.otter.canal.parse.inbound.mysql.dbsync.DirectLogFetcher.fetch(DirectLogFetcher.java:102) ~[canal.parse-1.1.4.jar:na]
        at com.alibaba.otter.canal.parse.inbound.mysql.MysqlConnection.dump(MysqlConnection.java:235) ~[canal.parse-1.1.4.jar:na]
        at com.alibaba.otter.canal.parse.inbound.AbstractEventParser$3.run(AbstractEventParser.java:265) ~[canal.parse-1.1.4.jar:na]
        at java.lang.Thread.run(Thread.java:748) [na:1.8.0_162]
2020-12-16 19:14:42.053 [destination = tradeAndRefund , address = /192.168.1.6:3306 , EventParser] ERROR com.alibaba.otter.canal.common.alarm.LogAlarmHandler - destination:tradeAndRefund[java.io.IOException: Received error packet: errno = 1236, sqlstate = HY000 errmsg = Could not find first log file name in binary log index file
        at com.alibaba.otter.canal.parse.inbound.mysql.dbsync.DirectLogFetcher.fetch(DirectLogFetcher.java:102)
        at com.alibaba.otter.canal.parse.inbound.mysql.MysqlConnection.dump(MysqlConnection.java:235)
        at com.alibaba.otter.canal.parse.inbound.AbstractEventParser$3.run(AbstractEventParser.java:265)
        at java.lang.Thread.run(Thread.java:748)
]

解决

在配置目录conf里面对应的instance配置目录下有一个meta.dat的文件,里面记录了上次处理的位置。把这个文件直接删掉,或者纠正里面的binlog位置信息,问题就解决了。

解决过程

首先我要说下我的环境。我用了canal的admin来进行集群管理,canal.deployer中我使用start.sh local 来启动了server。运行起来之后集群状态正常,查看instance的日志就发现了上面的日志。
然后说一下我的解决过程。一开始看到这个问题,就知道是instance寻找binlog的位置信息时出现了问题,所以翻了一下文档。文档中说可以通过canal.instance.master.journal.name和canal.instance.master.position这两个配置来指定position,也可以通过canal.instance.master.timestamp来指定一个时间。但是这两个配置我都试了,不行!始终有报错。
最后是在没办法,只好一行一行的看启动日志,发现了下面这个信息:

2020-12-16 19:14:42.045 [destination = tradeAndRefund , address = /192.168.1.6:3306 , EventParser] DEBUG java.sql.ResultSet - {rset-100008} Result: [31, 2020-11-10 17:00:18.504, 2020-11-10 17:00:18.504, tradeAndRefund, mysql-bin.000037, 536485765, 10, 1604921837000, 

这个是寻找location的日志,我发现这里的文件和位置都不是我设置的,那他是哪里来的呢?最后我在canal.deployer的根目录下执行grep '000037' ./* -r命令,最终刚发现在logs目录和conf目录下对应的instance中找到了这些内容。分别删掉这两个东西进行重启,最后发现config下面那个是起作用的,把他给改了就好了。
问题解决~

GitHub 加速计划 / ca / canal
50
10
下载
alibaba/canal: Canal 是由阿里巴巴开源的分布式数据库同步系统,主要用于实现MySQL数据库的日志解析和实时增量数据订阅与消费,广泛应用于数据库变更消息的捕获、数据迁移、缓存更新等场景。
最近提交(Master分支:3 个月前 )
af937544 - 4 个月前
9f2fc740 - 4 个月前
Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐