be节点持续报错:Too many versions(主键模型)

【详述】be节点
【背景】dataX导入过大量数据。
【业务影响】be节点运行正常,但是持续报错输出,并且一直有不健康的tablelt。
【StarRocks版本】2.4.4
【集群规模】3fe(1 follower+2observer)+3be(fe与be混部)
【机器信息】12C/128G/千兆
【联系方式】sun_weixing@itrus.com.cn
【附件】
W0307 10:08:35.990290 30215 tablet_sink.cpp:955] NodeChannel[35988-10008], tablet add chunk failed, load_id=6f925626-6116-4517-93c3-057fd4a6fe91, txn_id: 8856230, parallel=1, compress_type=2, node=192.168.3.33:8060, errmsg=Too many versions. tablet_id: 36289, version_count: 10468, limit: 1000
W0307 10:08:36.016592 30215 tablet_sink.cpp:1052] close channel failed. channel_name=NodeChannel[35988-10008], load_info=load_id=6f925626-6116-4517-93c3-057fd4a6fe91, txn_id: 8856230, parallel=1, compress_type=2, error_msg=Too many versions. tablet_id: 36289, version_count: 10468, limit: 1000
W0307 10:08:36.207921 30214 tablet_sink.cpp:955] NodeChannel[142807-10008], tablet add chunk failed, load_id=499f68d2-6807-4a33-905b-8e6290035225, txn_id: 8856217, parallel=1, compress_type=2, node=192.168.3.33:8060, errmsg=Too many versions. tablet_id: 143408, version_count: 7853, limit: 1000
W0307 10:08:36.234045 30214 tablet_sink.cpp:1052] close channel failed. channel_name=NodeChannel[142807-10008], load_info=load_id=499f68d2-6807-4a33-905b-8e6290035225, txn_id: 8856217, parallel=1, compress_type=2, error_msg=Too many versions. tablet_id: 143408, version_count: 7853, limit: 1000

show proc ’/statistic‘; 看下 多执行几次看下不健康副本数的变化 ( 导入过快的话会有这种现象 ,导入两副本就算成功 ,另一个副本会自动修复)

执行 show proc ’/statistic‘; 查看 不健康的副本 是一直变化的(一会多,一会少),但是始终无法变为0 啊。 况且 dataX导入数据已经在几天之前就完成了。为啥还会一直有不健康的副本啊。

Too many versions 一定是数据导入过快导致的 不健康副本数一直变动是因为有导入存在 然后没有导入的时候 可以看下固定的tablet是哪些 show table tableid看下 然后执行下最后面的DetailCmd的内容 看下

大佬,我随机找了两个tablet ,您参考下附件。tablet-36289.xlsx (4.2 KB) tablet-123961.xlsx (4.2 KB)

VersionCount 有问题 您那边配置的有监控吗 可以看下 compaction 的score值

或者去到be上 执行下这个 grep -E 'compaction.score=[5-9]{2,}’ be.INFO|tail -100 命令

这个表是Colocate表吗?

image

三个be节点执行 grep -E ‘compaction.score=[5-9]{2,}’ be.INFO|tail -100 命令,都没有任何输出。

大佬,都是主键模型的表。

能发下建表语句么,看下建表的属性,字段名可以模糊掉

table2.txt (4.2 KB) table1.txt (5.7 KB)

大佬,您参考下,这两个表是 插入最频繁的表。