2.4.3版本be节点CPU飘升到80% 一直不降

【详述】be节点CPU持续保持在80%左右,已有两天左右
【背景】使用阿里云ECS搭建的starrocks集群 3fe 3be be的配置是8c 16G 1T ESSD 这个配置之前是完全可以承受当前的业务需求 5.30号17点左右做过一次数据导入,中途停止了导入任务,从这个时间点后CPU一直持续在80左右,查看日志也没看出什么问题,通过fe的web ui也没有复杂的sql,于是5.31号晚上滚动升级了服务器的配置到16c 64G 依然出现CPU打满的情况
【业务影响】影响业务正常使用
【StarRocks版本】2.4.3
【集群规模】例如:3fe(1 follower+2observer)+3be(fe与be单独部署)
【机器信息】CPU虚拟核/内存/网卡,例如:16C/64G/万兆
【联系方式】113.420118@qq.com
【附件】

TOP看,是存储引擎Scan数据占用了大量的CPU,要么是有大查询,要么是统计信息收集导致,可以先把统计信息收集关掉观察下,或是升级到2.4的最新版本看看。

后台没有什么大查询,统计信息收集目前已经关掉了,CPU好像还是没有下降,而且之前都没出现过这种情况

sudo perf top 看下


当前系统上只有be服务

建了很多BitmapIndex?

sudo perf top -g > a.txt 然后一会ctrl +c ,把a.txt发下

bitmaxindex没有使用,单表只有一个字段使用了布隆过滤器 数据量接近8亿

a.txt (257.9 KB)
文件在这

你们主键模型的表,导入很频繁?

导致这个CPU飙升的是一张8亿条数据的表,用了bitmapindex的表才5500w

导入不频繁 但是每周增量刷一遍数据 数据量8亿

看了下,是主键模型表,apply_del_vector导致的,具体还要再分析下。可能与你说的增量刷 数据有关。

怎么个刷 法,简单说下?

streamload 覆盖插入

所有Key都覆盖?

大佬 加个微信吧 132628983036

搜索不到这个账号