为了更快的定位您的问题,请提供以下信息,谢谢
【详述】查询报以下资源组超限错误,但是be的内存监控并未有大的波动,且be总使用大小在60G左右
Process error, query_id=be72925a-84a3-11ef-bd03-6805cad550d4, instance_id=be72925a-84a3-11ef-bd03-6805cad55108, status=Memory limit exceeded: Memory of rg_appuser exceed limit. Pipeline Backend: 10.168.xx.xx, fragment: be72925a-84a3-11ef-bd03-6805cad55108 Used: 120972056528, Limit: 118062263593. Mem usage has exceed the limit of the resource group [rg_appuser]. You can change the limit by modifying [mem_limit] of this group
资源组配置如下:
be内存监控如下:
问题时间段资源组内存使用情况(starrocks_be_resource_group_mem_inuse_bytes)如下,单位是MB,从资源组使用内存的涨幅看rg_appuser这个资源组内存使用在一个小时都在持续增长
查了9点至11点的审计日志,单个查询最大的内存消耗也在12G,且查询耗时才持续了7秒多
【背景】
【业务影响】查询超过资源组限制失败
【是否存算分离】否
【StarRocks版本】3.2.8
【集群规模】3fe(1 follower+2observer)+12be(fe与be混部)
【机器信息】40C/256G/万兆
【联系方式】 StarRocks社区群5 -思变 [1412195108@qq.com]
【附件】
- 慢查询:
mysql:[sjzx_db] 21:41:31> show variables like ‘%parallel_fragment_exec_instance_num%’;
±------------------------------------±------+
| Variable_name | Value |
±------------------------------------±------+
| parallel_fragment_exec_instance_num | 1 |
±------------------------------------±------+
1 row in set (0.01 sec)
mysql:[sjzx_db] 21:41:34> show variables like ‘%pipeline%’;
±-----------------------±------+
| Variable_name | Value |
±-----------------------±------+
| enable_pipeline_engine | true |
| max_pipeline_dop | 64 |
| pipeline_dop | 10 |
| pipeline_profile_level | 1 |
| pipeline_sink_dop | 0 |
±-----------------------±------+
-
be节点cpu和内存使用率截图
-
查询报错: