【背景】从2.5.10升级2.5.12
【业务影响】暂无影响
【集群规模】3fe +12be
【联系方式】wechat: zzDuke1688
【详述】如下图，在集群运行任务没有增加的情况下，升级到2.5.12 相对2.5.10版本占用内存增加10G
集群情况： 集群中目前多为 primary key 表，开启索引落盘，单台BE节点数据量约10T 左右
【附件】
看一下升级后 be内存占用情况 http://be_ip:8040/mem_tracker
curl -XGET -s http://be_ip:8040/metrics | grep “^starrocks_be_.*_mem_bytes|^starrocks_be_tcmalloc_bytes_in_use”
这两个结果都发一下
mem_tracker: 我看update 占用16G但是集群中基本没有update操作。
metrics:
# TYPE starrocks_be_bitmap_index_mem_bytes gauge
starrocks_be_bitmap_index_mem_bytes 7370256
# TYPE starrocks_be_bloom_filter_index_mem_bytes gauge
starrocks_be_bloom_filter_index_mem_bytes 37558432
# TYPE starrocks_be_chunk_allocator_mem_bytes gauge
starrocks_be_chunk_allocator_mem_bytes 2066307104
# TYPE starrocks_be_clone_mem_bytes gauge
starrocks_be_clone_mem_bytes 0
# TYPE starrocks_be_column_metadata_mem_bytes gauge
starrocks_be_column_metadata_mem_bytes 2907043768
# TYPE starrocks_be_column_pool_mem_bytes gauge
starrocks_be_column_pool_mem_bytes 2731951985
# TYPE starrocks_be_column_zonemap_index_mem_bytes gauge
starrocks_be_column_zonemap_index_mem_bytes 1323629184
# TYPE starrocks_be_compaction_mem_bytes gauge
starrocks_be_compaction_mem_bytes 260307888
# TYPE starrocks_be_consistency_mem_bytes gauge
starrocks_be_consistency_mem_bytes 0
# TYPE starrocks_be_load_mem_bytes gauge
starrocks_be_load_mem_bytes 2180240
# TYPE starrocks_be_metadata_mem_bytes gauge
starrocks_be_metadata_mem_bytes 3417302728
# TYPE starrocks_be_ordinal_index_mem_bytes gauge
starrocks_be_ordinal_index_mem_bytes 1411977288
# TYPE starrocks_be_process_mem_bytes gauge
starrocks_be_process_mem_bytes 38697356874
# TYPE starrocks_be_query_mem_bytes gauge
starrocks_be_query_mem_bytes 542142114
# TYPE starrocks_be_rowset_metadata_mem_bytes gauge
starrocks_be_rowset_metadata_mem_bytes 95218832
# TYPE starrocks_be_schema_change_mem_bytes gauge
starrocks_be_schema_change_mem_bytes 0
# TYPE starrocks_be_segment_metadata_mem_bytes gauge
starrocks_be_segment_metadata_mem_bytes 372034437
# TYPE starrocks_be_segment_zonemap_mem_bytes gauge
starrocks_be_segment_zonemap_mem_bytes 52128976
# TYPE starrocks_be_short_key_index_mem_bytes gauge
starrocks_be_short_key_index_mem_bytes 298889960
# TYPE starrocks_be_storage_page_cache_mem_bytes gauge
starrocks_be_storage_page_cache_mem_bytes 10679918560
# TYPE starrocks_be_tablet_metadata_mem_bytes gauge
starrocks_be_tablet_metadata_mem_bytes 43005691
# TYPE starrocks_be_tablet_schema_mem_bytes gauge
starrocks_be_tablet_schema_mem_bytes 1051043
# TYPE starrocks_be_update_mem_bytes gauge
starrocks_be_update_mem_bytes 15649403918
update 内存项，指的是 主键索引的内存占用。
- 2.5.11+版本在主键索引持久化策略上有点变动，在内存充裕的情况下，最大每个tablet会用到 100M，这个是自适应的。 新版本改动策略的目的是占用的多对读写放大的降低会有一定的帮助
- 如果觉得当前内存占用多的话 可以调整下 be 动态参数 l0_max_mem_usage ，默认 l0_max_mem_usage=104857600，也就是 100M，可以调整成 50M之后再观察一下