be日志增长迅速,系统非常卡慢

【详述】be日志增长迅速,系统非常卡慢。日志be的log文件夹接近20G之后不再增长了。清理日志,重启be,系统运行就变快,一段时间之后又会变慢。

【背景】设置一些改进配置,依然没有作用,启动一段时间,日志还是起来了。
sys_log_level = WARNING
jdbc_connection_idle_timeout_ms=60000
cumulative_compaction_num_threads_per_disk = 4
base_compaction_num_threads_per_disk = 2
cumulative_compaction_check_interval_seconds = 2
tablet_max_pending_versions=30000
tablet_max_versions=30000
【业务影响】
【StarRocks版本】例如:2.5.5
【集群规模】例如:1fe+1be
【机器信息】8核24G
【联系方式】1186127380@qq.com
【附件】
-/be/log/be.info全是这种日志。
W0830 11:50:44.777794 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777818 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777827 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777843 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5bc3b2e4-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777851 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5df6234b-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5df6234b-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777861 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5df6234b-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5df6234b-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777869 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5df6234b-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5df6234b-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777876 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=5df6234b-45d0-11ee-b8b4-fa163eb38cd9, instance_id=5df6234b-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777884 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=748b1532-45d0-11ee-b8b4-fa163eb38cd9, instance_id=748b1532-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777892 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=748b1532-45d0-11ee-b8b4-fa163eb38cd9, instance_id=748b1532-45d0-11ee-b8b4-fa163eb38cda
W0830 11:50:44.777899 8283 pipeline_driver_poller.cpp:70] [Driver] Timeout, query_id=748b1532-45d0-11ee-b8b4-fa163eb38cd9, instance_id=748b1532-45d0-11ee-b8b4-fa163eb38cda

建议您可以考虑先把集群升级到2.5.11版本 ,然后be的日志可以配置下打印级别和清理的间隔等 ,不用人为去管理了 (参考:https://docs.starrocks.io/zh-cn/2.5/administration/Configuration#其他动态参数),系统非常卡是指starrocks查询速率在集群运行一段时间后会变慢吗? 这个可能跟混布的集群 且元数据文件增长上去之后的资源使用有关系

日志级别之前已改为sys_log_level = WARNING

我升级版本和修改间隔试试

2.5.5版本的StarRocks,升级到2.5.11,问题解决