【详述】1.开启了缓存,数据正常写到cn缓存,但写到minio总是超时,导致数据实际没写进去
2.FEleader在写入数据的时候会出现挂掉重选的情况,然后就经常会报查询catalog元数据信息出错
【背景】使用官网ssb/tpch/测试数据脚本导入,
已调整的配置项
BE配置
预读缓冲区的调整 默认是128KB
starlet_fs_stream_buffer_size_bytes = 1048576
避免可能的倾斜问题
connector_scan_node_always_shared_scan = false
streaming_load_rpc_max_alive_time_sec = 2400
对象存储 Socket 连接的超时时间。-1 表示使用 SDK 中的默认时间。
object_storage_connect_timeout_ms = 600000
对象存储 HTTP 连接的超时时间。-1 表示使用 SDK 中的默认时间。
object_storage_request_timeout_ms = 3600000
fe配置
stream_load_default_timeout_second = 3600
#minio配置
读写超时都放到1小时
【业务影响】小数据量写入没有问题,大数据量就会异常
【是否存算分离】 是
【StarRocks版本】例如:3.2.7
【集群规模】3fe 3be混部,存算分离—虚拟机, 1台 minio—k8s容器环境
【机器信息】虚拟机每台 12c/32G,Minio单节点 4c/8g
【表模型】
【导入或者导出方式】ssb\poc测试导入脚本、streamload
【联系方式】
【附件】
1.写入时fe汇报io 压力大日志
2副本同步异常
3.Minio报错数据写入不完全