StarRocks-2.1 Release Notes(最新版本:2.1.13,发布日期:2022年9月6日)

已发 release notes,欢迎查看

当前版本pipeline engine不支持hive外部表查询,请问是否有计划支持该功能?

2.1.5

发布日期:2022年4月27日

Bug 修复

修复了如下 Bug:

  • 原先 Decimal 乘法溢出,计算结果错误,修复后,Decimal 乘法溢出时返回 NULL。
  • 统计信息误差较大时,执行计划中 Colocate Join 的优先级可能低于 Broadcast Join,导致实际执行时 Colocate Join 未生效。#4817
  • 当 4 张表以上进行 Join 时,复杂表达式规划错误,导致查询报错。
  • Shuffle Join 下,如果 Shuffle 的列是低基数列,可能会导致 BE 停止服务。#4890
  • SPLIT 函数使用 NULL 参数时,会导致 BE 停止服务。#4092

这个版本json导入相比2.0版本太消耗内存和cpu了

我让我们的研发自测下。
你这块有一些对比的数字以及相关环境信息么?

2.1.6

发布日期:2022年5月10日

Bug 修复

修复了如下 Bug:

  • 在进行多个 DELETE 操作后,查询时,如果系统内部使用了低基数优化,则查询结果可能是错误的。#5712
  • 在数据写入中的一些特殊阶段,如果 Tablet 进行并完成迁移,数据会继续写入至原先 Tablet 对应的磁盘,导致数据丢失,进而导致查询错误。#5160
  • 当 DECIMAL 和 STRING 类型相互转换时,可能会导致精度错误。#5608
  • 当 DECIMAL 和 BIGINT 类型相乘时,可能会导致运算结果溢出。此次进行了一些调整和优化。#4211

给研发过案例了………………

2.1.7

发布日期:2022年5月26日

功能优化

对于 Frame 设置为 ROWS BETWEEN UNBOUNDED PRECEDING AND CURRENT ROW 的窗口函数,如果计算中某个分区很大,系统会缓存这个分区的所有数据、然后再进行计算,导致消耗大量内存。现优化为这种情况下不再缓存分区的所有数据。5829

Bug 修复

修复了如下 Bug:

  • 往主键模型表导入数据时,系统内部保存的每个数据版本对应的创建时间如果不能保持严格增长(比如因为系统时间被往前调整过、或因为相关的未知 Bug),会导致处理出错,从而导致 BE 停止服务。#6046
  • 某些图形化界面工具会自动设置 set_sql_limit 变量,导致 SQL 语句 ORDER BY LIMIT 被忽略,从而导致返回的数据行数不正确。#5966
  • 执行 DROP SCHEMA 语句,会导致直接强制删除数据库,并且删除的数据库不可恢复。#6201
  • 导入 JSON 格式的数据时,如果 JSON 格式有错误(比如多个键值对之间缺少逗号 “,” 分隔),会导致 BE 停止服务。#6098
  • 在高并发导入场景下,BE 写磁盘的任务数量积压,可能导致 BE 停止服务。#3877
  • 在做表结构变更之前,系统会先进行内存预估。如果该表中 STRING 类型的字段比较多,则内存预估结果会不准确。在这种情况下,如果预估的内存超过了单个表结构更改操作所允许的内存上限,会导致原本能正常执行的表结构更改操作报错。#6322
  • 主键模型的表经过表结构变更以后,在数据导入时,可能会报 “duplicate key xxx” 错误。#5878
  • 在 Shuffle Join 时,如果使用了低基数优化,可能导致分区错误。[#4890(https://github.com/StarRocks/starrocks/issues/4890)
  • 当一个 Colocation Group 中包含的表比较多、导入频率又比较高时,可能会导致该 Colocation Group 无法保持 stable 状态,从而导致 JOIN 语句无法使用 Colocate Join。现优化为导入数据时稍微多等一会,这样可以尽量保证导入的 Tablet 副本的完整性。

2.1.8

发布日期:2022年6月10日

提升改进

  • 优化表结构变更 (Schema Change) 等内部处理的并发控制,降低对 FE 元数据的压力,最终减少在高并发、大数据量导入场景下容易发生的导入积压、变慢的情况。#6560 #6804
  • 优化高频导入的性能。#6532 #6533

Bug 修复

修复了如下 Bug:

  • 对 Routine Load 任务进行 ALTER 操作后,由于 ALTER 操作没有记录全量的 LOAD 语句信息,导致这个导入任务的元数据在做完 Checkpoint 后丢失。#6936
  • 停止 Routine Load 任务可能导致死锁。#6450
  • BE 导入数据时默认按 UTC+8 时区导入。如果用户机器时区为 UTC,那么用户使用 Spark Load 方式导入的数据的 DateTime 列会多加 8 个小时。 #6592
  • GET_JSON_STRING 函数无法处理非 JSON string 类型的值。如果要提取的值是 JSON 对象或 JSON 数组、而不是 JSON string 类型,该函数会直接返回 NULL 。当前优化为返回 JSON 格式的 STRING 类型的数据。#6426
  • 如果数据量很大,做表结构变更 (Schema Change) 时可能因为内存消耗过多而失败。现允许限制表结构变更中各阶段的内存使用限额。#6705
  • 在进行 Compaction 时,如果某列的任意一个值重复出现的次数超过 0x40000000,会导致 Compaction 卡住。#6513
  • BDB JE v7.3.8 版本引入了一些问题,导致 FE 启动后磁盘 I/O 很高、磁盘使用率持续异常增长、且没有恢复迹象,回退到 BDB JE v7.3.7 版本后 FE 恢复正常。#6634
2赞

2.1.10

发布日期:2022年6月24日

Bug 修复

修复了如下 Bug:

  • 反复切换 Master FE 节点可能会导致所有导入作业挂起,无法进行导入。#7350
  • 使用 DESC 查看表结构时,类型为 DECIMAL(18,2) 的字段会展示为 DECIMAL64(18,2) 类型。#7309
  • 导入的数据有倾斜时,某些列占用内存比较大,可能会导致 MemTable 的内存估算超过 4GB,从而导致 BE 停止工作。#7161
  • 当 Compaction 的输入行数较多时, max_rows_per_segment 的内部估算会产生溢出,最终导致创建了大量的小 Segment 文件。#5610
1赞

坐等 2.1.11 发布

2.1.11

发布日期:2022年7月9日

Bug 修复

修复了如下 Bug:

  • 主键模型 (Primary Key) 表在高频导入时,会卡住无法继续进行。#7763
  • 在低基数优化中,对聚合表达式的顺序处理有误,导致 count distinct 函数返回的一些结果错误。#7659
  • LIMIT 子句中的裁剪规则处理错误,导致 LIMIT 子句执行以后没有结果。#7894
  • 如果一个查询的 Join 条件列中有进行全局低基数字典优化,会导致查询结果错误。8302

2.1.12

发布日期:2022年8月9日

功能优化

增加 bdbje_cleaner_threadsbdbje_replay_cost_percent 两个参数,以加速清理 BDB JE 中的元数据。#8371

Bug 修复

修复了如下 Bug:

  • 一些查询会被转发到 Leader FE 节点上,从而可能导致通过 /api/query_detail 接口获得的 SQL 语句执行信息不正确,比如 SHOW FRONTENDS 语句。#9185
  • 停止 BE 后,当前进程未完全退出,导致重启 BE 失败。#9175
  • 提交多个 Broker Load 作业同时导入相同 HDFS 文件的数据时,如果有一个作业出现异常,可能会导致其他作业也无法正常读取数据并且最终失败。#9506
  • 表结构变更后,相关变量未重置,导致查询该表报错: no delete vector found tablet#9192
1赞

2.1.13

发布日期:2022年9月6日

功能优化

  • 增加 BE 配置项 enable_check_string_lengths 来控制是否进行导入时数据长度检查,以解决 VARCHAR 类型数据越界导致的 Compaction 失败问题。#10380
  • 优化了查询中包含1000个以上的 OR 子句时的查询性能。#9332

问题修复

修复了如下问题:

  • 在查询聚合模型表中 ARRAY 类型的列时,如该列使用 REPLACE_IF_NOT_NULL 聚合函数,那么查询可能会报错,并导致 BE 停止服务。#10144
  • 查询中嵌套 1 个以上的 IFNULL 函数时,查询结果不正确。#5028 #10486
  • Truncate 动态创建的分区后,其分桶数会从动态分区设置的分桶数变成默认分桶数。#10435
  • 在使用 Routine Load 导入的过程中,如出现 Kafka 服务下线的情况, StarRocks 集群可能会出现暂时性死锁,影响查询。#8947
  • 查询语句中同时有子查询和 ORDER BY 子句时会报错。#10066