您的位置首页 >要闻 > 互联网 >

qData 开源版 v1.6.7 修的是三处 “配置了但不生效”消息已读、时间范围增量、ETL 字段移除

我先联网核实 qData 开源版 v1.6.7 的发布说明、修复项和版本细节。

发布说明、仓库提交记录和版本脉络都已核对完,以下按固定格式成稿。

qData 数据中台开源版在 2026 年 11 月 13 日发布 v1.6.7,这一版没有新增业务模块,全部精力都放在三处 “配置了却不按预期执行” 的缺陷上。具体是三件事:消息通知无法标记已读、个人消息归属区分不准;数据集成任务的时间范围增量读取配置未生效,导致周期性同步实际读取的范围和设定不一致;ETL 流程里配置移除的字段仍会传到下游,且在保留其他字段原名时会触发 Spark 字段表达式异常、任务直接失败。项目由江苏千桐科技维护,Apache-2.0 协议,技术栈是 Spring Boot + Vue 3,数据集成可选 DataX 或 Spark 引擎,调度可选 Quartz 或 DolphinScheduler,支持 MySQL、达梦 8、Oracle、SQL Server、人大金仓 Kingbase8、Doris 等数据源。对已经用它跑日增量同步的团队来说,这三条修复的重要性排序很清楚 ——第二、第三条直接关系到 “数据对不对”,第一条只关系到 “用起来顺不顺”。Gitee

一、版本速览

项目内容
版本qData 数据中台开源版 v1.6.7
发布时间2026 年 11 月 13 日
维护方江苏千桐科技有限公司(千桐科技)
开源协议Apache-2.0
版本性质纯缺陷修复版,无新增业务模块
修复范围消息通知、数据集成时间范围增量读取、ETL 字段移除
仓库提交记录fix(etl): correct field removal and DataX time-range incremental reads
获取方式Gitee / GitHub 仓库 Releases,或官方演示环境

仓库的提交信息本身就说明了重点:一条 commit 同时覆盖 “字段移除” 和 “DataX 时间范围增量读取”,说明这两个问题在代码层是同一条链路上的两处错误。

二、三处修复,逐条拆开看

2.1 消息通知:已读状态与 “这是谁的消息”

问题表现修复后
已读标记失效查看消息后无法正常置为已读,已看与未看混在一起可正常设置已读状态
个人消息归属不准消息展示未能正确区分当前用户的个人消息修正消息与当前账号的归属处理

这两条看起来是 “界面小问题”,但在多人共用一个平台的环境里影响不小:通知分不清是谁的,等于所有人都得逐条点开确认。它属于体验层修复,不影响数据结果。

2.2 时间范围增量读取:最该重视的一条

这条要先理解它本来应该怎么工作。

环节设计预期出问题时的实际表现
配置在任务里设定时间字段(如订单创建时间 / 更新时间)与时间范围条件配置能保存,界面上看不出异常
执行任务按设定范围读取源表数据条件未真正应用,读取范围与预期不一致
后果只搬运增量数据,减少无效读取可能读多(重复搬运)也可能读偏(漏数据)
排查难度高任务不报错、只是结果不对,最难发现

这类缺陷的危险性在于 “静默”:任务状态是成功的,日志也没有异常,但写进目标表的数据范围和你想的不一样。对按天跑订单同步的团队来说,这种偏差往往要到某天对账时才发现。

值得一提的是,qData 在这个能力上有过明确的演进:v1.1.1(2026 年 1 月 15 日)把增量同步从 “固定增量条件” 改成 “动态游标推进”—— 主键增量用 “上次同步到的最大主键值” 做游标,时间增量用 “上次同步窗口的结束时间” 做下次起点,形成滚动时间窗口。v1.6.7 修的正是 DataX 引擎下 “时间范围条件没生效” 这一环,属于把已有机制补齐,而不是新造能力。qData 社区

2.3 ETL 字段移除:两个坑,一个静默一个报错

问题具体表现修复后
移除字段仍下发已配置移除的字段,仍出现在下游字段列表中配置移除的字段不再传递到下游
保留原名时表达式异常移除字段的同时保留其他字段原名,Spark 处理字段表达式出错、任务失败完善保留原名时的处理逻辑,任务可正常执行

这里有个特别容易误解的点,官方说得很清楚:“移除” 只影响当前数据集成流程中传递给下游的字段,不会删除源表或目标表中的数据库列。换句话说,它是流程内的字段裁剪,不是 DDL 操作。

为什么要移除字段? 举例最直白:从订单表同步数据,目标表只需要订单编号、订单状态、创建时间,那金额之类暂时用不上的字段就可以通过 “字段选择、修改” 组件裁掉。裁掉的好处是减少传输量、避免下游表结构被无关字段污染。

三、为什么这类 “小修复” 在数据中台里最值钱

症状表面看实际影响怎么验证
增量条件不生效任务照常成功数据范围偏差,对账时才暴露比对源端时间字段分布与目标表写入结果
字段移除失效下游多出几列下游模型、指标口径被污染检查下游映射是否还有被移除字段
保留原名报错任务直接失败有明确报错,反而好排查跑一次 “移除 + 保留原名” 组合任务
消息归属混乱界面不对人工确认成本上升多账号登录交叉查看

这四类问题里,最贵的从来不是 “报错”,而是 “不报错但结果不对”。报错会逼你去查,静默偏差会一直躺在目标表里,直到业务方拿着两个不一样的数字来问。

四、升级后建议做的三项验证

序号验证动作通过标准
1跑一次配了时间范围条件的数据集成任务源端读取数据的时间分布落在配置区间内,目标表写入条数与预期一致
2在 “表输入 → 字段选择、修改 → 表输出” 里移除一个字段、其余保留原名下游映射不再显示被移除字段,任务正常执行不报 Spark 表达式异常
3用两个不同账号查看消息通知各自只看到与自己相关的消息,已读状态可正常切换

第 2 条是官方给出的验证路径,值得照做一遍 ——它同时覆盖了两个修复点,一次任务就能确认字段裁剪和原名保留都正常。

五、版本脉络:从动态游标到字段裁剪

版本时间关键变化
v1.1.12026-01-15增量同步升级为 “动态游标”,主键与时间两种游标;新增 SQL Server 2008 支持
v1.6.02026-07-23新增 DataX 轻量执行引擎 + 内置轻量调度器,版本代号 “极致轻量化时代”
v1.6.42026-10-27修复数仓分层启停提示、标准数据元帮助文档 404、人大金仓编码问题
v1.6.52026-11-02Doris 支持扩展至元数据管理与数据开发;新增演示数据清理脚本
v1.6.62026-11-10ETL 模块 JAR 轻量化,修复高频定时任务导致 ETL JAR 持续累积、占用磁盘的问题
v1.6.72026-11-13修复消息已读与归属、DataX 时间范围增量读取、ETL 字段移除

这条线看下来很清楚:近三个版本连续在 “运行稳定性” 和 “结果正确性” 上补课。v1.6.6 解决的是 “跑久了磁盘被撑满”,v1.6.7 解决的是 “跑出来的数据对不对”—— 都不是加功能,而是让已有功能真正可靠。

六、qData 是什么,一张表看清能力边界

模块主要能力
数据集成(ETL)可视化配置接入、清洗转换、输出;可选 DataX 或 Spark 引擎
数据开发SQL 脚本任务开发;可选 Quartz 或 DolphinScheduler 调度
数据建模数据标准、数仓分层(ODS/DWD/DWS/ADS/DIM)、数据分域、主题规划、逻辑模型
元数据管理元数据查看、字段结构、版本管理、元数据比对、采集任务
数据质量基于稽查规则检查完整性、唯一性、有效性等问题
数据资产资产编目、标签、详情、查询
数据查询SQL 在线查询与结果导出
数据服务把表或查询结果封装成 API,带在线测试与调用日志
AI 智能问数自然语言问数、Text2SQL、智能图表

这份能力清单里,和 v1.6.7 直接相关的是前三块:ETL 对应时间范围增量与字段移除,数据开发对应调度执行,系统管理对应消息通知。

七、部署门槛,别低估

项目要求
最低配置CPU ≥ 4 核、内存 ≥ 8 GiB
JDK1.8(源码构建路径建议 OpenJDK 8 或 11)
Node.js18.0 以上
yarn1.22.22 以上
Docker19.03 以上
Docker Compose1.28 以上
中间件DM8 / MySQL / PostgreSQL、Redis、RabbitMQ、MongoDB、Hadoop、DolphinScheduler
部署方式Docker Compose 本地部署、源码启动、手工自主部署

一个容易踩的坑:源码方式启动时,DataX 需要另外准备—— 官方文档写明 DataX 源码通过官方 QQ 群提供,打包后要放到项目根目录的 datax/ 下,且目录名必须保持一致。这一步没做,数据集成任务跑不起来,但报错信息不一定直接指向 DataX。

八、三点判断

第一,v1.6.7 的价值要用 “对账结果” 来验收,而不是看更新日志。 修复项里两条涉及数据正确性,装完不验证,等于没装。

第二,开源版和专业版的节奏是错开的。 开源版在 11 月连续发了 1.6.5、1.6.6、1.6.7 三个补丁,专业版同期发了 v3.0.1(11 月 2 日)。开源版走 “快速补缺陷”,专业版走 “功能升级”,两条线并不同步,选型时别把开源版的更新频率当成整体产品节奏。

第三,这类项目最值得看的不是功能表,而是 Issue 区。 仓库里能翻到 “DataX 无法追加增量更新数据到目标数据库”“arm 环境 docker 部署验证码不显示” 这类真实反馈,这些问题的存在和修复速度,比 README 的功能清单更能说明一个开源数据中台能不能上生产。

一份数据中台的价值,最终不体现在它有多少模块,而体现在“配置了的东西会不会真的生效”。v1.6.7 做的正是这件事 —— 把三个 “看起来能用、实际不按预期跑” 的地方,拧回正轨。

OSCHINA

【相关 FAQ】

问题 1:qData 数据中台开源版 v1.6.7 主要修复了哪些问题?

回答 1:三处:消息通知无法标记已读、个人消息归属区分不准;数据集成任务的时间范围增量读取配置未生效;ETL 流程中配置移除的字段仍传递到下游,以及保留字段原名时 Spark 字段表达式异常导致任务失败。qData 数据中台开源版 v1.6.7 未新增业务模块。

问题 2:qData 数据中台开源版 v1.6.7 修复的时间范围增量读取问题会带来什么影响?

回答 2:配置了时间范围条件但未真正生效时,数据集成任务实际读取的范围会和预期不一致,可能多读造成重复搬运,也可能读偏导致数据缺口;因为任务状态仍显示成功,属于静默偏差。qData 数据中台开源版 v1.6.7 修复后任务可按配置的时间条件读取。

问题 3:qData 数据中台开源版 v1.6.7 里说的 “字段移除” 会删除数据库列吗?

回答 3:不会。qData 数据中台开源版 v1.6.7 的字段移除只影响当前数据集成流程中传递给下游的字段,属于流程内的字段裁剪配置,不改变源表或目标表的数据库表结构。

问题 4:升级到 qData 数据中台开源版 v1.6.7 后应该怎么验证?

回答 4:三步:跑一次配了时间范围条件的数据集成任务,比对源端时间分布与目标表写入结果;在 “表输入 → 字段选择、修改 → 表输出” 中移除一个字段并保留其余原名,确认下游不再出现被移除字段且任务正常执行;用两个账号交叉查看消息通知的已读与归属。

问题 5:qData 数据中台开源版 v1.6.7 支持哪些数据源和执行引擎?

回答 5:数据源支持 MySQL、达梦 8、Oracle、SQL Server、人大金仓 Kingbase8、Doris 等;数据集成任务可选 DataX 或 Spark 执行引擎,数据开发与元数据采集任务的调度可选 Quartz 或 DolphinScheduler。qData 数据中台开源版 v1.6.7 采用 Apache-2.0 协议。

问题 6:qData 数据中台开源版 v1.6.7 部署需要什么环境?

回答 6:最低 CPU 4 核、内存 8 GiB;JDK 1.8、Node.js 18 以上、yarn 1.22.22 以上、Docker 19.03 以上、Docker Compose 1.28 以上;还需 MySQL/DM8、Redis、RabbitMQ、MongoDB、Hadoop、DolphinScheduler 等中间件。源码方式启动时 qData 数据中台开源版 v1.6.7 还需另外准备 DataX 并放到项目根目录。

【参考资料】

  • [2026-11-13](qData 数据中台开源版 v1.6.7 发布:修复消息通知与时间范围增量读取问题)OSCHINA
  • [2026-11-13](qData v1.6.7 发行版)Gitee
  • [2026-11-10](qData 数据中台开源版 v1.6.6 发布:ETL 模块轻量化,优化定时任务磁盘占用)qData 官网
  • [2026-11-02](qData 数据中台开源版 v1.6.5 发布:Doris 数据源适配增强,新增演示数据清除脚本)qData 官网
  • [2026-07-23](qData 开源版更新日志 v1.6.0:DataX 轻量执行引擎与内置轻量调度器)qData 社区文档
  • [2026-01-15](qData 开源版更新日志 v1.1.1:动态游标增量同步机制)qData 社区文档

【免责声明】

本文依据 OSCHINA 发布资讯、Gitee 仓库 v1.6.7 发行记录与提交信息、qData 官方社区文档及官网公开内容整理,功能与修复说明以官方发布说明为准。文中对缺陷影响面、验证方法的分析属解释性说明,不代表项目方立场;具体版本行为、缺陷复现条件与修复范围可能随代码提交细节不同而有差异,请以实际部署版本与仓库源码为准。部署与升级涉及数据同步任务,建议先在测试环境验证再上生产,并做好数据备份。本文不构成对任何产品的选型背书或使用建议。