您的位置首页 >要闻 > 人工智能 >

京东 Apache Doris 湖仓查询优化实践多引擎收敛,支撑百万级查询

京东零售把原来 Presto、StarRocks 多套分析引擎逐步收敛到 Apache Doris,完成湖仓查询底座统一,并且围绕元数据、分区、文件扫描、资源调度做了整套湖仓查询优化,现在这套架构已经稳定承载日均百万级查询、PB 级数据扫描,业务覆盖 BI 报表、数据质量校验、AI Agent 查询等场景,AI Agent 相关查询占比达到 20%,这套方案解决了多引擎架构下治理复杂、资源碎片化、跨引擎维护成本高的痛点,依托 Doris 的 Multi-Catalog、Nereids 优化器、向量化执行能力,不用再维护多套查询语法、监控和运维体系,下面把架构演进、核心优化手段、负载情况、落地步骤整理清楚。

一、架构演进对比

项目旧多引擎架构Apache Doris 统一湖仓架构
引擎组成Presto、StarRocks 等多引擎并行仅 Apache Doris 作为统一查询入口
数据源访问各引擎独立对接 Hive、Iceberg 等湖表Multi-Catalog 统一接入湖仓数据源
运维成本多套语法、监控、调度、权限体系一套体系统一管控
典型负载报表、离线分析BI 报表、数据质量任务、AI Agent 查询
查询规模分散在多个引擎,难统一观测日均百万级查询集中观测治理

二、四大核心优化方向清单

  1. 元数据与 Catalog 优化
  2. 分区裁剪与谓词下推优化
  3. 文件扫描层优化
  4. 查询调度与资源隔离优化

依托 Multi-Catalog 能力统一管理 Hive、Iceberg 等湖表元数据,增加元数据缓存、异步刷新机制,减少反复拉取元数据带来的耗时,避免湖表元数据访问成为查询瓶颈。

强化 Nereids 优化器对湖表的分区裁剪、统计信息收集,把过滤条件尽可能下推到文件扫描层,跳过不需要扫描的分区和数据文件,减少 IO 读取量。

升级 Scanner 组件,优化 Parquet、ORC 列式文件读取逻辑,搭配 PageCache 缓存页数据,冷热数据自动区分,重复查询命中缓存后速度大幅提升。

针对 BI、Agent、数据质量任务做负载分类,设置不同队列、资源配额,防止大扫描任务抢占小查询资源,保障高并发百万查询下的稳定性。

三、落地实施步骤

  1. 业务梳理:盘点现有 Presto、StarRocks 上的查询任务,按报表、数据质量、Agent 查询分类,收集 SQL、并发、数据扫描量基线。
  2. 兼容性改造:把原有 SQL 适配 Doris 语法,配置 Multi-Catalog 对接现有数据湖,打通权限、血缘、监控链路。
  3. 灰度迁移:低优先级业务先切到 Doris,持续观测延迟、失败率、资源消耗,同步调优分区、缓存、队列参数。
  4. 全量收敛:验证稳定后,逐步下线其他引擎,统一所有湖仓查询入口,统一运维和告警体系。

四、业务落地效果与限制

  • 效果:实现多引擎统一治理,支撑日均百万级查询,PB 级数据扫描,AI Agent 查询占 20%,运维复杂度明显下降。
  • 限制:复杂湖表统计信息收集仍有成本;超大范围全表扫描场景,依然会占用大量资源,需要配合业务侧 SQL 规范治理。

【相关 FAQ】

问题 1:京东 Apache Doris 湖仓查询优化,为什么要把多引擎统一?

回答 1:京东 Apache Doris 湖仓查询优化,统一多引擎是为了解决 Presto、StarRocks 并行带来的运维分散、语法不统一、资源调度难的问题,收敛到 Doris 之后才能稳定支撑百万级湖仓查询。

问题 2:京东 Apache Doris 湖仓查询优化之后,支撑的负载包含哪些?

回答 2:京东 Apache Doris 湖仓查询优化之后,统一湖仓底座支撑 BI 报表、数据质量任务、AI Agent 查询,整体承载日均百万级湖仓查询,其中 AI Agent 查询占比约 20%。

问题 3:京东 Apache Doris 湖仓查询优化,主要靠哪些能力做湖仓加速?

回答 3:京东 Apache Doris 湖仓查询优化,主要依靠 Multi-Catalog 元数据管理、Nereids 优化器分区裁剪、文件扫描优化、PageCache 缓存、负载资源隔离这几项能力,支撑百万级湖仓查询稳定运行。

【参考资料】

[2026-11-11](京东 Apache Doris 湖仓查询优化实践:从多引擎统一到百万级查询)腾讯云开发者社区

[2026-11-11](京东 Apache Doris 湖仓查询优化实践:从多引擎统一到百万级查询)稀土掘金

[2026-11-10](Doris Summit 2026:湖仓查询、Multi-Catalog 最新进展)SelectDB

[2026-10-16](Apache Doris 湖仓查询官方优化指南)Apache Doris 官网

【免责声明】

  1. 京东 Apache Doris 湖仓查询优化实践为 Doris Summit 2026 公开分享内容,业务规模、查询指标为京东零售当前生产环境数据,后续会随业务迭代变化。
  2. 优化方案适配京东自身湖仓和业务负载,直接照搬不一定能达到百万级查询效果,需要结合自身数据量、查询模式、硬件资源二次调优。
  3. Apache Doris 湖仓能力持续迭代,Multi-Catalog、优化器、文件扫描组件新版本会持续调整,具体参数以官方最新文档为准。
  4. 本文仅为技术实践信息整理,不构成数据仓库、湖仓平台选型建议,上线前务必经过压测、灰度验证。