诺亚数据体系建设的五次关键演进 —— 一部把「业务距离」逐步缩减至零的进化史
诺亚数据体系的建设现状、当前能力与演进方向。
诺亚是横跨多产品、多区域、多前台的全球财富与资产管理集团。把复杂业务系统与流程抽象成四层 —— 每一层都在持续产出数据,也意味着如果没有统一底座,后续分析很容易各算各的。
部署横跨 国内 + 香港 · 新加坡 · 美国 多区域;每个系统都是一个数据源。
业务沉淀的数据,落在以 MaxCompute 为核心的数仓上 —— DataWorks 开发调度、分层加工,再经 ADB / Hologres 回流到 DataATM 和 Tableau 等消费入口。下一阶段,DataATM 还会通过受控 API 在 ADB 创建专用编辑表,让业务反馈也进入同一条可治理链路。
外部看诺亚数据体系,最重要的是先看清五层:业务与数据源、采集与治理入口、数仓建模底座、数据服务层、AI 与业务入口。现在不只有数据向外服务,业务在小诺里补充的判断也将通过受控写入回到数据服务层。
后面会反复出现这些词,先一句话讲清,非数据背景也能跟上。最关键只要记住三件事:视图是业务看到的数据入口,口径保证同一个数,血缘负责追根因。
Noah 的数据底座按区域采用双云布局:国内(大中华区)运行在阿里云,海外(新加坡)按 AWS 目标架构建设,并通过 dbt + Dagster PoC 验证建模与编排链路。两地独立部署,但分层、治理和服务方法论保持一致。
schema-suffix _dev/_prodap-southeast-1 · 数据中心在大中华区之外给技术读者的速查:引擎、分层、调度、回流、服务接口、治理,一表看清诺亚数据体系的技术底座。阅读时抓三点:算在哪里、服务给谁、如何保证可信。
ODS → DWD → DWS / DIM → ADS· 海外 PoC ODS → DW,AWS 目标 ods → dwd → ads → martsview → 模型 → 回流表 → ODPS · 口径单点定义过去几年只在回答这一个问题。答案不是一次技术升级,而是五次连续演进——从采集、宽表、推送、DataATM 到 AI,每一步都把数据与业务之间的距离压缩一截。
理想是所有数据自动入仓;现实是高价值数据散落在业务侧的 Excel、低代码表单、企微群里。核心矛盾是 业务敏捷性 与 数据规范性 的平衡。我们的解法是连续三次降低入湖门槛:
ADB → 自动入仓。把「手工录入」变成一条标准入湖通道。沉淀 14 大核心业务域,统一在 DataWorks / MaxCompute 上按 ODS → DWD → DWS / DIM → ADS 分层建模:
粒度:一行一个客户。把客户主档、标签、会员、KYC、资产持仓等多类维表和明细融合成一张主题宽表。
一张表覆盖会员等级、客户分层、城市、归属团队、适当性、资产规模、开户时点等信息,回答 80%+ 客户类基础问数。
建看板、等业务来看。被动,依赖使用者自觉。
把数据送到业务每天已在用的渠道:企业微信群 / 邮件 / 看板大图 / 管理驾驶舱。从「人找数据」变「数据找人」。
支撑:DataWorks DQC 质量规则(唯一性/空值/行数)+ 企业微信机器人告警订阅,异动自动触达责任人。
ADB / Hologres 承接数仓回流,DataATM 把数据组织成可治理的数据源、模型和视图。小诺本期补齐可写数据集,并用查询时表关联读取人工反馈;数据准备继续服务复杂、周期性的物化加工,不进入逐条保存链路。
数据源 · 模型 · 视图 · 模板
ADB · Hologres 回流
查询时 Join / 周期性物化加工,按场景分工
同口径展示,运行时直连 ATM
企业微信群 · 邮件 · 看板大图
读写权限 · 行列治理 · 操作留痕
MCP / Plugin / 业务查询 API
受控建表 · CRUD · 自动注册数据资产
承载 9 大 BU 看板同口径运营:Olive 资管全球 · 正行 ZX · 国内 ARK · 香港 Office · 新加坡 Office · 在线财管 · Glory(信托/保险/身份规划)· 集团创收。
「有了 Agent,就不需要数据平台了」—— 以为自然语言能直接替代建模、权限和口径。
Agent / Skills 只是交互与生成入口:负责听懂需求、生成页面、组织结论;权威数据、业务写入与治理必须由底座承载。
行列级权限按用户身份实时裁决:同一个问题,不同人能看到的客户/字段不同。Agent 不能自行放权,必须回底座问「这个人能看什么」。
标准创收、净申赎、服务覆盖率… 每个指标只有一套权威算法。Agent 取底座固定口径,不自己拼 SQL 重算,避免一人一个数。
view → 模型 → 回流表 → ODPS → 上游 全链路可追溯。数对不上时能定位断在哪层。Agent 本身没有血缘记忆。
质量校验、发布审批、版本隔离,以及专用编辑表的字段校验、软删和审计 —— 读写都必须可信。
Agent 负责理解目标与执行任务,Skills 把复杂经验封装成可复用能力,MCP 在权限边界内连接数据库、接口、工具和企业系统。
当前体系聚焦 A 端内部员工与各 BU。真实 Agent 从统一应用入口进入、由 Engine 执行;未来通过 Skill Hub 统一管理各 BU 自有 Skills 与公共 Skills,再经 Shared AI Core 和 DataATM / MCP Gateway 访问模型与数据。
从用户提问到结果返回 · 六大角色协同:用户 · Agent · Skills · LLM · MCP · 工具。请求逐层下行,结果沿同一条链路回传。
Agent 做完任务只是起点。Langfuse 负责 LLM 运行 Trace,MCP 审计补全工具与数据访问路径,DataATM 查询日志支持结果回放;三类证据共同驱动评估、样本沉淀和下一版受控发布。
用户 → Agent → Skills / MCP → 工具 → 结果
输入输出 · 工具调用 · 模型 · 延迟 · Token / 成本 · 错误
任务成功 · 工具选择 · 事实一致 · 安全合规
错误模式 · 根因定位 · 成本异常 · 质量漂移
Golden Dataset v1 已有 20 条;失败 Trace 自动回流与 Annotation 待补
Prompt · Skill · Recipe · 规则改进;回归通过后受控发布
2026-07-04 18:00—07-11 18:00 · Asia/Shanghai。8 为 mode tag,不等于 8 个独立服务;Score=0 暴露出“能看见、尚未形成统一质量闭环”的缺口。
问数路径被整条压平:过去要排队找人写 SQL,现在 Claude 企业版/个人版通过 DataATM Plugin 获得自然语言问数能力;真正取数由 DataATM MCP 执行,并继承 DataATM 的表权限和行列权限。交互变简单,底层治理不放松。
底层:DataATM MCP 封装查询、维度拆解、排名、周期对比等能力;DataATM Plugin 提供给 Claude 企业版/个人版使用,表权限和行列权限由 DataATM MCP 按 DataATM 底座统一裁决。
这不是再做一张看板,而是同一个看板连续三次进化:AI 先生成页面,页面再运行时直连 DataATM,下一步让需要人工录入的业务数据也留在同一入口,并与数仓宽表即时关联。
AI 按业务需求生成 Skill,再由 Skill 生成页面结构、指标卡和交互。
AI+业务样例直接查询 DataATM 视图 3953,筛选、排序和分页都走 ATM。
ATM 接口在 ADB 创建并写入通用业务表;看板查询时再与数仓宽表即时关联。
现有页面已经有同屏「服务记录」编辑器,但保存仍停留在浏览器内存,尚未接入 ADB 持久化、查询时表关联和回读链路。因此直连读取版已可用,动态可写闭环仍在建设。
问数解决“我想知道什么”,动态驾驶舱解决“我如何查看并补充判断”;异动洞察再向前一步,由每个 BU 定义自己的监控规则 Skill,系统持续看数,只有命中异常时才主动提醒并给出解释。
BU 负责业务语义:监控哪张视图、哪个指标、用什么基准和阈值、沿哪些维度归因、命中后采取什么行动以及通知谁。
公共能力统一复用:Skill Hub 注册与版本、DataATM 权限取数、AutoInsights 统计算法、模型调用、调度通知、执行记录与审计。
这页用于把“数据主动找人”的概念落到实际交互:系统持续监控指标变化,命中规则后生成提醒、解释原因,再把用户带回小诺处理现场。
升级的核心不是增加一张“服务记录表”,而是让 ATM 具备通用可写数据表能力。以后由 Skills 生成的看板,既能读取数仓数据,也能承接业务人工录入,并在查询时把两类数据组合起来。
AI 生成看板结构;用户确认展示样式、业务主键以及需要人工编辑的字段。
ATM 根据受控 schema 在 ADB 创建物理表、注册数据资产,并通过统一接口持续写入。
数仓宽表与可写业务表即时 Join;只返回查询结果,不落第三张物理表,不触发数据准备全量重写。
保存服务记录时写入集团号和服务时间;列表查询时再按集团号关联客户宽表,用最近一次服务时间补充客户状态。这是通用能力的首个示例,不是产品能力的边界。
一个 DataATM 底座承载六类能力 —— 看与录、问、组、推、管、追治。Tableau 仍作为 BI 入口直连 Hologres;小诺则继续向动态业务入口演进。
DataATM 门户 + 9 大 BU 看板 + 小诺;直连读取已用,同屏编辑回写建设中
Claude 企业版/个人版使用 DataATM Plugin;DataATM MCP 负责取数与权限裁决
小诺用查询时 Left Join;复杂、周期性的清洗加工再使用数据准备
企业微信群、邮件、看板大图发送:数据 → 指标变化 → 业务洞察
读取按行列裁决;业务写入按表和字段授权,记录创建人、修改人和时间
口径统一、质量校验、视图到源表可追;新增业务反馈也有来源和责任人
已具备:门户 / 看板读取、Claude 问数、表关联、数据准备、推送、权限、血缘治理。建设中:ATM 通用可写数据表 + 小诺同屏编辑闭环。
数据体系的价值不在技术本身,而在它能否让结论进入行动、让行动结果重新进入数据。
从「排队等取数」到「秒级自助拿结论」,问数路径整条压平
全公司同一套口径,不再「一人一个数」,对账成本大降
行列权限 + 血缘可追 + 质量校验,数据可信、可控、可审计
在同一看板看结论、补判断、记行动;反馈再与宽表组合,继续分析
下一步不是让 AI 多生成几张静态页面,而是把「页面生成—实时取数—人工反馈—数据再组合」沉淀成可复制的产品能力。
我们过去几年做的所有事情,本质上只在一个维度上努力:缩短数据与业务之间的距离。
而今天,AI 让这段距离趋近于零。
主线讲完后,可按问数、排查、数仓建设、ATM 资产上线、血缘、权限等问题直接跳转。附录重点回答“真实怎么做、边界在哪里”。
先用一页讲清“谁用什么能力、边界在哪里”。
💬解释 DataATM Plugin 如何把视图、权限和口径封装给 Agent。
🔍当问数答不够时,分析师如何继续查明细和追血缘。
🏗️建表、发布、补数、回流为什么必须走门禁流程。
🚀数据源、模型、视图、权限如何从配置变成可复现交付链。
🔗从用户看到的视图一路追到数仓加工表和源系统。
🛡️把 AI 接到底座,同时确保生产写变更仍然受控。
🔐解释不同角色能装哪些能力、为什么不能越权。
🏁回到结论:前四次演进构成 AI 时代的数据基础设施。
「数据管家」不是一个万能机器人,而是把数据团队的经验拆成四类可控能力:问数、排查、数仓建设和 ATM 产品上线。越靠近写操作,环境、权限、差异和回滚门禁越严格。
自然语言查已开放视图;权限、口径和行列裁决回到 DataATM 底座。
下钻明细、查口径、追血缘;只读排查,不直接改生产数据。
探源、建表、发布、补数、回流走 DataWorks 受控流程。
通过 Admin API 交付数据源、模型、视图、权限和查询验收。
把“谁能看、谁能查、谁能改、怎么追根因”做成可执行规则,而不是靠人记。
四类能力都共享同一套权限、口径和血缘,所以问数、看板、排查不会各算各的。
问数和排查默认只读;ATM 资产写经 dry-run 和回读;数仓生产写仍经审批与质量门禁。
把 71 张白名单视图的业务口径沉淀成可复用的能力体系。Agent 自然语言进、权威口径出 —— 口径、权限、路由和取数统一受控。
用户问「按区域看今年收入排名」→ 系统识别业务域、指标和维度 → 自动匹配白名单视图与标准口径 → 秒级返回各区域收入排名,口径与看板完全一致。
面向有明细数据读权的分析师:标准查询、血缘追溯、稳定导出。只读访问,不执行生产写变更 —— 是 ① 问数答不出时往下钻根因的兜底层。
正式导出、小样本验证、口径查询和备选查询工具按稳定性分层使用,避免分析过程依赖单一入口。
仅允许只读查询;临时数据设置生命周期;涉及建表、发布、补数等写动作必须转入受控建设通道。
业务反馈「某类收入指标对不上」→ 查询标准明细与口径链路 → 追溯上游数据加工过程 → 定位根因在源数据缺失、映射规则或加工链路中的具体环节。排查通道只给结论,不直接改数。
能力已经不只是“建表、发布、补数”:它连起统一探源、批量入仓、多目标回流、DEV-first 版本核验、精确补跑、DQC 告警与临时对象收口。
发布包:0.6.27+codex.20260710161828282059 · 正在继续加固:冻结后实例硬校验、异常路径强制收口、精确 FileId / DagId、生产授权拆分与 guard 失败关闭。
DataWorks 把物理表和调度准备好之后,DataATM Ops 继续通过 Admin / Web API 完成数据源、模型、视图、查询入口、权限与验收,让“表已存在”真正变成“用户可使用”。
SQL 与参数配置
字段解析 · 行数检查
维度 / 度量 · 口径
标签 · 敏感级别
字段展示 · 默认筛选
行列规则 · 上下线
templateUid 反查
submitQuery → shortUrl
角色 / 用户 · 字段 / 行
下载 · 模板 / 看板
详情回读 · 查询冒烟
Query Log · MCP Audit
写之前明确环境、对象 ID、payload diff、影响用户和回滚方案;写之后用详情、权限和真实查询结果复核,不把“API 返回成功”当成交付完成。
v0.1.0 已经把对象、接口、门禁和复核 SOP 标准化;但尚未将六步收敛为单个幂等编排命令,也尚未统一上架 Marketplace。
血缘 = 一个数,从用户看到的视图,一路追到源表和加工逻辑。动态看板还会多一条业务反馈支线:人工录入来自谁、何时修改、与哪张宽表组合,同样需要可追。↓ 从上往下读:
问数读取、业务写入、ATM 资产发布和数仓工程变更必须分开:每一类通道都有自己的身份、授权、审计和执行后验证。
13 个只读 Level-2 工具 + OAuth;权限、口径、行列裁决回到底座统一执行。
结构化 schema 建表、登录态鉴权、参数化 CRUD、软删与审计;只写 ADB 专用表。
数据源、模型、视图、模板链接和权限通过 Admin / Web API 受控交付。
连通性、找文件、拉 SQL、节点依赖、调度配置、元数据血缘等读动作优先走内置 MCP,减少人工翻控制台和脚本散用。
发布、补数据、改表、质量规则生效等写动作保留在受控通道;系统会拦截直接写生产的动作,并要求先备份、再校验、再人工确认。
边界结论:业务数据只写授权专用表 · ATM 资产只经管理 API · 数仓生产写仍由独立门禁锁住。
Plugin 决定用户能进入哪类能力,DataATM 决定用户能读写哪些数据。可写数据集上线后,写权限会与读取权限分开授权,不会因为能看一张宽表就能修改它。