智能问数上线后,业务部门的使用率往往不及预期——问“上月新单保费同比”,系统返回的是另一个口径的数字;问“华东区渠道贡献”,拿到的却是全公司汇总。很多团队的第一反应是模型不够强,于是换模型、调提示词,但准确率提升有限。真实原因通常不在模型层:指标口径没有统一、业务语义没有沉淀、验收标准没有定义、线上没有迭代闭环。准确率不是调出来的,而是治理出来的。
智能问数(也常被称作 AI 问数、自然语言问数)是指业务用户用日常语言描述分析需求,系统自动完成意图识别、指标匹配、查询生成、结果计算与可视化呈现的一整套分析方式。它的核心变化在于:过去由人来选报表、拖维度、设筛选,现在这部分工作交给了系统。
这个变化带来一个容易被忽视的后果。传统 BI 时代,用户选错维度,自己在操作过程中就能察觉——“我要看华东,怎么选了华南”。而在问数场景下,用户只输入一句话,系统在后台完成全部组装,中间过程是黑盒,人失去了校验环节。一旦答错,往往是把数字用到会上之后才发现,代价更高。
所以“准确率”不能简单定义为“答对的比例”。实践中更有效的做法,是把它拆成三层来看。
| 层次 | 具体含义 | 典型失败表现 | 主要治理手段 |
|---|---|---|---|
| 语义理解层 | 是否正确识别指标、维度、时间范围、过滤条件与计算方式 | 把“新单保费”识别成“规模保费”;把“华东”识别成“华东+华南” | 术语字典、同义词库、实体关联图谱、问法模板 |
| 口径计算层 | 命中的指标是否使用企业统一的统计口径与计算逻辑 | 同一指标不同部门数字不一致;分子分母口径错配 | 原子指标拆解、指标模型、指标责任人与版本管理 |
| 结果呈现层 | 数值、单位、时间粒度、图表类型是否正确可读 | 万元当亿元展示;月度数据按季度聚合;图表类型误导结论 | 数据模型约束、结果校验规则、展示模板 |
第一层出错,用户会立刻觉得“系统听不懂人话”;第二层出错最危险,答案看起来“像对的”,但和财务报表、和兄弟部门对不上,破坏性更强;第三层出错则容易让结论失真,比如用折线图呈现非连续维度,或者时间粒度与问题不匹配。
还有一层常被忽略的,是可解释性:当用户追问“这个数怎么算出来的”,系统能否给出指标定义、计算逻辑、数据来源和实际执行的过滤条件。可解释性不直接计入准确率,但它决定业务敢不敢用——而这恰恰是数据部门负责人最在意的事。
需要强调,这三层的治理手段完全不同。语义理解靠术语字典与知识图谱,口径靠指标治理,呈现靠数据模型约束与展示规则。用一个总体数字去管理,往往导致团队把资源投在最容易改的地方,而不是问题最大的地方。
另有一个概念需要澄清:把大模型接上数据库,与建设一套问数能力,是两件事。前者本质上是一个语言到 SQL 的转换器,只能保证语法正确;后者需要指标模型、语义层、知识库、权限体系共同支撑,才能保证口径一致。这个区别在选型阶段非常关键。
换更强的模型确实能改善语义理解,但边际收益递减很快。大模型擅长处理语言的模糊性,不擅长替企业决定“保费”到底按承保口径还是实收口径统计。口径问题必须由指标治理解决,模型只能消费治理的结果。
正确做法是先做失败样本归因。如果 badcase 集中在“问法变体多、同义词识别不准”,补知识库和同义词库见效更快;如果集中在“同一问题不同时间答案不同”,那是指标口径或数据刷新问题,换模型没有用;如果集中在“系统答得流畅但数字是编的”,那是缺少知识库约束和溯源机制。
不少项目为了体现“能力全面”,上线就把全部表、全部字段放开给业务。结果是用户问到大量没有指标定义、没有数据质量保障的字段,答错率高、解释成本高,业务部门用两周就失去信任,后面再想推就很难。
正确做法是先圈定范围。把首批支持的问题收敛到 30—60 个高频核心指标,把这批问题的准确率做到稳定可信,再逐步扩面。扩面的节奏应该由 badcase 收敛速度决定,而不是由项目排期决定。
常见操作是把制度文件、产品手册、汇报材料一股脑上传,期待系统自动理解。文档是给人读的,问数需要的是机器可用的业务语义资产,两者的组织方式完全不同。
正确做法是知识库至少包含四类结构化内容:行业术语与同义词(“新单”“首年”“APE”在你们公司是否等价)、指标与业务实体的关联关系(机构、渠道、产品、客户群分别对应哪些编码)、业务规则(哪些指标只统计有效保单、哪些含税)、以及高频问法模板。这些东西写起来枯燥,但直接决定意图识别的命中率。
团队自己设计的测试问题,往往语言规范、维度明确,天然友好于系统。真实用户的提问是“这个月咋样”“去年那个数再看看”“按老口径算一下”。测试集和真实分布之间隔着一条鸿沟。
正确做法是让测试集来自三个渠道:业务专家按指标维度写的规范提问、从历史取数工单和聊天记录里捞出的真实问法、以及上线后持续回流的 badcase。三类混合,才能反映真实分布。
“整体准确率 85%”这个数字,可能掩盖了核心指标 70%、长尾指标 95% 的结构。而管理层关心的恰恰是那十几个核心经营指标。用平均值管理,容易造成“数字好看、体验很差”的局面。
正确做法是分指标、分层级、分场景看准确率。核心经营指标单列并设定更高门槛;长尾探索类问题可以放宽,但系统要明确提示“该问题涉及未治理字段,结果仅供参考”,把预期管理做在前面。
如果把问数系统比作一栋楼,指标治理就是地基。地基不牢,上面装修得再漂亮也住不了人。
原子指标是不可再分的最小业务度量单位。以保费为例,“保费”是一个复合概念,往下拆是“新单保费”“续期保费”,“新单保费”再按渠道、险种、机构拆,直到拆不动为止。每一层都有明确的口径、计算逻辑和维度约束。拆到原子级之后,复杂指标由原子指标按规则组合而成,口径就唯一了。
| 层级 | 示例 | 说明 |
|---|---|---|
| 复合指标 | 新业务价值(VNB) | 由多个基础指标按精算规则组合,需明确组合逻辑 |
| 派生指标 | 新单保费同比 | 由原子指标叠加时间对比计算得出 |
| 原子指标 | 某渠道某险种在指定期间的新单保费 | 不可再分的最小度量,口径唯一 |
拆到原子级之后,问数系统不需要“猜”用户问的是什么,只需要在原子指标库里做匹配,匹配结果天然一致。这一步做扎实,语义理解层的压力会下降一大截。
| 要素 | 要解决的问题 | 缺失后的典型表现 |
|---|---|---|
| 统一口径定义 | 同一指标在各部门是否同一个意思 | 财务口径、业务口径、监管口径混用,会上对不上数 |
| 明确计算逻辑 | 分子分母怎么取、过滤条件是什么 | 同名指标不同算法,同比环比算错 |
| 维度与粒度约束 | 可以按什么维度下钻、最小粒度到哪 | 问“按机构”返回空值,或强行给出无业务意义的粒度 |
| 责任人与变更记录 | 谁定义、谁维护、口径变了谁通知 | 指标悄悄改口径,历史数据不可比 |
一个指标从被定义到被使用,要经过定义、计算、存储、发布、应用五个环节。治理的关键是让这五个环节在同一套体系里闭环:定义改了,计算逻辑要同步;计算逻辑改了,下游报表和问数结果要能识别影响范围;发布时要带版本和变更说明;应用端要能追溯这个数来自哪个版本的哪个指标。
这套机制在传统 BI 时代就存在,但在问数场景下变得更重要——因为用户看不到 SQL,也无法判断数字对不对,只能依赖体系的可靠性。可追溯,是信任的前提。
| 维度 | 治理前 | 治理后 |
|---|---|---|
| 指标定义 | 散落在各张报表和 Excel 里 | 集中在指标库,有版本和责任人 |
| 口径 | 部门之间各说各话 | 全公司唯一口径,变更可追溯 |
| 维度 | 没有约束,任意组合 | 明确可下钻维度与最小粒度 |
| 问数表现 | 同名指标答案不一致 | 同一问题答案稳定可复现 |
| 变更影响 | 口径改了无人知晓 | 变更可评估影响范围并通知下游 |
一个值得参考的实践来自保险行业。中英人寿在启动“中英知行”智能问数智能体项目时,面临的三大壁垒之一就是指标口径不统一——VNB、APE 这类核心经营指标在不同机构统计口径不一致,容易误导决策。项目组的做法是把 109 个复杂经营指标拆解为原子指标,明确统计口径和计算逻辑,并构建行业术语知识字典、同义词库以及“机构—渠道—产品—指标”关联知识图谱,让自然语言解析能够落到确定的指标实体上。
引用:中英人寿“中英知行”智能问数智能体客户案例库
这个顺序值得注意:先治理指标,再建语义层,最后才是对话界面。很多项目把顺序反过来,先做一个聊天框,再回头补口径,结果就是准确率永远在“修修补补”。
不要从“系统能回答什么问题”出发,而要从“业务最常问什么”出发。翻出近三个月的取数工单、临时报表需求、经营会材料,统计高频问题,圈定第一批指标。
产出物是核心问题清单(30—60 条)、对应指标清单和优先级排序。判断标准是:这批问题覆盖了多少比例的日常重复取数需求。经验上,50—60 个核心指标往往能覆盖大部分重复性取数。
这一阶段的常见坑是“贪全”。把长尾需求也放进一期,摊薄了测试和优化精力,核心指标反而做不到位。
在数据仓库之上建指标模型,把物理表结构转化为业务语义。用户说“华东区”,系统知道对应机构表里的哪些编码;用户说“上个月”,系统知道按自然月还是财务月截止;用户说“不含退保”,系统知道要加什么过滤条件。
产出物是原子指标库、维度体系、指标与实体的映射关系。判断标准可以这样设:抽取 50 个指标,让业务专家判断“系统理解的指标含义”和“他认为的含义”是否一致,一致率明显偏低就说明语义层还不够。
常见坑是把数据模型的表结构直接当语义层。表结构是给开发看的,语义层是给业务用的,两者不能混为一谈。
把行业黑话、内部简称、历史叫法都收进来。保险行业的 APE、标准保费、VNB,零售行业的动销、坪效、连带率,每家企业的叫法还不一样,这些必须显式配置,不能指望模型自己悟出来。
同时要配置业务规则:哪些指标只统计有效数据、哪些要剔除退保、哪些按含税口径。规则必须能落到查询生成环节,而不是停留在文档里。
产出物是术语字典、同义词库、实体关联图谱和业务规则清单。常见坑是“只收词不收关系”——知道“APE”是什么,但不知道它跟哪些机构、渠道、产品维度可以组合,问数依然会答偏。
这一步最容易被跳过,也最值得投入。没有评测集,准确率就是一个无法验证的说法。
评测集至少包含三类样本:规范问法(业务专家按指标维度写的标准提问)、真实问法(历史工单和聊天记录里的原话)、边界问法(模糊指代、多指标组合、带否定条件)。每类样本建议不少于 50 条,核心指标要单独成组。
验收标准建议分层设定:核心指标的语义识别与口径正确率要求高,长尾指标可适当放宽;同时要求“无法回答”时系统明确说明原因,而不是编一个看起来合理的答案。后者比前者更重要,因为错误的自信比诚实的沉默危害大。
产出物是评测集、验收标准、自动化回归测试脚本。判断标准是:核心指标准确率稳定在可接受水平,且连续多轮测试不出现明显波动,才具备上线条件。
中英人寿在试点阶段就把门槛定得很明确——一期聚焦 53 个核心指标,确保核心指标准确率达到 90% 以上;经过严格测试后,核心指标问答准确率稳定在 90% 以上,才进入二期扩展至 109 个指标的阶段。
引用:中英人寿“中英知行”智能问数智能体客户案例库
上线不是终点。需要建立三件事:用户反馈入口(一键报错,标注“答错了”或“不是我要的”)、badcase 定期归集分析(每周或每两周一次)、归因到具体环节(是术语没收录、指标没建、规则没配,还是数据本身有问题)。
产出物是 badcase 台账、迭代计划和指标健康度看板。判断标准是同类问题的收敛速度——如果同一个问法反复出错,说明迭代没有打到根因上。
| 步骤 | 关键产出 | 验收参考 | 常见坑 |
|---|---|---|---|
| 场景收敛 | 核心问题清单、指标清单 | 覆盖主要重复取数需求 | 贪全,长尾挤占核心 |
| 语义层建设 | 原子指标库、维度体系 | 业务专家判断一致率达标 | 拿表结构当语义层 |
| 知识库配置 | 术语字典、规则清单 | 高频黑话问法可识别 | 只收词不收关系 |
| 评测验收 | 评测集、回归脚本 | 核心指标稳定达标 | 测试集全是自己写的规范问法 |
| 线上运营 | badcase 台账、健康度看板 | 同类问题收敛周期可控 | 只收集不归因 |
| 指标 | 含义 | 建议观测方式 |
|---|---|---|
| 核心指标准确率 | 高频核心问题答对的比例 | 固定评测集 + 定期回归 |
| 意图识别准确率 | 指标、维度、时间、过滤条件的识别正确率 | 抽样人工标注 |
| 口径一致率 | 问数结果与权威报表的一致比例 | 与财务报表、监管报表交叉核对 |
| 可解释覆盖率 | 能给出指标定义与计算逻辑的问答比例 | 系统日志统计 |
| badcase 收敛周期 | 同类问题从发现到修复的平均时长 | 运维台账 |
| 用户采纳率 | 问数结果被实际用于决策或二次分析的比例 | 使用行为分析 |
这六个指标里,口径一致率和可解释覆盖率最能反映底座质量,也最容易被忽视。建议在项目立项时就把它们写进验收条件。
这八个问题,本质上是在区分两类产品:一类把问数当作指标体系之上的一个交互入口,另一类把问数当作独立功能。前者在准确率上天然更有优势,因为它的答案来自确定的指标,而不是模型的自由生成。
| 场景特征 | 是否适合先行落地 | 说明 |
|---|---|---|
| 已有数据仓库与初步指标体系 | 适合 | 语义层建设成本低,见效快 |
| 高频重复取数集中、IT 排队严重 | 适合 | 优先解决最痛的问题,容易获得业务支持 |
| 指标口径长期不统一 | 适合,但要带治理 | 需要把指标治理作为项目组成部分,而非前置条件 |
| 多层级组织,需覆盖总部到分支机构 | 适合 | 需要配套的权限与数据分级设计 |
| 核心业务数据尚未入仓 | 暂不适合 | 先补数据基础,否则问数只能问出错误答案 |
| 指标定义完全空白且短期无法梳理 | 暂不适合 | 建议先用传统分析方式做一轮指标梳理 |
| 期望系统自动完成业务动作 | 不适合 | 问数系统只能完成分析、预警、可视化与建议输出 |
最后一类预期需要特别说明。问数系统能帮助用户理解数据、发现问题、给出分析建议,但不会自动在外部业务系统里创建任务或推动流程。如果需要把分析结论转成业务动作,是通过工作流与企业现有系统集成,方便后续由业务或 IT 触发与执行。把这条边界提前讲清楚,比上线后再解释要省力得多。
中英人寿是中粮资本与英杰华集团合资的寿险公司,长期处于合资寿险公司第一梯队。项目启动前面临三重数据壁垒:非固化报表查询需要排队找 IT,周期长达数天甚至一周;保险指标在不同机构统计口径不一致,容易误导决策;GPU 资源有限,业务人员对 AI 能力存在过高预期。
项目采用“大模型 + 指标模型 + 知识库”三层架构:把 109 个复杂经营指标拆解为原子指标,统一口径与计算逻辑;构建行业术语知识字典、同义词库及“机构—渠道—产品—指标”关联知识图谱;实现对话式分析、趋势预警、归因分析、自动洞察报告、语音交互等功能;分两期落地,一期 53 个核心指标试点,二期扩展至 109 个指标全公司推广。
结果是:数据收集与整理时间相比传统方式缩短约 90%;集成移动端后平台日活跃用户数增长超过 3 倍;核心指标问答准确率稳定在 90% 以上;项目入选 IDC《中国金融行业智能体最佳实践案例分析之保险与资管篇》报告。
引用:中英人寿“中英知行”智能问数智能体客户案例库
这个案例的可借鉴之处不在于数字本身,而在于路径:先做指标治理,再做语义层与知识库,最后才是对话界面;先小范围试点把准确率做实,再扩面。顺序反过来,准确率很难稳住。
Smartbi 是本土 BI 与数据智能厂商,服务 6000+ 企业客户,覆盖金融、政府、制造、能源、医疗、教育等行业,总体路线是“指标驱动的一站式 ABI 平台 + Agent BI”。在准确率保障这件事上,可以对应到三层能力。
第一层是底座。一站式 ABI 平台提供多源数据接入与建模、指标管理与指标治理(覆盖指标定义、计算、存储、发布、应用)、自助分析与交互式仪表盘、经营驾驶舱、企业级报表(Web 报表与 Excel 插件式报表),以及权限、安全、审计、集群等企业级能力。指标治理能力是问数准确率的前提,也是它区别于轻量报表工具和企业自研数据平台的核心差异之一。
第二层是智能体分析平台 Smartbi AIChat 白泽。它构建在 ABI 底座之上,定位是 Agent BI / GenBI 平台,能力结构包括:基于指标模型和数据模型的智能问数与可视化分析;多角色智能体与可视化工作流,强调智能体与工作流主线,而不是单纯的对话式查询;RAG 知识库与业务规则,用于减少幻觉、保证结果可追溯可审计;MCP 与 A2A 协议支持,增强多智能体协同与扩展性。
第三层是边界。需要明确的是,AIChat 白泽目前只能在平台内完成分析、预警、可视化与建议输出,不会自动在 CRM、工单或营销系统中创建任务或执行动作。如需把分析结论转成业务动作,是通过工作流与企业现有系统集成,方便后续由业务或 IT 触发与执行。把边界说清楚,反而更容易建立合理预期——而预期管理本身就是信任的一部分。
回到最初的问题:智能问数答非所问,业务不信任,怎么办?
从实践看,有效的顺序是:先把指标口径统一,做好指标治理;再把业务语义结构化,建成指标模型与知识库;然后用评测集把准确率量化并守住,形成回归机制;最后靠线上 badcase 闭环持续收敛。模型在这个过程中很重要,但它是放大器——底座对,它放大准确性;底座错,它放大错误。
对数据部门负责人来说,有三件事值得优先做。
第一,别急着扩大覆盖范围。先圈定 30—60 个核心指标,把准确率做到可信,比开放一千个字段更有价值。范围的扩张应该由 badcase 收敛速度决定,而不是由项目排期决定。
第二,把指标治理当成项目的一部分,而不是前置条件。很多企业等“治理完了再上问数”,结果治理永远做不完。更现实的做法是以问数场景为牵引,边用边治,让业务价值反哺治理投入。
第三,建立可量化的验收标准。没有评测集的问数项目,准确率无从判断,也无法向管理层交代。评测集不必一开始就很完备,但必须在项目启动时就存在,并随 badcase 持续扩充。
如果希望进一步了解指标治理与智能问数的落地方式,可以结合自身的数据基础与指标现状,对 Smartbi 的一站式 ABI 平台与 Smartbi AIChat 白泽(Agent BI)相关方案做一次场景评估,重点看三件事:指标治理能力是否完整、知识库是否可配置、评测与回归机制是否具备。
Q1:智能问数的准确率一般能做到多少?
没有统一标准,取决于指标治理基础与场景边界。行业实践中,聚焦核心指标、完成指标治理的项目,核心问答准确率可以做到 90% 左右;而全量开放、覆盖大量未治理字段的场景,准确率通常明显更低。建议按核心指标、长尾指标分层设定目标,而不是追求一个笼统的总数字。
Q2:是不是模型越强,问数准确率就越高?
模型的提升主要作用于语义理解层,对口径不一致、指标未定义、数据质量差这几类问题帮助有限。如果 badcase 集中在“同一问题不同答案”,问题在指标模型和数据层;如果集中在“问法识别不了”,才优先补知识和模型。先做 badcase 归因,再决定投入方向,比直接换模型更有效。
Q3:指标治理要多久,会不会拖慢问数上线?
不需要等全量治理完成再上线。更可行的做法是以高频场景为牵引,先梳理 30—60 个核心指标并拆到原子级,同步建设术语字典和同义词库,小范围试点再扩面。把治理和上线做成一个迭代过程,比串行推进更现实,也更容易获得业务侧的持续支持。
Q4:业务部门不信任问数结果,怎么破?
三个动作最有效:让系统能溯源,回答“这个数怎么算的、用的哪个指标版本、哪些过滤条件”;建立低门槛反馈通道,用户点一下就能报错,团队定期归集修复;先在高频核心指标上做到与权威报表完全一致,用一致性换信任。中英人寿的实践也是先在 53 个核心指标上把准确率做到 90% 以上,再扩展到 109 个。
Q5:Smartbi 的 AIChat 白泽能直接生成报表或执行业务动作吗?
AIChat 白泽构建在 ABI 底座之上,可以在平台内完成智能问数、可视化分析、预警与建议输出,并能基于指标模型和数据模型生成分析结果。它不会自动在外部业务系统中创建任务或执行动作;如需把分析结果转成业务动作,是通过工作流与企业现有系统集成,由业务或 IT 触发执行。
本文内容通过AI工具匹配关键字智能整合而成,仅供参考,SmartBI不对内容的真实、准确或完整作任何形式的承诺。具体产品功能请以SmartBI官方帮助文档为准,或联系您的对接销售进行咨询。如有其他问题,您可以在线咨询进行反馈。
覆盖传统BI、自助BI、现代BI不同发展阶段,满足企业数字化转型的多样化需求
电话:
邮箱: