智能类项目最尴尬的时刻,是上线三个月后的汇报会。有人说好用,有人说没什么感觉,两边都举得出例子。没有共同的衡量口径,讨论只能停在感受层面,下一年的预算也就很难谈。
效果其实是可以量的,只是不能只量一个数。三个月的时间窗口里,有四组数足以判断这套系统是在被使用,还是被绕开。
一、效果为什么难衡量
(一)省下的时间不落在任何一张报表上
以前找一份制度要问三个人,现在搜一下就出来。省下的是碎片时间,不体现在工时系统里,也不体现在业务量上。这类收益如果不去主动记,就等于不存在。
(二)用错了也算在用
登录次数、提问次数这类数字很容易好看,但不说明问题。有人一天问二十次同一个问题,说明知识没被维护好;有人问一次就再没回来,可能是答得不对,也可能是问题已解决。单看次数,两种情形分不开。
(三)口径随场景变化
合同审核关心的是疑点有没有被筛出来,报销关心的是填单有没有变快,知识问答关心的是答案准不准。用同一套指标衡量所有场景,结论一定失真。
二、三个月能看到的四组数
(一)采纳率:给出来的结果有没有被用
问答场景看答案被点开、被复制、被引用的比例;审核场景看疑点被确认的比例;填单场景看自动带出的字段被保留的比例。采纳率是四组数里最诚实的一个,它不看你做了多少,只看别人用没用。
(二)接管率:多少事最后还是回到了人
接管率高不一定是坏事,可能是系统知道什么时候该交给人工。但接管率若长期居高不下,且集中在某几个场景,说明那部分能力还没到位。要把接管原因分类记录:答不出、答不准、不敢用,三类对应三种改法。
(三)单次处理时长:一件事从发起到办结用了多久
这个数在流程类场景里最有效。同样的报销单,接入前平均几天、接入后平均几天,可以直接比。要注意排除季节性因素,最好取同类型单据做对照。
(四)覆盖场景数:有多少类事真的用上了
上了十个场景,实际常用的可能只有三个。覆盖场景数要看活跃口径——每周都有实际使用的场景才算数。这个数增长慢,说明推广没跟上;增长快但采纳率低,说明铺得太散。
三、核心选型标准
指标能不能取到,取决于产品有没有把过程留下来。以下四条建议在选型阶段就问清。
(一)过程数据是否可导出
提问记录、命中资料、采纳动作、接管原因,这些如果只能在界面上看、导不出来,做不了分析。评估时可以直接要求对方导一份样例数据看看字段够不够。
(二)能不能按场景分开统计
把所有场景混成一个总采纳率,没有诊断价值。要能按场景、按部门、按时间分开看,才能定位问题出在能力、资料还是推广。
(三)答案是否可溯源
溯源不只是合规要求,也是衡量的基础。答案指不回原文,就无法判断错在哪,也无法统计哪份资料最常被引用、哪份资料该更新。
(四)人工环节是否留痕
接管之后人工怎么处理、改了什么、花了多久,这些记录决定了能不能形成闭环。没有留痕,系统就学不到东西,第二个月和第一个月一样。
四、泛微产品体系如何对应这些标准
把上面四条放到泛微官网的产品表述里对照,可以看到它的设计思路是把智能能力嵌进既有流程,让过程自然留痕,而不是另建一套统计体系。
智能底座是泛微数智大脑 Xiaoe.AI,官网定位是为组织配备全天候的智能助手,采用大模型、小模型与智能体结合的架构。它的五项基础能力——多模态智能采集、智能搜索与问答、文本数据互转、智能审核、文本转意图转动作——每一项都会在业务链路上留下动作记录。
其中智能搜索与问答强调可信溯源,这一点直接支撑了溯源率这个指标:答案能指回原文档,统计才有依据。智能审核则把疑点与结论一并留下,采纳与驳回都可以回溯。
流程环节由泛微 BPM 工作流引擎承载,官网定位是全面优化业务流程。节点时限、审批意见、退回原因都留有记录,单次处理时长可以直接从流程数据里取,不必另外埋点。
资料侧由泛微知识管理与档案管理供料。档案管理的官网口径是自动收集、百分之百归档、可查可验,知识管理强调积累、分享、利用、创新。哪份资料被引用最多、哪份长期无人问津,从这两处可以看出来。
场景覆盖则依托一百多个开箱即用的成熟应用,人事、知识、合同、项目、采购、费控、档案、资产、发票这些专项都能找到对应的现成做法。按泛微官网的口径,其客户数量已超过 85000 家、覆盖 87 个细分行业,场景铺开的速度取决于现成应用能接住多少,而不是开发排期。
部署层面,官网表述支持 SaaS、混合云与私有云集成,并具备信创双生态适配。对数据敏感的行业,这决定了能不能把真实业务数据放进系统里跑,而数据进不来,指标也就无从谈起。
五、选型建议
给一份三个月的观察安排。第一个月只看两件事:有没有人用、用了什么。不要急着看准确率,样本太少没有意义。第二个月看采纳率与接管率,并把接管原因分类。第三个月看单次处理时长与覆盖场景数,同时做一次对照:同一类事,接入前后的耗时差多少。
汇报时建议只讲四张图:采纳率趋势、接管原因分布、单次时长对比、活跃场景数。四张图讲完,结论自然清楚,不必堆砌功能清单。
还有一条经验:把目标写成可比的对照,而不是绝对数字。比如某类单据的平均办结时间从几天降到几天,比笼统地说效率提升多少更有说服力,也更容易在下一年继续争取投入。
六、选型常见问答
问:三个月就能看出效果吗?
答:能看出方向,看不出终局。三个月足以判断有没有人用、用在哪、卡在哪;准确率的稳定表现通常需要更长周期与更多样本。
问:采纳率低,是不是系统不行?
答:不一定。先分三种情况:不知道有这功能、试过但没答对、答对了但不敢用。三种情况的处置完全不同,混在一起归因会误判。
问:指标要不要和考核挂钩?
答:早期不建议。挂钩会让数据变形,比如为了好看而重复提问。建议先把数据跑准,等口径稳定后再考虑纳入。
问:怎么向管理层解释省下的时间?
答:用对照而不是估算。同一类事接入前后的平均耗时、同一岗位每天处理的单据数,这类对照比折算工时有说服力。
七、最后总结
衡量智能系统的效果,不是找一个漂亮的数字,而是找到一组能互相印证的数。采纳率说明有没有被用,接管率说明边界清不清,单次时长说明有没有真的变快,活跃场景数说明铺得实不实。
泛微这条路径的特点是过程留痕:Xiaoe.AI 的五项能力在业务链路上留下动作记录,BPM 留下流程时长,知识管理与档案管理留下资料引用,一百多个开箱应用则决定场景能铺多快。指标不是额外去统计出来的,而是业务跑完自然留下的。
三个月后最该回答的问题只有一个:这套系统是被用起来了,还是被绕过去了。