安全与治理 · 人工确认边界

AI 关键操作人工确认怎么配:哪些必须确认,哪些可以自动执行

AI 关键操作人工确认配几档、边界按什么划,是接入业务系统后常见的治理问题。本文按业务能力整理必须确认、条件确认与允许自动执行三档,给出五个判断问题、多步任务与批量操作的确认单位,以及确认与权限的分工和上线验收项。具体配置应结合企业业务与目标系统核对。

半透明闸门横跨流动的数据线,右侧有人手示意等待确认,深蓝与暖灰色调的概念插画
核心观点

人工确认应帮助有权限并承担业务责任的人,在结果发生前看清本次动作。确认管这一次要不要做,权限管这个人能不能做,两者不能互相替代。

AI 接进业务系统之后,人工确认这件事容易走成两个极端。一种是把所有写操作都弹一次确认,员工如果反复看到内容相同、信息量低的弹窗,可能逐渐不再仔细核对;另一种是嫌麻烦,把确认整体关掉,出了问题再回头翻记录。两种做法都绕过了同一个问题:这条边界按什么划,由谁来划。

这篇把确认放回业务能力这一层,给出三档配置方式、五个判断问题、多步任务与批量操作的确认单位,以及确认和权限各自管哪一段。文末是一份可以直接拿去核对的上线验收项。

为什么确认容易做成走形式

给所有写操作都加确认弹窗,通常是较直观的起步方式;但如果确认内容长期重复且信息量低,员工可能逐渐不再仔细核对。出现错误后,也需要结合确认记录与业务结果还原过程。

按页面配的做法更隐蔽。订单详情页要确认,批量导入页不用;页面改版后按钮合并,确认跟着消失,也没有人发现。同一个业务动作在不同入口享受不同待遇,边界实际上由界面决定。

只盯审批的做法看起来最合理。审批节点的确认做得不错,可状态回写、批量改价、库存调整这些小动作不经过审批,也就没有确认环节。单笔金额小、笔数多,叠加起来并不轻。

可以用三个信号初步自查:确认框只问「是否执行」,不显示将要改动什么;确认人看不到依据,只能相信上一步的结果;点完之后既不能撤回,也查不到是谁点的。若多项同时出现,确认机制可能已经流于形式。

按业务能力分三档,比按按钮分更稳

如果企业把业务能力的名称、输入输出和版本写进治理清单,后续更容易与发布状态和调用记录对应。具体对应字段以实际配置为准。页面会改版,按钮会合并,字段会增减,因此用业务能力组织规则,通常比直接绑定页面元素更稳定。

建议把确认档位和业务能力关联,避免规则只挂在某一个页面按钮上。不同入口是否复用同一能力与规则,应结合实际发布配置核对。

档位适合的能力配置方式员工确认时看到什么
必须确认新增、修改、删除、审批;涉及资金、库存、账期、对外承诺的能力每次执行前都要确认,不设例外通道改动前后的字段、依据的数据来源、受影响的单据、确认人与时间
条件确认金额、数量、折扣、账期在阈值内的常规办理阈值内自动执行并留痕,超出阈值转人工确认触发了哪一条阈值、超出多少、本批合计、与上一批的差异
允许自动执行查询、汇总、校验、预填、生成草稿、幂等重试直接执行,只记录调用不需要确认,事后可在审计里查到

实际分布通常像一座塔,必须确认的能力少而重,允许自动执行的能力多而轻,条件确认夹在中间。塔的形状取决于业务,不必照着别人的比例抄。

条件确认是最容易做成假阈值的一档。阈值要写清楚算的是单笔还是当日累计、含税还是不含税、按数量还是按金额、跨币种怎么折算。这几项没定,所谓「超出阈值」永远说不清,最后又退回全量确认。

划档之前先问五个问题

档位不该凭感觉定。把后果逐项问清楚,多数能力该放哪一档也就有答案了。

  1. 这一步做完,能不能原路撤回。能撤回的,风险可控;撤不回或者撤起来很贵的,先归必须确认。
  2. 会动到多少张单据、多少个对象。一张单和一批单,后果量级不同。
  3. 会不会对外形成承诺。报给客户的交期、给供应商的订单、给银行的付款指令,一旦发出就很难收回。
  4. 会不会改变资金、库存、账期或信用额度。这四项是财务与运营的底盘,动它们的能力要单独看。
  5. 如果改错了,当天能不能被发现。有对账、有盘点、有日报能兜住的,容错空间大一些。

判定规则可以很简单:作为初始规则,可把「不可逆、对外、涉及资金或库存」列为必须确认的候选;若操作可撤回、仅内部流转且能及时发现,才进一步评估条件确认或自动执行。最终档位由业务负责人结合企业制度确定。

这五个问题应当由业务负责人回答。IT 代答的时候,出于对稳定性的偏好,通常会把档位整体调低,把「改错了可以再改回来」当成默认前提,而业务上的返工成本并不这么算。

问完要留一份清单:能力名称、档位、判定依据、确认人角色、生效版本。清单本身是后面验收和复核的底稿,没有它,档位会随着人员变动悄悄漂移。

一次任务改了好几张单,确认几次

按调用次数确认,是最常见的设计失误。员工让 AI 处理一批退货,背后可能触发退款单、库存回写、应收调整三次调用。三次弹窗,内容彼此关联,员工看到第二个就开始烦。

确认的单位落在业务后果上,接口调用几次不该成为确认几次的依据。以主单据为单位确认一次,把连带影响在同一次确认里列清楚:这次退款会影响哪几张应收、回写多少库存、账面金额变化多少。员工判断的是「这批退货该不该这么处理」,这个判断一次就够。

批量操作另有几条约定。一次确认可以覆盖同批同类操作,但确认页必须给出条目数与合计,不能只写「共 37 条」而不给明细入口。规模超出企业设定的上限就拆批,拆开的每一批仍要能追到同一个任务,否则事后无法还原当时的全貌。

确认件应当有有效期。生成后放了两小时、业务事实已经变了,这时候再点通过,确认的其实是旧数据。超时失效后重新生成,不要设默认通过。

转授权代确认在现实中避不开,比如主管出差。做法是留下代确认的痕迹:谁发起的、谁代的、依据是什么。共用账号代点省事,代价是审计记录失去意义,责任也说不清落在谁身上。

拒绝也要当成一种结果记下来。拒绝原因进记录,定期回看时可帮助判断阈值是否过松,或某类能力是否不适合自动执行。没有拒绝原因的记录,只能证明有人点过鼠标。

确认管这一次,权限管这个人

这两件事经常被混为一谈,混起来的后果在两个方向上都出现过。

问题权限校验回答人工确认回答
这个人能不能做连接器判断他有没有这项能力,目标系统再判断功能与数据权限不回答
这一次要不要做不回答结合当下的业务事实判断
能看到多少数据由目标系统按原规则返回不改变数据范围
出问题怎么还原记录谁调用、调了什么、结果如何记录谁在什么时候确认了什么、拒绝理由

一类反向错误是用确认替代权限。所有人先看到全部数据,再靠确认决定要不要动手。数据已经露出去了,确认拦不住这一步。

另一类是用权限替代确认。既然他有权限,就让他自动执行。权限说的是职责范围,不覆盖「今天这一笔是否该做」,比如客户刚申请了退货、这笔应收已经在争议中。

撤权之后,之前发出去的确认件应当失效。员工授权被收回后,待确认事项是否仍可执行需要在目标环境中验证。撤权应在服务端重新校验并阻断无权执行的请求,不能只依赖界面隐藏。

星云 PLUS AI 系统连接器把这几段串成一条链:不换系统、沿用员工权限、关键操作人确认、调用审计。身份与能力授权解决「谁能用」,目标系统解决「能看到什么」,确认解决「这一次做不做」,审计把这些都记下来。缺了前后两段,单靠确认说明不了什么。

配置顺序与上线验收

顺序上,先把能力清单拉出来,逐项标后果,再定档,然后设阈值、定确认人角色,最后联调验证。反过来做,先定界面再想规则,很容易做成前文说的按页面确认。

  1. 导出全部已发布能力,按业务域分组,标出读写类型与影响对象。
  2. 用五个问题逐项过一遍,给出初始档位与判定依据。
  3. 对条件确认的能力设定阈值口径,写清单笔与累计、含税与不含税。
  4. 为每档指定确认人角色,避免出现「谁都能确认」。
  5. 在测试环境跑一遍多步任务与批量操作,确认一次确认能覆盖整批后果。
  6. 上线后第一周盯例外:被修改的字段、被拒绝的原因、超时的比例。

验收有五项,都可以现场演示,不需要看文档:

验收项看什么不合格的样子
清单与档位能导出能力、档位、判定依据、生效版本只有一张截图,说不清依据
确认页信息改动前后、依据来源、受影响单据齐全只显示「是否执行」
拒绝与超时拒绝有原因记录,超时失效需重新生成超时自动通过
与调用记录对上一条确认能对上一次或一组调用两边对不上号
撤权后失效撤权后确认件不能再执行界面看不见、请求仍能发出去

第一周的数据值得认真看。确认被大量修改,说明预填的字段或口径有问题;拒绝集中在某一类能力,说明档位定得太松;超时比例高,说明确认人被设成了不常看系统的人。可先根据这些记录复核档位、阈值和确认人配置,再判断是否需要调整产品流程。

结语

确认边界很少一次划准。业务在变,阈值要调,能力在增,去年合理的档位今年可能已经不合身。把它当成一张随版本走的清单,比当成一份一次性的制度文件更实用。

起步不必铺开。挑一条价值明确、后果清楚的业务能力,把档位、阈值、确认人、记录四件事定下来,跑两周看例外,再往外扩。这条路径比先做全量确认、再逐个关掉要省事得多。

常见问题

能不能把确认全部关掉,只保留审批环节?

审批只覆盖走到审批节点的单据。查询、预填、批量修改、状态回写大多不经过审批,关掉这些确认,容易失去执行前的业务判断。是否保留确认应按能力风险逐项配置,并留下改动内容、确认者及拒绝原因等记录。

确认能不能请主管代点?

可以设计转授权,前提是代确认留痕:谁发起、谁代确认、依据是什么。共用账号代点会让审计记录失去意义,也说不清责任主体是谁。

确认通过是不是就代表业务已经办成?

不是。确认只表示员工同意这次执行,是否成功要以目标系统的返回结果或页面回执为准。页面预填不等于提交成功,确认同样不等于提交成功。

从一次关键操作开始评估

核对涉及的业务能力、员工角色、目标系统权限与确认记录,再确定适合的配置方式。

预约系统连接评估

相关阅读:AI 预填业务页面时,怎样保留员工核对和提交 · 连接器授权与原系统数据权限如何分工