审批账本、责任到人,以及「工具名也是提示词」这件事
「已为您把 JOB-012 提前到周三,计划已更新。」
这句话如果从一个 AI 助手嘴里说出来,听起来很顺。但如果你是这个厂的计划经理,你得立刻追问一句:谁批准的?
如果答案是「AI 判断这样更优」,那这个系统的风险等级和「让实习生直接改生产计划」是一样的 —— 不是因为 AI 笨,是因为它不承担后果。
排产错误的后果是具体的:某个班组白等半天、某批料压在路上、某个客户扣款。这些后果由人承担,那么决策权就必须留在人手上。
所以这条边界不是「AI 能力还不够」的妥协,是产品立场。
很多系统都有「审批」功能:一个弹窗、一个通过按钮、一条日志。但经不起三个追问:
谋序的审批账本针对这三条各有一道硬约束。
账本是追加写的:每条记录——谁、何时、做了什么、什么状态、谁裁决——写进去就不再改。状态从「待批」变「批准/驳回」,不是更新原记录,而是追加一条新的裁决。
带来的效果是:任何时候你都能看到完整的决策轨迹 —— 谁在什么时候提了什么,谁在什么时候批了或拒了。历史不可被美化。
为什么不提供「删除/修改已裁决条目」? 因为审计的根基就是不可篡改。有删除接口的账本等于没有账本——出问题第一反应会是删记录,而不是查原因。
代码里这条有测试锁:删除与改写接口不存在,而不是「存在但没人用」。
这一条最技术,也最容易被做错。审批门如果装在接口层,绕过接口直接调内核就能跳过;所以门必须装在工具层——AI 真正伸手能碰到的那一层。还有个细节:AI 框架会把工具抛出的异常压成纯文本,带错误码的拒绝经过这层就被吃掉,AI 只看到「出错了」,很可能换个方式重试。所以拒绝必须在工具层以结构化码返回:比如「未获批准」不是错误,是「等一个人」。
前面两条是机制,这一条是能力边界。
AI 的工具箱里,与审批相关的只有两个动作:
没有批准,没有驳回。 这不是漏做 —— 代码注释里写得很清楚:「AI 可以提议、可以查看账本,但不能裁决自己。」
并且我们为这条边界写了反向注入测试:如果哪天有人给工具加上 approve 路径,测试必须失败。
写这篇文章时,我翻工具清单,看到一行:
工具清单里有一行:名字叫「批准」,注释写着「当时;现在已改为『提议』」。
第一反应是「坏了,谁把批准接进去了」。翻代码才发现:这个工具只能提议和查看,描述里还专门写了「这里故意没有批准/驳回」。
功能是对的,名字是错的。
但对 AI 来说,名字就是提示词。一个叫「批准」的工具,模型会倾向于认为「我有批准能力」,可能对用户说「我已批准了」。这不造成真实越权(门还在),但造成信任损失:下次它说「已排好」,用户也不信了。
修法很便宜:改名「提议」。教训是:工具名不只是给人看的,也是给模型看的。 边界要写在名字里。
补记:已经改了。 真正逼我们动手的是网页侧栏——工具名和描述会显示给人看,「叫批准但只能提议」人和模型都会误解。
审批管「能不能改」,还有另一个问题是「改的是哪一版」。
两个人同时打开同一版计划,A 先改了,B 拿着旧版再改 —— 如果系统默默接受,A 的改动就消失了。这叫丢失更新,是排产系统里最常见的静默故障。
谋序用的是乐观锁:每次计划带一个版本令牌(排产内容的哈希),提交时必须带上「我基于哪一版」。对不上就拒绝,并明确写「请重新拉取后再决策,不要自动重试」。
为什么强调「不要自动重试」?因为自动重试会把「冲突」变成「后写覆盖先写」——锁就白加了。
审计要回答「谁批准了这次改基线」。今天的账本里有「决策人」字段,但它是调用方传进来的字符串——也就是说,只要拿到访问凭证,任何进程都能填自己的名字。
在单机部署阶段,这可以接受(信任边界在机器上)。但它确实是一个缺口:AI 提议、人拍板,拍板的人必须可识别,否则「责任到人」四个字是空的。
补法不复杂:服务端为每个 key 配一个显示名,由服务端填写「谁批的」,客户端传的只作为「声称」记录下来。这件事已经登记在待办里。
不是谋序一家的选择。同枢(ILESP)的立场更直接:AI 只建议,人拍板,永不进入节拍回路。 同衡(CPS)的助手同样是「能解释、能起草,写入必须人类确认」。
四个产品不给客户四种答案——这比功能多少重要。
下一篇:拖一下,代价当场算出来 —— 交互甘特、差分报告与乐观锁,讲「改」这件事怎么做得诚实。