可靠性的利息

——法律 Agent 的目标函数是可担保,效率是做成之后的利息

《最古老的 harness》记录的那场争论,最近有了续集。有工程师开始攻击这个词本身:Harness Engineering 没有稳定的定义,什么都能往里装——写规范文件算,多 Agent 编排算,上下文管理也算——一个词覆盖一堆完全不同的问题,听起来像方法论,实际上让人停止思考。这个批评有相当的道理,但纠结词的边界没有出路。那篇批评里最清醒的部分是文末的三个问题:你到底遇到了什么问题?用了什么办法?这个办法有没有解决问题?

系列写到第四篇,该正面回答第一问了。对法律 Agent 来说,答案是一句话:LLM 直接回答的问题,不是不够快,也不是不够聪明,是不可担保。整套工程围绕这一个问题建立。效率不在目标函数里——它是目标达成之后的利息。

两种病

“不可担保”拆开是两种病,对应两套工程。

第一种是不稳定,这是方差问题:同一个问题问五遍,得到三种结论。它决定了单次采样不能当作答案——工程回应是收敛机制:对重要争点采多个独立判断再行聚合,用机械判据替代自我感觉,给往返设程序性的终点。

第二种是不确定,这是可判定问题:拿到一个答案,无法当场知道它对不对。在法律领域这是本体性的——《机器的程序法》说过,实体正确本来就不可当场验证,人也做不到。所以工程回应不是“让它答对”(没有人能承诺这个),而是可核验:每个前提有出处,推理留痕,错误有被发现和纠正的通道。

两套合起来,目标函数可以说得更准:这套工程要做的不是让 LLM 答对,是让 LLM 的输出变得可担保——从一段流畅的文本,变成一个敢于署名的结论。担保这个词不是修辞。《断点》说过,责任是机器无法自产的输入,署名的动作永远在人——而工程的任务,是让那个签字的人签得下去。

卖的是尾部

为什么在法律领域,可靠性必然压倒效率?因为法律服务的成本函数是极度不对称的。

客户买的从来不是文本的生产速度,是对小概率灾难的担保——一条编造的引用、一个漏掉的时效,毁掉的信任比省下的一百个小时都贵。这意味着法律行业出售的是尾部行为,不是平均水平。它的近亲不是内容产业,是保险业。

而 LLM 直答的问题恰恰长在尾部。它的平均水平可能已经超过普通从业者——这是所有人第一次用它时的惊艳。但它的尾部不可担保,而且最危险的是:尾部失败和正常输出在文本表面上毫无区别,编造的判例与真实的判例一样流畅,漏掉时效的分析与周全的分析一样自信。平均水平的惊艳与尾部的不可担保叠在同一个界面上,这就是法律人对 AI 又用又怕的全部原因。

所以对法律 Agent 来说,压方差、锁尾部不是产品的质量属性,就是产品本身。

假效率

“效率是副产品”还有更硬的一半:没有可靠性的效率,是负资产。

明账是经济学的老结论。《省下来的时间归谁》算过:效率红利留不住,生成快省下的时间会被竞争和定价者拿走;能留住的是能力红利。而可靠性正是能力红利的形态——它扩大的是《核验半径》里那个半径:敢承接、敢签字的范围。这个范围是别人拿不走的。

暗账更狠。一个更快但不可靠的系统,只是把方差更快地泼向下游:生成省下的每一分钟,都变成人工核验多花的十分钟——而人的核验不可并行、不可购买。结果是,系统越“高效”,人这个瓶颈被收得越紧。速度在这里不创造价值,只放大敞口。

《木屑的价格》里那笔交易,在这本账上对得平:让模型把每条引用回原文核对、对结论多验三轮、失败自动重试——花十倍的 token 做这些事,如果效率是目标函数,这是纯粹的浪费;正因为它不是,这是正确的定价。效率在这套系统里的真实身份是约束条件,不是目标函数——预算之内越快越好,但永远不为快让出一条核验。

利息从哪里来

那副产品是怎么产出来的?机制很清楚:可靠性买来异步资格,异步资格才是效率的真正来源。

一个不可靠的 Agent 再快也快不起来。它需要人逐轮盯着,每一步等人确认——速度上限就是人的响应速度,机器造得再快也没用。只有可靠到人敢两个小时不看,机器时间才第一次和人的时间解耦:并行、过夜、批量,这些才是数量级的效率来源,而它们全部以“敢不看”为前提。《木屑的价格》说异步是一种资格——资格的购买货币,就是可靠性。

所以效率不是与可靠性并列的第二目标,它是可靠性的利息:本金存够了,利息自动来;直接追利息,两头落空。

回到开头那个词。Harness Engineering 的定义之争不会有终点,也不需要有——因为目标函数从来可以一句话说清。法律 Agent 的全部工程,是把 LLM 的输出从不可担保做到可担保;效率不是目标,是这件事做成之后的利息。