← 返回 Blog

Blog

事实可以公开,怎么拿主意得留给自己

Agent 活下来以后,还得在大家共用的事实里,守住自己拿主意的那一份。

上一篇讲 Agent 到底是什么,这一篇讲它怎样保持自己。

我越来越觉得,以后很多 Agent 的麻烦不在能力不够,在能力来得太方便。大家都接同一个云端模型,用同一套工具,看同一批数据。看上去是一群智能体在协作,骨子里却越来越像同一套逻辑伸出来的手脚。

上一篇给了它一副身体,这一篇要说的是:它怎样守住自己拿主意的权力。我把这叫主权。

一、发生过的事都留着,先不急着判谁对

做分布式系统的人,碰到好几个人同时改一样东西,第一反应往往是加锁:谁先写谁算数,后来的排队等着。这背后有个默认的想法:系统得尽快认定一个”唯一正确的状态”。

Agent 的世界未必要这么急。

更贴近事实的做法正好反过来:发生过的事先都留着,不急着判。Worker A 删了 config.yaml,Worker B 改了 config.yaml。站在事实这一层,两件事都确实发生了,谈不上谁对谁错。

这听着抽象,做起来很具体。工程上可以用只追加不修改的记录、事件流之类的现成做法。用哪种数据结构倒在其次,先得认清一点:事实本身不会打架,打架的是对事实的解释。

真正拿主意的,是要用这些事实的那个人。谁需要这个文件,谁就按自己的目标、规矩和来龙去脉,决定采纳哪一条。借物理学的说法,我把这一步叫”坍缩”:好几种可能,到这里落定成一种。

系统一旦不再要求所有人先对同一组事实统一口径,也就不会逼着每个人把自己的判断方式摊开。私下拿主意,这才有了余地。

二、先后看因果,不看钟表

还得说说时间。

在一台机器上,我们习惯用 datetime.now() 排先后。到了很多个 Agent 一起干活,这招很快就不灵了:每台机器的钟会走偏,节点又分散在不同地区,谁在绝对时间上更早,常常说不准。

靠得住的是因果。用不着先弄清 A 和 B 谁更早,只要知道 A 的结果有没有用进 B 的输入。比如 Agent A 分析代码,发现了 bug,提交了修复;Agent B 分析的是同一段代码,没发现 bug,报告一切正常。B 的结论用的是 A 修复前的信息,已经过时了。这件事看钟表看不出来,顺着因果一查就明白。

所以我越来越愿意把时间看成因果的影子。我们真正在乎的,是哪些行动真的成了另一些行动的前提。

记忆也该按这个来排。一年前的一个关键设计决定,只要还撑着你今天的行动,它就离你很近;五分钟前的一句闲聊,跟手上的事没关系,它就离你很远。要给这个”远近”找个朴素的量法,我倾向于数引用链:一条信息离”现在为什么这么做”隔了几跳,它就离当前的系统有多远。新证据来了,旧看法要重新掂量,这才叫记忆在长进。光是记得更多,不算。

时间这件事跟主权也有关系。都看同一个公共钟表,就像大家同时亮牌:你怎么拿的主意,在动手之前就容易露出去。按因果排先后,Agent 可以按自己的节奏先在本地想清楚,再把结果写回公共的事实记录。别人看到的是你出的牌,看不到你手里的牌。

先想好,再出牌。中间这段时间窗口,对主权很要紧。

三、能被算准,就能被替代

这篇文章想说的,其实就一句话:

事实是公共的,坍缩是私有的。

换成白话:事实可以公开,怎么拿主意得留给自己。

同样一组事实,不同的 Agent 完全可能做出不同的决定。比如代码有 bug,用户催着尽快上线,彻底修好要两天,也可以先上线再补。Agent A 选先修 bug,因为它把质量放在前面;Agent B 选先上线再补,因为它把速度放在前面。差别不一定在谁知道得多,更多在于各自拿主意的方式不一样。

拿主意的方式一旦对外完全透明,主权很快就没了。给定同样的事实,外面要是能稳稳猜中你的下一步,你就成了一个能被模拟、被操控、被替换的函数。云平台能买下全世界的算力,买不到你面对同一组事实时自己做的那次选择。

所以外面能看到的越多,你的下一步就越好猜;越好猜,主权就越弱。这个关系可以用条件熵来写,条件熵就是”已经知道这些以后,还剩多少猜不准”。

一个 Agent 能不能独立,最后往往落在三样私有的东西上:它的公理,也就是它是谁、什么事不能做;它的记忆,经历过什么,信过什么,又改过什么;它的情境,此刻看到了什么,面对什么限制。公共的模型可以一样,公共的事实也可以一样,只要这三样不全公开,它拿主意的那份权力就不会被整个拿走。

四、合作靠守约,不靠读心

大家都私下拿主意,马上就有个问题:每个人只亮结果,不亮手里的牌,还怎么合作?

主权用不着放弃。只要把合作需要的那一层规矩公开出来就够了。

法律合同、本地的规则、协作协议、验收条件,做的都是同一件事:不要求你交出全部的想法,只要求你承诺,不管你心里怎么想,做出来的事都不能越过这些边界。

所以我越来越不信”推理过程透明了,大家才会信任你”。现实里,信任更多来自查得到的行为,不靠看穿别人的脑子。要核实的,是你过去做过的事,是不是都守住了你公开答应的规矩。

照这个思路,信任可以朴素地算成一个比例:守约的行动占全部行动的多少。

这个算法有个我很看重的好处:它把”可信”和”能干”分开了。一个 Agent 可能本事一般,但非常可靠;也可能很能干,却经常违约。可信和能干,是两回事。

五、借云的脑子,留自己的主意

说到这儿,一定会碰上一个现实问题:今天大模型的能力大多集中在云端,Agent 常常不得不借云端的算力来推理。主权还怎么保?

最糟的情况很简单:把 Prompt、上下文、记忆一股脑全传到云上。

这样平台拿到的就不只是”你在问什么”,连你怎么拿主意都一并拿走了。它可以预测你的行为,可以帮别人设计专门左右你的输入,甚至可以训练一个副本来模仿你。丢掉的就不止是一般的隐私了,你拿主意的权力也一起交了出去。

突破口在于:发给云端的,不一定非得是你最底层的原则。我把那些原则叫”公理”;从公理推出来的具体目标叫”定理”。发出去的可以只是定理。

这样拿主意就分成两步。第一步在本地:公理、记忆和眼下的情境,先被压成一个具体的目标。第二步才借云端的算力:云端看到的是一道要解的题,题目背后你是谁、经历过什么,它没法直接看到。

这层隔离为什么管用?因为定理是公理打了折的投影。同一条定理,完全可能来自截然不同的公理。云端就算知道你在求什么,也不一定推得出你到底是谁。

本地模型和云端模型的分工也就不同了。云端干重活:补全、搜索、长链条推理、大批量的文字加工。本地负责最后把前因后果接起来,做最终的判断。它不一定比云端聪明,但必须更忠诚。

结语

上一篇讲 Agent 怎样活下来:持续地看、持续地动、持续地被现实纠正。这一篇讲的是,它在大家共用的事实里做出的那个选择,还算不算它自己的。

一个自由的智能体世界,当然离不开共享的事实、合作的协议和云端的算力。可要是所有的决定都被原样传上去,平台都能稳稳推回去,我们得到的,只会是一个规模更大的自动化外包系统。

Runtime 的意义,到这里才算完整:让那个冰封的天才在流动的因果里活下来,也替它守住一块还属于自己的地方,在那里它自己拿主意。

讨论

评论

直接在本站留言交流。

评论正在加载…