过去一段时间,我越来越不满意”Agent = LLM + 一堆工具”这个说法。它听起来没错,问题是很容易把最关键的东西藏掉。
一个模型会写代码、会调 API、会搜索网页,当然已经很强了。可它要是记不住昨天答应了什么,不知道这次执行到底成没成功,失败了也没法改正自己的状态,那它更像一次性的自动补全,算不上一个一直在那儿的系统。
所以要把问题压到最小,我现在更愿意从这里开始:
Agent = LLM + Runtime
LLM 就是大语言模型。Runtime 是让它跑起来的那套运行环境,下面一节细说。写这个式子,是想把讨论从”模型还能再接几个工具”拉回到”它到底怎样活下去”。
一、脑子聪明,还得有身体
我一直觉得,把 LLM 比作一个”冰封的天才”挺贴切。
它当然聪明,常常聪明得吓人;可它停在了训练完成的那一刻。今天发生了什么,它不知道;昨天答应了什么,它不记得;眼下的结果,它也不会负责。你唤醒它一次,它推理一次;推理完了,世界还在往前走,它自己却停在原地。
Runtime 补的就是这一块。它替模型保存状态,替它执行动作,给它设规矩,也负责跟外面的世界打交道。有了它,这个系统才能一天天活下去,不用每次醒来都像刚出生。
所以我不太认同”Agent 就是更会用工具的模型”。工具像手,Runtime 更像整个身体。没有身体,推理能力再高,也只是一次性的聪明。
拿人脑打个比方:LLM 像前额叶,管推理、规划和说话;Runtime 像感官、运动神经、记忆和身体本身。前额叶可以想”我要把杯子拿起来”,可没有手,杯子拿不起来;手能动,可没有前额叶,它也不知道该拿杯子还是砸杯子。
二、做完没有,得现实说了算
再往下拆,我会把 Agent 最基本的一圈动作分成三步:
See(看):读环境,查状态,拿证据。Act(动):改环境,调用执行工具,真正动手改变点什么。Evaluate(判):判断这次行动算成功、失败,还是该重试。
看完了动,动完了判,判的结果再决定下一步怎么看、怎么动。这三步里,最容易被小看的是 Evaluate。
很多系统把 Evaluate 写成”让模型再想想自己做得对不对”。这比没有强,但远远不够。一个 Agent 要是只能靠”我觉得这次做得不错”给自己打分,迟早会变成自己说自己好。
能拍板的,只能是外面的反馈:代码编没编译过,测试有没有变绿,接口是不是返回了 200,用户是不是明确点了头,预算有没有超,审计日志全不全。代码没过测试,Agent 却说自己做完了,这句话一点用都没有。
没有这一步,系统只是一个会自己跑的脚本。有了它,系统才开始从现实里学东西。
三、规矩要写死,不能靠自觉
一个像样的 Runtime,至少要把下面几条写成硬规矩。光在 prompt 里写一句”请你自律”,是靠不住的:
- 预算有上限:token、时间、钱,都要有一个碰不过去的顶。
- 动作都留痕:每一次看和动都记下来,只能往后追加,不能回头改,方便以后查。
- 没过关不准落地:没有通过
Evaluate的动作,不能改动正式的状态。
这几条看着像工程细节,其实决定了系统有没有自己的”宪法”。
规矩真写进 Runtime 以后,Agent 记住的东西也会自然分成两类。一类是它的看法,比如”这个用户喜欢短回答”,这可以更新,也可以被推翻。另一类是发生过的事,比如”2026-03-14 改了 site.css“,这只能往后加,不能改写。
Agent 可以改正自己对世界的理解,但不能改写已经发生的事。前者是学习,后者是造假。
四、Skill 是省力的捷径,会过期
我现在越来越把 Skill 看成推理的缓存:把常走的思路存起来,下次不用再想一遍。
有些事情,LLM 理论上每次都能重新想出来,可那样太慢、太贵,结果也不稳。于是我们把常用的推理路子固定成代码、模板、协议或者工具,换来速度、成本和稳定。这就是 Skill 实在的用处。
Skill 大致分两种。一种是省事用的,模型自己也做得了,只是每次现想太贵,比如 prompt 模板、编排策略,模型变强以后,它们多半会退役。另一种是非有不可的,装的是模型不可能事先知道的东西,比如用户偏好、私有 API、项目进度,这类会一直留着,但要不断更新。
Skill 真正派上用场,不在于写出来了,在于它能不能先把底下的小失败自己消化掉。写文件失败、API 返回 500、参数不对,这些零碎的问题,没必要每次都打断上面的思考。Skill 在底层先自己动手、自己检查一轮,就是它最大的价值。
麻烦也在这里:每一行固定下来的代码都有保质期。今天省下的推理成本,很容易变成明天的系统负担。
所以 Skill 还得能退役。要是 Evaluate 一再判定某个省事用的 Skill 不稳、不划算,甚至帮倒忙,Runtime 就该把它拆掉,把这件事交还给模型重新去想。我管这叫”反编译”。多数 Skill 最后的结局,是过期。
结语
框架的名字会换,术语会换,市面上流行的包装也会换。但如果没有这副身体,系统再热闹,也只是一次性的自动化,算不上一个能持续做事的 Agent。
至少在我现在看到的大多数系统里,用的哪个模型,越来越决定不了 Agent 的成败;要看的是 Runtime 怎么看、怎么动、怎么记,以及怎么被现实纠正。
Runtime 说到底,就是让那个冰封的天才活过来。可活下来以后,它还得面对下一个问题:身边的 Agent 都接着同一个模型,它怎样还是它自己。这是下一篇要讲的。
讨论
评论
直接在本站留言交流。
评论正在加载…