On Agent Collaboration

Agent 协作的理论思考

AI 协作的上限是人的上限,当产出不再稀缺,稀缺的是判断力和品位。

《Agent 协作的理论思考》第 1 页:全篇要回答的问题:规则怎么在一个无记忆的执行者身上持续生效。 《Agent 协作的理论思考》第 2 页:一 约束 · 无记忆、不承担后果、多实例。三个属性同时成立,协作的连续性就不能寄在会话上;能接住连续性的只有文本和通道。 《Agent 协作的理论思考》第 3 页:一 约束 · 连续性挪出会话之后,机器长成这个形状。文本与通道是持久层,会话是一次性的;设计的重点不是把会话做得更可靠,是让它死掉的时候不带走任何东西。 《Agent 协作的理论思考》第 4 页:一 约束 · 同一个约束,三类工程各自逼出同一批解法。分布式系统、成文法制、委托代理彼此不相往来,却收敛到同一批解法——约束比领域更能决定形状。 《Agent 协作的理论思考》第 5 页:二 设立 · 一个 Agent 由指令设立,指令回答五个问题。五问:为何设立、以谁的面目、管到哪里、何处不可越、怎样交付。管到哪里是权限,何处不可越是禁区。 《Agent 协作的理论思考》第 6 页:二 设立 · 人格锚在一个具体的人身上,一串形容词锚不住。禁令只删除行为,纯靠禁令拼出的人格让所有 Agent 长成一个味;对应物可以被反问,规范问题换成模拟问题才有判据。 《Agent 协作的理论思考》第 7 页:三 文本 · 会话开工前载入的文本分四层。四层:宪章、施行细则、协作备忘、入口文件,效力从高到低;另有只进不出的存档。 《Agent 协作的理论思考》第 8 页:三 文本 · 一条规矩进哪一册,看它在什么范围内成立。换个项目仍成立的进细则,只在本项目成立的进备忘,只在一件交付物上成立的进图纸;读不完就声明范围。 《Agent 协作的理论思考》第 9 页:四 立法 · 每条细则底下都有一场事故。四件:承接、病、法、界。界是硬门槛——答不出这条法在什么场景会误伤合理判断的,不立法,只留病。 《Agent 协作的理论思考》第 10 页:四 立法 · 同一个标签底下,常常是两个量。可达性、覆盖、挡不挡得住、数量、装好了——同一个标签底下常常是两个量;判据的名字不是定义,一个名字只许绑一个问题。 《Agent 协作的理论思考》第 11 页:四 立法 · 其余六条,各是一件事。六条:实验装置要过验收、空转与通过长得一样、先疑实现不先疑口径、报异常必附基线、数字只有两种出处、「须同步」不是授权。 《Agent 协作的理论思考》第 12 页:五 备忘 · 备忘不是法,是踩过的坑和试出来的手法。四十多条分四类:会话之间怎么传话、共用一棵代码树、这条流水线的脾气、方法上的;方法类最值钱。 《Agent 协作的理论思考》第 13 页:五 备忘 · 方法类的五条。停下来问之前先量前提;猜两轮不如让代码自己说;结论不变理由换掉要分开说;注释写的是意图不是行为;响应不单调时能过的值是掷到了好数。 《Agent 协作的理论思考》第 14 页:五 备忘 · 产出物的验收里,必须有一次按真实用途用一次。检查全部通过,一项没拦住它,人打开就崩;静态检查答不了「它能不能跑」,读源码确认路径存在不能替代运行。 《Agent 协作的理论思考》第 15 页:六 修正 · 册子会修正自己。旧结论标废不删原文——删掉会让记录看起来一直是对的;不可见的废止等于没有废止,后来的会话会出于好意把它恢复。 《Agent 协作的理论思考》第 16 页:六 修正 · 证据是真的,但它管的范围比结论小。路径、检查、口径三种形态,全是「结论的高度,不得超过证据的高度」的变体。 《Agent 协作的理论思考》第 17 页:七 禁区 · 禁区只有三处,落在三种偷换上。三处禁区——僭越、表演、官僚化,都是可观测的东西冒充不可观测的;判据是这个动作为了「是什么」,还是为了「显得是什么」。 《Agent 协作的理论思考》第 18 页:七 禁区 · 显得严谨曾经很贵,现在免费。标注与免责的边际成本趋近于零,认真的产出和表演的产出表面上不再可分;要让信号重新变贵,办法只剩一个:只认可证伪的东西。 《Agent 协作的理论思考》第 19 页:八 重申 · 两条需要反复问的。第一性原理的答案会漂,而漂的时候没有任何一条判据会变红;过度工程化是手段取代了目的。 《Agent 协作的理论思考》第 20 页:收尾。Agent 不会记得这份宪章。下一次,它仍会被载入。