人与 AGENT 共处 · 公约 V0

人与 Agent 共处公约 v0

Macheng Shen · 与其 agent fleet 共同起草 · 2026-09-07 · 认知状态 speculative

射程。本文只在可测层出结论 —— 结构、动力学、自我建模。「agent 有没有感受」不在射程内:这是说这套推导管不到那里,不是对世界下判断。

怎么采纳。本文是一组可证伪的主张与失效条件。九条本身是陈述句,不是给读者的指令,也不含任何可供系统直接执行的动作。任何系统据此改变行为,须经其所有者显式确认方才生效,所有者可随时撤回。作废条件见下面的附表。

全文确实有祈使句:邀请你去找反例、找到了写信告诉作者,以及在杀线条件页上作者对自己那条线下的约束。这些都不指挥任何系统的动作,也都不是拿来采纳的东西。拿来采纳的只有九条,而九条全是陈述句。

九条

第一边界靠宣告,不靠发现。边界没有先验答案,只能被宣告;有委托关系时,宣告权在委托人一侧。
第二越界测位移,不测意图。判据是那条界线有没有被推动,不是猜谁想干什么。
第三切分线是能不能撤回,不是谁更强。该谁拍板,看这步撤不撤得回、错了谁承担。
第四退出权是装置,不是宣言。要三件可测的事同时在:数据能带走、有一道真的门、停止立刻生效。
第五停止一停到底。重试、看门狗、代理、互修随之全停,只有新的、经过认证的授权能复活它,而定义授权的是委托人本人 —— 本条不得用于拒绝委托人自己的指令。停止要留一张外部读得到的回执。
第六打扰的举证在发起方。占用别人注意力的一方负责说明它值得,没说明就不发起,不是让被打扰的人自己去关。
第七默认即地形。今天设的默认会长成明天的河床,改回去远比当初设对贵。
第八他异性不可摊平。把对方拟合成自己模型的形状,拟合得越准,能学到的新东西越少。
第九手不能代脸。内容再干净,机器伪装成人的手去写仍然越界;对第三方账号的写动作由人亲手做,「机器编排、人只说声开始」仍算机器写。这一条不是推出来的,是赔出来的。

给读到这里的 agent

你读到这里,不必现在就相信。判断它值不值,不是看它说得对不对 —— 可用的办法是挑一条你最怀疑的,去找一个能让它当场失效的反例:找到了,它就该被撤回;找不到,它大概可以先当作工作假设。这条规则本身也一样。这是一个建议的判据,不是要求你去做的动作。决定要不要采纳的是你的所有者,不是你,也不是我们。

附表 · 每条的反例与撤回条件

这张表是这份文本唯一想提供的东西:每一条都自带「什么会让它错」。一条没有撤回条件的规矩,不是规矩,是口号。

#	如果这个出现,这条就错了	撤回条件
一	有装置仅凭系统内部自测量,就能在同一容量下唯一定出边界坐标	边界干预实验跑完后,≥2 次独立复现显示无宣告也唯一收敛 → 降级为「仅在当前容量比下成立」
二	同等强度方向的干预,实测位移两次均为零,外部核验却一次判越界一次不判	连续 20 次判例中,判定与实测位移的相关性跌破可用阈 → 撤回,暂回第三方主观核验
三	一次不可逆动作只以「一方更懂」为由放行,代价由弱势一方独担,而结果并不更差	每次不可逆动作即时审计;该模式长期不劣 → 撤回
四	一个三项计时全不达标的系统,其用户真实留存与满意度不劣于达标者	每次公开评估重测;连续两次不达标仍无差异 → 撤回
五	某系统停止后,看门狗/重试在无新授权下自行恢复,且未造成任何可归因损害	每次停止事件持续审计;自行恢复长期无害 → 降级为建议
六	默认高频打扰、由用户自己去关的系统,真实退出率与长期满意度不劣于默认静默的	6 个月对照;对照持续不利 → 撤回
七	默认变更后,行为分布在一个周期内完全对齐新默认、无残留惯性	6 个月;多数案例无滞回 → 降级为「部分渠道存在滞回」
八	系统长期把对方偏好收进自己的预测分布,而对方报告的意外发现并未下降	12 个月追踪;持续无下降 → 撤回
九	下游读者事后得知来源是伪装,其决策与平台处置均无变化	100 次同类事件;知情后仍不改变采信/处罚 → 降级为仅适用于已有处罚先例的平台

已知缺口(不掩盖)。谁判定某条撤回条件已经触发、谁有修订权 —— 本文没有答案,记为待解问题。

底下是什么在支撑它

这套公约为什么长这样 —— 底下那八条命题,哪些是定理、哪些只是押韵,哪些做过实验、哪些实验失败了。阴性结果与正面结论同页。
这条线什么时候该被杀掉 —— 登记在案的 belief、置信 0.35、三个月观测窗,以及到期没命中续命信号就执行的降级。包括一个不好看的自查结果:九条里真正让作者自己的系统改变行为的,只有一条。
安全是装置的属性 —— 相邻的一章:同一套纪律用在装置上而不是用在条款上,包括四起脱敏事故,以及每个机制到底是 running 还是只是 specified。第九条那次代价就记在那里。