# AI 补丁每个都能用，整个系统却越来越难改

**Summary:** Jimmy Breck-McKye 指出，单个 AI 补丁跑得通，也可能给系统添上互相冲突的约定。代码评审该多问一句：这次改动给下一个接手的人留下了什么。

- Canonical: https://markhuang.ai/zh/news/ai-code-system-coherence
- Language: zh-CN
- Author: [Mark Huang](https://markhuang.ai/about)
- Published: 2026-11-16
- Section: News
- Tags: AI 编程, 软件工程, 可维护性, 技术债, Decoherence
- Source: [Jimmy Breck-McKye](https://www.breck-mckye.com/blog/2026/11/software-is-breaking-down-at-a-systemic-level/)
- License: https://creativecommons.org/licenses/by-nc/4.0/

---

![铜色和蓝色管道经由一组精细拼装的转接头对接在一起](https://cdn.markhuang.ai/news/ai-code-system-coherence/hero.webp)

*由 OpenAI gpt-image-2 生成的概念插图：每次修补单独看都合理，却让整个系统多出更多需要理清的连接。*

换掉一根漏水的水管，修是修好了，整栋楼却可能更难维护。Kristen Maevyn 在[那个管道思想实验](https://maevyn.codes/decoherence)里，讲的就是这样一栋楼：慢慢攒下好几代新旧并存的管道标准。麻烦总在后面才冒出来——现在还能不能安全地把水压调高？要回答这个问题，得先弄清每一处补丁，以及补丁之间是怎么接上的。

Jimmy Breck-McKye 把这个想法用在了 AI 写代码上，文章是 2026 年 11 月 15 日的[《Software is breaking down at a systemic level》](https://www.breck-mckye.com/blog/2026/11/software-is-breaking-down-at-a-systemic-level/)。他关注的是那种确实按要求把活干完的代码：单看每一处改动都说得通，拼到一起，整个系统反而越来越不连贯。按这个逻辑，改得越快，需要补的整合工作也会积得越快。

我很喜欢把这个问题带进评审：一个补丁会给下一个动这段软件的人留下什么？Google Cloud 的[2025 年 DORA 报告](https://dora.dev/research/2025/dora-report/)有个相近的说法——AI 会放大组织原有的优点和缺点。反过来说，团队要是借这些工具把系统本身改简单，能拿到的收益也可以很实在。

## 为什么一次好的维修，会让整栋楼更麻烦

Breck-McKye 借用了 Maevyn 的“decoherence”（失谐）一词。她给的定义是：系统里慢慢积累起许多各自成立、却互不兼容或彼此重复的模型，到最后，想改动这个系统，大部分精力都花在模型之间来回翻译、还要防着别出副作用。这里的“模型”说的是软件表示和组织自身工作的不同方式，不是几个互相竞争的 AI 产品。

管道这个比喻，正好能说清它和“某个零件坏了”为什么不是一回事。一个做得没毛病的转接头，可能就是这次维修眼下正需要的。但要是管道换到一半停了工，楼里摊着好几代转接头，接下来要动手，就得先把这些接口关系理清楚。楼里照常有水，可这并不能说明你就能放心去改它。

放到软件上，区别在于一次改动能不能跑通，和它跟周围的设计合不合。Breck-McKye 的论点是，智能体能把组件层面的改动提速，却保不住对整体的那份理解。他还把担忧延伸到“组织认知”（organisational cognition），也就是一家公司作为一个整体去思考、去回应的能力。

这个提醒同样适用于人干的活。Maevyn 描述的是人在压力下如何让系统失谐。按她的说法，失谐是改动带来的：系统放着不动，本身不会凭空多出互相冲突的约定。反过来说，一个帮你把迁移做完、或者清掉重复代码的智能体，完全可能朝着相反的方向使劲。

## “崩掉”这个判断，证据还不够

Breck-McKye 开篇列了一串故障和安全事故，接着论证软件正在系统性地变差。但文章没证明这些事故背后有同一个与 AI 相关的原因，也没给出全行业可靠性下滑的度量。相比它对“新常态”的预测，我更看重它关于假设互相冲突的那部分分析。

[Hacker News 上的讨论](https://news.ycombinator.com/item?id=50520866)提了一条值得留下的反对意见：只讲失败，也得把一直正常运行的软件算进去。还有评论者质疑文章对历史的叙述。这些是读者意见，不是可靠性研究，但确实点出了一个缺口：几个记得住的故障，说明不了今天所有软件的故障率有多高。

Maevyn 对自己演示的局限也说得很明白。她的模拟用的是任意设定的权重，展示的是复杂性陷阱如何从几条简单规则里长出来。按她自己的说法，这不能证明真实的复杂系统一定会那样演化。示意图能帮人理解一种可能的机制，却证明不了崩溃是必然的。

就连眼前的提速收益也很难衡量。METR 在[2026 年 2 月的生产力更新](https://metr.org/blog/2026-02-24-uplift-update/)里说，选择效应，加上任务时间不好测，让它后来那次开发者实验当不了 AI 当前影响的可靠估计。研究者认为提速幅度很可能更大，但称自己的数据只能算弱证据，支撑不起对幅度大小的判断。那项研究讲的是任务级的生产力，反复改动会把可维护性带向哪里，它并没有回答。

## 评审时多问一句：下一次改动需要什么

我自己的做法，是在评审时多问一个问题。先确认补丁把活干完了，再问它沿用了哪条已有约定、又新开了哪些例外。如果它需要加一层翻译，那总得有人能说清这道边界为什么该划在这儿。

这延续了[我先前那篇谈 AI 补丁验证成本的文章](https://markhuang.ai/news/coding-agents-patch-proof-cost)的思路。团队接受一处改动，就要付出验证的代价，还得长期维护它。我还想看看另一点：这处改动有没有让后续的工作更好懂。测试通过能说明行为符合预期，算是有用的证据，但设计评审照样有活要干。

有些迁移本来就是有意安排的一段过渡，过渡期间不同约定并存也没问题。这种时候我想知道的是：每项职责归哪个系统管，临时连接放在哪儿，什么条件下团队能把它拆掉。这些都是我提议的评审习惯，没有经过实验验证。

那根管子该修还是得修。问题在于，下一个人能不能把这栋楼解释得足够清楚，清楚到可以安全地调水压。以后每次让智能体打下一个补丁，我想留住的就是 Breck-McKye 这个提醒里的这一部分。
