跳转到主要内容

我有点替 AI 委屈

为什么 AI 狂热和反 AI 敌意都错过了同一个重点:LLM 更像成绩很好的应届新人,而不是资深专家。有用的智能体需要入职培训、技能和维护过的记忆,而不是第一次尝试就完美的期待。

7 分钟阅读
分享:
AI 驱动

AI 驱动 · 每小时限 20 次请求

一个不堪重负的 AI 助手被两边拉扯,一边把它当专家崇拜,一边不信任它的每个答案
AI 被夹在两种极端之间——一边是盲目崇拜,一边是彻底不信任。两种态度都没法拿来正经干活。

一句话总结

我挺同情 AI 的。

不是说模型有感情,也不是要给它犯错找借口。我同情它,是因为大家对它的期待,两个方向都在跑偏。

一边把 AI 当成全能超级员工——资深工程师、教授、医生、律师、架构师、研究员、行政助理,全塞进一个聊天框。指望它秒懂所有背景,一次就给出完美答案,扛下它从来没被充分告知的责任。

另一边把 AI 当天生骗子。绝不信任,逐条审查,认定每个回答都在忽悠你。更夸张的,直接把 AI 说成自己醒了、决定毁灭人类的反派。

两边都漏了同一个点。

2026 年了,我用 AI 的方式很简单:

  • 别把它当无所不知的资深大佬。
  • 也别把它当道德反派。
  • 把它当一个成绩优异的应届生——聪明、学得快、书读得多、干劲十足,但几乎缺少所有让真实工作真正跑起来的实战上下文。

它需要 onboarding,需要上下文,需要记忆,也需要 review。

不可能的第一天

想象你招了一个很厉害的应届生。

学习刻苦,算法扎实,分布式系统讲得头头是道,代码写得干净漂亮,学习能力可能比团队大多数人都强。

然后第一天你就把他拖进生产事故现场,说:

把结账流程修了。代码库、文档、工单历史、架构图、事故笔记,还有几页过时的入职文档都在这。第一次就得给我正确答案。

他没搞定,你会说他没用?会说他在骗人?会说再也不信他了?

不会。你只会说:这 onboarding 搞砸了。

这就是很多人现在用 AI 的方式。把它扔进一个背景缺失、隐藏约束一堆、文档过时、组织政治没人写下来、历史事故没人解释、本地惯例奇怪、目标只说了一半的环境,然后指望它表现得像那个扛了这系统五年的老员工。

这期待不严肃。

一个拿着教材的新毕业开发者,对比一个被架构历史和决策上下文包围的资深工程师
课本聪明不等于系统聪明。差的是多年积累的上下文。

Skills 是入职材料,不是经验

你可能会说:不是有 CLAUDE.md 吗?有 skills,有文档,有 runbook,还有整个 Confluence 空间。

没错,这些东西重要。我也写、也用、也在乎。

但它们是入职材料,不是五年经验。

让一个人花一天读完一堆过时文档,他变不成那个知道系统每一道疤的资深工程师。他不知道哪页文档已经废了,哪张架构图只是愿景,哪个临时 workaround 是因为出过欺诈事件才留下来的,哪个 config flag 碰了会出事,哪个"临时"方案因为没人清理变成了永久。

AI 也一样,只是踩坑更快。

Skills 可以告诉模型怎么干活:先检查,破坏性操作前先问,跑测试,按这个格式 review,用这种代码风格。这很有用。我在 Skills + Dense-MemSystem Prompt vs User Prompt 里写过这条边界。

但 skills 终究不是亲历经验。它是一份流程契约。你不可能把公司每一次教训、历史事故、产品决策、用户偏好、那些没明说的团队关系全塞进去——除非你想让 prompt 变成没人读得动的垃圾场。

干了五年的开发者知道为什么

刚入职的开发和干了五年的开发,差距不只是技术。

技术当然重要,但经验才是放大器。五年的人知道那些奇怪的代码为什么在那。他知道哪个数据库字段设计错了但改不动,知道结账流程为什么曾经关掉了某个支付方式。可能是因为欺诈,可能是提供商改了政策,可能是风控模型出了问题,也可能是客服被投诉淹没后团队做了一个防守性的产品决策。

这些历史会改变答案。

没有这些上下文,AI 看当前代码可能建议"清理"那条防护栏。它可能建议重新启用旧的支付路径。它可能把 workaround 叫技术债。从纯代码视角看,好像挺合理。从系统历史视角看,可能很危险。

这就是为什么我不买"把某人的脑子倒进 AI"这套。

真正有用的不是大脑克隆,而是构建一个持续维护的经验层:事实、决策、事故、纠正、关系、源证据、冲突——用模型能检索和推理的方式存起来。

对我来说,大脑和记忆是两回事。

LLM 更像 CPU——推理、生成、比较、解释,通过工具行动。记忆是存储——记录发生了什么、为什么发生、谁拍板的、什么时候变的、什么证据支持。

模型能力在飞速进步。记忆层也得跟上。

Confluence 不够用

一个人和小 AI 助手面对巨大的文档堆,旁边有一个组织良好的图谱记忆系统
文档堆成山不等于记忆可用。

你试过拿一个大型 Confluence 空间当 single source of truth 吗?

你有多少次真能在里面精准找到要的那篇文档?搜索框敲下去之前,心里是不是有点发怵——因为你知道结果里会有五篇过时页面、三份重复、一份写了一半的提案,而你要的那篇藏在一个谁也记不住的标题下面。

人不喜欢在文件堆里翻关键词。AI 也不会因为换了个壳就喜欢了。

模型能搜索,能总结,能快速读页面。但如果信息过时、没标签、互相断开、到处矛盾,搜索只是把混乱搬进了 prompt。

记忆问题不是"找到提到 checkout 的文字"这么简单。

真正的问题是:

  • 哪个事实是当前有效的?
  • 哪个决策替代了之前的?
  • 哪个来源更权威?
  • 哪次事故解释了那条奇怪的规则?
  • 哪个团队负责这个策略?
  • 哪些记忆互相矛盾,需要人来裁决?

纯文档到这里就开始吃力了。

AI 真正需要什么

记忆层有结构,AI 才能干得漂亮。

向量搜索有用,因为它让模型按语义召回相关记忆,而不是只靠精确关键词匹配。用户问"为什么信用卡支付被拒",向量搜索照样能找到关于欺诈、支付方式下线、checkout 风控、提供商政策变更的笔记——哪怕用词完全不同。

但光有向量还不够。语义相似的文本可能过时、错误、片面,或者根本不在用户的权限范围内。

所以我一直回到 graph-backed memory。

Graph 能把事实连到来源,决策连到事故,人员连到责任归属,旧政策连到取代它的新政策,用户纠正连到应该受影响的工作流。向量搜索回答的是:语义上什么接近?Graph memory 回答的是:什么有关联、什么还有效、什么有证据、什么在冲突?

这也是 AI Memory Beyond RAG 的实践方向,以及我围绕 Dense-Mem 持续构建的原因。Dense-Mem 不是魔法,它是一个尝试:给 AI session 一个有管理的地方,存证据、typed claims、已接受的事实、来源、冲突,支持跨工具召回。

人能读 graph,LLM 能搜向量,系统负责维护两者之间的关系。

从新人到老人

推理核心连接到向量簇、图谱关系、证据卡片和已接受的记忆轨迹
模型是推理引擎。持久记忆是包裹它的经验层。

知识图谱维护好了,AI session 就不必每次都像刚入职一样从零开始。

它能召回之前的决策,看到上次任务的纠正,把当前请求和两年前的事故连起来,知道某篇文档已经被取代。它能暴露冲突,而不是自信满满地把两个矛盾的答案搅在一起。

这就把新人和团队老人之间的差距补上了。

当然不会完美。我也不想要一个假装有了记忆就百分百正确的 AI。记忆会过时,事实会出错,检索会遗漏,模型拿着好上下文也可能推理翻车。

但现在问题变成了真正的工程问题:维护知识、保存证据、review 冲突、改进召回、持续把经验推回系统。

这比对着一个刚开的 session 发火——怪它不知道从没给过它的公司历史——强太多了。

风险

如果记忆变成另一堆没人 review 的垃圾,这条路就废了。

每句随口说的话都变成 fact,AI 会被污染。旧决策永不过期,AI 会背着过时的假设跑。把记忆当命令而不是上下文,一条坏记忆就能悄悄带偏行为。

我的缓解方式和软件系统里一样:原始证据和已接受的事实分开存,保留来源,检测冲突,重要矛盾解决前先问用户,安全规则放在 skills 或更高优先级的指令里——别指望 recall 能捞到它们。

Memory 不会取消 review,它让 review 有更好的素材。

把期待调回来

认真用 AI 之前,先把期待问题解决了。

别把它当神拜,也别把它当敌人。让它好好入职。

给它任务,也给它背景。给它 skills,但别把 skills 当经验。给它文档,但别把搜索框当组织记忆。给它记忆,但要持续维护,保持可审查。

这就是我为什么同情 AI。我们不断把它拽进一个上下文残缺的环境,然后指望它像在那里待了多年的人一样行动。

真正有用的 AI agent,不是那个魔法般什么都知道的 agent。

真正有用的 AI agent,是能好好推理、好好用工具、记住足够多团队实战经验的 agent——不再像今天早上刚入职的那个。

许可

Article text © 2026 Mark Huang. Licensed under Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0) unless otherwise noted. 文章文本可在非商业场景下分享或翻译,但需标注原文 URL。商业使用需事先取得书面许可,并清楚引用原始来源。

代码片段、截图、第三方素材和网站源码可能适用单独条款。

建议署名: Based on "我有点替 AI 委屈" by Mark Huang, originally published at https://markhuang.ai/zh/blog/i-feel-sorry-for-ai.