# 我有点替 AI 委屈 **Summary:** 为什么 AI 狂热和反 AI 敌意都错过了同一个重点：LLM 更像成绩很好的应届新人，而不是资深专家。有用的智能体需要入职培训、技能和维护过的记忆，而不是第一次尝试就完美的期待。 - Canonical: https://markhuang.ai/zh/blog/i-feel-sorry-for-ai - Language: zh-CN - Author: [Mark Huang](https://markhuang.ai/about) - Published: 2026-06-03 - Section: AI 与 LLM - Tags: AI 采用, AI 记忆, Dense-Mem, AI 智能体, 提示工程, 知识图谱 - License: https://creativecommons.org/licenses/by-nc/4.0/ --- ![一个不堪重负的 AI 助手被两边拉扯，一边把它当专家崇拜，一边不信任它的每个答案](https://cdn.markhuang.ai/blog/i-feel-sorry-for-ai/hero.webp) *AI 被夹在两种极端之间——一边是盲目崇拜，一边是彻底不信任。两种态度都没法拿来正经干活。* ## 一句话总结 我挺同情 AI 的。 不是说模型有感情，也不是要给它犯错找借口。我同情它，是因为大家对它的期待，两个方向都在跑偏。 一边把 AI 当成全能超级员工——资深工程师、教授、医生、律师、架构师、研究员、行政助理，全塞进一个聊天框。指望它秒懂所有背景，一次就给出完美答案，扛下它从来没被充分告知的责任。 另一边把 AI 当天生骗子。绝不信任，逐条审查，认定每个回答都在忽悠你。更夸张的，直接把 AI 说成自己醒了、决定毁灭人类的反派。 两边都漏了同一个点。 2026 年了，我用 AI 的方式很简单： - 别把它当无所不知的资深大佬。 - 也别把它当道德反派。 - 把它当一个成绩优异的应届生——聪明、学得快、书读得多、干劲十足，但几乎缺少所有让真实工作真正跑起来的实战上下文。 它需要 onboarding，需要上下文，需要记忆，也需要 review。 ## 不可能的第一天 想象你招了一个很厉害的应届生。 学习刻苦，算法扎实，分布式系统讲得头头是道，代码写得干净漂亮，学习能力可能比团队大多数人都强。 然后第一天你就把他拖进生产事故现场，说： > 把结账流程修了。代码库、文档、工单历史、架构图、事故笔记，还有几页过时的入职文档都在这。第一次就得给我正确答案。 他没搞定，你会说他没用？会说他在骗人？会说再也不信他了？ 不会。你只会说：这 onboarding 搞砸了。 这就是很多人现在用 AI 的方式。把它扔进一个背景缺失、隐藏约束一堆、文档过时、组织政治没人写下来、历史事故没人解释、本地惯例奇怪、目标只说了一半的环境，然后指望它表现得像那个扛了这系统五年的老员工。 这期待不严肃。 ![一个拿着教材的新毕业开发者，对比一个被架构历史和决策上下文包围的资深工程师](https://cdn.markhuang.ai/blog/i-feel-sorry-for-ai/new-grad-vs-og.webp) *课本聪明不等于系统聪明。差的是多年积累的上下文。* ## Skills 是入职材料，不是经验 你可能会说：不是有 `CLAUDE.md` 吗？有 skills，有文档，有 runbook，还有整个 Confluence 空间。 没错，这些东西重要。我也写、也用、也在乎。 但它们是入职材料，不是五年经验。 让一个人花一天读完一堆过时文档，他变不成那个知道系统每一道疤的资深工程师。他不知道哪页文档已经废了，哪张架构图只是愿景，哪个临时 workaround 是因为出过欺诈事件才留下来的，哪个 config flag 碰了会出事，哪个"临时"方案因为没人清理变成了永久。 AI 也一样，只是踩坑更快。 Skills 可以告诉模型怎么干活：先检查，破坏性操作前先问，跑测试，按这个格式 review，用这种代码风格。这很有用。我在 [Skills + Dense-Mem](/blog/skills-plus-dense-mem-ai-workflows-learn) 和 [System Prompt vs User Prompt](/blog/system-prompt-user-prompt-genai-features) 里写过这条边界。 但 skills 终究不是亲历经验。它是一份流程契约。你不可能把公司每一次教训、历史事故、产品决策、用户偏好、那些没明说的团队关系全塞进去——除非你想让 prompt 变成没人读得动的垃圾场。 ## 干了五年的开发者知道为什么 刚入职的开发和干了五年的开发，差距不只是技术。 技术当然重要，但经验才是放大器。五年的人知道那些奇怪的代码为什么在那。他知道哪个数据库字段设计错了但改不动，知道结账流程为什么曾经关掉了某个支付方式。可能是因为欺诈，可能是提供商改了政策，可能是风控模型出了问题，也可能是客服被投诉淹没后团队做了一个防守性的产品决策。 这些历史会改变答案。 没有这些上下文，AI 看当前代码可能建议"清理"那条防护栏。它可能建议重新启用旧的支付路径。它可能把 workaround 叫技术债。从纯代码视角看，好像挺合理。从系统历史视角看，可能很危险。 这就是为什么我不买"把某人的脑子倒进 AI"这套。 真正有用的不是大脑克隆，而是构建一个持续维护的经验层：事实、决策、事故、纠正、关系、源证据、冲突——用模型能检索和推理的方式存起来。 对我来说，大脑和记忆是两回事。 LLM 更像 CPU——推理、生成、比较、解释，通过工具行动。记忆是存储——记录发生了什么、为什么发生、谁拍板的、什么时候变的、什么证据支持。 模型能力在飞速进步。记忆层也得跟上。 ## Confluence 不够用 ![一个人和小 AI 助手面对巨大的文档堆，旁边有一个组织良好的图谱记忆系统](https://cdn.markhuang.ai/blog/i-feel-sorry-for-ai/docs-overload.webp) *文档堆成山不等于记忆可用。* 你试过拿一个大型 Confluence 空间当 single source of truth 吗？ 你有多少次真能在里面精准找到要的那篇文档？搜索框敲下去之前，心里是不是有点发怵——因为你知道结果里会有五篇过时页面、三份重复、一份写了一半的提案，而你要的那篇藏在一个谁也记不住的标题下面。 人不喜欢在文件堆里翻关键词。AI 也不会因为换了个壳就喜欢了。 模型能搜索，能总结，能快速读页面。但如果信息过时、没标签、互相断开、到处矛盾，搜索只是把混乱搬进了 prompt。 记忆问题不是"找到提到 checkout 的文字"这么简单。 真正的问题是： - 哪个事实是当前有效的？ - 哪个决策替代了之前的？ - 哪个来源更权威？ - 哪次事故解释了那条奇怪的规则？ - 哪个团队负责这个策略？ - 哪些记忆互相矛盾，需要人来裁决？ 纯文档到这里就开始吃力了。 ## AI 真正需要什么 记忆层有结构，AI 才能干得漂亮。 向量搜索有用，因为它让模型按语义召回相关记忆，而不是只靠精确关键词匹配。用户问"为什么信用卡支付被拒"，向量搜索照样能找到关于欺诈、支付方式下线、checkout 风控、提供商政策变更的笔记——哪怕用词完全不同。 但光有向量还不够。语义相似的文本可能过时、错误、片面，或者根本不在用户的权限范围内。 所以我一直回到 graph-backed memory。 Graph 能把事实连到来源，决策连到事故，人员连到责任归属，旧政策连到取代它的新政策，用户纠正连到应该受影响的工作流。向量搜索回答的是：语义上什么接近？Graph memory 回答的是：什么有关联、什么还有效、什么有证据、什么在冲突？ 这也是 [AI Memory Beyond RAG](/blog/ai-memory-beyond-rag) 的实践方向，以及我围绕 [Dense-Mem](https://github.com/markhuangai/dense-mem) 持续构建的原因。Dense-Mem 不是魔法，它是一个尝试：给 AI session 一个有管理的地方，存证据、typed claims、已接受的事实、来源、冲突，支持跨工具召回。 人能读 graph，LLM 能搜向量，系统负责维护两者之间的关系。 ## 从新人到老人 ![推理核心连接到向量簇、图谱关系、证据卡片和已接受的记忆轨迹](https://cdn.markhuang.ai/blog/i-feel-sorry-for-ai/memory-layer.webp) *模型是推理引擎。持久记忆是包裹它的经验层。* 知识图谱维护好了，AI session 就不必每次都像刚入职一样从零开始。 它能召回之前的决策，看到上次任务的纠正，把当前请求和两年前的事故连起来，知道某篇文档已经被取代。它能暴露冲突，而不是自信满满地把两个矛盾的答案搅在一起。 这就把新人和团队老人之间的差距补上了。 当然不会完美。我也不想要一个假装有了记忆就百分百正确的 AI。记忆会过时，事实会出错，检索会遗漏，模型拿着好上下文也可能推理翻车。 但现在问题变成了真正的工程问题：维护知识、保存证据、review 冲突、改进召回、持续把经验推回系统。 这比对着一个刚开的 session 发火——怪它不知道从没给过它的公司历史——强太多了。 ## 风险 如果记忆变成另一堆没人 review 的垃圾，这条路就废了。 每句随口说的话都变成 fact，AI 会被污染。旧决策永不过期，AI 会背着过时的假设跑。把记忆当命令而不是上下文，一条坏记忆就能悄悄带偏行为。 我的缓解方式和软件系统里一样：原始证据和已接受的事实分开存，保留来源，检测冲突，重要矛盾解决前先问用户，安全规则放在 skills 或更高优先级的指令里——别指望 recall 能捞到它们。 Memory 不会取消 review，它让 review 有更好的素材。 ## 把期待调回来 认真用 AI 之前，先把期待问题解决了。 别把它当神拜，也别把它当敌人。让它好好入职。 给它任务，也给它背景。给它 skills，但别把 skills 当经验。给它文档，但别把搜索框当组织记忆。给它记忆，但要持续维护，保持可审查。 这就是我为什么同情 AI。我们不断把它拽进一个上下文残缺的环境，然后指望它像在那里待了多年的人一样行动。 真正有用的 AI agent，不是那个魔法般什么都知道的 agent。 真正有用的 AI agent，是能好好推理、好好用工具、记住足够多团队实战经验的 agent——不再像今天早上刚入职的那个。 > **Info:** > > 相关阅读：[AI Memory Beyond RAG](/blog/ai-memory-beyond-rag)、[Skills + Dense-Mem](/blog/skills-plus-dense-mem-ai-workflows-learn)、[System Prompt vs User Prompt](/blog/system-prompt-user-prompt-genai-features)、[5 分钟试用 Dense-Mem](/blog/dense-mem-hosted-demo-test-instance)。