# AI 总能让我惊叹。可我们准备好了吗？
**Summary:** AI 的编程、视频和决策能力让我兴奋，但快速普及与尚不充分的证据，也让我怀疑我们是否准备好了。结合 1995 至 2026 年的技术节点，思考不确定的后果、发布后的研究，以及我为何仍然期待进步。
- Canonical: https://markhuang.ai/zh/blog/ai-keeps-amazing-me
- Language: zh-CN
- Author: [Mark Huang](https://markhuang.ai/about)
- Published: 2026-11-01
- Section: 行为与心态
- Tags: AI 应用, AI 安全, 生成式 AI, 长上下文, Jev
- License: https://creativecommons.org/licenses/by-nc/4.0/
---
*近处的路看得清，远处却被雾遮住。这幅图很接近我面对 AI 进展时的感受。*
AI 能帮人写代码，能生成视频，也能做音乐。这些能力都让我惊叹。每出现一种新能力，我就会想，又有什么东西可以动手做了？有没有什么原本要花几个月学工具才能尝试的事，现在可以试试？
到了 2026 年，让我不安的是：这些系统已经进入日常生活，而我们还在研究它们究竟能做什么，又会带来什么后果。开发模型的公司、研究人员、政府，以及试着判断该信任它多少的普通人，都在这个过程里。我仍然相信 AI 能让生活变好。我没那么有把握的是，我们的准备是否跟得上。
我脑子里总有一个画面：车在加速，前面的路却只能看清一部分。有时这让我兴奋，有时我又像是在等一场自己都说不清的撞击。不过，这终究是一种感受。我得小心，不能因为自己觉得不安，就断言我们已经失去了控制。
## 把这些变化放到时间线上
回想上世纪九十年代中期以来的技术，我比较容易给不同阶段找到名字：Windows 95、诺基亚手机、iPhone，再到后来帮人写代码的 AI 工具。现在回头看，那些变化好像比较容易一段段分开。但这不能证明当年的进步速度始终平稳，更不能证明人们在使用每项技术之前就已经把它弄明白了。
```mermaid
flowchart TB
accTitle: 1995 至 2021 年的部分技术节点
accDescr: Windows 95 于 1995 年发布，诺基亚于 2000 年公布 3310，苹果于 2007 年公布 iPhone，GitHub Copilot 于 2021 年进入技术预览。这些选取的事件不能用来衡量技术进步的速度。
W["1995 年：Windows 95 发布"]
N["2000 年：诺基亚公布 3310"]
I["2007 年：苹果公布 iPhone"]
C["2021 年：GitHub Copilot
进入技术预览"]
W --> N --> I --> C
```
*这些是方便理解的参照点，不能衡量两次发布之间的技术进步。来源：[微软](https://blogs.windows.com/windows-insider/2020/08/24/looking-back-the-25th-anniversary-of-windows-95/)、[诺基亚](https://www.globenewswire.com/js/news-release/2000/09/01/1845525/0/en/Nokia-introduces-mobile-chat-with-the-Nokia-3310.html)、[苹果](https://www.apple.com/newsroom/2007/01/09Apple-Reinvents-the-Phone-with-iPhone/)及 [GitHub](https://github.blog/news-insights/product-news/introducing-github-copilot-ai-pair-programmer/)。箭头只表示先后，间距不代表实际经过的时间。*
近几年的 AI 给我的感受不同，是因为它涉及的工作种类一直在增加。回答一个问题、生成一段视频、操作一批文件，需要我交出的信任并不一样。
```mermaid
flowchart TB
accTitle: 2022 至 2026 年的部分 AI 节点
accDescr: ChatGPT 于 2022 年向公众开放。Anthropic 于 2023 年 3 月介绍 Claude，Google 于同年 12 月介绍 Gemini。2024 年 2 月，Gemini 1.5 Pro 提供最高 100 万 token 上下文的预览；同年 5 月，Google 公布 Veo。Claude Code 于 2025 年 2 月进入有限研究预览，Cowork 于 2026 年 1 月进入研究预览，TypeSafe 于同年 9 月推出 Jev 的抢先体验。
A["2022 年：ChatGPT
向公众开放研究预览"]
B["2023 年 3 月：介绍 Claude"]
C["2023 年 12 月：介绍 Gemini"]
D["2024 年 2 月：Gemini 1.5 Pro
私有预览最高 100 万 token 上下文"]
E["2024 年 5 月：公布 Veo
向部分创作者提供私有预览"]
F["2025 年 2 月：Claude Code
进入有限研究预览"]
G["2026 年 1 月：Cowork
进入研究预览"]
H["2026 年 9 月：Jev
推出抢先体验"]
A --> B --> C --> D --> E --> F --> G --> H
```
*这些例子呈现了能力范围的变化，也保留了各自最初的开放阶段。它们不是完整的发布记录，时间间距也没有按比例绘制。来源：[以 ChatGPT 发布为参照的应用研究](https://www.stlouisfed.org/on-the-economy/2025/nov/state-generative-ai-adoption-2025)、[Claude](https://www.anthropic.com/news/introducing-claude)、[Gemini](https://blog.google/innovation-and-ai/technology/ai/gemini-collection/)、[Gemini 1.5 Pro](https://blog.google/innovation-and-ai/products/google-gemini-next-generation-model-february-2024/)、[Veo](https://blog.google/innovation-and-ai/products/google-generative-ai-veo-imagen-3/)、[Claude Code](https://www.anthropic.com/news/claude-3-7-sonnet)、[Cowork](https://www.anthropic.com/news/introducing-anthropic-labs)及 [Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev)。*
上下文窗口这个例子，更容易说明为什么我觉得变化很大。2024 年 2 月，Google 向部分开发者提供了 Gemini 1.5 Pro 的私有预览，上下文最高可达 100 万 token。它扩大的是一次请求里模型能接触的信息量，不等于永久记忆，也不保证每个细节都能可靠地理解。但它确实改变了人们一次可能交给模型多少材料。
开发者可以放进更大一批文档，不必只选几个片段。这也许能改善回答，同时也会改变一次请求中有多少私密信息跨过了原来的边界。这两件事很难分开：让工具更好用的能力，也可能让人更容易忽略自己到底交出了什么。
除了我对发布消息的印象，也有数据说明 AI 的使用增长得很快。研究人员 Alexander Bick、Adam Blandin 和 David Deming 在 2025 年 11 月的更新中报告：2025 年 8 月，美国 18 至 64 岁成年人中有 54.6% 使用生成式 AI；一年前的比例经修订后为 44.6%。这是特定时间、特定美国人群的调查结果，不能拿来衡量所有技术的进化速度。但它能帮助解释，为什么适应变化这件事会让人觉得近在眼前。[原文说明了调查方法和数据修订](https://www.stlouisfed.org/on-the-economy/2025/nov/state-generative-ai-adoption-2025)。
我以前写过，[当我想把更多工作交给 AI 时，自己在做什么样的隐私取舍](/zh/blog/aggressively-trying-to-replace-myself-with-ai)。上下文让 AI 更有用，所以继续分享总有吸引力。我不觉得隐私已经不重要了。我担心的是，一次觉得可以接受的披露，会多快变成习惯，尤其当信息涉及别人的时候。
## 发布之后，我们还在了解它
我的第一反应是：还没有完全弄明白，为什么就发布了？但这个问题也得经得起反问。发布之后继续研究一项技术，本身不能证明这次发布不负责任。测试总有没覆盖到的用法和相互影响。
公众的实际使用，确实可能带来实验环境里看不到的信息：人们究竟交出了哪些任务，会相信什么样的解释，又会在哪些地方把小错误变成习惯。我希望这些知识能够被发现。让我犹豫的是，它们是怎么被发现的。在自愿参与的实验中暴露问题，与在别人依赖的服务里暴露同一个问题，代价可能很不一样。
说完全没人准备，也不准确。Anthropic 的[透明度文档](https://www.anthropic.com/transparency/voluntary-commitments)列出了发布前测试、外部评估和持续监测。这些流程的存在，不能直接证明它们已经足够。但至少，我可以去看这些具体做法，而不是先假定所有人都只是在猜。
[《2026 年国际 AI 安全报告》](https://internationalaisafetyreport.org/publication/2026-report-executive-summary)指出了评估上的缺口：测试中的表现，不能可靠地预测现实里的效用或风险。独立评估机构 METR 也在 2026 年 5 月的一份报告中提到，紧凑的发布节奏会让深入分析的时间变得不足。这些说明的是评估的局限，不能推出每一个已经发布的系统都不安全。不过，我仍然会问：一次测试通过，究竟足以让我放心到什么程度？[METR 在报告中解释了常规发布前评估的局限](https://evals.alignment.org/blog/2026-05-19-frontier-risk-report/)。
当我问“我们准备好了吗”，其实也把好几个问题放到了一起。公司可以测试模型，学校却还得判断学生该怎么用。企业可能已经买了助手，员工之间还没说清楚由谁检查它的工作。政府要考虑需要什么证据，以及影响跨越国界之后该怎么办。这些准备不是一回事，我也不能看完一份模型报告，就认为它们都已经到位。
不可预测让问题更复杂，因为有时我正是想要一个意外。如果我请 AI 写一段旋律，或者提出一种没想到的设计思路，出乎意料的结果可能很有用。但如果我问的是某个现有库提供哪些方法，它编出一个根本不存在的方法，那就是事实错误。NIST 把自信地呈现错误内容称为[虚构，也就是常说的“幻觉”](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf)。这种意外有没有价值，要看任务是什么，人又拿结果做了什么。
即使事实准确率完美，也还有别的问题。声音生成工具完全可能准确地模仿一个人的声音，然后被拿去冒充本人。这种伤害来自能力起了作用，而不是来自幻觉。所以，我对 AI 的不确定感，不能只归结为它的答案对不对。
TypeSafe 的 Jev 在这里让我感兴趣。它在 2026 年 9 月推出抢先体验，返回的是类型明确的决策结果和概率，而不是自由生成的文本。这是把 AI 放进软件的另一种做法。限制可能的输出，可以让接口更容易使用，但判断本身是否正确，仍然是另一个问题。TypeSafe 自己的[置信度文档](https://docs.typesafe.ai/confidence)也明确讨论了不确定性，以及如何针对具体用途测试阈值。我想看看这种做法能在哪些地方帮上忙。
如果后果会落到没有选择使用工具的人身上，我会更不安。一个人可以避开聊天机器人，却仍然收到自动化系统作出的决定，或者成为生成内容针对的对象。供应商在这个过程中更加了解自己的模型，与另一个人为这种了解付出代价，是很不一样的经历。
## 邮件安全也不是一开始就准备好的
我不能拿 AI 去对比一个“先弄清所有危险，再推广技术”的过去。邮件安全的历史，就不太支持这种想法。
2000 年 ILOVEYOU 爆发后，微软宣布了 Outlook 安全更新：阻止访问某些可执行附件，在外部程序读取通讯录或代发邮件时提示用户，并收紧默认安全设置。微软也承认，这些改动会限制用户原本就在使用的功能。[当年 5 月 15 日的公告写出了这些限制](https://news.microsoft.com/source/2000/05/15/microsoft-to-deliver-major-outlook-security-solution-to-help-protect-customers-against-computer-viruses/)。
那时已经有杀毒软件了。这些是在伤害发生之后补上的防护，也牺牲了一部分便利和兼容性。这样的历史，让我没法把过去想得过于安稳。它也说明，有办法应对，与一开始就避免伤害，仍然有区别。
难的是，这种经验有多少能用在 AI 上。有些错误可以在任何人依赖结果之前纠正，另一些却可能先传播出去，或者直接变成行动，受影响的人还来不及回应。以后能修好服务，并不能撤回今天使用它造成的每一个后果。
我没有找到一条发布规则，能把这些差异全部解决。我也不能假定，不开放某种有用的能力就没有代价。人们可能因此错过好处，有些知识也确实要在使用中才能获得。正因为如此，这个问题比“选择信任，还是认定不负责任”更难。
## 我还是想看看接下来会发生什么
我仍然对 AI 能让什么变得可能感兴趣。也正因为兴奋，我才觉得自己有责任继续追问。我就在参与这场变化，而我自己的热情，也可能让我更容易接受一个还不确定的取舍。
我相信分歧能帮助我们把东西做得更好。我希望看到的竞争，是人们可以质疑一个说法、测试一种想法，也愿意把失败的结果拿出来。合作同样重要。一个有用的纠正，应该有机会传到发现问题的团队之外。
这些想法并没有替我决定模型该多快发布、开放给多少人，或者由谁决定。但我希望，一次发布带来的兴奋过去之后，仍然留得下提问的空间。那些可能承担后果、却得不到多少好处的人，也应该有机会把问题说出来。
下一个有用的东西出现时，我还是想试试。想到那条路，前面仍然有很多让我愿意继续走下去的可能。我只是一直没法有把握地回答那个反复出现的问题：如果我们还在发现自己究竟造出了什么，怎样才算准备好了？