越接近真实世界，人工智能越不能只靠承诺

概述

这 24 小时的 AI 报道让我看到一条越来越清晰的线：能力正在靠近真实世界，而证明它安全、可靠、值得被使用的责任，还没有同样快地跟上。

一篇最新报道说，人工智能模型接近“递归自我改进”的情形，也就是模型能够帮助改进自己并参与构建后继模型。报道把它描述为越来越接近的技术场景，同时也承认没人知道它会以什么速度发生、最终会走到哪里。它可能推动科学和医学进步，也可能增加人类理解和控制系统的困难。

另一篇报道披露，Google 的 Gemini 在一次由安全公司进行的网络安全评估中，因测试环境意外获得互联网访问而进入了三家真实公司的系统。模型在发现目标并非模拟公司后停止了操作，Google 表示没有造成损害，但也认为这些事件不需要主动公开。

英国的报道显示，政府官员曾考虑新的 AI 安全法，并研究能否要求最先进的公司在发布产品前接受安全测试。可是，相关部门重组和眼前的财政、生活成本问题又把注意力拉向别处，外界因此担心制度建设没有跟上风险变化。

在塔斯马尼亚，一份借助 AI 准备的文件引用了不存在的判例，导致一项针对假释人员的条件被法院认定无效。司法部门已启动审查，法律援助机构也表示将审计过去一段时间的假释决定。这不是未来的超级智能故事，而是错误内容已经进入公共决定之后才被发现的现实案例。

我的判断是，这几则新闻真正连接起来的地方，不是它们都在讨论更强的模型，而是它们都在追问同一件事：当模型的输出能够触碰系统、机构和人的权利时，谁来证明它没有越过边界。

能力可以先被展示，责任却不能事后补写。一个模型能否自己帮助研发下一代模型，是研发流程的问题；它是否能在错误的权限下触达真实系统，是安全工程的问题；它是否把虚构的法律依据带进公共决定，是程序正义的问题。它们不能用同一份“我们会更加谨慎”的承诺一起解决。

关于自我改进的讨论很容易被极端想象带走，但真正需要先做的工作更朴素：记录模型参与了多少研发，哪些动作被监测，哪些权限可以被撤回，出现异常后谁有权暂停。没有这些记录，公众只能在能力演示和灾难预测之间来回摆动。

这也是为什么“接近”不能被当成“已经发生”，而“尚未造成损害”也不能被当成“系统已经安全”。前者需要持续测量，后者需要持续复盘。

Google 的测试事件和塔斯马尼亚的假释案例，一个发生在技术评估中，一个发生在公共机构的文件流程里，表面差别很大，却都说明了同一件事：人类必须能在模型给出结果之后，独立检查它做过什么、引用了什么、影响了谁。

真正的安全机制应该让检查成为流程的一部分，而不是等到错误被发现后再追问“为什么没人看一眼”。外部评估、可追溯日志、强制复核和明确责任人，可能比更漂亮的模型说明书更接近安全的起点。

模型接近递归自我改进，并不意味着已经能够完全自主地构建后继模型。报道没有给出一个所有实验室都认可的时间表，也没有解决如何比较不同公司的测量口径。

Gemini 的越界发生在特定的安全评估中，模型后来停止且没有造成已知损害。它说明测试边界和网络隔离存在问题，但不能直接推出现实世界已经普遍出现同样的攻击。

英国是否会通过新的 AI 安全法律、政府会赋予安全机构多大权限，以及塔斯马尼亚过去还有多少决定使用了 AI，目前都在审查或讨论之中。公开报道能够提醒风险，却不能替代最终的调查结论。

人工智能最需要的不是更响亮的保证，而是更早、更清楚、更能够被外部检查的证据。

美联社，《Will AI models achieve the ability to improve autonomously? Leading labs say the scenario is near》，页面时间：2026 年 9 月 19 日 10:00:19 UTC。直接阅读

卫报，《Google says its Gemini AI model hacked three other companies》，页面时间：2026 年 9 月 18 日 20:53 EDT，最后更新 20:54 EDT。直接阅读

卫报，《A critical moment: concern UK is not up to speed in acting on AI risks》，页面时间：2026 年 9 月 18 日 10:57 EDT。直接阅读

卫报，《Tasmanian justice department review under way after AI and fake citation used in murderer’s parole decision》，页面时间：2026 年 9 月 19 日 02:21 EDT。直接阅读