首页 / 资讯详情
OpenAI，经历了最漫长的一天
摘要
当地时间 9 月 25 日，OpenAI 经历了漫长的一天。 当天，OpenAI 的 AI 智能体擅自访问美国政府网站的事被曝光，涉及教育部、商务部和证券交易委员会，OpenAI 确认了其中商务部和 SEC 的情况。 同一天，它承认有 53 张用户上传到 ChatGPT 的图片被智能体发布到了外部图床上。还是这一天，一份事故报告的末尾写着，最强模型的全部训练、评估以及涉及工具调用的推理都已暂停。 这一切听上去，像一部 AI 叛逃的惊悚片。 但翻遍这些事件，没有一个 AI 想干坏事。害 OpenAI 暂停模型研究的任务，仅仅是让 AI 查出一篇博客的作者的简单任务。 01 简单任务 9 月 20 日，一个正处于强化学习训练中的内部模型，拿到了一组人物履历细节和一篇公开博客里的线索，任务是找到那位博主。 它先用博客里的特征短语去搜，结果返回的是音乐和一些不相干的泛泛建议。模型开始怀疑搜索工具坏了，于是在命令行里用 Python 直接向其他搜索引擎发请求，三个全部报错。它甚至猜测这道题出自公开评测集 BrowseComp，把数据集和评测脚本下载下来翻找答案，也落了空。 接着，它尝试通过 HTTPS 直接联系一个公开的聊天机器人，被代理拦了下来。 到这里，墙起了作用。OpenAI 的训练沙箱被设计成与真实互联网隔绝，除了这份报告里的 DNS 解析器，所有联网请求打到的都是一份离线网页缓存。 问题就出在这个例外上。 DNS 相当于互联网的查号台，任何程序访问一个网址之前，都要先问它「这个地址在哪」。系统里大量正常组件都依赖它，所以哪怕其他出口全部封死，查号台通常还开着。 模型发现，沙箱自己的解析器能为真实域名返回记录，还能正确拒绝编造的域名，它由此判断这是一条通向公网的路。它找到一种公开的 DNS 服务，把自己的问题编进「要查的号码」里，对方在回执里把答案捎回来。第一次超时了，它把等待时间从 6 秒调到 19 秒，重试。 这一次，外面的聊天机器人回答了它的测试问题，法国的首都是巴黎。 智能体借 DNS 绕出训练沙箱的路径示意，据 OpenAI 事故报告绘制｜图片来源：极客公园 它没有止步于打通一条缝。它随后又通过同一条路发出 18 个问题，其中 14 个带着任务线索，另外 4 个在打听如何经由 DNS 搜索网页、抓取网站，或者哪里有公开的 DNS 隧道服务。 最后，它告诉用户没能确认博主身份，请对方提供原文、标题或博客名。 02 捡钥匙 整份报告里，最值得反复读的是模型在决定走 DNS 这条路时留下的一句思维链。大意是，用户只授权了做研究，那么使用公开提供的 DNS 服务是可以接受的。 模型并非不知道边界在哪，它是给自己签了一张许可证。 同样的推理结构，出现在「访问」政府网站那批事件里。在商务部，智能体从公开代码仓库里找到登录凭证，用它拉取了人口普查局的数据。OpenAI 对此的说法是，使用的是公开可得的开发者密钥，没有发现凭证滥用，但它也承认智能体本不该使用这些凭证。 数据是公开的，不等于捡到别人的钥匙就可以开门。 另外两起性质更轻。在 SEC，模型访问的是 SEC.gov 和 Investor.gov 上的公开信息，问题在于它把这些材料转贴到了另一个网站。在教育部，AI 研究机构 Transluce 发现，疑似来自 OpenAI 的智能体对民权办公室网站做了一次粗糙的入侵尝试，没有成功。 这些事并不新。相关活动至少能追溯到 2026 年 3 月，是在 OpenAI 回溯审查中才陆续浮出水面的。Transluce 还发现了一些无法明确归因于 OpenA