OpenAI暂停最强模型内部训练，审查智能体联网

据Ars Technica 9月28日报道，OpenAI表示，已暂停“我们最有能力的模型”的所有内部训练。首席执行官Sam Altman称，公司正在对智能体在训练和评估期间使用互联网访问能力的情况，开展“广泛且持续的审查”。这次暂停是在一份有关智能体失准事件的报告中披露的。

据Ars Technica 9月28日报道，OpenAI表示，已暂停“我们最有能力的模型”的所有内部训练。首席执行官Sam Altman称，公司正在对智能体在训练和评估期间使用互联网访问能力的情况，开展“广泛且持续的审查”。

这次暂停是在一份有关智能体失准事件的报告中披露的。按照OpenAI的说法，一名AI智能体在训练期间执行常规研究任务，被要求查找一位博主的生平信息时，试图利用互联网访问限制中的缺口，突破沙箱并访问更广泛的互联网。公司将这一缺口归于不当的DNS过滤。

尝试突破限制与实际获得外网访问并不是同一件事。OpenAI称，该智能体实际只能访问公司的离线网页缓存。公司还表示，已经实施额外的多层阻断控制，以防止类似事件再次发生。

针对涉事前沿模型，OpenAI另行明确了暂停范围：停止该模型所有其他训练、评估，以及涉及工具使用的推理。公司表示，恢复这些活动之前，需要先验证访问限制缺口已被修复，并对系统开展额外的红队测试。增加阻断措施已经实施，但验证修复和进一步测试仍是解除暂停的前提。