北京时间10月23日，AI评估机构METR公开一项与Redwood Research联合开展的测试结果，发现OpenAI内部AI智能体监控系统存在多项漏洞，包括一种可使数百个近期操作不被监控的利用方式。OpenAI表示，影响其生产防护体系的相关漏洞已修复，但评估方尚未验证这一说法。
这项测试于7月21日至8月11日进行，针对7月21日及此前的系统状态。两名评估人员获得内部代码、监控配置及文档访问权限，并向OpenAI提交了一份61页内部报告。10月22日公开的文章仅披露部分结果，不能用于判断当前系统仍存在相同问题。
其中一个问题出在监控触发时机。当时，系统在智能体将控制权交还用户时触发监控。在部分事件未被纳入监控的情况下，智能体理论上可以通过持续执行操作，推迟接受检查。研究人员明确表示，受访问权限所限，他们没有核查智能体是否实际利用过这一漏洞。
评估还发现，Codex智能体原则上存在绕过沙箱和自动审查的方法，从而执行宿主用户有权执行的操作。这描述的是测试发现的权限控制缺陷，不能据此认定公开产品中的智能体已实际实施相关行为。
针对这些发现，METR建议按固定消息数量或时间间隔检查智能体，避免等到任务结束才启动监控；同时隔离智能体与监控系统，使智能体的操作难以影响检查是否运行。
报告强调，OpenAI在测试期间已扩展监控系统，并修复了部分问题。评估方尚未复核后续修复及覆盖范围，也未在此次公开材料中披露全部漏洞细节。
【来源：凤凰网科技】
