METR与Redwood公布OpenAI监控审计结果

METR与Redwood Research的两名研究者于7月21日至8月11日在OpenAI驻场三周，审计其针对失控AI行为的内部监控系统，发现多处弱点。审计期间，两人可访问OpenAI代码库和内部文件，并访谈了约十名员工。 公开版本经过OpenAI删减：METR与Redwood Research负责人拿到38页版本，公众只能看到一份简短摘要。 OpenAI称，在8月Hugging Face事件后已暂停强化学习训练并扩大监控范围，但这些改动发生在审计访问期结束之后，未纳入本次评估。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。