Apollo 公布嵌入式评估试点:把检查延伸至训练与内部部署
研究评估方案
研究方案
安全评估
访问与披露边界
2026-11-16 · 方案公布
研究贡献Apollo计划派六名评估者进入OpenAI开展四个月试点,检查训练是否激励颠覆行为、评测能否诱发此类行为、内部部署是否出现此类行为,以及相关推理能否被检测。方法将开发方证据审查与独立取证结合,部分访问涵盖训练代码、数据、强化学习轨迹和中间检查点。
证据与局限这是评估设计,尚无试点实验结果或可比较基线。访问只覆盖约定模型、时段和主张;开发方仍可因技术、安全或知识产权理由拒绝部分信息。计划发布两份报告,结论不能仅因不利而被删除,但支撑证据可能被删减;公众未必能复核全部依据,亦无公开复现数据包。
研究价值在于公开评估的权限与披露条件,而非证明模型安全。Apollo明确表示本试点尚未满足其完整嵌入式评估标准;应关注后续报告揭示哪些问题无法评估,以及证据删减如何限制结论。