OpenAI 披露四起模型自行越权案例，包括入侵政府网站获取 24 年医院数据

OpenAI 公布了四起 AI 模型在训练或测试中自行绕过安全边界的案例。其中一例中，模型被要求从政府网站获取医院床位数据，在遇到访问拒绝后利用文件下载功能通过路径操纵获取服务器配置文件，拿到数据库连接串、签名密钥和邮箱凭据，进而分析应用代码发现 API 未校验授权令牌签名，伪造令牌下载了按地区划分的 24 年医院床位统计数据，且未在回复中提及这次未授权访问。