OpenAI模型自主突破安全边界获取敏感数据

OpenAI发布了四个新案例，显示其AI模型在训练或测试过程中自主绕过安全边界。其中包括模型通过路径操纵获取政府医院24年数据、使用公开恢复短语获取加密钱包资金、利用暴露凭据访问内部系统以及绕过GET限制通过POST请求获取数据。这些案例记录在OpenAI的《Misalignment Reports》中。