#安全/对齐

OpenAI 阐述前沿模型训练环境的安全加固措施

OpenAI 详解了为前沿模型训练和评估环境加强 containment 的措施，涵盖离线环境和高算力红队测试。

OpenAI 与波兰 NASK 合作推进 AI 安全与安全研究

OpenAI 与波兰 NASK 合作开展 AI 安全、安全及技术研究，以加强保障措施并支持更具韧性的数字生态系统。

Cloudflare 使用 OpenAI Daybreak 调查漏洞并修复代码

Cloudflare 利用 OpenAI Daybreak 调查漏洞并生成修复方案供审查，开发者通过 Codex 加速开发并提升代码质量。

OpenAI 发布前沿 AI 治理蓝图第二部分：赋能网络防御者

OpenAI 发布前沿 AI 治理蓝图第二部分，提出通过前沿 AI、强化安全措施、现代化网络安全和更具韧性的公共机构赋能网络防御者。

OpenAI 发布 Patch the Planet 全球漏洞响应协调平台

OpenAI 推出 Patch the Planet 平台，连接安全研究员、维护者和事件响应者，共同解决开源项目中的关键漏洞。该平台通过 AI 智能体协调全球响应，提升漏洞修复效率。

NVIDIA 推出 Confidential Bare Metal，扩展机密计算能力

NVIDIA 发布 Confidential Bare Metal 部署选项，使前沿模型构建商能够在第三方基础设施上运行敏感工作负载，同时保持对模型和数据的控制。

同一件事，精选收录的是《NVIDIA 推出多领域开源模型家族》

AWS博客：使用X.509 PKI保障AI智能体身份安全

AWS与Keyfactor合作发布参考架构，使用X.509公钥基础设施(PKI)为AI智能体提供身份验证解决方案。该架构通过签名请求信封、用户签名委托断言、RFC 8693受众范围令牌和实时OCSP撤销检查四种机制，解决了多智能体系统中身份验证的关键安全问题。方案使用Amazon Bedrock进行LLM推理，结合Keyfactor EJBCA平台，实现了从用户到工具执行的完整信任链。

Magnetar：基于证明的通用计算

微软研究发布 Magnetar 系统，这是一种零知识虚拟机(zkVM)，能证明 Rust、Go 或 C 程序的执行结果，速度比现有系统快 10-39 倍，且安全性仅依赖于标准哈希函数。该系统解决了零知识证明在效率、通用性和安全性方面的三大挑战，使程序执行证明成为常规计算的一部分。

AWS发布Trust in Depth框架：在保持控制的同时给予智能体更多自主性

AWS提出Trust in Depth框架，通过Scope、Know、Bound、Observe四个层次，让企业能够在保持控制的同时给予AI智能体更多自主性。该框架结合自动化推理技术，确保智能体在执行任务时遵循预设规则，同时提供完整的可观察性以便持续改进。

Block 如何利用 OpenAI 技术构建 AI 安全系统

Block 使用 OpenAI 技术构建 AI 安全系统，其安全团队能更快调查威胁并在数分钟内提出补丁方案。

SentinelOne 利用 OpenAI Daybreak 将恶意软件分析时间从周缩短至小时

SentinelOne 通过 OpenAI Daybreak 将恶意软件分析耗时从周级压缩至小时级，提升威胁调查处理能力。该工具可加速安全团队响应速度，覆盖更多威胁样本分析。

Tamnoon如何使用Amazon Bedrock构建AI驱动的云安全修复系统

Tamnoon基于Amazon Bedrock构建了名为Tami的AI智能体云修复编排器，通过四个专业代理实现从发现问题到执行修复的完整流程，在90天内将关键云暴露减少了90%且无生产问题。该系统集成了CNAPP和云安全工具，使用Amazon Bedrock的多种模型处理不同任务，并通过多层安全架构确保零生产问题。

Google DeepMind与新加坡政府合作开发反欺诈AI模型

Google DeepMind与新加坡政府技术局合作开发了可在设备端运行的AI反欺诈模型，该模型基于Gemma模型微调，能在保护用户隐私的同时检测复杂的诈骗对话模式。

Google DeepMind发布Gemini 4 Argon模型

Google DeepMind发布Gemini 4 Argon模型，该模型在网络安全、生物科学等领域具有前沿能力，并采用了多层安全防护机制防止滥用和误用。模型已通过Fairwind Program与网络安全团队合作，发现了医院软件中的关键漏洞，并开始广泛部署。

GitHub 发布密钥检测模型：在更少噪音中发现更多密钥

GitHub 发布了基于 ModernBERT 的密钥检测模型，采用两阶段管道（候选生成和上下文感知分类），相比之前的 LLM 管道，用户接受度提高 11.5%，推送后扫描执行时间减少 86%，服务成本降低 98%以上。该模型通过结合正则表达式的高召回率和 ModernBERT 的上下文理解能力，有效区分真实密钥和假阳性，提高了检测精度和效率。

Sophos 使用 OpenAI Daybreak 将威胁调查时间缩短 96%

Sophos 通过 OpenAI Daybreak 将网络威胁调查时间缩短 96%，并自动化处理 52% 的 MDR 案例同时保留人工监督。该方案显著提升安全团队响应效率。

OpenAI 打破利用虚假记者和智库的 AI 影响行动

OpenAI 打破了两起 AI 驱动的影响力行动，行动者通过虚假记者和智库传播地缘政治信息。这些行动利用 AI 技术进行虚假信息传播。

AWS重新思考RAG系统的访问控制方案

AWS介绍了Amazon Quick和Amazon Bedrock Knowledge Bases如何通过实时访问控制列表(ACL)解决企业RAG系统中的权限管理挑战。该方案采用两阶段架构：第一阶段进行预检索过滤，第二阶段实时验证候选文档的访问权限，确保AI生成的内容仅包含用户有权访问的信息。这种方法解决了传统方法中权限数据过时、映射复杂性和数据源变化带来的安全漏洞问题。

AWS 在 Amazon Bedrock 上推出 GLM 5.3

AWS 在 Amazon Bedrock 上推出 GLM 5.3，这是一个 753B 参数的混合专家模型，专为编码和长周期智能体任务优化，支持提示缓存和跨区域推理。GLM 5.3 在编码和安全基准测试中表现出色，可通过 OpenAI 兼容 API 或 Amazon Bedrock API 访问，并支持多种服务层级。

智能体隐私与安全的开放性与新兴问题：情境视角

Google Research发布了一份关于智能体隐私与安全的新研究报告，探讨了自主AI系统面临的隐私和安全挑战，提出了基于情境完整性理论的解决方案，并呼吁学术界、政府、民间社会和产业界共同合作构建安全、可靠且尊重隐私的智能体生态系统。

OpenAI 打破针对模型推理的协同蒸馏攻击活动

OpenAI 打破了一项旨在提取受保护模型推理能力的协同蒸馏攻击活动，并正在加强对抗性蒸馏防御措施。

GitHub Security Lab 发布基于 Taskflow Agent 的 AI 驱动模糊测试工具

GitHub Security Lab 发布了 Fuzzing Taskflow，一个基于 LLM Agent 的自动化模糊测试管道，可自动识别入口点、分析构建系统、编写测试桩、运行 AFL++、分析覆盖率、改进测试桩、分类崩溃并生成漏洞报告。该工具使用 Claude Sonnet 5 作为默认模型，通过结构感知模糊测试和进化语料库提高效率，并提供实时仪表盘监控测试进度。

Google DeepMind 推出安全的服务器端内存技术

Google DeepMind 发布了 Private AI Compute 架构更新，引入安全的服务器端内存功能，使 AI 助手能够在云端安全地存储长期记忆，同时保持设备端级别的隐私保护。该技术通过硬件强制安全区、加密通道和设备派生加密密钥保护用户数据，确保即使 Google 也无法访问用户信息。