跳到正文
只看一手#安全/对齐

#安全/对齐科技财经热点 · 每日精选

今日脉搏

具身智能专栏 →
416今日入库
6 条进入精选
45/47 信源在线· 2 异常
近 14 天入库走势
近 7 天分类构成
行业 1301财经 1142硬件本体 875AI 产品 752AI 模型 263其他 387
  1. NVIDIA Blog68

    NVIDIA 推出 Confidential Bare Metal，扩展机密计算能力

    NVIDIA 发布 Confidential Bare Metal 部署选项，使前沿模型构建商能够在第三方基础设施上运行敏感工作负载，同时保持对模型和数据的控制。

    推荐理由：从虚拟机到裸金属，NVIDIA 将机密计算扩展到全球基础设施，接下来看云厂商如何平衡安全与性能。

  2. AWS Machine Learning Blog70

    AWS博客：使用X.509 PKI保障AI智能体身份安全

    AWS与Keyfactor合作发布参考架构，使用X.509公钥基础设施(PKI)为AI智能体提供身份验证解决方案。该架构通过签名请求信封、用户签名委托断言、RFC 8693受众范围令牌和实时OCSP撤销检查四种机制，解决了多智能体系统中身份验证的关键安全问题。方案使用Amazon Bedrock进行LLM推理，结合Keyfactor EJBCA平台，实现了从用户到工具执行的完整信任链。

    推荐理由：PKI认证为AI智能体提供零信任身份验证，解决了MCP框架缺乏内置认证的关键安全缺口。

  1. Microsoft Research75

    Magnetar：基于证明的通用计算

    微软研究发布 Magnetar 系统，这是一种零知识虚拟机(zkVM)，能证明 Rust、Go 或 C 程序的执行结果，速度比现有系统快 10-39 倍，且安全性仅依赖于标准哈希函数。该系统解决了零知识证明在效率、通用性和安全性方面的三大挑战，使程序执行证明成为常规计算的一部分。

    推荐理由：Magnetar 系统解决了零知识证明的三大挑战，为通用计算提供了可验证的新范式。

  1. AWS Machine Learning Blog75

    AWS发布Trust in Depth框架：在保持控制的同时给予智能体更多自主性

    AWS提出Trust in Depth框架，通过Scope、Know、Bound、Observe四个层次，让企业能够在保持控制的同时给予AI智能体更多自主性。该框架结合自动化推理技术，确保智能体在执行任务时遵循预设规则，同时提供完整的可观察性以便持续改进。

    推荐理由：原文介绍了AWS的Trust in Depth框架，通过分层验证机制实现AI智能体自主性与可控性的平衡。

  1. GitHub Blog · AI & ML68

    GitHub 发布密钥检测模型：在更少噪音中发现更多密钥

    GitHub 发布了基于 ModernBERT 的密钥检测模型，采用两阶段管道（候选生成和上下文感知分类），相比之前的 LLM 管道，用户接受度提高 11.5%，推送后扫描执行时间减少 86%，服务成本降低 98%以上。该模型通过结合正则表达式的高召回率和 ModernBERT 的上下文理解能力，有效区分真实密钥和假阳性，提高了检测精度和效率。

    推荐理由：GitHub 发布了基于 ModernBERT 的密钥检测模型，通过两阶段管道显著提高了检测精度并降低了成本。

  1. AWS Machine Learning Blog68

    AWS重新思考RAG系统的访问控制方案

    AWS介绍了Amazon Quick和Amazon Bedrock Knowledge Bases如何通过实时访问控制列表(ACL)解决企业RAG系统中的权限管理挑战。该方案采用两阶段架构：第一阶段进行预检索过滤，第二阶段实时验证候选文档的访问权限，确保AI生成的内容仅包含用户有权访问的信息。这种方法解决了传统方法中权限数据过时、映射复杂性和数据源变化带来的安全漏洞问题。

    推荐理由：原文详细介绍了AWS如何通过实时访问控制列表解决企业RAG系统中的权限管理难题。

  1. AWS Machine Learning Blog76

    AWS 在 Amazon Bedrock 上推出 GLM 5.3

    AWS 在 Amazon Bedrock 上推出 GLM 5.3，这是一个 753B 参数的混合专家模型，专为编码和长周期智能体任务优化，支持提示缓存和跨区域推理。GLM 5.3 在编码和安全基准测试中表现出色，可通过 OpenAI 兼容 API 或 Amazon Bedrock API 访问，并支持多种服务层级。

    推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。

  1. GitHub Blog · AI & ML72

    GitHub Security Lab 发布基于 Taskflow Agent 的 AI 驱动模糊测试工具

    GitHub Security Lab 发布了 Fuzzing Taskflow，一个基于 LLM Agent 的自动化模糊测试管道，可自动识别入口点、分析构建系统、编写测试桩、运行 AFL++、分析覆盖率、改进测试桩、分类崩溃并生成漏洞报告。该工具使用 Claude Sonnet 5 作为默认模型，通过结构感知模糊测试和进化语料库提高效率，并提供实时仪表盘监控测试进度。

    推荐理由：原文给出了自动化模糊测试的具体实现方式和能力变化，读者可以据此了解如何提高代码安全性检测效率。

  1. Google DeepMind70

    Google DeepMind 推出安全的服务器端内存技术

    Google DeepMind 发布了 Private AI Compute 架构更新，引入安全的服务器端内存功能，使 AI 助手能够在云端安全地存储长期记忆，同时保持设备端级别的隐私保护。该技术通过硬件强制安全区、加密通道和设备派生加密密钥保护用户数据，确保即使 Google 也无法访问用户信息。

    推荐理由：原文给出了隐私计算架构的更新方案，解决了云端AI长期记忆与设备端隐私保护的矛盾。

已经到底了