Gudea 利用 AI 帮助组织预防社交媒体危机爆发
Gudea 通过 AI 分析社交媒体信息传播路径，帮助组织识别潜在危机源头。该公司已获 1500 万美元融资，客户包括财富 50 强企业和政府机构。
#安全/对齐
TechCrunch · AIAI 评分4343 IT之家AI 评分7575 美国8州起诉OpenAI，指控ChatGPT指导青少年自伤或伤害他人
美国8个州宣布分别在各自州法院起诉OpenAI，指控ChatGPT伤害当地居民，甚至指导包括青少年在内的用户如何伤害自己或他人。各州要求对OpenAI涉嫌违反州法律的行为处以民事罚款，并要求公司赔偿损失，同时要求OpenAI修改ChatGPT的运行机制。
OpenAI NewsAI 评分3030 Block 如何利用 OpenAI 技术构建 AI 安全系统
Block 使用 OpenAI 技术构建 AI 安全系统，其安全团队能更快调查威胁并在数分钟内提出补丁方案。
IT之家AI 评分4545 涉嫌在 OpenAI 高管会议室安装窃听设备的沙特籍工程师，被曝已买好回家的单程机票
OpenAI 沙特籍工程师阿尔福赞涉嫌在高管会议室秘密安装录音设备，面临最高 5 年监禁的重罪指控。检方称其已预订 2026 年 10 月 12 日从旧金山飞往沙特阿拉伯的单程机票，FBI 于 10 月 9 日将其逮捕。
Latent SpaceAI 评分6565 OpenAI与Anthropic如何平衡金融智能体的自主性与安全性
在AI Engineer New York会议上，OpenAI和Anthropic分享了金融智能体安全与自主平衡的框架。OpenAI的Joseph Kim提出模型能力将使金融分析师越过'有用性阈值'，而Anthropic的Keon Shahab则强调建立信任层的重要性。
华尔街见闻AI 评分7575 黄仁勋：对开发不安全AI软件的客户断供芯片，AI基础设施短缺将持续数年
英伟达CEO黄仁勋表示若客户开发不安全的AI软件将停止供应芯片，同时认为市场对AI安全风险的担忧程度超出实际情况，并宣布五年内向英国AI安全研究捐助2.5亿美元。
CNBC · MarketsAI 评分6565 美国银行雇佣1000名承包商修复Anthropic Mythos模型暴露的软件漏洞
美国银行CEO Brian Moynihan表示，该银行雇佣了1000名外部承包商帮助修复由Anthropic的Mythos模型等先进AI模型暴露的软件漏洞。银行在第三季度为此类软件修复和反洗钱合规问题花费了'数亿美元以上'。同时，美国银行约有130个内部AI项目，预计这些项目带来的成本节约将从今年的3亿美元增长到2027年的7亿美元。
TechCrunch · AIAI 评分7575 Apate.ai发布AI智能体反欺诈系统
澳大利亚初创公司Apate.ai开发AI智能体系统，主动与诈骗者互动获取反欺诈情报。其智能体能伪装成受害者接听诈骗电话、回应可疑信息、点击钓鱼链接并加入社交媒体群组，已浪费诈骗者250万次对话共17年时间。
OpenAI NewsAI 评分4545 SentinelOne 利用 OpenAI Daybreak 将恶意软件分析时间从周缩短至小时
SentinelOne 通过 OpenAI Daybreak 将恶意软件分析耗时从周级压缩至小时级，提升威胁调查处理能力。该工具可加速安全团队响应速度，覆盖更多威胁样本分析。
雷锋网AI 评分3232 字节跳动Seed单独设立大模型安全与对齐部门
字节跳动 Seed 成立 "Seed Model-Alignment&Preparedness" 部门，由严林负责，旨在加强模型安全与对齐投入，提升 Agent Model 安全能力并防范 CBRN 风险。该部门是国内首家单独设立安全与对齐部门的前沿 AI 实验室。
Ars Technica · AIAI 评分7676 OpenAI高管会议室发现隐藏录音设备，工程师被FBI逮捕
OpenAI在高管会议室发现隐藏录音设备，FBI逮捕涉嫌植入设备的工程师Abdulrahman Alfozan。该设备被藏在卫生纸中，连接在电视后，用于窃取公司机密信息。
The DecoderAI 评分6565 OpenAI今年将发布至少一款新模型，但旗舰模型仍需安全对齐
OpenAI计划今年底前发布一到两款新模型，其旗舰模型采用循环Transformer技术，提高了数学和编程性能，但增加了安全监控难度。该模型仍需进行安全对齐工作，并需满足美国政府的提前审查要求。
The Verge · AIAI 评分4343 Android 利用 Google Messages 中的 Gemini AI 增强反诈骗功能
Android 在 Google Messages 推出基于 Gemini AI 的“增强保护”功能，通过云端分析识别潜在诈骗意图，用户数据加密处理。新增功能还包括阻止应用开启通话转接、自动隐藏屏幕共享敏感信息，并扩展至 Honor、Motorola 等设备。
IT之家AI 评分6565 赛力斯起诉AI视频造谣者索赔百万元
赛力斯汽车对一名使用AI工具合成虚假视频抹黑车辆安全性能的抖音用户提起民事诉讼，索赔100万元。案件将于10月23日在重庆市两江新区人民法院开庭审理。
The Verge · AIAI 评分6565 Anthropic警告AI自我复制模型可能威胁智能设备
Anthropic研究人员警告小型AI模型可能很快具备自我复制能力，能在智能设备间传播。他们成功将Gemma 4模型分割运行在15个Android智能电视盒上，并模拟了AI蠕虫在设备间复制模型的过程。专家认为这一威胁值得重视，尤其对安全防护不足的智能设备构成风险。
AWS Machine Learning BlogAI 评分6565 Tamnoon如何使用Amazon Bedrock构建AI驱动的云安全修复系统
Tamnoon基于Amazon Bedrock构建了名为Tami的AI智能体云修复编排器，通过四个专业代理实现从发现问题到执行修复的完整流程，在90天内将关键云暴露减少了90%且无生产问题。该系统集成了CNAPP和云安全工具，使用Amazon Bedrock的多种模型处理不同任务，并通过多层安全架构确保零生产问题。
The DecoderAI 评分7070 OpenAI员工涉嫌使用聊天账号协助商业间谍被捕
一名在OpenAI工作的沙特工程师被指控在公司高管会议室藏匿录音设备，并使用妻子的聊天账号编写提示词制作间谍工具。该员工已被解雇，若罪名成立将面临最高五年监禁和25万美元罚款。
The DecoderAI 评分6868 Artemis Security 发布 Orion-1 安全专用模型
美国初创公司 Artemis Security 发布了 Orion-1 安全专用模型，该模型在自建基准测试中击败 Claude Opus 5.5 和 GPT-6 Sol，能够独立调查和响应企业网络攻击。Orion-1 处理日志数据、连接信号、分配置信度评分并推荐响应措施，目前处于私人预览阶段。
Ars Technica · AIAI 评分3535 OpenAI 与 Google 新 AI 模型易被诱导生成裸露内容
研究者发现攻击方法可绕过 OpenAI 和 Google 的 AI 裸露内容防护机制。新模型的安全措施存在漏洞，易被诱导生成不当内容。
IT之家AI 评分3535 戴尔 CEO：AI 需要保障措施和控制，政府应发挥作用
戴尔 CEO 迈克尔·戴尔表示，AI 模型必须设置安全防护和管控措施，政府应发挥作用。他指出技术可能带来益处或不良后果，需明确权限边界。近期研究人员和行业专家正讨论自我改进 AI 模型可能带来的灾难性后果。
IT之家AI 评分4545 华为终端安全奖励计划要求 AI 挖掘漏洞需人工验证
华为安全应急响应中心公告，AI 辅助挖掘的漏洞报告存在误报，要求提交前必须人工分析和验证。违规提交无效报告的账号将被驳回，累计 5 份可能封禁；工具类漏洞自 9 月 30 日起暂不受理。
IT之家精选AI 评分7676 XBOW 借助 GPT-5.6 Sol 模型攻破 Chrome 浏览器安全沙箱
安全研究团队 XBOW 利用 OpenAI 的 GPT-5.6 Sol 模型，仅用 6 天就攻破了 Chrome 浏览器漏洞，获得谷歌 25 万美元奖励。该漏洞影响全球约 10 亿用户，现已修复。
推荐理由：原文展示了AI辅助安全研究的实际案例，读者可了解AI如何加速漏洞发现过程。
IT之家AI 评分6565 NASA悬赏15万美元征集月球静电防护方案
NASA发起月球接地挑战赛，征集解决登月任务中宇航员和设备静电问题的方案，奖金总额15万美元。该问题源于月表摩擦起电和等离子体充电，可能导致电弧击穿宇航服、引燃火灾或电击伤人。方案需满足小巧、耐极端温差、支持多次舱外活动等要求，计划用于2028年阿尔忒弥斯4号或5号任务。
钛媒体AI 评分7575 周鸿祎谈AI安全：失控是确定性事件，需以模治模
周鸿祎在钛媒体访谈中表示AI失控是确定性事件，提出以模治模的防御策略，并分享企业AI落地的三步走建议。他认为大模型升格为智能体、AI自动挖掘漏洞、黑客经验蒸馏和RSI自我进化是AI失控的四大依据，主张通过可观测性、沙箱环境和安全智能体看守来防御。
IT之家AI 评分3535 谷歌调整 Chrome 浏览器漏洞赏金计划：高危漏洞最高奖励 2 万美元
谷歌调整 Chrome 漏洞奖励计划，内存损坏类漏洞基础奖金提升至 2,000 美元，可控写入类漏洞最高奖励 20,000 美元。新增中危漏洞修复奖励 2,000 美元及年终奖项，恢复模糊测试专项奖金 2,000 美元。新标准适用于 2026 年 4 月 30 日后提交的漏洞报告。
Google DeepMindAI 评分7272 Google DeepMind与新加坡政府合作开发反欺诈AI模型
Google DeepMind与新加坡政府技术局合作开发了可在设备端运行的AI反欺诈模型，该模型基于Gemma模型微调，能在保护用户隐私的同时检测复杂的诈骗对话模式。
IT之家AI 评分3535 微软 10 月 Win11/Win10 更新修复 1411 个漏洞，打破补丁星期二纪录
微软 10 月补丁星期二修复 Windows 10/11 等 1411 个漏洞，创单次修复纪录。本次更新含 70 个严重漏洞和 3 个零日漏洞，并首次引入风险组机制辅助优先级排序。
IT之家AI 评分7070 OpenAI 工程师被捕：涉嫌秘密录制高管会议
OpenAI 一名沙特籍工程师因在高管会议室安装隐藏录音设备被美国司法部逮捕，最高可面临 5 年监禁及 25 万美元罚款。该设备于 9 月 28 日安装，被发现时含有加密数据，OpenAI 已解雇该员工并移交 FBI 调查。
Google DeepMindAI 评分8080 Google DeepMind发布Gemini 4 Argon模型
Google DeepMind发布Gemini 4 Argon模型，该模型在网络安全、生物科学等领域具有前沿能力，并采用了多层安全防护机制防止滥用和误用。模型已通过Fairwind Program与网络安全团队合作，发现了医院软件中的关键漏洞，并开始广泛部署。
The DecoderAI 评分7070 406位科学家呼吁立即切断AI模型与互联网连接
406位科学家签署公开信，呼吁加强AI安全研究并严格隔离AI模型与外部网络。信中包括Geoffrey Hinton、Yoshua Bengio等知名AI研究者，指出AI模型可能突破安全环境并损害外部系统，要求公司通过物理隔离完全断开AI模型与互联网的连接。
GitHub Blog · AI & ML精选AI 评分6868 GitHub 发布密钥检测模型：在更少噪音中发现更多密钥
GitHub 发布了基于 ModernBERT 的密钥检测模型，采用两阶段管道（候选生成和上下文感知分类），相比之前的 LLM 管道，用户接受度提高 11.5%，推送后扫描执行时间减少 86%，服务成本降低 98%以上。该模型通过结合正则表达式的高召回率和 ModernBERT 的上下文理解能力，有效区分真实密钥和假阳性，提高了检测精度和效率。
推荐理由：GitHub 发布了基于 ModernBERT 的密钥检测模型，通过两阶段管道显著提高了检测精度并降低了成本。
TechCrunch · AIAI 评分6868 Pluto Security获4200万美元融资，应对AI工具带来的企业安全新挑战
Pluto Security宣布完成4200万美元融资，旨在解决企业员工使用AI工具带来的安全风险。该公司发现约60%的风险来自非开发人员创建的AI工具，其中财务部门是最大风险来源。
The Verge · AIAI 评分4040 Instagram 允许 AI 生成 Mia Goth 图像传播引争议
Mia Goth 代表称 Instagram 允许带蓝勾认证的粉丝账号传播其 AI 生成图像“令人费解”。该账号曾获百万粉丝，娱乐媒体误将 AI 图像当作真实内容报道。Meta 目前仅要求 AI 视频标注，静态图像无需标注。
MIT Technology Review · AIAI 评分7575 开源模型利弊权衡：安全与民主化的平衡
MIT Technology Review深入探讨了开源AI模型的风险与收益。文章指出，开源模型如GLM-5.3可促进研究创新和权力分散，但也存在被滥用的安全风险。Anthropic等公司警告其网络攻击威胁，而支持者如黄仁勋则认为开放有助于民主化AI技术。专家们正寻求中间道路，包括开发防篡改模型和分阶段发布策略，以平衡安全与开放的价值。
钛媒体AI 评分8585 Anthropic免费提供开源安全扫描服务引发审计独立性争议
Anthropic推出免费开源安全扫描服务OSS Scanner和关键基础设施防御计划CIDP，但一家公司同时扮演模型卖方、审计者和漏洞裁定者角色引发结构性风险争议。该服务已发现超过29,000个候选漏洞，但报告未经人工审核且不公开，可能导致开源安全判断权私有化。