跳到正文
10月21日周三
10月20日周二
  1. AWS Machine Learning Blog55

    AWS教程:使用AtScale和Amazon Bedrock AgentCore构建智能体AI的语义层

    AWS官方教程介绍如何使用AtScale语义层和Amazon Bedrock AgentCore构建智能体AI系统,实现企业数据的统一访问和权限控制。文章详细展示了如何使用语义建模语言(SML)构建客户360度模型,并通过AtScale的MCP服务器与AgentCore集成,实现身份传播、查询优化和治理功能。

  2. Hugging Face Blog72

    ALTK-Evolve:通过学习记忆在客户服务任务中超越τ²-bench排行榜

    IBM研究团队提出ALTK-Evolve方法,使用GPT-4.1学习并应用行为指南,在不更新模型权重的情况下,将基础ReAct智能体在τ²-bench客户服务基准测试中的Pass^4提升至67.5%,超越所有零售领域提交的条目。

    推荐理由:通过学习指南而非权重更新提升基础模型性能,为低成本高可靠性智能体提供新路径。

  3. Hugging Face Blog75

    Hugging Face 发布 AnyLanguageModel 1.0:支持苹果平台本地模型

    Hugging Face 发布 AnyLanguageModel 1.0,这是一个苹果 Foundation Models 框架的替代方案,允许开发者选择应用使用的模型和提供商。该版本支持本地模型(llama.cpp、MLX、Core ML)和云端模型(OpenAI、Anthropic、Google Gemini等),提供工具调用、引导生成、图像支持等功能,并加速模型下载。

    推荐理由:统一API让本地与云端模型无缝切换,开发者无需重构代码即可灵活部署,这可能是跨平台AI应用落地的关键一步。

  4. Hugging Face Blog65

    PyTorch 2.15 为 Mac 带来 MPS 性能大幅提升

    PyTorch 2.15 为 Apple Silicon Mac 带来多项性能提升:FP8 支持让模型占用内存减半,MoE 模型解码速度提升 5-6.5 倍,视频解码内存占用从 270GB 降至 8GB,线性层和 softmax 运算速度显著提高。

    推荐理由:FP8和Metal内核优化让Mac上的模型推理速度提升5-6.5倍,内存占用从270GB降至8GB,开源生态在端侧持续突破性能边界。

  5. NVIDIA Blog38

    巴塞罗那超级计算中心启动 AI 工厂加速器计划,NVIDIA 提供技术支持

    巴塞罗那超级计算中心 BSC AI Factory 加速器计划全面运营,通过 MareNostrum 5 超算为西班牙初创企业提供算力支持。NVIDIA 通过 Inception 项目提供深度学习课程、投资对接等资源,三家初创企业获评 AI 冠军,涵盖水务、医疗和制药领域。该计划自 2025 年 4 月启动以来已交付超 800 项服务。

  6. Hugging Face Blog75

    Hugging Face发布TorchNeuron,简化在AWS Trainium上运行模型

    Hugging Face发布TorchNeuron,为PyTorch提供AWS Trainium的新原生后端。从2026年10月20日起,研究人员和开发者可通过pip install torch-neuronx安装使用。TorchNeuron使Transformers、Diffusers等库直接支持Trainium,文本生成模型支持率从Optimum Neuron的46%提升至89%。

    推荐理由:TorchNeuron让AWS Trainium支持PyTorch原生接口,模型支持率从46%提升至89%,降低了AI芯片的使用门槛。

  7. AWS Machine Learning Blog65

    vLLM实现双向KV传输提升多轮智能体工作负载TTFT性能

    AWS展示了vLLM中的双向KV缓存传输技术,通过在预填充和解码节点间共享KV缓存,减少多轮对话中的重复计算。在Amazon EC2 P5en实例测试中,Qwen3-32B和GLM-5-FP8模型的TTFT分别降低1.6倍和3.3倍。该技术需要配置块保留TTL和重新计算阈值,并通过KV缓存感知路由器协调。

    同一件事,精选收录的是《AWS 推出基于推送的KV传输技术提升vLLM推理性能》

  8. AWS Machine Learning Blog70

    AWS 推出基于推送的KV传输技术提升vLLM推理性能

    AWS 机器学习博客介绍了基于推送的KV传输技术,用于改进vLLM中解耦推理的TTFT和TPOT。在Amazon EC2 P5en实例上测试,推送模式相比拉取模式实现了最高3倍的TTFT提升和30%的TPOT改善。该技术通过将传输协调工作移至预填充端的后台线程,避免了关键路径上的延迟。

    推荐理由:将KV传输从拉取模式改为推送模式,使解码端准备与预填充计算重叠,显著降低了高请求率下的TTFT和TPOT。

10月17日周六
10月16日周五
  1. Hugging Face Blog75

    NVIDIA发布印度语预训练数据集和开放生成流程

    NVIDIA与IIT Madras和AI4Bharat合作发布Nemotron-pretraining-Indic-v1数据集,包含2.8万亿token的印度语训练数据,涵盖22种印度宪法语言,并开放了GPU加速的数据生成流程。该数据集结合了原生脚本和罗马化文本,包含数学、代码和问答内容,旨在解决印度语言技术因数据不足而落后于英语的问题。

    推荐理由:原文提供了2.8万亿token的印度语训练数据和开放生成流程,为印度语模型训练提供了新资源。

  2. Hugging Face Blog78

    IBM 发布 Granite Switch 4.1 多模态模型

    IBM 发布 Granite Switch 4.1 模型,整合了聊天、决策和语音识别功能,支持从单一端点切换任务。该模型包含新的决策 aLoRA、Guardian aLoRA 和 Granite-Speech-5.0-Turbo-CTC,在安全决策任务上优于多个竞争模型,并可在单个 GPU 上实时运行多种任务。

    推荐理由:原文提供了多模态能力整合和性能对比,读者可据此评估其在实际应用中的效率优势。

10月15日周四
  1. NVIDIA Blog83

    NVIDIA 发布 Nemotron 3.5 Super VL 和 Bolt 模型

    NVIDIA 发布了 1200 亿参数的开放模型 Nemotron 3.5 Super VL,以及两个边缘模型 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB,覆盖从企业服务器到边缘设备的全范围智能体部署。Super VL 在多模态智能体任务上达到前沿准确度,同时速度比同类模型快 5 倍;Bolt 系列则针对本地硬件优化,平衡智能与速度。

    推荐理由:NVIDIA 推出覆盖从数据中心到边缘设备的全系列智能体模型,开放权重让企业能自主定制部署。

  2. Hugging Face Blog75

    Apertus 1.5 模型发布

    Apertus 1.5 扩展了 8B 和 70B 模型,新增图像/音频理解、思考模式、4倍更长的上下文窗口,以及改进的指令遵循和工具使用能力。模型采用 Apache 2.0 许可证开源,通过早期融合方式处理多模态数据,并在多个基准测试中表现出色。

  3. NVIDIA Blog65

    NVIDIA加入欧洲AI科学促进计划,提供开放模型、计算资源和培训

    NVIDIA加入欧洲委员会的AI科学促进计划,承诺提供250多个开放模型、1400多个开源软件项目、计算资源、培训课程和技术支持,以加速欧洲科学研究和创新。

    推荐理由:原文详细描述了NVIDIA为欧洲科学界提供的技术支持计划,包括开放模型、计算资源和培训项目。

  4. Google Research70

    Google Research发布2026年10项增强人类创造力的AI研究进展

    Google Research在Research@活动中展示了10项AI研究进展,包括Google Earth AI行星智能系统、多智能体编排工具、Deep Review文档审查系统、下一代边缘AI芯片等,这些技术正在改变医疗、科学、商业和教育等多个领域。

    推荐理由:原文展示了10项AI研究进展,覆盖地球智能、医疗健康、科学工具等多个领域,体现了AI如何增强人类创造力。

10月14日周三
  1. NVIDIA Blog70

    NVIDIA助力欧洲城市部署AI智能体优化城市运营

    NVIDIA加速计算技术被欧洲多城市用于构建物理AI智能体和数字孪生系统,支持城市决策、维护预测和公共服务优化。合作伙伴包括ABA Technology、Akila、Galene AI等公司,应用案例覆盖比利时、芬兰、法国、意大利等国家的城市,涉及交通管理、能源效率、公共安全等多个领域。

    推荐理由:原文展示了NVIDIA技术如何支持欧洲城市部署AI智能体,提供了具体应用案例和合作伙伴信息。

  2. GitHub Blog · AI & ML68

    GitHub 发布密钥检测模型:在更少噪音中发现更多密钥

    GitHub 发布了基于 ModernBERT 的密钥检测模型,采用两阶段管道(候选生成和上下文感知分类),相比之前的 LLM 管道,用户接受度提高 11.5%,推送后扫描执行时间减少 86%,服务成本降低 98%以上。该模型通过结合正则表达式的高召回率和 ModernBERT 的上下文理解能力,有效区分真实密钥和假阳性,提高了检测精度和效率。

    推荐理由:GitHub 发布了基于 ModernBERT 的密钥检测模型,通过两阶段管道显著提高了检测精度并降低了成本。

  3. Hugging Face Blog78

    LiquidAI 发布 LFM2.5-24B-A2B 推理模型

    LiquidAI 发布 LFM2.5-24B-A2B 推理模型,这是一个24B参数但仅2B活跃参数的模型,专为在设备上快速、私密运行智能体而设计。该模型在16项基准测试中表现出色,在工具使用和智能体工作流方面领先或匹敌更大规模的模型,推理速度在Apple M5 Max上达到184 tok/s,在NVIDIA B300 GPU上可达21K输出tok/s。

    推荐理由:模型以2B活跃参数实现推理能力,在设备上运行速度快且成本低,适合构建本地智能体。

  4. AWS Machine Learning Blog70

    AWS在Amazon SageMaker AI上实现MoE模型的内核工程优化

    AWS详细介绍了在Amazon SageMaker AI上对Mixture-of-Experts (MoE)模型的内核优化技术,包括Swap-AB矩阵转置优化、FP8张量量化后端路由选择以及Triton JIT重新编译消除等方法,这些优化使MoE模型在H200上实现了高达10%的吞吐量提升和9%的首个token生成速度提升。

    推荐理由:原文详细介绍了AWS在SageMaker AI上对MoE模型的内核优化技术,提供了具体实现方法和性能提升数据。

10月13日周二
10月10日周六
10月9日周五
  1. Hugging Face Blog70

    AI2发布GPU集群高效调度系统

    AI2发布了新的GPU集群调度系统,采用GPU时间预算、分层公平共享分配和时间切片合约,解决了GPU资源分配中的"公地悲剧"问题。新系统使团队获得98%的分配GPU时间,集群占用率保持在98%,调试工作队列等待时间从2小时降至30秒,维修人工干预减少74%。

    推荐理由:原文提供了GPU集群调度系统的具体改进方案和实际效果,读者可借鉴其预算分配和公平共享机制。

  2. Hugging Face Blog81

    使用ML Intern构建定制AI模型的实践指南

    作者分享使用Hugging Face的ML Intern工具在几天内构建了多个定制AI模型的实践经验,包括柑橘疾病识别模型、角色生成模型、相机角度LoRA等,详细说明了提示词编写方法和项目成本控制。

    推荐理由:作者通过实际案例展示了如何使用ML Intern快速构建定制化AI模型,提供了具体的方法和成本参考。

  3. NVIDIA Blog80

    NVIDIA展示如何通过前沿AI智能体将想法转化为模拟应用

    NVIDIA展示了开发者如何结合前沿AI模型与Omniverse库构建模拟应用,包括仓库模拟、机器人控制、人形机器人模拟和自动驾驶测试等场景。开发者通过自然语言指令指导AI智能体,利用GPU加速的物理、渲染和传感器模拟功能,完成从设计到测试的全流程。

    推荐理由:原文展示了前沿AI模型如何与Omniverse结合,帮助开发者构建复杂模拟应用。

10月8日周四
  1. Hugging Face Blog72

    LiquidAI 发布边缘端多模态决策模型 d1-3B 和 d1-omni-600M

    LiquidAI 发布两个开源决策模型 d1-3B 和 d1-omni-600M,支持文本、图像和音频输入,在边缘设备上实现快速推理。d1-3B 在 Decision Index 0.2.1 上得分为 48.57,优于所有 4B 和 9B 模型,在 NVIDIA Jetson AGX Thor 上回答问题仅需 16 ms。

    推荐理由:原文提供了模型性能指标和部署速度,读者可据此评估其在边缘设备上的实用性。

  2. GitHub Blog · AI & ML73

    GitHub 推出 AI 密钥保护功能以应对智能体生成代码的安全挑战

    GitHub 发布基于 ModernBERT 的密钥保护模型,可在推送前检测未结构化密钥,响应时间低于 2 毫秒,预计可将预防的密钥数量增加一倍以上。该功能将首先在 GitHub Secret Protection 中推出,并集成到 Copilot CLI 和 Copilot App 中。

    推荐理由:GitHub 推出基于 AI 的密钥保护模型,可提前检测并阻止未结构化密钥泄露。

10月7日周三
  1. Hugging Face Blog85

    Nemotron 模型在 IOI 和 IMO 竞赛中均获金牌级成绩

    NVIDIA 研究团队通过微调 Nemotron 模型,使其在国际信息学奥林匹克竞赛(IOI 2026)中获得 535.4/600 分,在国际数学奥林匹克竞赛(IMO 2026)中获得 30/42 分,均超过金牌分数线。团队使用了监督微调(SFT)、强化学习(RL)和生成-验证-改进的推理循环,并将相关模型、数据集和基准测试开源在 Hugging Face 上。

    推荐理由:展示了如何通过微调和推理循环将基础模型适配至竞赛金牌水平,提供了可复用的专业领域模型构建方法。

  2. AWS Machine Learning Blog73

    在AgentCore和OpenClaw上构建上下文感知AI助手

    AWS展示了如何使用AgentCore运行时和OpenClaw开源智能体系统构建具有持久记忆能力的个人AI助手。该系统通过AgentCore内存功能将一次性对话转化为持久知识,并使用结构化元数据标记记忆以便检索。

    推荐理由:原文提供了完整的架构设计和部署指南,读者可据此构建具有上下文记忆能力的AI助手。

  3. Google Research71

    Google Earth AI发布行星地理空间基础模型助力全球公共卫生

    Google Research推出地球AI的人口动态基础模型(PDFM),将隐私保护的搜索趋势、人类流动性和环境因素等信号整合为位置嵌入,可直接插入现有流行病学工作流,在多种疾病预测中表现优于传统数据源。

    推荐理由:原文提供了地球AI模型在公共卫生领域的实际应用案例和数据验证结果。

  4. AWS Machine Learning Blog40

    AWS 如何帮助企业遵循 ISO/IEC 42005:2025 负责任 AI 治理标准

    AWS 推出工具支持企业实施 ISO/IEC 42005:2025 AI 系统影响评估标准,包括 AIMS 实施指南和 Well-Architected Framework 负责任 AI 镜头。该标准指导企业整合 AI 风险评估到现有治理流程,提供全生命周期评估模板和触发机制。AWS 已通过 Amazon Bedrock 等服务获得 ISO AI 风险管理认证。