AWS SageMaker AI多轮强化学习实践指南
AWS发布多轮强化学习(MTRL)教程，指导用户如何在SageMaker AI上训练AgentCore智能体，使其能够处理需要序列决策的任务。教程以Wordle游戏为例，展示了从环境部署、数据准备到模型训练和评估的完整流程，使用GPT-OSS-20B模型将解决率从61%提升到84%，训练成本约339美元。
推荐理由：多轮强化学习让模型从单次回答转向序列决策，AWS教程展示了如何用SageMaker训练AgentCore智能体。
#部署/工程
AWS Machine Learning Blog精选AI 评分7575 OpenAI NewsAI 评分4545 OpenAI 如何通过 Habitat 多租户与全球缓存实现 ChatGPT 12 倍读取加速
OpenAI 使用 Habitat 多租户架构、全球缓存和 Azure Cosmos DB 将 ChatGPT 读取速度提升 12 倍，服务超 10 亿用户。
AWS Machine Learning BlogAI 评分4343 拜耳作物科学基于 Amazon Bedrock AgentCore 构建智能体决策引擎
拜耳作物科学推出智能体决策引擎（ADE），在 Amazon Bedrock AgentCore 上运行 22 个专业智能体，80% 用户问题无需工程师介入即可解决。ADE 通过 LangGraph 协调工作流，结合 AWS 统一运营支持，将故障诊断时间从 1 小时缩短至 10 分钟。
AWS Machine Learning BlogAI 评分3535 Amazon QuickSight 层级地图新增 GeoJSON 点位与路线可视化功能
Amazon QuickSight 层级地图现支持 GeoJSON 文件中的 Point 和 LineString 几何类型，可标记具体位置（如门店）或绘制路线（如航班路径）。用户需通过共享键值关联 QuickSight 数据集与 GeoJSON 文件，文件最大支持 100 MB。该功能适用于展示地理位置相关的业务模式，如销售区域或配送路径。
AWS Machine Learning BlogAI 评分4545 AWS CDK 协调 SageMaker AI 端点自动扩缩容
AWS 发布可复用 CDK construct，通过 CloudFormation 自定义资源自动注册/注销 SageMaker AI 端点自动扩缩容，解决配置更新时部署失败问题。该方案在单次部署中完成端点配置和扩缩容参数更新，无需手动干预。
Hugging Face BlogAI 评分4242 Hugging Face 推出 Trainium 模型支持查询工具
Hugging Face 发布 torch-neuronx 模型支持查询工具，可查看 Hub 上模型是否能在 AWS Trainium 上运行，并提供运行脚本。该工具支持文本生成和图文模型，测试结果基于公共数据集，用户可直接查询模型兼容性。
NVIDIA BlogAI 评分5555 哈萨克斯坦扩展AI计算基础设施
NVIDIA创始人黄仁勋访问哈萨克斯坦，签署AI基础设施投资协议。Firebird将在哈萨克斯坦建设AI工厂，部署45,000块NVIDIA Grace Blackwell GPU，总容量达500兆瓦。哈萨克斯坦电信公司已部署880块NVIDIA GPU，并计划明年再部署2,000块。
AWS Machine Learning Blog精选AI 评分7373 AWS博客：使用Amazon SageMaker AI上的Kokoro TTS实现AI语音代理的流式低延迟语音
AWS发布教程，展示如何通过流式文本到语音(TTS)技术解决AI语音代理的响应延迟问题。文章介绍了在Amazon SageMaker AI上部署Kokoro-82M模型，实现句子级别的语音合成，将首次音频输出时间从329.3毫秒减少到156.7毫秒，提升52.4%。同时比较了不同传输方式的成本和性能，包括base64编码SSE和二进制JSON混合传输方案。
推荐理由：通过流式合成解决AI语音助手响应延迟问题，将首次音频输出时间减少一半以上，展示了如何在SageMaker上实现低延迟语音流。
AWS Machine Learning Blog精选AI 评分7575 AWS 推出 SageMaker 训练会话 API，无需管理 GPU 即可编写自定义训练循环
AWS 发布 Amazon SageMaker 训练会话 API，允许开发者编写自定义训练循环，同时由服务管理 GPU 资源、分布式执行、故障恢复和检查点存储。
推荐理由：将训练抽象从算法层下沉到计算层，让开发者专注算法创新而无需管理GPU资源，这种服务模式可能重塑大模型定制化开发流程。
AWS Machine Learning Blog同事件AI 评分6565 AWS SageMaker AI 推出训练会话功能，无需管理 GPU 即可自定义模型
AWS 宣布 SageMaker AI 推出训练会话功能，企业无需管理 GPU 即可自定义模型。该功能支持多种后训练技术如 SFT、DPO、RLVR、RLAIF 和多轮强化学习，开发者可编写自己的训练循环，同时 SageMaker AI 处理 GPU 分配、分布式执行和故障恢复。
AWS Machine Learning BlogAI 评分4040 Amazon SageMaker AI 如何通过实测优化 TTS 自动扩缩容目标
AWS 在 Amazon SageMaker AI 部署 Kokoro-82M TTS 模型时，用实测的 Q_max（最大并发请求数）和 T_total（扩容耗时）替代猜测的自动扩缩容目标。该方案基于 ConcurrentRequestsPerModel 指标，避免因目标值错误导致资源闲置或延迟超标。
AWS Machine Learning Blog精选AI 评分6565 Rescale 如何使用 Strands Agents 和 AI-DLC 构建 AI 分类智能体
Rescale 使用 AWS 的 AI-Driven Development Lifecycle (AI-DLC) 框架，在五天内构建了一个智能分类智能体，用于自动分类和路由夜间端到端测试失败。
推荐理由：五天从概念到测试环境，AI-DLC方法论让智能体开发既快又稳，关键在于人机协作而非完全自动化。
OpenAI NewsAI 评分3030 OpenAI 解读 FDE（Forward Deployed Engineering）
OpenAI 阐释 FDE 团队的职责与工作模式，将工程能力直接嵌入产品开发流程。FDE 团队专注于将前沿 AI 技术转化为实际产品功能，确保技术落地的高效性与实用性。
AWS Machine Learning BlogAI 评分4040 AWS PrivateLink 如何为 Amazon Quick 建立企业级私有网络连接
AWS 推出基于 PrivateLink 的私有连接方案，让 Amazon Quick 无需公网访问企业防火墙后的数据源。该方案通过 VPC 端点处理用户流量，VPC 连接处理数据源查询，支持 PostgreSQL、MySQL 等数据库及内部 API，降低攻击面并满足 HIPAA 等合规要求。
AWS Machine Learning Blog精选AI 评分6868 AWS发布基于Strands Agents的自适应智能体智能框架
AWS发布了基于Strands Agents的自适应智能体智能框架(AAIF)，通过本地小模型处理常规任务，云端大模型处理复杂分析，降低API成本并减少延迟。该框架采用三层架构：智能调度层使用轻量级SLM作为决策层，本地处理层通过Ollama运行SLM处理常规任务，云处理层通过Amazon Bedrock处理复杂模式分析和战略建议。
推荐理由：通过本地小模型与云端大模型协同，AAIF框架解决了AI智能体全依赖大模型导致的成本与延迟问题，展示了智能路由的实用价值。
AWS Machine Learning BlogAI 评分4545 AWS Trainium 上使用 torchtitan 训练 Qwen3
AWS Trainium 通过 torchtitan 支持三种方式训练 Qwen3，包括 Transformers v5 后端、torchtitan 原生实现及 NKI MoE 内核优化。实验在 trn2.48xlarge 实例上完成，支持预训练和微调，可加载 Hugging Face 检查点并导出 safetensors 格式。
Hugging Face Blog精选AI 评分8181 VocabX：通过词汇专业化降低小模型推理成本77%
Hugging Face 博客介绍了 VocabX 方法，通过按成本而非频率重构词汇表，在保持基础模型不变的情况下，将葡萄牙语作文评分系统的推理成本降低77%，同时提高了评分质量。该方法在多个领域和模型家族中都优于现有参考方法。
推荐理由：通过按成本而非频率重构词汇表，VocabX 在保持模型不变的情况下降低推理成本77%，为小模型领域专业化提供新思路。
Hugging Face BlogAI 评分4242 Hugging Face 博客：TorchNeuron 系统性能剖析（第一部分）—— AWS Trainium 上的系统级剖析
Hugging Face 博客详解如何使用 TorchNeuron 对 AWS Trainium 推理性能进行系统级剖析，涵盖 torch.profiler 配置、Neuron Explorer 工具及 RMSNorm 操作的三种实现对比分析。
Hugging Face BlogAI 评分4242 Hugging Face 博客：TorchNeuron 系统性能剖析（第一部分）—— AWS Trainium 上的系统级剖析
Hugging Face 博客详解如何使用 TorchNeuron 对 AWS Trainium 推理性能进行系统级剖析，涵盖 torch.profiler 配置、Neuron Explorer 工具及 RMSNorm 操作的三种实现对比分析。
NVIDIA Blog同事件AI 评分6868 NVIDIA 推出 Confidential Bare Metal，扩展机密计算能力
NVIDIA 发布 Confidential Bare Metal 部署选项，使前沿模型构建商能够在第三方基础设施上运行敏感工作负载，同时保持对模型和数据的控制。
同一件事，精选收录的是《NVIDIA 推出多领域开源模型家族》
NVIDIA Blog精选AI 评分6565 NVIDIA cuDSS 正式发布，加速工程与科学仿真
NVIDIA cuDSS 今日正式发布，这是一款 CUDA-X 库，可将工程和科学仿真中的关键部分转移到 GPU 上执行。cuDSS 加速大型稀疏系统求解，使应用程序减少结果时间并提高仿真吞吐量，使用户能够以更低成本探索更大、更真实的模型。Applied Materials、COMSOL、Cadence 等行业领导者已将 cuDSS 集成到其工具中，实现最高 10 倍的加速。
推荐理由：cuDSS 将稀疏系统求解加速10倍，让工程仿真从工作站扩展到计算集群，降低设计验证成本。
NVIDIA BlogAI 评分7373 Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式商用
Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式商用，A5X 实例将集成 Vera Rubin NVL72 GPU、ConnectX-9 SuperNICs 和先进液冷技术，支持大规模智能体推理和强化学习。
NVIDIA Blog精选AI 评分7070 NVIDIA发布Vera CPU助力欧洲构建本地基础设施
NVIDIA推出Vera CPU，被Nebius、Nscale等云服务商采用，用于构建支持智能体计算的新一代基础设施。Vera CPU专为智能体工作负载设计，能在处理数千个任务时保持高速响应，支持AI代理执行代码、运行工具和测试结果。服务器制造商Bull、Dell、HPE等已基于Vera构建系统，数据公司ClickHouse、Elastic等测试显示其在分析、ETL和语义搜索工作负载上表现优异。
推荐理由：Vera CPU专为智能体计算设计，在千级并发下保持响应速度，正在重构数据中心与AI基础设施的底层架构。
NVIDIA Blog同事件AI 评分6868 NVIDIA Agent Toolkit 扩展，为企业智能体提供数据基础
NVIDIA 发布扩展版企业级 Agent Toolkit，新增 Agent Knowledge Foundation，包含 CUDA-X 库、Nemotron Retriever 和 Kumo 系列模型，使企业智能体能直接使用公司数据做出决策。
同一件事，精选收录的是《NVIDIA 推出多领域开源模型家族》
NVIDIA Blog同事件AI 评分7373 NVIDIA 推出欧洲云合作伙伴计划，构建主权、开放、安全的 AI 智能体基础设施
NVIDIA 宣布扩大欧洲云合作伙伴网络，提供区域化计算能力、开放模型和安全智能体架构。合作伙伴包括 Nscale、Crusoe、Nebius 等公司，将部署 NVIDIA DSX AI Factory 平台和 Vera Rubin 基础设施，支持模型训练、推理和智能体应用开发。NVIDIA 还推出 OpenShell 参考架构，为智能体部署提供安全边界控制。
同一件事，精选收录的是《NVIDIA 推出多领域开源模型家族》
AWS Machine Learning BlogAI 评分4545 AWS Bedrock 支持从加拿大通过跨区域推理访问 OpenAI GPT 模型
AWS Bedrock 现在支持从加拿大区域通过跨区域推理访问 OpenAI GPT-5.6、GPT-6 和 GPT-6.1 模型。这些模型支持文本和图像输入、100万 token 上下文窗口、推理模式和工具调用，可通过 OpenAI API 或 Bedrock Converse API 调用。推理处理在北美进行，提供容量池以应对需求高峰。
AWS Machine Learning Blog精选AI 评分6565 Octave如何在Amazon Bedrock上构建安全的多租户AI基础架构
Octave Reliance在AWS上构建了一个安全的多租户AI基础架构，解决了医疗设备、制药和食品制造等监管行业中的数据隔离与语义搜索需求。该架构包含数据准备、安全执行和内容保护三层，使用Cohere Embed v4模型和Amazon Bedrock AgentCore，实现了2亿文档的嵌入处理和投诉分类助手功能，将每个用例的部署时间减少了50%。
推荐理由：在医疗设备等强监管领域，Octave通过构建三层AI基础架构，实现了多租户数据隔离与高效语义搜索，为SaaS平台AI落地提供了可复用的安全模式。
AWS Machine Learning Blog精选AI 评分7070 Eon 如何在 Amazon Bedrock AgentCore 上构建多云调查功能
Eon 使用 Amazon Bedrock AgentCore 构建了单一认证网关，替代了多工具凭证和本地 Model Context Protocol (MCP) 进程。该架构实现了基于 Cedar 的身份分离、跨账户连接，以及超过100名开发人员和自主代理在三个云上的统一工具访问。新工程师现在可以在约两分钟内访问其角色允许的所有工具，而之前需要两天时间配置凭证和本地 MCP 服务器。
推荐理由：用单一网关替代多工具凭证和本地MCP进程，将工程师入职时间从两天缩短到两分钟。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 TorchTPU：PyTorch 原生支持 TPU
Hugging Face 发布 TorchTPU，为 PyTorch 添加原生 TPU 后端，使开发者可以直接在 TPU 上运行 Transformers、Diffusers 和 Kernels 库。
推荐理由：TorchTPU 让 PyTorch 原生支持 TPU，开发者无需学习 JAX 或使用 torch_xla，只需一行代码即可将模型迁移到 TPU。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 AnyLanguageModel 1.0：支持苹果平台本地模型
Hugging Face 发布 AnyLanguageModel 1.0，这是一个苹果 Foundation Models 框架的替代方案，允许开发者选择应用使用的模型和提供商。该版本支持本地模型(llama.cpp、MLX、Core ML)和云端模型(OpenAI、Anthropic、Google Gemini等)，提供工具调用、引导生成、图像支持等功能，并加速模型下载。
推荐理由：统一API让本地与云端模型无缝切换，开发者无需重构代码即可灵活部署，这可能是跨平台AI应用落地的关键一步。
Hugging Face Blog精选AI 评分6565 PyTorch 2.15 为 Mac 带来 MPS 性能大幅提升
PyTorch 2.15 为 Apple Silicon Mac 带来多项性能提升：FP8 支持让模型占用内存减半，MoE 模型解码速度提升 5-6.5 倍，视频解码内存占用从 270GB 降至 8GB，线性层和 softmax 运算速度显著提高。
推荐理由：FP8和Metal内核优化让Mac上的模型推理速度提升5-6.5倍，内存占用从270GB降至8GB，开源生态在端侧持续突破性能边界。
AWS Machine Learning Blog精选AI 评分7575 AWS 在 Amazon Bedrock 上支持 Anthropic Claude 模型的结构化输出
AWS 宣布 Amazon Bedrock 现已支持所有 Anthropic Claude 模型的结构化输出功能，用户可通过 bedrock-runtime 和 bedrock-mantle 端点获取符合 JSON schema 的响应，无需自定义解析或重试逻辑。该功能通过约束解码确保输出符合预定义结构，适用于数据提取、报告生成、API 响应和智能工单路由等场景，并支持批量推理和跨区域推理。
推荐理由：结构化输出将 Claude 响应从概率性转为确定性，减少解析成本的同时提升生产环境可靠性。
Hugging Face Blog精选AI 评分7575 Hugging Face发布TorchNeuron，简化在AWS Trainium上运行模型
Hugging Face发布TorchNeuron，为PyTorch提供AWS Trainium的新原生后端。从2026年10月20日起，研究人员和开发者可通过pip install torch-neuronx安装使用。TorchNeuron使Transformers、Diffusers等库直接支持Trainium，文本生成模型支持率从Optimum Neuron的46%提升至89%。
推荐理由：TorchNeuron让AWS Trainium支持PyTorch原生接口，模型支持率从46%提升至89%，降低了AI芯片的使用门槛。
GitHub Blog · AI & ML精选AI 评分7070 GitHub Copilot 应用会话如何在 VS Code 中继续
GitHub 发布教程，介绍如何将 Copilot 应用中的会话直接在 VS Code 中打开，保持对话、代码更改和工作上下文不变。用户可以在 VS Code 中审查代理的更改、继续对话、手动修改代码、本地测试并推送更新到关联的拉取请求。
推荐理由：打通 Copilot 应用与 VS Code 的会话流转，让 AI 辅助开发与人工调试无缝衔接。
AWS Machine Learning BlogAI 评分4343 Deepgram 优化 AWS Trainium 语音 AI 推理效率
Deepgram 将 Nova-3 语音识别模型迁移至 AWS Trainium2，在批处理任务中实现每美元处理音频量提升 11–70%。通过 PyTorch 重建、内核调优及 Rust 并行运行时，单 trn2.3xlarge 实例可运行 8 个模型副本，成本效率显著提升。
AWS Machine Learning Blog同事件AI 评分6565 vLLM实现双向KV传输提升多轮智能体工作负载TTFT性能
AWS展示了vLLM中的双向KV缓存传输技术，通过在预填充和解码节点间共享KV缓存，减少多轮对话中的重复计算。在Amazon EC2 P5en实例测试中，Qwen3-32B和GLM-5-FP8模型的TTFT分别降低1.6倍和3.3倍。该技术需要配置块保留TTL和重新计算阈值，并通过KV缓存感知路由器协调。
同一件事，精选收录的是《AWS 推出基于推送的KV传输技术提升vLLM推理性能》
AWS Machine Learning Blog精选AI 评分7070 AWS 推出基于推送的KV传输技术提升vLLM推理性能
AWS 机器学习博客介绍了基于推送的KV传输技术，用于改进vLLM中解耦推理的TTFT和TPOT。在Amazon EC2 P5en实例上测试，推送模式相比拉取模式实现了最高3倍的TTFT提升和30%的TPOT改善。该技术通过将传输协调工作移至预填充端的后台线程，避免了关键路径上的延迟。
推荐理由：将KV传输从拉取模式改为推送模式，使解码端准备与预填充计算重叠，显著降低了高请求率下的TTFT和TPOT。
NVIDIA BlogAI 评分4242 NVIDIA 推进媒体领域智能安全框架，联合 EBU 扩展欧洲公共广播主权方案
NVIDIA 与欧洲广播联盟（EBU）扩展主权媒体框架，整合云服务商、开源模型和集成商，保障广播机构数据主权与安全；Adobe Frame.io 借助 NVIDIA GPU 加速视频搜索，实现 5 倍嵌入生成速度提升，支持 UFA 快速定位历史素材。
AWS Machine Learning BlogAI 评分7575 AWS发布基于Amazon Bedrock AgentCore的生产级AI智能体评估框架
AWS介绍了九阶段AI智能体评估框架，涵盖从基础定义到持续改进的全生命周期，帮助确保生产环境中AI智能体的质量和可靠性。该框架使用Amazon Bedrock AgentCore Evaluations，包括质量、安全、性能、成本和运营控制五个维度的评估，通过黄金数据集、评估器栈和自动化反馈循环，实现了智能体质量的持续监控和改进。
NVIDIA Blog精选AI 评分8383 NVIDIA 发布 Nemotron 3.5 Super VL 和 Bolt 模型
NVIDIA 发布了 1200 亿参数的开放模型 Nemotron 3.5 Super VL，以及两个边缘模型 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB，覆盖从企业服务器到边缘设备的全范围智能体部署。Super VL 在多模态智能体任务上达到前沿准确度，同时速度比同类模型快 5 倍；Bolt 系列则针对本地硬件优化，平衡智能与速度。
推荐理由：NVIDIA 推出覆盖从数据中心到边缘设备的全系列智能体模型，开放权重让企业能自主定制部署。