跳到正文

技术方向

推理能力 最新动态

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

45 条精选近 30 天 39 条共收录 182 条

更新

精选归档 · 第 2 页

10月15日周四第 21–40 条
  1. IT之家80

    中国科学家首次用书生-S2大模型攻克三维Ghys猜想

    上海人工智能实验室访问学者许地生团队依托书生科学多模态大模型S2,通过人机协同完成了困扰数学界30余年的三维Ghys猜想证明,相关论文已在arXiv发布,形式化代码在GitHub公开。北京大学董彬教授、刘若川院士团队利用SHEAF框架对证明完成形式化验证。

    推荐理由:中国科学家首次使用书生-S2大模型完成三维Ghys猜想证明,验证了人机协同解决世界级数学难题的新范式。

10月14日周三
  1. Hugging Face Blog78

    LiquidAI 发布 LFM2.5-24B-A2B 推理模型

    LiquidAI 发布 LFM2.5-24B-A2B 推理模型,这是一个24B参数但仅2B活跃参数的模型,专为在设备上快速、私密运行智能体而设计。该模型在16项基准测试中表现出色,在工具使用和智能体工作流方面领先或匹敌更大规模的模型,推理速度在Apple M5 Max上达到184 tok/s,在NVIDIA B300 GPU上可达21K输出tok/s。

    推荐理由:模型以2B活跃参数实现推理能力,在设备上运行速度快且成本低,适合构建本地智能体。

  2. AWS Machine Learning Blog70

    AWS在Amazon SageMaker AI上实现MoE模型的内核工程优化

    AWS详细介绍了在Amazon SageMaker AI上对Mixture-of-Experts (MoE)模型的内核优化技术,包括Swap-AB矩阵转置优化、FP8张量量化后端路由选择以及Triton JIT重新编译消除等方法,这些优化使MoE模型在H200上实现了高达10%的吞吐量提升和9%的首个token生成速度提升。

    推荐理由:原文详细介绍了AWS在SageMaker AI上对MoE模型的内核优化技术,提供了具体实现方法和性能提升数据。

10月13日周二
  1. 量子位76

    GPT-6 Astra联手非职业数学家,证明57年「摆圆」难题

    数学爱好者使用GPT-6 Astra成功证明了N≤20个圆盘的最优排列问题,解决了这个困扰数学家57年的难题。此前只有N≤14和N=19的情况已被验证,AI通过几何约束和计算机枚举方法完成了证明。

    推荐理由:AI首次严格证明数学难题,展示了大模型在复杂推理任务中的突破性进展。

  2. AWS Machine Learning Blog65

    AWS使用Ray LLM Deep Learning Containers实现多节点推理工作负载

    AWS展示了如何在Amazon EKS上使用多节点Ray LLM Deep Learning Containers部署一个大语言模型,通过分离prefill和decode阶段到两个GPU节点来提高推理性能。文章详细介绍了架构设计、部署步骤和配置方法,包括使用NIXL和EFA进行节点间KV缓存传输。

    推荐理由:原文提供了在AWS EKS上使用Ray LLM容器实现多节点推理的具体步骤和配置方法。

10月12日周一
  1. The Verge · AI81

    微软发布第三代Maia 300 AI芯片

    微软宣布推出第三代Maia 300 AI芯片,设计为微软产品和服务的主要AI推理系统,预计2027年开始部署。相比前代产品,Maia 300每兆瓦可处理多40%的tokens,在完整配置下吞吐量可达Maia 200的7倍,专为长上下文推理、低延迟对话体验和多步骤智能体任务设计。

    推荐理由:原文给出了性能提升和部署计划,读者可以据此评估微软AI芯片战略的进展。

  2. 量子位85

    华为诺亚方舟实验室发布Memento 3 AI系统,实现游戏操作效率超越人类56%

    华为诺亚方舟实验室联合UCL等团队开发的Memento 3 AI系统,在ARC-AGI-3的25款游戏、183个关卡中取得满分100分的RHAE成绩,操作次数比人类少56%。该系统以Claude Opus 5为底模,通过Code as Model方法实现递归自我改进,无需更新模型权重或微调即可通关。研究团队还让该系统挑战Atari Pong游戏,在掌握规则后无需调用大模型即可连续三局21:0获胜。

    推荐理由:华为团队提出基于世界模型的递归自我改进方法,在不更新模型权重的情况下实现游戏AI性能大幅提升。

10月11日周日
  1. 量子位85

    何恺明团队发布多模态VISTA框架

    何恺明团队在论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中提出视觉原生的Harness框架,让多模态模型直接观察环境、保存原始画面并在推理时回看细节。

    推荐理由:VISTA框架让多模态模型无需训练即可保存和回看视觉信息,在ARC-AGI-3等评测中表现优异。

  2. 量子位85

    OpenAI发布挂谷猜想四维证明论文

    OpenAI发布两篇数学手稿,分别声称证明了三维挂谷极大函数猜想和四维挂谷猜想,将王虹和Zahl的工作扩展到四维。这些论文未经同行评审和形式化验证,引发了数学界对AI研究方式的激烈争议。

    推荐理由:原文展示了AI在数学领域的突破性进展及其对人类数学研究的冲击。

10月8日周四
  1. Google Research70

    AI辅助会增强还是削弱专业能力?来自专利起草三个月实地实验的证据

    Google Research发表了一项为期三个月的实地实验,研究AI辅助对专利律师专业能力的影响。实验发现AI工具短期内显著提高了律师起草专利的质量,但移除AI后,初级律师的专业判断能力并未提升,而高级律师则表现出明显的进步。研究强调,提高工作质量和构建持久专业判断可能是不同的目标,尤其对初级专业人士而言。

    推荐理由:研究揭示了AI对专业能力发展的复杂影响,为AI工具设计提供了重要参考。

10月7日周三
  1. Hugging Face Blog85

    Nemotron 模型在 IOI 和 IMO 竞赛中均获金牌级成绩

    NVIDIA 研究团队通过微调 Nemotron 模型,使其在国际信息学奥林匹克竞赛(IOI 2026)中获得 535.4/600 分,在国际数学奥林匹克竞赛(IMO 2026)中获得 30/42 分,均超过金牌分数线。团队使用了监督微调(SFT)、强化学习(RL)和生成-验证-改进的推理循环,并将相关模型、数据集和基准测试开源在 Hugging Face 上。

    推荐理由:展示了如何通过微调和推理循环将基础模型适配至竞赛金牌水平,提供了可复用的专业领域模型构建方法。

10月6日周二
  1. TechCrunch · AI78

    Reflection 发布 Beam 开源大模型

    Reflection AI 发布 Beam 开源大模型,该模型拥有 5010 亿参数,在推理基准上与中国模型 GLM-5.2 表现相当,但计算成本降低 3-4 倍。Beam 将通过超大规模云服务商和开源库分发,目标是为企业和政府提供定制化 AI 解决方案。

    推荐理由:原文提供了模型参数、训练数据和性能对比等关键信息,读者可据此评估其市场竞争力。

  2. AWS Machine Learning Blog72

    AWS 发布 SageMaker 优化推理技能,为编码智能体提供专业支持

    AWS 发布 aws-ai-ml 技能,通过 Agent Toolkit for AWS 为 Kiro、Claude Code 和 Codex 等编码智能体提供 SageMaker AI 推理优化和基准测试能力。该技能可帮助用户基准测试端点、推荐部署配置、比较性能运行,并生成可执行的 SageMaker Python SDK v3 代码,无需专业知识即可完成模型到生产的优化过程。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

10月5日周一
  1. AWS Machine Learning Blog65

    使用 Amazon Bedrock AgentCore 评估多智能体系统的可解释性和有用性

    AWS 发布了使用 Amazon Bedrock AgentCore 评估多智能体系统可解释性和有用性的教程,展示了如何构建、连接和优化大规模智能体系统。文章介绍了一个三层评估方法,包括内置评估器、自定义评估器和可解释性评估器,并通过 AnyCompany 零售公司的供应链决策系统案例演示了如何在实际应用中评估智能体的性能。

    推荐理由:原文提供了多智能体系统评估的完整框架和实现方法,读者可据此构建自己的评估体系。

10月2日周五
  1. NVIDIA Blog65

    NVIDIA GPU加速OpenAI GPT-6 Astra Ultrafast模型

    OpenAI推出GPT-6 Astra Ultrafast,在NVIDIA Blackwell GPU上运行,token生成速度比标准模式快8倍。开发者可通过API使用该模型,缩短编码编辑-测试-调试周期,提升交互应用响应速度。

    推荐理由:原文说明了NVIDIA GPU如何加速OpenAI GPT-6 Astra Ultrafast的性能提升,读者可了解硬件与模型协同优化的实际效果。

10月1日周四
  1. Latent Space76

    Google发布Gemini 4 Argon模型,支持1M输出token

    Google DeepMind发布Gemini 4 Argon模型,在19项基准测试中13项达到SOTA,支持1M输出token,目前仅限网络安全预览版。该模型针对编码、企业知识工作和网络安全防御,定价为$4/$20每1M输入/输出token, introductory折扣为$2/$10。

    推荐理由:原文提供了Gemini 4 Argon的基准测试结果、定价和功能特点,读者可据此评估其市场竞争力。

  2. Google DeepMind85

    Google DeepMind发布Gemini 4 Argon模型

    Google DeepMind发布Gemini 4 Argon模型,在软件工程、企业知识工作和网络安全领域展现出前沿性能,输出token限制提升至100万,定价为输入token每百万2美元,输出token每百万10美元。

    推荐理由:原文提供了Gemini 4 Argon在软件工程、企业工作和网络安全方面的具体能力变化和评测数据。

9月30日周三
  1. 雷锋网85

    DeepSeek 开源算子工具 TileLang 支持华为昇腾

    DeepSeek 开源 TileLang 算子工具链,原生支持华为昇腾 950 NPU,实现与英伟达 CUDA 生态能力对标。TileLang 采用多级分块技术,将算子开发代码从 500 行压缩至 30 行 Python,性能接近手写 CUDA,同时支持英伟达、AMD、华为昇腾等多平台。

    推荐理由:原文展示了开源算子工具如何实现跨平台能力,为国产算力生态提供新路径。

9月16日周三
  1. Google Research70

    Google Research提出Retrieve-for-Train框架加速复杂AI搜索

    Google Research在ICML 2026论文中提出Retrieve-for-Train框架,通过离线强化学习将查询分解行为编译为监督,使用轻量级扩散检索器实现单次查询扩展,推理速度提升12-20倍,同时保持结果多样性和数据库相关性。

    推荐理由:原文提出了Retrieve-for-Train框架,通过离线强化学习解决AI搜索中的推理瓶颈问题。