技术方向
跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
36 条精选近 30 天 35 条共收录 535 条
月之暗面正式推出Kimi K3.1 Pro系列首个模型，这是公司迄今能力最强的3万亿级参数模型，支持100万上下文。在Terminal-Bench 4.0编程智能体测评中，K3.1 Pro得分65.7%，超过GPT-6 Astra的58.2%；在3D建模方面，BenchCAD基准测试得分92.7%，接近Claude Opus 5.5的96.2%。
推荐理由：编程智能体测评超越GPT-6，3D建模能力接近Claude Opus，事实错误率大幅降低，显示中国模型在专业领域快速追赶。
月之暗面发布了 Kimi K3.1 Pro 模型，在 Artificial Analysis Intelligence Index 上获得 55 分，排名第四，仅落后于 Claude Opus 5.5(58分)、Claude Sonnet 5.5(56分)和 Muse Wonder Full(56分)。
推荐理由：Moonshot AI 的 Kimi K3.1 Pro 在推理能力上逼近顶级闭源模型，开源版若如期发布将大幅缩小性能差距。
千问发布AI眼镜N1 Pro和耳夹式耳机，眼镜重44g，售价2218元起，耳机售价1099元起。N1 Pro搭载全天候视觉感知系统和眼动追踪模组，支持健康监测；耳机支持89种语言实时翻译。两款产品旨在作为千问Personal Agent的物理入口，整合阿里生态数据与服务能力。
推荐理由：44g眼镜实现主动服务，千问用硬件把Agent从对话窗推进到物理世界，接下来看用户是否愿意为这种'越界'买单。
AWS发布教程，展示如何通过流式文本到语音(TTS)技术解决AI语音代理的响应延迟问题。文章介绍了在Amazon SageMaker AI上部署Kokoro-82M模型，实现句子级别的语音合成，将首次音频输出时间从329.3毫秒减少到156.7毫秒，提升52.4%。同时比较了不同传输方式的成本和性能，包括base64编码SSE和二进制JSON混合传输方案。
推荐理由：通过流式合成解决AI语音助手响应延迟问题，将首次音频输出时间减少一半以上，展示了如何在SageMaker上实现低延迟语音流。
中国电信人工智能科技有限公司星辰通用人工智能实验室发布并开源意图理解专用模型Xing4.0-29B-Intent，同步开放275万条训练语料、模型权重与推理镜像。模型将意图识别与参数抽取结合，支持结构化输出，已在电信万号客服、智能家居音箱等终端产品中应用。评测显示，该模型在意图分类、实体检测等任务上表现优于18款市面主流通用模型。
推荐理由：专用小模型在意图理解上超越通用大模型，证明垂直场景的轻量化模型有独特价值。
科大讯飞发布讯飞星火 X2.6 端云一体大模型，首次基于全国产算力实现代码和智能体能力突破。星火 X2.6-4B 开源端侧大模型下载量已进入全球端侧模型前四，采用 293B-A30B 参数的 MoE 架构，上下文长度拓展至 1M，推理定价为输入 0.9 元/百万 tokens，输出 3.6 元/百万 tokens。
推荐理由：国产算力训练的星火X2.6实现代码和智能体能力突破，端侧模型进入全球前四，国产芯片长程任务效率瓶颈被攻克。
研究人员提出了一个统一的闭环操作框架，用于评估前沿AI模型在LIBERO-10基准测试中的表现。测试包括GPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5、Claude Opus 5.5和Gemini-4 Argon六个模型，在三种推理努力水平下进行了1800次评估。
推荐理由：前沿AI模型在机器人操作任务中成功率最高仅44%，推理能力转化为可靠物理动作仍是挑战。
Levin Müller 等人提出一种多阶段强化学习方法，为四足机器人生成端到端控制策略，实现在月球重力下的精准点对点跳跃。该方法在模拟中实现了小于机器人机身尺寸的着陆误差，并在硬件转移实验中成功执行了月球重力减载下的垂直跳跃。
推荐理由：端到端强化学习让四足机器人在月球重力下实现精准跳跃，为行星探索提供新可能。
Recursive 公司发布了名为 Flint 的免费编码模型，可在笔记本电脑上运行，并声称主要由其 AI 研究系统 Eureka Machine 协助构建。Flint 是一个 400 亿参数的混合专家模型，仅需使用 25 亿参数即可完成任务，在 SWE-Bench Verified 基准测试中表现优于其他 500 亿参数以下的模型。
推荐理由：AI辅助构建小模型实现本地化部署，展示了递归自我改进的早期实践，但人类监督仍是关键。
Google Research在JAMA Network Open发表研究，展示AI系统可通过'盲扫'超声技术评估孕龄，准确率达临床标准(MAE 4.18天)，在芝加哥和内罗毕不同医疗环境中均表现稳定。该技术使未经专业培训的医护人员能执行可靠超声检查，有望扩大资源匮乏地区的产前筛查覆盖范围。
推荐理由：AI辅助超声在资源匮乏地区实现与专家相当的孕龄评估，验证了技术泛化能力与普惠医疗潜力。
轻舟智航推出基于地平线单征程6M的城市NOA辅助驾驶解决方案，4个月内实现9款车型落地，覆盖10-20万元主流价格带。该方案以128TOPS算力实现256TOPS的辅助驾驶体验，累计搭载量突破100万台，累计用户辅助驾驶行驶里程超45亿公里。
推荐理由：城市NOA从高价旗舰进入10-20万主流市场，百万级搭载量正在重塑智驾普及路径。
Hugging Face 发布 TorchTPU，为 PyTorch 添加原生 TPU 后端，使开发者可以直接在 TPU 上运行 Transformers、Diffusers 和 Kernels 库。
推荐理由：TorchTPU 让 PyTorch 原生支持 TPU，开发者无需学习 JAX 或使用 torch_xla，只需一行代码即可将模型迁移到 TPU。
Hugging Face 发布 AnyLanguageModel 1.0，这是一个苹果 Foundation Models 框架的替代方案，允许开发者选择应用使用的模型和提供商。该版本支持本地模型(llama.cpp、MLX、Core ML)和云端模型(OpenAI、Anthropic、Google Gemini等)，提供工具调用、引导生成、图像支持等功能，并加速模型下载。
推荐理由：统一API让本地与云端模型无缝切换，开发者无需重构代码即可灵活部署，这可能是跨平台AI应用落地的关键一步。
联想 YOGA Pro 15 RTX Spark 搭载 NVIDIA RTX Spark N1X 超级芯片，采用 128GB 统一内存，在轻薄机身下实现桌面级性能。该笔记本在 AI 推理、图像生成和游戏方面表现出色，支持本地运行大模型如 Qwen3.8-27B，FLUX.2 图像生成仅需 16.6 秒，游戏帧率接近 200 帧，功耗控制在 50W 左右。
推荐理由：RTX Spark 将桌面级AI工作站塞进轻薄笔记本，实现端侧AI与专业创作的随时可用，能效表现超越传统高性能游戏本。
AWS 机器学习博客介绍了基于推送的KV传输技术，用于改进vLLM中解耦推理的TTFT和TPOT。在Amazon EC2 P5en实例上测试，推送模式相比拉取模式实现了最高3倍的TTFT提升和30%的TPOT改善。该技术通过将传输协调工作移至预填充端的后台线程，避免了关键路径上的延迟。
推荐理由：将KV传输从拉取模式改为推送模式，使解码端准备与预填充计算重叠，显著降低了高请求率下的TTFT和TPOT。
短短一个月内，30B级端侧模型接连亮相，高通、vivo、面壁智能等厂商成功将大模型部署在手机平台上。MoE技术让模型总参数与单次推理计算量解耦，使手机有机会运行更大规模模型，但模型容量扩大与手机内存、功耗增长不同步，带来技术押注的不确定性。
推荐理由：30B级MoE模型挤进手机，让规模定律首次在端侧落地，但硬件投入与实际收益的平衡仍是未知数。
研究人员提出EndoVLA-OOV，一种用于机器人内窥镜视野外目标获取的语言条件视觉-语言-动作策略。该策略在跨 embodiment 评估中达到93.3%的目标获取成功率，数据集从312扩展到1050个片段后，成功率从40.0%提升到90.0%。研究团队提供了包含约262k观测-动作对的开源VLA数据集。
推荐理由：语言条件下的视野外目标获取在机器人内窥镜中实现93.3%成功率，展示了语言引导与任务演示扩展的价值。
Yujia Yang提出Scene-Adaptive VLA框架，利用动态层路由根据实时场景调整活跃参数，在Bench2Drive基准测试中，将先进VLA模型的推理计算开销降低53.5%，同时保持驾驶和语言能力几乎不受影响。代码已开源于GitHub。
推荐理由：通过动态层路由将计算开销降低53.5%，为车载VLA模型提供实时推理新思路。
NVIDIA宣布推出RTX Spark PC，专为创作者、游戏玩家和AI智能体设计，将于10月16日在全球多地举办发布会。评测显示该产品在AI、游戏和创意工作流方面表现优异，并已与多家应用优化合作。
推荐理由：原文提供了全球发布会信息和评测引用，读者可据此了解RTX Spark的实际表现和适用场景。
NVIDIA 发布了 1200 亿参数的开放模型 Nemotron 3.5 Super VL，以及两个边缘模型 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB，覆盖从企业服务器到边缘设备的全范围智能体部署。Super VL 在多模态智能体任务上达到前沿准确度，同时速度比同类模型快 5 倍；Bolt 系列则针对本地硬件优化，平衡智能与速度。
推荐理由：NVIDIA 推出覆盖从数据中心到边缘设备的全系列智能体模型，开放权重让企业能自主定制部署。