商汤大装置发布异构推理集群技术，日均服务6万亿Token

商汤大装置在CSDI Summit上发布异构推理集群技术，通过PD分离与跨域协同，在相同高端卡条件下将Token吞吐量提升至原来的5倍。该平台日均Token服务量已达6万亿，预计2026年第四季度将达到日均10万亿规模。