是石科技发布TokenFleet调度框架

是石科技在2026 CCF全国高性能计算学术大会期间发布TokenFleet分布式推理调度框架，包含TokenPilot请求路由、FleetMind跨机房容量协同、SLOMax混合负载治理三项核心技术，用于提高现有算力的有效产出。 是石科技提供的GLM5.3调优数据显示，在所测显卡集群与负载条件下，采用预测延迟路由后P95首Token延迟降低32.4%、P50首Token延迟降低71.3%；其给出的GLM5.3收益测算示例中，采用流控协同调度后总输出吞吐增加约1.5%，达标输出吞吐提高约29.4%，达标比例从约67%升至约86%。上述数据为是石科技自行提供，非独立验证结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。