据IT之家10月23日报道,中国信通院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室、中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告(2026年)》。报告显示,国内大模型词元服务价格明显回升,输出吞吐速度提高,但首词等待时间也在增加。

这份报告分析的是模型服务的调用表现。监测覆盖2026年1至8月,涉及调用成功率、吞吐速度、首词时延、稳定性、价格和上下文窗口等维度;比较对象包括原厂大模型官方平台,以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的服务表现。

在输出速度上,8月国内各模型平均TPS,即每秒输出词元数,达到78.23个,高于2025年均值38.25个,实现翻倍。作为对照,8月国外典型模型的TPS均值为112.82个,高于国内;其2025年12月均值为51.35个。

输出速度提高,并不意味着等待第一个词元的时间缩短。国内各模型8月平均TTFT,即首词时延,为1.26秒,较2025年均值0.78秒增加。国外典型模型8月均值为2.08秒,较4月的1.04秒也明显增加。报告指出,首词时延上升并非单纯的性能退化,而是伴随模型参数量、上下文长度和调用量增加等多种因素出现的结果。

价格方面,报告给出的国内词元服务归一化均价,从2025年下半年的6.8元升至2026年以来的13.46元,涨幅接近一倍。国外2026年以来发布的典型模型平均归一价格约为117.8元,仍高于国内。这些数字对应报告采用的归一化价格口径,而非所有模型各自的实际报价。

报告同时记录了调用需求的增长:2026年6月,国内词元日均消耗量约500万亿,是2025年12月的近4倍。随着更多MaaS(模型即服务)平台通过公有云API提供词元服务,这份监测旨在为用户比较平台、选择服务提供参考。

原始来源:报告称 2026 年国内大模型均价翻倍,每秒吞吐量也翻倍