加载中…
加载中…
Techub News 消息，商汤大装置副总裁、CTO 宣善明在 CSDI Summit 上表示，随着 AI 应用走向多智能体协作与长任务执行，Token 需求呈千倍级增长，AI 基础设施竞争正从规模扩张转向效率优化。商汤大装置通过 PD 分离、异构混合调度等架构创新，在特定测试配置下，整体 Token 吞吐量可提升至基准方案的 5 倍。 宣善明介绍，商汤大装置平台日均 Token 服务量已达到 6 万亿，预计 2026 年全年 Token 服务规模将实现 25 倍增长，并在第四季度达到日均 10 万亿 Token 规模。目前，商汤大装置正通过 Token 工厂模式提升大规模推理服务能力，推动推理基础设施从依赖经验的调参过程，走向可度量、可优化、可验收的系统工程。（量子位）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
Techub News 消息，商汤大装置副总裁、CTO 宣善明在 CSDI Summit 上表示，随着 AI 应用走向多智能体协作与长任务执行，Token 需求呈千倍级增长，AI 基础设施竞争正从规模扩张转向效率优化。商汤大装置通过 PD 分离、异构混合调度等架构创新，在特定测试配置下，整体 Token 吞吐量可提升至基准方案的 5 倍。 宣善明介绍，商汤大装置平台日均 Token 服务量已达到 6 万亿，预计 2026 年全年 Token 服务规模将实现 25 倍增长，并在第四季度达到日均 10 万亿 Token 规模。目前，商汤大装置正通过 Token 工厂模式提升大规模推理服务能力，推动推理基础设施从依赖经验的调参过程，走向可度量、可优化、可验收的系统工程。（量子位）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
