Fireworks AI 发布推理优化模型 Ember-1，生成 Token 数减少约 40%

Techub News 消息，Fireworks AI 发布 Ember-1 模型，该模型基于 Moonshot AI 的开源权重 Kimi K3 进行后训练优化。Fireworks 团队表示，Ember-1 能在保持任务准确性的同时，学习生成更短的推理轨迹，相比原版 Kimi K3 减少约 40% 的 Token 使用量。 Ember-1 目前仅可通过 Fireworks 的无服务器 API 作为研究预览版部署，其权重、训练代码或具体算法尚未公开，暂不支持自托管。Fireworks 称，此举旨在为客户提供 K3 的编码能力但降低成本，内部测试显示在多轮代理工作负载中，K3 生成的 Token 有超过 90% 用于内部推理，成本显著。 在生产环境的 A/B 测试中，两家客户的编程工作负载显示，在质量相当的情况下，Ember-1 使每任务 Token 数减少约 35%。其中一次测试的输出 Token 从每任务 4.93 万降至 2.99 万，推理 Token 下降 71.3%，总 Token 下降 39%，任务得分基本持平。（MarkTechPost）