Techub News 消息,Perplexity 与 NVIDIA 研究团队联合推出 JOLT,一种新的语言模型后训练方法。该方法让单一模型同时扮演教师和学生两个角色,教师可获得特权信息,学生则不能。关键改进在于教师模型也会被训练,使其反馈保持可用性。在 MATH 基准测试中,JOLT 在达到与 GRPO 相同准确率的情况下,处理训练 token 数量减少了 6.5 倍。 JOLT+(加入学生自身结果奖励的版本)在所有测试设置中均取得最高平均分。在 AppWorld 测试中,JOLT+ 的通过率达到 72.09%,相比 GRPO 的 62.20% 高出 9.9 个百分点。该方法已在 Qwen3 和 DeepSeek-V2-Lite 等多个模型上验证。(MarkTechPost)
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为,均由用户自行承担风险。
Techub News 消息,Perplexity 与 NVIDIA 研究团队联合推出 JOLT,一种新的语言模型后训练方法。该方法让单一模型同时扮演教师和学生两个角色,教师可获得特权信息,学生则不能。关键改进在于教师模型也会被训练,使其反馈保持可用性。在 MATH 基准测试中,JOLT 在达到与 GRPO 相同准确率的情况下,处理训练 token 数量减少了 6.5 倍。 JOLT+(加入学生自身结果奖励的版本)在所有测试设置中均取得最高平均分。在 AppWorld 测试中,JOLT+ 的通过率达到 72.09%,相比 GRPO 的 62.20% 高出 9.9 个百分点。该方法已在 Qwen3 和 DeepSeek-V2-Lite 等多个模型上验证。(MarkTechPost)
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为,均由用户自行承担风险。