Nemotron 推出任务引导合成问答生成流程

Techub News 消息，据 huggingface.co 报道，Nemotron 开发了一种任务引导的合成问答生成工作流程，旨在提升 Ultra 和 Super 训练的效果。该流程利用广泛的公共任务数据集作为能力种子，生成与任务对齐的新示例，并通过推理和相关知识进行丰富，最终过滤成策划的合成数据集。 该流程包括收集种子任务、标准化记录、生成相似示例、丰富答案和过滤打包等五个阶段。在对 Nemotron-3 Nano 模型进行的 100B-token 续写实验中，任务引导的合成问答生成在多个评估指标上均有所提升，显示出该流程在知识密集型和推理密集型任务中的有效性。