NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB 小型语言模型，面向本地语音智能体

Techub News 消息，NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB，这是一款面向本地语音智能体、游戏角色和机器人的小型开源语言模型。该模型基于 Google Gemma 4 E4B 仅通过强化学习进行后训练，总参数量为 80 亿，有效参数量为 40 亿，上下文长度为 64K。其量化版本在 RTX 5070 上配合 DFlash 推理加速器可实现每秒 272.6 个令牌的生成速度。 该模型专为在 GeForce RTX、Jetson、RTX Spark 和 DGX Spark 等硬件上本地运行而设计，旨在驱动设备语音助手、交互式游戏角色和嵌入式工业智能体。在 NVIDIA 内部评估的 21 项基准测试中，其在 15 项上领先于 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B 等竞品。 NVIDIA 跳过了监督微调步骤，直接使用 NeMo-RL 和 NeMo-Gym 平台通过强化学习进行训练，以平衡工具调用能力和对话质量。模型支持多轮工具调用，并包含用于生成简短、适合语音回复的对话模式标志。（MarkTechPost）