NVIDIA 展示 Nemotron 3 Super 和 RLVR 技术,以改进人工智能代理的特定领域工作流程,突破强化学习的实际极限。
NVIDIA 推出了 Nemotron 3 Super 强化学习 (RL) 方面的进步,利用具有可验证奖励的强化学习 (RLVR) 来增强特定领域的 AI 代理。该系统基于 NVIDIA 的 NeMo 框架构建,将多环境 RL 与 21 个验证器和 37 个数据集集成,生成超过 120 万个环境部署用于训练。这项创新针对的是对能够处理专业工作流程(例如客户支持、科学研究和安全分类)的人工智能代理不断增长的需求。
强化学习是一种机器学习方法,模型通过与环境交互并接受奖励或惩罚来学习,已在人工智能系统中得到广泛采用。虽然 RLHF(基于人类反馈的强化学习)在使大型语言模型与用户偏好保持一致方面发挥了重要作用,但 NVIDIA 正在通过专注于 RLVR 来突破界限。该方法依靠算法验证器对模型输出进行评分,从而无需大量人工输入即可实现精确对齐。这种自动化对于需要精确输出的任务尤其重要,例如代码生成、数学推理和工具调用工作流程。
NVIDIA 的 Nemotron 3 Super 展示了可扩展的 RLVR 实现。前沿研究,例如 OpenAI 的大规模 RL 工作和 DeepSeek-R1 的组相对策略优化(GRPO),已经显示了 RL 在提高推理、编码和数学能力方面的潜力。 Nemotron 在此基础上构建,为企业提供工具来定制特定任务的模型,同时保持对数据和知识产权的控制。
除了 RLVR 之外,NVIDIA 还概述了用于选择强化学习技术的清晰决策框架。对于需要遵循格式或指令模仿的任务,建议使用简单微调 (SFT),而 RLHF 则适合细致入微的人类偏好调整。对于通过确定性规则可验证成功的任务(例如生成有效的 JSON 或通过单元测试),RLVR 使用 GRPO 等方法提供了更有针对性的解决方案。 NVIDIA 的 NeMo Gym 通过为 RL 实验提供模块化环境来实现这一目标,其中包括数据集、验证器和代理工作流程的状态管理。
RLVR 的实际用例扩展到必须导航复杂的多步骤工作流程的长时间运行的代理。例如,工作场所助理可能需要解析自然语言请求、生成 JSON 工具调用并准确执行命令。 NVIDIA 的指南强调从小型、可检查的 RL 设置开始,使用明确的奖励函数和基线评估来确保有意义的改进。重点是现实世界的部署,其中代理必须随着时间的推移可靠地执行,并将故障反馈到训练管道中以进行持续改进。
这些发展是在强化学习更广泛的行业发展势头的背景下实现的。 2026 年 6 月,OpenAI 发布了关于 RL 在训练 AI 模型以实现广泛社会效益方面的作用的研究,而 MIT CSAIL 则强调了 RL 通过校准奖励减少 AI 过度自信的潜力。 NVIDIA 今年早些时候推出了用于自动驾驶汽车的闭环强化学习,强调了强化学习超越传统游戏和模拟环境的适用性。
对于开发者和企业来说,NVIDIA 的 Nemotron 3 Super 和 RLVR 框架为构建特定领域的 AI 代理提供了一个强大的起点。通过自动化奖励设计和提供可扩展的基础设施,NVIDIA 正在降低在高风险的现实场景中实施 RL 的障碍。随着强化学习扩展到机器人和医疗保健等安全关键领域,这些创新可以重新定义人工智能系统学习、适应和满足用户需求的方式。
