大家在学习强化学习过程中,总是出现这样的疑问。在这里我给大家统一解释一下。

深度强化学习技术最具代表性的成功案例莫过于 AlphaGo 在 2016 年和2017年连续战胜世界顶级围棋选手。近年来,另一项重大突破是 ChatGPT 的诞生。ChatGPT 是一个大语言模型(LLM),其训练分为两个阶段,其中第二阶段采用了一种名为人类反馈强化学习(Reinforcement Learning from Human Feedback,RLHF)的方法,使模型能够更好地符合人类的期望。
DeepSeek 也在其模型开发中广泛使用了强化学习技术。DeepSeek-R1-Zero 是一种完全基于大规模强化学习训练的模型,没有经过监督微调(SFT)作为初步步骤。这种模型展示了强大的推理能力,能够通过增加推理时间来解决复杂的任务。此外,DeepSeek 还引入了群体相对策略优化(GRPO)技术,通过强化学习与组内相对奖励机制优化模型。这种方法使得模型在数学推理、代码生成等复杂任务中表现出类人的逻辑推理能力