☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
RLHF即从人类反馈中强化学习。本文就来介绍大语言模型(LLM)是如何与RLHF结合起来的。
RLHF的机制
强化学习是机器学习的一个分支，它通过代理与环境交互来学习最优策略。代理选择行动，这些行动会影响环境状态的转换，并得到相应的奖励。奖励是强化学习智能体调整策略的反馈信号。在训练阶段，智能体根据奖励调整策略，以最大化长期回报。
因此，设计恰当的奖励系统至关重要，它是强化学习的关键。而RLHF则通过整合人类的反馈，将人类纳入训练过程中，以增强强化学习代理的训练效果。
RLHF通用框架
大型语言模型（LLM）的强化学习微调过程通常包括三个阶段。首先，我们从经过预训练的语言模型开始。由于LLM需要大量的训练数据，从零开始通过人工反馈进行训练是不切实际的。因此，我们可以通过无监督学习的方式进行预训练，利用现有的语言模型进行输出生成。 在预训练完成后，接下来是微调阶段。在此阶段，我们将使用强化学习算法来对LLM进行优化。通过与环境的交互，LLM可以从环境中获得反馈，并通过调整模型的参数来优化其输出。 最后一个阶段是后续微调。在这一阶段，LLM将与特定任务进行交互，并通过
接下来，进入第二阶段，我们需要为RL系统创建奖励模型。在这个阶段，我们训练另一个机器学习模型，它会接收主模型生成的文本并为其生成一个质量分数。通常，我们会使用另一个LLM模型，并进行相应的修改，使其能够输出一个标量值，而不是文本标记序列。这个质量分数将用作奖励信号，以引导主模型生成更高质量的文本。
为了训练奖励模型，我们需要构建一个包含LLM生成文本的质量评估数据集。每个训练示例由一个提示和LLM生成的多个输出组成。接下来，我们请人工评估这些生成文本的质量。然后，我们使用这些评估结果来训练奖励模型，以预测LLM生成文本的得分。通过在LLM的输出和评分之间进行训练，奖励模型能够建立起人类偏好的数学表示。
瑞宝通B2B系统使用当前流行的JAVA语言开发，以MySQL为数据库，采用B/S J2EE架构。融入了模型化、模板、缓存、AJAX、SEO等前沿技术。与同类产品相比，系统功能更加强大、使用更加简单、运行更加稳 定、安全性更强，效率更高，用户体验更好。系统开源发布，便于二次开发、功能整合、个性修改。 由于使用了JAVA开发语言，无论是在Linux/Unix，还是在Windows服务器上，均能良好运行
在最后阶段，我们进行了微调，创建了一个强化学习循环。主LLM的副本被用作RL代理。在每个训练集上，LLM从数据集中获取多个提示，并生成文本。接着，该文本被传递给奖励模型，该模型会给出一个分数，用来评估其与人类偏好的一致性。然后，我们更新LLM，以生成在奖励模型上得分更高的输出。
虽然这是语言模型的RLHF通用框架，但不同的实现目标需要进行对应修改。
RLHF中对语言模型的另一个考虑是在奖励优化和语言一致性之间保持平衡。尽管奖励模型只是对人类偏好的不完美近似，但代理LLM可能会通过违反语法或逻辑一致性来最大化奖励，这与大多数RL系统类似。为了防止这种情况发生，ML团队保留了原始LLM的副本，并在RL循环中使用。他们将原始LLM的输出与RL训练的LLM的输出之间的差异（KL散度）作为负值集成到奖励信号中，以防止模型和原始输出之间的偏差过大。这种策略旨在平衡奖励优化和语言一致性之间的关系。
