标签：流水线

2023-09-1233编辑阅读(294)评论(0)赞(0)

LLM 训练：RLHF 及其替代方案 -人类反馈强化学习(RLHF)以及它在现代大语言模型训练流水线中的重要性。训练流水线包括三个步骤:预训练、监督微调和对齐。RLHF用于对齐步骤,以将语言模型与人类偏好对齐。RLHF流水线包括三个步骤:对...