文章详情

RLHF

随着大语言模型（LLM）规模和能力飞跃，单纯依赖预训练和监督微调难以让模型完全符合人类期望。 RLHF 通过结合人类反馈和强化学习，显著提升模型的对齐性和输出质量，成为当前 AI 安全和性能优化的重要手段。 一、RLHF 背景与意义 预训练模型虽能力强大，但容易生成不合适、不准确甚至有害内容。同时传统监督微调虽能提升部分表现，但无法充分捕捉复杂的人类价值和偏

4 阅读