文章详情

微调后模型效果对比实验

实验设置 基座模型：Qwen2-7B-Instruct 任务：中文客服问答 评估指标：准确率、格式正确率、安全性 实验1：LoRA vs QLoRA vs 全量微调 方法 显存 训练时间 准确率 格式正确率 全量微调 84GB(4卡) 3h 92% 98% LoRA(r=32) 28GB(1卡) 1.5h 89% 97% LoRA(r=64) 30GB(1卡

4 阅读