文章详情

LLaMA-Factory性能基准测试

测试环境 GPU: 1x A100-80GB 模型: Qwen2-7B-Instruct 数据: 5000条Alpaca格式 LLaMA-Factory版本: v0.8.0 训练速度对比 配置 速度(tokens/s) 显存 总训练时间 LoRA FP16 2200 28GB 45min LoRA FP16 + FA2 2900 26GB 35min QLo

7 阅读