文章

编辑精选与公众号导入

仅展示已发布内容，支持分页浏览。

33.4K+ star 的多模态 AI Agent 桌面应用：用自然语言控制电脑，字节跳动出品2026年6月10日 · 15 阅读 · 微信公众平台 · 字节跳动开源的多模态 AI Agent 桌面应用，基于视觉语言模型让 AI 像人类一样操控电脑。只需自然语言指令，即可完成浏览器操作、文件管理、软件设置等复杂任务，支持本地/远程 Operator 开箱即用。
我做了一款 AI 编辑 word 的 skill，推荐给你试试，效果惊艳2026年6月1日 · 22 阅读 · 微信公众平台 · 总之，这个 skill 最大的价值在于：省却了大量手工排版 word 的时间。
术语表2026年5月28日 · 28 阅读 · 赛博牛马教程库 · 术语全称解释 SFT Supervised Fine-Tuning 监督微调 LoRA Low-Rank Adaptation 低秩适配 QLoRA Quantized LoRA 量化LoRA DPO Direct Preference Optimization 直接偏好优化 RLHF Reinforcement Learning from Human
LLaMA-Factory资源消耗估算器2026年5月28日 · 15 阅读 · 赛博牛马教程库 · LoRA 0.1% batch=2, seq_len=4096 DeepSpeed ZeRO A100 token
微调数据标注指南2026年5月28日 · 15 阅读 · 赛博牛马教程库 · 标注规范指令标注好的指令应该：明确具体（“用Python写快速排序”而不是”写个算法”）包含约束条件（“不超过50字”）包含输出格式要求（“用JSON格式输出”）回答标注好的回答应该：准确无误结构清晰包含示例长度适中（50-500字）偏好标注偏好数据的标注要求： 1. chosen明显好于rejected 2. 好的方面：更准确、更
LLaMA-Factory训练日志详解2026年5月28日 · 10 阅读 · 赛博牛马教程库 · 日志字段说明字段含义正常范围 loss 训练Loss 持续下降 grad_norm 梯度范数 0.5-5.0 learning_rate 当前学习率按schedule变化 epoch 当前epoch 0-num_epochs TensorBoard可视化关键看： 1. train_loss曲线——应该平滑下降 2. eval_loss曲线——不应该
LoRA微调效果不佳时的排查步骤2026年5月28日 · 7 阅读 · 赛博牛马教程库 · 排查流程效果不好快速验证方法 1. 常见效果问题及修复问题可能原因修复回答格式不对 Template不匹配检查template 回答全是重复数据有大量重复去重+降temperature 回答太短 output数据太短丰富output内容回答太长没有长度控制指令加”简要回答”类指令专业知识不够领域数据太少增加领域数据通用能力下
LLaMA-Factory完整项目模板2026年5月28日 · 7 阅读 · 赛博牛马教程库 · 项目目录结构训练脚本模板部署脚本模板
微调后模型上线运维指南2026年5月28日 · 8 阅读 · 赛博牛马教程库 · 监控指标指标告警阈值监控方式 GPU利用率 &lt;50% 或 &gt;98% nvidia-smi 推理延迟(P99) &gt;5s API日志错误率 &gt;1% API日志显存使用 &gt;95% nvidia-smi 吞吐量 &lt;500 t/s 压测工具日志记录模型版本管理回滚方案
LLaMA-Factory性能基准测试2026年5月28日 · 7 阅读 · 赛博牛马教程库 · 测试环境 GPU: 1x A100-80GB 模型: Qwen2-7B-Instruct 数据: 5000条Alpaca格式 LLaMA-Factory版本: v0.8.0 训练速度对比配置速度(tokens/s) 显存总训练时间 LoRA FP16 2200 28GB 45min LoRA FP16 + FA2 2900 26GB 35min QLo
LLaMA-Factory常见YAML配置错误2026年5月28日 · 7 阅读 · 赛博牛马教程库 · 错误1：stage和fi netuning_type不匹配错误2：QLoRA配置遗漏错误3：dataset名称不匹配错误4：多数据集配置错误5：resume路径错误
模型选型与微调策略决策树2026年5月28日 · 7 阅读 · 赛博牛马教程库 · 选基座模型主要语⾔是中⽂？选微调方案显存多⼤？选对齐方案对⻬需求？选部署方案部署场景？
模型量化深度解析2026年5月28日 · 7 阅读 · 赛博牛马教程库 · 量化方法对比方法类型精度损失速度推荐场景 GPTQ 训练后量化 INT4:5-10% 快 GPU推理 AWQ 训练后量化 INT4:3-8% 最快 GPU推理(推荐) SmoothQuant 训练后量化 INT8:&lt;2% 快高精度需求 GGUF 训练后量化 Q4_K_M:5-12% CPU可用 CPU/边缘推理 QAT 量化感知训练
RLHF训练深度解析2026年5月28日 · 6 阅读 · 赛博牛马教程库 · PPO算法详解 PPO（Proximal Policy Optimization）是RLHF使用的核心算法。四个模型模型大小作用训练 Actor 7B 生成回复是 Critic 7B 估计状态价值是 RM 7B 给回复打分否 Ref 7B 参考策略否总显存：4 * 7B * 2bytes = 56GB（FP16），加上梯度和优化器更多。
DPO训练深度解析2026年5月28日 · 6 阅读 · 赛博牛马教程库 · DPO的数学原理 DPO的核心洞察：RLHF的最优策略有解析解。从RLHF的目标函数出发，可以推导出： pi ref(y|x) * exp(r(x,y)/beta) 其中Z(x)是归一化常数。反解出奖励函数： r(x,y) = beta * log(pi(y|x)/ref(y|x)) + beta * log(Z(x)) 将此代入Bradley-Terry
SFT训练Loss深度解析2026年5月28日 · 6 阅读 · 赛博牛马教程库 · 正常的Loss曲线正常特征： - 初期快速下降（0-500步） - 中期稳步下降（500-1500步） - 后期缓慢收敛（1500步+） -验证Loss比训练Loss稍高异常Loss曲线分析 Loss不降可能原因： 1. LR太小（&lt;1e-6）→ 增大到2e-4 2. 数据格式错误 → 检查template和数据格式 3. rank太小→
LLaMA-Factory社区资源2026年5月28日 · 6 阅读 · 赛博牛马教程库 · 官方资源 GitHub: https://github.com/hiyouga/LLaMA-Factory 文档: https://llamafactory.readthedocs.io 问题反馈: GitHub Issues 社区模型 HuggingFace: 大量微调模型可供参考 ModelScope: 国内模型托管学习资源 LLaMA-Factory
微调项目时间估算2026年5月28日 · 6 阅读 · 赛博牛马教程库 · 7B模型时间估算阶段 QLoRA(1卡24GB) LoRA(1卡80GB) 全量(4卡80GB) 数据准备 2-5天 2-5天 2-5天训练(5K数据) 2-3小时 1-2小时 1-2小时评估 0.5天 0.5天 0.5天 DPO(1K偏好) 1-2小时 0.5-1小时 0.5-1小时合并+部署 0.5天 0.5天 0.5天总计 4-7天 4-7天
微调踩坑大全（50个坑）2026年5月28日 · 6 阅读 · 赛博牛马教程库 · 数据相关（20个坑）数据全是简单问题→ 模型只会答简单题拒答数据太多(&gt;30%) → 模型过于保守多轮对话from字段写反→模型学用户说话数据没去重 → 浪费训练步数数据格式不匹配template → 输出乱码 instruction太短(&lt;5字) → 任务不明确 output太短(&lt;10字) → 无信息量
LLaMA-Factory最新功能2026年5月28日 · 6 阅读 · 赛博牛马教程库 · v0.8+新功能 KTO支持：只需好/坏标签的偏好学习 ORPO支持：SFT+对齐一步完成 SimPO支持：无需参考模型的偏好优化 LoRA+支持：A和B使用不同学习率 rsLoRA支持：秩稳定LoRA 多模态训练：LLaVA风格视觉语言模型 Galore优化器：新的参数高效优化方法 BAdam优化器：内存高效的块坐标优化如何升级升级后检查： - dat

第 1 / 21 页下一页