训练与微调

数据工程 清洗、标注、合成数据、去重与质量评估 实验管理 训练记录、超参搜索、复现与版本管理 蒸馏与小模型 大模型蒸馏、剪枝、1B 以下的场景化小模型 SFT 与 LoRA 全参微调、LoRA / QLoRA、超参与显存权衡 偏好对齐 RLHF、DPO、GRPO 与奖励模型