人味 LoRA 微调 · AutoDL 操作步骤
=================================

数据：753 条 Claude 风格对话（716 训练 / 37 验证），sharegpt 格式
底模：Qwen/Qwen3.5-9B（魔搭下载，约 18GB）
方法：QLoRA 4-bit + LoRA r32，3 epoch，2048 上下文
产物：LoRA adapter（几百 MB），训练完打包下载到本地

---------------- 步骤 ----------------

1) 开机。想省钱就先「无卡模式」开机做第 2 步（下载模型不占 GPU 钱），
   搞完关机、切正常 GPU 模式再跑第 3 步。

2) 在 JupyterLab 里开一个终端，执行：

   cd /root/autodl-tmp && wget -q http://8.148.217.89:18642/apks/x7k2m9/hv-setup.sh && bash hv-setup.sh

   它会做四件事：解压数据 / 魔搭拉底模 / 把数据集注册进 LLaMA-Factory / 生成 train.yaml
   跑完会打印 train.yaml 内容，检查 model_name_or_path 和 dataset_dir 两行路径对不对。

3) GPU 模式下开训：

   bash /root/autodl-tmp/hv/hv-run.sh

   跑完自动把结果打包成 /root/autodl-tmp/output/qwen35-9b-claude-tone-lora.zip

4) 下载 adapter：JupyterLab 左侧文件树 → autodl-tmp/output → 右键 Download。
   然后「释放实例」（不是关机，关机数据盘还在计费）。

---------------- 注意 ----------------

- 底模一定放 /root/autodl-tmp（数据盘），系统盘只有 30GB 塞不下。
- 报 template 相关错误（找不到 qwen3 模板）：升级镜像里的框架
  pip install -U "llamafactory[torch,metrics]" -i https://pypi.tuna.tsinghua.edu.cn/simple
- 想对比「带规则 vs 不带规则」：把 train.yaml 里 dataset 改成 claude_tone_nosys 再跑一遍。
- 显存：QLoRA 4-bit 9B 大约占 10-12GB，4090 24G 很宽松；
  想跑 bf16 LoRA 就把 quantization_bit 那行注释掉（约 22GB，也塞得下）。