src/train.py
:解析参数-构建模型-构建数据集-训练模型-保存模型
src/inference.py
:解析参数-加载模型-构建数据集-模型推理-保存结果
src/inference_multiturn.py
:解析参数-加载模型-构造数据-模型推理-保存结果
-
src/dataset.py
-
src/model.py
-
src/train.py
- 基于DeepSpeed并行训练(ZeRO-2/ZeRO-3)
-
src/inference.py
-
src/inference_multiturn.py
- LoRA微调
- QLoRA微调
- 基于vLLM加速推理