要解决的问题
难点不在于框架太少，而在于如何从众多框架中选出一套能长期维护的主力技术栈。
生态概览
| 环节 | 代表框架 |
|---|
| 预训练 | TorchTitan、Megatron-LM、DeepSpeed |
| 后训练 | TRL、LLaMA-Factory |
| 评测 | lm-evaluation-harness、OpenCompass |
| 推理 | vLLM、SGLang、TensorRT-LLM |
实践建议
采用「一主一备」的策略：每个环节选定一个主力框架深入使用，同时保留一个备选，以便主框架出现问题或跟不上新模型时切换。
相关专题