大模型训练需分布式并行、模型压缩与推理优化。分布式训练通过数据并行、模型并行提升效率。模型压缩采用量化、剪枝、蒸馏减少参数。推理优化通过 batching、模型并行提升性能。MLOps管理实验、数据、模型全生命周期。