开源LLM微调框架Axolotl，Star数破1.1万

Axolotl是一款免费开源的大语言模型微调框架，目前在GitHub上Star数达到11867。这个工具主要解决大模型微调过程中的流程复杂问题，覆盖从数据处理到训练部署的全流程。

核心功能覆盖全微调流程

Axolotl支持的模型种类丰富，包括GPT-OSS、LLaMA、Mistral、Mixtral等主流开源大模型，同时支持多模态训练，可以微调视觉语言模型和音频模型，覆盖文、图、音三类数据的训练需求。

训练方式上，支持全量微调、LoRA、QLoRA、GPTQ、QAT等常规训练方法，也支持偏好 tuning（DPO、IPO、KTO、ORPO）、强化学习（GRPO、GDPO）以及奖励建模等进阶训练方式，能满足不同场景的训练需求。

配置方面，采用单个YAML文件统一管理整个微调流程的配置，包含数据集预处理、训练、评估、量化、推理等所有环节的参数，不用在多个文件之间切换修改。

性能优化上，集成了Flash Attention 2/3/4、Xformers、SageAttention等多种注意力优化方案，也支持Sequence Parallelism、多GPU/多节点训练等分布式训练能力，能有效降低显存占用，提升训练速度。

数据集支持从本地、HuggingFace以及各大云存储平台加载，不用额外做数据迁移。官方同时提供Docker镜像和PyPI包，既可以在本地硬件运行，也可以直接部署到云平台。

使用门槛低，配套完善

使用Axolotl的基础要求不高，需要NVIDIA Ampere架构或更新的GPU，或者AMD GPU，Python版本≥3.11，PyTorch版本≥2.9.1。官方还提供了Colab示例，不用本地硬件就能体验微调流程。

安装方式有两种，一种是通过uv包管理工具安装，另一种是直接使用官方Docker镜像，避免环境配置问题。安装完成后，只需要一行命令就能启动训练，官方提供了大量现成的配置示例，可以直接修改使用。

Axolotl还内置了针对AI编码代理优化的文档，Claude Code、Cursor、Copilot等工具可以直接读取这些文档，辅助用户编写训练配置。用户也可以通过命令行查看不同训练场景的专属文档，不用手动翻找在线文档。

适用场景

如果你是大模型相关的开发者，需要经常做模型微调工作，Axolotl可以帮你简化流程，不用重复造轮子。如果你是AI项目的研究者，需要尝试不同的训练方法，Axolotl已经集成了大部分主流方案，直接调用即可。如果你的团队需要搭建内部的大模型微调平台，Axolotl的开源协议允许自由修改和部署，可以降低开发成本。

目前项目更新频率较高，2026年已经新增了Mistral Medium 3.5、Gemma 4等新模型的支持，也加入了uv-first、SonicMoE fused LoRA等新特性。项目社区活跃，遇到问题可以在Discord社区寻求帮助，官方也提供了详细的文档和调试指南。

Axolotl是一个解决实际问题的微调工具，覆盖了大模型微调的全流程需求，适合有大模型训练需求的开发者和团队使用。

覆盖了大模型微调的全流程需求，适合有大模型训练需求的开发者和团队使用。