IA3 (Infused Adapter by Inhibiting and Amplifying Inner Activations) 是一种参数高效微调技术，通过在预训练语言模型的内部激活中引入可学习的缩放因子来实现轻量级的模型适配。作为 Hugging Face PEFT 库的一部分，IA3 具有参数高效性、直接作用于激活、易于集成和良好的性能表现等优点，适用于资源有限的场景下的模型微调。

PEFT (Parameter-Efficient Fine-Tuning) 是 Hugging Face 提供的一个库，旨在通过多种参数高效的微调技术，帮助开发者以低成本的方式将预训练好的大型语言模型适配到各种下游任务中，显著降低计算和存储需求。

LLaMA Factory 是一个强大且易于使用的平台，用于在本地训练和微调包括 Llama 系列在内的各种大型语言模型。它提供了丰富的特性，包括多种模型支持、灵活的微调技术、用户友好的界面以及模型评估和部署工具，旨在降低 LLM 微调的门槛，并提高效率。

Unsloth AI 是一个开源 Python 库，旨在通过优化的 GPU 内核和低内存技术，显著加速和优化大型语言模型（LLMs）的微调过程。它支持多种流行的 LLM 架构和微调方法，能够帮助开发者在资源有限的环境下高效地定制和优化 AI 模型。

Firefly 是一个开源的大型模型训练工具，支持包括 Qwen、Llama、Yi、Gemma 等多种主流模型。它提供了预训练、指令微调、DPO 以及全量参数训练、LoRA、QLoRA 等高效训练方法。Firefly 通过配置文件驱动，易于上手，并集成了 Unsloth 等加速技术，同时开源了高质量的训练数据集和模型权重，方便用户进行大模型的研究和应用开发。