PEFT(Parameter-Efficient Fine-Tuning)はHugging Faceが開発するパラメータ効率的ファインチューニング(LoRA・QLoRA等)のためのライブラリです。モデル全体ではなく少数の追加パラメータのみを学習させます。
効率的なファインチューニング手法を知りたい相談
少数パラメータのみを学習させる設計