PEFTはPeftModelというラッパーでtransformersモデルを包み、LoRA等の手法で少数のパラメータのみを学習させます。GitHubのhuggingface/peftリポジトリと公式ドキュメントで実装方法を確認できます。
限られた計算資源でのファインチューニング相談
少ない計算資源での学習を可能にする設計