PEFTはHugging Faceが提供する汎用的なパラメータ効率的ファインチューニングライブラリで、LoRA等の手法を実装します。Unslothはそうした手法をさらに高速化・省メモリ化するために独自最適化を加えたライブラリで、内部的にPEFTやbitsandbytes等と連携しながら最大2倍の速度・70%少ないVRAMを掲げています。汎用性と高速化への特化度が異なります。
ファインチューニングライブラリ同士の比較検討
汎用ライブラリと高速化特化ライブラリの違い