PEFT

Identity

• PEFTはHugging Faceが開発するパラメータ効率的ファインチューニング（LoRA・QLoRA等）のためのライブラリで、モデル全体ではなく少数の追加パラメータのみを学習させる。検証待ち GitHub — huggingface/peft

Capability

• PEFTはHugging Faceが開発するパラメータ効率的ファインチューニング（LoRA・QLoRA等）のためのライブラリで、モデル全体ではなく少数の追加パラメータのみを学習させる。検証待ち GitHub — huggingface/peft
• PEFTはPeftModelというラッパーで既存のtransformersモデルを包み、LoRAの低ランク分解によって学習可能パラメータを約90%削減しながら性能を維持できると公式ドキュメントで説明されている。検証待ち Parameter-efficient fine-tuning · Hugging Face
• PEFTはHugging Face Transformersエコシステムの標準ライブラリとして位置づけられ、Hugging Face公式のsmol-courseの教材でLoRAの実装方法として採用されている。検証待ち LoRA and PEFT: Efficient Fine-Tuning · Hugging Face
• ワシントン大学の論文「QLoRA: Efficient Finetuning of Quantized LLMs」（arXiv:2305.14314, Dettmers et al., 2023）は、4bit NormalFloat量子化とLoRAを組み合わせることで65Bパラメータのモデルを単一の48GB GPUで16bitフルファインチューニングと同等の性能を保ちつつ調整できること、Guanacoモデルが単一GPU上24時間の学習でChatGPT性能の99.3%に到達したことを報告している。検証待ち QLoRA: Efficient Finetuning of Quantized LLMs

Credibility

• PEFTはHugging Face Transformersエコシステムの標準ライブラリとして位置づけられ、Hugging Face公式のsmol-courseの教材でLoRAの実装方法として採用されている。検証待ち LoRA and PEFT: Efficient Fine-Tuning · Hugging Face
• Microsoft研究者らによる論文「LoRA: Low-Rank Adaptation of Large Language Models」（arXiv:2106.09685, Hu et al., 2021）は、事前学習済み重みを固定し各Transformer層に低ランク分解行列を挿入する手法により、GPT-3 175Bのフルファインチューニングと比べ学習可能パラメータを1万分の1、GPUメモリ要件を3分の1に削減しながら同等以上の品質を達成すると報告している。検証待ち LoRA: Low-Rank Adaptation of Large Language Models
• GitHub公式リポジトリによると、huggingface/peftは21.6千のスター・2.5千のフォークを獲得している。LoRAを中心にAdapters・Soft prompts・IA3等の複数手法をサポートし、Transformers・Diffusers・Accelerate・TRLといったHugging Faceエコシステムの主要ライブラリと統合されている。検証待ち huggingface/peft: GitHub Repository

Use Case

公開Evidence未整備

Constraints / Current Status

• PEFTはPeftModelというラッパーで既存のtransformersモデルを包み、LoRAの低ランク分解によって学習可能パラメータを約90%削減しながら性能を維持できると公式ドキュメントで説明されている。検証待ち Parameter-efficient fine-tuning · Hugging Face

Key References

• PEFTライブラリを選ぶ理由として、コミュニティでの支持やエコシステムとの統合状況はどうなっていますか？
• PEFTとは何ですか？誰が開発していますか？
• PEFTが実装するLoRAという手法は、どのような研究に基づいていますか？

Part of

• Hugging Face— PEFTはHugging Faceが開発・提供するファインチューニングライブラリである。

Integrates With

• Transformers— PEFTはHugging Face Transformersのモデルをラップして動作する設計になっている。
• Unsloth— UnslothはPEFTのLoRA手法をさらに高速化・省メモリ化する形で連携する。

Related

• bitsandbytes— PEFTのLoRAとbitsandbytesの4-bit量子化はQLoRAとして組み合わせて利用されることが多い。