P-04課題解決

xFormersはStable Diffusionの高速化にどのように使われていますか?

AI画像編集企業Photoroomのブログ(2022年9月23日付)によると、xFormersはMeta(Facebook Research)が開発するメモリ効率的アテンションカーネルを実装したライブラリであり、Tri Dao氏らによるFlash Attentionの研究を活用し、中間的なメモリの読み書きを削減する仕組みを提供しています。同記事は、xFormersの導入によりStable Diffusionの推論速度がNVIDIA A10G GPUで最大100%(2倍)向上したと報告しており、diffusersライブラリのコードをわずか2箇所変更するだけで標準的なクロスアテンションをメモリ効率版に置き換えられる実装の容易さも紹介しています。全体のアテンション行列をメモリ上に生成しない仕組みにより、メモリ使用量の大幅な削減も同時に達成されるとされています。

実績・根拠

情報ソース

xFormersはStable Diffusionの高速化にどのように使われていますか? | xFormers | RefBase