xFormersは、Metaが開発するTransformerモデルのための構成要素（ビルディングブロック）を提供するライブラリです。ハッカブルで最適化された部品を組み合わせてカスタムTransformerを構築できます。
Transformerの構成要素ライブラリを知りたい相談
構成可能なビルディングブロックとしての設計